В пересмотренной документации S-1/A IPO компания Anthropic предупредила, что она может «немедленно» соответствовать определению «резко ускоренного прогресса, связанного с ИИ» в ее собственной Политике ответственного масштабирования — порога, широко называемого рекурсивным самосовершенствованием, или RSI, точки, в которой системы ИИ становятся достаточно хорошими в улучшении ИИ, и прирост возможностей начинает увеличиваться сам по себе. TechCrunch сообщил об этом в понедельник, подчеркнув формулировку, скрытую в факторах риска, которая представляет собой одно из наиболее важных заявлений, которые любая лаборатория искусственного интеллекта сделала о своей собственной траектории.
По словам самого Anthropic, в заявке говорится: «Наши внутренние оценки и наши ожидания в отношении будущих моделей, а не наших текущих моделей, указывают на то, что мы можем неизбежно соответствовать определению нашей Политики ответственного масштабирования как «резко ускоренный прогресс, связанный с искусственным интеллектом». Мы не обозначили ни одну из наших текущих моделей как превышающую этот порог, и продолжаем оценивать основные данные». Подробнее об этой истории — в нашем новости об ИИ.
Что на самом деле говорится в документации
Это предупреждение является частью более широкого фактора риска, связанного с растущим использованием Anthropic систем искусственного интеллекта для ускорения собственных исследований и разработок. Компания сообщает, что эта динамика уже привела к скачку возможностей, который она не смогла распознать в реальном времени. «В результате мы в прошлом не выявили и, возможно, не увидим в будущем значительного ускорения темпов нашего развития до тех пор, пока оно не произошло», — говорится в заявке.
Антропный подход рассматривает лежащую в основе динамику как двигатель и опасность. «Использование ИИ для создания более мощного ИИ также может представлять значительный риск для безопасности, особенно если оно резко ускоряет темпы прогресса», — говорится в документе. «Это одна из областей, охватываемых нашей Политикой ответственного масштабирования, в которой изложены наши планы по мониторингу и снижению рисков по мере того, как мы приближаемся к тому, что называется «рекурсивным самосовершенствованием».
Ставки необычны для документа IPO. RSI — это концепция, которая разделяет оптимистические и пессимистические взгляды на ИИ более резко, чем любая другая. Для исследователей безопасности ИИ рекурсивное самосовершенствование — это безудержный сценарий: система, которая становится лучше в создании более совершенных систем, ускоряется за пределы того уровня, когда человеческий надзор остается значимым. Для сторонников ИИ это обещание: инструмент, который проложит путь к научным открытиям и приросту производительности, с которым не сможет сравниться ни один процесс, управляемый человеком. В документах Anthropic признаются оба варианта, но в то же время они фактически сообщают инвесторам, что компания считает, что это явление достаточно близко, чтобы оправдать свою собственную позицию в отношении факторов риска.
Антропные гарантии являются многообещающими
Помимо предупреждения, Anthropic обязалась держать людей в курсе разработки передовых моделей в обозримом будущем. «Мы не ожидаем, что сможем безопасно использовать Claude для полностью автономного проектирования и создания последующих поколений передовых моделей без значимого человеческого контроля или понимания, если и когда это станет технически возможным», — говорится в заявке. Компания добавила, что «рассматривает возможность обновления нашей Политики ответственного масштабирования, чтобы люди могли контролировать разработку передовых моделей в Anthropic».
Компания была осторожна с настоящим временем: ни одна текущая антропная модель не была обозначена как превышающая порог RSI. Но фраза «может скоро встретиться» — применённая к будущим моделям, а не к поставляемым — является поразительным признанием того, как лаборатория считывает свои собственные внутренние оценки и тренинги, которые в настоящее время проводятся.
Раскрытие информации или маркетинг?
Скептики сразу заметили, что S-1 служит сразу двум аудиториям: это юридическое раскрытие информации и презентация. Утверждения о том, что компания находится на пороге разработки достаточно мощной технологии, чтобы построить себя, могут восприниматься либо как предупреждение, либо как оценочный аргумент, либо и то, и другое. Не существует внешнего способа проверить, оправдывают ли внутренние оценки Anthropic слово «немедленно», и компания не назвала ни одну текущую модель пересекающей черту, что оставляет утверждение основанным на собственных измерениях лаборатории в ее исследовательском портфеле.
Тем не менее, основная тенденция, описанная в документе, заметна снаружи. Возможности Клода в программировании, математике и кибербезопасности резко расширились к 2026 году, и Anthropic все более открыто заявляла об использовании собственных моделей для проведения исследований, проведения экспериментов по согласованию и помощи в разработках. Новым в документации является то, что компания официально зафиксировала в юридически обязательном документе о раскрытии информации, что эта петля обратной связи вскоре может быть зарегистрирована в ее собственной официальной шкале как опасное ускорение.
Почему это важно помимо антропности
Раскрытие информации произошло в тот момент, когда вопрос о темпах развития искусственного интеллекта перешел из конференций в политические программы. Если ведущая лаборатория, ориентированная на безопасность, заявляет в отчете SEC, что она может неизбежно пересечь свой собственный порог ускорения на основе ИИ — одновременно признавая, что она упускала такие ускорения до тех пор, пока они не произошли, — у регулирующих органов, инвесторов и конкурирующих лабораторий теперь есть документ, на который можно указать обе стороны дебатов.
Для Anthropic, которая готовит одно из наиболее тщательно отслеживаемых IPO в секторе, подача заявки представляет собой деликатный балансирующий акт: достаточное предупреждение, чтобы доказать, что компания серьезно относится к своим обязательствам по безопасности, и достаточная уверенность в своих средствах контроля, чтобы продолжать продавать в плюс. Обновления политики ответственного масштабирования компании, если они будут реализованы, покажут, на какой стороне этого баланса находятся реальные практики лаборатории.
Следите за нашими постоянными исследованиями в области ИИ и отчетами о безопасности ИИ, чтобы узнать о разработках в области рекурсивного самосовершенствования и управления передовыми моделями.
---
Будьте в курсе ИИПоследние новости, аналитика и прорывы в сфере ИИ — всё в одном месте.
Читать больше новостей об ИИ →
