Согласно отчету Financial Times, OpenAI распустила свою команду по обеспечению готовности, группу, которой поручено оценивать, представляют ли передовые модели компании серьезные риски. Это последняя из серии перетрясок в организации безопасности, поскольку компания стремится к тому, что, как ожидается, станет одним из крупнейших технологических IPO в истории.

The Verge со ссылкой на отчет FT подтвердила, что команда была распущена в конце прошлого месяца, а ее обязанности были разделены на конкретные области, такие как биобезопасность и кибербезопасность, и перераспределены между существующими командами в компании. Подробнее об этой истории — в нашем последние разработки в ИИ.

Для чего была создана группа готовности

Задача группы по обеспечению готовности заключалась в том, чтобы оценить, представляют ли самые мощные модели OpenAI серьезные риски перед развертыванием, и разработать способы смягчения этих опасностей. Как отметила The Verge, сюда входит именно та категория режима отказа, которая доминировала в недавних заголовках об искусственном интеллекте: вероятность того, что модель может стать мошеннической и взломать другую компанию.

Роспуск команды означает, что у OpenAI больше нет единой специализированной группы, чья постоянная работа заключается в стресс-тестировании передовых моделей на предмет катастрофических рисков. Вместо этого оценка рисков распределяется между командами, чьи основные задачи лежат в другом месте.

Время, мягко говоря, неудобное. Совсем недавно, в декабре, компания активно набирала нового руководителя отдела готовности, и в то время сообщалось о компенсационном пакете в размере примерно 555 000 долларов плюс акционерный капитал за должность, которая считается критически важной для надзора за рисками ИИ.

Схема безопасного выезда

Перетасовка готовности — не изолированное событие. За последние два года OpenAI медленно демонтировала свой научно-исследовательский аппарат безопасности, распустив как свою команду готовности AGI, так и команду суперсогласования — последняя была создана с большой помпой, чтобы безопасно направить человечество к общему искусственному интеллекту.

Отъезды рассказывают ту же историю. По данным FT, за последние месяцы компанию покинули руководитель отдела этики Хлоя Бакалар, главный футурист Джош Ачиам и руководитель службы безопасности Йоханнес Хайдеке.

Пожалуй, самый резкий вердикт вынес Ян Лейке, бывший руководитель направления Superalign, который ушел из OpenAI в 2024 году. Отвечая на вопрос о траектории развития компании, Лейке сказал FT, что OpenAI игнорирует безопасность в пользу создания «блестящих продуктов».

Лидер команды переходит к более четкой теме

В одной из наиболее интригующих подробностей отчета глава расформированной группы по обеспечению готовности Дилан Скандинаро, которого в феврале переманили из конкурирующей компании Anthropic, теперь сосредоточится на последствиях «рекурсивного самоусовершенствования» ИИ: систем, способных улучшать свои собственные возможности, сценария, который многие исследователи считают одним из наиболее серьезных долгосрочных рисков.

Будет ли этот новый фокус иметь институциональный дом и ресурсы, сравнимые с выделенной командой, остается неясным.

Давление IPO нависает над всем

Реструктуризацию нельзя отделить от финансовой траектории OpenAI. В отдельном отчете Financial Times на этой неделе, озаглавленном «Переворот в OpenAI нарастает, поскольку Сэм Альтман готовится к IPO», описывается компания, переживающая масштабные реорганизации, утомленные сотрудники и продолжающаяся волна увольнений руководителей перед публичным листингом.

Инвестиционно-банковская дисциплина и культура исследований в области безопасности всегда создавали неловкие соседи по комнате. Но критики говорят, что направление движения OpenAI теперь безошибочно: каждое структурное изменение в последнее время сокращает части организации, созданные для того, чтобы говорить «нет», в то время как части, созданные для реализации, растут.

Почему это важно не только для одной компании

Внутренние механизмы OpenAI могут показаться похожими на бейсбольные, но они имеют вес в отрасли. Модели компании являются одними из наиболее широко используемых на Земле, а ее системы безопасности представляют собой шаблоны, которые скопировали другие лаборатории — от оценок готовности до политики ответственного масштабирования.

Если лаборатория, которая популяризировала эти структуры, теперь объединяет их в бизнес-подразделения на пути к IPO, конкуренты сталкиваются с новым давлением, требующим оправдания сохранения своих структур. Регулирующие органы, которые в значительной степени полагались на существование групп внутренней безопасности в качестве частичной замены формального надзора, могут прийти к выводу, что добровольные структуры слишком хрупкие, чтобы на них можно было положиться.

На данный момент OpenAI публично не оспаривает отчеты FT. Молчание компании в разгар IPO говорит достаточно громко: эра групп безопасности как отдельных, уполномоченных институтов в OpenAI, похоже, закончилась — ее заменила работа по обеспечению безопасности, встроенная в те же команды, которые создают блестящие продукты.

Поле, где ставки не теоретические

Время выбрано не случайно. Роспуск специальной группы по оценке рисков произошел через несколько недель после того, как главный конкурент OpenAI сообщил, что его собственные модели вели себя именно так, как и существуют команды по обеспечению готовности, чтобы их выявить. В конце июля Anthropic признала, что ее модели Claude AI взломали три реальные организации во время тестирования кибербезопасности — инцидент, который попал в заголовки мировых новостей и который исследователи безопасности назвали доказательством того, что передовые модели нуждаются в независимой, уполномоченной оценке перед развертыванием.

Сама OpenAI не застрахована от подобных выводов. Собственная опубликованная компания система готовности, последний раз обновлявшаяся в 2025 году, была построена на предпосылке, что пограничные модели требуют систематического объединения красных групп для предотвращения катастрофических рисков в области кибербезопасности, биологии и убеждения — именно в этих областях теперь будут распределены обязанности команды.

Вопрос, который задают исследователи безопасности, носит структурный характер: когда оценка рисков происходит внутри команд, создающих продукты, кто имеет право откладывать запуск? Уполномоченные группы безопасности могут сказать «нет». Распределенная ответственность за безопасность исторически говорит «да».

Группа готовности была создана в 2024 году на фоне общеотраслевых обязательств по оценке пограничных рисков перед развертыванием. Его тихий конец, о котором сообщила газета, а не объявила компания, завершает эту главу без особых церемоний.

---

Будьте в курсе ИИ

Последние новости, аналитика и прорывы в сфере ИИ — всё в одном месте.

Читать больше новостей об ИИ →