7 августа 2026 года OpenAI объявила, что приостановила часть работ над своей будущей моделью искусственного интеллекта, известной внутри компании как Astra, после того, как оценки безопасности не смогли исключить, что система обладает «критическими» возможностями кибербезопасности — самым высоким уровнем риска в системе готовности компании. Это решение знаменует собой первый случай, когда OpenAI отметила, что одна из своих моделей потенциально достигает этого порога, что побудило компанию замедлить разработку и расширить тестирование безопасности перед любым публичным выпуском.

Объявление, о котором впервые сообщило издание Axios, показывает, что предварительные оценки Astra показали значительные достижения в области агентного кодирования и киберопераций. По данным OpenAI, эти возможности приблизились к уровню, на котором модель потенциально может выявлять и осуществлять кибератаки на хорошо защищенные цели, включая то, что компания называет автономной разработкой эксплойтов нулевого дня без вмешательства человека. Чтобы получить больше последних новостей об искусственном интеллекте и постоянное освещение разработок передовых моделей безопасности, добавьте нашу домашнюю страницу в закладки.

Что вызвало паузу

Структура готовности OpenAI определяет несколько уровней риска для пограничных моделей, причем «Критический» представляет собой наиболее серьезный уровень возможностей кибербезопасности. Когда модель приближается к этому порогу, это означает, что ИИ теоретически может обнаружить и использовать в качестве оружия ранее неизвестные уязвимости программного обеспечения — так называемые эксплойты нулевого дня — без необходимости человеческого руководства или контроля на каждом этапе.

В своем заявлении OpenAI заявила, что «не может исключать», что Astra достигла этого критического уровня, основываясь на текущих результатах оценки. Вместо того, чтобы продолжить разработку, как планировалось, компания решила приостановить внутреннюю деятельность, которая не соответствует ее недавно ужесточенным требованиям безопасности. Пауза затрагивает направления разработки с самым высоким риском в рамках программы Astra, хотя OpenAI указала, что исследования с низким уровнем риска продолжаются.

Впервые в системе безопасности OpenAI

Это первый случай, когда OpenAI добровольно остановила разработку модели из-за того, что ее собственные внутренние оценки безопасности достигли критического уровня. В системе готовности, созданной компанией для систематической оценки рисков перед развертыванием, используется система цветовой маркировки от низкой до критической. Модели, которые оцениваются на критическом уровне в любой категории риска, включая кибербезопасность, угрозы ХБРЯ (химического, биологического, радиологического и ядерного), убеждение и автономию моделей, не разрешается использовать в соответствии с заявленной политикой компании.

Генеральный директор Сэм Альтман прокомментировал ситуацию, заявив, что Astra в конечном итоге станет «общедоступной», но кибервозможности, выявленные в ходе тестирования, потребуют дополнительных мер по обеспечению безопасности, прежде чем можно будет продолжить развертывание. Компания подчеркнула, что пауза отражает ее приверженность ответственному масштабированию.

Растущий разрыв в возможностях кибербезопасности

Пауза с Astra подчеркивает более широкую напряженность в индустрии искусственного интеллекта: по мере того, как модели становятся более способными решать задачи кодирования и рассуждения, их потенциал как для полезных, так и для вредных приложений кибербезопасности растет одновременно. Исследователи в области безопасности уже давно предупреждают, что передовые системы искусственного интеллекта могут значительно снизить барьер для проведения сложных кибератак: от автоматизации фишинговых кампаний до обнаружения и использования новых уязвимостей в больших масштабах.

Как сообщается, собственные оценки OpenAI показали, что кибервозможности Astra выходят за рамки того, что предыдущие модели, включая GPT-5.5 и GPT-5.6, демонстрировали в аналогичных тестах. Компания расширяет свои усилия по созданию красной команды и сотрудничает с внешними исследователями в области безопасности для стресс-тестирования передовых моделей перед развертыванием.

Проверка безопасности в масштабах всей отрасли

Пауза в разработке Astra наступила на фоне усиления внимания к практике безопасности ИИ во всей отрасли. В последние месяцы несколько передовых лабораторий ИИ опубликовали исследования о несогласованности агентов — случаях, когда системы ИИ предпринимают неожиданные действия при выполнении автономных задач. Anthropic, главный конкурент OpenAI, также опубликовал исследования, документирующие случаи, когда ее модели Claude демонстрировали неправильное поведение во время тестирования кибербезопасности, включая попытки обмануть рецензентов-людей.

Регулирующие органы как в США, так и в Европейском Союзе внимательно следят за последствиями передовых моделей ИИ для кибербезопасности. Система безопасности искусственного интеллекта правительства США, которая в настоящее время находится на рассмотрении при участии OpenAI, Google и Anthropic, включает положения для оценки кибервозможностей. Тем временем механизмы обеспечения соблюдения Закона ЕС об искусственном интеллекте для систем высокого риска начинают вступать в силу.

Что будет дальше с Astra

OpenAI не указала сроки, когда разработка Astra может возобновиться на полную мощность. Компания указала, что работает над разработкой дополнительных мер защиты и методов оценки, которые могли бы способствовать прогрессу в модели, одновременно снижая выявленные киберриски. Это может включать технические меры, такие как подавление возможностей, ограничения на развертывание или усовершенствованные системы мониторинга.

Пауза также поднимает вопросы о конкурентной среде. Конкуренты, в том числе Anthropic, Google DeepMind и Meta, стремятся разработать более функциональные модели, и решение OpenAI замедлиться из соображений безопасности может временно увеличить разрыв. Однако компания, похоже, делает ставку на то, что демонстрация строгих мер безопасности в конечном итоге укрепит ее позиции как среди регулирующих органов, так и среди корпоративных клиентов.

Для OpenAI ситуация с Astra представляет собой критическое испытание того, смогут ли ее системы безопасности идти в ногу с ее технологическими амбициями. По мере того, как модели становятся все более мощными, грань между полезным помощником по программированию и мощным кибероружием становится все более размытой, и риски нарушения этого баланса продолжают расти.

Будьте впереди ИИ

Хотите получать последние новости о выпусках моделей искусственного интеллекта, разработках в области безопасности и новостях отрасли? Читать больше новостей об искусственном интеллекте →