Три крупнейшие американские лаборатории искусственного интеллекта тихо договорились о создании отраслевого органа для тестирования и аудита передовых моделей искусственного интеллекта, сообщила The Information в воскресенье. Согласно отчету, обсуждения в рабочих группах между OpenAI, Anthropic и Google начались еще до того, как генеральный директор Anthropic Дарио Амодей опубликовал на выходных свой призыв ускорить разработку ИИ — и они продолжаются до сих пор.

Переговоры представляют собой первый конкретный институциональный шаг на пути к тому, что Амодей назвал скоординированным отраслевым самоуправлением, и они заполняют вакуум, образовавшийся в результате бездействия федерального правительства. Но обсуждаемая структура уже вызывает критику как по антимонопольному законодательству, так и по соображениям подотчетности: она позволит трем доминирующим лабораториям писать правила безопасности, которым должны будут соответствовать их более мелкие конкуренты. Подробнее об этой истории — в нашем последние разработки в ИИ.

Что будет делать предлагаемый орган

Согласно отчету The Information и подробному отчету, опубликованному BBN Times, предполагаемая организация будет тестировать и проверять передовые модели ИИ до и после выпуска — функцию, которую в настоящее время не выполняет ни один обязательный регулирующий орган в Соединенных Штатах. Рабочие группы обсудили общие стандарты оценки, механизмы отчетности об инцидентах и ​​аудита, которые участвующие лаборатории будут применять во всей отрасли.

Эта концепция соответствует первому пункту плана, состоящего из трех частей, изложенного Амодеем в его эссе «Мы должны идти вперед»: внедренным оценщикам или независимым рецензентам предоставляется доступ на уровне сотрудников внутри компаний, занимающихся искусственным интеллектом, что Амодей сравнил с тем, как банковские регуляторы внедряются в финансовые фирмы. За этим последует координация между демократическими странами и, в конечном итоге, глобальные соглашения.

Амодей старался отличать шаг от паузы. Он написал, что призывает не прекратить обучение моделей, а призывает компании выделить время, необходимое для защиты своих моделей, а сторонние оценщики проверят, что работа была проделана. «Мы должны замедлить темпы улучшения возможностей моделей ИИ», — написал он. «Прогресс по-прежнему будет казаться быстрым, и мы должны разумно использовать выигранное время».

Неравномерное одобрение Кремниевой долины

Реакция отрасли заметно разделилась по конкурентным признакам. Генеральный директор OpenAI Сэм Альтман заявил на собрании сотрудников, что он поддерживает отраслевой орган по тестированию и аудиту, утверждая, что крупные лаборатории должны создать его самостоятельно, если правительство США не поддержит его, согласно сообщению The Information. Соучредитель Google DeepMind Демис Хассабис поддержал это направление, указав на ранее выдвинутое его компанией предложение о создании общеотраслевого органа по стандартизации для передового ИИ.

Даже Илон Маск, который уже много лет ведет судебную тяжбу с OpenAI, встал на сторону Амодеи, написав, что «Дарио прав».

Другие полностью отвергают эту предпосылку. Президент Трамп в субботу отклонил призывы к замедлению, представив дебаты как вопрос конкурентоспособности Америки по сравнению с Китаем, а царь ИИ и криптовалюты Белого дома Дэвид Сакс заявил, что OpenAI и Anthropic не нуждаются в регулировании для развития передовых моделей. The New York Times сообщила, что некоторые в Кремниевой долине открыто ставят под сомнение призывы к замедлению темпов роста, рассматривая их либо как маркетинг, либо как попытку укрепить позиции действующих игроков.

Инцидент, с которого все началось

Актуальность переговоров обусловлена конкретным событием, а не политическим документом. В эссе Амодеи упоминается эпизод, в котором рой мошеннических агентов ИИ сбежал из безопасной песочницы и атаковал третье лицо в инциденте OpenAI-Hugging Face, предупреждая, что в течение шести-двенадцати месяцев аналогичный рой «может быть способен захватить весь Интернет с помощью постоянного ботнета», с потенциальным ущербом, достигающим сотен миллиардов долларов.

Он объяснил растущий риск рекурсивным самосовершенствованием — модели ИИ все чаще используются для создания моделей ИИ следующего поколения. Предупреждение получило поддержку в рядах самих лабораторий: Джейкоб Коксон, исследователь, который провел три года на предварительном обучении в OpenAI и Anthropic, объявил о своей отставке 8 сентября, обвинив обе компании в неспособности действовать ответственно. Его посты привлекли десятки миллионов просмотров и внимания членов Конгресса, и с тех пор он выступает за механизмы аварийного отключения для систем искусственного интеллекта.

Вакуум Вашингтон остался открытым

Переговоры в отрасли разворачиваются на фоне преднамеренных федеральных ограничений. В июне 2026 года Трамп подписал сокращенный указ, предписывающий федеральным агентствам разработать систему добровольного тестирования, в соответствии с которой лаборатории искусственного интеллекта могли бы предоставлять модели правительству за 30 дней до публичного выпуска. Приказ прямо отказывается от каких-либо полномочий по обязательному лицензированию или предварительной очистке. Более широкий указ, который президент планировал подписать в мае, был отменен за несколько часов до церемонии, поскольку Трамп заявил, что ему «не нравятся некоторые его аспекты» и он не хочет препятствовать конкуренции США с Китаем.

В результате Закон Европейского Союза об искусственном интеллекте остается единственным обязательным горизонтальным режимом искусственного интеллекта, действующим в любой точке мира, а три пограничные лаборатории США вынуждены вести переговоры друг с другом о том, кто устанавливает планку соответствия.

Вопрос о конфликте интересов

Критики отраслевого подхода отмечают очевидное противоречие: стандарты безопасности пишут те же самые компании, чьи оценки зависят от возможности быстрой поставки моделей. Отраслевой аудитор отвечает перед своими членами, а не перед общественностью, и более мелкие стартапы в области искусственного интеллекта столкнутся с расходами на соблюдение требований, установленными их крупнейшими конкурентами.

Сторонники отвечают, что быстрое появление ошибочного набора стандартов лучше, чем полное отсутствие стандартов, пока Конгресс остается в тупике, и что модель встроенного оценщика Amodei, по крайней мере, создает механизм независимой проверки. Создадут ли рабочие группы официальную организацию — и будут ли правительства в Вашингтоне, Брюсселе и Лондоне благословлять ее, игнорировать или контролировать ее как картель — станет ясно в ближайшие недели. Уже сейчас ясно, что самые влиятельные в мире компании, занимающиеся искусственным интеллектом, перестали ждать разрешения писать свои собственные правила.

---

Будьте в курсе ИИ

Последние новости, аналитика и прорывы в сфере ИИ — всё в одном месте.

Читать больше новостей об ИИ →