OpenAI подтвердила, что она, Anthropic и Google DeepMind уже несколько недель ведут переговоры о координации безопасности ИИ, и заявляет, что поддерживает закон, который заставит пограничные лаборатории открыть свои двери для независимых организаций по проверке.

По данным TechCrunch, Крис Лихейн, директор по глобальным связям OpenAI, сделал это заявление на встрече во вторник. Reuters и Bloomberg, ссылаясь на те же замечания, сообщили, что OpenAI работает с Anthropic и Google над безопасностью ИИ. Это подтверждение превращает недели намеков — в том числе интервью Fortune, в котором Сэм Альтман признался в частных беседах с другими лидерами в области искусственного интеллекта — в явное признание того, что три ведущие в мире передовые лаборатории координируют свои действия в отношении того, насколько быстро они движутся и как проверяются их модели.

Для читателей, следящих за более широкой политической перепалкой вокруг замедления темпов развития искусственного интеллекта, освещение [обновлений искусственного интеллекта] (https://aibuzzwire.news) на этой неделе варьировалось от одобрения соучредителем Anthropic Джека Кларка обязательного отключения до президента Трампа, назвавшего опасения по поводу безопасности обманом во время разговора на сцене с Дженсеном Хуангом из Nvidia.

Недели подтверждения

Переговоры следуют за эссе, опубликованным в субботу генеральным директором Anthropic Дарио Амодеи, призывающим отрасль работать вместе, чтобы замедлить темпы передового развития искусственного интеллекта, чтобы избежать катастрофических рисков. Письмо получило поддержку во всей отрасли: Альтман, Демис Хассабис из Google и Илон Маск поддержали призыв к действию, а Альтман заявил, что OpenAI присоединится к этим усилиям.

Впоследствии издание The Information сообщило, что три компании работают над созданием органа по стандартизации для индустрии искусственного интеллекта. Хассабис имеет послужной список в этой идее: в июле он призвал Соединенные Штаты создать новый орган по стандартизации, который будет действовать в качестве наблюдателя за искусственным интеллектом, с полномочиями проверять самые передовые в мире модели и координировать замедление темпов роста в масштабах всей отрасли в случае прогрессирования опасности.

Замечания Лихана являются официальным подтверждением. До сих пор представители лабораторий в основном выступали за неформальный диалог; Руководитель по глобальным вопросам OpenAI теперь официально зафиксировал координацию.

Антимонопольная тень

Любое соглашение между прямыми конкурентами о замедлении разработки вызывает очевидные антимонопольные вопросы, и лаборатории это знают. Сам Альтман отметил, что такие переговоры могут поставить компании под угрозу нарушения антимонопольного законодательства, если будет найдена координация, направленная на подавление конкуренции. В эссе Амодеи предлагается узкий правительственный отказ, который позволит координировать вопросы безопасности, не вызывая при этом закона о конкуренции – признак того, насколько серьезно этот вопрос воспринимается внутри компаний.

Критики сразу же указали на напряженность, лежащую в основе соглашения: три фирмы, контролирующие крупнейшие доли рынка в области передового искусственного интеллекта, совместно решили нормировать прогресс, что для скептиков выглядит как поведение картеля с защитной оберткой. Сторонники возражают, что катастрофический риск — это именно та проблема, которую конкуренты не могут решить в одностороннем порядке, поскольку любая лаборатория, которая замедляется в одиночку, просто уступает границы конкурентам.

OpenAI использует сторонние проверки

Наиболее конкретные политические новости в высказываниях Лехана касаются законодательства. Он сказал, что OpenAI поддерживает положение Закона FRONTIER, которое требует от ведущих пограничных лабораторий допускать в свои компании «независимые проверочные организации» для обеспечения безопасной разработки моделей. Politico сообщил, что OpenAI поддерживает двухпартийный план Палаты представителей, основанный на сторонних оценках безопасности.

Такая позиция была бы немыслима для отрасли два года назад, когда добровольные обязательства и внутренние красные команды были отраслевым стандартом. Теперь он приводит OpenAI в соответствие с позицией «аудит прежде всего», которую Anthropic уже давно продвигает, и создает редкую точку согласия между лабораториями и крылом политических дебатов, которое весь год требовало обязательного надзора.

Это также создает конфликт с Белым домом. Президент Трамп назвал проблемы безопасности обманом и заявил, что любое замедление даст Китаю преимущество в гонке ИИ. Его советник по искусственному интеллекту Дэвид Сакс, давний инвестор с личными долями в отрасли, назвал опасения по поводу экзистенциального риска преувеличенными. В Великобритании министры по-прежнему публично разделились по одному и тому же вопросу: одна фракция призывает правительство прислушаться к предупреждениям экспертов, в то время как министр бизнеса Рейнольдс отверг разговоры об аварийном выключателе для передовых систем.

Политическая борьба без нейтральной почвы

В ближайшие недели предстоит проверить, выдержит ли координация работы лабораторий контакты с антимонопольными органами и скептически настроенной администрацией. Орган по стандартизации, созданный тремя компаниями, контролирующими границу, столкнется с требованиями включить в него независимых директоров, опубликовать свои критерии и представить на рассмотрение правительства — или его уволят как частный картель в общественной одежде.

Что касается закона FRONTIER, одобрение OpenAI дает спонсорам законопроекта не только главную поддержку, но и новую линию атаки для оппонентов, которые утверждают, что крупнейшие лаборатории просто контролируют эту область, создавая правила, которым только они могут себе позволить следовать. Небольшие лаборатории и сообщество открытых весов, которое не участвует в переговорах, внимательно наблюдают: какой бы режим проверки ни появился, он определит затраты на соблюдение требований для всех, кто находится за границей.

Что уже не подлежит сомнению, так это сам факт координации. Три компании, определяющие передовые технологии искусственного интеллекта, теперь открыто обсуждают, насколько быстро нужно работать, и приглашают правительство помочь в суждении.

---

Будьте впереди ИИ

Получайте последние новости, анализ и открытия в области искусственного интеллекта — все в одном месте.

Подробнее новости AI →