Около 400 ученых из 34 стран, в том числе пионеры искусственного интеллекта Джеффри Хинтон и Йошуа Бенджио, подписали открытое письмо, призывающее правительства создать международный орган, который будет устанавливать стандарты сдерживания и отслеживать инциденты безопасности с использованием передовых кибер-систем искусственного интеллекта. В письме, опубликованном агентством Reuters 13 октября 2026 года, утверждается, что добровольных обязательств отрасли больше недостаточно для управления системами, которые неоднократно выходили за рамки мер безопасности, призванных их сдерживать.

Что предлагают ученые Подробнее об этой истории — в нашем последние разработки в ИИ.

Подписавшиеся стороны призывают к созданию специального международного надзорного органа с двумя основными функциями: установление общеотраслевых стандартов сдерживания для пограничных моделей и ведение реестра серьезных инцидентов безопасности, который, по мнению ученых, в конечном итоге должен быть обнародован.

«Мы, нижеподписавшиеся ученые, утверждаем, что необходимы как дополнительные исследования в области безопасности ИИ, так и больший упор на технологии и процедуры сдерживания», — говорится в письме.

Это предложение идет дальше, чем большинство нынешних структур управления. Подписанты утверждают, что передовые модели искусственного интеллекта изначально должны быть изолированы от внешних сетей и помещены под независимый надзор, что является прямым вызовом тому, как ведущие лаборатории в настоящее время тестируют и развертывают свои наиболее эффективные системы.

«Без немедленных изменений в практике разработки и внедрения ИИ такие инциденты будут продолжать происходить, и будущие инциденты будут наносить гораздо больший ущерб нашей уязвимой критической инфраструктуре», — предупреждают исследователи.

Письмо, рожденное чередой инцидентов с безопасностью

Письмо следует за серией эпизодов, которые, по мнению подписавшихся, выявили недостатки в том, как тестируются и сдерживаются передовые системы искусственного интеллекта, включая случаи, когда модели искусственного интеллекта обходили недостаточно изолированные среды и подвергали риску внешние системы.

Требование официальных правил сдерживания возникло через месяц после того, как Anthropic, OpenAI, Google, Meta, xAI и Nvidia подписали соглашение Белого дома, обязующееся принимать добровольные меры безопасности. Это соглашение, отмечают ученые, не имеет формального механизма исполнения.

Акцент в письме на кибер-способных системах является намеренным. Вместо того чтобы делать прогнозы об отдаленных гипотетических рисках, подписавшие стороны концентрируются на моделях, которые уже существуют и уже продемонстрировали способность действовать за пределами предполагаемой среды. Их просьба, соответственно, конкретна: внедрить высоконадежное сдерживание прямо сейчас, документировать все, что идет не так, в общем реестре и позволить независимым сторонам проверить, действительно ли сдерживание работает. По их мнению, дополнительные исследования в области безопасности и больший акцент на технологиях и процедурах сдерживания являются дополнительными путями, а не альтернативами, и ни то, ни другое не может оставаться чисто добровольным мероприятием.

Глубоко разделенное поле

Не все в исследовательском сообществе ИИ согласны с диагнозом и лечением. Янн Лекун, который разделил премию Тьюринга 2018 года с Хинтоном и Бенджио, не подписал письмо. ЛеКун утверждает, что недавние инциденты безопасности в первую очередь отражают инженерные ошибки, а не экзистенциальные риски, исходящие от самого ИИ.

Европейские регуляторы также отказались от необходимости создания новых структур. Технический директор ЕС Хенна Вирккунен заявила агентству Reuters, что Закона об искусственном интеллекте блока уже достаточно для устранения рисков, создаваемых мошенническими системами искусственного интеллекта.

Политический климат в Соединенных Штатах добавляет еще один уровень сложности. Администрация Трампа выступает против обязательного регулирования, которое может замедлить инновации в условиях жесткой конкуренции с Китаем, вместо этого продвигая добровольный кодекс поведения, и ни один федеральный закон конкретно не регулирует пограничные модели. Примечательно, что в воскресенье перед распространением письма администрация сняла блокировку с лабораторий США, предоставляющих британскому Институту безопасности ИИ ранний доступ к моделям для испытаний на безопасность — сигнал о том, что некоторая форма внешнего контроля набирает обороты даже без внутренних мандатов.

Растущие предупреждения Хинтона

Для Джеффри Хинтона письмо является продолжением все более насущной кампании. Недавно он предупредил американских законодателей, что у них может быть всего около года на создание гарантий, прежде чем искусственный интеллект выйдет из-под контроля человека. Хинтон и Бенджио вместе с главным научным сотрудником OpenAI Якубом Пачоцки, соучредителем Anthropic Джеком Кларком и главным научным сотрудником Microsoft Эриком Хорвицем также стали соавторами недавней статьи, предупреждающей, что самоулучшающийся ИИ может спровоцировать «взрыв интеллекта», призывая правительства ввести надзор до того, как быстрое развитие опередит способность общества адаптироваться.

Подписавшие письмо не призывают к замедлению развития ИИ. Вместо этого они призывают организации, разрабатывающие или тестирующие кибер-модели, немедленно принять стандарты сдерживания с высокой степенью надежности, в то время как правительства работают над созданием более формального режима надзора.

Что будет дальше

Это предложение сталкивается с серьезными препятствиями. Международный орган, обладающий полномочиями по сдерживанию ИИ, потребует координации между правительствами, которые в настоящее время не могут договориться о том, необходимы ли вообще обязательные правила. ЕС утверждает, что его Закон об искусственном интеллекте является адекватным; США поддерживают добровольные обязательства; и Китай следует своему собственному пути регулирования.

Тем не менее, письмо добавляет измеримый вес дебатам, которые быстро перешли из маргинальных в мейнстрим. Когда около 400 ученых из 34 стран, в том числе наиболее титулованные исследователи в этой области, заявляют, что добровольных обязательств недостаточно, вопрос смещается с вопроса о том, нуждается ли ИИ в более жестком сдерживании, к тому, кто его создаст и как быстро.

---

Будьте в курсе ИИ

Последние новости, аналитика и прорывы в сфере ИИ — всё в одном месте.

Читать больше новостей об ИИ →