Генеральный секретарь Организации Объединенных Наций Антониу Гутерриш на этой неделе выступил с одним из своих самых резких предупреждений в отношении искусственного интеллекта, заявив, что мир «не может позволить себе гонку на упадок в вопросах безопасности ИИ», поскольку правительства готовятся собраться в Нью-Йорке на неделю высокого уровня Генеральной Ассамблеи ООН. Выступая перед журналистами перед ежегодной встречей мировых лидеров, Гутерриш назвал безудержный искусственный интеллект наряду с климатическим кризисом и углублением неравенства тремя экзистенциальными угрозами, стоящими перед планетой.
Замечания, о которых сообщили Reuters, UN News и СМИ по всему миру, прозвучали в напряженный момент: ООН настаивает на обязательной международной координации управления ИИ, в то время как Вашингтон сигнализирует о более легком подходе, при этом Reuters отмечает, что глава ООН забил тревогу после того, как президент Трамп преуменьшил необходимость более строгого регулирования ИИ.
«Эра глубокой неопределенности»
На брифинге для прессы за шесть дней до прибытия лидеров в Нью-Йорк Гутерриш заявил, что мир вступил в «эру глубокой неопределенности». Он признал «огромный потенциал» ИИ в таких областях, как здравоохранение, образование и климатология, но предупредил, что технология развивается быстрее, чем человеческое понимание ее рисков.
«Мир не может позволить себе гонку на упадок в вопросах безопасности ИИ», — сказал он, утверждая, что одних только национальных правил будет недостаточно. «Национальные действия необходимы, но необходима глобальная координация».
Генеральный секретарь также выразил скептицизм по поводу того, что добровольные паузы в передовых разработках ИИ могут сработать, когда они изолированы — ограничены горсткой стран, не поддаются проверке или применяются неравномерно. На фоне растущих опасений по поводу гонки вооружений в области искусственного интеллекта между Соединенными Штатами и Китаем он признал, что геополитические разногласия затрудняют координацию, а не делают ее менее необходимой. «Если мы считаем, что развитие ИИ должно замедлиться, когда риски станут слишком велики, нам нужно нечто большее, чем просто благие намерения», — сказал он.
Новый механизм управления искусственным интеллектом ООН
За этой риторикой стоит архитектура управления, которая незаметно сформировалась за последние два года. Глобальный цифровой договор, принятый государствами-членами ООН в 2024 году в рамках «Пакта о будущем», предусматривал создание двух новых механизмов: научного органа для оценки рисков и возможностей ИИ и ежегодного форума, на котором правительства могли бы согласовывать свои подходы. Генеральная Ассамблея официально учредила оба в августе 2025 года.
Первая из них, Независимая международная научная группа по искусственному интеллекту, опубликовала свой предварительный отчет 1 июля. Она пришла к выводу, что возможности искусственного интеллекта быстро развиваются — особенно в области рассуждения, кодирования и научных исследований — одновременно отмечая риски, включая дезинформацию, дискриминацию, нарушение конфиденциальности, кибератаки и формы «суперинтеллекта», которые может стать трудно контролировать.
Второй, Глобальный диалог по управлению ИИ, задуман как ответная сторона пары: комиссия предоставляет доказательства, а страны решают, что с ними делать.
Гутерриш указал на эту группу как на основу для информированного принятия глобальных решений и призвал правительства создать барьеры, которые «сделают ИИ безопасным, прозрачным и подотчетным, с человеческим достоинством в центре». Он также выдвинул две конкретные инициативы: «Обещание безопасности детей с использованием искусственного интеллекта» и Глобальный фонд для искусственного интеллекта, чтобы помочь развивающимся странам создать инфраструктуру и потенциал искусственного интеллекта.
Расширяющийся трансатлантический раскол
Вмешательство главы ООН происходит на фоне видимого раскола между регуляторным давлением Европы и дерегулированием Вашингтона. В то время как Европейский Союз реализует свой Закон об искусственном интеллекте, а органы ООН создают механизмы оценки, администрация США делает упор на инновации и конкурентоспособность, а агентство Reuters сообщило, что президент Трамп преуменьшил опасения по поводу риска искусственного интеллекта, которые продолжают поднимать Гутерриш и другие официальные лица.
Отвечая на вопрос, как быстро ООН сможет созвать саммит, который приведет к эффективному регулированию, Гутерриш ответил, что это не может произойти во время Генеральной Ассамблеи на следующей неделе, но должно состояться в ближайшее время, когда «все будут на борту» из государственного, частного, научного секторов и гражданского общества.
Настойчивость в его тоне отражает ряд недавних предупреждений изнутри самой отрасли. Ранее в этом месяце бывший исследователь Anthropic публично предупредил, что продвинутый ИИ может представлять экзистенциальную угрозу человечеству, а собственные замечания Гутерриша обозначили траекторию развития технологии как вопрос, который международное сообщество больше не может откладывать.
Что будет дальше
ИИ будет занимать видное место, когда начнется неделя высокого уровня Генеральной Ассамблеи, наряду с дебатами о войнах в секторе Газа и на Украине. Смогут ли научная группа ООН и глобальный диалог превратиться из ток-шоу в механизмы, оказывающие реальное влияние на национальную политику, остается центральным открытым вопросом – и вопросом, который проверит, смогут ли многосторонние институты двигаться со скоростью, близкой к скорости технологий, которыми они пытаются управлять.
На данный момент послание Генерального секретаря мировым лидерам недвусмысленно: риски глобальны, управление — нет, и возможности для устранения этого разрыва сужаются.
_Будьте на шаг впереди. Следите за глобальной борьбой за правила ИИ и за самыми важными историями в области искусственного интеллекта на AI Buzz Wire._
