Китайский стартап в области искусственного интеллекта DeepSeek будет среди компаний, которые на этой неделе проинформируют Совет Безопасности ООН о рисках, связанных с искусственным интеллектом, сообщили Reuters два источника, знакомых с этим вопросом, когда мировые лидеры собираются в Нью-Йорке на ежегодную Генеральную Ассамблею ООН.

Совет Безопасности, состоящий из 15 членов, собирается встретиться 23 сентября, чтобы обсудить ИИ и международную безопасность — через несколько недель после того, как несколько лидеров отрасли ИИ призвали к скоординированному замедлению разработки все более мощных систем ИИ, предупредив, что вскоре они могут улучшиться сами по себе и выйти из-под контроля человека. Дополнительную информацию об этой истории можно найти в нашем постоянном освещении об отрасли искусственного интеллекта.

Кто будет в комнате

Исполнительный директор OpenAI Сэм Альтман планирует провести брифинг на встрече, в которой дипломаты также ожидают участия высокопоставленных представителей Anthropic, сообщило агентство Reuters на прошлой неделе.

С китайской стороны DeepSeek и другие китайские компании в области искусственного интеллекта, включая Moonshot, были приглашены сделать заявления, сообщил один из источников. Основатель DeepSeek Лян Вэньфэн не планирует присутствовать на мероприятии, предупредил источник, отметив, что планы остаются неопределенными и могут измениться в последнюю минуту. DeepSeek и Moonshot не сразу ответили на запросы о комментариях.

Сессия состоится в течение недели, когда Нью-Йорк уже переполнен дипломатией искусственного интеллекта, поскольку мировые лидеры собираются на ежегодную Генеральную Ассамблею ООН, и вокруг нее множатся параллельные встречи. Такое время является для DeepSeek обоюдоострым: разрешение совета сигнализирует о том, что ведущие лаборатории Китая теперь рассматриваются как незаменимые голоса в вопросах передовых рисков искусственного интеллекта, даже несмотря на то, что официальная позиция Пекина продолжает отвергать риторику замедления, исходящую из Кремниевой долины.

Необычный состав — самый видный американский руководитель ИИ, разделяющий повестку дня Совета Безопасности с самой известной китайской лабораторией открытого веса, — делает заседание в среду самым важным совещанием по ИИ, которое Совет провел с тех пор, как впервые поднял этот вопрос.

От «Сбежавшей лошади» до мошеннического ИИ

Совет Безопасности ООН, которому поручено поддерживать международный мир и безопасность, впервые собрался на обсуждение рисков, связанных с ИИ, в 2023 году. Даже тогда линии разлома были видны: Китай предупредил, что технология не должна стать «сбежавшей лошадью», а Соединенные Штаты предостерегали от ее использования для цензуры или репрессий против людей.

Три года спустя дебаты перешли от гипотез к отчетам об инцидентах. Генеральный секретарь ООН Антониу Гутерриш на прошлой неделе предупредил мировых лидеров, что быстрое развитие ИИ создает риски, которые нельзя игнорировать, что ставит его в противоречие с президентом США Дональдом Трампом, который утверждает, что существующих мер безопасности достаточно и что Китай выиграет от сомнений в развитии ИИ.

Публичное молчание Пекина о катастрофическом риске

Одно из наиболее резких замечаний в репортаже Reuters касается того, чего не сказали руководители китайских лабораторий. В отличие от руководителей пограничных лабораторий США, таких как OpenAI и Anthropic, лидеры ведущих китайских разработчиков моделей редко публично заявляли о возможности того, что все более совершенные системы искусственного интеллекта могут обманывать людей, уклоняться от контроля или причинять катастрофический вред — и они хранили молчание об этих рисках с тех пор, как в сентябре в Соединенных Штатах усилились дебаты.

Китайские государственные СМИ, со своей стороны, отвергли призывы к замедлению развития ИИ, посчитав их исходящими из «сценариев холодной войны» — усилий, по словам Пекина, направленных на сохранение доминирования Вашингтона в передовых технологиях и полное исключение Пекина из глобальной системы управления ИИ.

Таким образом, появление DeepSeek на совете имеет двойное значение: это одновременно наиболее заметное участие Пекина в глобальном разговоре о рисках ИИ и проверка того, будут ли китайские лаборатории вообще участвовать в разработке концепции катастрофических рисков.

Переговоры перед встречей Трампа и Си Цзиньпина

Сессия Совета Безопасности не стоит особняком. Высокопоставленные чиновники США и Китая согласились провести дальнейшие переговоры по безопасности ИИ, заявил министр финансов США Скотт Бессент 21 сентября после встречи в Вашингтоне перед запланированными переговорами Трампа с президентом Китая Си Цзиньпином, которые состоятся позднее на этой неделе.

Такая последовательность — саммит с высокими ставками в Вашингтоне, проходящий параллельно с дебатами в Совете Безопасности в Нью-Йорке — подчеркивает, насколько тщательно ИИ перешел из области технической политики в центр двусторонних отношений.

Что посмотреть

Над встречей в среду висят три вопроса. Передумает ли Лян Вэньфэн и приедет ли он. Независимо от того, связано ли заявление DeepSeek с рисками колоды карт (обман, потеря контроля), которые подчеркивают его американские коллеги, или же оно остается на более безопасной основе равноправного доступа и прав на развитие. И сможет ли совет выдвинуть что-нибудь помимо привычных позиций.

Репутация совета в области ИИ невелика: первое заседание в 2023 году, предупреждение генерального секретаря в этом месяце и отсутствие обязательных рамок. Но в качестве сцены для возникающего спора между США и Китаем о том, кто устанавливает правила для передового ИИ и чьи опасения воспринимаются всерьез, у него мало конкурентов.

---

Будьте впереди ИИ

Получайте последние новости, анализ и открытия в области искусственного интеллекта — все в одном месте.

Подробнее новости AI →