Генеральный директор OpenAI Сэм Альтман лично проинформирует Совет Безопасности ООН на следующей неделе во время ежегодного собрания мировых лидеров в Нью-Йорке на Генеральной Ассамблее ООН, сообщило агентство Reuters в пятницу со ссылкой на представителя OpenAI.
Брифинг состоится на открытом заседании Совета Безопасности по искусственному интеллекту и международной безопасности, запланированном на среду, когда орган из 15 членов соберется во время недели высокого уровня Генеральной Ассамблеи. Сессия была созвана Францией, которая председательствует в Совете в сентябре, и ее возглавит министр Европы и иностранных дел Франции Жан-Ноэль Барро. Подробнее об этой истории — в нашем больше статей об ИИ.
«Сэм Альтман лично проведет брифинг на открытом заседании Совета Безопасности ООН на следующей неделе», — сообщил Reuters представитель OpenAI.
Что ожидается от Альтмана
По сообщению Reuters, ожидается, что замечания Альтмана будут сосредоточены на необходимости международной координации и общих стандартов безопасности, а также на шагах, которые OpenAI предпринимает, чтобы гарантировать, что люди во всем мире получат выгоду от ИИ.
Это появление ставит самого выдающегося в мире руководителя ИИ перед органом, отвечающим за поддержание международного мира и безопасности, в тот момент, когда правительства все чаще рассматривают передовой ИИ не просто как экономическую возможность, но и как технологию, имеющую прямые последствия для национальной и международной безопасности.
Антропный тоже может быть в комнате
Дипломаты сообщили Reuters, что они также ожидают присутствия на встрече высокого уровня от Anthropic, хотя это участие не было подтверждено. Anthropic не сразу ответил на просьбу о комментариях.
Любое появление Anthropic будет иметь особый резонанс, учитывая громкую позицию компании в отношении передовых рисков ИИ в последние месяцы, включая ее призывы к скоординированному замедлению разработки все более эффективных систем. Заседание Совета Безопасности ООН состоялось всего через несколько недель после того, как несколько лидеров отрасли ИИ призвали к скоординированному замедлению темпов роста, предупредив, что вскоре ИИ может улучшиться сам по себе и выйти из-под контроля человека.
Франция требует срочности
В концептуальной записке, разосланной членам совета и просмотренной Reuters, Франция подчеркнула «неотложность действий по содействию безопасному и ответственному развитию искусственного интеллекта на благо международного сообщества в целом».
В записке упоминается риск неправомерного использования ИИ в злонамеренных целях и говорится, что цель встречи — предоставить участникам возможность представить свой анализ рисков, связанных с потерей контроля или использованием новейших моделей ИИ для разработки, содействия и проведения действий, влияющих на международный мир и безопасность.
Совет возвращается к знакомой теме
Совет Безопасности уже обращался к проблеме ИИ. Впервые они встретились по поводу рисков, связанных с искусственным интеллектом, в 2023 году, когда Китай предупредил, что технология не должна стать «сбежавшей лошадью», а Соединенные Штаты предостерегли от ее использования для цензуры или репрессий против людей. Сессия в среду представляет собой значительную эскалацию этого взаимодействия: если на предыдущих встречах звучали общие предупреждения, то на следующей неделе состоится брифинг в прямом эфире генерального директора компании, чьи продукты находятся в центре бума искусственного интеллекта.
Альтман, со своей стороны, предупреждал о серьезных рисках ИИ задолго до нынешней волны коммерческого успеха. В эссе 2015 года под названием «Машинный интеллект, часть 1» он написал, что «развитие сверхчеловеческого машинного интеллекта, вероятно, является величайшей угрозой для дальнейшего существования человечества».
Почему это важно
Символизм брифинга трудно переоценить. Выступая в Совете Безопасности, руководитель технологической компании показывает, насколько далеко ИИ продвинулся в повестке дня международной безопасности наряду с распространением ядерного оружия и кибервойной. Это также отражает сдвиг в самих дебатах: после двух лет, когда доминировали споры об авторском праве, рабочих местах и дезинформации, объединяющая сила ООН прямо направлена на пограничный риск — потерю контроля, злонамеренное использование и отсутствие общих международных стандартов.
Что из этого получится – другой вопрос. Совет Безопасности не имеет регулирующих полномочий в отношении развития ИИ, и его резолюции по новым технологиям исторически не имели обязательной силы. Но встреча дает правительствам возможность определить позиции — и дает компаниям, занимающимся искусственным интеллектом, аудиторию в виде министров иностранных дел и глав государств, с которой не может сравниться ни один запуск нового продукта. Поскольку Франция настаивает на срочности и ожидается, что на ней будут представлены обе ведущие лаборатории ИИ США, сессия в среду вполне может ознаменовать момент, когда управление ИИ станет постоянным пунктом в повестке дня дипломатии глобальной безопасности.
---
Будьте в курсе ИИПоследние новости, аналитика и прорывы в сфере ИИ — всё в одном месте.
Читать больше новостей об ИИ →
