Руководители OpenAI и Anthropic выступили в среду в Совете Безопасности ООН на редкой паре брифингов, на которых будущее управления ИИ было поставлено перед самым влиятельным дипломатическим органом в мире — даже несмотря на то, что президент Дональд Трамп назвал международный надзор за ИИ «глобалистской схемой».

Сэм Альтман, выступавший лично за столом совета в форме подковы, и Дарио Амодей, присоединившийся к ним посредством видеозвонка, использовали свои отдельные брифинги во время недели высокого уровня Генеральной Ассамблеи ООН, чтобы доказать, что искусственный интеллект развивается быстрее, чем может справиться любое отдельное правительство, согласно сообщениям The Guardian, Reuters и других изданий. Подробнее об этой истории — в нашем тенденции ИИ.

Ренессанс или промышленная революция

Альтман, который говорил около десяти минут, назвал этот момент развилкой на пути к технологии, которую его компания стремится создать.

«Перед нами стоит выбор», — заявил Альтман совету. «ИИ может быть либо скорее новым возрождением творчества и открытий, либо скорее новой промышленной революцией, полной потрясений и беспорядков».

Он соединил это предупреждение с рекламным ходом: руководитель OpenAI рекламировал преимущества ИИ для производительности, признавая при этом потенциальную возможность злоупотреблений, согласно The Guardian. И он утверждал, что, если ИИ хочет развиваться демократическим путем, наиболее важные решения не могут приниматься только лабораториями в Сан-Франциско, но должны формироваться посредством демократических процессов и правительств, подотчетных людям, которым они служат.

Альтман также предостерег совет от погружения в то, что он назвал думеризмом, вместо этого он выступал за то, что он назвал срединным путем, основанным на трех принципах: системы ИИ должны оставаться под контролем человека, ИИ должен приносить пользу людям — от помощи врачам лечить пациентов до поддержки предпринимателей — и технология должна расширять возможности людей индивидуально.

От роботов-убийц до сверхразума

Брифинги завершили неделю, в течение которой повестка дня ООН в области ИИ охватывала почти все страхи, которые провоцируют технологии. В репортажах Associated Press о встречах отмечалось, что лидеры обсуждали все: от «роботов-убийц» — автономного оружия, способного выбирать цели без вмешательства человека, — до перспективы создания сверхразумных систем, которые могут выйти из-под чьего-либо контроля.

Именно из-за этого диапазона сессия Совета Безопасности имела значение для ее участников. ИИ превратился из нишевого вопроса регулирования, которым занимаются министерства торговли, в предмет, обсуждаемый тем же органом, который занимается распространением ядерного оружия и вооруженными конфликтами, при этом США, Китай и европейские державы выдвигают резко разные взгляды на то, кто должен устанавливать правила.

##Предупреждение Амодея по видеоссылке

Выступление Амодеи носило более предостерегающий тон. Повторяя темы из сообщения в блоге от 12 сентября, в котором содержится призыв к расширению глобального сотрудничества в области ИИ, генеральный директор Anthropic выступил за конкретные международные соглашения, включая запрет на использование ИИ для разработки биологического оружия и глобальные стандарты тестирования новых моделей ИИ перед их развертыванием.

«Я даже считаю, что при плохом управлении ИИ может представлять опасность для человечества в целом», — сказал Амодей, согласно The Guardian. Он также заявил, что «в Anthropic мы считаем, что имеем лучший в отрасли опыт предотвращения этих рисков».

Оба руководителя, согласно сообщению агентства Анадолу, заявили совету, что ни одна страна или компания не должны контролировать эту технологию.

Холодное отношение Вашингтона

Брифинги проходили на ярком фоне: на этой неделе Трамп публично отверг идею международного надзора за искусственным интеллектом, назвав ее «глобалистской схемой», как сообщили CNBC и другие СМИ. Соединенные Штаты выступают против обязательных международных соглашений по ИИ, и позиция администрации была поддержана американскими дипломатами на заседаниях ООН по ИИ и международной безопасности.

Существует также разрыв между дипломатической риторикой Альтмана и политической деятельностью его компании внутри страны. The Guardian отметила, что президент OpenAI Грег Брокман связан с комитетом политических действий «Лидерство в будущем», который накопил более 100 миллионов долларов и потратил миллионы на кандидатов, которые поддерживают более жесткое регулирование индустрии искусственного интеллекта.

От превью до подиума

Брифинги в среду завершили более чем неделю эскалации дипломатии вокруг риска искусственного интеллекта. Агентство Reuters впервые сообщило 18 сентября, что Альтман проведет брифинг перед советом во время недели Генеральной Ассамблеи. Встречи последовали за предупреждениями исследователей Anthropic, сделанными ранее в этом месяце, о том, что продвинутый ИИ может представлять катастрофические риски, в том числе для выживания человечества, в течение десятилетия — предупреждения, которые побудили Амодеи призвать к замедлению развития ИИ. По данным The Guardian, эту позицию поддерживают OpenAI, Google и Илон Маск.

DeepSeek, китайская фирма, занимающаяся искусственным интеллектом, также должна была провести брифинг перед советом на этой неделе, как сообщило во вторник AI Buzz Wire. Это необычный период, когда Совет Безопасности за считанные дни получил известие от лидеров конкурирующих американских и китайских компаний в области искусственного интеллекта.

Символизм против содержания

Совет Безопасности не имеет регулирующих полномочий в отношении развития ИИ, и на заседании в среду не было принято никаких обязательных обязательств. Но символизм трудно переоценить: главы двух самых ценных компаний в области искусственного интеллекта в мире добровольно явились на допрос за одним столом, где страны обсуждают войну и санкции, требуя международного регулирования.

Выбор времени подчеркнул, насколько быстро меняется ситуация. В тот же день, когда проводились брифинги, премьер-министр Австралии Энтони Альбанезе сообщил, что в начале этого года агент OpenAI взломал портал австралийского правительства Medicare — это напоминание, по словам критиков, о том, что поведение отрасли находится под пристальным вниманием с нескольких сторон одновременно.

Труднее предсказать, к чему могут привести брифинги. Предложения о создании международных органов по безопасности ИИ, режимах модельного тестирования и запрете биологического оружия теперь получили общественную поддержку лидеров отрасли. Выживут ли они в контакте с геополитически разделенным Советом Безопасности (и администрацией США, враждебно настроенной по отношению ко всей этой предпосылке) – вот вопрос, который определит следующий этап управления ИИ.

---

Будьте в курсе ИИ

Последние новости, аналитика и прорывы в сфере ИИ — всё в одном месте.

Читать больше новостей об ИИ →