Король Карл III соберет в Шотландии лидеров самых известных в мире компаний, занимающихся искусственным интеллектом, и спросит их, как можно разработать эту технологию «на благо человечества», согласно сообщению The Sunday Times, опубликованному The Independent. На встрече британский монарх встретится лицом к лицу с руководителями компаний Nvidia, Anthropic, Google DeepMind и OpenAI в тот момент, когда лидеры отрасли публично обсуждают, следует ли замедлять развитие.

Газета New York Times сформулировала собрание таким же образом: король созовет лидеров ИИ на фоне призывов к замедлению развития, придав темпу дебатов отчетливо церемониальную стадию всего через два дня после эссе генерального директора Anthropic Дарио Амодеи, призывающего отрасль ставить безопасность превыше скорости. Подробнее об этой истории — в нашем новости об ИИ.

Кто присутствует

Согласно сообщению The Sunday Times, цитируемому The Independent, среди присутствующих, как предполагается, будут генеральный директор Nvidia Дженсен Хуанг, основатель Google DeepMind сэр Демис Хассабис и Никколо де Маси, председатель и исполнительный директор компании квантовых вычислений IonQ. Ожидается, что в дискуссиях также примут участие лидеры Anthropic и OpenAI.

Один из участников выделяется из корпоративного списка: монсеньор Паоло Бенанти, францисканский богослов, который является советником Папы по вопросам искусственного интеллекта и технологической этики. Его присутствие сигнализирует о том, что амбиции саммита выходят за рамки продуктовой политики и затрагивают вопросы человеческого достоинства — территории, которую Ватикан приобрел своей с тех пор, как Рим начал выступать за международную систему этики ИИ.

«Нейтральный организатор» со знакомым руководством

Королевский источник сообщил газете, что король намерен сыграть роль, которую он оттачивал десятилетиями защиты окружающей среды. «Король здесь для того, чтобы созывать, слушать и поощрять эти дискуссии, а также ставить вопрос: «Как нам разработать ИИ на благо человечества?» — сказал источник, проводя прямую параллель с многолетней работой Чарльза по вопросам окружающей среды и нехватки воды.

По словам источника, король надеется, что дискуссии приведут к «более широкому пониманию ответственности за разработку этой технологии, а также возможностей, гарантируя, что любое технологическое развитие будет сосредоточено на пользе человека для общества». Он также планирует поднять конкретный вопрос: будет ли полезно установить общий набор принципов для этой технологии. «По его мнению, это непросто, но это не значит, что нам не следует пытаться», — добавил источник.

Формулировка имеет значение. Чарльз не ведет переговоров по регулированию и не обладает законодательной властью. То, что он предлагает, — это то, что The News International охарактеризовала как позицию «нейтрального организатора» — фигуру, имеющую достаточный авторитет, чтобы собрать конкурирующих руководителей за одним столом, при этом никто не уступит конкурентное преимущество, появившись.

Хартия Дитчли

Мероприятие будет курировать Фонд Дитчли, англо-американская организация, которая уже давно проводит неофициальные выездные семинары для лидеров политики, бизнеса и науки. Как сообщает The Sunday Times, фонд разработал проект устава для лидеров ИИ.

Предполагается, что хартия включает в себя «общий набор принципов», которые «помогут направлять будущее применение ИИ не просто как движущей силы возможностей и эффективности, но и как инструмента, который поддерживает человеческое достоинство и способствует процветанию как людей, так и планеты».

Эти формулировки намеренно далеки от словаря Закона ЕС об искусственном интеллекте, ориентированного на соблюдение требований, или рамок добровольного тестирования, циркулирующих в Вашингтоне. Будет ли это чем-то большим, чем просто риторикой, будет зависеть от того, что согласятся одобрить руководители — и выдержит ли что-нибудь из этого контакт с коммерческой реальностью.

Идеальное время, случайно или намеренно

Саммит состоится в середине самой значимой недели в отрасли искусственного интеллекта в этом году. В эссе Амодеи, опубликованном в субботу, содержится предупреждение о том, что с лета ИИ «развивается значительно быстрее», и утверждается, что в течение шести-двенадцати месяцев рои мошеннических агентов могут представлять угрозу масштаба Интернета. Его призыв получил поддержку с неожиданной стороны — Илон Маск написал, что «Дарио прав», а Сэм Альтман из OpenAI поддержал независимое тестирование — в то время как президент Трамп категорически отверг идею замедления, указав на конкуренцию с Китаем.

На этом фоне настойчивые заявления дворца о том, что саммит не направлен на замедление чего-либо, воспринимаются как осторожное позиционирование. Вопрос короля — как разработать ИИ на благо человечества — полностью обходит стороной идущую борьбу, хотя и неявно подтверждает ее предпосылку: траектория развития технологии — это вопрос коллективного человеческого выбора, а не неизбежности.

Британия уже бывала здесь раньше. Саммит ИИ в Блетчли-Парке в 2023 году, созванный правительством Великобритании, принял первую многонациональную декларацию о пограничных рисках ИИ и установил образец объединения конкурирующих лабораторий для коллективного заламывания рук. Что отличает шотландское собрание, так это его организатор: глава государства без регулирующих полномочий, без избирательного цикла и, в принципе, без заинтересованности в том, какая компания победит.

Что может и чего не может сделать Саммит

Никакое коммюнике королевского отступления не будет ограничивать объемы поставок Nvidia, Anthropic, DeepMind или OpenAI в этом квартале. Если собрание выработает одобренную хартию принципов, ее механизмом обеспечения соблюдения будет репутация, которая в отрасли, которая в настоящее время стремится продемонстрировать серьезность безопасности после недели заголовков о конце света, может стоить больше, чем обычно.

Газета New York Times отметила, что встреча проходит на фоне более широких дебатов по поводу сценария конца света сверхинтеллекта, который привлек внимание отрасли. Для Чарльза, который провел пять десятилетий, используя свою платформу для объединения маловероятных союзников в отношении долгосрочных рисков, ИИ — это просто последняя — и, возможно, самая важная — глава. Сможет ли моральное убеждение монарха повлиять на компании стоимостью в триллионы долларов, остается открытым вопросом. Тот факт, что компании вообще согласились прийти, говорит о том, насколько сильно отрасль сейчас хочет, чтобы ее задавали тот же вопрос.

---

Будьте в курсе ИИ

Последние новости, аналитика и прорывы в сфере ИИ — всё в одном месте.

Читать больше новостей об ИИ →