Король Карл III в четверг выступил с резким предупреждением о «экзистенциальной опасности» искусственного интеллекта, обращаясь к руководителям компаний Nvidia, Google DeepMind и OpenAI, собравшимся в его поместье Дамфрис-Хаус в Шотландии на саммите высокого уровня, посвященном будущему технологий.
Монарх заявил собравшимся лидерам отрасли, что необходимо срочно противостоять рискам, создаваемым все более мощными системами искусственного интеллекта, особенно если технология окажется под контролем злоумышленников. Подробнее об этой истории — в нашем тенденции ИИ.
«Кажется, необходимо срочно адекватно оценить экзистенциальную опасность попадания таких технологий в чужие руки и их использования потенциально катастрофическими способами», — сказал король лидерам, собравшимся в поместье Эйршир, согласно сообщению ABC News и ряда других агентств.
Двойное послание: обещание и опасность
Выступление короля не было полным отказом от технологии. Он признал, что искусственный интеллект несет в себе огромный потенциал во благо, указав, в частности, на науки о жизни и медицину, где инструменты ИИ все чаще используются для ускорения исследований и улучшения результатов лечения пациентов.
Но он сочетал этот оптимизм с предостережением о том, что сами создатели технологии все чаще предупреждают, что передовые системы могут развивать более темные способности, «возможно, даже отнимать жизнь», сказал он, согласно версии его высказываний.
Король также призвал принять меры безопасности, прежде чем станет слишком поздно контролировать траекторию развития технологий, и поднял вопрос о влиянии разработки ИИ на окружающую среду — теме, которая привлекает все большее внимание, поскольку строительство центров обработки данных создает нагрузку на энергосистемы во многих странах.
Кто присутствовал на шотландском саммите
Список гостей представляет собой срез самых влиятельных фигур в индустрии искусственного интеллекта. По данным ABC News, на мероприятии присутствовали основатель и генеральный директор Nvidia Дженсен Хуанг, основатель Google DeepMind Демис Хассабис и финансовый директор OpenAI Сара Фрайар. На мероприятии также присутствовал министр искусственного интеллекта Великобритании Канишка Нараян.
Согласно изображениям и подписям, распространенным Reuters, Хуана пригласили на встречу с королем, чтобы обсудить механизмы безопасности в отрасли. Ожидалось, что в обсуждениях также примет участие отец Паоло Бенанти, папский советник, который призвал правительства замедлить развитие искусственного интеллекта.
Выбор места и организатора имеет значение. Британская монархия не обладает никакими регулирующими полномочиями, но король имеет долгую историю участия общественности в вопросах возникающих технологических рисков, и саммит позволил самым высокопоставленным деятелям отрасли сесть за общий стол в тот момент, когда призывы к надзору усиливаются по обе стороны Атлантики.
Активизация дебатов
Встреча проходит на фоне возобновления общественных дебатов о рисках, связанных с ИИ. Дискуссия снова оказалась в центре внимания после того, как два антропных исследователя предупредили, что быстро развивающиеся технологии могут привести к вымиранию человечества в не столь отдаленном будущем. Эти комментарии вызвали в равной степени широкое освещение и критику.
Генеральный директор Anthropic Дарио Амодей отдельно призвал компании замедлить темпы развития искусственного интеллекта. Папа Лев XIV призвал правительства всего мира замедлить развитие систем ИИ и смягчить их разрушительные последствия, в то время как президент США Дональд Трамп также вмешался в дебаты, сделав вопрос управления ИИ действительно глобальной политической проблемой, а не чисто технической.
На этом фоне растет обеспокоенность тем, что усилия по обеспечению безопасности ИИ отстают от разработки все более эффективных систем. В последние недели дебаты сосредоточились на том, может ли и должна ли отрасль регулировать себя, при этом скептики задаются вопросом, могут ли руководители, призывающие к осторожности, иметь скрытые мотивы, такие как формирование правил, которые сохраняют конкурентное преимущество отдельных компаний.
Обязательных правил не ожидается
Организаторы никогда не рассматривали шотландскую встречу как переговоры. По данным ABC News, на встрече не ожидается принятия каких-либо обязательных соглашений. Его цель, по крайней мере номинально, исследовательская: может ли общий набор принципов определять, как ИИ применяется в разных странах и отраслях.
Букингемский дворец заявил, что в ходе обсуждений будет рассмотрен вопрос о том, можно ли использовать ИИ «не просто как двигатель возможностей и эффективности, но и как инструмент, который поддерживает человеческое достоинство и способствует процветанию как людей, так и планеты».
Эта формулировка отражает тему, к которой король неоднократно возвращался: вопрос не только в том, можно ли сделать ИИ безопасным, но и в том, для чего он должен быть нужен. Высказывания в четверг заострили этот момент до предупреждения о собственности и контроле, что заметно отличается от опасений, ориентированных на возможности, которые доминируют в большинстве дискуссий о рисках ИИ.
Что будет дальше
Саммит вряд ли сам по себе выработает политику, но он придаст импульс ряду уже предпринимаемых официальных усилий. Великобритания позиционирует себя как организатор по вопросам безопасности ИИ со времени своих предыдущих саммитов по ИИ, а присутствие специального министра по искусственному интеллекту сигнализирует о том, что правительство намерено продолжать взаимодействие как с американскими, так и с китайскими разработчиками ИИ.
Для компаний, находящихся в этой комнате, расчеты являются деликатными. Nvidia, DeepMind и OpenAI сталкиваются с коммерческим давлением, требующим выпускать все более функциональные системы, даже несмотря на то, что их собственные исследователи публикуют предупреждения о том, что эти системы могут в конечном итоге сделать. Королевский вызов не снимает этого напряжения, но гарантирует, что напряжение останется видимым.
Основное послание короля о том, что меры безопасности должны быть приняты до того, как технология выйдет из-под чьей-либо возможности управлять ею, прозвучало на неделе, когда дискуссии о безопасности в отрасли были необычайно громкими: от раскрытия OpenAI многочисленных инцидентов безопасности, связанных с ее собственными моделями, до обостряющегося публичного спора между руководством Microsoft в области искусственного интеллекта и Anthropic о том, как следует проектировать системы искусственного интеллекта.
Пока неизвестно, выльется ли встреча в четверг в нечто более конкретное. Но поскольку лидеры самого ценного в мире производителя микросхем и самых известных лабораторий искусственного интеллекта сидят в шотландском загородном доме и соглашаются, как минимум, с тем, что ставки экзистенциальны, разговор о том, кто контролирует искусственный интеллект и в чьих интересах, решительно стал открытым.
---
Будьте в курсе ИИПоследние новости, аналитика и прорывы в сфере ИИ — всё в одном месте.
Читать больше новостей об ИИ →
