Папа Лев XIV заявил в понедельник, что опасения по поводу того, что искусственный интеллект выйдет из-под контроля, не являются «фейковыми новостями» и к ним следует относиться серьезно, резко упрекнув руководителей технологических компаний, которые утверждают, что технология должна развиваться без правительственных ограничений. Выступая на пресс-конференции на борту папского рейса обратно в Рим после четырехдневного визита во Францию, Папа также подверг критике (сначала не называя его имя) позицию генерального директора Nvidia Дженсена Хуанга против регулирования искусственного интеллекта, согласно сообщениям AFP, AP и Reuters, опубликованным Al Jazeera.
Эти замечания попали в опасный момент для политики в области ИИ. Во вторник президент Дональд Трамп собирается принять в Белом доме лидеров технологических компаний, включая Марка Цукерберга из Meta и Дарио Амодеи из Anthropic, как сообщает Reuters, при этом отрасль сопротивляется регулированию, даже несмотря на то, что ведущие ученые предупреждают о катастрофических рисках. Для читателей, отслеживающих конфликты между правительствами и индустрией искусственного интеллекта, [AI Buzz Wire следит за последними разработками в области искусственного интеллекта] (https://aibuzzwire.news) от Вашингтона до Брюсселя и Ватикана.
«К опасениям следует относиться серьезно»
Во время пресс-конференции в полете Папу спросили о том, что Соединенным Штатам и Китаю — двум мировым сверхдержавам в области ИИ — следует делать, чтобы ИИ не представлял катастрофических рисков для человечества. Ранее Трамп назвал опасения по поводу того, что ИИ станет мошенником, «мистификацией».
«Я действительно считаю, что к опасениям, высказанным многими экспертами, специалистами в области ИИ, следует отнестись серьезно», — сказал понтифик, настаивая на том, что вопросы безопасности, поднятые экспертами по ИИ, должны быть как обсуждены, так и приняты меры. Он призвал мир «способствовать диалогу, исследованиям, исследованиям, найти способы гарантировать, что ИИ не дойдёт до точки, когда он сможет уничтожить человечество».
Разговор с Дженсеном Хуангом
Самый острый момент наступил, когда Лео сослался на объявление, о котором, по его словам, он прочитал только сегодня утром: глава производителя чипов Nvidia описал способ установки ограждений в некоторые модели искусственного интеллекта. Папа выразил открытый скептицизм по поводу посланника.
«Однако он тот же самый, который говорит, что не должно быть никаких ограничений и государственного регулирования», — сказал Лео, что стало прямым ударом по Хуану, который, согласно отчетам группы, ранее в этом месяце сообщил CBS News, что согласен с Трампом в том, что опасения по поводу безопасности в отношении ИИ преувеличены.
Объявление, на которое ссылается Папа, похоже, представляет собой недавно представленную Nvidia Открытую платформу безопасности агентов, аппаратно-программную разработку, предназначенную для контроля над автономными агентами ИИ и предотвращения их несанкционированного действия. Ирония не ускользнула от наблюдателей: самая ценная компания отрасли сейчас продает технологии безопасности, одновременно лоббируя против государственного регулирования, которое, по мнению защитников безопасности, необходимо для обеспечения его соблюдения.
Папство, основанное на предупреждениях ИИ
Комментарии в понедельник расширяют то, что стало определяющей темой 16-месячного папства Лео. Первый американский Папа назвал искусственный интеллект одной из самых больших проблем, стоящих перед человечеством в течение нескольких дней после его избрания, и посвятил свою первую энциклику искусственному интеллекту и защите человечества, предприняв необычный шаг, лично представив документ вместе с соучредителем Anthropic Кристофером Олой на мероприятии в Ватикане в мае.
При Лео Ватикан неуклонно усиливал свою риторику и инициативы в пользу международного управления ИИ, уделяя особое внимание таким областям, как ядерные технологии, культура и художественное творчество. Презентация майской энциклики была частью целенаправленных усилий Ватикана по непосредственному привлечению Кремниевой долины к вопросу о человеческих издержках, связанных с ИИ. Эта работа теперь распространяется и на публичные вызовы руководителям. Папа сказал, что усилия по созыву лиц, принимающих решения, должны продолжаться: «Нам нужно продолжать приглашать политических лидеров, лидеров ИИ, общественных организаций, ассоциаций собраться вместе и посмотреть, что происходит уже и что может быть в будущем».
"Я думаю, что есть достаточно людей, серьезно заинтересованных в этом... но мы должны продолжать работать", - добавил он.
Почему Папа Римский раздражает Силиконовую долину
Вмешательство Лео имеет значение, поскольку оно направлено на устранение центрального противоречия в нынешнем положении отрасли. В последние недели OpenAI отменила выпуск пограничной модели из-за сбоев в выравнивании, Nvidia и другие лаборатории срочно выпустили продукты для обеспечения безопасности агентов, а видные ученые, в том числе Джеффри Хинтон и Йошуа Бенджио, предупредили о безудержном «взрыве интеллекта» — фактически в тот же день, что и высказывания Папы Римского. Однако ведущие представители отрасли продолжают утверждать, что государственное регулирование будет сдерживать инновации.
Послание Папы заключалось в том, что обе вещи не могут быть правдой одновременно: если риски достаточно реальны, чтобы оправдать продажу программного обеспечения безопасности, они достаточно реальны, чтобы оправдать правила. Поскольку на этой неделе Белый дом расстилает красную дорожку для руководителей ИИ, Лео позиционирует Ватикан как одно из немногих глобальных учреждений, готовых заявить об этом прямо.
Будьте впереди ИИ
Следите за глобальной борьбой за будущее ИИ. Читайте больше новостей об искусственном интеллекте на AI Buzz Wire.
Последние разработки в области искусственного интеллекта →
