Папа Лев XIV использовал знаковое обращение в штаб-квартире ЮНЕСКО в Париже, чтобы произнести одно из своих самых прямых предупреждений об искусственном интеллекте, заявив международному органу, что новые технологии должны оставаться на службе человеческой личности, а не становиться «еще одним инструментом доминирования и несправедливости».
Речь прозвучала 25 сентября, во время первого визита Папы во Францию, где его приветствовал президент Эммануэль Макрон в Елисейском дворце перед выступлением перед ЮНЕСКО, культурным и научным учреждением ООН. В прямой трансляции визита газета The Guardian описала это выступление как знаковую речь, посвященную развитию искусственного интеллекта и будущему Европы, а агентство Bloomberg сообщило, что Папа предупредил, что технологии должны помогать людям, а не способствовать тому, что он назвал дегуманизацией.
«Инструмент господства и несправедливости»
Папа сформулировал свое предупреждение в более широком вопросе о том, что значит быть человеком. «Мы все рождаемся обнаженными и нуждающимися; бедными по рождению, нуждающимися в хлебе, словах, словах заботы и привязанности», — сказал он собравшимся дипломатам и официальным лицам, сообщает The Guardian.
Обращаясь к технологиям, он сказал: «Наши усилия в этой области должны гарантировать, что новые технологии останутся на службе человеческой личности, а не станут еще одним инструментом доминирования и несправедливости».
Папа также обратил внимание на ироничность названия месторождения. «На протяжении веков многие задачи, которые когда-то выполняли люди, были поручены машинам, возможности и приложения которых продолжали расширяться», — сказал он. «Недавно некоторым искусственным системам даже дали название нашей человеческой мыслительной способности: интеллект».
Для читателей, следящих за последними разработками в области искусственного интеллекта, это обращение помещает лидера крупнейшей в мире христианской церкви непосредственно в дебаты, в которых в основном доминируют руководители лабораторий, регулирующие органы и исследователи.
ИИ и риск для человеческого диалога
Обеспокоенность Папы простиралась не только на труд и достоинство, но и на влияние быстрых технологических изменений на саму общественную жизнь. The Guardian сообщила, что он предупредил, что быстрый технологический прогресс, в том числе искусственный интеллект, рискует «препятствовать диалогу, а не способствовать ему» — это резкое послание было сделано в учреждении, основной миссией которого является международное сотрудничество.
Эта тема связана с более широкой критикой текущего момента. Согласно сообщению The Guardian, Папа Лев предупредил, что международные организации сталкиваются с «кризисом эффективности», причем некоторые страны рассматривают их как препятствия или «шараду», и что находящиеся у власти лидеры все чаще относятся к закону как к инструменту, а к правосудию как к «товару, который можно покупать и продавать».
Постоянная тема этого понтификата
Предупреждения о технологиях стали визитной карточкой понтификата Папы Льва. Ранее во время того же визита во Францию он предостерег от того, что он назвал «раем машин», сообщила The Guardian, — образа мира, оптимизированного для эффективности в ущерб человеческим отношениям. В отчете Блумберга о речи ЮНЕСКО также подчеркивается его предупреждение о том, что технологии должны служить людям, а не способствовать дегуманизации.
Выбирая себе папское имя в 2025 году, Лев XIV объяснил, что он сделал это в честь Льва XIII, папы XIX века, чья энциклика Rerum Novarum была посвящена потрясениям индустриальной эпохи. Эта формулировка с самого начала сигнализировала о том, что он намеревался сделать проблемы новой технологической эпохи центральной темой своего папства.
Выбор места для выступления на этой неделе усилил послание. ЮНЕСКО потратила годы на разработку международных рекомендаций по этике искусственного интеллекта, и появление там Папы Римского — во время государственного визита во Францию, одну из стран, которые сильнее всего настаивают на регулировании ИИ, — стало самой заметной платформой Ватикана для его аргумента о том, что управление ИИ является фундаментальным вопросом человеческого достоинства.
Моральный голос в технических дебатах
Обращение прозвучало на фоне усиливающихся глобальных дебатов о траектории развития ИИ: от инцидентов, связанных с безопасностью с участием автономных агентов, до геополитической конкуренции за будущее технологии. Религиозные лидеры все чаще участвуют в этих дебатах: выступления Папы в ЮНЕСКО последовали за предыдущими выступлениями Ватикана по этике ИИ, а религиозные группы искали места на международных форумах по управлению ИИ.
То, что Папа предложил в Париже, было не столько политическим рецептом, сколько стандартом суждения: мерой любой технологии является то, расширяет она или умаляет человеческую личность. Сможет ли развитие ИИ нынешними темпами соответствовать этому стандарту — вопрос, который он оставил международному сообществу.
Визит продолжится на выходных, и Папа планирует провести дальнейшие мероприятия во Франции, прежде чем вернуться в Рим. Но обращение к ЮНЕСКО, вероятно, останется определяющим моментом: призыв, прозвучавший на зарождении послевоенного международного порядка, о том, что революция искусственного интеллекта должна руководствоваться той же заботой о человеческом достоинстве, которая вдохновляла институты, которые сейчас пытаются не отставать от нее.
Будьте впереди ИИДебаты об этике ИИ становятся все громче с каждой неделей. Получайте последние новости, анализ и открытия в области искусственного интеллекта — все в одном месте.
Читать больше новостей об искусственном интеллекте →
