Папа Лев XIV заявил на встрече учёных и экспертов по искусственному интеллекту в Ватикане, что системы искусственного интеллекта — это «инструменты, а не люди», предостерег от предоставления законных прав агентам искусственного интеллекта и призвал правительства, собравшиеся в Женеве в следующем месяце, запретить смертоносное автономное оружие.
Обращение было адресовано участникам встречи «Будущее искусственного интеллекта: диалог между Ватиканом и научным миром о развитии и применении интеллектуальных технологий», встречи, организованной совместно Папской академией жизни и Институтом будущего жизни. Папа сказал, что участники из разных стран разделяют «определенное чувство беспокойства по поводу развития искусственного интеллекта. Мы понимаем, в каком направлении нам следует двигаться, но для продвижения вперед делается недостаточно».
Машины — это инструменты, а не люди
Самая четкая линия обращения была нацелена на идею, набирающую обороты в некоторых частях технологической индустрии и юридической академии: расширение статуса юридического лица (или прав) на передовые системы искусственного интеллекта. Папа Лев утверждал обратное. У машин, по его словам, нет опыта, тел, чувств или отношений, и они не понимают любви, работы или ответственности.
Некоторые предлагают предоставить этим системам права или правосубъектность, признал он, но это рискует «затемнить человеческую ответственность и оставить тех, кто пострадал, противостоять безликой сущности». Этот комментарий относится к тому же сезону, когда агенты ИИ автономно управляют бизнесом, заключают контракты и действуют от имени пользователей, что вызывает настоящие юридические дебаты об ответственности, когда автономные системы причиняют вред. AI Buzz Wire отслеживает [это и другие изменения в политике в области ИИ] (https://aibuzzwire.news) по мере их возникновения. Формулировка Папы вновь ставит вопрос перед людьми, стоящими за системой: если агент ИИ причиняет ущерб, за это должен ответить кто-то, у кого есть лицо.
«Обезоруживающий» ИИ: запрет автономного оружия
Третье соображение Папы о том, что определенные решения никогда не следует делегировать машинам, было проиллюстрировано яркими примерами: включение человека в целевой список или в базу данных пограничного контроля сводит его к «точке данных». Он сослался на обращение своего предшественника Папы Франциска к лидерам G7 в 2024 году, в котором Франциск назвал ИИ «захватывающим и устрашающим инструментом» и настаивал на том, что ни одна машина никогда не должна иметь возможность отнять человеческую жизнь.
«Решения, затрагивающие человеческую жизнь, свободу и применение силы, всегда должны оставаться предметом эффективного, информированного и ответственного человеческого контроля», — заявил Папа Лев. Именно поэтому ИИ должен быть «обезоружен», утверждал он — и прямо призвал государства, встретившиеся в ноябре в Женеве, предпринять шаги по запрету смертоносного автономного оружия. Дипломаты годами боролись за согласование обязательных правил по автономному оружию; Прямое обращение папы добавляет моральный вес переговорному процессу, который в основном был обусловлен кампаниями гражданского общества и блоком заинтересованных государств.
Пять соображений от Magnifica Humanitas
Обращение было построено вокруг пяти соображений, изложенных Папой в его энциклике Magnifica Humanitas:
1. Будущее ИИ не предопределено. Поскольку ИИ разрабатывается людьми, его будущее зависит от выбора человечества. «На нас лежит ответственность направлять, изменять и, при необходимости, отклонять его заявления», — сказал Папа. Правильный вопрос не «Что может сделать ИИ?» но «Какой цели это должно служить?»
2. Машины — это инструменты, а не люди. Предупреждение о личности выше.
3. Определенные решения никогда не могут быть делегированы. Решения, затрагивающие человеческую жизнь, свободу и применение силы, требуют эффективного, информированного и ответственного человеческого контроля.
4. Интеллектуальные технологии должны служить общему благу. Они «никогда не должны становиться самоцелью или служить лишь интересам избранного меньшинства» и должны справедливо распределять блага прогресса.
5. Для обеспечения функционирования этических норм необходимы институты. Потенциально самая неотложная задача описывается как: мир нуждается в «общих стандартах, независимом надзоре и четких механизмах подотчетности, чтобы решения, касающиеся разработки и использования ИИ, могли быть изучены, оспорены, когда это необходимо, и сопровождались соответствующими средствами защиты от любого причиненного вреда».
Почему это важно за пределами Ватикана
Ватикан незаметно стал одним из наиболее последовательных институциональных голосов по вопросам управления ИИ. Римский призыв к этике искусственного интеллекта, подписанный в феврале 2020 года Папской академией жизни вместе с Microsoft, IBM, ФАО и правительством Италии, вырос из этой экосистемы, и Папская академия жизни неоднократно собирала технологов по биоэтике и машинному принятию решений. Совместная организация с Институтом будущего жизни — организацией по безопасности ИИ, стоящей за открытыми письмами о рисках, связанных с пограничной моделью, — свидетельствует о продолжающихся усилиях по сближению религиозных и светских сообществ по этике ИИ.
Для политиков женевский призыв является конкретным выводом: по мере возобновления переговоров по автономному оружию Ватикан хочет обязательного запрета, а не добровольных руководящих принципов. А для индустрии искусственного интеллекта идея личности — это четкая линия на песке: какими бы автономными агенты ни стали, моральная и юридическая ответственность остается за людьми, которые их создают и внедряют.
