Папа Лев XIV сказав на зустрічі вчених і експертів зі штучного інтелекту у Ватикані, що системи штучного інтелекту є «інструментами, а не людьми», застерігши від надання агентам штучного інтелекту законних прав і закликавши уряди, які збираються наступного місяця в Женеві, заборонити смертоносну автономну зброю.
Промова була передана учасникам зустрічі «Майбутнє штучного інтелекту: діалог між Ватиканом і науковим світом щодо розробок і застосування інтелектуальних технологій», організованої спільно Папською академією життя та Інститутом майбутнього життя. Папа Римський сказав, що учасники з різних країн поділяють «певне почуття занепокоєння щодо розвитку штучного інтелекту. Ми усвідомлюємо напрямок, який маємо рухатися, але недостатньо робиться для просування вперед».
Машини - це інструменти, а не люди
Найчіткіший рядок звернення був націлений на ідею, яка набирає обертів у деяких галузях технологічної індустрії та юридичній академії: розширення права юридичної особи — або прав — на передові системи ШІ. Папа Лев стверджував протилежне. За його словами, машини не мають досвіду, тіл, почуттів чи стосунків і не розуміють любові, роботи чи відповідальності.
Дехто пропонував надати цим системам права або правосуб’єктність, він визнав, але це ризикує «приховати людську відповідальність і залишити тих, хто зазнає шкоди, протистояти безликій сутності». Коментар припадає на той самий сезон, коли агенти штучного інтелекту автономно керують бізнесом, укладають контракти та діють від імені користувачів, що спонукає до справжніх юридичних дебатів щодо відповідальності, коли автономні системи завдають шкоди. AI Buzz Wire відслідковує [це та інші зміни в політиці щодо штучного інтелекту] (https://aibuzzwire.news), коли вони відбуваються. Формулювання Папи знову ставить питання перед людьми, які стоять за системою: якщо агент штучного інтелекту завдає шкоди, хтось із обличчям повинен відповісти за це.
«Знешкодження» AI: заборона автономної зброї
Третє міркування Папи — про те, що певні рішення ніколи не можна делегувати машинам — було проілюстровано яскравими прикладами: внесення людини до цільового списку або до бази даних прикордонного контролю зводить її до «точки даних». Він посилався на звернення свого попередника Папи Франциска до лідерів G7 у 2024 році, де Франциск описав штучний інтелект як «захоплюючий і страшний інструмент» і наполягав, що жодна машина ніколи не повинна мати можливість забрати людське життя.
«Рішення, що стосуються людського життя, свободи та застосування сили, завжди повинні залишатися предметом ефективного, поінформованого та відповідального людського нагляду», — сказав Папа Лев. Саме тому штучний інтелект необхідно «роззброїти», стверджував він — і він прямо закликав країни, які зустрілися в Женеві в листопаді, вжити заходів щодо заборони летальної автономної зброї. Дипломати роками намагалися узгодити обов’язкові правила щодо автономної зброї; прямий папський заклик додає моральної ваги переговорному процесу, який відбувався переважно завдяки кампаніям громадянського суспільства та блоку зацікавлених держав.
П'ять міркувань від Magnifica Humanitas
Промова була організована навколо п’яти міркувань, які Папа виклав у своїй енцикліці Magnifica Humanitas:
1. Майбутнє ШІ не визначене наперед. Оскільки люди розробляють ШІ, його майбутнє залежить від вибору людства. «Ми маємо відповідальність керувати, змінювати та, коли необхідно, відхиляти його застосування», — сказав Папа. Правильне питання не «Що може ШІ?» але "Якій меті це має служити?"
2. Машини — це інструменти, а не люди. Застереження щодо особистості вище.
3. Певні рішення ніколи не можна делегувати. Рішення, що стосуються людського життя, свободи та застосування сили, вимагають ефективного, інформованого, відповідального людського контролю.
4. Інтелектуальні технології мають служити загальному благу. Вони «ніколи не повинні ставати самоціллю або служити лише інтересам небагатьох привілейованих», і мають поширювати переваги прогресу справедливо.
5. Потрібні інституції, щоб запровадити етику в дію. Описується як потенційно найнагальніша проблема: світові потрібні «спільні стандарти, незалежний контроль і чіткі механізми підзвітності, щоб рішення щодо розробки та використання штучного інтелекту можна було перевіряти, оскаржувати, коли це необхідно, і супроводжуватися відповідними засобами правового захисту для будь-якої заподіяної шкоди».
Чому це має значення за межами Ватикану
Ватикан тихо став одним із найбільш послідовних інституційних голосів щодо управління ШІ. Римський заклик до етики штучного інтелекту, підписаний у лютому 2020 року Папською академією життя разом із Microsoft, IBM, ФАО та урядом Італії, виріс із цієї екосистеми, і Папська академія життя неодноразово збирала технологів з біоетики та машинного прийняття рішень. Спільна організація з Future of Life Institute — організацією безпеки штучного інтелекту, яка стоїть за відкритими листами щодо ризику передової моделі — сигналізує про продовження зусиль для з’єднання між релігійними та світськими спільнотами етики ШІ.
Для політиків женевський заклик є конкретним висновком: оскільки переговори щодо автономної зброї відновлюються, Ватикан хоче обов’язкової заборони, а не добровільних вказівок. А для індустрії штучного інтелекту повідомлення про особистість — це чітка лінія на піску — якими б автономними не були агенти, моральна й юридична відповідальність залишається за людьми, які їх створюють і розгортають.
