Papež Lev XIV řekl na vatikánském setkání vědců a odborníků na AI, že systémy umělé inteligence jsou „nástroje, nikoli osoby“, varoval před udělováním zákonných práv agentům AI a naléhal na vlády, které se příští měsíc sejdou v Ženevě, aby zakázaly smrtící autonomní zbraně.
Projev byl doručen účastníkům setkání „Budoucnost umělé inteligence: Dialog mezi Vatikánem a vědeckým světem o vývoji a aplikacích inteligentních technologií“, setkání organizovaného společně Papežskou akademií pro život a Institutem budoucnosti života. Papež řekl, že účastníci z různých zemí sdílejí "určitý pocit znepokojení ohledně vývoje umělé inteligence. Uvědomujeme si směr, kterým bychom se měli ubírat, ale nedělá se dost, abychom se posunuli vpřed."
Stroje jsou nástroje, ne osoby
Nejjasnější linie adresy byla zaměřena na myšlenku, která se prosadila v částech technologického průmyslu a právní akademie: rozšíření právnické osoby – nebo práv – na pokročilé systémy umělé inteligence. Papež Lev tvrdil opak. Stroje podle něj nemají zkušenosti, těla, pocity ani vztahy a nerozumí lásce, práci ani odpovědnosti.
Někteří navrhli dát těmto systémům práva nebo právní subjektivitu, uznal – ale riskuje, že „zatemní lidskou odpovědnost a nechá ty, kteří utrpí újmu, čelit anonymní entitě“. Komentář se objevil ve stejné sezóně, kdy agenti AI autonomně řídili podniky, vyjednávali smlouvy a jednali jménem uživatelů, což vyvolalo skutečné právní debaty o odpovědnosti, když autonomní systémy způsobí škodu. AI Buzz Wire sleduje [tento a další vývoj zásad AI] (https://aibuzzwire.news), jak k nim dochází. Papežovo zarámování vrací otázku lidem za systémem: pokud agent AI způsobí škodu, musí za to odpovědět někdo s tváří.
"Odzbrojení" AI: zákaz autonomních zbraní
Papežova třetí úvaha – že některá rozhodnutí nesmí být nikdy delegována na stroje – byla ilustrována na strohých příkladech: umístění osoby na cílový seznam nebo do databáze hraniční kontroly ji redukuje na „datový bod“. Odvolal se na projev svého předchůdce papeže Františka z roku 2024 k vůdcům G7, kde František popsal AI jako „vzrušující a děsivý nástroj“ a trval na tom, že žádný stroj by nikdy neměl mít možnost rozhodnout se vzít si lidský život.
"Rozhodnutí ovlivňující lidský život, svobodu a použití síly musí vždy zůstat pod účinným, informovaným a odpovědným lidským dohledem," řekl papež Lev. Proto musí být umělá inteligence „odzbrojena“, tvrdil – a výslovně vyzval státy, které se v listopadu setkaly v Ženevě, aby podnikly kroky k zákazu smrtících autonomních zbraní. Diplomaté léta bojovali, aby se shodli na závazných pravidlech pro autonomní zbraně; přímá papežská výzva dodává morální váhu vyjednávacímu procesu, který byl poháněn převážně kampaněmi občanské společnosti a blokem dotčených států.
Pět úvah Magnifica Humanitas
Projev se uspořádal kolem pěti úvah, které papež položil ve své encyklice Magnifica Humanitas:
1. Budoucnost umělé inteligence není předem určena. Vzhledem k tomu, že lidské bytosti vyvíjejí umělou inteligenci, její budoucnost závisí na rozhodnutích lidstva. "Máme odpovědnost vést, měnit a v případě potřeby odmítat jeho žádosti," řekl papež. Správná otázka není "Co umí umělá inteligence?" ale "Jakému účelu by to mělo sloužit?"
2. Stroje jsou nástroje, ne lidé. Varování ohledně osobnosti výše.
3. Některá rozhodnutí nelze nikdy delegovat. Rozhodnutí ovlivňující lidský život, svobodu a použití síly vyžadují účinný, informovaný a zodpovědný lidský dohled.
4. Inteligentní technologie musí sloužit obecnému dobru. „Nikdy se nesmí stát cílem samy o sobě nebo sloužit pouze zájmům pár privilegovaných“ a měly by spravedlivě šířit výhody pokroku.
5. Instituce jsou potřeba k tomu, aby etika fungovala. Popsáno jako potenciálně nejnaléhavější výzva: svět potřebuje „sdílené standardy, nezávislý dohled a jasné mechanismy odpovědnosti, aby rozhodnutí týkající se vývoje a používání umělé inteligence mohla být přezkoumána, v případě potřeby zpochybněna a doprovázena vhodnými nápravami pro případnou způsobenou škodu.“
Proč na tom záleží mimo Vatikán
Vatikán se v tichosti stal jedním z důslednějších institucionálních hlasů o správě AI. Římská výzva pro etiku umělé inteligence, kterou v únoru 2020 podepsala Papežská akademie pro život spolu se společnostmi Microsoft, IBM, FAO a italskou vládou, vyrostla z tohoto ekosystému a Papežská akademie pro život opakovaně svolala technology pro bioetiku a rozhodování o strojích. Spoluorganizace s Future of Life Institute – organizací pro bezpečnost umělé inteligence stojící za otevřenými dopisy o riziku hraničního modelu – signalizuje pokračující úsilí o propojení náboženských a sekulárních etických komunit umělé inteligence.
Pro tvůrce politik je Ženevská výzva konkrétním řešením: s obnovením jednání o autonomních zbraních chce Vatikán závazný zákaz, nikoli dobrovolné pokyny. A pro průmysl AI je poselství o osobnosti jasnou čárou v písku – ať už se autonomní agenti stanou jakkoli, morální a právní odpovědnost zůstává na lidech, kteří je vytvářejí a nasazují.
