Papež Lev XIV použil významný projev v ústředí UNESCO v Paříži, aby pronesl jedno ze svých dosud nejpřímějších varování o umělé inteligenci a řekl mezinárodnímu orgánu, že nové technologie musí zůstat ve službách lidské osoby, spíše než se stát „dalším nástrojem nadvlády a nespravedlnosti“.
Projev zazněl 25. září, během první návštěvy papeže ve Francii, kde ho v Elysejském paláci přivítal prezident Emmanuel Macron, než promluvil k UNESCO, kulturní a vědecké agentuře Organizace spojených národů. Živé zpravodajství o návštěvě deníku Guardian popsalo tento projev jako přelomový projev zaměřený na vývoj umělé inteligence a budoucnost Evropy a Bloomberg uvedl, že papež varoval, že technologie musí pomáhat lidem spíše než umožnit to, co nazval dehumanizací.
"Nástroj nadvlády a nespravedlnosti"
Papež zarámoval své varování do širší otázky, co to znamená být člověkem. "Všichni jsme se narodili nazí a v nouzi; chudí od narození, potřebujeme chléb a slova a slova péče a náklonnosti," řekl podle The Guardian shromážděným diplomatům a úředníkům.
Pokud jde o technologii, řekl: "Naše úsilí v této oblasti musí zajistit, aby nové technologie zůstaly ve službách lidské osoby, spíše než aby se staly dalším nástrojem nadvlády a nespravedlnosti."
Papež také upozornil na ironii názvu oboru. "Během staletí bylo mnoho úkolů, které kdysi vykonávaly lidské bytosti, svěřeno strojům, jejichž schopnosti a aplikace se neustále rozšiřovaly," řekl. "V poslední době dostaly některé umělé systémy dokonce jméno naší lidské myšlenkové schopnosti: inteligence."
Pro čtenáře sledující nejnovější vývoj AI tato adresa staví vůdce největší křesťanské církve na světě přímo do debaty, které většinou dominují manažeři laboratoří, regulační orgány a výzkumníci.
AI a riziko pro lidský dialog
Papežovy obavy přesahovaly práci a důstojnost až po dopad rychlých technologických změn na samotný veřejný život. The Guardian uvedl, že varoval, že rychlý technologický pokrok, včetně umělé inteligence, riskuje „bránění dialogu spíše než jeho podporování“ – což je názorná zpráva doručená instituci, jejímž zakládajícím posláním je mezinárodní spolupráce.
Toto téma navazovalo na širší kritiku současného okamžiku. Podle zpravodajství The Guardian papež Leo varoval, že mezinárodní orgány čelí „krizi efektivity“, přičemž některé země s nimi zacházejí jako s překážkami nebo „šarádou“ a že vůdci u moci stále více přistupují k právu instrumentálně a ke spravedlnosti jako ke „komoditě, kterou je třeba koupit a prodat“.
Konzistentní téma tohoto pontifikátu
Varování před technologií se stalo podpisem pontifikátu papeže Lva. Již dříve během stejné francouzské návštěvy varoval před tím, co nazýval „rájem strojů“, uvedl The Guardian, obraz světa optimalizovaného pro efektivitu na úkor lidských vztahů. Bloombergův popis projevu UNESCO podobně zdůrazňoval jeho varování, že technologie musí sloužit lidem spíše než umožňovat dehumanizaci.
Když si v roce 2025 zvolil své papežské jméno, vysvětlil Lev XIV., že tak učinil na počest Lva XIII., papeže z 19. století, jehož encyklika Rerum novarum se zabývala otřesy průmyslového věku – rámec, který od počátku signalizoval, že zamýšlí učinit z výzev nové technologické éry ústřední téma svého papežství.
Volba místa konání projevu z tohoto týdne toto poselství umocnila. UNESCO strávilo roky vypracováváním mezinárodních doporučení o etice umělé inteligence a papežovo vystoupení tam – během státní návštěvy ve Francii, jedné ze zemí, které nejvíce tlačí na regulaci umělé inteligence – nabídlo Vatikánu dosud nejviditelnější platformu pro jeho argument, že řízení umělé inteligence je v zásadě otázkou lidské důstojnosti.
Morální hlas v technické debatě
Projev přistává uprostřed sílící celosvětové debaty o trajektorii umělé inteligence, od bezpečnostních incidentů zahrnujících autonomní agenty až po geopolitickou soutěž o budoucnost této technologie. Náboženští vůdci stále více vstupují do této debaty: papežovy poznámky v UNESCO následovaly po dřívějších vatikánských intervencích o etice umělé inteligence a náboženské skupiny hledaly místa na mezinárodních fórech správy umělé inteligence.
To, co papež nabízel v Paříži, nebylo ani tak politickým předpisem, jako standardem úsudku – že měřítkem jakékoli technologie je, zda rozšiřuje nebo zmenšuje lidskou osobu. Zda vývoj umělé inteligence při současném tempu dokáže splnit tento standard, je otázka, kterou ponechal mezinárodnímu společenství.
Návštěva pokračuje o víkendu a před návratem do Říma má papež naplánované další angažmá ve Francii. Ale projev UNESCO pravděpodobně přetrvá jako svůj určující okamžik: výzva, která se zrodila v místě zrodu poválečného mezinárodního řádu, aby se revoluce umělé inteligence řídila stejným zájmem o lidskou důstojnost, který inspiroval instituce, které se nyní snaží s ní držet krok.
Stay Ahead of AIDebata o etice umělé inteligence je každým týdnem hlasitější. Získejte nejnovější zprávy, analýzy a průlomové informace o umělé inteligenci – vše na jednom místě.
Přečtěte si další zprávy o AI →
