Papa Leon al XIV-lea a declarat la o reuniune a oamenilor de știință și experților în inteligența artificială a Vaticanului că sistemele de inteligență artificială sunt „instrumente, nu persoane”, avertizând împotriva acordării de drepturi legale agenților de inteligență artificială și îndemnând guvernele care se adună la Geneva luna viitoare să interzică armele autonome letale.
Discursul a fost rostit participanților la „Viitorul IA: un dialog între Vatican și lumea științifică privind evoluțiile și aplicațiile tehnologiilor inteligente”, o întâlnire organizată în comun de Academia Pontificală pentru Viață și Institutul Viitorul Vieții. Papa a spus că participanții din diferite țări împărtășesc „un anumit sentiment de neliniște în ceea ce privește dezvoltarea inteligenței artificiale. Recunoaștem direcția pe care ar trebui să o luăm, dar nu se face suficient pentru a merge mai departe”.
Mașinile sunt unelte, nu persoane
Cea mai clară linie a adresei a vizat o idee care câștigă teren în anumite părți ale industriei tehnologice și ale academiei juridice: extinderea personalității juridice – sau a drepturilor – la sistemele AI avansate. Papa Leon a argumentat contrariul. Mașinile, a spus el, nu au experiențe, trupuri, sentimente sau relații și nu înțeleg dragostea, munca sau responsabilitatea.
Unii au sugerat să se acorde acestor sisteme drepturi sau personalitate juridică, a recunoscut el – dar acest lucru riscă „să ascundă responsabilitatea umană și să îi lase pe cei care suferă prejudicii să se confrunte cu o entitate fără chip”. Comentariul ajunge în același sezon în care agenții AI conduc afaceri în mod autonom, negociază contracte și acționează în numele utilizatorilor, provocând dezbateri legale autentice despre răspundere atunci când sistemele autonome provoacă prejudicii. AI Buzz Wire urmărește aceasta și alte evoluții ale politicii AI pe măsură ce se întâmplă. Încadrarea Papei pune întrebarea înapoi asupra oamenilor din spatele sistemului: dacă un agent AI provoacă daune, cineva cu o față trebuie să răspundă pentru asta.
„Dezarmarea” AI: interzicerea armelor autonome
A treia considerație a Papei – că anumite decizii nu trebuie niciodată delegate mașinilor – a fost ilustrată cu exemple clare: punerea unei persoane pe o listă de țintă sau într-o bază de date de control la frontieră le reduce la „un punct de date”. El a invocat discursul din 2024 a predecesorului său, Papa Francisc, adresat liderilor G7, unde Francisc a descris inteligența artificială drept „un instrument incitant și de temut” și a insistat că nicio mașină nu ar trebui să poată alege vreodată să ia o viață umană.
„Deciziile care afectează viața umană, libertatea și utilizarea forței trebuie să rămână întotdeauna supuse unei supravegheri umane eficiente, informate și responsabile”, a spus Papa Leon. Acesta este motivul pentru care AI trebuie să fie „dezarmată”, a argumentat el – și a încurajat în mod explicit statele reunite la Geneva în noiembrie să ia măsuri pentru a interzice armele autonome letale. Diplomații s-au luptat ani de zile să cadă de acord cu reguli obligatorii privind armele autonome; un apel papal direct adaugă greutate morală unui proces de negociere care a fost condus mai ales de campaniile societății civile și de un bloc de state în cauză.
Cinci considerații de la Magnifica Humanitas
Discursul s-a organizat în jurul a cinci considerații pe care Papa le-a expus în enciclica sa Magnifica Humanitas:
1. Viitorul IA nu este predeterminat. Deoarece ființele umane dezvoltă IA, viitorul său depinde de alegerile umanității. „Avem responsabilitatea de a ghida, schimba și, atunci când este necesar, respingem cererile”, a spus Papa. Întrebarea corectă nu este „Ce poate face AI?” dar „Ce scop ar trebui să servească?”
2. Mașinile sunt unelte, nu oameni. Avertismentul de personalitate de mai sus.
3. Anumite decizii nu pot fi niciodată delegate. Deciziile care afectează viața umană, libertatea și utilizarea forței necesită o supraveghere umană eficientă, informată și responsabilă.
4. Tehnologiile inteligente trebuie să slujească binelui comun. Ele „nu trebuie să devină niciodată scopuri în sine sau să servească doar intereselor câtorva privilegiați” și ar trebui să răspândească beneficiile progresului în mod echitabil.
5. Sunt necesare instituții pentru a face etica operațională. Descrisă ca fiind cea mai urgentă provocare: lumea are nevoie de „standarde comune, supraveghere independentă și mecanisme clare de responsabilitate, astfel încât deciziile privind dezvoltarea și utilizarea IA să poată fi examinate, contestate atunci când este necesar și însoțite de remedii adecvate pentru orice prejudiciu cauzat”.
De ce contează dincolo de Vatican
Vaticanul a devenit în liniște una dintre cele mai consistente voci instituționale privind guvernarea AI. Apelul de la Roma pentru etica IA, semnat în februarie 2020 de Academia Pontificală pentru Viață alături de Microsoft, IBM, FAO și guvernul italian, a luat naștere din acest ecosistem, iar Academia Pontificală pentru Viață a convocat în mod repetat tehnologi pentru bioetică și luarea deciziilor automate. Co-organizarea cu Institutul Viitorul Vieții – organizația pentru siguranța inteligenței artificiale din spatele scrisorilor deschise privind riscul modelului de frontieră – semnalează un efort continuu de a pune legătura între comunitățile religioase și seculare de etică a inteligenței artificiale.
Pentru factorii de decizie politică, apelul de la Geneva este concluzia concretă: pe măsură ce negocierile privind armele autonome se reiau, Vaticanul vrea o interdicție obligatorie, nu linii directoare voluntare. Iar pentru industria AI, mesajul despre personalitate este o linie clară în nisip – oricum devin agenți autonomi, responsabilitatea morală și legală rămâne în sarcina oamenilor care le construiesc și le implementează.
