Papa Leone XIV ha dichiarato a un incontro vaticano di scienziati ed esperti di intelligenza artificiale che i sistemi di intelligenza artificiale sono “strumenti, non persone”, mettendo in guardia contro la concessione di diritti legali agli agenti di intelligenza artificiale e sollecitando i governi riuniti a Ginevra il mese prossimo a vietare le armi autonome letali.
Il discorso è stato rivolto ai partecipanti a "Il futuro dell'intelligenza artificiale: un dialogo tra il Vaticano e il mondo scientifico sugli sviluppi e le applicazioni delle tecnologie intelligenti", incontro organizzato congiuntamente dalla Pontificia Accademia per la Vita e dal Future of Life Institute. Il Papa ha sottolineato che i partecipanti provenienti da diversi Paesi condividono «un certo senso di disagio riguardo allo sviluppo dell'intelligenza artificiale. Riconosciamo la direzione da prendere, ma non si sta facendo abbastanza per andare avanti».
Le macchine sono strumenti, non persone
La linea più chiara del discorso prendeva di mira un’idea che stava guadagnando terreno in alcune parti dell’industria tecnologica e dell’accademia legale: estendere la personalità giuridica – o i diritti – ai sistemi avanzati di intelligenza artificiale. Papa Leone sosteneva il contrario. Le macchine, ha detto, non hanno esperienze, corpi, sentimenti o relazioni e non comprendono l’amore, il lavoro o la responsabilità.
Alcuni hanno suggerito di conferire a questi sistemi diritti o personalità giuridica, ha riconosciuto, ma così facendo si rischia di “oscurare la responsabilità umana e lasciare coloro che subiscono danni a confrontarsi con un’entità senza volto”. Il commento arriva nella stessa stagione che ha visto gli agenti di intelligenza artificiale gestire autonomamente attività, negoziare contratti e agire per conto degli utenti, suscitando autentici dibattiti legali sulla responsabilità quando i sistemi autonomi causano danni. AI Buzz Wire sta monitorando questo e altri sviluppi delle politiche sull'intelligenza artificiale man mano che si verificano. L'inquadramento del Papa rimette la questione sugli esseri umani dietro il sistema: se un agente dell'intelligenza artificiale causa danni, qualcuno con una faccia deve risponderne.
IA “disarmante”: il divieto delle armi autonome
La terza considerazione del Papa – che certe decisioni non devono mai essere delegate alle macchine – è stata illustrata con esempi lampanti: inserire una persona in una lista di obiettivi o in un database di controllo delle frontiere la riduce a “un punto dati”. Ha fatto riferimento al discorso del suo predecessore Papa Francesco del 2024 ai leader del G7, in cui Francesco descriveva l’intelligenza artificiale come “uno strumento entusiasmante e temibile” e insisteva che nessuna macchina dovrebbe mai essere in grado di scegliere di togliere una vita umana.
"Le decisioni che riguardano la vita umana, la libertà e l'uso della forza devono sempre rimanere soggette a un controllo umano efficace, informato e responsabile", ha affermato Papa Leone. Questo è il motivo per cui l’intelligenza artificiale deve essere “disarmata”, ha sostenuto – e ha esplicitamente incoraggiato gli stati riuniti a Ginevra a novembre ad adottare misure per vietare le armi autonome letali. I diplomatici lottano da anni per concordare norme vincolanti sulle armi autonome; un appello diretto del Papa aggiunge peso morale a un processo negoziale che è stato guidato principalmente da campagne della società civile e da un blocco di Stati interessati.
##Cinque considerazioni dalla Magnifica Humanitas
Il discorso si è articolato attorno a cinque considerazioni che il Papa ha esposto nella sua enciclica Magnifica Humanitas:
1. Il futuro dell'intelligenza artificiale non è predeterminato. Poiché gli esseri umani sviluppano l'intelligenza artificiale, il suo futuro dipende dalle scelte dell'umanità. "Abbiamo la responsabilità di orientare, cambiare e, quando necessario, respingere le sue richieste", ha affermato il Papa. La domanda giusta non è "Cosa può fare l'intelligenza artificiale?" ma "A quale scopo dovrebbe servire?"
2. Le macchine sono strumenti, non persone. L'avvertimento sulla personalità di cui sopra.
3. Alcune decisioni non possono mai essere delegate. Le decisioni che riguardano la vita umana, la libertà e l'uso della forza richiedono un controllo umano efficace, informato e responsabile.
4. Le tecnologie intelligenti devono servire il bene comune. Esse "non devono mai diventare fini a se stesse o servire semplicemente gli interessi di pochi privilegiati" e dovrebbero distribuire equamente i benefici del progresso.
5. Le istituzioni sono necessarie per rendere operativa l'etica. Descritta come potenzialmente la sfida più urgente: il mondo ha bisogno di "standard condivisi, supervisione indipendente e chiari meccanismi di responsabilità, in modo che le decisioni riguardanti lo sviluppo e l'uso dell'intelligenza artificiale possano essere esaminate, contestate quando necessario e accompagnate da rimedi adeguati per eventuali danni causati".
Perché è importante oltre il Vaticano
Il Vaticano è diventato silenziosamente una delle voci istituzionali più coerenti sulla governance dell’IA. Da questo ecosistema è nata la Rome Call for AI Ethics, firmata nel febbraio 2020 dalla Pontificia Accademia per la Vita insieme a Microsoft, IBM, la FAO e il governo italiano, e la Pontificia Accademia per la Vita ha più volte convocato tecnologi sulla bioetica e sul processo decisionale delle macchine. La collaborazione con il Future of Life Institute – l’organizzazione per la sicurezza dell’IA dietro le lettere aperte sul rischio del modello di frontiera – segnala uno sforzo continuo per collegare le comunità etiche religiose e secolari dell’IA.
Per i politici, l’appello di Ginevra è la conclusione concreta: mentre riprendono i negoziati sulle armi autonome, il Vaticano vuole un divieto vincolante, non linee guida volontarie. E per l’industria dell’intelligenza artificiale, il messaggio sulla personalità è una linea chiara nella sabbia: comunque diventino agenti autonomi, la responsabilità morale e legale rimane delle persone che li costruiscono e li implementano.
