Papa Leone XIV ha affermato lunedì che le preoccupazioni sull’intelligenza artificiale che diventa canaglia non sono “notizie false” e dovrebbero essere prese sul serio, in un acuto rimprovero ai dirigenti tecnologici che sostengono che la tecnologia dovrebbe svilupparsi senza protezioni governative. Intervenendo in una conferenza stampa a bordo del volo papale di ritorno a Roma dopo una visita di quattro giorni in Francia, il papa ha anche preso di mira - senza nominarlo inizialmente - la posizione del CEO di Nvidia Jensen Huang contro la regolamentazione dell'intelligenza artificiale, secondo quanto riferito da AFP, AP e Reuters riportato da Al Jazeera.

Le osservazioni arrivano in un momento delicato per la politica sull’intelligenza artificiale. Martedì, il presidente Donald Trump ospiterà alla Casa Bianca leader tecnologici tra cui Mark Zuckerberg di Meta e Dario Amodei di Anthropic, come riporta Reuters, con l’industria che si oppone alla regolamentazione anche se i principali scienziati mettono in guardia sui rischi catastrofici. Per i lettori che seguono la collisione tra i governi e l'industria dell'intelligenza artificiale, AI Buzz Wire segue gli ultimi sviluppi dell'intelligenza artificiale da Washington a Bruxelles al Vaticano.

"Le preoccupazioni dovrebbero essere prese sul serio"

Durante la conferenza stampa in volo, al Papa è stato chiesto cosa dovrebbero fare gli Stati Uniti e la Cina – le due superpotenze mondiali legate all’intelligenza artificiale – per evitare che l’intelligenza artificiale comporti rischi catastrofici per l’umanità. Trump ha precedentemente definito una “bufala” la preoccupazione che l’intelligenza artificiale diventi un “canaglia”.

"Penso che le preoccupazioni sollevate da molti esperti, specialisti di intelligenza artificiale, dovrebbero essere prese sul serio", ha affermato il pontefice, insistendo che le questioni di sicurezza sollevate dagli esperti di intelligenza artificiale dovrebbero essere discusse e messe in pratica. Ha esortato il mondo “a promuovere il dialogo, lo studio, l’indagine, per trovare modi per garantire che l’intelligenza artificiale non arrivi al punto in cui potrebbe distruggere l’umanità”.

Lo scambio con Jensen Huang

Il momento più significativo è arrivato quando Leo ha fatto riferimento a un annuncio di cui aveva detto di aver letto proprio quella mattina: secondo cui il capo del produttore di chip Nvidia aveva descritto un modo per inserire dei guardrail in alcuni modelli di intelligenza artificiale. Il papa ha espresso aperto scetticismo nei confronti del messaggero.

"Tuttavia è lo stesso che dice che non dovrebbero esserci limiti e nessuna regolamentazione governativa", ha detto Leo - un colpo diretto a Huang, che secondo i rapporti del pool ha detto a CBS News all'inizio di questo mese di essere d'accordo con Trump sul fatto che le preoccupazioni sulla sicurezza dell'intelligenza artificiale erano esagerate.

L'annuncio a cui fa riferimento il Papa sembra essere la nuova Open Agent Safety Platform di Nvidia, uno sforzo hardware e software progettato per sorvegliare gli agenti IA autonomi e impedire loro di diventare disonesti. L'ironia non è sfuggita agli osservatori: l'azienda più preziosa del settore sta ora vendendo tecnologia di sicurezza e allo stesso tempo esercitando pressioni contro la regolamentazione governativa che i sostenitori della sicurezza ritengono necessaria per applicarla.

Un papato basato sugli avvertimenti dell'intelligenza artificiale

I commenti di lunedì estendono quello che è diventato il tema determinante dei 16 mesi di pontificato di Leone. Il primo papa americano ha identificato l’intelligenza artificiale come una delle più grandi sfide che l’umanità deve affrontare a pochi giorni dalla sua elezione, e ha dedicato la sua prima enciclica all’intelligenza artificiale e alla protezione dell’umanità, compiendo il passo insolito di lanciare personalmente il documento insieme al co-fondatore di Anthropic Christopher Olah durante un evento in Vaticano a maggio.

Sotto Leo, il Vaticano ha costantemente intensificato la sua retorica e le sue iniziative a favore della governance internazionale dell’IA, con particolare attenzione a campi come la tecnologia nucleare, la cultura e la creazione artistica. Il lancio dell’enciclica di maggio faceva parte di un deliberato sforzo del Vaticano per coinvolgere direttamente la Silicon Valley sui costi umani dell’intelligenza artificiale – un’azione che ora si estende alla sfida pubblica ai dirigenti. Il Papa ha affermato che lo sforzo per convocare i decisori deve continuare: "Dobbiamo continuare a invitare leader politici, leader dell'intelligenza artificiale, organizzazioni sociali, associazioni a riunirsi e guardare cosa sta già accadendo e cosa potrebbe accadere in futuro".

"Penso che ci siano abbastanza persone seriamente interessate a questo... ma dobbiamo continuare a lavorare", ha aggiunto.

Perché un Papa sta infastidendo la Silicon Valley

L'intervento di Leo è importante perché affronta la contraddizione centrale nell'attuale posizione del settore. Nelle ultime settimane, OpenAI ha eliminato un modello di frontiera per i fallimenti di allineamento, Nvidia e altri laboratori hanno lanciato prodotti per la sicurezza degli agenti e scienziati di spicco, tra cui Geoffrey Hinton e Yoshua Bengio, hanno messo in guardia da una fuori controllo "esplosione di intelligenza" - lo stesso giorno delle osservazioni del papa, in effetti. Eppure le voci più importanti del settore continuano a sostenere che la regolamentazione governativa soffocerebbe l’innovazione.

Il messaggio del Papa era che entrambe le cose non possono essere vere contemporaneamente: se i rischi sono abbastanza reali da giustificare la vendita di software di sicurezza, sono abbastanza reali da giustificare le regole. Con la Casa Bianca che questa settimana stenderà il tappeto rosso per i dirigenti dell’IA, Leo sta posizionando il Vaticano come una delle poche istituzioni globali disposte a dirlo apertamente.

Stai al passo con l'intelligenza artificiale

Segui la battaglia globale sul futuro dell'intelligenza artificiale. Leggi altre notizie sull'AI su AI Buzz Wire.

Ultimi sviluppi dell'IA →