Re Carlo III ha lanciato giovedì un duro avvertimento sui “pericoli esistenziali” dell’intelligenza artificiale, rivolgendosi ai dirigenti di Nvidia, Google DeepMind e OpenAI riuniti nella sua tenuta di Dumfries House in Scozia per un vertice di alto livello sul futuro della tecnologia.
Il monarca ha detto ai leader del settore riuniti che è urgente affrontare i rischi posti da sistemi di intelligenza artificiale sempre più potenti, in particolare se la tecnologia finisce per essere controllata da attori malintenzionati. Per maggiori informazioni su questa storia, consulta la nostra ultimi sviluppi nell'IA.
"Sembra urgente considerare adeguatamente i pericoli esistenziali che tali tecnologie cadano nelle mani sbagliate e vengano utilizzate in modi potenzialmente catastrofici", ha detto il Re ai leader riuniti nella tenuta dell'Ayrshire, secondo quanto riferito da ABC News e numerosi altri organi di stampa.
Un duplice messaggio: promessa e pericolo
Il discorso del re non è stato un rifiuto totale della tecnologia. Ha riconosciuto che l’intelligenza artificiale ha un enorme potenziale positivo, puntando in particolare alle scienze della vita e alla medicina, dove gli strumenti di intelligenza artificiale sono sempre più utilizzati per accelerare la ricerca e migliorare i risultati dei pazienti.
Ma ha abbinato questo ottimismo con la cautela che gli stessi creatori della tecnologia hanno sempre più avvertito che i sistemi avanzati potrebbero sviluppare capacità più oscure, "forse anche per togliere la vita", ha detto, secondo il resoconto dell'emittente delle sue osservazioni.
Il Re ha anche chiesto che siano messe in atto misure di salvaguardia prima che diventi troppo tardi per controllare la traiettoria della tecnologia e ha sollevato l’impatto ambientale dello sviluppo dell’intelligenza artificiale, un argomento che ha attirato un crescente controllo poiché la costruzione di data center mette a dura prova le reti elettriche in più paesi.
Chi ha partecipato al Summit scozzese
L'elenco degli invitati rappresenta uno spaccato delle figure più potenti del settore dell'intelligenza artificiale. Tra i partecipanti c'erano il fondatore e amministratore delegato di Nvidia Jensen Huang, il fondatore di Google DeepMind Demis Hassabis e il direttore finanziario di OpenAI Sarah Friar, secondo ABC News. Era presente anche il ministro britannico per l'Intelligenza Artificiale, Kanishka Narayan.
Huang è stato invitato a incontrare il re per discutere dei meccanismi di sicurezza del settore, secondo le immagini e le didascalie distribuite da Reuters. Era prevista la partecipazione alle discussioni anche padre Paolo Benanti, consigliere papale che ha invitato i governi a rallentare lo sviluppo dell’intelligenza artificiale.
La scelta della sede e del convocatore è importante. La monarchia britannica non ha alcun potere di regolamentazione, ma il Re ha una lunga storia di impegno pubblico sui rischi tecnologici emergenti, e il vertice ha offerto alle figure più importanti del settore un tavolo condiviso in un momento in cui le richieste di supervisione si stanno intensificando su entrambe le sponde dell’Atlantico.
Un dibattito rinvigorito
L’incontro avviene nel contesto di un rinnovamento del dibattito pubblico sul rischio dell’IA. La discussione è tornata alla ribalta dopo che due ricercatori di Anthropic hanno avvertito che la tecnologia in rapido progresso potrebbe portare all’estinzione umana in un futuro non troppo lontano, commenti che hanno suscitato ampia copertura e critiche in egual misura.
L’amministratore delegato di Anthropic, Dario Amodei, ha chiesto separatamente alle aziende di rallentare il ritmo dello sviluppo dell’intelligenza artificiale. Papa Leone XIV ha esortato i governi di tutto il mondo a rallentare lo sviluppo dei sistemi di intelligenza artificiale e a mitigarne gli effetti dirompenti, mentre anche il presidente degli Stati Uniti Donald Trump è intervenuto nel dibattito, rendendo la questione della governance dell’IA una questione politica veramente globale piuttosto che puramente tecnica.
In questo contesto, cresce la preoccupazione che gli sforzi per la sicurezza dell’IA siano in ritardo rispetto allo sviluppo di sistemi sempre più capaci. Nelle ultime settimane, il dibattito si è incentrato sulla possibilità e la necessità di auto-regolamentazione del settore, con gli scettici che si chiedono se i dirigenti che invitano alla cautela possano avere secondi fini, come la definizione di regole che preservino la leadership competitiva di particolari aziende.
Non sono previste regole vincolanti
Gli organizzatori non hanno mai inquadrato l’incontro scozzese come una negoziazione. Secondo ABC News, dall'incontro non dovrebbero scaturire accordi vincolanti. Il suo scopo, almeno nominalmente, è esplorativo: se un insieme di principi condivisi può guidare il modo in cui l’intelligenza artificiale viene applicata oltre i confini e tra i settori.
Buckingham Palace ha affermato che le discussioni valuteranno se l’intelligenza artificiale possa essere guidata “non semplicemente come motore di capacità ed efficienza, ma come uno strumento che sostiene la dignità umana e contribuisce alla prosperità sia delle persone che del pianeta”.
Questa impostazione riflette un tema su cui il Re è tornato più volte: la questione non è solo se l’intelligenza artificiale può essere resa sicura, ma a cosa dovrebbe servire. Le osservazioni di giovedì hanno trasformato questo punto in un avvertimento sulla proprietà e sul controllo, un'enfasi notevolmente diversa dai timori incentrati sulle capacità che dominano la maggior parte delle discussioni sui rischi dell'IA.
Cosa succede dopo
È improbabile che il vertice produca una politica autonoma, ma aggiunge slancio a una serie di sforzi ufficiali già in corso. Il Regno Unito si è posizionato come convocatore sulla sicurezza dell’intelligenza artificiale sin dai suoi precedenti vertici sull’intelligenza artificiale, e la presenza di un ministro dedicato all’intelligenza artificiale segnala che il governo intende rimanere impegnato con gli sviluppatori di intelligenza artificiale sia statunitensi che cinesi.
Per le aziende presenti nella sala il calcolo è delicato. Nvidia, DeepMind e OpenAI devono affrontare pressioni commerciali per fornire sistemi sempre più capaci, anche se i loro stessi ricercatori pubblicano avvertimenti su ciò che tali sistemi potrebbero eventualmente fare. Una convocazione reale non risolve quella tensione, ma garantisce che la tensione rimanga visibile.
Il messaggio centrale del Re, secondo cui le misure di sicurezza devono arrivare prima che la tecnologia sfugga alla capacità di chiunque di governarla, arriva in una settimana in cui il discorso sulla sicurezza del settore è stato insolitamente forte, dalla divulgazione di OpenAI di molteplici incidenti di sicurezza che coinvolgono i suoi stessi modelli a una crescente disputa pubblica tra la leadership dell'intelligenza artificiale di Microsoft e Anthropic su come dovrebbero essere progettati i sistemi di intelligenza artificiale.
Resta da vedere se l'incontro di giovedì si tradurrà in qualcosa di più concreto. Ma con i leader del produttore di chip più prezioso al mondo e dei laboratori di intelligenza artificiale più importanti seduti in una casa di campagna scozzese, concordi come minimo sul fatto che la posta in gioco è esistenziale, la conversazione su chi controlla l’intelligenza artificiale, e a beneficio di chi, è diventata decisamente allo scoperto.
---
Rimani Aggiornato sull'IALe ultime notizie, analisi e scoperte sull'intelligenza artificiale — tutto in un posto.
Leggi altre notizie sull'IA →
