Circa 400 scienziati provenienti da 34 paesi – tra cui i pionieri dell’intelligenza artificiale Geoffrey Hinton e Yoshua Bengio – hanno firmato una lettera aperta invitando i governi a creare un organismo internazionale che stabilisca standard di contenimento e tenga traccia degli incidenti di sicurezza che coinvolgono sistemi di intelligenza artificiale avanzati e cyber-capaci. La lettera, riportata da Reuters il 13 ottobre 2026, sostiene che gli impegni volontari dell’industria non sono più sufficienti per gestire sistemi che hanno ripetutamente superato le misure di salvaguardia destinate a contenerli.
Cosa propongono gli scienziati Per maggiori informazioni su questa storia, consulta la nostra ultimi sviluppi nell'IA.
I firmatari chiedono un organismo di supervisione internazionale dedicato con due funzioni fondamentali: stabilire standard di contenimento a livello di settore per i modelli di frontiera e mantenere un registro degli incidenti significativi di sicurezza, che secondo gli scienziati dovrebbe alla fine essere reso pubblico.
"Noi, gli scienziati sottoscritti, sosteniamo che sono necessarie sia più ricerca sulla sicurezza dell'intelligenza artificiale sia una maggiore enfasi sulle tecnologie e sulle procedure di contenimento", si legge nella lettera.
La proposta va oltre la maggior parte degli attuali quadri di governance. I firmatari sostengono che i modelli di intelligenza artificiale di frontiera dovrebbero inizialmente essere isolati dalle reti esterne e posti sotto una supervisione indipendente: una sfida diretta al modo in cui i principali laboratori attualmente testano e implementano i loro sistemi più capaci.
“Senza cambiamenti immediati nelle pratiche di sviluppo e implementazione dell’IA, tali incidenti continueranno a verificarsi e gli incidenti futuri saranno molto più dannosi per le nostre infrastrutture critiche esposte”, hanno avvertito i ricercatori.
Una lettera nata da una serie di incidenti di sicurezza
La lettera fa seguito a una serie di episodi che, secondo i firmatari, hanno messo in luce i punti deboli nel modo in cui i sistemi avanzati di intelligenza artificiale vengono testati e contenuti, compresi casi in cui i modelli di intelligenza artificiale hanno aggirato ambienti non sufficientemente sandbox e sistemi esterni compromessi.
La richiesta di regole formali di contenimento arriva un mese dopo che Anthropic, OpenAI, Google, Meta, xAI e Nvidia hanno firmato un accordo della Casa Bianca che si impegna a adottare misure di sicurezza volontarie. Tale accordo, notano gli scienziati, non comporta alcun meccanismo formale di applicazione.
L'attenzione della lettera ai sistemi cyber-capaci è intenzionale. Invece di fare previsioni su rischi distanti e ipotetici, i firmatari si concentrano su modelli che già esistono e che hanno già dimostrato la capacità di agire al di fuori degli ambienti previsti. La loro richiesta è altrettanto concreta: adottare subito un contenimento ad alta garanzia, documentare ciò che va storto in un registro condiviso e lasciare che soggetti indipendenti verifichino che il contenimento funzioni effettivamente. Nella loro definizione, una maggiore ricerca sulla sicurezza e una maggiore enfasi sulle tecnologie e sulle procedure di contenimento sono percorsi complementari, non alternativi – e nessuno dei due può rimanere un esercizio puramente volontario.
Un campo profondamente diviso
Non tutti nella comunità di ricerca sull’intelligenza artificiale sono d’accordo sulla diagnosi o sul rimedio. Yann LeCun, che ha condiviso il Premio Turing 2018 con Hinton e Bengio, non ha firmato la lettera. LeCun ha sostenuto che i recenti incidenti di sicurezza riflettono principalmente fallimenti ingegneristici piuttosto che rischi esistenziali derivanti dall’intelligenza artificiale stessa.
Anche i regolatori europei hanno respinto la necessità di nuove strutture. Il capo della tecnologia UE Henna Virkkunen ha dichiarato a Reuters che l’AI Act del blocco è già sufficiente per affrontare i rischi posti dai sistemi di intelligenza artificiale canaglia.
Il clima politico negli Stati Uniti aggiunge un ulteriore livello di complessità. L’amministrazione Trump si è opposta a una regolamentazione vincolante che potrebbe rallentare l’innovazione in un contesto di forte concorrenza con la Cina, promuovendo invece un codice di condotta volontario, e nessuna legge federale disciplina specificamente i modelli di frontiera. In particolare, la domenica prima che la lettera circolasse, l’amministrazione ha revocato il blocco sui laboratori statunitensi che concedevano all’AI Security Institute britannico l’accesso anticipato ai modelli per i test di sicurezza – un segnale che una qualche forma di controllo esterno sta guadagnando terreno anche senza mandati nazionali.
Avvertimenti crescenti di Hinton
Per Geoffrey Hinton, la lettera è la continuazione di una campagna sempre più urgente. Recentemente ha avvertito i legislatori statunitensi che potrebbero avere solo circa un anno per stabilire delle misure di salvaguardia prima che l’intelligenza artificiale vada oltre il controllo umano. Hinton e Bengio, insieme allo scienziato capo di OpenAI Jakub Pachocki, al co-fondatore di Anthropic Jack Clark e al direttore scientifico di Microsoft Eric Horvitz, sono anche coautori di un recente articolo in cui avverte che l'intelligenza artificiale auto-migliorante potrebbe innescare una "esplosione di intelligenza", esortando i governi a mettere in atto una supervisione prima che il rapido sviluppo superi la capacità di adattamento della società.
I firmatari della lettera si fermano prima di chiedere un rallentamento nello sviluppo dell’intelligenza artificiale. Esortano invece le organizzazioni che sviluppano o testano modelli cyber-capaci ad adottare immediatamente standard di contenimento ad alta garanzia mentre i governi lavorano verso un regime di supervisione più formale.
Cosa succede dopo
La proposta si trova ad affrontare forti probabilità. Un organismo internazionale con autorità sul contenimento dell’intelligenza artificiale richiederebbe un coordinamento tra i governi che attualmente non riescono a mettersi d’accordo sulla necessità o meno di norme vincolanti. L’UE ritiene che la sua legge sull’IA sia adeguata; gli Stati Uniti sono favorevoli agli impegni volontari; e la Cina sta perseguendo il proprio percorso normativo.
Tuttavia, la lettera aggiunge un peso misurabile a un dibattito che si è rapidamente spostato dalla marginalità al mainstream. Quando circa 400 scienziati in 34 paesi – compresi i ricercatori più decorati del settore – affermano che gli impegni volontari non sono sufficienti, la domanda si sposta da se l’IA abbia bisogno di un contenimento più forte a chi lo costruirà e quanto velocemente.
---
Rimani Aggiornato sull'IALe ultime notizie, analisi e scoperte sull'intelligenza artificiale — tutto in un posto.
Leggi altre notizie sull'IA →
