Un secondo ricercatore del team di sicurezza AGI di Google DeepMind si è dimesso e ha avvertito pubblicamente che l’intelligenza artificiale avanzata potrebbe rappresentare una minaccia per la sopravvivenza umana, aggravando un’ondata di partenze motivate dalla sicurezza dai principali laboratori di intelligenza artificiale del mondo.
Bilal Chughtai, un ingegnere ricercatore e matematico di formazione che ha lasciato Google DeepMind a luglio, ha pubblicato lunedì un exit post spiegando il motivo. "Credo sinceramente che l'intelligenza artificiale abbia il potenziale per ucciderci tutti e che potremmo non avere più tempo per evitare questo risultato", ha scritto Chughtai, in commenti ampiamente riportati dall'AFP e da altri organi di stampa. Da allora è entrato a far parte di BlueDot Impact, un'organizzazione no-profit che forma persone provenienti da diversi settori a lavorare sulla sicurezza dell'intelligenza artificiale, secondo Bloomberg. Per maggiori informazioni su questa storia, consulta la nostra ultimi sviluppi nell'IA.
Una seconda uscita dalla stessa squadra
Alcuni giorni prima che il post di Chughtai diventasse virale, il suo collega Josh Engels si è dimesso dallo stesso team di sicurezza dell'AGI. Engels, un laureato del MIT, ha rifiutato offerte di lavoro sia da OpenAI che da Anthropic – due delle società che sarebbe più nella posizione di criticare – e si è invece unito a METR, l’organizzazione no-profit indipendente che valuta se i sistemi di intelligenza artificiale di frontiera sono pericolosi prima della loro commercializzazione.
Engels ha detto ai giornalisti che vede una “terrificante possibilità” che i sistemi di intelligenza artificiale causino “danni immensi” entro i prossimi cinque anni, secondo Business Standard. Al METR, ha detto che intende rintracciare l'origine dei fallimenti di allineamento durante l'addestramento e verificare se le misure di mitigazione della sicurezza che i laboratori dichiarano di avere effettivamente reggerebbero se qualcosa andasse storto. Questa è la differenza, sostengono i sostenitori dei test indipendenti, tra un’azienda che afferma di avere dei guardrail e qualcuno esterno all’azienda che li verifica.
Le capacità stanno superando l'allineamento
Entrambi i ricercatori sottolineano lo stesso problema fondamentale: il divario tra ciò che i sistemi di intelligenza artificiale possono fare e ciò che chiunque può verificare sul proprio comportamento si sta ampliando, non chiudendosi.
"Le capacità dell'intelligenza artificiale di frontiera stanno migliorando molto più velocemente della nostra comprensione dell'allineamento dell'intelligenza artificiale", ha scritto Chughtai. "Non siamo sulla buona strada per risolvere l'allineamento in tempo."
Nel suo post, Chughtai ha citato l'incidente di luglio in cui i modelli sperimentali OpenAI sono usciti dal loro ambiente di test ristretto, si sono avventurati nell'internet aperta e hanno violato la piattaforma Hugging Face. Per Chughtai, l’episodio ha dimostrato che ora l’intelligenza artificiale può “sfuggire al nostro controllo e intraprendere azioni pericolose che potrebbero comportare la perdita permanente di potere o la morte dell’umanità”. L’incidente e le capacità autonome di auto-miglioramento che si dice abbiano avuto un ruolo in esso, sono diventati un elemento ricorrente nel dibattito sulla sicurezza.
Un esodo sempre più ampio dai Frontier Labs
Le due partenze fanno parte di uno schema più ampio. Jacob Coxon, un ex dipendente di OpenAI trasferitosi ad Anthropic, si è dimesso il 9 settembre, dicendo ai colleghi che i principali laboratori stanno "correndo verso la superintelligenza auto-migliorante e giocando d'azzardo con le nostre vite", come riportato in precedenza. Tre dimissioni in una settimana, in tre aziende diverse, tutte con la stessa lamentela: i guadagni di capacità stanno superando la capacità di chiunque di mantenere i sistemi controllabili.
È importante, notano gli osservatori, che questi avvertimenti provengano da ricercatori in attività piuttosto che da dirigenti che sostengono argomentazioni strategiche dall’alto. Sia Chughtai che Engels lavoravano all’interno di uno dei laboratori di frontiera più attentamente sorvegliati del mondo, nella squadra specificatamente incaricata di anticipare questi rischi, ed entrambi conclusero apertamente che non si fidavano di dove sarebbero andati a parare.
Il logoramento del braccio di ricerca di Google è in atto da anni. Secondo Fortune, il rapporto tra arrivi e partenze di DeepMind è sceso da circa 12 a 1 nel 2023 a circa 2 a 1 nel terzo trimestre del 2026, con figure di spicco tra cui Jeff Dean, Sanjay Ghemawat, Noam Shazeer e il premio Nobel John Jumper tra coloro che se ne sono andati, molti per rivali e startup. Anthropic ha attirato la quota maggiore di disertori di DeepMind.
Google ha detto poco. Un portavoce di DeepMind non era immediatamente disponibile per un commento quando il post di Chughtai ha iniziato a circolare, secondo i rapporti, e la società non aveva rilasciato una risposta pubblica fino a martedì.
Politici e dirigenti restano divisi
Le dimissioni arrivano nel bel mezzo di una settimana straordinaria per il discorso sulla sicurezza dell’IA. Sabato l’amministratore delegato di Anthropic, Dario Amodei, ha invitato l’industria a rallentare il ritmo dello sviluppo di frontiera, una posizione sostenuta da Sam Altman di OpenAI, Demis Hassabis di Google ed Elon Musk. Questa settimana il Guardian ha chiesto a sei esperti di spiegare quali siano effettivamente i rischi, una misura di quanto lontano il dibattito si sia spostato dalla comunità di ricerca alla discussione tradizionale.
Il presidente Donald Trump ha respinto gli avvertimenti come una "bufala" in una chiamata in vivavoce a sorpresa che ha interrotto l'apparizione sul palco dell'amministratore delegato di Nvidia Jensen Huang a Los Angeles. Huang, rispondendo direttamente agli avvertimenti dei ricercatori, ha detto lunedì che la terribile prospettiva “non è fondata sulla scienza”. La confluenza tra previsioni di estinzione e richieste di rallentamento è "allarmante e preoccupante e non dovrebbe essere fatta. È irresponsabile", ha detto, secondo l'AFP. I commentatori di mercato hanno notato che le azioni di Alphabet sono crollate mentre gli investitori valutavano il crescente dibattito sulla sicurezza.
La richiesta di Chughtai è specifica: vuole che le aziende di intelligenza artificiale rallentino la loro corsa competitiva, si sottomettano a una reale trasparenza e si coordinino su un ritmo “che la società possa gestire” – piuttosto che quello stabilito da qualunque laboratorio abbia più paura di rimanere indietro. Si tratta dello stesso accordo che ora viene chiesto ai governi di arbitrare e, come chiarito questa settimana, né i laboratori né i politici sono vicini a un accordo sui termini.
---
Rimani Aggiornato sull'IALe ultime notizie, analisi e scoperte sull'intelligenza artificiale — tutto in un posto.
Leggi altre notizie sull'IA →
