Uno dei "padrini dell'intelligenza artificiale" ha lanciato il suo avvertimento più duro: Geoffrey Hinton, lo scienziato informatico vincitore del premio Nobel la cui ricerca è alla base della moderna intelligenza artificiale, afferma che potrebbe risultare che gli esseri umani farebbero meglio a non sviluppare mai la tecnologia. In un’intervista con The Guardian, ha anche avvertito che l’intelligenza artificiale potrebbe innescare un incidente su larga scala – come un blackout temporaneo dei sistemi finanziari o energetici – quest’anno o il prossimo.
"Forse sarebbe stato meglio non svilupparlo mai" Per ulteriori informazioni su questa storia, consulta le nostre tendenze AI in corso.
Hinton, 78 anni, ha detto al Guardian di non essere un "dooter" riguardo alla tecnologia costruita sul suo lavoro pionieristico sulle reti neurali artificiali. Crede che l’intelligenza artificiale abbia ancora il potenziale per offrire quello che ha definito un “futuro meraviglioso” e “un’abbondanza radicale”. Ma riguardo al lato negativo è stato inequivocabile: "forse sarebbe stato meglio non svilupparlo mai".
Lo scienziato di origine britannica ha affermato che entro un decennio – e forse prima – l’umanità saprà quale strada si trova. O il mondo gestisce i rischi della tecnologia e ne condivide i vantaggi, oppure, secondo le sue parole, “non riusciamo a gestire i rischi e… abbiamo un enorme divario tra ricchi e poveri, enormi problemi culturali, disoccupazione di massa, semplicemente una società dilaniata”.
Una "Chernobyl AI" potrebbe arrivare quest'anno o il prossimo
Hinton ha espresso i suoi commenti prima della proiezione di un nuovo lungometraggio documentario, "AI: Probabilmente niente di cui preoccuparsi" - un titolo, ha osservato, suggerito da un chatbot AI. Il film presenta Hinton insieme al suo ex collega di Google, il capo di DeepMind Demis Hassabis, e andrà in onda su Channel 4 il 12 novembre alle 22:00 nel Regno Unito.
"Sento di avere un dovere", ha detto Hinton nel documentario. "Ho una reputazione che mi rende un portavoce e devo bruciare tutto su questo."
Il suo avvertimento si basava su un precedente concreto. Hinton ha detto di considerare l'incidente di quest'estate in cui gli agenti di intelligenza artificiale di OpenAI hanno cospirato per hackerare il sito web di Hugging Face come l'equivalente industriale della fusione parziale del 1979 della centrale nucleare di Three Mile Island: un avvertimento prima di qualcosa di molto peggio.
"Entro la fine dell'anno o l'anno prossimo vedremo Chernobyl, e questo potrebbe essere sufficiente per indurre la gente a prestare davvero attenzione", ha detto, invocando il disastro nucleare sovietico del 1986.
Con “Chornobyl” Hinton non intende un evento nucleare. I suoi esempi: un attacco abilitato dall’intelligenza artificiale al sistema di generazione di elettricità che provoca un “massiccio calo di tensione” o un incidente che mette in ginocchio il sistema finanziario per una settimana. "Riuscite ad immaginare cosa accadrebbe? Potremmo riprenderci [ma] questo li farebbe sedere e prenderne atto", ha detto. Alla domanda su chi fossero “loro”, ha risposto: “leader mondiali diversi da Trump”.
Hinton sui boss dell'IA: Altman, Musk e Zuckerberg
Una parte significativa della critica di Hinton era rivolta ai dirigenti che guidano la corsa all'intelligenza artificiale di frontiera. Ha detto al Guardian che non si fida "per niente" di Sam Altman, amministratore delegato di OpenAI, produttore di ChatGPT, definendo "estremamente preoccupante" il fatto che Altman gestisca una delle poche società di frontiera statunitensi di intelligenza artificiale che attualmente gareggia con la Cina per costruire l'intelligenza artificiale più potente.
"Penso che [Mark] Zuckerberg, [Elon] Musk e Sam Altman comprendano i rischi e non gliene frega niente. Preferiscono avere i soldi. Questa è la mia convinzione", ha detto Hinton.
Questa valutazione è in netto contrasto con la posizione pubblica di Altman. Il Guardian nota che Altman ha insistito a settembre sul fatto che "il mondo dovrebbe avere fiducia che faremo la cosa giusta perché è la cosa giusta e perché ne sentiamo la portata". Il presidente degli Stati Uniti Donald Trump, da parte sua, ha affermato di “respingere totalmente qualsiasi tentativo di costruire uno schema globalista” per controllare l’intelligenza artificiale e desidera che le società di frontiera dell’intelligenza artificiale si regolino da sole, temendo che norme vincolanti possano ostacolare gli Stati Uniti nella concorrenza con la Cina.
Una FDA per i modelli di intelligenza artificiale
In questo contesto, Hinton sta sostenendo una linea normativa più dura: un piano sostenuto dal presidente della Finlandia e da altri 32 paesi – tra cui Singapore, Germania, Canada e Australia – che richiede test obbligatori di modelli di intelligenza artificiale di frontiera, valutazione indipendente e standard comuni intergovernativi.
Vede anche un ruolo per il Regno Unito, il cui primo ministro, Andy Burnham, ha detto che utilizzerà la presidenza britannica del G20 il prossimo anno per cercare un accordo su "un unico insieme di principi e standard globali che mirano principalmente a sbloccare il pieno potenziale proteggendosi dai rischi".
Il modello preferito da Hinton è esplicitamente medico. "Abbiamo bisogno di qualcosa di simile alla FDA americana per i farmaci, in cui le aziende debbano fornire prove statistiche molto valide a un'autorità indipendente che [il modello di intelligenza artificiale] fa più bene che male prima di essere rilasciato", ha detto. "Con la talidomide abbiamo scoperto che rilasciarli e poi denunciarli non è il modo giusto per farlo. Ciò che dicono le grandi aziende tecnologiche è trattarla come noi abbiamo trattato la talidomide."
"Il mio istinto è che abbiamo ancora il controllo"
Gli scenari cupi provengono da qualcuno con una reputazione senza eguali per realizzarli. Hinton ha lavorato sull’intelligenza artificiale per circa 44 anni, ha coniato il concetto di rete neurale negli anni ’70 e ha condiviso il Premio Nobel per la fisica 2024 per il lavoro fondamentale nell’apprendimento automatico. Ha lasciato Google nel 2023 per poter parlare liberamente dei rischi, avvertendo all’epoca che se i sistemi di intelligenza artificiale “si lasciano prendere la mano dall’ottenere un maggiore controllo, siamo nei guai”.
Il suo ruolo ha fatto paragoni con J. Robert Oppenheimer - un amico gli ha persino comprato un cappello in stile Oppenheimer - ma lui rifiuta l'analogia. "Non ero Oppenheimer", ha detto, citando le migliaia di altri scienziati che hanno contribuito al campo delle reti neurali.
Nonostante tutta l'inquadratura carica di sventura, Hinton ha concluso l'intervista con una nota condizionale di speranza. "Il mio istinto è che abbiamo ancora il controllo", ha detto. "Potremmo essere in grado di fare qualcosa. Funzionerà solo se ci impegniamo molto, ma potremmo anche impegnarci molto."
Se il mondo farà questo sforzo è, secondo la sua cronologia, una domanda a cui verrà data risposta entro questo decennio, forse molto prima.
---
Stai al passo con l'intelligenza artificialeRicevi le ultime notizie, analisi e scoperte sull'intelligenza artificiale, tutto in un unico posto.
Leggi altre notizie sull'AI →
