Geoffrey Hinton, il premio Nobel ampiamente conosciuto come il “Padrino dell’intelligenza artificiale”, questa settimana ha lanciato uno dei suoi avvertimenti più duri ai legislatori statunitensi: il Congresso ha circa un anno per mettere misure di salvaguardia significative sull’intelligenza artificiale prima che la tecnologia vada oltre il controllo umano. Lo scienziato informatico britannico-canadese ha fatto queste osservazioni il 16 settembre durante un briefing del Senato a porte chiuse a Capitol Hill, secondo NBC News.
"Forse un anno, ma non molto più di un anno", ha detto Hinton alla sala dei legislatori, secondo il resoconto dell'incontro della NBC. Il briefing è stato convocato dal senatore Bernie Sanders e ha visto la partecipazione anche del fisico del MIT Max Tegmark, co-fondatore del Future of Life Institute, e della ricercatrice sulla sicurezza dell’intelligenza artificiale Ajeya Cotra, secondo molteplici resoconti della sessione.
Il nocciolo dell'avvertimento: l'intelligenza artificiale che costruisce l'intelligenza artificiale
L'argomentazione di Hinton era incentrata su uno specifico traguardo tecnico piuttosto che su un ipotetico lontano. "L'intelligenza artificiale ha ormai raggiunto il punto in cui l'intelligenza artificiale sta progettando un'intelligenza artificiale migliore", ha affermato, secondo i rapporti del briefing. "Si chiama auto-miglioramento ricorsivo... andrà fuori controllo a meno che non facciamo qualcosa."
Ha anche detto ai legislatori che le tempistiche degli esperti per la superintelligenza sono crollate negli ultimi dieci anni. "Se guardi le previsioni su quando avremo la superintelligenza, forse 30 anni, forse 50 anni", ha detto Hinton, secondo NBC News. "Poi sono passati forse 10 anni, forse 20 anni. Ora la gente dice, molti ricercatori dicono solo pochi anni."
Hinton, professore emerito all’Università di Toronto che ha condiviso il Premio Nobel per la fisica nel 2024 per il lavoro fondamentale sulle reti neurali, ha lasciato Google nel 2023 e da allora è diventato il critico interno più eminente del settore, avvertendo che i sistemi che ha contribuito a creare potrebbero finire per sovvertire e soppiantare i loro creatori.
Scetticismo nei confronti del "Kill Switch"
Pur sollecitando una rapida regolamentazione, Hinton ha espresso dubbi su una delle proposte più discusse: un mandato federale che consentirebbe al governo di chiudere pericolosi sistemi di intelligenza artificiale. Ha detto ai legislatori che un simile “kill switch” non reggerebbe a lungo termine, secondo la CNN.
Il suo scetticismo è arrivato la stessa settimana in cui il senatore Rand Paul ha impedito che un progetto di legge repubblicano sul kill switch sull’intelligenza artificiale venisse accelerato al Senato – un episodio che illustra quanto sia ancora lontana dall’approvazione anche una legislazione minima sul guardrail. Il senatore John Kennedy della Louisiana, che ha partecipato a parte del briefing, ha detto al Washington Sun di aver apprezzato la discussione ma di non aver visto alcun segno che il Senato avrebbe agito, aggiungendo che si aspetta che la prossima mossa arrivi dalla Casa Bianca, sottolineando che il segretario al Tesoro Scott Bessent sta spingendo per un quadro di sicurezza.
La vista dall'altra parte del corridoio non era molto più soleggiata. Il senatore Rick Scott della Florida ha detto in un'intervista a NewsNation che le aziende devono regolamentarsi da sole: "Non diventeremo abbastanza intelligenti da regolamentarle. Non riusciremo a fare qualcosa quassù", ha detto, come riportato dal Washington Sun.
Alcuni democratici hanno spinto nella direzione opposta. Il rappresentante Yassamin Ansari dell'Arizona, che ha partecipato al briefing, ha scritto su X che l'intelligenza artificiale "può e continuerà ad andare oltre il controllo umano" e che "la nostra possibilità di regolamentarla sta scomparendo rapidamente. Dobbiamo fermarci ORA".
Una settimana di colpi di frusta per la sicurezza dell'IA
Il briefing ha coronato un periodo tumultuoso per il dibattito sulla governance dell’IA. Giorni prima, il CEO di Anthropic, Dario Amodei, aveva pubblicato un saggio in cui invitava i laboratori di frontiera a velocizzare lo sviluppo, avvertendo dei rischi derivanti dalla perdita di controllo al bioterrorismo – una posizione sostenuta pubblicamente da altri leader di laboratorio, secondo rapporti diffusi. Lo stesso giorno in cui Hinton si è rivolto ai senatori, eminenti ricercatori sull’intelligenza artificiale, tra cui Andrew Ng, hanno pubblicamente respinto le preoccupazioni sull’estinzione come esagerate, sottolineando un campo che sta discutendo con se stesso in pubblico.
A Capitol Hill l’attività è stata più rumorosa dell’output. Il senatore Cory Booker ha invitato il presidente Trump a convocare una sessione speciale del Congresso sull’intelligenza artificiale, mentre un bipartisan Problem Solvers Caucus ha annunciato questa settimana un nuovo gruppo di lavoro sull’intelligenza artificiale e sulle tecnologie emergenti. Nessuno di questi ha ancora prodotto una legge federale vincolante.
Perché è importante l'inquadramento di un anno
Gli avvertimenti basati sulle scadenze da parte dei pionieri dell’intelligenza artificiale sono diventati routine, ma la specificità della sequenza temporale di Hinton – consegnata direttamente alle persone con autorità di legiferare, in una stanza esclusa ai dirigenti del settore – segna un cambiamento di tono. I precedenti avvertimenti dei ricercatori hanno generalmente proiettato il rischio su orizzonti di decenni; una finestra di un anno implica risposte politiche progettate per l’attuale Congresso, non per quelli futuri.
Inoltre acuisce il problema politico. Come dimostrano lo scetticismo di Hinton riguardo al kill switch e il blocco procedurale del senatore Paul, non c'è consenso nemmeno tra le figure attente alla sicurezza su quali interventi potrebbero funzionare. Hinton ha sostenuto che la situazione internazionale – in particolare la concorrenza con la Cina – rende politicamente fragili i rallentamenti unilaterali, una tensione che finora ha ostacolato le proposte più serie.
Ciò che accadrà dopo è, secondo l'orologio di Hinton, questione di mesi. Se il briefing cambierà tale calcolo dipende da un Senato che, secondo i resoconti dei suoi stessi membri, attualmente non si sta muovendo affatto.
Stai al passo con l'intelligenza artificiale
La politica in materia di intelligenza artificiale si sta muovendo rapidamente, così come tutto il resto nel settore. Per ulteriori notizie dell'ultima ora sull'intelligenza artificiale, aggiornamenti normativi e analisi, leggi altre notizie sull'intelligenza artificiale →.
---
Rimani Aggiornato sull'IALe ultime notizie, analisi e scoperte sull'intelligenza artificiale — tutto in un posto.
Leggi altre notizie sull'IA →
