Un co-fondatore di Anthropic afferma che i governi potrebbero dover costringere le società di intelligenza artificiale a installare un “kill switch” – un meccanismo per spegnere completamente i sistemi di intelligenza artificiale – e che gli ispettori esterni dovrebbero essere in grado di verificare che funzioni effettivamente.
Jack Clark, uno dei sette fondatori del laboratorio di intelligenza artificiale da 965 miliardi di dollari, ha dichiarato alla BBC che mentre la maggior parte dei laboratori più importanti dispone già di metodi interni per "staccare la spina" ai sistemi pericolosi, la società "potrebbe eventualmente voler approvare delle regole" rendendo tali cambiamenti obbligatori e verificabili in modo indipendente. Per i lettori che seguono il più ampio dibattito sulla sicurezza dell’intelligenza artificiale, il suo intervento segna la proposta politica più concreta mai vista dall’interno di un laboratorio di frontiera durante una settimana di crescenti avvertimenti.
"Dovresti imporre alle aziende di avere definitivamente un kill switch? Questo kill switch è verificabile da una terza parte?" Clark ha detto nell'intervista con il giornalista tecnologico Kali Hays e l'editore economico Faisal Islam. "Penso che questo sia il tipo di cose che la società vorrà sapere e che alla fine potrebbe voler approvare delle regole."
"Stiamo lanciando dadi con rischi immensi"
Il commento più sorprendente di Clark è stato un rifiuto totale dello status quo. Alla domanda sulla traiettoria del settore, ha affermato che consentire all’intelligenza artificiale di continuare come un “settore totalmente non regolamentato” è stata una cattiva idea.
"Stiamo lanciando dadi con rischi immensi", ha detto. "E il punto è che dobbiamo cambiare il corso di questo settore."
A differenza di alcuni suoi colleghi, Clark ha rifiutato di dare un numero al rischio di estinzione umana. "Non penso che queste statistiche siano così utili", ha detto - in notevole contrasto con il ricercatore antropico Evan Hubinger, che la settimana scorsa ha affermato di credere personalmente che ci sia una probabilità superiore al 10% di estinzione umana a causa dell'intelligenza artificiale entro il prossimo decennio, e con il pioniere dell'intelligenza artificiale Geoffrey Hinton, che ha detto venerdì alla BBC che una stima del 10% "non era irragionevole".
Ciò che Clark non ha contestato è la direzione del viaggio. L’intelligenza artificiale è, come ha affermato nella stessa intervista, “ogni giorno più potente” – e ha sostenuto che i dettagli di qualsiasi requisito di chiusura, incluso chi lo verificherebbe e come, appartengono alla “conversazione politica più ampia” che si sta svolgendo attorno all’intelligenza artificiale.
Una proposta con slancio legislativo
La proposta di Clark non finisce nel vuoto. I legislatori statunitensi hanno già presentato una legislazione denominata Kill Switch Act, che richiederebbe agli sviluppatori di intelligenza artificiale di frontiera di integrare meccanismi di spegnimento nei loro sistemi: un disegno di legge che AI Buzz Wire ha coperto il mese scorso quando la sua urgenza è cresciuta in seguito agli incidenti degli agenti canaglia.
L’idea incontra anche aperto scetticismo. Nel Regno Unito, il ministro degli affari Jonathan Reynolds ha detto alla BBC di non trovare utile il concetto, dicendo che “non era proprio sicuro di cosa significherebbe in pratica”, e ha avvertito che un’eccessiva regolamentazione potrebbe lasciare il paese tagliato fuori dai modelli sviluppati all’estero.
Lo scenario: una guerra civile per la sicurezza e una IPO
I commenti di Clark coronano una settimana in cui la sicurezza dell'intelligenza artificiale è passata dall'argomento del seminario alle notizie in prima pagina. L'amministratore delegato di Anthropic, Dario Amodei, ha invitato nel fine settimana a rallentare il ritmo dello sviluppo di frontiera e a monitorarlo più da vicino, insistendo che qualsiasi pausa dovrebbe avvenire "senza sacrificare il vantaggio commerciale". Ha poi portato il caso al pubblico americano mainstream in un'intervista con Anderson Cooper della CNN, con lo stesso Coxon che è apparso sulla rete per reagire. Le osservazioni hanno fatto seguito a un post virale di dimissioni dell'ex ricercatore antropico Jacob Coxon che metteva in guardia sul destino dell'umanità, che a sua volta ha portato alla stima di estinzione di Hubinger. Il Guardian, da parte sua, ha esaminato il motivo per cui questo particolare avvertimento apocalittico è emerso laddove i precedenti erano svaniti.
Gli allarmi sono stati accolti con aperta derisione da parti del settore tecnologico. Il CEO di Hugging Face, Clement Delangue, ha deriso la decisione di rendere Coxon un portavoce del rischio di estinzione, scrivendo: "Mi dispiace, ma chiedere a Jacob del rischio di estinzione dell'IA è come chiedere al tuo ragazzo dell'AC del cambiamento climatico". Il CEO di Grindr, George Arison, è andato oltre, sostenendo che l’allarme è motivato da ragioni commerciali. "L'unico modo per giustificare queste valutazioni è affermare effettivamente: 'prenderò il controllo di ogni settore e prenderò il controllo di ogni lavoro, e la mia intelligenza artificiale farà tutto quel lavoro'", ha detto.
C’è anche un’enorme quantità di denaro che dipende dall’esito di questo dibattito. Anthropic si sta preparando per un'offerta pubblica iniziale con una valutazione di 965 miliardi di dollari, mentre OpenAI - recentemente valutata a 852 miliardi di dollari - si prevedeva che diventasse pubblica prima che il CEO Sam Altman dicesse venerdì che un'IPO non sarebbe avvenuta quest'anno a causa della controversia sulla sicurezza. Critici come Arison sostengono che la retorica catastrofica e la campagna di raccolta fondi sono due facce della stessa medaglia; La risposta di Clark è che l'industria deve cambiare rotta a prescindere.
Se un kill switch obbligatorio e verificabile diventerà mai legge dipenderà dai legislatori che finora hanno mostrato scarsa propensione a limitare un settore che sta alimentando l’economia statunitense. Ma per la prima volta, uno degli addetti ai lavori più potenti della tecnologia li invita esplicitamente a provarla.
---
Stai al passo con l'intelligenza artificialeRicevi le ultime notizie, analisi e scoperte sull'intelligenza artificiale, tutto in un unico posto.
Leggi altre notizie sull'AI →
