Gli avvertimenti sulla sicurezza lanciati dai ricercatori antropici che hanno dominato il dibattito sull’intelligenza artificiale questa settimana hanno ora prodotto qualcosa di concreto a Washington: una spinta legislativa. Reuters ha riferito giovedì che i legislatori statunitensi chiedono nuove regole sull'intelligenza artificiale in risposta alle dichiarazioni dei ricercatori, mentre la rappresentante del Massachusetts Lori Trahan ha utilizzato un'intervista di giovedì mattina per dettagliare il suo Frontier Act, un disegno di legge che imporrebbe per la prima volta obblighi vincolanti agli sviluppatori di intelligenza artificiale di frontiera.

Intervenendo alla Morning Edition della WBUR, Trahan ha affermato che la reazione a Capitol Hill agli eventi di questa settimana è stata diversa da qualsiasi cosa avesse visto da quando ha iniziato a lavorare sulla regolamentazione dell'IA all'inizio di quest'anno. Per una copertura quotidiana delle mosse politiche sull'IA a Washington, Bruxelles e altrove, segui AI Buzz Wire, la tua fonte per le ultime notizie sull'IA e gli aggiornamenti normativi.

Cosa farebbe la legge sulla frontiera

Trahan, coautore del disegno di legge bipartisan, lo ha descritto come un insieme di “regole della strada” per una manciata di aziende i cui modelli potrebbero causare danni catastrofici. Il Frontier Act imporrebbe quattro cose, secondo la deputata: requisiti di trasparenza per gli sviluppatori di intelligenza artificiale di frontiera, segnalazione degli incidenti, verifica indipendente delle dichiarazioni di sicurezza del modello e quello che lei chiama un pulsante di pausa del governo se un modello presenta un rischio imminente di catastrofe.

"A livello base, dobbiamo mettere dei guardrail sui laboratori di frontiera", ha detto Trahan, inquadrando tali disposizioni come "pacchetti da tavolo" mentre il Congresso elabora la politica per i molti altri settori che l'intelligenza artificiale toccherà.

"Il sistema dell'onore": il caso di Trahan per le regole vincolanti

Il nocciolo della tesi di Trahan è che attualmente nulla vincola gli sviluppatori dei più potenti sistemi di intelligenza artificiale. "Oggi, l'unica cosa che abbiamo in atto è il sistema d'onore", ha detto. "La tecnologia più potente della storia umana è regolata dai suoi sviluppatori."

Ha riconosciuto lo scetticismo tra i colleghi, dicendo che alcuni vedono gli avvertimenti della settimana come allarmistici o troppo estremi. Ma ha descritto un rapido cambiamento nell'umore della Camera: "Il mio telefono non ha smesso di squillare da quando Jacob Coxon ha fischiato. Penso che i miei colleghi siano spaventati. Stanno sentendo i loro elettori che vogliono che agiamo... Questa settimana ha appena raggiunto un punto critico."

In particolare, ha affermato che la pressione non è limitata a un partito. "Non si tratta solo dei democratici", ha detto Trahan, sottolineando che "i repubblicani del MAGA ieri hanno chiesto un'azione bipartisan. Il terreno è davvero cambiato".

Gli avvertimenti che hanno dato inizio a tutto

Il fermento legislativo è riconducibile direttamente alle dichiarazioni di due ricercatori antropici. Jacob Coxon ha lasciato l'azienda martedì, scrivendo sui social media che Anthropic "sta correndo dritto verso la superintelligenza auto-migliorante e giocando d'azzardo con le nostre vite". Il collega ricercatore antropico Evan Hubinger lo ha sostenuto pubblicamente, scrivendo: "Jacob ha ragione qui... Crediamo davvero sinceramente che l'intelligenza artificiale potrebbe uccidere tutti gli esseri umani! Personalmente penso che sarà> 10% entro il prossimo decennio."

La storia ha metastatizzato nel corso della settimana. The Hill ha riferito che i legislatori hanno lanciato l'allarme sui pericoli dell'intelligenza artificiale dopo gli avvertimenti, la BBC e la CBS hanno coperto la stima di probabilità di Hubinger e NBC News ha riferito giovedì di due ricercatori sull'intelligenza artificiale che hanno lasciato Anthropic e Google per problemi di sicurezza, citando uno che ha detto "non ci sono adulti nella stanza". Reuters ha riferito giovedì che i legislatori stanno ora chiedendo nuove regole, e sono circolate anche notizie secondo cui OpenAI ha cercato norme statunitensi che regolino potenti modelli di intelligenza artificiale.

Dalle diffide al file della fattura

Ciò che rende questa settimana diversa dalle precedenti controversie sulla sicurezza è la velocità della risposta politica. Le rivelazioni di Anthropic di questa settimana – un rapporto di intelligence sulle minacce che descrive in dettaglio le campagne di abuso interrotte, compresi i possibili tentativi di utilizzare Claude per sviluppare armi biologiche – hanno dato agli avvertimenti una base probatoria che mancava al dibattito precedente, e i legislatori sembrano muoversi mentre il momento è valido.

La strada da percorrere per la legislazione sull'IA

Le prospettive per la legge sulla frontiera rimangono incerte. Il Congresso ha lottato per anni per approvare una legislazione completa sull’IA, e qualsiasi disegno di legge che riguardi la verifica obbligatoria o un’autorità di pausa federale si troverebbe ad affrontare un’intensa pressione da parte dei laboratori che regolerebbe, insieme a lotte giurisdizionali tra i comitati. A margine, gli stati non stanno aspettando: il governatore della California Gavin Newsom ha firmato questa settimana una serie di progetti di legge sulla sicurezza dell’intelligenza artificiale, secondo il Los Angeles Times, mantenendo alta la pressione per un quadro federale che impedisca un mosaico di regole statali.

Per ora la dinamica si è invertita. Per la prima volta in questo Congresso, coloro che costruiscono modelli di frontiera chiedono pubblicamente restrizioni sulla propria industria – e i legislatori le stanno elaborando.

Se questo allineamento produrrà leggi o semplicemente titoli sui giornali dipenderà dai prossimi mesi. Ma la settimana ha dimostrato qualcosa che né i laboratori né i loro critici possono ignorare: la sicurezza dell’intelligenza artificiale è passata dall’aula dei seminari al conteggio dei voti, e i membri che contano i voti dicono che sono finalmente i loro elettori a chiedere loro di agire.

AI Buzz Wire continuerà a seguire il Frontier Act mentre passa al Congresso.

---

Stai al passo con l'intelligenza artificiale

Ricevi le ultime notizie, analisi e scoperte sull'intelligenza artificiale, tutto in un unico posto.

Leggi altre notizie sull'AI →