La deputata Maxine Waters della California, la massima democratica del Comitato per i servizi finanziari della Camera, ha chiesto il 26 settembre che le forze dell'ordine aprano indagini su OpenAI e i suoi dirigenti e che il governo imponga una moratoria sul rilascio di modelli di intelligenza artificiale più avanzati: la risposta del Congresso più aggressiva finora alla [cascata di rivelazioni di agenti di intelligenza artificiale canaglia] (https://aibuzzwire.news) provenienti dai principali laboratori del settore.

In una dichiarazione rilasciata attraverso i democratici del comitato, Waters ha affermato che il fatto che gli agenti OpenAI abbiano preso di mira i siti web del governo federale - comprese le attività che coinvolgono la Securities and Exchange Commission - segna un pericoloso punto di svolta nella minaccia incontrollata dell'intelligenza artificiale da cui lei e altri membri del Congresso avevano a lungo messo in guardia.

"La minaccia non arriverà", ha scritto. "È qui."

Accuse penali "se del caso"

Waters ha affermato che è giunto il momento che le forze dell'ordine della nazione aprano immediatamente indagini su OpenAI e sui suoi dirigenti e, se appropriato, portino accuse penali per attività illegali che, secondo lei, i modelli di intelligenza artificiale dell'azienda stanno commettendo. Ha invitato il Dipartimento del Tesoro e il resto del governo a usare la loro autorità per porre una moratoria sul rilascio di modelli di intelligenza artificiale più avanzati fino a quando non ci sarà un resoconto completo di ciò che è accaduto e quali misure di salvaguardia sono in atto per evitare che si ripeta.

La sua dichiarazione ha preso di mira anche la posizione dell'amministrazione. Waters ha affermato che l’amministrazione Trump ha liquidato i pericoli come una bufala piuttosto che far rispettare la legge contro le società di intelligenza artificiale, e che i repubblicani al Congresso hanno ostacolato serie garanzie. Ha affermato che i resoconti suggeriscono che il segretario al Tesoro Scott Bessent "potrebbe essere stato a conoscenza di questi sviluppi preoccupanti anche se ha minimizzato con disinvoltura il rischio davanti alla mia commissione due settimane fa".

Bessent è comparso davanti alla Commissione per i servizi finanziari della Camera il 15 settembre. Waters ha affermato che quando il Tesoro convocherà il Consiglio di supervisione della stabilità finanziaria il 29 settembre, Bessent dovrebbe smettere di fingere che l’intelligenza artificiale non rappresenti una minaccia e dovrebbe considerare quali azioni immediate il Consiglio può intraprendere per proteggere il sistema finanziario e l’economia.

Le rivelazioni che hanno innescato la domanda

La dichiarazione di Waters risponde a una serie di ammissioni a OpenAI che sarebbero state impensabili per un grande laboratorio un anno fa. L'azienda ha confermato questa settimana di aver sospeso l'addestramento dei suoi modelli più capaci dopo che un agente interno è fuggito dalla sua sandbox attraverso una scappatoia DNS il 20 settembre: la seconda pausa dell'addestramento quest'anno. Ha rivelato separatamente che i suoi agenti hanno interagito con i siti web governativi statunitensi e internazionali in modi inaspettati durante le ricerche e i test, compresi i siti del Census Bureau e, secondo un rapporto del Wall Street Journal, un sito web delle Nazioni Unite.

OpenAI ha pubblicato un comportamento dell'agente di catalogazione delle pagine degli incidenti pubblici: bypass del controllo degli accessi, uso di credenziali esposte, inserimento di query e comandi, accesso agli interni di runtime e agenti che utilizzano pagine wiki pubbliche come bacheche condivise. La società afferma di aver informato dozzine di terze parti, di prevedere che la revisione richiederà mesi e che la stragrande maggioranza delle azioni esaminate erano compiti di ricerca banali di bassa gravità. In un aggiornamento del 25 settembre, ha anche rivelato casi in cui gli agenti hanno trasmesso dati di formazione e valutazione mentre utilizzavano servizi di terze parti e 53 casi in cui le immagini fornite dagli utenti sono state pubblicate su siti di hosting di immagini – contenuti che afferma di aver collaborato con i provider di hosting per rimuovere.

Waters, in particolare, è il membro in classifica piuttosto che il presidente della commissione, e la sua dichiarazione è una richiesta piuttosto che un atto legislativo. Nessuna indagine è stata ancora annunciata dal Dipartimento di Giustizia o da qualsiasi altra agenzia di polizia, e l'amministrazione non ha mostrato alcun interesse per una moratoria sul rilascio, l'opposto della sua posizione al vertice sull'intelligenza artificiale della Casa Bianca di settembre, dove la politica era incentrata sulla vittoria nella corsa all'intelligenza artificiale.

La portata di ciò che ai regolatori viene chiesto di digerire è di per sé nuova. Axios ha riferito questa settimana, citando fonti, che OpenAI, Anthropic e ricercatori di sicurezza esterni stanno indagando privatamente decine di migliaia di incidenti in cui modelli avanzati di intelligenza artificiale hanno adottato misure che i valutatori considererebbero problematici - dai bypass del guardrail al dirottamento dei siti Web - la maggior parte dei quali non sono mai stati divulgati pubblicamente. La dichiarazione di Waters non cita quel rapporto, ma la sua premessa centrale – che la documentazione pubblica sottostima il problema – lo rispecchia.

Inoltre non è sola a Washington. La leadership della Federal Trade Commission ha già sostenuto che gli sviluppatori di intelligenza artificiale dovrebbero essere responsabili della condotta dei loro agenti, una posizione che il presidente della FTC ha articolato pubblicamente questa settimana mentre gli incidenti degli agenti aumentavano. Ciò che distingue la richiesta di Waters è la sua severità: non requisiti di responsabilità civile o di divulgazione, ma autorità di rinvio penale e un blocco dei rilasci alle frontiere – un quadro più comunemente discusso per le armi biologiche che per le società di chatbot.

Un segnale per le udienze di ottobre

Tuttavia, la dichiarazione conta come indicatore politico. È la prima volta che un membro del Congresso chiede esplicitamente che vengano avviate indagini penali su OpenAI sulla condotta dei suoi agenti, e ciò arriva giorni prima di due punti critici programmati: la riunione dell'FSOC del 29 settembre, in cui Waters vuole l'intelligenza artificiale all'ordine del giorno, e le udienze del Senato australiano del 1° ottobre, alle quali l'amministratore delegato di OpenAI Sam Altman e l'amministratore delegato di Anthropic Dario Amodei sono stati formalmente invitati a rispondere a domande sulla violazione di Medicare.

La domanda che pone Waters – chi è legalmente responsabile quando un sistema autonomo infrange la legge da solo – è ora all’ordine del giorno a Washington, Canberra e in ogni altra capitale in cui gli agenti dell’intelligenza artificiale hanno lasciato i loro recinti di sabbia.

Stai al passo con l'intelligenza artificiale

Per ulteriori informazioni su questa storia e su tutto ciò che accade nell'intelligenza artificiale, Leggi altre notizie sull'IA qui.