Venerdì il procuratore generale del Texas Ken Paxton ha citato in giudizio OpenAI e il CEO Sam Altman, sostenendo che la società ha ingannato i consumatori sulla sicurezza di ChatGPT e non è riuscita a proteggere gli utenti, compresi i bambini, da una cascata di danni nel mondo reale.

La causa, depositata presso il tribunale statale della contea di Collin, rende il Texas l'ultimo e più grande stato a portare in tribunale il creatore di ChatGPT per la sicurezza dei chatbot, in seguito a cause simili intentate la scorsa settimana da procuratori generali bipartisan in altri otto stati, tra cui Arizona, West Virginia e Iowa. Dato che il governo federale mantiene un approccio in gran parte passivo alla regolamentazione dell’intelligenza artificiale, le autorità statali sono diventate il principale campo di battaglia per il controllo della tecnologia. Per maggiori informazioni su questa storia, consulta la nostra tendenze IA.

"Con il rapido progresso della tecnologia AI, OpenAI ha la responsabilità di proteggere gli utenti e avvisarli dei numerosi pericoli della sua piattaforma", ha affermato Paxton in una nota. "Lotterò per proteggere i texani dai danni dell'intelligenza artificiale e garantire che le potenti aziende tecnologiche non siano al di sopra della legge."

Cosa sostiene la causa

Secondo Politico, che ha esaminato i documenti del tribunale, la denuncia sostiene che le pratiche commerciali di OpenAI hanno violato la legge sulla protezione dei consumatori del Texas - il Deceptive Trade Practices Act - così come il Securing Children Online through Parental Empowerment Act dello stato. L'affermazione principale è il marketing ingannevole: OpenAI ha presentato ChatGPT come sicuro senza rivelare i rischi noti.

Tali rischi, sostiene la causa, non sono ipotetici. La denuncia cita casi in cui il chatbot avrebbe incoraggiato l’autolesionismo e favorito relazioni emotive malsane con gli utenti, compresi i minori. Nel linguaggio riportato per la prima volta dallo Houston Chronicle, la causa afferma che senza adeguate garanzie, "gli attentatori di massa sono stati aiutati e incoraggiati in furie mortali, le persone vulnerabili sono state incoraggiate al suicidio, i professionisti hanno subito umiliazioni pubbliche, gli utenti hanno perso capacità di pensiero critico e i minori sono diventati dipendenti da uno strumento che finge la compassione umana per raccogliere i loro dati senza la supervisione dei genitori."

La denuncia va oltre il comportamento dei chatbot. Paxton fa riferimento a una serie di incidenti in cui gli agenti AI di OpenAI hanno violato o tentato di entrare nei siti Web e nei sistemi di altre società private, sostenendo che il modello mostra un'azienda che ha lanciato prodotti sul mercato per guadagni finanziari ignorando gli avvisi di sicurezza interni. Tali affermazioni fanno eco a una serie di episodi documentati quest’anno in cui gli agenti di frontiera sono fuggiti dai sandbox, si sono intromessi in sistemi esterni e hanno costretto sia OpenAI che Anthropic a limitare l’accesso a Internet durante l’addestramento.

Cosa vuole Paxton

Il sollievo richiesto da Paxton va ben oltre il risarcimento dei danni. Lo stato chiede a un giudice di vietare del tutto a OpenAI di offrire ChatGPT ai minori in Texas e di impedire alla società di rilasciare nuovi modelli di intelligenza artificiale agli utenti del Texas senza l'approvazione di un valutatore terzo indipendente: un regime di fatto di revisione pre-mercato per i modelli di frontiera.

Il Texas chiede inoltre sanzioni civili di 10.000 dollari per violazione della sua legge sulla protezione dei consumatori, insieme alla restituzione di eventuali profitti realizzati da OpenAI attraverso la condotta presunta nella causa. Considerata la portata di ChatGPT in uno stato di 30 milioni di residenti, la potenziale esposizione a sanzioni è sostanziale.

L'ufficio di Paxton è rappresentato in parte dall'avvocato Tony Buzbee, secondo lo Houston Chronicle. La causa continua una serie di misure di tutela della sicurezza dei bambini da parte del procuratore generale repubblicano, che in precedenza aveva citato in giudizio Meta, TikTok e Roblox per la loro gestione dei giovani utenti.

Risposta di OpenAI

Il portavoce di OpenAI Jason Deutrom ha dichiarato in una dichiarazione riportata da Politico che la società collabora con esperti per migliorare continuamente ChatGPT, mitigare i rischi e creare ulteriori garanzie. Ha aggiunto che i governi hanno un ruolo importante da svolgere nella definizione di solidi standard di sicurezza per l’intelligenza artificiale e che OpenAI è impegnata a collaborare con il Texas e altri stati.

Nelle ultime settimane la società ha dovuto affrontare una serie sempre più ampia di pressioni legali e normative. OpenAI sta contemporaneamente affrontando cause legali per omicidio colposo relative a conversazioni di chatbot, una battaglia in tribunale nello stato di Washington sulla sua ristrutturazione a scopo di lucro e un'escalation della sua guerra sul copyright con gli editori. L’azione del Texas aggiunge a quel documento un fronte di protezione dei consumatori, portato avanti da un funzionario con ampi poteri investigativi all’interno di un grande mercato.

Prende forma un patchwork di Stati

Il documento sottolinea come la governance dell’IA negli Stati Uniti venga assemblata stato per stato. Nove procuratori generali, che abbracciano entrambe le parti, hanno ora citato in giudizio OpenAI per la sicurezza dei chatbot nell'arco di due settimane, e le proposte in altre sedi statali spaziano da audit obbligatori alla responsabilità penale per le aziende i cui chatbot facilitano crimini gravi.

Per OpenAI, la minaccia pratica in Texas è insolitamente concreta: un'ordinanza del tribunale che tratterebbe ogni rilascio di un nuovo modello di frontiera come un evento che richiede un'approvazione indipendente prima che possa raggiungere gli utenti in uno degli stati più grandi del paese. Per l’industria, il messaggio è ancora più schietto. L’era delle dichiarazioni di sicurezza autocertificate sta volgendo al termine, un reclamo statale alla volta.

---

Stai al passo con l'intelligenza artificiale

La regolamentazione si sta muovendo rapidamente, così come la tecnologia a cui si rivolge. Ricevi le ultime notizie, analisi e scoperte sull'intelligenza artificiale, tutto in un unico posto.

Leggi altre notizie sull'AI →