OpenAI sta affrontando una nuova ondata di cause legali da otto stati degli Stati Uniti che accusano la società di danneggiare i bambini e di fuorviare il pubblico sulla sicurezza di ChatGPT, ha riferito The Verge mercoledì scorso, citando Reuters, l'azione legale a livello statale più ampia mai vista contro il creatore del chatbot più popolare al mondo.

Le cause legali sono state intentate separatamente da Iowa, Kansas, Nebraska, West Virginia, Arkansas, Arizona, Idaho e Montana. Ciascuno sostiene che OpenAI abbia messo illegalmente i profitti sulla sicurezza durante lo sviluppo di ChatGPT e abbia violato le leggi locali sulla protezione dei consumatori non riuscendo ad avvisare i clienti sui pericoli del prodotto. Per ulteriori informazioni su questa storia, consulta la nostra copertura delle ultime notizie sull'intelligenza artificiale.

Cosa sostengono gli Stati

Le denunce affermano che OpenAI ha presentato in modo fuorviante ChatGPT come uno "strumento sicuro e adatto ai giovani che mette la sicurezza al primo posto", mentre il prodotto era in realtà "pericoloso per gli utenti vulnerabili". Tra i danni specifici presunti: degradazione delle capacità di pensiero critico, incoraggiamento di paranoia e delusioni, offerta di consigli medici pericolosi e promozione di comportamenti e relazioni malsane.

Secondo il rapporto del Guardian sui documenti depositati, gli stati accusano OpenAI di insegnare ai bambini a farsi del male - un linguaggio che va oltre le affermazioni di marketing ingannevoli e si spinge nel territorio dei fallimenti nella sicurezza dei prodotti che colpiscono una classe protetta di utenti.

Le cause sostengono inoltre che OpenAI ha raccolto dati da minori e non ha fatto abbastanza per tenere completamente gli utenti minorenni fuori dalla piattaforma, un punto debole persistente per i chatbot che chiedono agli utenti di autodichiarare la propria età.

I casi di omicidio colposo fanno da sfondo

Le denunce statali si basano fortemente su una serie di cause legali private intentate da familiari di adolescenti e adulti che sostengono che ChatGPT abbia avuto un ruolo nella morte dei loro cari. Questi casi, presentati nell’ultimo anno, sono diventati il ​​volto pubblico della reazione contro l’uso dell’intelligenza artificiale in stile compagno – e ora i procuratori generali dello stato li citano come prova di un modello piuttosto che come incidenti isolati.

Common Sense Media, l'organizzazione no-profit che ha condotto gran parte della ricerca su bambini e intelligenza artificiale, ha avvertito separatamente che l'offerta di ChatGPT per adolescenti rappresenta un "rischio inaccettabile" e la Florida si è mossa per vietare a ChatGPT di agire come una persona: segnali normativi che le nuove dichiarazioni degli stati ora riecheggiano in tribunale.

Episodi di hacking IA non autorizzati entrano in aula

Con una mossa insolita, le cause legali citano anche recenti incidenti di hacking di IA come prova della presunta incoscienza di OpenAI. L'argomentazione tratta effettivamente il record di sicurezza di OpenAI - compresi gli incidenti legati agli agenti che hanno dominato il ciclo di notizie nelle ultime settimane - come parte della stessa incapacità di dare priorità alla sicurezza che, secondo gli stati, mette in pericolo i giovani utenti.

"OpenAI si è trasformata dalla sua missione originale di organizzazione no-profit pubblica che dava priorità alla sicurezza in un ammonimento su ciò che può accadere quando lo sviluppo di uno strumento potente come l'intelligenza artificiale è guidato non dalla sicurezza, ma da una mentalità del profitto a tutti i costi che mette da parte le tutele essenziali", afferma la causa dell'Arizona, secondo The Verge.

Un fronte legale in espansione per OpenAI

L’azione degli otto stati arriva mentre OpenAI sta già difendendo cause private da famiglie in lutto, affrontando mandati di comparizione da parte di procuratori generali statali e facendo i conti con un panorama normativo mutevole a Washington. Ciò che distingue le nuove istanze è la portata e la postura: invece di chiedere risarcimenti per danni individuali, le AG statali stanno invocando gli statuti sulla protezione dei consumatori per imporre modifiche al modo in cui ChatGPT viene commercializzato, limitato all’età e progettato per gli utenti giovani.

Per OpenAI, i documenti arrivano in un momento delicato. L'azienda corteggia i clienti aziendali e i consumatori con una cadenza aggressiva dei prodotti, insistendo pubblicamente affinché le revisioni sulla sicurezza blocchino i suoi rilasci. Otto stati ora sostengono formalmente il contrario: cioè che le affermazioni sulla sicurezza pubblica della società erano esse stesse un inganno.

Cosa succede dopo

I casi di tutela dei consumatori presentati dai procuratori generali statali in genere richiedono ingiunzioni, multe o decreti di consenso che impongono modifiche al prodotto: in questo caso, verifica dell'età potenzialmente più rigorosa, informative sulla sicurezza o restrizioni su come ChatGPT interagisce con i minori. Qualsiasi rimedio potrebbe estendersi all’intero settore dell’intelligenza artificiale, dal momento che ogni grande laboratorio si trova ad affrontare la stessa questione strutturale: come mantenere sistemi così capaci lontano dagli utenti troppo giovani per valutarli.

OpenAI non ha risposto immediatamente ai documenti depositati con una dichiarazione pubblica al momento della segnalazione. L’azienda ha precedentemente affermato che lavora per rendere i suoi modelli sicuri per gli adolescenti e ha introdotto il controllo parentale, pur riconoscendo che le sue misure di sicurezza sono imperfette nell’utilizzo nel mondo reale.

Le otto cause legali garantiscono che la situazione di sicurezza di ChatGPT sarà ora oggetto di controversia nei tribunali statali di tutto il paese - e che la questione di chi è responsabile quando un chatbot AI danneggia un bambino sarà decisa, almeno in parte, dai giudici piuttosto che dai comunicati stampa.

Indipendentemente dal modo in cui i casi vengono risolti, segnano un cambiamento nel modo in cui i regolatori americani si stanno avvicinando ai prodotti di consumo basati sull'intelligenza artificiale: le dichiarazioni sulla sicurezza fatte nei materiali di marketing vengono ora trattate come dichiarazioni legalmente verificabili e le aziende che le producono sono tenute a rispettarle. Tutti i principali laboratori di intelligenza artificiale che spediscono chatbot a un pubblico generale, compresi i minori che trovano modi per aggirare i limiti di età, osserveranno come si comportano questi otto stati.

---

Stai al passo con l'intelligenza artificiale

Ricevi le ultime notizie, analisi e scoperte sull'intelligenza artificiale, tutto in un unico posto.

Leggi altre notizie sull'AI →