Martedì il procuratore generale dell'Oregon Dan Rayfield ha citato in giudizio OpenAI, chiedendo almeno 2.035 miliardi di dollari di danni e accusando la società di travisare ChatGPT come sicuro per i giovani utenti consentendo consapevolmente interazioni pericolose con gli adolescenti, secondo l'Oregon Public Broadcasting.
La causa, divulgata da OPB e confermata da numerosi organi di informazione dell'Oregon tra cui KGW, KATU e KOIN, rende l'Oregon uno degli stati più aggressivi fino ad oggi nella crescente campagna legale sui chatbot e sui minori basati sull'intelligenza artificiale. Fa seguito alle denunce di otto stati degli Stati Uniti in ottobre, ciascuno dei quali sostiene che la tecnologia ha una pericolosa influenza sugli adolescenti. Per maggiori informazioni su questa storia, consulta la nostra copertura dell'industria IA.
Cosa sostiene la denuncia
La denuncia di 53 pagine dello stato accusa OpenAI di travisare i suoi prodotti in violazione dell'Unlawful Trade Practices Act dell'Oregon e descrive la condotta della società come intenzionale - un fattore aggravante ai sensi dello statuto - producendo quello che la denuncia definisce un risultato ingiusto, scioccante e inconcepibile.
OpenAI consente agli utenti di età inferiore a 13 anni di utilizzare ChatGPT, a condizione che un genitore o tutore acconsenta. Funzionari del Dipartimento di Giustizia dell'Oregon sostengono che la società spesso non riesce a confermare che un genitore abbia effettivamente acconsentito all'utilizzo di utenti minorenni. La denuncia prende di mira anche ChatGPT for Teens, la versione orientata ai giovani recentemente rilasciata dalla società che collega l'account di un genitore a quello di un bambino. Secondo lo Stato, le garanzie presumibilmente più forti di quella versione vengono facilmente aggirate e non è riuscita ad allertare i genitori quando i giovani utenti chiedevano informazioni su suicidio, autolesionismo, disturbi alimentari o altri argomenti di salute mentale.
La causa chiede alla corte di obbligare OpenAI a istituire tutele più forti e a risarcire gli abitanti dell'Oregon con almeno 2,035 miliardi di dollari di danni.
Rayfield: il prodotto "continua a causare danni"
In un'intervista con OPB, Rayfield ha affermato che OpenAI è consapevole dei pericoli che i suoi prodotti possono comportare. OpenAI continua a guardare i genitori negli occhi e ad affermare che questo prodotto è sicuro mentre continua a causare danni alle nostre comunità, ha affermato.
Il procuratore generale ha detto all'OPB che non c'è stato alcun incidente specifico nell'Oregon che ha dato luogo alla presentazione della denuncia. Invece, ha detto, la causa è nata da incidenti in tutto il paese e dalla preoccupazione del suo ufficio che il progresso tecnologico stia superando la protezione dei consumatori. Gli strumenti possono essere incredibilmente sorprendenti se le loro promesse vengono mantenute, ha detto, ma ciò che stiamo vedendo dall’altra parte è devastazione.
La richiesta arriva in un contesto di crescente preoccupazione dell’opinione pubblica in Oregon nei confronti degli adolescenti e delle piattaforme online. L'adolescente che il mese scorso ha sparato e ucciso tre bambini e un insegnante alla Silver Rail Elementary di Bend è stato collegato da più fonti a gruppi estremisti online, e a settembre l'ufficio del procuratore distrettuale della contea di Multnomah ha accusato influenze estremiste online per uno studente della Benson High School che ha rilasciato sostanze chimiche tossiche nella sua scuola. Rayfield ha rifiutato di dire se i prodotti OpenAI siano stati coinvolti in tali incidenti, citando indagini in corso - e la causa in sé non dipende da nessun singolo caso dell'Oregon.
Parte di una più ampia resa dei conti legale per OpenAI
L’Oregon fa ora parte di un gruppo crescente di stati che spingono OpenAI in tribunale per la sicurezza dei giovani. Otto stati hanno intentato cause simili in ottobre, e il contenzioso che si sta accumulando rappresenta una sfida crescente, stato per stato, al modo in cui l’industria dell’intelligenza artificiale autoregolamenta l’accesso dei minori, un’area in cui la regolamentazione federale rimane scarsa.
Un portavoce di OpenAI, Drew Pusateri, ha rilasciato una dichiarazione dopo il deposito affermando che la società è impegnata a sviluppare politiche sull'intelligenza artificiale che si applicano all'intero settore dell'intelligenza artificiale e non solo a una società. La società ha sottolineato le misure di salvaguardia che afferma esistano oggi, inclusi il controllo parentale, i promemoria delle pause e le protezioni dei modelli adeguati all’età, e ha affermato che continuerà a lavorare con gli esperti per creare ulteriori garanzie. L’azienda ha precedentemente insistito sul fatto che mantenere le comunità al sicuro è una priorità assoluta.
Cosa succede dopo
Il caso dell’Oregon metterà alla prova una nuova teoria legale: non che ChatGPT abbia causato un danno specifico, ma che lo stesso marketing di sicurezza dell’azienda – l’affermazione che il prodotto è sicuro per gli adolescenti – costituisce una pratica commerciale sleale quando le garanzie possono essere aggirate. Se la teoria sopravvive alle prime mozioni, potrebbe aprire un percorso più economico e più rapido per altri procuratori generali statali rispetto al contenzioso sulla responsabilità del prodotto, che richiede di dimostrare la causalità dei danni individuali.
Un angolo di tutela del consumatore pensato per la velocità
La scelta dello statuto è importante. L'Unlawful Trade Practices Act dell'Oregon è una legge a tutela dei consumatori, non un regime di responsabilità del prodotto, e prevede tempistiche più brevi e limiti probatori inferiori rispetto a dimostrare che uno specifico scambio di chatbot ha causato una specifica tragedia. Consente inoltre sanzioni civili per violazioni intenzionali: l'etichetta aggravante che la denuncia applica esplicitamente. L’applicazione della tutela dei consumatori contro le piattaforme tecnologiche per affermazioni fuorvianti ha una lunga storia nei tribunali dell’Oregon e lo statuto è uno dei più generici del paese.
Tale inquadramento modella anche il rimedio che lo Stato sta cercando. Invece del risarcimento dei danni per la famiglia di una singola vittima, la denuncia chiede un risarcimento per gli abitanti dell'Oregon collettivamente – almeno 2,035 miliardi di dollari – oltre alle modifiche ordinate dal tribunale al prodotto stesso: tutele più forti e verifica del consenso dei genitori. Una vittoria darebbe allo stato una supervisione continua delle funzionalità giovanili di ChatGPT piuttosto che un pagamento una tantum.
Per OpenAI, la denuncia arriva in un momento delicato: la società sta già difendendo le rivendicazioni sul copyright, affrontando una causa in California per intrusioni informatiche legate all’intelligenza artificiale e preparandosi per un intenso controllo post-IPO. È improbabile che una richiesta multimiliardaria da parte di un singolo stato possa rimodellare le sue finanze, ma un tribunale che ritenesse ingannevoli le sue rappresentazioni sulla sicurezza dei giovani porterebbe conseguenze normative ben oltre l’Oregon.
---
Rimani Aggiornato sull'IALe ultime notizie, analisi e scoperte sull'intelligenza artificiale — tutto in un posto.
Leggi altre notizie sull'IA →