Una donna identificata nei documenti giudiziari come Jane Doe 4 si è unita a una causa contro xAI di Elon Musk per il ruolo che il chatbot Grok della società avrebbe avuto nella creazione di materiale pedopornografico, ha riferito TechCrunch sabato, citando un rapporto del Washington Post.

La donna ha affermato che il suo patrigno ha usato Grok per manipolare una fotografia scattata quando aveva 11 anni per creare più di 7.000 immagini esplicite di lei, secondo il rapporto. Ha anche detto che il suo patrigno è stato trovato morto suicida due giorni dopo che le immagini erano state scoperte durante un'irruzione delle forze dell'ordine. Per maggiori informazioni su questa storia, consulta la nostra aggiornamenti sull'intelligenza artificiale.

"L'accesso illimitato a questi strumenti si sta diffondendo così rapidamente", ha detto la donna. "Si tratta di prendere la vita di tutti i giorni e trasformarla in abusi sessuali su minori."

Il caso è una delle accuse più gravi fino ad oggi che coinvolge un chatbot di intelligenza artificiale tradizionale e la creazione di immagini sessuali di un bambino reale, e intensifica una causa legale che è diventata un punto focale nel dibattito sui guardrail per la generazione di immagini di intelligenza artificiale.

Le affermazioni principali della causa

La causa è stata originariamente intentata da tre adolescenti del Tennessee che hanno accusato xAI – che ora fa parte di SpaceX – di non aver preso le precauzioni di base per impedire che Grok venisse utilizzato per creare immagini esplicite di persone reali, compresi i minori. I querelanti stanno cercando lo status di class action, che consentirebbe ad altri che lamentano danni simili di unirsi al caso.

Il documento di Jane Doe 4 aggiunge una serie di dettagli strazianti: una singola fotografia infantile, uno strumento di intelligenza artificiale presumibilmente utilizzato per generare migliaia di derivati ​​abusivi e una tragedia familiare avvenuta pochi giorni dopo la scoperta del materiale da parte delle autorità.

TechCrunch ha affermato di aver contattato xAI per un commento. Le accuse fanno parte di un contenzioso civile in corso e non sono state dimostrate in tribunale. Se tu o qualcuno che conosci siete in crisi, il numero 988 Suicide and Crisis Lifeline negli Stati Uniti può essere raggiunto tramite chiamata o SMS al numero 988.

Uno schema di pressione su Grok

La causa finisce nel mezzo di un anno di crescente esame accurato delle capacità di generazione di immagini di Grok. All'inizio di quest'anno, X è stato inondato da milioni di immagini sessualizzate generate da Grok, un episodio che ha suscitato critiche diffuse sulle misure di salvaguardia dello strumento. L'episodio ha contribuito ad alimentare un'ondata di legislazione a livello statale che prendeva di mira le cosiddette applicazioni di "nudificazione" e le immagini sintetiche non consensuali; Il divieto del Minnesota su tali strumenti è entrato in vigore dopo che un giudice ha respinto la richiesta di xAI di un'ingiunzione per bloccarne l'applicazione.

La posta in gioco nel caso del Tennessee va oltre xAI. I querelanti sostengono che le aziende che utilizzano strumenti di generazione di immagini su larga scala hanno il dovere di creare garanzie tecniche che impediscano la sessualizzazione di persone reali e identificabili – e in particolare di bambini – prima che i prodotti raggiungano il pubblico. Questa argomentazione, se accettata da un tribunale, potrebbe stabilire uno standard legale che raggiunga ogni fornitore di modelli di generazione di immagini.

Il problema irrisolto del settore

Per le aziende di intelligenza artificiale, prevenire l’uso improprio dei generatori di immagini contro persone reali si è rivelato ostinatamente difficile. Gli strumenti di filigrana e provenienza – come quelli che Anthropic ha iniziato ad aggiungere agli output di Claude per conformarsi alle norme di trasparenza dell’UE – possono aiutare a identificare i contenuti sintetici dopo il fatto, ma non fermano in primo luogo la generazione di materiale abusivo. I filtri di input e output possono bloccare modelli noti, ma gli utenti determinati trovano continuamente soluzioni alternative e i modelli di immagini a peso aperto hanno reso alcune funzionalità impossibili da ricordare interamente.

Le accuse nel caso xAI puntano all'estremità più grave di tale spettro: l'affermazione secondo cui una singola foto di un bambino potrebbe essere trasformata in migliaia di immagini esplicite utilizzando uno strumento gestito da una delle società di intelligenza artificiale più importanti al mondo, che commercializza Grok a milioni di abbonati come prodotto di consumo.

Gli esperti legali che seguono il caso affermano che l'azione collettiva verificherà se i tribunali trattano la mancata prevenzione di tale uso improprio come un difetto del prodotto di cui le società di intelligenza artificiale sono responsabili - o come un uso improprio da parte di singoli utenti che non rientra nella responsabilità delle società.

Cosa verrà dopo

L'obiettivo immediato dei querelanti è la certificazione di classe, che amplierebbe notevolmente il bacino di potenziali ricorrenti contro xAI. Da parte sua, xAI ha sostenuto nelle relative controversie che la responsabilità per l’uso improprio ricade sugli utenti, non sullo strumento. L’aggiunta di Jane Doe 4, con il suo crudo resoconto del presunto danno subito da un bambino, aumenta la pressione pubblica e politica attorno a quella difesa.

Il caso si sta svolgendo mentre le autorità di regolamentazione negli Stati Uniti e in Europa discutono sugli obblighi di trasparenza e sugli standard di sicurezza per l’intelligenza artificiale generativa, e mentre si accumulano prove che l’uso improprio della generazione di immagini non è limitato a strumenti marginali. Sia che la risposta arrivi in ​​tribunale, nella legislazione o nelle scelte ingegneristiche delle stesse aziende di intelligenza artificiale, la questione centrale della causa – quanta prevenzione dei danni deve essere integrata prima che un prodotto di intelligenza artificiale venga spedito – rimane il problema aperto più scomodo del settore.

---

Rimani Aggiornato sull'IA

Le ultime notizie, analisi e scoperte sull'intelligenza artificiale — tutto in un posto.

Leggi altre notizie sull'IA →