xAI sta affrontando una proposta di class action che per la prima volta accusa l'azienda di addestrare i suoi modelli Grok su materiale pedopornografico, sia reale che generato dall'intelligenza artificiale. La denuncia, presentata mercoledì e riportata da Ars Technica, chiede la distruzione su ordine del tribunale di qualsiasi materiale archiviato sui server della società e cambiamenti radicali nel modo in cui Grok gestisce i contenuti sessualizzati.
Le accuse rimangono affermazioni non provate avanzate nel contenzioso civile. X, che possiede xAI, non ha risposto alla richiesta di Ars Technica di commentare il deposito. Per maggiori informazioni su questa storia, consulta la nostra aggiornamenti sull'intelligenza artificiale.
Il querelante e le accuse
La querelante, identificata come Jane Doe, sostiene nella denuncia di essere stata una vittima in età prescolare all'inizio degli anni 2000, quando le immagini dei suoi abusi furono create e vendute online. Quelle immagini sono state a lungo catalogate in elenchi hash gestiti dal Centro nazionale per i bambini scomparsi e sfruttati (NCMEC) e dal Centro canadese per la protezione dell’infanzia (CCCP), organizzazioni che tengono traccia del materiale di abusi noti per consentirne il rilevamento e la rimozione.
Secondo la denuncia, il CCCP ha notificato a Doe di aver identificato materiale abusivo generato dall'intelligenza artificiale che la raffigurava sulla piattaforma xAI. I suoi avvocati affermano in un comunicato stampa che il materiale corrispondente alle voci dell'elenco hash NCMEC "faceva parte del set di dati xAI utilizzato per creare le capacità di generazione di immagini e video di Grok". La denuncia sostiene inoltre che i messaggi trovati sui forum online mostravano trasgressori che discutevano della creazione di immagini di abusi generate dall'intelligenza artificiale su Doe e altre vittime note di materiale abusivo legacy.
La teoria giuridica: dati di formazione, non solo risultati
Ciò che distingue questo documento dal precedente contenzioso contro xAI è il suo focus sul modello stesso piuttosto che su ciò che i singoli utenti hanno generato. La denuncia sostiene che, poiché i termini di servizio di Grok trattano i post pubblici sugli output di X e Grok come dati di addestramento per impostazione predefinita, qualsiasi cosa pubblicata pubblicamente alimenta direttamente la pipeline utilizzata per addestrare e migliorare il modello.
Il documento riconosce che xAI filtra i contenuti violenti dai suoi dati di formazione, ma sostiene che i termini della società non specificano se materiale pedopornografico, immagini intime non consensuali o altri contenuti per adulti rientrano nelle categorie escluse. Sostiene inoltre che, anche quando le immagini offensive vengono rimosse, l’influenza di un esempio di addestramento su un modello già addestrato è tecnicamente difficile da rimuovere completamente – e che xAI non ha affermato pubblicamente di averlo fatto.
Cosa cerca la causa
Se la classe proposta fosse certificata, rappresenterebbe ogni persona le cui immagini infantili sarebbero state utilizzate per generare materiale abusivo con Grok. La causa invoca le leggi federali sulla pornografia infantile e la Legge Masha, che danno ai sopravvissuti al materiale abusivo il diritto di citare in giudizio la sua produzione, possesso e distribuzione.
"Tutti e tre sono crimini e xAI li ha commessi tutti e tre", ha detto Margaret E. Mabie, uno degli avvocati di Doe, nel comunicato stampa citato da Ars Technica.
Oltre ai danni monetari, Doe chiede alla corte di ordinare a xAI di distruggere tutto il materiale abusivo generato da Grok che potrebbe archiviare e utilizzare per l'addestramento e di impedire al modello di generare risultati sessualizzati di qualsiasi tipo: una richiesta che precluderebbe non solo le immagini di abuso ma anche le immagini intime non consensuali e i contenuti per adulti che Elon Musk ha pubblicamente promosso come caratteristiche.
"Doe ha vissuto per quasi due decenni sapendo che le immagini della cosa peggiore che le sia mai accaduta circolano tra i predatori online e che possono riaffiorare in qualsiasi momento", ha detto nel comunicato stampa Sarah London, un altro degli avvocati di Doe. "xAI deve essere ritenuta responsabile di addestrare consapevolmente i suoi modelli sulle immagini degli orribili abusi subiti."
Una resa dei conti legale crescente
Il deposito è l'ultimo fronte di una battaglia legale sempre più ampia sulle capacità di immagine e video di Grok. In un caso separato nel Tennessee, una donna identificata come Jane Doe 4 si è unita a una causa sostenendo che una singola fotografia d'infanzia è stata utilizzata con Grok per generare migliaia di immagini esplicite di lei - accuse che AI Buzz Wire ha trattato all'inizio di questo mese. Le autorità di regolamentazione e i tribunali stanno esaminando fino a che punto si estendono i problemi e alcuni utenti di Grok sono stati arrestati per il materiale che hanno generato.
Allo stesso tempo, xAI è diventato offensivo nei confronti dei suoi utenti. Politico ha riferito questa settimana che la società sta facendo causa ad alcuni dei suoi stessi utenti anche se le cause legali delle vittime aumentano, una strategia che verifica se le piattaforme o le persone che le spingono hanno la responsabilità legale per ciò che produce un modello di intelligenza artificiale.
La nuova denuncia pone la questione dei dati di formazione al centro di questa battaglia. Se i tribunali accettassero l’argomentazione secondo cui il set di formazione di un modello può creare responsabilità per ciò che consente agli utenti di produrre, le implicazioni andrebbero ben oltre xAI, toccando ogni società di immagini e video generativi i cui termini reimmettono i contenuti degli utenti nella formazione. Per ora le accuse sono proprio queste: accuse contenute in un deposito xAI non ha ancora risposto in tribunale.
---
Rimani Aggiornato sull'IALe ultime notizie, analisi e scoperte sull'intelligenza artificiale — tutto in un posto.
Leggi altre notizie sull'IA →
