xAI se confruntă cu o acțiune colectivă propusă care, pentru prima dată, acuză compania că își antrenează modelele Grok pe materiale de abuz sexual asupra copiilor, atât reale, cât și generate de IA. Plângerea, depusă miercuri și raportată de Ars Technica, urmărește distrugerea, ordonată de instanță, a oricărui astfel de material stocat pe serverele companiei și modificări radicale ale modului în care Grok gestionează conținutul sexualizat.
Acuzațiile rămân pretenții nedovedite făcute în litigii civile. X, care deține xAI, nu a răspuns solicitării Ars Technica de comentarii asupra dosarului. For more context on this story, see our ongoing breaking AI news.
Reclamantul și acuzațiile
Reclamanta, identificată ca Jane Doe, susține în plângere că a fost o victimă de vârstă preșcolară la începutul anilor 2000, când imaginile abuzului ei au fost create și vândute online. Imaginile respective au fost catalogate de mult timp în listele hash ținute de Centrul Național pentru Copii Dispăruți și Exploatați (NCMEC) și Centrul Canadien pentru Protecția Copilului (CCCP), organizații care urmăresc materialele cunoscute de abuz pentru a permite detectarea și îndepărtarea acestuia.
Potrivit plângerii, CCCP a notificat-o pe Doe că a identificat materiale de abuz generate de AI care o înfățișează pe platforma xAI. Avocații ei afirmă într-un comunicat de presă că materialul care se potrivește cu intrările din lista ei de hash NCMEC „a făcut parte din setul de date xAI folosit pentru a construi capacitățile Grok de generare de imagini și videoclipuri”. Plângerea susține, de asemenea, că mesajele găsite pe forumurile online au arătat infractorii discutând despre crearea de imagini de abuz generate de inteligență artificială cu Doe și alte victime cunoscute ale materialelor moștenite de abuz.
Teoria juridică: date de instruire, nu doar rezultate
Ceea ce distinge această depunere de litigiile anterioare împotriva xAI este concentrarea pe modelul în sine, mai degrabă decât pe ceea ce au generat utilizatorii individuali. Plângerea susține că, deoarece termenii și condițiile lui Grok tratează postările publice pe X și propriile rezultate ale lui Grok ca date de instruire în mod implicit, orice postat public se alimentează direct în conducta utilizată pentru instruirea și îmbunătățirea modelului.
Dosarul recunoaște că xAI filtrează conținutul violent din datele sale de formare, dar susține că termenii companiei nu specifică dacă materialele de abuz sexual asupra copiilor, imaginile intime neconsensuale sau alt conținut pentru adulți se încadrează în categorii excluse. De asemenea, susține că, chiar și acolo unde imaginile jignitoare sunt eliminate, influența unui exemplu de antrenament asupra unui model deja antrenat este dificil de eliminat complet din punct de vedere tehnic - și că xAI nu a susținut public că a făcut acest lucru.
Ce caută procesul
Dacă clasa propusă este certificată, aceasta ar reprezenta fiecare persoană ale cărei imagini din copilărie ar fi fost folosite pentru a genera material de abuz cu Grok. Procesul invocă legile federale privind pornografia infantilă și Legea lui Masha, care oferă supraviețuitorilor materialelor abuzive dreptul de a da în judecată producția, deținerea și distribuția acestuia.
„Toate trei sunt crime, iar xAI le-a făcut pe toate trei”, a declarat Margaret E. Mabie, unul dintre avocații lui Doe, în comunicatul de presă citat de Ars Technica.
Dincolo de daune bănești, Doe cere instanței să ordone xAI să distrugă tot materialul de abuz generat de Grok pe care îl stochează și îl folosește pentru instruire și să împiedice modelul să genereze rezultate sexuale de orice fel - o cerere care ar exclude nu numai imaginile de abuz, ci și imaginile intime neconsensuale și conținutul pentru adulți pe care Elon Musk le-a promovat public ca caracteristici.
„Doe a trăit aproape două decenii știind că imaginile cu cel mai rău lucru care i s-a întâmplat vreodată circulă printre prădători online și că pot reapărea în orice moment”, a declarat Sarah London, un alt avocat al lui Doe, în comunicatul de presă. „xAI trebuie să fie responsabil pentru instruirea cu bună știință a modelelor sale pe imagini cu abuzurile îngrozitoare pe care a suferit-o”.
O estimare legală în creștere
Depunerea este cel mai recent front dintr-o luptă juridică din ce în ce mai extinsă asupra capacităților de imagine și video ale lui Grok. Într-un caz separat din Tennessee, o femeie identificată ca Jane Doe 4 s-a alăturat unui proces în care susținea că o singură fotografie din copilărie a fost folosită cu Grok pentru a genera mii de imagini explicite ale ei - acuzații acoperite de AI Buzz Wire la începutul acestei luni. Autoritățile de reglementare și instanțele examinează până unde se extind problemele, iar unii utilizatori Grok au fost arestați din cauza materialului pe care l-au generat.
În același timp, xAI a intrat în ofensă împotriva utilizatorilor săi. Politico a raportat săptămâna aceasta că compania își dă în judecată unii dintre propriii utilizatori, chiar și pe măsură ce se înmulțesc procesele victimelor, o strategie care testează dacă platformele sau persoanele care îi determină poartă responsabilitatea legală pentru ceea ce produce un model AI.
Noua plângere pune problema datelor de antrenament în centrul acelei lupte. Dacă instanțele acceptă argumentul că setul de antrenament al unui model poate crea răspundere pentru ceea ce le permite utilizatorilor să producă, implicațiile ar depăși cu mult xAI - atingând orice companie de imagine generativă și video ai cărei termeni alimentează conținutul utilizatorului înapoi în formare. Deocamdată, acuzațiile sunt doar atât: acuzații într-un dosar xAI nu a răspuns încă în instanță.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
