O femeie identificată în dosarele judiciare drept Jane Doe 4 s-a alăturat unui proces împotriva xAI al lui Elon Musk pentru rolul pe care se presupune că l-a jucat chatbot-ul companiei Grok în crearea de materiale de abuz sexual asupra copiilor, a raportat TechCrunch sâmbătă, citând un raport din The Washington Post.
Femeia a susținut că tatăl ei vitreg l-a folosit pe Grok pentru a manipula o fotografie făcută când avea 11 ani pentru a crea peste 7.000 de imagini explicite ale ei, potrivit raportului. Ea a mai spus că tatăl ei vitreg a fost găsit mort de sinucidere la două zile după ce imaginile au fost descoperite într-un raid al forțelor de ordine. For more context on this story, see our ongoing AI industry coverage.
„Accesul nelimitat la aceste instrumente se răspândește atât de repede”, a spus femeia. „Se ia viața de zi cu zi și o transformă în abuz sexual asupra copiilor”.
Cazul este una dintre cele mai grave acuzații de până acum, care implică un chatbot AI și crearea de imagini sexuale ale unui copil real și intensifică un proces care a devenit un punct focal în dezbaterea privind balustradele pentru generarea de imagini AI.
Principalele pretenții ale procesului
Procesul a fost intentat inițial de trei adolescenți din Tennessee, care au acuzat xAI – care acum face parte din SpaceX – că nu și-a luat măsurile de precauție de bază pentru a preveni utilizarea lui Grok pentru a crea imagini explicite cu persoane reale, inclusiv minori. Reclamanții caută statutul de acțiune colectivă, care ar permite altora care pretind un prejudiciu similar să se alăture cazului.
Dosarul lui Jane Doe 4 adaugă un set numit de detalii groaznice: o singură fotografie din copilărie, un instrument AI presupus folosit pentru a genera mii de derivate abuzive și o tragedie de familie care s-a desfășurat în câteva zile de la descoperirea materialului de către autorități.
TechCrunch a spus că a contactat xAI pentru comentarii. Acuzațiile sunt pretenții în litigiu civil în curs și nu au fost dovedite în instanță. Dacă dumneavoastră sau cineva pe care îl cunoașteți vă aflați în criză, 988 Suicide and Crisis Lifeline din Statele Unite ale Americii poate fi contactat prin telefon sau mesaj la 988.
Un model de presiune asupra lui Grok
Procesul a atins pe fondul unui an de analiză din ce în ce mai mare a capacităților Grok de generare de imagini. La începutul acestui an, X a fost inundat cu milioane de imagini sexualizate generate de Grok, un episod care a atras critici pe scară largă asupra măsurilor de protecție din jurul instrumentului. Episodul a contribuit la alimentarea unui val de legislație la nivel de stat care vizează așa-numitele aplicații „nudify” și imagini sintetice neconsensuale; Interzicerea de către Minnesota a unor astfel de instrumente a intrat în vigoare după ce un judecător a respins cererea xAI pentru o ordonanță de blocare a executării acesteia.
Miza cazului Tennessee se extinde dincolo de xAI. Reclamanții susțin că companiile care implementează instrumente de generare de imagini la scară au datoria de a construi garanții tehnice care să prevină sexualizarea persoanelor reale, identificabile - și în special a copiilor - înainte ca produsele să ajungă la public. Acest argument, dacă este acceptat de o instanță, ar putea stabili un standard legal care ajunge la fiecare furnizor de modele de generare de imagini.
Problema nerezolvată a industriei
Pentru companiile de inteligență artificială, prevenirea utilizării greșite a generatoarelor de imagini împotriva oamenilor reali s-a dovedit încăpățânat de dificilă. Instrumentele de filigran și proveniență – precum cele pe care Anthropic a început să le adauge la rezultatele Claude pentru a se conforma regulilor UE de transparență – pot ajuta la identificarea conținutului sintetic după fapt, dar nu opresc în primul rând generarea de material abuziv. Filtrele de intrare și de ieșire pot bloca tiparele cunoscute, dar utilizatorii hotărâți găsesc în mod continuu soluții, iar modelele de imagine deschise au făcut unele capabilități imposibil de rememorat în întregime.
Acuzațiile din cazul xAI indică cel mai sever capăt al acelui spectru: afirmația că o singură fotografie a unui copil ar putea fi transformată în mii de imagini explicite folosind un instrument operat de una dintre cele mai importante companii de inteligență artificială din lume, care comercializează Grok pentru milioane de abonați ca produs de consum.
Experții juridici care au urmat cazului spun că cererea de acțiune colectivă va testa dacă instanțele tratează eșecurile de a preveni o astfel de utilizare greșită ca pe un defect al produsului pentru care sunt răspunzătoare companiile de inteligență artificială - sau ca pe o utilizare greșită de către utilizatorii individuali, care nu este responsabilitatea companiilor.
Ce urmează
Scopul imediat al reclamanților este certificarea de clasă, care ar extinde dramatic grupul de potențiali reclamanți împotriva xAI. La rândul său, xAI a susținut în litigii conexe că responsabilitatea pentru utilizarea abuzivă revine utilizatorilor, nu instrumentului. Adăugarea lui Jane Doe 4, cu relatarea sa crudă despre presupusa vătămare adusă unui copil, crește presiunea publică și politică în jurul acelei apărări.
Cazul se desfășoară în timp ce autoritățile de reglementare din Statele Unite și Europa dezbat obligațiile de transparență și standardele de siguranță pentru IA generativă și, pe măsură ce se acumulează dovezi că utilizarea abuzivă a generației de imagini nu se limitează la instrumente marginale. Indiferent dacă răspunsul ajunge în instanță, în legislație sau în alegerile de inginerie ale companiilor de inteligență artificială înseși, întrebarea centrală a procesului - cât de multă prevenire a daunelor trebuie să fie integrată înainte ca un produs de inteligență artificială să fie livrat - rămâne cea mai incomodă problemă deschisă a industriei.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
