xAI čelí navrhované hromadné žalobě, která poprvé obviňuje společnost, že školila své modely Grok na materiálech týkajících se sexuálního zneužívání dětí, a to jak skutečných, tak vytvořených umělou inteligencí. Stížnost podaná ve středu a nahlášená společností Ars Technica se domáhá soudem nařízeného zničení jakéhokoli takového materiálu uloženého na serverech společnosti a rozsáhlých změn v tom, jak Grok nakládá se sexuálním obsahem.
Obvinění zůstávají neprokázaná tvrzení vznesená v občanskoprávních sporech. X, která vlastní xAI, nereagovala na žádost Ars Technica o vyjádření k podání. For more context on this story, see our ongoing AI industry coverage.
Žalobce a obvinění
Žalobkyně, identifikovaná jako Jane Doe, ve stížnosti tvrdí, že byla obětí předškolního věku na počátku 20. století, kdy byly vytvořeny a prodávány online snímky jejího zneužívání. Tyto obrázky jsou již dlouho katalogizovány v hašovacích seznamech vedených Národním centrem pro pohřešované a zneužívané děti (NCMEC) a Kanadským centrem pro ochranu dětí (CCCP), organizacemi, které sledují známý materiál se zneužíváním, aby umožnily jeho detekci a odstranění.
Podle stížnosti CCCP oznámil Doe, že na platformě xAI identifikoval materiál o zneužití generovaný AI, který ji zobrazuje. Její právníci v tiskové zprávě uvádějí, že materiál odpovídající jejím záznamům v hašovacím seznamu NCMEC „byl součástí datové sady xAI používané k vytvoření funkcí Grokova pro generování obrázků a videa“. Stížnost dále tvrdí, že zprávy nalezené na online fórech ukazovaly pachatele, jak diskutují o vytvoření AI vytvořených obrázků zneužívání Doea a dalších známých obětí starších materiálů o zneužívání.
Právní teorie: Školicí data, nejen výstupy
To, co odlišuje toto podání od dřívějších soudních sporů proti xAI, je jeho zaměření na samotný model spíše než na to, co jednotliví uživatelé vytvořili. Stížnost argumentuje tím, že vzhledem k tomu, že podmínky služby společnosti Grok ve výchozím nastavení považují veřejné příspěvky na X a vlastní výstupy společnosti Grok za trénovací data, vše, co je veřejně zveřejněno, vstupuje přímo do potrubí používaného k trénování a zlepšování modelu.
Podání uznává, že xAI filtruje násilný obsah ze svých školicích dat, ale tvrdí, že podmínky společnosti nespecifikují, zda materiály týkající se sexuálního zneužívání dětí, nedobrovolné intimní snímky nebo jiný obsah pro dospělé spadají do vyloučených kategorií. Argumentuje také tím, že i když jsou odstraněny nevhodné obrázky, je technicky obtížné zcela odstranit vliv příkladu školení na již trénovaný model – a že xAI veřejně netvrdila, že tak učinila.
Co žaloba hledá
Pokud je navrhovaná třída certifikovaná, bude reprezentovat každou osobu, jejíž obrázky z dětství byly údajně použity k vytvoření materiálu o zneužívání s Grokem. Žaloba se odvolává na federální zákony o dětské pornografii a Masha's Law, které dávají pozůstalým po zneužívání materiálu právo žalovat jeho výrobu, držení a distribuci.
"Všechny tři jsou zločiny a xAI udělal všechny tři," řekla Margaret E. Mabie, jedna z Doeových právníků, v tiskové zprávě citované Ars Technica.
Kromě peněžních škod žádá Doe soud, aby nařídil xAI zničit veškerý materiál o zneužívání generovaný Grokem, který může ukládat a používat pro školení, a zabránit modelu ve vytváření sexualizovaných výstupů jakéhokoli druhu – požadavek, který by zamezil nejen zobrazování zneužívání, ale také nekonsensuálním intimním snímkům a obsahu pro dospělé, které Elon Musk veřejně propagoval jako funkce.
"Doe žila téměř dvě desetiletí s vědomím, že obrázky nejhorší věci, která se jí kdy stala, kolují mezi predátory online a že se mohou kdykoli znovu objevit," uvedla v tiskové zprávě Sarah Londonová, další z Doeových právníků. "xAI musí být zodpovědná za vědomé školení svých modelů na obrazech strašlivého zneužívání, které utrpěla."
Montážní právní zúčtování
Podání je nejnovější frontou v rozšiřující se právní bitvě o schopnosti Groka pro obrázky a video. V samostatném případě v Tennessee se žena identifikovaná jako Jane Doe 4 připojila k soudnímu sporu, který tvrdil, že jediná fotografie z dětství byla použita s Grokem k vytvoření tisíců jejích explicitních snímků – obvinění, která AI Buzz Wire pokryla začátkem tohoto měsíce. Regulátoři a soudy zkoumají, jak daleko problémy sahaly, a někteří uživatelé Groku byli zatčeni kvůli materiálu, který vytvořili.
Zároveň se xAI vůči svým uživatelům urazila. Politico tento týden oznámilo, že společnost žaluje některé své vlastní uživatele, i když se množí žaloby na oběti, což je strategie, která testuje, zda platformy nebo lidé, kteří je pobízejí, nesou právní odpovědnost za to, co model AI produkuje.
Nová stížnost staví otázku tréninkových dat do středu tohoto boje. Pokud soudy přijmou argument, že tréninková sada modelu může vytvářet odpovědnost za to, co umožňuje uživatelům produkovat, důsledky by sahaly daleko za rámec xAI – dotýkaly by se každé společnosti zabývající se generativními obrázky a video, jejíž podmínky přivádějí uživatelský obsah zpět do školení. Prozatím jsou obvinění jen taková: obvinění v podání xAI dosud u soudu neodpověděla.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
