Žena identifikovaná v soudních spisech jako Jane Doe 4 se připojila k žalobě proti xAI Elona Muska kvůli roli, kterou údajně sehrál chatbot Grok společnosti při vytváření materiálů o sexuálním zneužívání dětí, uvedl v sobotu TechCrunch s odkazem na zprávu The Washington Post.
Žena tvrdila, že její nevlastní otec použil Groka k manipulaci s fotografií pořízenou, když jí bylo 11 let, aby vytvořil více než 7 000 explicitních snímků, uvádí zpráva. Řekla také, že její nevlastní otec byl nalezen mrtvý po sebevraždě dva dny poté, co byly snímky odhaleny při razii činných v trestním řízení. For more context on this story, see our ongoing latest AI developments.
"Neomezený přístup k těmto nástrojům se šíří tak rychle," řekla žena. "Bere každodenní život a mění ho v sexuální zneužívání dětí."
Případ je jedním z dosud nejzávažnějších obvinění týkajících se běžného chatbota s umělou inteligencí a vytváření sexuálních snímků skutečného dítěte a eskaluje soudní spor, který se stal ústředním bodem debaty o zábradlích pro generování obrázků AI.
Hlavní nároky žaloby
Žalobu původně podali tři teenageři z Tennessee, kteří obvinili xAI – která je nyní součástí SpaceX – z toho, že nepodnikla základní opatření, aby zabránila použití Groka k vytváření explicitních obrázků skutečných lidí, včetně nezletilých. Žalobci usilují o status hromadné žaloby, který by umožnil připojit se k případu dalším osobám, které uvádějí podobnou újmu.
Podání Jane Doe 4 přidává pojmenovanou sadu drásajících specifik: jedinou fotografii z dětství, nástroj umělé inteligence údajně používaný k vytváření tisíců zneužitelných derivátů a rodinnou tragédii, která se odehrála během několika dní poté, co úřady materiál objevily.
TechCrunch uvedl, že požádal xAI o komentář. Obvinění jsou nároky v probíhajících občanskoprávních sporech a nebyly u soudu prokázány. Pokud jste vy nebo někdo, koho znáte, v krizi, linku 988 Suicide and Crisis Lifeline ve Spojených státech lze zavolat nebo poslat SMS na číslo 988.
Vzorec tlaku na Groka
Žaloba končí během roku narůstajícího zkoumání schopností Groka generovat obrázky. Začátkem tohoto roku byl X zaplaven miliony Grokem generovaných sexualizovaných obrázků, epizoda, která vyvolala širokou kritiku ochranných opatření kolem tohoto nástroje. Tato epizoda pomohla rozproudit vlnu legislativy na státní úrovni zaměřené na takzvané „nudify“ aplikace a nekonsensuální syntetické snímky; Minnesotský zákaz takových nástrojů vstoupil v platnost poté, co soudce zamítl žádost xAI o soudní příkaz k zablokování jeho vymáhání.
V sázce případu Tennessee přesahuje xAI. Žalobci tvrdí, že společnosti, které nasazují nástroje pro generování obrázků ve velkém, mají povinnost vytvořit technické záruky, které zabrání sexualizaci skutečných identifikovatelných lidí – a zejména dětí – předtím, než se produkty dostanou na veřejnost. Tento argument, pokud by byl přijat soudem, by mohl vytvořit právní normu, která se dostane ke každému poskytovateli modelů pro vytváření obrazů.
Nevyřešený problém tohoto odvětví
Pro společnosti využívající umělou inteligenci se ukázalo, že zabránění zneužití generátorů obrázků proti skutečným lidem je tvrdohlavě obtížné. Nástroje vodoznaku a provenience – jako jsou ty, které společnost Anthropic začala přidávat do výstupů Claude, aby vyhověla pravidlům transparentnosti EU – mohou pomoci identifikovat syntetický obsah až poté, ale nezastaví generování urážlivého materiálu. Vstupní a výstupní filtry mohou blokovat známé vzory, ale odhodlaní uživatelé neustále nalézají řešení a modely obrázků s otevřenou váhou znemožňují některé funkce zcela vyvolat.
Obvinění v případu xAI ukazují na nejzávažnější konec tohoto spektra: tvrzení, že jediná fotografie dítěte by mohla být transformována na tisíce explicitních obrázků pomocí nástroje provozovaného jednou z nejvýznamnějších světových společností v oblasti umělé inteligence, která prodává Grok milionům předplatitelů jako spotřebitelský produkt.
Právní experti po případu tvrdí, že nabídka skupinové žaloby otestuje, zda soudy považují selhání při zabránění takovému zneužití za vadu produktu, za kterou jsou odpovědné společnosti AI, nebo za zneužití jednotlivými uživateli, které nespadá do odpovědnosti společností.
Co bude dál
Bezprostředním cílem žalobců je třídní certifikace, která by dramaticky rozšířila okruh potenciálních žalobců proti xAI. Společnost xAI v souvisejících soudních sporech tvrdila, že odpovědnost za zneužití nese uživatelé, nikoli nástroj. Přidání Jane Doe 4, s jeho strohým popisem údajného ublížení na dítěti, zvyšuje veřejný a politický tlak kolem této obrany.
Případ se odvíjí, když regulační orgány ve Spojených státech a v Evropě diskutují o povinnostech transparentnosti a bezpečnostních standardech pro generativní umělou inteligenci a jak se hromadí důkazy, že zneužívání generování obrázků není omezeno na okrajové nástroje. Ať už odpověď dorazí u soudu, v legislativě nebo v technických rozhodnutích samotných společností s umělou inteligencí, hlavní otázka soudního sporu – do jaké míry musí být zabudována prevence škod, než bude produkt AI odeslán – zůstává nejnepříjemnějším otevřeným problémem v tomto odvětví.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
