xAI wordt geconfronteerd met een voorgestelde class action die het bedrijf voor het eerst beschuldigt van het trainen van zijn Grok-modellen op het gebied van seksueel misbruik van kinderen, zowel echt als door AI gegenereerd materiaal. De klacht, woensdag ingediend en gerapporteerd door Ars Technica, beoogt de vernietiging op bevel van de rechtbank van dergelijk materiaal dat op de servers van het bedrijf is opgeslagen en ingrijpende veranderingen in de manier waarop Grok met geseksualiseerde inhoud omgaat.
De beschuldigingen blijven onbewezen claims in civiele rechtszaken. X, eigenaar van xAI, heeft niet gereageerd op het verzoek van Ars Technica om commentaar op de indiening. Voor meer context over dit verhaal, zie ons laatste AI-ontwikkelingen.
De eiser en de beschuldigingen
De aanklager, geïdentificeerd als Jane Doe, beweert in de klacht dat zij begin jaren 2000 een slachtoffer van de kleuterschool was toen beelden van haar misbruik online werden gemaakt en verkocht. Deze afbeeldingen zijn al lang gecatalogiseerd in hashlijsten die worden bijgehouden door het National Center for Missing and Exploited Children (NCMEC) en het Canadian Centre for Child Protection (CCCP), organisaties die bekend misbruikmateriaal opsporen om detectie en verwijdering ervan mogelijk te maken.
Volgens de klacht heeft de CCCP Doe ervan op de hoogte gebracht dat zij door AI gegenereerd misbruikmateriaal had geïdentificeerd waarin zij op het xAI-platform was afgebeeld. Haar advocaten stellen in een persbericht dat materiaal dat overeenkomt met haar NCMEC-hashlijstgegevens "deel uitmaakte van de dataset die xAI gebruikte om Grok's mogelijkheden voor het genereren van afbeeldingen en video's op te bouwen." De klacht beweert verder dat berichten gevonden op online forums overtreders lieten zien die discussieerden over het maken van door AI gegenereerde misbruikbeelden van Doe en andere bekende slachtoffers van oud misbruikmateriaal.
De juridische theorie: trainingsgegevens, niet alleen resultaten
Wat deze indiening onderscheidt van eerdere rechtszaken tegen xAI is de focus op het model zelf en niet op wat individuele gebruikers hebben gegenereerd. De klacht stelt dat, omdat de servicevoorwaarden van Grok openbare berichten op X en Grok's eigen output standaard als trainingsgegevens behandelen, alles wat openbaar wordt gepost rechtstreeks in de pijplijn wordt ingevoerd die wordt gebruikt om het model te trainen en te verbeteren.
De indiening erkent dat xAI gewelddadige inhoud uit zijn trainingsgegevens filtert, maar stelt dat de voorwaarden van het bedrijf niet specificeren of materiaal met seksueel misbruik van kinderen, intieme beelden zonder wederzijds goedvinden of andere inhoud voor volwassenen in uitgesloten categorieën vallen. Het stelt ook dat zelfs wanneer aanstootgevende afbeeldingen worden verwijderd, de invloed van een trainingsvoorbeeld op een reeds getraind model technisch moeilijk volledig te verwijderen is – en dat xAI niet publiekelijk heeft beweerd dit te hebben gedaan.
Wat de rechtszaak beoogt
Als de voorgestelde klasse wordt gecertificeerd, zou deze elke persoon vertegenwoordigen wiens kinderfoto's naar verluidt zijn gebruikt om misbruikmateriaal met Grok te genereren. De rechtszaak beroept zich op federale kinderpornowetten en de wet van Masha, die overlevenden van misbruikmateriaal het recht geven om een rechtszaak aan te spannen wegens de productie, het bezit en de distributie ervan.
"Alle drie zijn misdaden, en xAI heeft ze alle drie gepleegd", zei Margaret E. Mabie, een van Doe's advocaten, in het door Ars Technica aangehaalde persbericht.
Naast geldelijke schadevergoeding vraagt Doe de rechtbank om xAI te gelasten al het door Grok gegenereerde misbruikmateriaal dat het mogelijk opslaat en gebruikt voor training te vernietigen, en om te voorkomen dat het model geseksualiseerde output van welke aard dan ook genereert – een eis die niet alleen misbruik zou verbieden, maar ook de niet-consensuele intieme beelden en inhoud voor volwassenen die Elon Musk publiekelijk als kenmerken heeft gepromoot.
"Doe leeft al bijna twintig jaar in de wetenschap dat beelden van het ergste dat haar ooit is overkomen online onder roofdieren circuleren, en dat ze elk moment weer boven kunnen komen", zegt Sarah London, een andere advocaat van Doe, in het persbericht. "xAI moet verantwoordelijk worden gehouden voor het willens en wetens trainen van zijn modellen op basis van beelden van de gruwelijke mishandeling die zij heeft ondergaan."
Een toenemende juridische afrekening
De indiening is het nieuwste front in een steeds groter wordende juridische strijd over de beeld- en videomogelijkheden van Grok. In een afzonderlijke zaak in Tennessee sloot een vrouw, geïdentificeerd als Jane Doe 4, zich aan bij een rechtszaak waarin ze beweerde dat een enkele kinderfoto samen met Grok was gebruikt om duizenden expliciete afbeeldingen van haar te genereren – beschuldigingen die AI Buzz Wire eerder deze maand behandelde. Regelgevers en rechtbanken onderzoeken hoe ver de problemen zich uitstrekken, en sommige Grok-gebruikers zijn gearresteerd vanwege materiaal dat ze hebben gegenereerd.
Tegelijkertijd heeft xAI zijn gebruikers beledigd. Politico meldde deze week dat het bedrijf een aantal van zijn eigen gebruikers aanklaagt, zelfs nu de rechtszaken tegen slachtoffers toenemen, een strategie die test of platforms of de mensen die hen ertoe aanzetten juridische verantwoordelijkheid dragen voor wat een AI-model produceert.
De nieuwe klacht plaatst de vraag over trainingsgegevens centraal in die strijd. Als rechtbanken het argument aanvaarden dat de trainingsset van een model aansprakelijkheid kan creëren voor wat het gebruikers in staat stelt te produceren, zouden de implicaties veel verder reiken dan xAI en elk generatief beeld- en videobedrijf raken waarvan de voorwaarden gebruikersinhoud terugvoeren in training. Voorlopig zijn de beschuldigingen precies dat: beschuldigingen in een dossier dat xAI nog niet voor de rechtbank heeft beantwoord.
---
Blijf Voorop met AIHet laatste AI-nieuws, analyses en doorbraken — allemaal op één plek.
Lees meer AI-nieuws →
