xAI steht vor einer vorgeschlagenen Sammelklage, in der das Unternehmen erstmals beschuldigt wird, seine Grok-Modelle auf Material über sexuellen Kindesmissbrauch zu trainieren, sowohl real als auch KI-generiert. Die am Mittwoch eingereichte und von Ars Technica gemeldete Klage fordert die gerichtliche Vernichtung jeglichen auf den Servern des Unternehmens gespeicherten Materials und weitreichende Änderungen in der Art und Weise, wie Grok mit sexualisierten Inhalten umgeht.
Bei den Vorwürfen handelt es sich weiterhin um unbewiesene Behauptungen, die im Zivilprozess erhoben wurden. X, dem xAI gehört, reagierte nicht auf die Bitte von Ars Technica um einen Kommentar zu der Einreichung. Weitere Informationen zu dieser Geschichte finden Sie in unserer neueste KI-Entwicklungen.
Der Kläger und die Vorwürfe
Die als Jane Doe identifizierte Klägerin behauptet in der Klage, dass sie Anfang der 2000er Jahre ein Opfer im Vorschulalter war, als Bilder ihrer Misshandlungen erstellt und online verkauft wurden. Diese Bilder werden seit langem in Hash-Listen des National Centre for Missing and Exploited Children (NCMEC) und des Canadian Centre for Child Protection (CCCP) katalogisiert, Organisationen, die bekanntes Missbrauchsmaterial verfolgen, um dessen Erkennung und Entfernung zu ermöglichen.
Der Beschwerde zufolge teilte die CCCP Doe mit, dass sie auf der Plattform von xAI KI-generiertes Missbrauchsmaterial identifiziert habe, das sie darstellt. Ihre Anwälte geben in einer Pressemitteilung an, dass Material, das mit ihren NCMEC-Hash-Listeneinträgen übereinstimmt, „Teil des Datensatzes war, den xAI zum Aufbau der Bild- und Videogenerierungsfunktionen von Grok verwendet hat“. In der Beschwerde wird außerdem behauptet, dass in Online-Foren gefundene Nachrichten zeigten, dass Täter über die Erstellung von KI-generierten Missbrauchsbildern von Doe und anderen bekannten Opfern von älterem Missbrauchsmaterial diskutierten.
Die Rechtstheorie: Trainingsdaten, nicht nur Ergebnisse
Was diese Einreichung von früheren Rechtsstreitigkeiten gegen xAI unterscheidet, ist, dass sie sich auf das Modell selbst und nicht auf das, was einzelne Benutzer generiert haben, konzentriert. In der Beschwerde wird argumentiert, dass, da die Nutzungsbedingungen von Grok öffentliche Beiträge auf
In der Einreichung wird anerkannt, dass xAI gewalttätige Inhalte aus seinen Trainingsdaten herausfiltert, argumentiert jedoch, dass in den Bedingungen des Unternehmens nicht festgelegt ist, ob Material über sexuellen Missbrauch von Kindern, nicht einvernehmliche intime Bilder oder andere Inhalte für Erwachsene in ausgeschlossene Kategorien fallen. Es wird außerdem argumentiert, dass der Einfluss eines Trainingsbeispiels auf ein bereits trainiertes Modell selbst dann, wenn beleidigende Bilder entfernt werden, technisch schwierig vollständig zu entfernen ist – und dass xAI nicht öffentlich behauptet hat, dies getan zu haben.
Was die Klage anstrebt
Wenn die vorgeschlagene Klasse zertifiziert wird, würde sie jede Person repräsentieren, deren Kindheitsbilder angeblich zur Erstellung von Missbrauchsmaterial mit Grok verwendet wurden. Die Klage beruft sich auf die bundesstaatlichen Kinderpornografiegesetze und das Masha-Gesetz, die Überlebenden von Missbrauchsmaterial das Recht einräumen, gegen dessen Herstellung, Besitz und Verbreitung zu klagen.
„Alle drei sind Verbrechen, und xAI hat alle drei begangen“, sagte Margaret E. Mabie, eine von Does Anwälten, in der von Ars Technica zitierten Pressemitteilung.
Über den finanziellen Schadensersatz hinaus bittet Doe das Gericht darum, xAI anzuweisen, sämtliches von Grok generierte Missbrauchsmaterial zu vernichten, das es möglicherweise speichert und für Schulungen verwendet, und das Modell daran zu hindern, sexualisierte Ergebnisse jeglicher Art zu erzeugen – eine Forderung, die nicht nur Missbrauchsbilder, sondern auch nicht einvernehmliche intime Bilder und Inhalte für Erwachsene, die Elon Musk öffentlich als Features beworben hat, ausschließen würde.
„Doe lebt seit fast zwei Jahrzehnten in dem Wissen, dass Bilder von dem Schlimmsten, was ihr jemals passiert ist, online unter Raubtieren kursieren und dass sie jeden Moment wieder auftauchen können“, sagte Sarah London, eine weitere Anwältin von Doe, in der Pressemitteilung. „xAI muss dafür verantwortlich gemacht werden, dass es seine Modelle wissentlich anhand von Bildern des schrecklichen Missbrauchs trainiert hat, den sie erlitten hat.“
Eine zunehmende rechtliche Abrechnung
Die Klage ist die jüngste Front in einem sich ausweitenden Rechtsstreit um die Bild- und Videofähigkeiten von Grok. In einem anderen Fall in Tennessee schloss sich eine als Jane Doe 4 identifizierte Frau einer Klage an, in der behauptet wurde, dass ein einziges Kindheitsfoto mit Grok verwendet worden sei, um Tausende expliziter Bilder von ihr zu erstellen – Vorwürfe, über die AI Buzz Wire Anfang dieses Monats berichtete. Aufsichtsbehörden und Gerichte prüfen, wie weit die Probleme reichen, und einige Grok-Benutzer wurden wegen des von ihnen erstellten Materials verhaftet.
Gleichzeitig ist xAI gegen seine Nutzer vorgegangen. Politico berichtete diese Woche, dass das Unternehmen einige seiner eigenen Benutzer verklagt, obwohl die Opferklagen zunehmen. Dabei handelt es sich um eine Strategie, die testet, ob Plattformen oder die Personen, die sie dazu auffordern, die rechtliche Verantwortung für die Ergebnisse eines KI-Modells tragen.
Die neue Beschwerde stellt die Frage der Trainingsdaten in den Mittelpunkt dieses Kampfes. Wenn Gerichte das Argument akzeptieren, dass der Trainingssatz eines Modells eine Haftung für das schaffen kann, was Benutzer damit produzieren können, würden die Implikationen weit über xAI hinausgehen und jedes generative Bild- und Videounternehmen betreffen, dessen Bedingungen Benutzerinhalte wieder in das Training einspeisen. Im Moment sind die Vorwürfe genau das: xAI hat die in einer Akte eingereichten Vorwürfe noch nicht vor Gericht beantwortet.
---
Bleib vorne bei KIDie neuesten KI-Nachrichten, Analysen und Durchbrüche – alles an einem Ort.
Mehr KI-Nachrichten lesen →
