Eine Frau, die in Gerichtsakten als Jane Doe 4 identifiziert wurde, hat sich einer Klage gegen Elon Musks xAI wegen der Rolle angeschlossen, die der Chatbot Grok des Unternehmens angeblich bei der Erstellung von Material über sexuellen Kindesmissbrauch gespielt hat, berichtete TechCrunch am Samstag unter Berufung auf einen Bericht in der Washington Post.
Die Frau behauptete, ihr Stiefvater habe Grok benutzt, um ein Foto zu manipulieren, das sie im Alter von 11 Jahren aufgenommen hatte, um mehr als 7.000 explizite Bilder von ihr zu erstellen, heißt es in dem Bericht. Sie sagte auch, dass ihr Stiefvater zwei Tage, nachdem die Bilder bei einer Razzia der Polizei entdeckt worden waren, tot aufgefunden worden sei. Weitere Informationen zu dieser Geschichte finden Sie in unserer neueste KI-Entwicklungen.
„Der unbegrenzte Zugang zu diesen Werkzeugen verbreitet sich so schnell“, sagte die Frau. „Es nimmt den Alltag und verwandelt ihn in sexuellen Kindesmissbrauch.“
Bei dem Fall handelt es sich um einen der bisher schwerwiegendsten Vorwürfe im Zusammenhang mit einem Mainstream-KI-Chatbot und der Erstellung sexueller Bilder eines echten Kindes. Er eskaliert einen Rechtsstreit, der zu einem Brennpunkt in der Debatte über Leitplanken für die Erstellung von KI-Bildern geworden ist.
Die Kernansprüche der Klage
Die Klage wurde ursprünglich von drei Teenagern aus Tennessee eingereicht, die xAI – das jetzt Teil von SpaceX ist – vorwarfen, grundlegende Vorkehrungen nicht getroffen zu haben, um zu verhindern, dass Grok zur Erstellung expliziter Bilder von echten Menschen, einschließlich Minderjährigen, verwendet wird. Die Kläger streben den Status einer Sammelklage an, die es anderen, die einen ähnlichen Schaden geltend machen, ermöglichen würde, sich dem Fall anzuschließen.
Die Akte von Jane Doe 4 fügt eine Reihe erschütternder Einzelheiten hinzu: ein einziges Kindheitsfoto, ein KI-Tool, das angeblich zur Erzeugung tausender missbräuchlicher Derivate verwendet wurde, und eine Familientragödie, die sich innerhalb weniger Tage nach der Entdeckung des Materials durch die Behörden abspielte.
TechCrunch sagte, es habe xAI um einen Kommentar gebeten. Bei den Vorwürfen handelt es sich um Ansprüche in laufenden Zivilprozessen, die vor Gericht nicht bewiesen wurden. Wenn Sie oder jemand, den Sie kennen, sich in einer Krise befindet, ist die 988 Suicide and Crisis Lifeline in den Vereinigten Staaten per Anruf oder SMS unter 988 erreichbar.
Ein Druckmuster auf Grok
Die Klage fällt in die Zeit, in der die Bildgenerierungsfähigkeiten von Grok seit einem Jahr immer genauer unter die Lupe genommen werden. Anfang dieses Jahres wurde X mit Millionen von Grok-generierten sexualisierten Bildern überschwemmt, ein Vorfall, der weit verbreitete Kritik an den Sicherheitsmaßnahmen rund um das Tool hervorrief. Der Vorfall trug dazu bei, eine Welle von Gesetzen auf Landesebene auszulösen, die auf sogenannte „Nackthaftigkeits“-Anwendungen und nicht einvernehmliche synthetische Bilder abzielten. Das Verbot solcher Tools in Minnesota trat in Kraft, nachdem ein Richter den Antrag von xAI auf eine einstweilige Verfügung zur Blockierung der Durchsetzung abgelehnt hatte.
Der Fall Tennessee geht über xAI hinaus. Die Kläger argumentieren, dass Unternehmen, die Bilderzeugungstools in großem Umfang einsetzen, die Pflicht haben, technische Sicherheitsvorkehrungen zu treffen, die die Sexualisierung realer, identifizierbarer Personen – und insbesondere von Kindern – verhindern, bevor Produkte an die Öffentlichkeit gelangen. Dieses Argument könnte, wenn es von einem Gericht akzeptiert wird, einen rechtlichen Standard etablieren, der jeden Anbieter von Bilderzeugungsmodellen erreicht.
Das ungelöste Problem der Branche
Für KI-Unternehmen hat es sich als hartnäckig schwierig erwiesen, den Missbrauch von Bildgeneratoren gegen reale Menschen zu verhindern. Wasserzeichen- und Provenienz-Tools – wie sie Anthropic in Claude-Ausgaben einfügte, um den EU-Transparenzvorschriften zu entsprechen – können dabei helfen, synthetische Inhalte im Nachhinein zu identifizieren, aber sie verhindern nicht von vornherein die Generierung von missbräuchlichem Material. Eingabe- und Ausgabefilter können bekannte Muster blockieren, aber entschlossene Benutzer finden immer wieder Workarounds, und Open-Weight-Bildmodelle haben es unmöglich gemacht, einige Funktionen vollständig abzurufen.
Die Vorwürfe im xAI-Fall weisen auf das schwerwiegendste Ende dieses Spektrums hin: die Behauptung, dass ein einzelnes Foto eines Kindes mithilfe eines Tools eines der weltweit bekanntesten KI-Unternehmen, das Grok als Verbraucherprodukt an Millionen von Abonnenten vermarktet, in Tausende expliziter Bilder umgewandelt werden könnte.
Rechtsexperten, die den Fall verfolgen, sagen, dass die Sammelklage prüfen wird, ob Gerichte Versäumnisse bei der Verhinderung eines solchen Missbrauchs als Produktfehler betrachten, für den KI-Unternehmen haftbar sind – oder als Missbrauch durch einzelne Benutzer, der außerhalb der Verantwortung der Unternehmen liegt.
Was als nächstes kommt
Das unmittelbare Ziel der Kläger ist die Klassenzertifizierung, die den Pool potenzieller Kläger gegen xAI dramatisch erweitern würde. xAI hat seinerseits in verwandten Rechtsstreitigkeiten argumentiert, dass die Verantwortung für Missbrauch bei den Benutzern und nicht beim Tool liege. Die Hinzufügung von „Jane Doe 4“ mit ihrem düsteren Bericht über die angebliche Schädigung eines Kindes erhöht den öffentlichen und politischen Druck, der auf diese Verteidigung ausgeübt wird.
Der Fall entfaltet sich, während Regulierungsbehörden in den Vereinigten Staaten und Europa über Transparenzpflichten und Sicherheitsstandards für generative KI debattieren und sich die Beweise dafür häufen, dass der Missbrauch der Bilderzeugung nicht auf Randtools beschränkt ist. Unabhängig davon, ob die Antwort vor Gericht, in der Gesetzgebung oder in den technischen Entscheidungen der KI-Unternehmen selbst liegt, bleibt die zentrale Frage der Klage – wie viel Schadensverhütung eingebaut werden muss, bevor ein KI-Produkt auf den Markt kommt – das unangenehmste offene Problem der Branche.
---
Bleib vorne bei KIDie neuesten KI-Nachrichten, Analysen und Durchbrüche – alles an einem Ort.
Mehr KI-Nachrichten lesen →
