Der Generalstaatsanwalt von Oregon, Dan Rayfield, verklagte OpenAI am Dienstag, forderte Schadensersatz in Höhe von mindestens 2,035 Milliarden US-Dollar und warf dem Unternehmen vor, ChatGPT fälschlicherweise als sicher für junge Benutzer darzustellen und gleichzeitig gefährliche Interaktionen mit Teenagern wissentlich zuzulassen, so Oregon Public Broadcasting.

Die von OPB offengelegte und von mehreren Medien in Oregon, darunter KGW, KATU und KOIN, bestätigte Klage macht Oregon zu einem der bisher aggressivsten Bundesstaaten im eskalierenden Rechtsstreit um KI-Chatbots und Minderjährige. Es folgt den Klagen von acht US-Bundesstaaten im Oktober, die jeweils behaupteten, die Technologie habe einen gefährlichen Einfluss auf Teenager. Weitere Informationen zu dieser Geschichte finden Sie in unserer mehr KI-Geschichten.

Was in der Beschwerde behauptet wird

In der 53-seitigen Beschwerde des Staates wird OpenAI vorgeworfen, seine Produkte falsch dargestellt zu haben und damit gegen den Unlawful Trade Practices Act von Oregon verstoßen zu haben. Außerdem wird das Verhalten des Unternehmens als vorsätzlich beschrieben – ein erschwerender Faktor im Sinne des Gesetzes – und zu einem Ergebnis geführt, das in der Beschwerde als ungerecht, ungerecht, schockierend und unzumutbar bezeichnet wird.

OpenAI ermöglicht Benutzern ab 13 Jahren die Nutzung von ChatGPT, sofern sich ein Elternteil oder Erziehungsberechtigter abmeldet. Beamte des Justizministeriums von Oregon behaupten, dass das Unternehmen bei minderjährigen Nutzern häufig nicht bestätigt, dass ein Elternteil tatsächlich eingewilligt hat. Die Beschwerde richtet sich auch gegen ChatGPT for Teens, die kürzlich veröffentlichte jugendorientierte Version des Unternehmens, die das Konto eines Elternteils mit dem eines Kindes verknüpft. Nach Angaben des Staates können die angeblich strengeren Schutzmaßnahmen dieser Version leicht umgangen werden, und es wurde versäumt, Eltern zu warnen, wenn junge Benutzer Fragen zu Selbstmord, Selbstverletzung, Essstörungen oder anderen Themen zur psychischen Gesundheit stellten.

In der Klage wird das Gericht aufgefordert, OpenAI zu zwingen, stärkere Schutzmaßnahmen einzuführen und die Einwohner Oregons mit mindestens 2,035 Milliarden Dollar Schadenersatz zu entschädigen.

Rayfield: Das Produkt verursacht weiterhin Schaden

In einem Interview mit OPB sagte Rayfield, OpenAI sei sich der Gefahren bewusst, die seine Produkte mit sich bringen können. „OpenAI schaut den Eltern weiterhin in die Augen und sagt, dass dieses Produkt ein sicheres Produkt ist, wenn es in unseren Gemeinden weiterhin Schaden anrichtet“, sagte er.

Der Generalstaatsanwalt teilte OPB mit, dass es keinen konkreten Vorfall in Oregon gegeben habe, der die Einreichung ausgelöst habe. Vielmehr, so sagte er, sei die Klage auf Vorfälle im ganzen Land und auf die Besorgnis seines Büros zurückzuführen, dass der technologische Fortschritt den Verbraucherschutz überholt. Die Werkzeuge können unglaublich erstaunlich sein, wenn ihre Versprechen eingehalten werden, sagte er, aber was wir auf der anderen Seite sehen, ist Verwüstung.

Die Einreichung erfolgt vor dem Hintergrund der zunehmenden öffentlichen Besorgnis in Oregon über Jugendliche und Online-Plattformen. Der Teenager, der letzten Monat drei Kinder und einen Lehrer an der Silver Rail Elementary in Bend erschoss, wurde von mehreren Quellen mit extremistischen Online-Gruppen in Verbindung gebracht, und im September machte die Bezirksstaatsanwaltschaft von Multnomah County extremistische Online-Einflüsse dafür verantwortlich, dass ein Schüler der Benson High School an seiner Schule giftige Chemikalien freigesetzt hatte. Rayfield lehnte es ab, zu sagen, ob die Produkte von OpenAI an diesen Vorfällen beteiligt waren, und verwies auf laufende Untersuchungen – und die Klage selbst hängt nicht von einem einzelnen Fall in Oregon ab.

Teil einer umfassenderen rechtlichen Abrechnung für OpenAI

Oregon gehört nun zu einer wachsenden Gruppe von Staaten, die OpenAI wegen der Jugendsicherheit vor Gericht drängen. Acht Bundesstaaten reichten im Oktober ähnliche Klagen ein, und die sich häufenden Rechtsstreitigkeiten stellen eine von Bundesstaat zu Bundesstaat zunehmende Herausforderung für die Selbstregulierung des Zugangs von Minderjährigen durch die KI-Branche dar – ein Bereich, in dem die bundesstaatliche Regulierung nach wie vor dürftig ist.

Ein OpenAI-Sprecher, Drew Pusateri, gab nach der Einreichung eine Erklärung ab, in der es hieß, das Unternehmen sei bestrebt, KI-Richtlinien zu entwickeln, die für die gesamte KI-Branche und nicht nur für ein einzelnes Unternehmen gelten. Das Unternehmen verwies auf Sicherheitsmaßnahmen, die seiner Meinung nach bereits heute bestehen, darunter Kindersicherung, Pausenerinnerungen und altersgerechte Modellschutzmaßnahmen, und sagte, es werde weiterhin mit Experten zusammenarbeiten, um zusätzliche Sicherheitsmaßnahmen zu entwickeln. Das Unternehmen hat zuvor darauf bestanden, dass die Sicherheit der Gemeinden oberste Priorität hat.

Was als nächstes passiert

Oregons Fall wird eine neuartige Rechtstheorie auf den Prüfstand stellen: Nicht, dass ChatGPT einen konkreten Schaden verursacht hat, sondern dass das Sicherheitsmarketing des Unternehmens selbst – die Behauptung, das Produkt sei für Jugendliche sicher – eine unlautere Handelspraxis darstellt, wenn Schutzmaßnahmen umgangen werden können. Wenn die Theorie die ersten Anträge überdauert, könnte sie anderen Generalstaatsanwälten einen günstigeren und schnelleren Weg eröffnen als Produkthaftungsklagen, bei denen der Kausalzusammenhang für individuelle Schäden nachgewiesen werden muss.

Ein Verbraucherschutzwinkel, der auf Geschwindigkeit ausgelegt ist

Die Wahl des Gesetzes ist wichtig. Oregons Unlawful Trade Practices Act ist ein Verbraucherschutzgesetz, kein Produkthaftungssystem, und es sieht kürzere Fristen und geringere Beweisgrenzen vor als der Nachweis, dass ein bestimmter Chatbot-Austausch eine bestimmte Tragödie verursacht hat. Es erlaubt auch zivilrechtliche Sanktionen für vorsätzliche Verstöße – die erschwerende Bezeichnung, die in der Beschwerde ausdrücklich verwendet wird. Die Durchsetzung des Verbraucherschutzes gegen Tech-Plattformen wegen irreführender Behauptungen hat vor Gerichten in Oregon eine lange Geschichte, und das Gesetz ist eines der allgemeiner formulierten im Land.

Dieser Rahmen prägt auch die Abhilfe, die der Staat anstrebt. Anstelle von Schadensersatz für die Familie eines einzelnen Opfers fordert die Klage eine Entschädigung für die Einwohner Oregons insgesamt – mindestens 2,035 Milliarden Dollar – sowie gerichtlich angeordnete Änderungen am Produkt selbst: stärkere Schutzmaßnahmen und Überprüfung der Zustimmung der Eltern. Ein Sieg würde dem Staat eine fortlaufende Aufsicht über die Jugendfunktionen von ChatGPT geben und nicht eine einmalige Zahlung erfordern.

Für OpenAI kommt die Beschwerde zu einem heiklen Zeitpunkt: Das Unternehmen verteidigt bereits Urheberrechtsansprüche, steht vor einer Klage in Kalifornien wegen KI-bezogener Cyber-Eingriffe und bereitet sich auf eine intensive Prüfung nach dem Börsengang vor. Es ist unwahrscheinlich, dass eine Forderung eines einzelnen Staates in Höhe von mehreren Milliarden Dollar seine Finanzen verändert, aber wenn ein Gericht feststellen würde, dass seine Darstellungen zum Schutz der Jugend irreführend waren, hätte dies weit über Oregon hinaus regulatorische Konsequenzen.

---

Bleib vorne bei KI

Die neuesten KI-Nachrichten, Analysen und Durchbrüche – alles an einem Ort.

Mehr KI-Nachrichten lesen →