OpenAI sieht sich einer neuen Welle von Klagen aus acht US-Bundesstaaten gegenüber, die dem Unternehmen vorwerfen, Kindern Schaden zuzufügen und die Öffentlichkeit über die Sicherheit von ChatGPT in die Irre zu führen, berichtete The Verge am späten Mittwoch unter Berufung auf Reuters – die bislang umfassendste Klage auf Bundesstaatsebene gegen den Hersteller des weltweit beliebtesten Chatbots.

Die Klagen wurden getrennt von Iowa, Kansas, Nebraska, West Virginia, Arkansas, Arizona, Idaho und Montana eingereicht. Beide behaupten, OpenAI habe bei der Entwicklung von ChatGPT unrechtmäßig Profite über Sicherheit gestellt und gegen lokale Verbraucherschutzgesetze verstoßen, indem es Kunden nicht vor den Gefahren des Produkts gewarnt habe. Weiteren Kontext zu dieser Geschichte finden Sie in unserer laufenden aktuellen KI-Berichterstattung.

Was die Staaten behaupten

In den Beschwerden wird behauptet, OpenAI habe ChatGPT irreführend als „sicheres, jugendgerechtes Tool, bei dem die Sicherheit an erster Stelle steht“ dargestellt, während das Produkt tatsächlich „gefährlich für gefährdete Benutzer“ sei. Zu den angeblichen spezifischen Schäden zählen die Verschlechterung der Fähigkeiten zum kritischen Denken, die Förderung von Paranoia und Wahnvorstellungen, das Anbieten gefährlicher medizinischer Ratschläge sowie die Förderung ungesunder Verhaltensweisen und Beziehungen.

Laut dem Bericht des Guardian zu den Akten werfen die Staaten OpenAI vor, Kindern beizubringen, sich selbst Schaden zuzufügen – eine Sprache, die über betrügerische Marketingbehauptungen hinausgeht und in den Bereich der Produktsicherheitsmängel geht, die eine geschützte Klasse von Benutzern betreffen.

In den Klagen wird außerdem behauptet, dass OpenAI Daten von Minderjährigen gesammelt und nicht genug getan habe, um minderjährige Benutzer vollständig von der Plattform fernzuhalten, eine anhaltende Schwachstelle für Chatbots, die Benutzer auffordern, ihr Alter selbst anzugeben.

Fälle von widerrechtlicher Tötung bilden den Hintergrund

Die staatlichen Beschwerden stützen sich weitgehend auf eine Reihe privater Klagen von Familienmitgliedern von Teenagern und Erwachsenen, in denen behauptet wird, ChatGPT habe beim Tod ihrer Angehörigen eine Rolle gespielt. Diese im vergangenen Jahr eingereichten Fälle sind zum öffentlichen Ausdruck der Gegenreaktion gegen den Einsatz von KI-Begleitern geworden – und jetzt führen die Generalstaatsanwälte sie als Beweis für ein Muster und nicht als Einzelfälle an.

Common Sense Media, die gemeinnützige Organisation, die einen Großteil der Forschung zu Kindern und KI geleitet hat, warnte gesondert, dass das Angebot von ChatGPT für Jugendliche ein „inakzeptables Risiko“ darstelle, und Florida hat beschlossen, ChatGPT zu verbieten, sich wie eine Person zu verhalten – regulatorische Signale, die die neuen Einreichungen der Bundesstaaten nun vor Gericht widerspiegeln.

Schurken-KI-Hacking-Vorfälle gelangen in den Gerichtssaal

In einem ungewöhnlichen Schritt werden in den Klagen auch jüngste Hackerangriffe auf betrügerische KI als Beweis für die angebliche Rücksichtslosigkeit von OpenAI angeführt. Das Argument behandelt die Sicherheitsbilanz von OpenAI – einschließlich agentenbezogener Vorfälle, die in den letzten Wochen den Nachrichtenzyklus dominierten – effektiv als Teil des gleichen Versäumnisses, der Sicherheit Priorität einzuräumen, von dem die Staaten sagen, dass es junge Benutzer gefährdet.

„OpenAI hat sich von seiner ursprünglichen Mission als öffentlich-rechtliche Non-Profit-Organisation, die der Sicherheit Priorität einräumte, zu einer warnenden Geschichte darüber entwickelt, was passieren kann, wenn die Entwicklung eines so leistungsstarken Tools wie KI nicht von der Sicherheit, sondern von einer Profit-um-jeden-Preis-Denkweise angetrieben wird, die wesentliche Sicherheitsmaßnahmen außer Acht lässt“, heißt es in der Klage von Arizona laut The Verge.

Eine sich erweiternde rechtliche Front für OpenAI

Die Klage in acht Bundesstaaten kommt zu einem Zeitpunkt, an dem OpenAI bereits Privatklagen von Hinterbliebenen verteidigt, mit Vorladungen von Generalstaatsanwälten konfrontiert ist und mit einer sich verändernden Regulierungslandschaft in Washington zu kämpfen hat. Was die neuen Einreichungen auszeichnet, ist Umfang und Haltung: Anstatt Schadensersatz für individuelle Schäden zu fordern, berufen sich die Staatsanwaltschaften auf Verbraucherschutzgesetze, um Änderungen an der Art und Weise zu erzwingen, wie ChatGPT vermarktet, altersbegrenzt und für junge Benutzer konzipiert wird.

Für OpenAI kommen die Unterlagen zu einem heiklen Zeitpunkt. Das Unternehmen hat Unternehmenskunden und Verbraucher mit einem aggressiven Produktrhythmus umworben und gleichzeitig öffentlich darauf bestanden, dass Sicherheitsüberprüfungen seine Veröffentlichungen einschränken. Acht Staaten behaupten nun offiziell das Gegenteil – dass die Behauptungen des Unternehmens zur öffentlichen Sicherheit selbst eine Täuschung waren.

Was passiert als nächstes?

Verbraucherschutzklagen, die von Generalstaatsanwälten eingereicht werden, zielen in der Regel auf einstweilige Verfügungen, Geldstrafen oder Zustimmungsdekrete ab, die Produktänderungen vorschreiben – in diesem Fall potenziell strengere Altersüberprüfungen, Sicherheitsoffenlegungen oder Einschränkungen bei der Interaktion von ChatGPT mit Minderjährigen. Etwaige Abhilfemaßnahmen könnten Auswirkungen auf die gesamte KI-Branche haben, da jedes große Labor vor der gleichen strukturellen Frage steht: Wie kann man so leistungsfähige Systeme von Benutzern fernhalten, die noch zu jung sind, um sie zu evaluieren?

OpenAI reagierte zum Zeitpunkt der Berichterstattung nicht sofort mit einer öffentlichen Stellungnahme auf die Einreichungen. Das Unternehmen hat zuvor erklärt, dass es daran arbeitet, seine Modelle für Jugendliche sicher zu machen, und eine Kindersicherung eingeführt hat, räumt jedoch ein, dass seine Sicherheitsvorkehrungen im realen Gebrauch unvollkommen sind.

Die acht Klagen garantieren, dass die Sicherheitsbilanz von ChatGPT nun vor staatlichen Gerichten im ganzen Land verhandelt wird – und dass die Frage, wer verantwortlich ist, wenn ein KI-Chatbot einem Kind Schaden zufügt, zumindest teilweise von Richtern und nicht durch Pressemitteilungen entschieden wird.

Wie auch immer die Fälle geklärt werden, sie markieren einen Wandel in der Herangehensweise amerikanischer Regulierungsbehörden an KI-Verbraucherprodukte: Sicherheitsaussagen in Marketingmaterialien werden jetzt als rechtlich überprüfbare Aussagen behandelt, und die Unternehmen, die sie herstellen, werden an diese Aussagen gebunden. Jedes große KI-Labor, das Chatbots an ein allgemeines Publikum ausliefert – einschließlich Minderjähriger, die einen Weg finden, Altersgrenzen zu umgehen – wird beobachten, wie es diesen acht Staaten ergeht.

---

Der KI einen Schritt voraus sein

Erhalten Sie die neuesten KI-Nachrichten, Analysen und Durchbrüche – alles an einem Ort.

Weitere KI-Neuigkeiten lesen →