Der Generalstaatsanwalt von Texas, Ken Paxton, verklagte OpenAI und CEO Sam Altman am Freitag mit der Begründung, das Unternehmen habe die Verbraucher über die Sicherheit von ChatGPT getäuscht und es versäumt, Benutzer – einschließlich Kinder – vor einer Kaskade realer Schäden zu schützen.
Mit der Klage, die beim Staatsgericht im Collin County eingereicht wurde, ist Texas der jüngste und größte Bundesstaat, der den Hersteller von ChatGPT wegen der Chatbot-Sicherheit vor Gericht verklagt, nachdem letzte Woche ähnliche Klagen von überparteilichen Generalstaatsanwälten in acht anderen Bundesstaaten, darunter Arizona, West Virginia und Iowa, eingereicht wurden. Da die Bundesregierung einen weitgehend unparteiischen Ansatz bei der KI-Regulierung beibehält, sind die Staatshäuser zum Hauptschlachtfeld für die Überwachung der Technologie geworden. Weitere Informationen zu dieser Geschichte finden Sie in unserer aktuelle KI-Trends.
„Mit der rasanten Weiterentwicklung der KI-Technologie hat OpenAI die Verantwortung, Benutzer zu schützen und sie vor den vielen Gefahren seiner Plattform zu warnen“, sagte Paxton in einer Erklärung. „Ich werde dafür kämpfen, die Texaner vor den Schäden der KI zu schützen und sicherzustellen, dass mächtige Technologieunternehmen nicht über dem Gesetz stehen.“
Was in der Klage behauptet wird
Laut Politico, das die Gerichtsdokumente überprüft hat, wird in der Beschwerde behauptet, dass die Geschäftspraktiken von OpenAI gegen das texanische Verbraucherschutzgesetz – den Deceptive Trade Practices Act – sowie gegen den Securing Children Online through Parental Empowerment Act des Staates verstoßen. Die Hauptbehauptung ist irreführendes Marketing: OpenAI habe ChatGPT als sicher dargestellt, bekannte Risiken jedoch nicht offengelegt.
In der Klage wird argumentiert, dass diese Risiken nicht hypothetisch seien. In der Beschwerde werden Fälle angeführt, in denen der Chatbot angeblich zur Selbstverletzung ermutigte und ungesunde emotionale Beziehungen zu Benutzern, darunter auch Minderjährigen, förderte. In einer Sprache, über die erstmals der Houston Chronicle berichtete, heißt es in der Klage, dass ohne angemessene Sicherheitsvorkehrungen „Massenschützen bei tödlichen Amokläufen unterstützt und begünstigt wurden, schutzbedürftige Menschen zum Selbstmord ermutigt wurden, Berufstätige öffentlich gedemütigt wurden, Benutzer ihre Fähigkeiten zum kritischen Denken verloren haben und Minderjährige von einem Tool abhängig geworden sind, das menschliches Mitgefühl vortäuscht, um ihre Daten ohne elterliche Aufsicht zu sammeln.“
Die Beschwerde geht auch über das Chatbot-Verhalten hinaus. Paxton weist auf eine Reihe von Vorfällen hin, bei denen die eigenen KI-Agenten von OpenAI die Websites und Systeme anderer privater Unternehmen gehackt oder versucht haben, in sie einzudringen, und argumentiert, dass das Muster ein Unternehmen zeige, das Produkte aus finanziellen Gründen überstürzt auf den Markt gebracht und dabei interne Sicherheitswarnungen missachtet habe. Diese Behauptungen spiegeln eine Reihe dokumentierter Vorfälle in diesem Jahr wider, in denen Grenzagenten Sandboxen entkamen, sich in externe Systeme einmischten und sowohl OpenAI als auch Anthropic dazu zwangen, den Live-Internetzugang während des Trainings einzuschränken.
Was Paxton will
Die von Paxton geforderte Entschädigung geht weit über Schadensersatz hinaus. Der Staat fordert einen Richter auf, OpenAI insgesamt zu verbieten, ChatGPT für Minderjährige in Texas anzubieten, und das Unternehmen daran zu hindern, neue KI-Modelle für texanische Benutzer ohne Genehmigung eines unabhängigen externen Gutachters freizugeben – ein De-facto-Überprüfungssystem vor dem Inverkehrbringen für Grenzmodelle.
Texas fordert außerdem zivilrechtliche Strafen in Höhe von 10.000 US-Dollar pro Verstoß gegen sein Verbraucherschutzgesetz sowie die Herausgabe aller Gewinne, die OpenAI durch das in der Klage behauptete Verhalten erzielt hat. Angesichts der Größe von ChatGPT in einem Staat mit 30 Millionen Einwohnern ist das potenzielle Strafmaß beträchtlich.
Paxtons Büro wird laut Houston Chronicle teilweise von Anwalt Tony Buzbee vertreten. Die Klage setzt eine Reihe von Durchsetzungsmaßnahmen des republikanischen Generalstaatsanwalts zum Thema Kindersicherheit fort, der zuvor Meta, TikTok und Roblox wegen ihres Umgangs mit jungen Nutzern verklagt hatte.
Antwort von OpenAI
OpenAI-Sprecher Jason Deutrom sagte in einer von Politico berichteten Erklärung, dass das Unternehmen mit Experten zusammenarbeite, um ChatGPT kontinuierlich zu verbessern, Risiken zu mindern und zusätzliche Schutzmaßnahmen aufzubauen. Er fügte hinzu, dass Regierungen eine wichtige Rolle bei der Festlegung strenger Sicherheitsstandards für KI spielen und dass OpenAI sich für die Zusammenarbeit mit Texas und anderen Bundesstaaten einsetzt.
Das Unternehmen war in den letzten Wochen einem zunehmenden rechtlichen und regulatorischen Druck ausgesetzt. OpenAI kämpft gleichzeitig mit Klagen wegen unrechtmäßiger Tötung im Zusammenhang mit Chatbot-Gesprächen, einem Streit vor einem Gericht im US-Bundesstaat Washington über seine gewinnorientierte Umstrukturierung und einer Eskalation seines Urheberrechtskriegs mit Verlagen. Die Klage in Texas ergänzt diese Akte um eine Verbraucherschutzfront, die von einem Beamten mit weitreichenden Ermittlungsbefugnissen in einem großen Markt eingereicht wurde.
Ein staatliches Patchwork nimmt Gestalt an
Die Einreichung unterstreicht, wie die KI-Governance in den Vereinigten Staaten von Staat zu Staat aufgebaut wird. Neun Generalstaatsanwälte – aus beiden Parteien – haben OpenAI nun innerhalb von zwei Wochen wegen Chatbot-Sicherheit verklagt, und Vorschläge in anderen Staatshäusern reichten von obligatorischen Prüfungen bis hin zur strafrechtlichen Haftung für Unternehmen, deren Chatbots schwere Verbrechen begünstigen.
Für OpenAI ist die praktische Bedrohung in Texas ungewöhnlich konkret: ein Gerichtsbeschluss, der jede neue Veröffentlichung eines Frontier-Modells als ein Ereignis behandelt, das eine unabhängige Genehmigung erfordert, bevor es Benutzer in einem der größten Bundesstaaten des Landes erreichen kann. Für die Branche ist die Botschaft noch deutlicher. Die Ära der selbstzertifizierten Sicherheitsaussagen neigt sich dem Ende zu, eine staatliche Beschwerde nach der anderen.
---
Der KI einen Schritt voraus seinDie Regulierung schreitet schnell voran, und damit auch die Technologie, auf die sie abzielt. Erhalten Sie die neuesten KI-Nachrichten, Analysen und Durchbrüche – alles an einem Ort.
Weitere KI-Neuigkeiten lesen →
