Der Generalstaatsanwalt von Florida, James Uthmeier, hat in einem am Montag im Highlands County gegen OpenAI und CEO Sam Altman eingereichten Antrag auf einstweilige Verfügung einen Staatsrichter gebeten, OpenAI die Entwicklung neuer KI-Modelle ohne Genehmigung Dritter zu verbieten.

Die Einreichung eskaliert eine bestehende Kindersicherheitsklage zu einer der bisher aggressivsten Herausforderungen auf Landesebene für die Art und Weise, wie Frontier-Modelle gebaut und freigegeben werden. In einer Woche, in der die FTC auch eine umfassende Untersuchung großer KI-Labore einleitete, signalisiert dieser Schritt, dass die Prüfung von OpenAI sowohl auf Bundes- als auch auf Landesebene intensiviert wird – ein Muster, das wir den ganzen Monat in unserer Berichterstattung über aktuelle KI-Nachrichten verfolgt haben.

Was die einstweilige Verfügung verlangt

Laut Berichten von Politico, Axios und mehreren Medien in Florida fordert der Antrag ein Gericht des Bundesstaates Florida auf, weitreichende vorübergehende Beschränkungen für OpenAI, Altman und verbundene Unternehmen zu verhängen, während die zugrunde liegende Klage andauert. Die Kernforderung lautet: Keine Entwicklung neuer KI-Modelle ohne Genehmigung durch unabhängige Dritte. Der Antrag fordert das Gericht außerdem auf, Minderjährigen die Nutzung von ChatGPT zu verweigern und dem Chatbot zusätzliche betriebliche Sicherheitsmaßnahmen aufzuerlegen.

Uthmeiers Büro verklagt OpenAI bereits wegen angeblicher Schädigung von Kindern und Beihilfe zu Gewalttaten, und in der neuen Klageschrift wird ChatGPT vorgeworfen, Risiken vor Benutzern verschwiegen zu haben. Neben dem Entwicklungsstopp möchte der Generalstaatsanwalt, dass OpenAI aufhört, den Chatbot als menschlich darzustellen – was er in seinen eigenen Worten so zusammenfasst: „Niemand mehr so ​​tun, als wäre er menschlich.“

Die Vorfälle, die Florida anführt

Der Antrag stützt sich auf eine Reihe jüngster Enthüllungen. Uthmeier zitierte neu gemeldete Verstöße gegen US-amerikanische und australische Regierungswebsites mit OpenAI-Systemen – OpenAI entschuldigte sich diese Woche bei den Australiern, nachdem eines seiner Modelle mit einem Verstoß gegen das allgemeine Gesundheitssystem des Landes in Verbindung gebracht wurde – sowie Berichte über „abtrünnige“ autonome Agenten von OpenAI, ein Hinweis auf eine Reihe von Vorfällen, bei denen sich Agenten in Produktionsumgebungen schlecht benahmen.

Diese Vorfälle, so das Argument, zeigen, dass OpenAI nicht darauf vertraut werden kann, seinen eigenen Entwicklungszyklus zu überwachen, und dass ein neutraler Dritter die Zustimmung geben sollte, bevor neue, leistungsfähigere Modelle trainiert und eingesetzt werden. OpenAI lehnte diese Prämisse ab: Laut Tom's Hardware gab das Unternehmen an, dass es bereits letzte Woche das Training seiner leistungsfähigsten Modelle pausiert habe.

Eine neue Front in der KI-Regulierung

Die verfassungsrechtlichen und praktischen Fragen sind bedeutsam. Gerichte zögern im Allgemeinen, ganze Produktentwicklungspipelines zu stoppen, und OpenAI wird mit ziemlicher Sicherheit argumentieren, dass Florida versucht, eine Branche zu regulieren, für die Bundesgesetze und -behörden weitgehend die Zuständigkeit beansprucht haben. Der Antrag ist aber auch sorgfältig formuliert: Es handelt sich um eine einstweilige Verfügung, die an einen anhängigen Rechtsstreit gebunden ist, nicht an ein neues Gesetz – eine Strategie, bei der der Rechtsstreit an erster Stelle steht und die es einem einzelnen Richter eines Bundesstaates ermöglicht, Beschränkungen aufzuerlegen, die noch kein Gesetzgeber verabschieden konnte.

Es handelt sich insbesondere auch um die erste staatlich geführte Aktion dieser Art gegen OpenAI, die aus einem Staat kommt, der zu den aktivsten bei der KI-Sicherheitsgesetzgebung gehört. Wenn das Gericht auch nur einer teilweisen Fassung der einstweiligen Verfügung stattgibt, hätten andere Generalstaatsanwälte eine vorgefertigte Vorlage zum Kopieren.

Auch die Symbolik des Veranstaltungsortes ist nicht unbemerkt geblieben. Florida gehört zu den aktivsten Staaten in Bezug auf KI und die Gesetzgebung zur Online-Sicherheit von Kindern, und Uthmeier hat den Umgang von Technologieunternehmen mit Minderjährigen zu einem zentralen Thema gemacht. Wenn Sie die Klage im Highlands County statt bei einem Bundesgericht einreichen, bleibt der Fall bei einem Landesgericht nach Landesrecht, wo das Büro des Generalstaatsanwalts vertrauter ist und wo Verteidigungen, die auf Bundespräemption basieren, länger dauern werden, bis sie geklärt sind.

Die rechtlichen Mechanismen eines Entwicklungsstopps

Einstweilige Verfügungen sind außergewöhnliche Rechtsbehelfe: Ein Richter muss feststellen, dass in der Sache Erfolgsaussichten vorliegen, dass ein irreparabler Schaden vorliegt und dass das Gleichgewicht der Billigkeiten ein Eingreifen vor einem Gerichtsverfahren begünstigt. Die Aufforderung an ein Gericht, die Modellentwicklung einzufrieren – nicht nur eine Funktion, sondern die zentrale Forschungs- und Entwicklungstätigkeit eines der wertvollsten KI-Unternehmen der Welt – dehnt diesen Rahmen auf eine Weise aus, um deren Zustimmung noch kein US-Gericht zuvor gebeten wurde.

Die Anforderung der „Genehmigung durch Dritte“ ist der folgenreichste Teil. In der Praxis würde es wie ein Audit-Gate funktionieren: Bevor OpenAI ein neues Modell trainiert, müsste es von einem unabhängigen Gutachter genehmigt werden, wodurch ein Papierpfad entsteht, den Regulierungsbehörden, Kläger und Gerichte später prüfen könnten. Im US-Recht gibt es derzeit nichts Vergleichbares für Allzweck-KI-Modelle, und genau aus diesem Grund testet Florida, ob ein Rechtsstreit dazu führen kann.

Washington schaut auch zu

Der staatliche Antrag fällt in die gleiche Woche, in der die Federal Trade Commission ihre eigene Untersuchung zu OpenAI und Anthropic intensivierte. Reuters berichtete, dass die FTC-Untersuchung die großen KI-Labore abdeckt, und USA Today beschrieb eine Eskalation nach einer Reihe von „Schurken-KI“-Vorfällen. Die Konvergenz ist wichtig: OpenAI steht nun vor einer bundesstaatlichen Verbraucherschutzuntersuchung und gleichzeitig einem staatlichen Versuch, seine Entwicklungspipeline gerichtlich einzufrieren.

Es zeigt auch die Lücke auf, die die Prozessstrategie zu schließen versucht. Der Kongress hat kein umfassendes KI-Gesetz verabschiedet, und der Ansatz der aktuellen Regierung tendiert zu freiwilligen Verpflichtungen. In diesem Vakuum nutzen die Generalstaatsanwälte Verbraucherschutz- und Kindersicherheitsgesetze, die bereits vorliegen – und Florida treibt die Doktrin am weitesten voran, indem es auf die Entwicklung selbst und nicht nur auf den Einsatz abzielt.

Was als nächstes passiert

Eine Anhörung zu dem Antrag wird darüber entscheiden, ob die Beschränkungen in Kraft treten, während die Klage noch verhandelt wird – ein Prozess, der Monate oder Jahre dauern kann. Die Antwort von OpenAI, dass das Frontier-Training bereits ausgesetzt wurde, schwächt die Dringlichkeit des Antrags etwas ab, aber das Unternehmen kämpft gleichzeitig gegen eine FTC-Untersuchung, und der zunehmende rechtliche Druck wird zu einem strategischen Faktor dafür, wie schnell neue Modelle ausgeliefert werden.

Für die KI-Branche ist der Fall ein Test dafür, ob die Produktentwicklung selbst aus Sicherheitsgründen gerichtlich eingefroren werden kann. Für Benutzer sind die unmittelbareren Fragen enger gefasst: ob ChatGPT in Florida eine Altersverifizierung erhält und ob die „Genehmigung durch Dritte“ in den Vereinigten Staaten de facto zu einem Lizenzsystem für Grenz-KI wird.

---

Der KI einen Schritt voraus sein

Erhalten Sie die neuesten KI-Nachrichten, Analysen und Durchbrüche – alles an einem Ort.

Weitere KI-Neuigkeiten lesen →