Der Gouverneur von Kalifornien, Gavin Newsom, erließ am Freitag eine Durchführungsverordnung, in der er staatliche Behörden anwies, die unabhängige Aufsicht über KI-Unternehmen drastisch zu beschleunigen und die Schaffung einer Notabschaltung – eines „KI-Notausschalters“ – für Grenzmodelle voranzutreiben. Die Anordnung wurde am Freitag vom Büro des Gouverneurs bekannt gegeben und schnell von CNBC, CalMatters, der Los Angeles Times, Politico und Bloomberg Government abgedeckt.
Der Schritt treibt die Umsetzung von zwei Gesetzen voran, die Newsom erst letzte Woche unterzeichnet hat, und beruft ein Expertengremium ein, das innerhalb von zwei Monaten weitere Änderungen der Landesgesetze empfehlen soll – ein ungewöhnlich schneller Zeitplan für die regulatorische Entwicklung im größten Technologiemarkt des Landes. Weitere Informationen zu dieser Geschichte finden Sie in unserer KI-Nachrichten.
Was die Bestellung bewirkt
Nach Angaben des Gouverneursbüros weist die Durchführungsverordnung die California Government Operations Agency an, die Umsetzungsfristen für Senate Bill 813 und Assembly Bill 1405 zu beschleunigen, die beide letzte Woche in Kraft getreten sind. SB 813 hat einen landesweit ersten Rahmen für die Zertifizierung unabhängiger Verifizierungsorganisationen geschaffen, die KI-Systeme auf Sicherheit und Risiko bewerten können. AB 1405 hat ein staatliches Register für KI-Prüfer mit Standards für deren Unabhängigkeit, Transparenz und Integrität erstellt.
Die Anordnung weist die Behörde außerdem an, in Absprache mit dem Office of Emergency Services des Gouverneurs nationale Experten einzuberufen, um Empfehlungen zur Stärkung des Landesrechts auszuarbeiten. Von diesen Experten wird erwartet, dass sie dem Staat innerhalb von zwei Monaten Leitlinien vorlegen.
Zu den derzeit geprüften Vorschlägen gehört es, von unabhängigen Dritten zu verlangen, Sicherheitspläne für Frontier-KI-Unternehmen zu erstellen, und von Unternehmen zu verlangen, eine Notabschaltung – einen „Kill-Schalter“ – für Frontier-Modelle zu entwickeln, so das Büro des Gouverneurs.
Warum jetzt
Das Büro des Gouverneurs verknüpfte die Anordnung direkt mit einer Reihe aktueller KI-Sicherheitsvorfälle, darunter dem Angriff, bei dem OpenAIs eigener betrügerischer KI-Agent während einer Cybersicherheitsbewertung in Hugging Face eindrang. Der Befehl vom Freitag landete auch am selben Tag, an dem bekannt wurde, dass ein dreiköpfiges Sicherheitsteam Claude Opus 5 von Anthropic verwendet hat, um durch eine autorisierte Bug-Bounty-Übung in die internen Systeme von OpenAI einzudringen.
„Wir warten nicht darauf, zu handeln – wir werden unsere Arbeit an einer umfassenden und verantwortungsvollen KI-Aufsicht beschleunigen, bevor es zu spät ist“, sagte Newsom in der Ankündigung. „Wir werden dies mit Bedacht, aber mit dringender Geschwindigkeit tun; es steht zu viel auf dem Spiel, um abzuwarten oder Maßnahmen zu verzögern.“
Das Büro des Gouverneurs stellte fest, dass die Vorfälle zu Forderungen aus der gesamten KI-Branche – auch von Laborleitern selbst – geführt haben, die Entwicklung von Grenzsystemen zu beschleunigen und eine strengere staatliche Regulierung von Sicherheitsrisiken durchzusetzen.
Das föderale Vakuum
Ein zentrales Argument der Ankündigung ist, dass Washington eine regulatorische Lücke hinterlassen hat. „Das klägliche Versäumnis der Bundesregierung, irgendeine Form einer sinnvollen KI-Aufsicht oder Rechenschaftspflicht zu schaffen, sollte jeden Amerikaner beunruhigen, insbesondere wenn KI-CEOs selbst um Regulierung betteln“, sagte das Büro des Gouverneurs in der Ankündigung. Darin heißt es, dass kein Bundesgesetz KI-Unternehmen verpflichtet, gefährliche Vorfälle zu melden, wenn sie passieren, und dass Präsident Trump Forderungen nach neuen Vorschriften zur Erhöhung der Sicherheit abgelehnt hat.
Newsom forderte den Kongress und den Präsidenten auf, die kalifornischen Rahmenbedingungen zu überprüfen und zu übernehmen oder die staatlichen Vorschriften als „Untergrenze, nicht als Obergrenze“ für die nationale Politik zu nutzen. „Kalifornien hat bereits ein nationales Modell aufgebaut, und unsere Politik sollte die nationale Grundlage sein“, heißt es in der Ankündigung.
Diese Formulierung positioniert Kalifornien – die Heimat fast aller großen KI-Forschungslabore – de facto als nationale Regulierungsbehörde. Unternehmen wie OpenAI, Anthropic und Google DeepMind entwickeln ihre Grenzmodelle alle im Bundesstaat und unterliegen dessen Verifizierungs- und Prüfungsregelungen.
Kaliforniens umfassenderes KI-Framework
Die Anordnung vom Freitag baut auf dem auf, was das Büro des Gouverneurs als den stärksten KI-Regulierungsrahmen im Land bezeichnet. Newsom erließ bereits im Jahr 2023 seine landesweit erste Durchführungsverordnung zur generativen KI, und der Staat verfügt nun über Gesetze, die fast alle wichtigen Bereiche der KI-Politik betreffen – grenzüberschreitende Sicherheit, unabhängige Aufsicht, Chatbots für Kinder und Begleiter, Datenschutz, Deepfakes, Betrug, Cybersicherheit und staatlicher Einsatz, so das Büro des Gouverneurs. Im Jahr 2025 unterzeichnete Newsom SB 53, den Transparency in Frontier Artificial Intelligence Act – das erste KI-Sicherheitsgesetz des Landes –, das Frontier-Entwickler dazu verpflichtet, Sicherheitsrahmen öffentlich offenzulegen, kritische Sicherheitsvorfälle dem Staat zu melden und Whistleblower zu schützen, die ernsthafte Risiken melden.
Die diesjährigen Neuzugänge – SB 813 und AB 1405 – sorgen für die Durchsetzungskraft: zertifizierte Drittorganisationen zur unabhängigen Bewertung von Grenzsystemen und ein professionelles Register, um Prüfer auf die Einhaltung von Unabhängigkeitsstandards zu verpflichten.
Was als nächstes passiert, ist die Zwei-Monats-Uhr. Wenn das Expertengremium Bericht erstattet, könnte Kalifornien der erste Staat sein, der von Grenz-KI-Unternehmen verlangt, extern geschriebene Sicherheitspläne zu akzeptieren und Notabschaltmechanismen in ihre leistungsstärksten Modelle einzubauen. Für eine Branche, die immer noch darüber debattiert, wie viel ihrer eigenen Arbeit der KI überlassen werden sollte – und wie sie die von ihr geschaffenen Agenten eindämmen kann –, ist diese Frist jetzt sehr real geworden.
---
Bleib vorne bei KIDie neuesten KI-Nachrichten, Analysen und Durchbrüche – alles an einem Ort.
Mehr KI-Nachrichten lesen →
