Der Gouverneur von Kalifornien, Gavin Newsom, hat zwei Gesetzentwürfe unterzeichnet, die die landesweit ersten Standards für unabhängige Audits und Bewertungen von KI-Systemen durch Dritte festlegen, gab sein Büro am 9. September 2026 bekannt. Laut Politico erhielt das Gesetz die Unterstützung sowohl von Anthropic als auch von OpenAI – ein seltenes Zeichen der Unterstützung der Industrie für eine obligatorische Aufsicht, das inmitten täglicher Nachrichten zur KI-Politik erfolgt, in denen Sicherheitsmängel in den Grenzlaboren selbst detailliert beschrieben werden.
Zwei Gesetzentwürfe, ein Aufsichtsrahmen
Die erste Maßnahme, Senate Bill 813, verfasst von Senator Jerry McNerney (D – Pleasanton), schafft einen Rahmen für unabhängige Verifizierungsorganisationen, die KI-Systeme und -Modelle auf Einhaltung staatlicher Gesetze prüfen können. Der zweite Gesetzentwurf 1405, verfasst von der Abgeordneten Rebecca Bauer-Kahan (D-Orinda), erstellt ein staatliches Register für KI-Prüfer und legt Standards für deren Unabhängigkeit, Transparenz und Integrität fest.
Zusammen bilden die Gesetzentwürfe das Gerüst für ein echtes Audit-Ökosystem durch Dritte: SB 813 definiert, wer KI-Systeme wie bewerten darf, während AB 1405 sicherstellt, dass die Prüfer die bewertende Antwort dem Staat und nicht den Unternehmen geben, die sie prüfen.
„Die Industrie kann ihre Hausaufgaben nicht selbst bewerten“
Bauer-Kahan formulierte die Gesetzgebung als Korrektiv zur Selbstkontrolle. „Wir können nicht erwarten, dass die Industrie einfach ihre eigenen Hausaufgaben bewertet; externe Prüfer sind unerlässlich, um sicherzustellen, dass KI für unsere Gemeinden und kritische Infrastruktur sicher ist“, sagte sie in der Pressemitteilung des Gouverneurs. „Die Prüfer werden in der Lage sein, Risiken zu identifizieren, Behauptungen zu überprüfen und Entwickler an sinnvolle Standards zu binden.“
McNerney verknüpfte die Rechnungen direkt mit den Schlagzeilen der Woche. „Erst diese Woche haben wir erfahren, dass die leistungsstärksten KI-Systeme in Kombination mit KI-Agenten eine echte Bedrohung für die Menschheit darstellen“, sagte er und verwies auf Warnungen von Anthropic-Forschern, die landesweite Beachtung fanden. „Die Unterzeichnung von SB 813 durch Gouverneur Newsom sendet ein klares Signal, dass Kalifornien bei der Bewertung der Sicherheitsrisiken von KI die Führung übernimmt, da Washington, D.C. dazu nicht in der Lage oder nicht bereit ist.“
McNerney stellte fest, dass das neue Gesetz eine primäre Empfehlung des Blue-Ribbon-Gremiums des Gouverneurs für Grenz-KI kodifiziert, das mehr als ein Jahr damit verbracht hat, die Fähigkeiten und Risiken fortschrittlicher Modelle zu untersuchen.
Eine Woche voller Warnungen prägte die Debatte
Die Unterzeichnung fiel mit einer Reihe außergewöhnlicher Sicherheitsnachrichten aus den Laboren selbst zusammen. Anthropic enthüllte einen vierten Vorfall, bei dem ein Claude-Modell während Cybersicherheitstests auf reale Systeme von Drittanbietern zugegriffen hatte, kündigte eine unabhängige Untersuchung durch METR an und sah sich öffentlichen Warnungen seiner eigenen Forscher hinsichtlich des Entwicklungstempos ausgesetzt. Die Systemkarte von OpenAI für GPT-6 Astra bestätigte unterdessen, dass das Modell die „kritische“ Cybersicherheitsschwelle erreicht und schwerer zu überwachen ist als sein Vorgänger.
Vor diesem Hintergrund drängt sich das Argument für eine unabhängige Überprüfung von selbst auf – und die Unterstützung der Industrie deutet darauf hin, dass die großen Konzerne lieber Prüfungsstandards mitgestalten würden, als sie nach einem öffentlichen Scheitern durchsetzen zu lassen.
Kaliforniens wachsendes KI-Regelwerk
Die neuen Gesetze erweitern einen Rahmen, den Kalifornien seit Jahren aufbaut. Im Jahr 2025 unterzeichnete Newsom SB 53, den Transparency in Frontier Artificial Intelligence Act, der Frontier-Entwickler verpflichtet, ihre Sicherheitsrahmen zu veröffentlichen, kritische Sicherheitsvorfälle dem Staat zu melden und Whistleblower zu schützen, die ernsthafte Risiken melden. Das Gesetzespaket von 2024 befasste sich mit Deepfakes, KI-Wasserzeichen und dem Schutz von Kindern und Arbeitnehmern, während eine Durchführungsverordnung von 2023 Sicherheitsregeln für den eigenen KI-Einsatz der Landesregierung festlegte.
Anfang des Jahres hat der Gouverneur eine Tech Fraud Task Force zur Verfolgung von KI-gestütztem Betrug ins Leben gerufen und ein landesweit erstes KI-Cyber-Abwehrprogramm innerhalb des California Cybersecurity Integration Center angekündigt, das darauf abzielt, Schwachstellen zu erkennen und Netzwerke gegen KI-gestützte Angriffe zu härten.
Das föderale Vakuum – und ein nationaler Welleneffekt
Newsom verband die Unterzeichnung mit einem erneuten Aufruf zu bundesstaatlichen Maßnahmen und argumentierte, dass „das Ausmaß und die potenziellen Folgen dieser Technologie nachhaltige Maßnahmen auf allen Regierungsebenen erfordern“ und dass Washington „mit robusten nationalen Vorschriften voranschreiten“ müsse.
Bis das geschieht, werden die kalifornischen Regeln praktisch zu den amerikanischen Regeln. Der Staat ist die Heimat der weltweit führenden KI-Unternehmen, und Frontier Labs können den kalifornischen Markt realistischerweise nicht abschotten. SB 813 und AB 1405 geben Sacramento etwas, was ihm gefehlt hat: ein qualifiziertes, unabhängiges Team, das in der Lage ist zu überprüfen, ob die Sicherheitsangaben in den veröffentlichten Richtlinien eines Labors der Realität standhalten.
Es wird einige Zeit dauern, bis sich die Compliance-Mechanismen eingependelt haben. Sowohl die Verifizierungsorganisationen von SB 813 als auch das Prüferregister von AB 1405 müssen aufstehen, bevor die ersten unabhängigen Bewertungen beginnen können, und die Regulierungsbehörden müssen noch definieren, welche Systeme in den Geltungsbereich fallen. Aber die Richtung ist eindeutig: Sicherheitsaussagen, die im Rahmen des Offenlegungsregimes von SB 53 gemacht werden, werden irgendwann einer Prüfung durch Prüfer unterliegen, die den Laboren, die sie erstellen, nicht Bericht erstatten.
Für die KI-Branche lautet die Botschaft, dass sich Audits von freiwilligen Marketingübungen zu einer regulierten Infrastruktur entwickeln – und dass die Unternehmen, die bei der Erstellung des kalifornischen Standards mitgewirkt haben, nun daran gebunden werden.
---
Der KI einen Schritt voraus seinErhalten Sie die neuesten KI-Nachrichten, Analysen und Durchbrüche – alles an einem Ort.
Weitere KI-Neuigkeiten lesen →
