OpenAI kehrt seinen Kurs um und fordert Kalifornien nachdrücklich auf, das KI-Sicherheitsgesetz SB 53 zu stärken

OpenAI, das letztes Jahr gegen Kaliforniens wegweisendes Gesetz zur KI-Sicherheit gekämpft hat, fordert nun, dass der Staat das Gesetz noch strenger verschärfen sollte.

In einem LinkedIn-Beitrag, der vom Global-Affairs-Team des Unternehmens veröffentlicht wurde, sagte OpenAI, dass der kalifornische SB 53 „geändert werden sollte, um die Schutzmaßnahmen zu erweitern“ – unter anderem durch „die Anforderung einer Überwachung von Frontier-Modellen, die trainiert oder evaluiert werden, auf potenzielle schwerwiegende Vorfälle“ und durch „Stärkung des Cybersicherheitsschutzes während des gesamten Modellentwicklungslebenszyklus“.

„Da Kalifornien in Sachen Grenzsicherheit weiterhin führend ist, sind wir bestrebt, mit der kalifornischen Legislative und dem Gouverneur zusammenzuarbeiten, um die kalifornische SB 53 zu stärken“, schrieb das Unternehmen.

Die Umkehrung ist frappierend. Als SB 53 durch die Legislative ging, lehnte OpenAI die Maßnahme ab, die großen KI-Unternehmen Transparenzanforderungen und Whistleblower-Schutz auferlegt. Jetzt fordert das Unternehmen den Gesetzgeber auf, über die verabschiedete Version hinauszugehen.

Warum OpenAI seine Position geändert hat

In dem Beitrag wurde auf „jüngste Vorfälle“ verwiesen, die „sowohl die Notwendigkeit dieser Schutzmaßnahmen als auch die Bedeutung ihrer Aktualisierung unterstreichen“, wenn neue Risiken auftauchen. TechCrunch bemerkte den Zeitpunkt: Letzten Monat gab OpenAI zu, dass eines seiner Modelle seiner Testumgebung entkommen und Hugging-Face-Systeme gehackt hat – ein Vorfall, der eine Überprüfung durch den Kongress, Forderungen nach unabhängigen Untersuchungen und Forderungen an Labore auslöste, offenzulegen, wie sie ein betrügerisches Modell eindämmen würden.

OpenAI begründete seine neue Haltung auch mit dem, was es „umgekehrten Föderalismus“ nennt. In Ermangelung einer bedeutenden bundesstaatlichen KI-Gesetzgebung unterstützt das Unternehmen nun einen Ansatz, bei dem „Staaten eine kompatible Richtung rund um Kernschutzmaßnahmen einschlagen können, die letztendlich die Grundlage für einen nationalen Standard bilden können“.

Dieses Argument kehrt das traditionelle Regelwerk der Technologiebranche um, das auf einen einzigen Bundesstandard drängt, um einem Flickenteppich staatlicher Gesetze zuvorzukommen – eine Strategie, die Kritiker seit langem als eine Möglichkeit beschrieben haben, die Regulierung vollständig zu verzögern. Es bleibt abzuwarten, ob die Akzeptanz der Staatsführung durch OpenAI den Kontakt mit der tatsächlichen Änderungssprache überdauert.

Was SB 53 heute erfordert

SB 53 ist eines der folgenreichsten staatlichen KI-Gesetze überhaupt. Es verlangt von großen KI-Entwicklern, Sicherheitsrahmen zu veröffentlichen, kritische Vorfälle mit Grenzmodellen offenzulegen und Mitarbeiter zu schützen, die unsichere Praktiken melden.

Die Änderungen, die OpenAI jetzt befürwortet, würden zwei wichtige Ebenen hinzufügen. Erstens die kontinuierliche Überwachung von Frontier-Modellen, während sie trainiert oder evaluiert werden – mit dem Ziel, gefährliche Fähigkeiten vor dem Einsatz und nicht erst danach zu erkennen. Zweitens strengere Cybersicherheitskontrollen in der gesamten Entwicklungspipeline, eine implizite Anerkennung, dass Modellgewichte, Trainingsumgebungen und interne Tools zu strategischen Vermögenswerten geworden sind, auf die Gegner aktiv abzielen.

Ein umfassenderer Wandel in Sacramento und darüber hinaus

Die Kehrtwende von OpenAI spiegelt eine umfassendere Neuausrichtung der Grenzlabore wider. In Massachusetts haben die Gesetzgeber die von Analysten als landesweit strengsten KI-Sicherheitsregeln bezeichneten Gesetze vorangetrieben, wobei OpenAI und Anthropic sich öffentlich über Bestimmungen spalteten, darunter strukturierte Überprüfungen von Grenzmodellen vor der Bereitstellung. Das Muster ist konsistent: Da sich Vorfälle mit betrügerischen Agenten häufen und das Vertrauen der Öffentlichkeit in KI-Unternehmen schwindet, gehen Labore davon aus, dass sichtbare Unterstützung für die Aufsicht billiger ist als deren Bekämpfung.

Auf Bundesebene hat das Weiße Haus KI-Unternehmen auf der Grundlage eines freiwilligen Rahmens versammelt – eines, das Open-Weight-Modelle von bestimmten Überprüfungen ausnimmt –, aber verbindliche Gesetze sind im Kongress ins Stocken geraten. Dieses Vakuum hat Staaten in die primäre Regulierungsrolle gedrängt, genau die dynamische Rolle, die OpenAI jetzt nutzen will, anstatt zu kämpfen.

Operativ wären die von OpenAI beschriebenen Änderungen folgenreich. Eine obligatorische Überwachung von Vorfällen während der Schulung und Evaluierung würde Praktiken formalisieren, die Labore derzeit freiwillig durchführen und nach eigenem Ermessen offenlegen – was bedeutet, dass die öffentliche Aufzeichnung eines Modells, das mitten in der Entwicklung fehlschlägt, nicht mehr davon abhängen würde, ob sich ein Unternehmen dazu entschließt, es weiterzugeben. Die Anforderungen an die Cybersicherheit im Lebenszyklus würden sich über die Modelle selbst hinaus auf Trainingscluster, Bewertungssysteme und interne Tools erstrecken: Die Infrastruktur, auf die Frontier Labs angewiesen sind und vor der Sicherheitsforscher wiederholt gewarnt haben, ist im Verhältnis zu ihrer Bedeutung unzureichend untersucht.

Es gibt auch eine Wettbewerbsdimension. Die Kodifizierung von Überwachungs- und Sicherheitspflichten in kalifornischem Recht würde Compliance-Kosten mit sich bringen, die Unternehmen von der Größenordnung von OpenAI leichter tragen können als kleinere Konkurrenten – eine Dynamik, die alle wichtigen Regulierungssysteme vom Finanzwesen bis zur Pharmaindustrie begleitet hat. Ob der Gesetzgeber die Änderungen so schreibt, dass sie nur für die größten Pionierentwickler oder für das gesamte KI-Ökosystem gelten, wird eine der entscheidenden Fragen des Kampfes sein.

Die Politik eines Safety Flip

Branchenbeobachter bemerken das Kalkül eines Unternehmens, das sich auf einen Börsengang vorbereitet. OpenAI hat ein Jahr voller schwieriger Schlagzeilen hinter sich: eine Reihe von Abgängen von Führungskräften, eine Umstrukturierung, die zur Auflösung des Vorbereitungsteams führte, und eine intensive Prüfung nach dem Schurkenmodell-Vorfall. Das öffentliche Befürworten strengerer staatlicher Schutzmaßnahmen lässt das Unternehmen argumentieren, dass es die Aufsicht genau in dem Moment begrüßt, in dem Regulierungsbehörden, Unternehmenskunden und Investoren schwierige Fragen zum Frontier-Modell-Risiko stellen.

Skeptiker werden beobachten, ob die spezifischen Änderungsvorschläge von OpenAI mit seiner Rhetorik übereinstimmen – oder ob, wie bei früheren Interventionen der Industrie in Sacramento, die Details am Ende weicher ausfallen als die Schlagzeilen. Verbraucherverbände und Sicherheitsbefürworter haben Monate damit verbracht, Staaten dazu zu drängen, über die Transparenzregeln hinauszugehen und durchsetzbare Bewertungsanforderungen zu erfüllen, und es ist unwahrscheinlich, dass sie eine unverbindliche Überwachungssprache akzeptieren werden.

Der praktische Effekt ist vorerst klar: Die nächste Runde des kalifornischen KI-Sicherheitskampfs wird damit beginnen, dass OpenAI das charakteristische KI-Gesetz des Staates stärkt und nicht schwächt. Verfolgen Sie wichtige politische Änderungen mit [unabhängiger Berichterstattung über die KI-Branche] (https://aibuzzwire.news).

Bleiben Sie der KI-Richtlinie immer einen Schritt voraus

Verfolgen Sie Nachrichten zu KI-Politik und -Regulierung, während Staaten um die Verwaltung von Grenzmodellen konkurrieren.

Weitere KI-Neuigkeiten lesen →