Illinois ist der erste US-Bundesstaat, der unabhängige Prüfungen von KI-Entwicklern im Grenzbereich durch unabhängige Dritte verlangt, nachdem Gouverneur JB Pritzker SB 315, den Artificial Intelligence Safety Measures Act, in Kraft gesetzt hat. Die Anfang Juli 2026 unterzeichnete Maßnahme, über die am 9. Juli ausführlich berichtet wurde, legt fest, was Befürworter als den stärksten KI-Sicherheitsrahmen des Landes bezeichnen, und zwingt den Unternehmen, die die leistungsstärksten Modelle der Welt entwickeln, Transparenz- und Rechenschaftsregeln auf.

Die Unterzeichnung krönt eine bemerkenswert parteiübergreifende Reise durch die gesetzgebende Körperschaft des Bundesstaates. Der Gesetzentwurf wurde im Repräsentantenhaus von Illinois mit 110 zu 0 Stimmen angenommen und vom Senat mit 52 zu 5 Stimmen gebilligt. Er erhielt die Unterstützung von Gesetzgebern, die argumentierten, dass Washingtons Untätigkeit bei der KI-Regulierung den Bundesstaaten keine andere Wahl gelassen habe, als zu handeln. Weitere Informationen zu dieser Geschichte finden Sie in unserer KI-Nachrichten.

Was das Gesetz vorschreibt

Im Kern erlegt SB 315 den Entwicklern von „Grenzmodellen“ – den rechenintensivsten KI-Systemen, die es gibt – eine Reihe mehrschichtiger Verpflichtungen auf. Laut einer detaillierten Mandantenwarnung der Anwaltskanzlei Crowell & Moring unterscheidet das Gesetz zwischen gewöhnlichen „Frontier-Entwicklern“ und „großen Frontier-Entwicklern“, wobei letztere als solche mit einem jährlichen Bruttoumsatz von mehr als 500 Millionen US-Dollar definiert sind.

Ab dem 1. Januar 2028 müssen große Frontier-Entwickler ein KI-Sicherheitsrahmenwerk veröffentlichen, implementieren und jährlich aktualisieren, das dokumentiert, wie sie katastrophale Risiken bewerten und mindern, ihre Modelle vor Cyberangriffen schützen, auf kritische Sicherheitsvorfälle reagieren und die Ergebnisse von Bewertungen Dritter teilen. Entwickler müssen außerdem Transparenzberichte veröffentlichen, bevor sie ein neues Modell bereitstellen oder ein bestehendes Modell wesentlich ändern, und dabei Details wie Veröffentlichungsdaten, unterstützte Sprachen und Modalitäten, beabsichtigte Verwendungen und Nutzungsbeschränkungen offenlegen.

Das Gesetz definiert „Katastrophenrisiko“ mit ungewöhnlicher Genauigkeit. Es deckt vorhersehbare Risiken ab, dass ein Modell zum Tod oder zur Verletzung von mehr als 50 Menschen führen, Sachschäden in Höhe von mehr als 1 Milliarde US-Dollar verursachen, Hilfe auf „Expertenebene“ bei der Herstellung einer Massenvernichtungswaffe leisten, ohne nennenswerte menschliche Aufsicht funktionieren oder sich der Kontrolle seines Entwicklers oder Benutzers entziehen könnte. Ein „kritischer Sicherheitsvorfall“ umfasst den unbefugten Zugriff oder die Änderung von Modellgewichten, Schäden aufgrund eines Katastrophenrisikos oder ein Modell, das „trügerische Techniken einsetzt“, um die Kontrolle seines Entwicklers zu untergraben.

Eine Premiere: Obligatorische unabhängige Prüfungen

Was Illinois von allen anderen Bundesstaaten unterscheidet, ist die Prüfungspflicht. Während Kalifornien und New York bereits ihre eigenen KI-Grenzgesetze verabschiedet haben – den kalifornischen Transparency in Frontier Artificial Intelligence Act im September 2025 und den New Yorker Responsible AI Safety and Education (RAISE) Act im Dezember 2025 –, schreibt keines von beiden unabhängige Prüfungen durch Dritte vor. Ab Januar 2028 wird Illinois von großen Frontier-Entwicklern verlangen, sich jährlichen Audits durch unabhängige Firmen zu unterziehen, die Modellrisiken und Abhilfemaßnahmen untersuchen und die nach allgemein anerkannten Auditstandards durchgeführt werden.

Das Gesetz schafft außerdem Whistleblower-Schutz und Meldeprozesse für Mitarbeiter von KI-Unternehmen und bietet den Mitarbeitern einen sicheren Kanal, um Sicherheitsbedenken zu äußern. Die Aufsicht und Durchsetzung liegt bei der Illinois Emergency Management Agency und dem Generalstaatsanwalt.

Welche Modelle abgedeckt sind

Wie seine Vorgänger in Kalifornien und New York bindet SB 315 seine Verpflichtungen an eine enge, technisch definierte Klasse von Systemen. Ein „Grenzmodell“ ist ein Modell, das mit mehr als 10^26 Gleitkommaoperationen (FLOPs) trainiert wird – eine mathematische Basislinie, die die im Training verwendete Rechenleistung misst. Dieser Schwellenwert liegt über dem 10^25 FLOPs-Grenzwert der Europäischen Union für Allzweck-KI-Modelle, was bedeutet, dass Illinois weniger Systeme reguliert als das EU-KI-Gesetz.

Heutzutage überschreiten nur eine Handvoll Modelle diesen Rechenschwellenwert. Von Crowell & Moring zitierte Analysten gehen jedoch davon aus, dass es bis 2027 etwa 30 solcher Modelle und bis 2030 mehr als 200 geben wird, was darauf hindeutet, dass die Reichweite des Gesetzes mit der Expansion der Branche stetig zunehmen wird.

Entscheidend ist, dass der geografische Geltungsbereich nicht auf Unternehmen mit Sitz in Illinois beschränkt ist. Jeder Entwickler, dessen Modelle für Benutzer in Kalifornien, New York oder Illinois zugänglich sind, unterliegt den neuen Regeln – und erfasst damit praktisch alle großen Frontier-Entwickler der Welt.

Industrie reagiert

Die Reaktion führender KI-Unternehmen war ausgesprochen positiv. NBC News berichtete, dass sowohl OpenAI als auch Anthropic den Gesetzentwurf öffentlich unterstützt haben. Cesar Fernandez, Anthropic-Chef für Staats- und Kommunalverwaltungsbeziehungen, sagte, Illinois sei „auf dem besten Weg, der erste Staat zu werden, der unabhängige Prüfungen der Sicherheitspraktiken von KI-Entwicklern in großen Grenzgebieten durch Dritte vorschreibt“.

OpenAI-Sprecher Jamie Radice lobte den „durchdachten Rahmen für die KI-Sicherheit an den Grenzen“, während OpenAI am selben Tag, an dem das Repräsentantenhaus von Illinois den Gesetzentwurf verabschiedete, sein eigenes Frontier Governance Framework veröffentlichte – eine freiwillige Struktur, die ausdrücklich auf die Anforderungen aller drei Bundesstaaten abgestimmt ist. Eine Handelsorganisation, die andere KI-Unternehmen vertritt, lehnte die Maßnahme ab, während Google, xAI und Meta nicht sofort auf Anfragen nach Kommentaren reagierten.

Ein de facto nationaler Standard

Da der Kongress noch kein umfassendes KI-Gesetz verabschiedet hat, schafft das gemeinsame Gewicht von Kalifornien, New York und Illinois effektiv einen nationalen Compliance-Standard von Grund auf. Crowell & Moring kam zu dem Schluss, dass die drei Bundesstaaten „im Wesentlichen einen nationalen Rahmen für KI-Sicherheit und Transparenz“ geschaffen haben, unabhängig von Maßnahmen des Bundes.

Der demokratische Abgeordnete Daniel Didech, der den Gesetzentwurf im Repräsentantenhaus von Illinois zusammen mit der Senatssponsorin Mary Edly-Allen unterstützte, erkannte die Unbeholfenheit einer bundesstaatlichen Regulierung an. „Der beste Weg, diese Art von Katastrophenrisiken zu regulieren, wäre ein föderaler Ansatz“, sagte er gegenüber NBC News. „Die Realität ist, dass der Kongress dieses Thema noch nicht aufgegriffen hat und die Technologie sich so schnell entwickelt, dass den Staaten keine andere Wahl blieb, als einzugreifen.“

Für die KI-Branche ist die Botschaft jetzt unmissverständlich: Da drei der größten US-Märkte auf sich überschneidende Transparenz-, Prüfungs- und Vorfallmelderegeln ausgerichtet sind, müssen Frontier-Entwickler eine steigende Grundvoraussetzung für die Sicherheitsverantwortung erfüllen, lange bevor Washington jemals handelt.

---

Bleib vorne bei KI

Die neuesten KI-Nachrichten, Analysen und Durchbrüche – alles an einem Ort.

Mehr KI-Nachrichten lesen →