Die Sicherheitswarnungen von Anthropic-Forschern, die diese Woche den KI-Diskurs dominierten, haben in Washington nun zu etwas Konkretem geführt: einem gesetzgeberischen Vorstoß. Reuters berichtete am Donnerstag, dass US-Gesetzgeber als Reaktion auf die Aussagen der Forscher neue KI-Regeln fordern, während die Abgeordnete von Massachusetts, Lori Trahan, ein Interview am Donnerstagmorgen nutzte, um ihren Frontier Act näher zu erläutern, einen Gesetzentwurf, der Grenz-KI-Entwicklern erstmals verbindliche Verpflichtungen auferlegen würde.

In der Morning Edition von WBUR sagte Trahan, die Reaktion auf dem Capitol Hill auf die Ereignisse dieser Woche sei anders als alles, was sie gesehen habe, seit sie Anfang des Jahres mit der Arbeit an der KI-Regulierung begonnen habe. Für eine tägliche Berichterstattung über KI-politische Maßnahmen in Washington, Brüssel und darüber hinaus folgen Sie AI Buzz Wire, Ihrer Quelle für aktuelle KI-Nachrichten und Aktualisierungen der Vorschriften.

Was das Grenzgesetz bewirken würde

Trahan, Mitverfasser des parteiübergreifenden Gesetzentwurfs, beschrieb ihn als eine Reihe von „Verkehrsregeln“ für eine Handvoll Unternehmen, deren Modelle katastrophalen Schaden anrichten könnten. Das Frontier Act würde laut der Kongressabgeordneten vier Dinge vorschreiben: Transparenzanforderungen für Frontier-KI-Entwickler, Meldung von Vorfällen, unabhängige Überprüfung von Modellsicherheitsansprüchen und eine sogenannte staatliche Pausentaste, wenn ein Modell ein unmittelbares Katastrophenrisiko darstellt.

„Grundsätzlich müssen wir den Grenzlaboren Leitplanken auferlegen“, sagte Trahan und bezeichnete diese Bestimmungen als „Grundvoraussetzungen“, während der Kongress Richtlinien für die vielen anderen Sektoren ausarbeitet, die KI berühren wird.

„Das Ehrensystem“: Trahans Argument für verbindliche Regeln

Der Kern von Trahans Argumentation besteht darin, dass derzeit nichts die Entwickler der leistungsstärksten KI-Systeme bindet. „Das Einzige, was wir heute haben, ist das Ehrensystem“, sagte sie. „Die leistungsstärkste Technologie der Menschheitsgeschichte wird von ihren Entwicklern reguliert.“

Sie bestätigte die Skepsis unter Kollegen und sagte, einige würden die Warnungen der Woche als Panikmache oder zu extrem betrachten. Aber sie beschrieb einen schnellen Stimmungsumschwung in der Kammer: „Mein Telefon hat nicht aufgehört zu klingeln, seit Jacob Coxon gepfiffen hat. Ich glaube, meine Kollegen haben Angst. Sie hören von ihren Wählern, die wollen, dass wir handeln … Diese Woche hat gerade einen Wendepunkt erreicht.“

Insbesondere sagte sie, dass der Druck nicht auf eine Partei beschränkt sei. „Es sind nicht nur die Demokraten“, sagte Trahan und bemerkte, dass „die MAGA-Republikaner gestern zu parteiübergreifenden Maßnahmen aufgerufen haben. Der Boden hat sich wirklich verändert.“

Die Warnungen, mit denen alles begann

Die gesetzgeberische Gärung geht direkt auf Aussagen zweier anthropischer Forscher zurück. Jacob Coxon verließ das Unternehmen am Dienstag und schrieb in den sozialen Medien, dass Anthropic „direkt zu einer sich selbst verbessernden Superintelligenz strebt und unser Leben aufs Spiel setzt“. Evan Hubinger, ein Kollege des Anthropic-Forschers, unterstützte ihn öffentlich und schrieb: „Jacob hat hier Recht … Wir glauben wirklich ernsthaft, dass KI alle Menschen töten könnte! Ich persönlich denke, dass es innerhalb des nächsten Jahrzehnts mehr als 10 % sein wird.“

Die Geschichte breitete sich im Laufe der Woche aus. The Hill berichtete, dass Gesetzgeber nach den Warnungen Alarm wegen KI-Gefahren schlugen, BBC und CBS berichteten über Hubingers Wahrscheinlichkeitsschätzung, und NBC News berichtete am Donnerstag über zwei KI-Forscher, die Anthropic und Google wegen Sicherheitsbedenken verlassen hatten, und zitierte einen, der sagte: „Es sind keine Erwachsenen im Raum.“ Reuters berichtete am Donnerstag, dass die Gesetzgeber nun neue Regeln fordern, und es kursierten auch Berichte, dass OpenAI US-Regeln für leistungsstarke KI-Modelle angestrebt habe.

Von der Warnung zur Rechnungsdatei

Was diese Woche von früheren Sicherheitskontroversen unterscheidet, ist die Geschwindigkeit der politischen Reaktion. Die eigenen Enthüllungen von Anthropic in dieser Woche – ein Threat-Intelligence-Bericht, in dem gestörte Missbrauchskampagnen detailliert beschrieben werden, einschließlich möglicher Versuche, Claude zur Entwicklung biologischer Waffen einzusetzen – gaben den Warnungen ein beweiskräftiges Rückgrat, das in früheren Debatten fehlte, und die Gesetzgeber scheinen sich zu bewegen, solange der Moment anhält.

Der Weg in die Zukunft für die KI-Gesetzgebung

Die Aussichten für das Grenzgesetz bleiben ungewiss. Der Kongress kämpft seit Jahren darum, eine umfassende KI-Gesetzgebung zu verabschieden, und jeder Gesetzentwurf, der eine obligatorische Verifizierung oder eine bundesstaatliche Pausenbehörde betrifft, würde mit intensiver Lobbyarbeit seitens der Labore, die er regulieren würde, sowie mit Zuständigkeitsstreitigkeiten zwischen den Ausschüssen konfrontiert sein. Die Bundesstaaten warten nicht abseits: Der Gouverneur von Kalifornien, Gavin Newsom, hat laut Los Angeles Times diese Woche eine Reihe von Gesetzen zur KI-Sicherheit in Kraft gesetzt und damit den Druck auf einen föderalen Rahmen aufrechterhalten, der einem Flickenteppich staatlicher Vorschriften zuvorkommt.

Vorerst hat sich die Dynamik umgekehrt. Zum ersten Mal in diesem Kongress fordern die Leute, die Grenzmodelle entwickeln, öffentlich Beschränkungen für ihre eigene Industrie – und die Gesetzgeber entwerfen sie.

Ob diese Angleichung Gesetze hervorbringt oder nur Schlagzeilen macht, wird von den kommenden Monaten abhängen. Aber die Woche hat etwas gezeigt, was weder die Labore noch ihre Kritiker ignorieren können: Die KI-Sicherheit hat sich vom Seminarraum zum Whip Count verlagert, und die Mitglieder, die die Stimmen auszählen, sagen, dass ihre Wähler letztendlich diejenigen sind, die sie zum Handeln auffordern.

AI Buzz Wire wird den Frontier Act weiterhin verfolgen, während er durch den Kongress geht.

---

Der KI einen Schritt voraus sein

Erhalten Sie die neuesten KI-Nachrichten, Analysen und Durchbrüche – alles an einem Ort.

Weitere KI-Neuigkeiten lesen →