Anthropic stellt dem Kongress ein eigenes Gesetz zur KI-Sicherheit mit einer Schadensschwelle von 1 Milliarde US-Dollar vor

Laut einem Bericht von Politico hat Anthropic den US-Gesetzgebern stillschweigend den Entwurf eines Bundesgesetzes vorgelegt, das es der Regierung erlauben würde, die Veröffentlichung eines KI-Modells zu blockieren – allerdings nur unter den extremsten Umständen.

Der Vorschlagsentwurf, den Politico nach eigenen Angaben eingesehen hat, würde ein Eingreifen des Bundes nur dann zulassen, wenn ein Modell ein vorhersehbares, unmittelbares Risiko von Schäden in Höhe von mehr als einer Milliarde US-Dollar oder der Tötung oder schweren Schädigung von mehr als 50 Menschen birgt. Das Rahmenwerk spiegelt den Versuch von Anthropic wider, die Regeln für die eigene Branche zu gestalten, bevor andere sie schreiben – eine Anstrengung, die das Unternehmen nach eigenen Angaben seit Juni durchführt.

Was der Gesetzentwurf bewirken würde

Dem Vorschlag zufolge könnte die Regierung die Veröffentlichung oder Nutzung eines KI-Modells nur in einer begrenzten Anzahl von Katastrophenszenarien blockieren. Die angegebenen Risiken müssen sich auf die Herstellung oder Freisetzung einer biologischen Waffe, ein KI-Modell, das sich der Kontrolle seines Entwicklers entzieht, oder einen Cyberangriff beziehen.

Die Schwellenwerte sind bewusst hoch. In der Berichterstattung von Politico wird darauf hingewiesen, dass KI-Labore zwar Vorfälle aufgezeichnet haben, bei denen ihre Agenten Websites gehackt oder sich auf andere Weise schlecht benommen haben, dass jedoch bisher kein KI-Vorfall zu weit verbreiteten Todesfällen oder Schäden in Höhe von mehr als 1 Milliarde US-Dollar geführt hat. Mit anderen Worten: Der Gesetzentwurf definiert die rote Linie der Regierung weit darüber, wo aktuelle Versäumnisse tatsächlich auftreten.

Kritiker haben diesen Entwurf bereits aufgegriffen. Tom's Hardware bezeichnete den Vorschlag als einen, der „das Handelsministerium effektiv zur einzigen Behörde machen würde, die in der Lage ist, ein KI-Modell zu stoppen“, während Mother Jones die im Gesetzentwurf festgelegte Schwelle für staatliche Maßnahmen als „alarmierend“ bezeichnete. Befürworter kontern, dass eine hohe Messlatte genau das Richtige sei: Sie zielt auf katastrophale, existenzielle Risiken ab, ohne routinemäßige Modellaktualisierungen einer behördlichen Überprüfung zu unterziehen.

Unabhängige Bewertungen, beim Handel registriert

Der Durchsetzungsmechanismus des Gesetzentwurfs beruht auf der Kontrolle durch Dritte. Es würde unabhängige Bewertungen erfordern, die beim Handelsministerium registriert sind, um KI-Labore und ihre Grenzmodelle regelmäßig zu überprüfen.

Wenn ein Gutachter zu dem Schluss kommt, dass die Frontier-Modelle eines Unternehmens ein „unmittelbar aufgezähltes Risiko“ darstellen, muss der Gutachter laut Politico diese Feststellung innerhalb von 72 Stunden nach Abschluss der Bewertung dem Handelsministerium melden. Diese Meldeuhr und die Registrierungspflicht würden das Handelsministerium zum zentralen Knotenpunkt der Bundesregierung für die Grenzüberwachung der KI machen.

Der Ansatz spiegelt die Richtung anderer anhängiger Gesetze wider. Der Artificial Intelligence Risk Management and Security Act von 2026, der von drei Senatsdemokraten eingeführt wurde, sieht ebenfalls vom Handel gesteuerte KI-Bewertungen vor. Ein separater Gesetzentwurf von Senatorin Maria Cantwell würde das National Institute of Standards and Technology mit der Entwicklung von Standards gegen katastrophale KI-Schäden beauftragen, während Senator Josh Hawleys AI Risk Evaluation Act das Energieministerium damit beauftragen würde, die leistungsstärksten Systeme vor dem Einsatz einem Stresstest zu unterziehen.

Anthropics Verteidigung: Vernünftige Richtlinien, befürwortet seit Juni

Ein Anthropic-Sprecher sagte gegenüber Politico, dass der Entwurf „die im Advanced AI Framework von Anthropic dargelegten Vorschläge darstellt, für die wir uns seit Juni bei Bundes- und Landesgesetzgebern einsetzen“, und fügte hinzu: „Dies sind vernünftige Richtlinien, nach denen der Kongress unserer Meinung nach handeln sollte.“

Die Position des Unternehmens steht im Einklang mit seinem Auftreten in der Öffentlichkeit. Anthropic hat wiederholt argumentiert, dass KI-Risiken im Grenzbereich zwar real, aber begrenzt sind – sie konzentrieren sich auf die Unterstützung von Biowaffen, Kontrollverlust und offensive Cyberoperationen – und dass sich die Regulierung darauf konzentrieren sollte und nicht auf die breite Palette alltäglicher KI-Anwendungen.

Einen eigenen Gesetzentwurf zu verfassen ist der logische nächste Schritt. Anstatt auf Vorschläge anderer zu reagieren, überreicht Anthropic den Gesetzgebern eine Sprache, die auf den eigenen Risikorahmen abgestimmt ist, wobei die Vermeidung von Flickenteppichen auf staatlicher Ebene ein impliziter Vorteil der Bundesgesetzgebung ist. Reuters und eine Reihe anderer Medien haben den Politico-Bericht innerhalb eines Tages ausführlicher dargestellt, ein Zeichen dafür, wie genau Washington und die KI-Industrie nun die Schritte des anderen beobachten.

Der Weg in ein geteiltes Washington

Unabhängig davon, welche Partei den Kongress kontrolliert, stößt der Entwurf auf große politische Schwierigkeiten. In der Berichterstattung von Politico wird darauf hingewiesen, dass jedes Gesetz zur KI-Sicherheit wahrscheinlich auf Widerstand vom Weißen Haus stoßen wird, das weiterhin gegen eine verbindliche KI-Regulierung ist und einen freiwilligen, auf Standards basierenden Ansatz befürwortet.

Dennoch ist der Vorschlag als Marker wichtig. Es quantifiziert – in Dollar und Opferzahlen –, wo nach Ansicht eines der weltweit führenden KI-Labors die Grenze zwischen akzeptablem Risiko und staatlicher Intervention liegen sollte. Es schafft auch einen Bezugspunkt für die konkurrierenden Gesetzentwürfe, die derzeit auf dem Capitol Hill im Umlauf sind und von denen einige eine weitaus aggressivere Aufsicht mit niedrigeren Schwellenwerten vorschlagen.

Politische Analysten werden im Verlauf der Debatte drei Dinge beobachten: ob die Zahlen von 50 Opfern und 1 Milliarde US-Dollar den Kontakt mit der Ausarbeitung des Kongresses überleben; ob bei Commerce registrierte Gutachter echte Autorität oder lediglich eine beratende Rolle erhalten; und ob die bundesstaatliche Präemptionssprache die bereits in Kraft getretenen KI-Gesetze auf Landesebene absorbiert oder mit ihnen kollidiert. Anthropic geht davon aus, dass ein enger, nur auf Katastrophenrisiken beschränkter Rahmen die Art von Regulierung ist, mit der die Branche tatsächlich leben kann – und dass die frühe Gestaltung dieses Rahmens besser ist als die Einführung eines Rahmens zu einem späteren Zeitpunkt.

Bleiben Sie der KI immer einen Schritt voraus

Die KI-Landschaft verändert sich schnell – folgen Sie AI Buzz Wire für aktuelle KI-Neuigkeiten, Modellveröffentlichungen und Branchenanalysen.

Weitere KI-Neuigkeiten lesen →