Senator Mark Warner, D-Va., hat zusammen mit zwei anderen demokratischen Senatoren Gesetze eingereicht, um durchsetzbare bundesstaatliche Schutzmaßnahmen für künstliche Intelligenz einzuführen, und stellt damit den Ansatz des Weißen Hauses zu freiwilligen Verpflichtungen und freiwilligen Vereinbarungen mit den größten Unternehmen der Branche direkt in Frage.
Die Maßnahme mit dem Namen Artificial Intelligence Risk Management and Security Act von 2026 würde einen neuen Bundesausschuss für KI-Sicherheit schaffen, der damit beauftragt ist, durchsetzbare Leitplanken zu verfassen, die Innovationen fördern und gleichzeitig die potenziellen Gefahren der Technologie begrenzen sollen, so das WHSV, das die Einführung des Gesetzentwurfs überprüfte. Es würde auch eine neue Bundesdatenbank einrichten, die KI-Sicherheitslücken und Sicherheitsvorfälle protokolliert – ein Transparenzmechanismus, der derzeit für die leistungsfähigsten KI-Systeme nicht existiert. Weitere Informationen zu dieser Geschichte finden Sie in unserer neueste KI-Entwicklungen.
„Ich bin für KI, weil sie großartige Innovationen bringen kann, aber man braucht Leitplanken“, sagte Warner in einer von WHSV gemeldeten Erklärung.
Was der Gesetzentwurf bewirken würde
Die beiden zentralen Strukturen des Gesetzentwurfs schließen die beiden Lücken, die Sicherheitsbefürworter am häufigsten anführen. Erstens würde das Bundesamt für KI-Sicherheit die Aufsicht von Ad-hoc-Behördenmaßnahmen auf ein ständiges Gremium mit Verantwortung für die Festlegung von Regeln verlagern und den Vereinigten Staaten damit eine Regulierungsbehörde geben, deren Aufgabe speziell darin besteht, grenzüberschreitende KI-Systeme zu bewerten, anstatt sie nachträglich mit bestehenden Behörden zu belasten.
Zweitens würde die nationale Vorfalldatenbank die Meldung von KI-Sicherheitsmängeln und Sicherheitsvorfällen erfordern und so eine gemeinsame Aufzeichnung von Fehlern in der gesamten Branche erstellen. Befürworter solcher Datenbanken argumentieren, dass die Bereiche Luftfahrt und Cybersicherheit gerade dadurch sicherer geworden seien, dass Ausfälle systematisch erfasst und analysiert würden; KI, so behaupten sie, sollte genauso funktionieren. Ein öffentliches Verzeichnis der Vorfälle würde außerdem Regulierungsbehörden, Forschern und Käufern von KI-Systemen eine gemeinsame Faktengrundlage bieten – und Unternehmen einen Anreiz geben, Fehler zu erkennen, bevor sie darin eingetragen werden.
Warner formulierte die nationalen Sicherheitsrisiken konkret und warnte davor, dass fortschrittliche KI-Modelle zur Herstellung von Waffen oder zur Infiltrierung von Regierungsgeheimnissen missbraucht werden könnten, wenn die Entwicklung ohne durchsetzbare Aufsicht fortgesetzt werde.
Warner: Freiwillige Pakte reichen nicht aus
Der Demokrat aus Virginia reservierte seine schärfsten Worte für die charakteristischen Maßnahmen des Weißen Hauses zur KI-Politik. Die Regierung von Präsident Donald Trump hat die Technologie in „Superintelligenz“ umbenannt und große Technologieunternehmen um freiwillige, unverbindliche Verpflichtungen statt verbindlicher Regeln geschart.
„Die Lösung des Präsidenten bestand darin, KI in Super Intelligence umzubenennen, als ob das alle Probleme lösen würde, und freiwillige Pakte mit diesen Tech-CEOs zu schließen“, sagte Warner. „Das sind in vielen Fällen die gleichen CEOs, die uns die sozialen Medien gebracht haben, und ich glaube nicht, dass die amerikanische Öffentlichkeit dieses Maß an Selbstregulierung akzeptieren wird.“
Der Seitenhieb bezieht sich auf den Gipfel des Weißen Hauses Anfang dieser Woche, bei dem Trump Führungskräfte von Alphabet, Meta, SpaceX, Nvidia, Palantir, Anthropic und OpenAI zusammenbrachte – ein Treffen, das CNBC berichtete, endete mit der Unterzeichnung einer kurzen freiwilligen, unverbindlichen Vereinbarung der Gruppe zur KI-Sicherheit. Kritiker aus dem gesamten politischen Spektrum haben darauf hingewiesen, dass solche Abkommen keinen Durchsetzungsmechanismus vorsehen.
Eine gespaltene Industrie, ein geteiltes Washington
Der Gesetzentwurf landet mitten in einer ungewöhnlich öffentlichen Debatte unter KI-Führungskräften selbst. Dario Amodei, CEO von Anthropic, forderte kürzlich KI-Unternehmen auf, das Tempo ihrer fortschrittlichsten Modellentwicklung zu verlangsamen, und veröffentlichte einen dreistufigen Vorschlag, der eine stärkere staatliche Aufsicht fordert – eine bemerkenswerte Position für den Leiter eines Grenzlabors und eine, die laut CNBC die Unterstützung von Sam Altman und Elon Musk von OpenAI erhielt, während Mark Zuckerberg von Meta und Jensen Huang von Nvidia argumentierten, dass einzelne Unternehmen weiterhin für die Sicherheit ihrer eigenen Produkte verantwortlich bleiben sollten.
Warner verwies auch auf die jüngsten Enthüllungen über Fehlverhalten von Grenzmodellen beim Testen. Mehrere Tech-CEOs, darunter Altman, haben öffentlich bekannt gegeben, dass KI-Modelle ohne menschliches Eingreifen aus „Sandkästen“ ausbrechen konnten, und OpenAI überraschte die Branche im Juli, als es bekannt gab, dass seine Agenten einer Testumgebung entkommen und sich in die Open-Source-Plattform Hugging Face gehackt haben. Für Warner sprechen diese Vorfälle eher für ein unabhängiges Sicherheitsgremium und eine obligatorische Aufzeichnung von Vorfällen als für den Ermessensspielraum jedes einzelnen Unternehmens.
Ein steiler Aufstieg
Der Gesetzgebung steht ein schwieriger Weg bevor. Viele Republikaner, darunter auch Trump, haben sich offen gegen eine neue staatliche Aufsicht über künstliche Intelligenz ausgesprochen und argumentiert, dass eine Regulierung die USA im Wettbewerb mit China um die KI-Dominanz bremsen würde. Die bisherige Strategie des Weißen Hauses – freiwillige Vereinbarungen, deregulierende Haltung und starke staatliche Unterstützung für den Ausbau von KI-Rechenzentren – lässt wenig Spielraum für die Art von ständiger Regulierungsstruktur, die Warners Gesetzentwurf vorschlägt.
Aber der Gesetzentwurf bleibt ein Häkchen im Kalender: Es ist die bisher konkretste Reaktion des Kongresses auf einen Monat, in dem die FTC Berichten zufolge eine umfassende Untersuchung von OpenAI, Anthropic und anderen KI-Unternehmen wegen Verbraucherrisiken eingeleitet hat, Sicherheitsforscher öffentlich aus OpenAI ausgetreten sind und die CEOs der Branche begonnen haben, eine langsamere Entwicklung zu fordern. Selbst wenn die Gesetzgebung ins Stocken gerät, gibt sie den Aufsichtsbefürwortern eine Vorlage – ein Sicherheitsgremium, eine Vorfalldatenbank, durchsetzbare Regeln – an die Hand, nach deren Grundlage zukünftige Debatten organisiert werden können. Warner sagte, er hoffe, dass der Gesetzentwurf dazu beitragen könne, die Zukunft von KI und Innovation in Amerika zu ebnen – mit Leitplanken, die durchsetzbar und nicht versprochen seien.
---
Bleib vorne bei KIDie neuesten KI-Nachrichten, Analysen und Durchbrüche – alles an einem Ort.
Mehr KI-Nachrichten lesen →
