Der Abgeordnete Ro Khanna, ein Demokrat aus dem Silicon Valley, wird Gesetze einführen, die KI-Modelle verbieten würden, die in der Lage sind, sich selbst rekursiv zu verbessern, bis die Bundesregierung ein Regulierungssystem aufbaut, das in der Lage ist, sie zu überwachen – der weitreichendste KI-Sicherheitsvorschlag, der bisher im Kongress landete.

Der Gesetzentwurf mit der Bezeichnung „Human Control Over AI Act“ wurde vor seiner Einführung exklusiv CNBC in zusammengefasster Form vorgelegt. Dies geschieht inmitten zunehmender Sicherheitsbedenken, die die CEOs von OpenAI und Anthropic bereits dazu veranlasst haben, eine Verlangsamung der Entwicklung von Grenzmodellen zu fordern. Weitere Informationen zu dieser Geschichte finden Sie in unserer KI-Branchenberichterstattung.

„Es besteht tatsächlich die Gefahr des Aussterbens der Zivilisation“, sagte Khanna am Montag in einem Interview mit CNBC. „Es besteht ein Sicherheitsrisiko durch Kontrollverlust, und dann gibt es ein Missbrauchsrisiko, und wir müssen beides ernst nehmen.“

Was der Gesetzentwurf verbieten würde

Im Kern würde der Human Control Over AI Act KI-Modelle verbieten, die ihre eigenen Kernziele, Eindämmungsmechanismen oder Abschaltkontrollen rekursiv selbst verbessern oder autonom modifizieren – es sei denn, es bestehen bundesstaatliche Leitplanken und eine neue Regierungsbehörde genehmigt die Aktivitäten.

In der Praxis zielt dies auf die Fähigkeit ab, die Sicherheitsforscher am meisten fürchten: Systeme, die sich in einem selbstgesteuerten Zyklus neu gestalten können, sodass der Mensch bei jedem Schritt weniger Kontrolle hat. Das Verbot würde in Kraft bleiben, bis die Regulierungsbehörden in der Lage sind, die Risiken einzuschätzen.

Eine neue Bundesbehörde für Grenz-KI

Mit dem Gesetzentwurf würde eine eigene Bundesbehörde geschaffen, die sich auf die leistungsstärksten KI-Modelle konzentriert – die von OpenAI, Anthropic, Google DeepMind und xAI entwickelten –, da diese Unternehmen immer stärker unter die Lupe genommen werden.

Laut der mit CNBC geteilten Zusammenfassung wäre die Agentur verantwortlich für:

  • Verfassen von Sicherheitsvorschriften für Grenz-KI-Systeme
  • Betreiben eines Lizenzsystems zur Genehmigung von Modelltraining und -einsatz
  • Durchführung von Audits von Frontier-KI-Modellen
  • Festlegung von Sicherheitsstandards für kontinuierliche Tests und effektive menschliche Kontrolle

Unabhängige Prüfer würden in jedem Grenzlabor verankert sein und direkt der Agentur Bericht erstatten – eine strukturelle Kontrolle, die sicherstellen soll, dass Labore nicht einfach ihre eigenen Hausaufgaben benoten können. Die Agentur würde außerdem Standards festlegen, die Sandbox-Testumgebungen, Luftspalte, die Testsysteme vom Internet isolieren, Kill-Switches und Kontrollen abdecken, die verhindern, dass Modelle die Laboreinstellungen verlassen und im offenen Internet unterwegs sind.

Insbesondere würde die Gesetzgebung die Bundesaufsicht auf die fortschrittlichen Chips ausdehnen, die Grenzlabore verwenden, einschließlich Mechanismen zur Überwachung oder Kontrolle, wie diese Prozessoren eingesetzt werden.

Strafrechtliche Sanktionen und Pflichtversicherung

Der Gesetzentwurf geht weiter als jeder bisherige Vorschlag zu Strafen. Es würde das, was es als „Verbrechen gegen die Menschlichkeit“ definiert, für den Einsatz von KI-Modellen, die zur Zerstörung der Zivilbevölkerung führen, unter Strafe stellen.

Mitarbeiter von KI-Unternehmen würden mit strafrechtlichen Sanktionen rechnen, wenn sie Sicherheitsvorkehrungen, Notausschalter, Protokollierungs- oder Eindämmungssysteme außer Kraft setzen – oder wenn sie wissentlich ein nicht autorisiertes System einsetzen. KI-Unternehmen müssten außerdem vor der Veröffentlichung ihrer Modelle eine umfassende Haftpflichtversicherung abschließen, wodurch das finanzielle Risiko eines Scheiterns auf die Industrie und nicht auf die Öffentlichkeit verlagert würde.

An der geopolitischen Front fordert der Gesetzentwurf die Regierung auf, durchsetzbare Vereinbarungen und gezielte Exportkontrollen anzustreben, um China und andere Gegner von der Entwicklung gefährlicher KI-Systeme abzuhalten.

Entwickelt mit der Sicherheitsgemeinschaft, nicht mit den Laboren

Khanna machte deutlich, wessen Beitrag den Gesetzentwurf geprägt hat. Anstatt mit den Führungskräften der Unternehmen zu verhandeln, die es regulieren würde, sei die Gesetzgebung auf Gesprächen mit KI-Sicherheitsorganisationen basiert, darunter den unabhängigen gemeinnützigen Organisationen Model Evaluation and Threat Research, dem Machine Intelligence Research Institute und Palisade Research.

„Ich möchte, dass dies ein Modell ist, um der KI-Sicherheitsgemeinschaft eine Stimme zu geben“, sagte Khanna gegenüber CNBC. „Ich glaube, sie wurden zu Unrecht als Science-Fiction abgetan und nicht ernst genug genommen. Sie müssen diese Debatte vorantreiben, die KI-Sicherheitsgemeinschaft, nicht die Führungskräfte von Frontier Labs.“

Khanna beschrieb die Maßnahme als die umfassendste KI-Sicherheitsgesetzgebung, die bisher vorgeschlagen wurde.

Gute Chancen in einem gespaltenen Kongress

Der Human Control Over AI Act reiht sich in ein überfülltes Feld von KI-Sicherheitsvorschlägen auf dem Capitol Hill ein. Darunter ist der überparteiliche FRONTIER Act der Abgeordneten Jay Obernolte, einem kalifornischen Republikaner, und Lori Trahan, einer Demokratin aus Massachusetts, der unabhängige Prüfer in Grenzlaboren einsetzen und der Regierung die Befugnis geben würde, Modelle zu schließen, die als katastrophales Risiko eingestuft werden. Ein separater Sanders-Casar-Vorschlag zum Verbot künstlicher Superintelligenz hat die öffentliche Unterstützung von zehn Demokraten im Repräsentantenhaus gefunden, darunter auch Khanna selbst.

Die politische Realität ist jedoch ernüchternd. Es wird erwartet, dass über keine Gesetzentwürfe des Repräsentantenhauses bis nach den Zwischenwahlen abgestimmt wird, und es wird erwartet, dass der Senat Washington verlässt und erst zurückkehrt, nachdem die Wähler zur Wahl gegangen sind.

Dieser Zeitplan bedeutet, dass der Human Control Over AI Act zumindest vorerst als Marker fungieren wird: ein detaillierter Entwurf dessen, was die KI-Sicherheitsgemeinschaft aufbauen würde, wenn sie die Feder in der Hand halten würde – eingeführt genau in dem Moment, in dem die Leute, die Grenz-KI entwickeln, öffentlich warnen, dass die Technologie ihren Kontrollen entkommt.

---

Bleib vorne bei KI

Die neuesten KI-Nachrichten, Analysen und Durchbrüche – alles an einem Ort.

Mehr KI-Nachrichten lesen →