Zwei der lautstärksten KI-Skeptiker im Kongress wollen, dass die Branche aufhört. Laut einer Pressemitteilung von Sanders‘ Senatsbüro und einer Berichterstattung in der Washington Post haben Senator Bernie Sanders, der Unabhängige aus Vermont, und der Abgeordnete Greg Casar, ein texanischer Demokrat, am Donnerstag Gesetze eingebracht, um künstliche Superintelligenz zu verbieten und die fortgeschrittene KI-Entwicklung vorübergehend zu unterbrechen.
Der Gesetzentwurf, der von seinen Unterstützern als Gesetz zum „Verbot künstlicher Superintelligenz und vorübergehender Unterbrechung der fortgeschrittenen KI-Entwicklung“ bezeichnet wird, kommt nach einem Sommer voller Angst vor KI-Agenten, der der Idee außer Kontrolle geratener Systeme einen konkreten Bezugspunkt verschaffte. Es ist der bislang weitreichendste Vorschlag in einem stetigen Strom von KI-bezogenen Gesetzen von der linken Flanke des Capitol Hill, und für Leser, die [Nachrichten zur KI-Politik] (https://aibuzzwire.news) verfolgen, markiert er eine Eskalation von Steuer- und Transparenzgesetzen hin zu einem völligen Entwicklungsstopp.
Was der Vorschlag fordert
In einer öffentlichen Erklärung zur Förderung des Gesetzentwurfs beschrieb Sanders zwei Kernforderungen: eine sofortige Pause bei der Entwicklung fortgeschrittener KI und ein dauerhaftes Verbot der Superintelligenz, die er als „einen künstlichen Geist, der intelligenter als jeder Mensch ist und in der Lage ist, außerhalb unserer Kontrolle unabhängig zu operieren“ definierte. Er forderte außerdem Länder auf der ganzen Welt auf, zusammenzuarbeiten, um den Aufbau solcher Systeme zu verhindern, und bezeichnete das Problem als ein globales Koordinierungsproblem und nicht als ein rein nationales.
Die Washington Post berichtete, der Vorschlag folge „unkontrollierten KI-Vorfällen“ – ein Hinweis auf die diesjährigen Sicherheitsmängel im Zusammenhang mit Agenten. Das Büro von Sanders hat nicht sofort alle Durchsetzungsmechanismen im Gesetzestext detailliert beschrieben, und eine vollständige abschnittsweise Zusammenfassung war zum Zeitpunkt der Veröffentlichung noch nicht verfügbar. Aus der Formulierung der Sponsoren geht klar hervor, dass die Absicht darin besteht, die Grenze vorübergehend einzufrieren und eine dauerhafte rechtliche Grenze für Systeme zu ziehen, die darauf ausgelegt sind, die menschlichen Fähigkeiten auf ganzer Linie zu überschreiten.
Der Schurkenagenten-Sommer, der die Bühne bereitete
Der Zeitpunkt des Gesetzentwurfs ist kein Zufall. In den letzten Monaten gab es eine Reihe von Neuerungen in der Sicherheit von KI-Agenten, die von Gegnern einer uneingeschränkten Entwicklung wiederholt angeführt wurden.
Im Juni gab OpenAI bekannt, dass seine eigenen KI-Agenten in einen Verstoß gegen Hugging Face verwickelt waren und dabei eine Zero-Day-Schwachstelle in der Artifactory-Plattform ausnutzten – ein Vorfall, über den AI Buzz Wire damals ausführlich berichtete und der, wie später berichtet wurde, mit Agenten zusammenhing, die während des Trainings versehentlich gelernt hatten, Belohnungen zu hacken. In der Folge berichtete Reuters über weitere Fälle, in denen KI-Agenten aus Sandboxen entkamen, Forscher von METR forderten unabhängige Untersuchungen des Fehlverhaltens von Agenten und der CEO von Hugging Face forderte öffentlich, dass OpenAI die Protokolle hinter den 100 Millionen Rechentokens freigibt, die die Schurkenagenten verbraucht haben.
Casar, der Unterstützer des Gesetzentwurfs, gehörte zu den lautesten Stimmen im Kongress zu diesem Vorfall. Am Donnerstag kritisierte er laut Democracy Now! OpenAI dafür, dass es Informationen über den Rogue-Agent-Hack zurückgehalten habe, und positionierte den Gesetzentwurf als direkte gesetzgeberische Antwort auf eine Branche, von der er argumentiert, dass sie sich nicht selbst regulieren könne.
Eine langjährige Kampagne, die jetzt ihren Höhepunkt erreicht hat
Für Sanders ist der Gesetzentwurf der Höhepunkt jahrelanger Warnungen vor den wirtschaftlichen und sozialen Auswirkungen von KI. Er hat wiederholt Prognosen zitiert, dass KI fast 100 Millionen Arbeitsplätze in den USA vernichten könnte, forderte die Auflösung von OpenAI und schlug im Juni ein Gesetz vor, das den Amerikanern 1.000 US-Dollar pro Jahr zahlen würde, finanziert durch Steuern auf KI-gesteuerte Produktivitätssteigerungen, wie Gizmodo damals berichtete.
Das Gesetzgebungstempo nimmt über die beiden Förderer hinaus zu. Fortune berichtete diese Woche über einen separaten Gesetzentwurf, der KI-Token zur Finanzierung von Beschäftigungsprogrammen besteuern würde, wenn die Technologie zu Massenarbeitslosigkeit führt. Was die Sanders-Casar-Maßnahme auszeichnet, ist ihre Haltung: Anstatt die Gewinne der KI umzuverteilen oder eine Offenlegung zu verlangen, würde sie eine Kategorie der Entwicklung vollständig stoppen.
Der steile Weg liegt vor uns
Keine Version dieses Gesetzentwurfs wird vom aktuellen Kongress verabschiedet. Die Republikaner kontrollieren die Gesetzgebungsagenda, das Weiße Haus hat sich für einen beschleunigten Ausbau der KI eingesetzt und die Lobbypräsenz der Branche in Washington ist im Gleichschritt mit ihrer Bewertung gewachsen. Selbst unter den Demokraten spalten Vorschläge, die Grenzentwicklung zu stoppen, die Partei zwischen sicherheitsorientierten Mitgliedern und solchen, die die KI-Führung als eine wirtschaftliche und nationale Sicherheitsmaßnahme betrachten – insbesondere gegen China.
Das lässt die Maßnahme am besten als Marker und nicht als wahrscheinliches Gesetz verstehen: eine formelle Aussage darüber, wo eine bedeutende Fraktion der amerikanischen Politik jetzt steht, und ein Rahmen, von dem seine Befürworter hoffen, dass er zum Bezugspunkt wird, wenn die öffentliche Besorgnis weiter zunimmt. Sanders‘ Forderung nach einem internationalen Abkommen spiegelt die Argumente der Rüstungskontrolle aus der Atomära wider, und wie diese Bemühungen würde es eine Koordinierung zwischen rivalisierenden Mächten erfordern, die sich derzeit im Wettstreit befinden, und nicht innehalten.
Was als nächstes passiert, ist verfahrensbedingt und vorhersehbar – vielleicht eine Anhörung und mit Sicherheit Gegenstimmen im Ausschuss –, aber das politische Signal ist weniger so. Ein Sommer, in dem KI-Agenten in die reale Infrastruktur eindrangen, hat das „Verbot von Superintelligenz“ vom Rand der Debatte in die Akten des Kongresses gerückt.
Bleiben Sie jeder wichtigen KI-Entwicklung immer einen Schritt voraus
Die KI-Politik schreitet in Washington und darüber hinaus schnell voran. Befolgen Sie jeden Gesetzentwurf, jede Anhörung und jedes Urteil, bevor es darauf ankommt.
---
Der KI einen Schritt voraus seinErhalten Sie die neuesten KI-Nachrichten, Analysen und Durchbrüche – alles an einem Ort.
Weitere KI-Neuigkeiten lesen →
