Geoffrey Hinton teilt dem Kongress mit, dass er „vielleicht ein Jahr“ Zeit hat, um die KI zu regulieren, bevor die Kontrolle entgleitet

Geoffrey Hinton, der Nobelpreisträger, der weithin als „Godfather of AI“ bekannt ist, übermittelte diese Woche eine seiner bisher schärfsten Warnungen an US-Gesetzgeber: Der Kongress hat etwa ein Jahr Zeit, um sinnvolle Schutzmaßnahmen für künstliche Intelligenz zu ergreifen, bevor die Technologie der menschlichen Kontrolle entgleitet. Laut NBC News machte der britisch-kanadische Informatiker diese Bemerkung am 16. September bei einer nichtöffentlichen Senatsbesprechung auf dem Capitol Hill.

„Vielleicht ein Jahr, aber nicht viel mehr als ein Jahr“, sagte Hinton laut dem Bericht von NBC über das Treffen dem Raum der Gesetzgeber. Das Briefing wurde von Senator Bernie Sanders einberufen und laut mehreren Berichten der Sitzung nahmen auch der MIT-Physiker Max Tegmark, Mitbegründer des Future of Life Institute, und die KI-Sicherheitsforscherin Ajeya Cotra teil.

Der Kern der Warnung: KI baut KI auf

Hintons Argumentation konzentrierte sich eher auf einen bestimmten technischen Meilenstein als auf eine entfernte Hypothese. „KI hat jetzt den Punkt erreicht, an dem KI bessere KI entwirft“, sagte er Berichten des Briefings zufolge. „Das nennt man rekursive Selbstverbesserung … es wird außer Kontrolle geraten, wenn wir nichts unternehmen.“

Er teilte den Gesetzgebern auch mit, dass die Expertenzeitpläne für Superintelligenz im letzten Jahrzehnt zusammengebrochen seien. „Wenn man sich die Vorhersagen ansieht, wann wir Superintelligenz bekommen werden, waren es früher vielleicht 30, vielleicht 50 Jahre“, sagte Hinton laut NBC News. „Dann kam es auf vielleicht 10 Jahre, vielleicht 20 Jahre an. Jetzt sagen die Leute, viele Forscher sagen, nur ein paar Jahre.“

Hinton, ein emeritierter Professor an der University of Toronto, der 2024 den Nobelpreis für Physik für grundlegende Arbeiten zu neuronalen Netzen erhielt, verließ Google im Jahr 2023 und ist seitdem zum prominentesten internen Kritiker der Branche geworden – er warnte davor, dass die Systeme, an deren Entwicklung er beteiligt war, am Ende ihre Schöpfer übertreffen und verdrängen könnten.

Skepsis gegenüber einem „Kill Switch“

Während er auf eine rasche Regulierung drängte, äußerte Hinton Zweifel an einem der am meisten diskutierten Vorschläge: einem Bundesmandat, das es der Regierung ermöglichen würde, gefährliche KI-Systeme abzuschalten. Laut CNN sagte er den Gesetzgebern, dass ein solcher „Kill Switch“ auf lange Sicht nicht standhalten würde.

Seine Skepsis äußerte sich in derselben Woche, in der Senator Rand Paul die beschleunigte Verabschiedung eines von den Republikanern angeführten Gesetzes über KI-Kill-Switches im Senat blockierte – ein Vorfall, der zeigt, wie weit selbst eine minimale Leitplankengesetzgebung noch von der Verabschiedung entfernt ist. Senator John Kennedy aus Louisiana, der an einem Teil des Briefings teilnahm, sagte gegenüber The Washington Sun, er habe die Diskussion genossen, sehe aber keine Anzeichen dafür, dass der Senat handeln würde, und fügte hinzu, dass er den nächsten Schritt vom Weißen Haus erwarte, und verwies auf Berichte, dass Finanzminister Scott Bessent auf einen Sicherheitsrahmen dränge.

Die Aussicht auf der anderen Seite des Ganges war nicht viel sonniger. Senator Rick Scott aus Florida sagte in einem NewsNation-Interview, dass Unternehmen sich selbst regulieren müssen: „Wir werden nicht schlau genug werden, um sie zu regulieren. Wir werden hier oben nichts unternehmen“, sagte er, wie The Washington Sun berichtete.

Einige Demokraten gingen in die andere Richtung. Der Vertreter Yassamin Ansari aus Arizona, der an der Pressekonferenz teilnahm, schrieb auf

Eine Woche KI-Sicherheitsschleudertrauma

Das Briefing krönte einen turbulenten Abschnitt der Debatte über die KI-Governance. Tage zuvor veröffentlichte Dario Amodei, CEO von Anthropic, einen Aufsatz, in dem er die Grenzlabore aufforderte, die Entwicklung voranzutreiben, und vor Risiken wie Kontrollverlust und Bioterrorismus warnte – eine Position, die weitverbreiteten Berichten zufolge auch von anderen Laborleitern öffentlich unterstützt wurde. Am selben Tag, an dem Hinton vor Senatoren sprach, wiesen prominente KI-Forscher, darunter Andrew Ng, Bedenken hinsichtlich des Artensterbens öffentlich als übertrieben zurück und unterstrichen damit einen Bereich, der in der Öffentlichkeit mit sich selbst streitet.

Auf dem Capitol Hill war die Aktivität lauter als der Output. Senator Cory Booker hat Präsident Trump aufgefordert, eine Sondersitzung des Kongresses zum Thema künstliche Intelligenz einzuberufen, während ein überparteilicher Problem Solvers Caucus diese Woche eine neue Arbeitsgruppe zu KI und neuen Technologien ankündigte. Nichts davon hat bisher zu einem verbindlichen Bundesgesetz geführt.

Warum der einjährige Rahmen wichtig ist

Fristgesteuerte Warnungen von KI-Pionieren sind zur Routine geworden, aber die Spezifität von Hintons Zeitplan – der direkt an die Personen mit Gesetzgebungsbefugnissen in einem Raum übermittelt wird, der den Führungskräften der Branche vorbehalten ist – markiert einen Tonwechsel. Frühere Warnungen von Forschern prognostizierten in der Regel Risiken über Jahrzehnte hinweg; Ein einjähriges Zeitfenster impliziert politische Reaktionen, die für den aktuellen Kongress konzipiert sind, nicht für zukünftige.

Es verschärft auch das politische Problem. Wie Hintons eigene Kill-Switch-Skepsis und Senator Pauls Verfahrensblockade zeigen, besteht selbst unter sicherheitsbewussten Persönlichkeiten kein Konsens darüber, welche Interventionen funktionieren würden. Hinton hat argumentiert, dass die internationale Situation – insbesondere der Wettbewerb mit China – einseitige Verlangsamungen politisch fragil mache, eine Spannung, die bisher die meisten ernsthaften Vorschläge behindert hat.

Was als nächstes passiert, ist nach Hintons eigener Uhr eine Frage von Monaten. Ob das Briefing dieses Kalkül ändert, hängt von einem Senat ab, der sich nach Angaben seiner eigenen Mitglieder derzeit überhaupt nicht bewegt.

Bleiben Sie der KI immer einen Schritt voraus

Die KI-Politik schreitet schnell voran – und das gilt auch für alles andere in diesem Bereich. Weitere aktuelle KI-Nachrichten, Aktualisierungen der Vorschriften und Analysen finden Sie unter Weitere KI-Nachrichten lesen →.

---

Bleib vorne bei KI

Die neuesten KI-Nachrichten, Analysen und Durchbrüche – alles an einem Ort.

Mehr KI-Nachrichten lesen →