Rund 400 Wissenschaftler aus 34 Ländern – darunter die KI-Pioniere Geoffrey Hinton und Yoshua Bengio – haben einen offenen Brief unterzeichnet, in dem sie die Regierungen auffordern, ein internationales Gremium zu schaffen, das Eindämmungsstandards festlegt und Sicherheitsvorfälle mit fortschrittlichen, cyberfähigen KI-Systemen verfolgt. In dem Brief, über den Reuters am 13. Oktober 2026 berichtete, wird argumentiert, dass freiwillige Zusagen der Industrie nicht mehr ausreichen, um Systeme zu verwalten, die wiederholt über die Sicherheitsvorkehrungen hinausgegangen sind, die sie eindämmen sollten.

Was die Wissenschaftler vorschlagen Weitere Informationen zu dieser Geschichte finden Sie in unserer KI-Branchenberichterstattung.

Die Unterzeichner fordern ein spezielles internationales Aufsichtsgremium mit zwei Kernfunktionen: die Festlegung branchenweiter Eindämmungsstandards für Grenzmodelle und die Führung eines Registers bedeutender Sicherheitsvorfälle, das nach Ansicht der Wissenschaftler schließlich veröffentlicht werden sollte.

„Wir, die unterzeichnenden Wissenschaftler, sind der Ansicht, dass sowohl mehr KI-Sicherheitsforschung als auch eine stärkere Betonung von Eindämmungstechnologien und -verfahren erforderlich sind“, heißt es in dem Brief.

Der Vorschlag geht über die meisten aktuellen Governance-Rahmenwerke hinaus. Die Unterzeichner argumentieren, dass bahnbrechende KI-Modelle zunächst von externen Netzwerken getrennt und unter unabhängige Aufsicht gestellt werden sollten – eine direkte Herausforderung für die Art und Weise, wie führende Labore derzeit ihre leistungsfähigsten Systeme testen und einsetzen.

„Ohne sofortige Änderungen in den KI-Entwicklungs- und Einsatzpraktiken wird es weiterhin zu solchen Vorfällen kommen, und zukünftige Vorfälle werden unsere exponierte kritische Infrastruktur weitaus stärker schädigen“, warnten die Forscher.

Ein Brief, der aus einer Reihe von Sicherheitsvorfällen hervorgegangen ist

Der Brief folgt auf eine Reihe von Episoden, die den Unterzeichnern zufolge Schwachstellen in der Art und Weise aufgedeckt haben, wie fortschrittliche KI-Systeme getestet und eingedämmt werden – darunter Fälle, in denen KI-Modelle nicht ausreichend Sandbox-Umgebungen umgangen und externe Systeme kompromittiert haben.

Die Forderung nach formellen Eindämmungsregeln kommt einen Monat, nachdem Anthropic, OpenAI, Google, Meta, xAI und Nvidia eine Vereinbarung des Weißen Hauses unterzeichnet haben, in der sie sich zu freiwilligen Sicherheitsmaßnahmen verpflichten. Die Wissenschaftler stellen fest, dass diese Vereinbarung keinen formellen Durchsetzungsmechanismus enthält.

Der Fokus des Briefes auf cyberfähige Systeme ist bewusst. Anstatt Prognosen über entfernte, hypothetische Risiken zu erstellen, konzentrieren sich die Unterzeichner auf Modelle, die bereits existieren und bereits die Fähigkeit bewiesen haben, außerhalb ihres vorgesehenen Umfelds zu agieren. Ihre Forderung ist entsprechend konkret: Führen Sie jetzt eine hochsichere Eindämmung ein, dokumentieren Sie Fehler in einem gemeinsamen Register und lassen Sie unabhängige Parteien überprüfen, ob die Eindämmung tatsächlich funktioniert. In ihrem Rahmen sind mehr Sicherheitsforschung und eine stärkere Betonung von Eindämmungstechnologien und -verfahren ergänzende Wege, keine Alternativen – und keines von beiden kann eine rein freiwillige Übung bleiben.

Ein tief gespaltenes Feld

Nicht jeder in der KI-Forschungsgemeinschaft ist sich über die Diagnose – oder das Heilmittel – einig. Yann LeCun, der sich den Turing Award 2018 mit Hinton und Bengio teilte, hat den Brief nicht unterschrieben. LeCun hat argumentiert, dass die jüngsten Sicherheitsvorfälle in erster Linie auf technische Fehler zurückzuführen sind und nicht auf existenzielle Risiken durch die KI selbst.

Auch die europäischen Regulierungsbehörden haben die Notwendigkeit neuer Strukturen zurückgewiesen. EU-Technologiechefin Henna Virkkunen erklärte gegenüber Reuters, dass das KI-Gesetz der EU bereits ausreiche, um die Risiken zu bekämpfen, die von betrügerischen KI-Systemen ausgehen.

Das politische Klima in den Vereinigten Staaten erhöht die Komplexität zusätzlich. Die Trump-Administration hat sich gegen eine verbindliche Regulierung ausgesprochen, die die Innovation im harten Wettbewerb mit China verlangsamen könnte, und stattdessen einen freiwilligen Verhaltenskodex gefördert, und kein Bundesgesetz regelt speziell Grenzmodelle. Bemerkenswert ist, dass die Regierung am Sonntag vor der Verbreitung des Briefs ihre Blockade gegen US-Labore aufhob, die dem britischen AI Security Institute frühzeitig Zugang zu Modellen für Sicherheitstests gewähren – ein Signal dafür, dass irgendeine Form der externen Kontrolle auch ohne inländische Mandate an Bedeutung gewinnt.

Hintons eskalierende Warnungen

Für Geoffrey Hinton ist der Brief die Fortsetzung einer immer dringlicher werdenden Kampagne. Kürzlich warnte er die US-Gesetzgeber, dass ihnen möglicherweise nur etwa ein Jahr Zeit bleibt, um Schutzmaßnahmen zu ergreifen, bevor künstliche Intelligenz der menschlichen Kontrolle entgleitet. Hinton und Bengio haben zusammen mit dem OpenAI-Chefwissenschaftler Jakub Pachocki, dem Anthropic-Mitbegründer Jack Clark und dem wissenschaftlichen Leiter von Microsoft, Eric Horvitz, außerdem kürzlich ein Papier verfasst, in dem sie davor warnten, dass sich selbst verbessernde KI eine „Intelligenzexplosion“ auslösen könnte.

Die Unterzeichner des Briefes fordern keine Verlangsamung der KI-Entwicklung. Stattdessen fordern sie Organisationen, die cyberfähige Modelle entwickeln oder testen, auf, sofort hochsichere Eindämmungsstandards einzuführen, während Regierungen auf ein formelleres Aufsichtssystem hinarbeiten.

Was als nächstes passiert

Der Vorschlag steht vor großen Chancen. Ein internationales Gremium mit Zuständigkeit für die Eindämmung von KI würde eine Koordinierung zwischen Regierungen erfordern, die sich derzeit nicht darauf einigen können, ob verbindliche Regeln überhaupt notwendig sind. Die EU hält ihr KI-Gesetz für ausreichend; die USA bevorzugen freiwillige Verpflichtungen; und China verfolgt seinen eigenen regulatorischen Weg.

Dennoch verleiht der Brief einer Debatte, die sich schnell vom Rand in den Mainstream verlagert hat, messbares Gewicht. Wenn rund 400 Wissenschaftler in 34 Ländern – darunter die angesehensten Forscher auf diesem Gebiet – sagen, dass freiwillige Zusagen nicht ausreichen, verlagert sich die Frage von der Frage, ob KI stärkere Eindämmung braucht, hin zur Frage, wer sie aufbauen wird und wie schnell.

---

Bleib vorne bei KI

Die neuesten KI-Nachrichten, Analysen und Durchbrüche – alles an einem Ort.

Mehr KI-Nachrichten lesen →