Demis Hassabis von Google DeepMind fordert ein von den USA geführtes globales Gremium zum Testen von Frontier-KI-Modellen

Demis Hassabis, CEO von Google DeepMind, hat die Schaffung eines unabhängigen, von den Vereinigten Staaten geführten Normungsgremiums gefordert, um bahnbrechende KI-Modelle zu bewerten und zu regulieren, bevor sie der Öffentlichkeit zugänglich gemacht werden, und warnt davor, dass künstliche allgemeine Intelligenz möglicherweise nur noch wenige Jahre entfernt sein könnte. In einem LinkedIn-Beitrag, der am 14. Juli 2026 veröffentlicht und in einem exklusiven Bericht von Axios detailliert beschrieben wurde, legte Hassabis einen umfassenden Governance-Rahmen dar, der von Unternehmen, die die fortschrittlichsten KI-Systeme entwickeln, verlangen würde, diese zur Prüfung vor der Veröffentlichung einzureichen. Der Vorschlag bringt eine prominente Stimme der Branche in die sich verschärfende globale Debatte darüber ein, wie KI-Fähigkeiten gesteuert werden sollen, die sich schneller weiterentwickeln als die Vorschriften, die zu ihrer Verwaltung entwickelt wurden. Laut der neuesten KI-Branchenberichterstattung ist der Plan einer der bisher detailliertesten von der Industrie unterstützten Governance-Entwürfe.

Hassabis schrieb, dass angesichts der potenziellen Herausforderungen, die die KI in Bereichen wie der Cybersicherheit mit sich bringt, dringender Handlungsbedarf bestehe. Am Horizont, so sagte er, werde die Gesellschaft robuste Sicherheitsvorkehrungen brauchen, um die Kontrolle über immer wirksamere, sich rekursiv selbstverbessernde Systeme zu behalten und unbekannte Probleme anzugehen, die erst mit der Zeit klarer werden. Er betonte, dass niemand auf der Welt wisse, was als nächstes passiert, und dass vorsichtiger Optimismus bedeute, jetzt Leitplanken zu errichten, anstatt darauf zu warten, dass sich Probleme materialisieren.

Wie das vorgeschlagene Rahmenwerk funktionieren würde

Im Mittelpunkt von Hassabis‘ Vorschlag steht ein Normungsgremium, das entweder die Form einer staatlich beaufsichtigten öffentlich-privaten Partnerschaft oder einer Selbstregulierungsorganisation annehmen könnte. Das Gremium würde aus unabhängigen führenden technischen Experten und Open-Source-Vertretern bestehen, wobei die Mittel von der KI-Industrie selbst und nicht von Steuerzahlern stammen würden. Hassabis schlug vor, dass die Vereinigten Staaten angesichts ihrer Konzentration auf die KI-Entwicklung im Grenzbereich die Bemühungen weltweit anführen sollten.

Das Normungsgremium wäre für die Entwicklung von Bewertungsprotokollen verantwortlich und würde mit den entsprechenden Bundesbehörden und den US-amerikanischen National Labs zusammenarbeiten, um Tests in Bereichen durchzuführen, die für die nationale Sicherheit relevant sind. Ein Modell würde sich als Frontier-Klasse qualifizieren, wenn es bestimmte Schwellenwerte in einer Reihe von Benchmarks erfüllt, die vom Gremium festgelegt und regelmäßig aktualisiert werden, um mit den sich entwickelnden KI-Fähigkeiten Schritt zu halten. Dieser schwellenwertbasierte Ansatz soll sicherstellen, dass nur die leistungsstärksten Modelle der strengsten Aufsicht unterliegen, anstatt der gesamten KI-Entwicklung einheitliche Belastungen aufzuerlegen.

Unternehmen, die Modelle der Frontier-Klasse entwickeln, würden als Frontier Labs bezeichnet und müssen bestimmte Verpflichtungen erfüllen. Dazu gehören die Veröffentlichung von Modellkarten mit technischen Details, die Aufrechterhaltung strenger interner Cybersicherheitspraktiken und die Überprüfung von Schlüsselpersonal. Entscheidend ist, dass von Frontier Labs erwartet wird, dass sie ihre Modelle bis zu 30 Tage vor der Veröffentlichung freiwillig dem Standardisierungsgremium zur Überprüfung zur Verfügung stellen, und Modelle würden nur dann für den Einsatz freigegeben, wenn sie die Anforderungen des Bewertungsprotokolls erfüllen.

Hassabis wies auch darauf hin, dass das Rahmenwerk für Modelle der Frontier-Klasse gelten könnte, unabhängig von ihrem Herkunftsland oder davon, ob es sich um Open- oder Closed-Source-Modelle handelt, ein Versuch, den globalen Charakter der KI-Entwicklung anzugehen und Regulierungsarbitrage zu verhindern.

Vergleiche zur Finanzregulierung

Die Struktur, die Hassabis vorsieht, zieht direkte Vergleiche mit bestehenden Selbstregulierungsrahmen in anderen Branchen. Quartz und andere Medien wiesen auf Parallelen zur FINRA hin, der Aufsichtsbehörde für die Finanzindustrie, die als Nichtregierungsorganisation, die unter der Aufsicht der Securities and Exchange Commission arbeitet, Broker-Dealer in den Vereinigten Staaten überwacht. Die Idee ist, dass die KI-Branche ebenso wie der Finanzsektor von einer Organisation überwacht werden könnte, die von ihren eigenen Teilnehmern finanziert wird, aber unter Bundesaufsicht operiert.

TechCrunch berichtete, dass Hassabis den Vorschlag als einen pragmatischen Mittelweg zwischen unkontrollierter Entwicklung und strengen Regierungsmandaten darlegte. Indem das technische Fachwissen im Mittelpunkt des Bewertungsprozesses steht und das Gremium durch Beiträge der Industrie finanziert wird, soll das Modell sowohl glaubwürdig als auch flexibel genug sein, um mit der sich monatlich weiterentwickelnden Technologie Schritt zu halten.

Warum es jetzt wichtig ist

Die Warnung von Hassabis, dass AGI innerhalb von Jahren eintreffen könnte, ist bezeichnend, da sie von einem der weltweit angesehensten KI-Forscher stammt. Der Nobelpreisträger hat wiederholt darauf hingewiesen, dass die Kluft zwischen KI-Fähigkeiten und Governance immer größer wird. Sein Vorschlag kommt zu einem Zeitpunkt, an dem Regierungen weltweit mit sehr unterschiedlichen Ansätzen darum kämpfen, Rahmenbedingungen für die KI-Aufsicht zu schaffen. Die Europäische Union hat ihr KI-Gesetz umgesetzt, während die Vereinigten Staaten einen fragmentierteren Weg eingeschlagen haben, der exekutive Maßnahmen mit freiwilligen Verpflichtungen der Industrie kombiniert.

Die geopolitische Dimension ist unvermeidlich. Wie Neowin und andere Medien feststellten, könnten sich Länder wie China möglicherweise nicht an seine Standards gebunden fühlen, wenn das vorgeschlagene Gremium von den Vereinigten Staaten geleitet wird und hauptsächlich aus amerikanischen Branchenführern besteht. Die Entwicklung von Frontier-KI ist heute ein globaler Wettbewerb, und Governance-Rahmen, die wichtige Akteure ausschließen, laufen Gefahr, eher erstrebenswert als durchsetzbar zu werden. Hassabis‘ Forderung, dass das Rahmenwerk unabhängig vom Herkunftsland gelten soll, ist eine Anerkennung dieser Herausforderung, lässt jedoch die Frage offen, wie die Einhaltung auf internationaler Ebene sichergestellt werden soll.

Der Vorschlag erfolgt auch vor dem Hintergrund wachsender Besorgnis über die Risiken agentenbasierter KI-Systeme, die autonome Maßnahmen ergreifen können. Hassabis‘ Hinweis auf sich rekursiv selbstverbessernde Systeme berührt eines der am meisten diskutierten Szenarien in der KI-Sicherheitsforschung, in dem Modelle in der Lage werden, sich iterativ auf eine Weise zu verbessern, die für Menschen möglicherweise schwer zu überwachen oder zu kontrollieren ist.

Reaktion der Branche und nächste Schritte

Der Vorschlag stieß bei großen Sendern wie CNBC, The Verge, The Economist und The Indian Express auf breite Resonanz, was die Bedeutung widerspiegelt, die Hassabis‘ Unterstützung hat. Während einige Kommentatoren den Plan als konstruktiven Beitrag innerhalb der Branche lobten, wiesen andere auf die inhärente Spannung hin, die mit der Aufforderung an KI-Unternehmen verbunden ist, ein Gremium zu finanzieren und daran teilzunehmen, das ihre Produktveröffentlichungen einschränken könnte.

Ob die Regierung der Vereinigten Staaten irgendeine Version von Hassabis‘ Rahmenwerk übernimmt, bleibt abzuwarten. Klar ist, dass der Aufruf einer der einflussreichsten KI-Persönlichkeiten die Diskussion über die Evaluierung von Grenzmodellen vor der Veröffentlichung befeuert und den politischen Entscheidungsträgern einen konkreten, von der Industrie unterstützten Vorschlag an die Hand gegeben hat, den sie bei der Abwägung ihrer nächsten Schritte berücksichtigen sollten.

Bleiben Sie der KI immer einen Schritt voraus

Für weitere aktuelle KI-Nachrichten und eine ausführliche Analyse der KI-Politik und -Regulierung folgen Sie weiterhin AI Buzz Wire.

Weitere KI-Neuigkeiten lesen