Demis Hassabis, CEO von Google DeepMind, hat die Schaffung eines unabhängigen, von den USA geführten Normungsgremiums nach dem Vorbild der Financial Industry Regulatory Authority (FINRA) vorgeschlagen, um bahnbrechende KI-Modelle vor der Veröffentlichung zu bewerten und zu regulieren, und warnt davor, dass die Menschheit ein „kostbares Fenster“ hat, um sicherzustellen, dass künstliche allgemeine Intelligenz sicher entwickelt wird.

In einem Rahmendokument mit dem Titel „A Framework for Frontier AI and the Dawning of a New Age“, das am Dienstagmorgen auf X veröffentlicht wurde, legte Hassabis einen detaillierten Vorschlag vor, wie die Vereinigten Staaten eine glaubwürdige Regulierungsinfrastruktur für die leistungsstärksten KI-Systeme aufbauen könnten. Der Plan sieht eine neue Organisation vor, die Grenzmodelle testen und Best Practices für deren Einsatz entwickeln soll – finanziert von der KI-Industrie, aber unabhängig von einem einzelnen Unternehmen.

Für die neuesten aktuellen KI-Nachrichten und detaillierte politische Analysen verfolgt AI Buzz Wire die Entwicklungen, die die Branche prägen.

Wie das vorgeschlagene Normungsgremium funktionieren würde

Nach dem Vorschlag von Hassabis würden KI-Labore ihre Grenzmodelle freiwillig bis zu 30 Tage vor der Veröffentlichung mit dem Normungsgremium zur Überprüfung teilen. Bei dieser Bewertung vor der Bereitstellung würden Modelle hinsichtlich Sicherheit und potenzieller Missbrauchsrisiken bewertet. Sobald sich das Bewertungsprotokoll als wirksam und robust erwiesen hat, sieht das Rahmenwerk eine Formalisierung des Prozesses vor, sodass Grenzmodelle es bestehen müssen, bevor sie auf dem US-Markt eingesetzt werden.

Der Vorschlag schließt direkt eine Lücke, die durch die jüngsten staatlichen Überprüfungen von Grenz-KI-Systemen aufgedeckt wurde. Anfang dieses Jahres führte die US-Regierung vor deren jeweiligen Veröffentlichungen Ad-hoc-Sicherheitsüberprüfungen des Mythos-Modells von Anthropic und des Sol-Modells von OpenAI durch. Diese Überprüfungen stießen auf erhebliche Kritik wegen mangelnder technischer Tiefe und undurchsichtiger Entscheidungsfindung darüber, wann ein Modell als sicher genug für den öffentlichen Einsatz angesehen wurde.

Im Rahmen von Hassabis würden diese Entscheidungen von einer speziellen Organisation mit technischen Experten getroffen, die von der US-Regierung unterstützt, aber vor politischem Druck geschützt wäre. Labore müssten außerdem mit der Normungsorganisation zusammenarbeiten, um kritische Schwachstellen zu beheben, die nach der Veröffentlichung entdeckt werden.

Ein „kostbares Fenster“ vor AGI

In Interviews mit Axios, CNBC und The Economist, die die Veröffentlichung des Rahmenwerks begleiteten, betonte Hassabis, dass der aktuelle Moment eine begrenzte Gelegenheit darstellt, Governance-Mechanismen zu etablieren, bevor künstliche allgemeine Intelligenz eintrifft. Er beschrieb diese Zeit als „kostbares Fenster“ – was impliziert, dass das Fenster nicht auf unbestimmte Zeit offen bleiben wird.

Hassabis ist seit langem ein Verfechter einer proaktiven KI-Governance. Sein Rahmenwerk erscheint inmitten der sich intensivierenden Debatte darüber, ob die Vereinigten Staaten eine formelle KI-Regulierungsbehörde schaffen sollten und wenn ja, welche Form diese annehmen sollte. Das FINRA-Modell ist bemerkenswert, weil die Selbstregulierungsorganisation der Finanzindustrie von Mitgliedsfirmen finanziert wird, aber unter staatlicher Aufsicht operiert, was ihr sowohl Branchenexpertise als auch öffentliche Rechenschaftspflicht verleiht.

Widerstand der Trump-Administration

Der Vorschlag stößt auf erheblichen politischen Gegenwind. Die Trump-Administration hat tiefe Skepsis gegenüber der Schaffung neuer Regulierungsbehörden für künstliche Intelligenz zum Ausdruck gebracht. Der KI-Berater des Weißen Hauses und a16z-Komplementär Sriram Krishnan – der inzwischen seine Rolle niedergelegt hat – lehnte die Idee einer KI-Regulierungsbehörde innerhalb der Exekutive öffentlich ab und erklärte unverblümt, dass „es keine FDA für KI geben wird“.

Diese Haltung hat zu Konflikten zwischen Verwaltungsbeamten und einigen der prominentesten Führungskräfte der Branche geführt. Während Unternehmen wie Anthropic und OpenAI Sicherheitstests vor der Bereitstellung weitgehend unterstützt haben, bleiben der Mechanismus und die Autorität für solche Tests umstritten. Der Vorschlag von Hassabis versucht, in diese Richtung zu gehen, indem er das Standardisierungsgremium zunächst als von der Industrie finanziert und freiwillig positioniert und die Formalisierung erst dann erfolgt, wenn sich der Prozess als wertvoll erwiesen hat.

Aufbauend auf bestehenden Bemühungen

Das Framework beginnt nicht bei Null. Es baut auf den freiwilligen Verpflichtungen auf, die mehrere Pionier-KI-Unternehmen bereits in Bezug auf Sicherheitstests und Red-Teaming eingegangen sind. Es stützt sich auch auf internationale Bemühungen, darunter das britische AI ​​Safety Institute und den Hiroshima AI Process der G7, die vorläufige Rahmenbedingungen für die Bewertung fortschrittlicher Modelle geschaffen haben.

Hassabis‘ Vorschlag geht jedoch noch weiter und fordert eine ständige, gut ausgestattete Organisation mit dem Auftrag, jedes Grenzmodell vor der Veröffentlichung zu testen – ein Maß an Kontrolle, das kein derzeitiges Gremium bietet. Die FINRA-Analogie deutet auf einen skalierten, professionellen Betrieb mit Hunderten von technischen Experten hin, nicht auf ein kleines Beratungsgremium.

Der Vorschlag befasst sich auch mit der Überwachung nach der Bereitstellung und verlangt von den Labors, mit der Normungsorganisation an Schwachstellen zu arbeiten, die entdeckt werden, nachdem ein Modell öffentlich verfügbar ist. Dies spiegelt die wachsende Erkenntnis wider, dass Sicherheitsrisiken nicht mit der Markteinführung enden, wie Jailbreaks und Missbrauchsfälle zeigen, die nach mehreren aufsehenerregenden Modellveröffentlichungen aufgetreten sind.

Reaktion der Branche und nächste Schritte

Das Rahmenwerk hat in der KI-Politikgemeinschaft große Aufmerksamkeit erregt. Befürworter argumentieren, dass ein glaubwürdiges Testsystem vor dem Einsatz das Vertrauen der Öffentlichkeit in Grenzmodelle stärken und das Risiko eines katastrophalen Missbrauchs verringern könnte. Kritiker, darunter einige Befürworter des freien Marktes, warnen davor, dass eine obligatorische Testpflicht große etablierte Unternehmen festigen könnte, indem sie regulatorische Hürden für kleinere Unternehmen und Open-Source-Entwickler schafft.

Der Vorschlag von Hassabis legt nicht fest, welche Modelle als „Frontier“ gelten würden – eine Schwellenfrage, die den Umfang eines künftigen Regulierungssystems bestimmen wird. Es lässt auch offen, wie das Normungsgremium mit geheimen oder Dual-Use-Anwendungen umgehen würde, insbesondere angesichts der jüngsten Bedenken hinsichtlich der Verwendung von KI-Modellen zum Knacken geheimer US-Systeme.

Der Zeitpunkt des Vorschlags ist bewusst. Da AGI in den nächsten Jahren immer plausibler erscheint, drängt Hassabis darauf, dass die Governance-Infrastruktur jetzt aufgebaut werden muss und nicht erst, nachdem eine gefährliche Fähigkeit auftaucht. Ob Washington seinem Aufruf Folge leisten wird, bleibt abzuwarten.

Bleiben Sie der KI immer einen Schritt voraus

Eine umfassende Berichterstattung über KI-Richtlinien, Vorschriften und Branchenentwicklungen finden Sie unter AI Buzz Wire.

Weitere KI-Neuigkeiten lesen →