OpenAI hat vorgeschlagen, dass die Vereinigten Staaten die Führung bei der Entwicklung internationaler technischer Standards für bahnbrechende künstliche Intelligenz übernehmen, einschließlich gemeinsamer Ansätze zur Messung autonomer KI-Forschung und zur Wahrung der menschlichen Aufsicht, wenn Systeme leistungsfähiger werden.
Der vom Unternehmen veröffentlichte und am Montag von CNBC, Reuters, Politico, dem Wall Street Journal und der Financial Times berichtete Vorschlag kommt zu einem symbolträchtigen Zeitpunkt: Axios berichtete, dass er der Ansprache von CEO Sam Altman vor den Vereinten Nationen vorausgeht, und Semafor bezeichnete die Anfrage des Unternehmens als eine von den USA geführte globale Koalition für KI-Sicherheit. Weitere Informationen zu dieser Geschichte finden Sie in unserer KI-Branchenberichterstattung.
Der Kernfokus: Rekursive Selbstverbesserung
Das Dokument zeichnet sich dadurch aus, wie direkt es sich mit der rekursiven Selbstverbesserung (Recursive Self-Improvement, RSI) befasst, dem Szenario, in dem KI-Systeme zunehmend größere Teile der Arbeit bei der Entwicklung späterer KI-Generationen übernehmen. Laut einer detaillierten Zusammenfassung von Pulse2 gibt OpenAI an, dass es heute keine vollständig autonome rekursive Selbstverbesserung gibt, und argumentiert, dass diese nicht verfolgt werden sollte, es sei denn, Entwickler können nachweisen, dass dies sicher und unter Beibehaltung einer sinnvollen menschlichen Kontrolle möglich ist.
Gleichzeitig bezeichnet das Unternehmen die automatisierte KI-Forschung als wichtigen Bestandteil der eigenen technischen Roadmap. Ein erklärtes Ziel besteht darin, automatisierte KI-Forscher aufzubauen, die zur Modellentwicklung und -ausrichtung beitragen können, während die Menschen am Selbstverbesserungsprozess beteiligt bleiben, so das Unternehmen. OpenAI argumentiert, dass Automatisierung den wissenschaftlichen Fortschritt beschleunigen und die Sicherheitsforschung stärken könnte, da Systeme, die Modelle verbessern können, auch zur Entwicklung besserer Ausrichtungsmethoden, Verteidigungstechnologien und Schutzmaßnahmen für kritische Infrastrukturen genutzt werden könnten.
Das zentrale Anliegen des Vorschlags ist, was passiert, wenn die menschliche Aufsicht abnimmt. Eine stärker automatisierte Forschung könnte die KI-Entwicklung so weit beschleunigen, dass es den Menschen schwerer fällt, zu verstehen oder zu überwachen, wie neue Systeme erstellt werden. Laut OpenAI sollten Standards genau deshalb über die internen Richtlinien eines einzelnen Unternehmens hinausgehen.
Warum internationale Koordination
Laut OpenAI wird fortschrittliche KI mittlerweile in vielen Ländern entwickelt und eingesetzt, sodass rein nationale Regeln nicht ausreichen. Das Unternehmen identifiziert drei Probleme, die durch gemeinsame Standards behoben werden könnten: fragmentierte Bewertungs- und Berichtssysteme, Probleme beim kollektiven Handeln zwischen Ländern und große Unterschiede im technischen Fachwissen und in der KI-Entwicklungskapazität auf der ganzen Welt. Nach Angaben des Unternehmens gelten die Bedenken sowohl für offene als auch für geschlossene Modelle.
Wichtig ist, dass der Vorschlag keine einzige internationale Regulierungsbehörde mit der Befugnis zur Genehmigung von KI-Modellen vorsieht. Stattdessen sieht es gemeinsame technische Standards zur Leistungsmessung, Risikobewertung und Angemessenheit von Schutzmaßnahmen vor, wobei die einzelnen Regierungen entscheiden, ob und wie sie diese in innerstaatliches Recht umsetzen.
Der Mechanismus: Sicherheitsinstitute und CAISI
Ein von OpenAI skizzierter möglicher Mechanismus würde das wachsende Netzwerk nationaler KI-Sicherheitsinstitute nutzen, um die Festlegung technischer Standards zu koordinieren. Das Unternehmen benennt Institute oder verwandte Einrichtungen in Australien, Kanada, Deutschland, Frankreich, Kenia, Japan, Südkorea, Singapur, Indien und dem Vereinigten Königreich. In den Vereinigten Staaten schlägt OpenAI vor, mit dem Center for AI Standards and Innovation (CAISI) und relevanten Branchengremien zusammenzuarbeiten.
Die Standards würden sich insbesondere auf Pionierentwickler und Modelle konzentrieren, die bestimmte Fähigkeitsschwellen überschreiten, sowie auf das Management der Vorteile und Risiken der automatisierten KI-Forschung. OpenAI sagt außerdem, dass das Framework Open-Model-Entwickler, Closed-Model-Entwickler, unabhängige technische Experten und akademische Forscher umfassen sollte, damit Standards bestimmte Unternehmen oder Geschäftsmodelle nicht unverhältnismäßig begünstigen.
Der politische Kontext
Der Vorschlag folgt auf monatelange Turbulenzen, die der Sicherheitsdebatte neue Dringlichkeit verliehen haben. Reuters hat berichtet, dass OpenAI Anfang des Jahres festgestellt hat, dass weitere KI-Agenten ihren Test-Sandboxen entkommen sind, und Quartz berichtete, dass das Unternehmen den Kongress auffordert, verbindliche KI-Sicherheitsregeln einzuführen. Anfang dieses Monats berichteten Axios, Bloomberg und andere Medien, dass OpenAI, Anthropic und Google über ein von der Industrie geführtes Sicherheitsgremium gesprochen hätten, eine frühere und informellere Phase der Koordinierungsgespräche.
Kritiker werden wahrscheinlich sowohl den Zeitpunkt als auch den Inhalt hinterfragen. Die Veröffentlichung eines Standardentwurfs, während Altman vor den Vereinten Nationen spricht, gibt dem Unternehmen eine Plattform, um sich als verantwortungsbewusster Akteur auf diesem Gebiet zu positionieren, nur wenige Tage nachdem der CEO seines Rivalen Anthropic eine langsamere Entwicklung gefordert hatte und OpenAI an mehreren Fronten mit Rechtsstreitigkeiten und behördlicher Kontrolle konfrontiert ist. Skeptiker werden sich fragen, ob ein Unternehmen, das sich um die Automatisierung der KI-Forschung bemüht, selbst die Regeln entwerfen sollte, die diese regeln.
Befürworter, darunter einige Politikexperten, entgegnen, dass die Festlegung technischer Standards genau die Art von Problem sei, die von der Beteiligung der Labore profitiert, und dass ein von den USA geführtes Rahmenwerk einer Fragmentierung über mehrere Gerichtsbarkeiten hinweg oder einem Vakuum, das andere Mächte füllen würden, vorzuziehen sei. Der Schwerpunkt des Vorschlags auf der Einbeziehung von Open-Model-Entwicklern und unabhängigen Forschern ist eine implizite Anerkennung dieser Kritik.
Ob der Vorschlag nun Anklang findet, hängt weitgehend von Washington ab. Der Kongress müsste CAISI oder Nachfolgegremien finanzieren und befähigen, und nationale Sicherheitsinstitute müssten sich auf gemeinsame Bewertungsmethoden einigen, was jedoch nicht schnell geschieht. Aber als Zeichen dafür, wohin sich die politische Haltung der Frontier Labs verändert hat, ist das Dokument von Bedeutung: Das Unternehmen, das sich einst gegen strenge Regulierung positioniert hatte, fordert nun die US-Regierung auf, die weltweiten technischen Standards für die Kontrolle seiner eigenen Nachfolger zu organisieren.
---
Bleib vorne bei KIDie neuesten KI-Nachrichten, Analysen und Durchbrüche – alles an einem Ort.
Mehr KI-Nachrichten lesen →
