OpenAI spricht mit mehreren unabhängigen Gutachtern, um dabei zu helfen, die Zahl der Unternehmen zu erhöhen, die über Fachwissen im Bereich KI-Sicherheit im Grenzbereich verfügen und effektive Bewertungen durch Dritte anbieten können, sagte das Unternehmen in einem Blogbeitrag, der am Dienstag, dem 22. September, veröffentlicht wurde, wie von PYMNTS berichtet.

In dem Beitrag werden die von OpenAI vorgeschlagenen Prioritäten und Grundsätze für eine wirksame Aufsicht durch Dritte dargelegt – ein Rahmenwerk, das seiner Meinung nach für alle KI-Forschungslabore gelten sollte, die immer leistungsfähigere Modelle trainieren, bewerten und einsetzen. Die Ankündigung fällt mitten in einen ungewöhnlich angespannten Monat für die KI-Sicherheitspolitik und liest sich sowohl als Zugeständnis an Kritiker als auch als Versuch, die Regeln zu gestalten, bevor die Regierungen sie schreiben. Für alle, die aktuelle KI-Nachrichten verfolgen, ist dies der jüngste Schritt in einem wochenlangen Wettbewerb zwischen den Labors, ihren Kritikern und Regulierungsbehörden darüber, wer die Sicherheit von Grenzmodellen überprüfen darf.

Was OpenAI vorschlägt

„Wir sind bestrebt, unabhängige Gutachter zu unterstützen und klarere, gemeinsame internationale Standards zu etablieren – sowohl durch künftige Gesetze als auch durch private Governance-Initiativen – für effektive Bewertungen durch Dritte“, sagte OpenAI laut PYMNTS in dem Beitrag.

Das Kernproblem, das OpenAI beschreibt, ist ein Marktversagen: Es gibt einfach zu wenige Organisationen mit der technischen Tiefe, um ein Grenzmodell zu prüfen. Eine aussagekräftige Sicherheitsbewertung erfordert Zugang zu unveröffentlichten Systemen, Fachwissen in Bereichen von Cybersicherheit bis Biosicherheit und die institutionelle Unabhängigkeit, unerwünschte Ergebnisse zu veröffentlichen. Durch die Rekrutierung und Unterstützung mehrerer Gutachter statt eines einzigen privilegierten Prüfers möchte OpenAI nach eigenen Angaben ein Ökosystem aufbauen, in dem die Bewertung durch Dritte ein routinemäßiger Bestandteil der Einführung von Grenzsystemen ist – und keine einmalige PR-Übung.

Das Unternehmen hat die Namen der Gutachter, mit denen es spricht, nicht genannt, und es bleibt abzuwarten, ob die daraus resultierenden Vereinbarungen den Gutachtern den Zugang, die Finanzierungsunabhängigkeit und die Veröffentlichungsrechte gewähren werden, die Sicherheitsforscher für sinnvoll halten.

Eine Woche voller Schleudertrauma zur KI-Politik

Der Vorschlag kommt inmitten einer schnellen Abfolge politischer Entwicklungen, die die KI-Debatte im September geprägt haben:

  • Montag, 21. September: OpenAI forderte die Vereinigten Staaten auf, eine internationale Initiative zur Entwicklung globaler technischer Standards für Grenz-KI anzuführen – einschließlich der rekursiven Selbstverbesserung, dem Punkt, an dem sich KI-Systeme selbst verbessern. Das Unternehmen warnte davor, dass die vollständig autonome KI-Entwicklung die Fähigkeit des Menschen, sie zu verstehen und zu kontrollieren, übertreffen könnte, und sagte, dass Entscheidungen darüber, ob und wie weitergegangen werden soll, jetzt getroffen werden müssten.
  • Freitag, 18. September: Der Gouverneur von Kalifornien, Gavin Newsom, unterzeichnete eine Durchführungsverordnung zur Einberufung nationaler Experten zur Verschärfung der KI-Sicherheitsgesetze des Staates, die ausdrücklich darauf abzielt, die Umsetzung einer neuen Aufsicht über Sicherheitsrisiken in KI-Systemen durch Dritte zu beschleunigen.
  • Samstag, 19. September: Präsident Donald Trump wies die Sicherheitsbedenken der Branche in einem Truth Social-Beitrag zurück und schrieb: „Wir werden das Wachstum dieser unglaublichen Branche in keiner Weise behindern oder ersticken. KI ist die nächste industrielle Revolution oder das nächste Internet, aber sie wird noch größer und wirkungsvoller sein und möglicherweise bis zu 25 % des BIP unseres Landes ausmachen.“

Wie wir Anfang dieser Woche berichteten, markierte der von den USA angeführte Standardvorschlag von OpenAI einen bemerkenswerten Wandel für ein Unternehmen, das sich jahrelang gegen eine verbindliche Aufsicht gewehrt hatte – und die neuen Bewertungsgrundsätze durch Dritte weiten diese Haltung auf die private Governance-Front aus.

Das Unabhängigkeitsproblem

Die Übernahme externer Watchdogs durch OpenAI folgt einem parallelen Vorschlag seines Hauptkonkurrenten. Ungefähr eine Woche zuvor veröffentlichte Dario Amodei, CEO von Anthropic, einen Aufsatz, in dem er einen KI-Sicherheitsplan vorschlug, der auf unabhängigen Gutachtern in führenden KI-Unternehmen basiert, auf der Koordinierung zwischen Unternehmen in demokratischen Ländern und schließlich auf einem internationalen Abkommen, das auch China einschließt.

Beide Vorschläge stießen bei Experten sofort auf Skepsis. CNBC berichtete, dass eine Koalition von mehr als 100 KI-Experten die Unabhängigkeit und Transparenz von Anthropic, OpenAI und anderen Stiftungsmodelllaboren, die Bewertungen durchführen, fordert und warnt, dass Gutachter, die in die von ihnen geprüften Unternehmen eingebunden sind oder von diesen bezahlt werden, unvermeidbaren Interessenkonflikten ausgesetzt sind. Wachhunde, die vom KI-Pionier Geoffrey Hinton unterstützt werden, haben beide Unternehmen auf die Einzelheiten ihrer Sicherheitspläne gedrängt, und Kommentatoren haben auf die Drehtür zwischen Organisationen zur Bewertung der KI-Sicherheit und den Labors selbst hingewiesen: Die Leute, die die Sicherheitshausaufgaben bewerten, könnten auch diejenigen sein, die sie geschrieben haben.

Diese Spannung ist der Kern der Debatte, die der neue Beitrag von OpenAI zu entschärfen versucht. Die Antwort des Unternehmens – mehr Gutachter, gemeinsame internationale Standards und eine durch künftige Gesetze und private Initiativen durchgesetzte Aufsicht – ist ein Rahmen, noch keine Garantie. Kritiker werden darauf hinweisen, dass die Labore, die die Regeln vorschlagen, dieselben Labore sind, denen sie unterliegen, und dass eine selbstgestaltete Governance in der Vergangenheit die Unternehmen begünstigt hat, die die Regeln gestalten.

Warum es wichtig ist

Die nächsten Grenzmodelle befinden sich bereits in der Ausbildung, und das Zeitfenster für die Entwurfsaufsicht vor der Bereitstellung schließt sich. Wenn die Rekrutierung unabhängiger Gutachter durch OpenAI Prüfer mit echtem Zugang und wirklicher Unabhängigkeit hervorbringt, könnte dies zur Vorlage dafür werden, wie Grenz-KI weltweit regiert wird – ein privates Regime, das Gesetzgeber in Washington, Brüssel und anderswo bisher nicht selbst aufgebaut haben. Wenn es angeschlossene Beratungsunternehmen mit NDAs hervorbringt, wird es die schlechteste Lesart der Skeptiker bestätigen.

So oder so ist die Tatsache, dass OpenAI mit Anthropic darum konkurriert, wer das glaubwürdigste Aufsichtssystem vorschlagen kann, an sich neu. Vor einem Jahr waren sich die Labore vor allem in der Ablehnung der Regulierung einig. Jetzt rennen sie darum, es zu definieren.

---

Bleiben Sie der KI immer einen Schritt voraus

Erhalten Sie die neuesten KI-Nachrichten, Analysen und Durchbrüche – alles an einem Ort.

Weitere KI-Neuigkeiten lesen →