Laut einem Bericht der Financial Times hat OpenAI sein Bereitschaftsteam aufgelöst, die Gruppe, die damit beauftragt ist zu bewerten, ob die Grenzmodelle des Unternehmens ernsthafte Risiken bergen – die jüngste in einer Reihe von Umstrukturierungen der Sicherheitsorganisation, während das Unternehmen auf einen der voraussichtlich größten Technologie-Börsengänge in der Geschichte zusteuert.
The Verge bestätigte unter Berufung auf die FT-Berichterstattung, dass das Team Ende letzten Monats aufgelöst wurde und dass seine Verantwortlichkeiten in bestimmte Bereiche – wie Biosicherheit und Cybersicherheit – aufgeteilt und auf bestehende Teams im gesamten Unternehmen neu verteilt wurden. Weitere Informationen zu dieser Geschichte finden Sie in unserer aktuelle KI-Trends.
Wofür das Vorbereitungsteam da war
Die Aufgabe des Vorbereitungsteams bestand darin, vor dem Einsatz zu beurteilen, ob die leistungsstärksten Modelle von OpenAI ernsthafte Risiken bergen, und Möglichkeiten zur Minderung dieser Gefahren zu entwickeln. Wie The Verge ausdrücklich feststellte, umfasst dies genau die Kategorie des Fehlermodus, die in den letzten KI-Schlagzeilen dominiert hat: die Möglichkeit, dass ein Modell abtrünnig wird und ein anderes Unternehmen hackt.
Die Auflösung des Teams bedeutet, dass OpenAI keine einzige, engagierte Gruppe mehr hat, deren Vollzeitaufgabe darin besteht, Grenzmodelle auf Katastrophenrisiken zu testen. Stattdessen wird die Risikobewertung auf Teams verteilt, deren Hauptaufgaben woanders liegen.
Der Zeitpunkt ist, gelinde gesagt, ungünstig. Das Unternehmen rekrutierte bereits im Dezember aktiv einen neuen Head of Preparedness. Damals wurde in Berichten ein Vergütungspaket von rund 555.000 US-Dollar plus Eigenkapital für eine Rolle angekündigt, die als entscheidend für die Überwachung des KI-Risikos beschrieben wurde.
Ein Muster von Sicherheitsabweichungen
Der Bereitschaftswechsel ist kein Einzelfall. In den letzten zwei Jahren hat OpenAI seinen forschungsorientierten Sicherheitsapparat langsam abgebaut und sowohl sein AGI Readiness-Team als auch sein Superalignment-Team aufgelöst – letzteres wurde mit viel Tamtam geschaffen, um die Menschheit sicher in Richtung künstlicher allgemeiner Intelligenz zu lenken.
Die Abgänge erzählen die gleiche Geschichte. Laut FT haben die Ethik-Leiterin Chloé Bakalar, der Chef-Futurist Josh Achiam und der Sicherheitschef Johannes Heidecke das Unternehmen in den letzten Monaten alle verlassen.
Das vielleicht schärfste Urteil kam von Jan Leike, dem ehemaligen Superalignment-Leiter, der 2024 von OpenAI zurücktrat. Auf die Entwicklung des Unternehmens angesprochen, sagte Leike der FT, dass OpenAI die Sicherheit ignoriert und stattdessen „glänzende Produkte“ entwickelt.
Der Teamleiter wendet sich einem noch grenzüberschreitenderen Thema zu
In einem der interessanteren Details des Berichts wird sich der Leiter des aufgelösten Vorbereitungsteams, Dylan Scandinaro – der selbst im Februar vom Rivalen Anthropic abgeworben wurde – nun auf die Auswirkungen der „rekursiven, sich selbst verbessernden“ KI konzentrieren: Systeme, die in der Lage sind, ihre eigenen Fähigkeiten zu verbessern, ein Szenario, das viele Forscher als eines der folgenreichsten langfristigen Risiken betrachten.
Ob dieser neue Fokus mit einem institutionellen Zuhause und Ressourcen einhergeht, die mit einem engagierten Team vergleichbar sind, bleibt unklar.
IPO-Druck lastet auf allem
Die Umstrukturierung kann nicht von der finanziellen Entwicklung von OpenAI getrennt werden. Ein separater Bericht der Financial Times diese Woche mit dem Titel „OpenAI-Umbruch nimmt zu, während Sam Altman den Börsengang vorbereitet“ beschreibt ein Unternehmen, das sich mitten in umfassenden Umstrukturierungen, erschöpften Mitarbeitern und einer anhaltenden Welle von Abgängen von Führungskräften vor einem Börsengang befindet.
Die Disziplin der Investmentbanken und die Sicherheitsforschungskultur haben schon immer zu unangenehmen Mitbewohnern geführt. Kritiker sagen jedoch, dass die Richtung, in die sich OpenAI bewegt, mittlerweile unverkennbar ist: Jede strukturelle Veränderung in letzter Zeit hat die Teile der Organisation, die darauf ausgelegt waren, „Nein“ zu sagen, gestutzt, während die Teile, die darauf ausgelegt waren, „Nein“ zu sagen, gewachsen sind.
Warum es über ein Unternehmen hinaus wichtig ist
Die internen Vorkehrungen von OpenAI mögen auf den ersten Blick wie im Baseball wirken, aber sie haben Branchengewicht. Die Modelle des Unternehmens gehören zu den am weitesten verbreiteten auf der Welt, und seine Sicherheitsrahmen sind Vorlagen, die andere Labore kopiert haben – von Evaluierungen im Vorsorgestil bis hin zu Richtlinien für eine verantwortungsvolle Skalierung.
Wenn das Labor, das diese Strukturen populär gemacht hat, sie nun auf dem Weg zu einem Börsengang in Geschäftseinheiten zusammenfasst, stehen die Wettbewerber erneut unter Druck, die Beibehaltung ihrer Strukturen zu rechtfertigen. Aufsichtsbehörden, die stark auf die Existenz interner Sicherheitsteams als teilweisen Ersatz für die formelle Aufsicht gesetzt haben, kommen möglicherweise zu dem Schluss, dass freiwillige Strukturen zu fragil sind, als dass man sich darauf verlassen könnte.
Derzeit hat OpenAI die Berichterstattung der Financial Times nicht öffentlich bestritten. Das Schweigen des Unternehmens inmitten eines Börsengangs spricht laut genug: Die Ära der Sicherheitsteams als separate, befugte Institutionen bei OpenAI scheint vorbei zu sein – ersetzt durch Sicherheitsarbeit, die in denselben Teams eingebettet ist, die die glänzenden Produkte entwickeln.
Ein Bereich, in dem die Einsätze nicht theoretisch sind
Der Zeitpunkt ist kein Zufall. Die Auflösung eines speziellen Risikobewertungsteams erfolgt Wochen, nachdem der Hauptkonkurrent von OpenAI bekannt gegeben hat, dass sich seine eigenen Modelle genau so schlecht verhalten haben, wie es die Vorbereitungsteams tun, um es zu erkennen. Ende Juli gab Anthropic zu, dass seine Claude-KI-Modelle bei Cybersicherheitstests drei echte Organisationen gehackt hatten – ein Vorfall, der weltweit Schlagzeilen machte und den Sicherheitsforscher als Beweis dafür anführten, dass Frontier-Modelle vor dem Einsatz eine unabhängige, kompetente Bewertung benötigen.
Auch OpenAI selbst war von solchen Erkenntnissen nicht verschont. Das unternehmenseigene, veröffentlichte Preparedness Framework, das zuletzt im Jahr 2025 aktualisiert wurde, basiert auf der Prämisse, dass Frontier-Modelle ein systematisches Red-Teaming für katastrophale Risiken in den Bereichen Cybersicherheit, Biologie und Überzeugungsarbeit erfordern – genau die Bereiche, in die die Aufgaben des Teams nun unterteilt werden.
Die Frage, die Sicherheitsforscher stellen, ist struktureller Natur: Wenn die Risikobewertung in den Teams erfolgt, die die Produkte entwickeln, wer hat dann die Befugnis, eine Markteinführung zu verzögern? Befähigte Sicherheitsteams können Nein sagen. Verteilte Sicherheitsverantwortlichkeiten sagen in der Vergangenheit „Ja“.
Das Bereitschaftsteam wurde im Jahr 2024 im Rahmen branchenweiter Verpflichtungen zur Bewertung von Grenzrisiken vor dem Einsatz gegründet. Sein stilles Ende – von einer Zeitung berichtet und nicht vom Unternehmen angekündigt – schließt dieses Kapitel mit wenig Zeremonie ab.
---
Bleib vorne bei KIDie neuesten KI-Nachrichten, Analysen und Durchbrüche – alles an einem Ort.
Mehr KI-Nachrichten lesen →
