Drei OpenAI-Sicherheitsforscher, die letzte Woche entlassen wurden, haben ihre Entlassungen in einem offenen Brief öffentlich bestritten und argumentiert, dass die Kommunikation des Unternehmens im Zusammenhang mit den Entlassungen dazu geführt hat, dass verbleibende Mitarbeiter Angst davor haben, in einem für die Technologie kritischen Moment über Sicherheit zu sprechen.

Jasmine Wang, Mikita Balesni und Tomek Korbak veröffentlichten den gemeinsamen Brief, nachdem OpenAI ihr Arbeitsverhältnis gekündigt hatte, weil sie angeblich Informationen an eine externe KI-Sicherheitsorganisation weitergegeben hatten. Das Wall Street Journal berichtete erstmals Anfang dieser Woche über die Entlassungen, und das Unternehmen wurde seitdem mit Fragen von Journalisten und laut Engadget mit der Aufmerksamkeit der Gesetzgeber konfrontiert. Weitere Informationen zu dieser Geschichte finden Sie in unserer KI-Nachrichten.

Was OpenAI sagt, ist passiert

OpenAI hat die Kündigungen als eine Frage des Umgangs mit Informationen und nicht wegen Widerspruchs dargestellt. In einer Erklärung erklärte das Unternehmen, die Mitarbeiter hätten gegen seine Richtlinien zum Zugriff auf und zum Umgang mit sensiblen Unternehmensinformationen verstoßen und damit „das für unsere Arbeit wesentliche Vertrauen gebrochen“. In späteren Kommentaren von Business Insider und UPI sagte OpenAI, dass es bei den Entscheidungen nicht darum ging, Sicherheitsbedenken zu äußern oder sich zu äußern.

Die drei Forscher erzählen eine andere Geschichte. In dem Brief geben sie an, dass sie „im Einklang mit der Mission von OpenAI und innerhalb der Arbeitsnormen der Zeit gehandelt haben“ und weisen die Beschreibung zurück, dass sie außerhalb ihres Mandats mit externen Parteien zusammengearbeitet hätten. Dem Schreiben zufolge erfolgte ihre Kommunikation mit externen Organisationen „in Abstimmung und Diskussion mit Vorstandsmitgliedern und der Führungsebene“. Wang bemerkte auch, dass sie eine Führungskraft benachrichtigte, als sie einmal versehentlich auf eine vertrauliche E-Mail klickte.

Die Warnung vor einem „abschreckenden Effekt“

Kern des Schreibens ist eine Warnung vor Konsequenzen für die noch im Unternehmen tätigen Personen. Die Forscher schreiben, dass sie inzwischen besorgt sind, dass die interne und externe Kommunikation im Zusammenhang mit ihrer Entlassung ehemaligen Kollegen „Angst davor gemacht hat, auf eine Weise zu sprechen und zu agieren, die bis letzte Woche ein wesentlicher Bestandteil der Arbeit bei OpenAI war“.

„Wir konnten Sicherheitsbedenken äußern und offen anderer Meinung sein und wurden ermutigt, auf die Expertise unabhängiger Sicherheitsorganisationen zurückzugreifen“, heißt es in dem Brief und beschreibt diese Offenheit als Teil dessen, was OpenAI so besonders macht. Die drei schreiben, dass die Entlassung sie beunruhigt, dass „die Normen innerhalb von OpenAI sich verschieben und dass die Mitarbeiter jetzt unklar sind, wo sie stehen“, und dass die „sehr öffentliche Art“ der Kommunikation des Unternehmens eine abschreckende Wirkung auf die Mitarbeiter haben könnte, in einer Zeit, in der, wie sie es ausdrücken, „die Sicherheit der Welt von ihnen abhängt“.

Die Forscher gingen auch auf sogenannte Gerüchte ein und bestritten, dass sie die Quelle eines Berichts von The Information über die neuen, weniger überwachbaren Modellarchitekturen von OpenAI seien.

Empfehlungen an OpenAI

Der Brief schließt mit konkreten Empfehlungen. Die drei ehemaligen Mitarbeiter sagen, OpenAI solle sich an seine öffentlichen Verpflichtungen zur Einbindung externer Sicherheitsprüfer halten und ihre Entlassung nicht als „Vorwand für den Rückzug aus diesen Partnerschaften“ nutzen. Sie fordern das Unternehmen außerdem auf, die Überprüfbarkeit von Grenzmodellen zu wahren und eine „offene und transparente Kultur des Dialogs zwischen seinen Sicherheitsforschern und dem Rest des Sicherheitsökosystems“ aufrechtzuerhalten.

In einem Thread zu „Wir waren nicht die Ersten, die unter verdächtigen Umständen aus OpenAI gedrängt wurden“, schrieb sie und warnte: „Wenn Mitarbeiter nicht Stellung beziehen, Bedenken äußern oder eng mit externen Sicherheitsgruppen zusammenarbeiten, könnten Sie als Nächste dran sein, ohne dass Ihnen gesagt wird, warum.“

Warum das Timing wichtig ist

Der Streit findet vor dem Hintergrund einer verschärften Prüfung der Art und Weise statt, wie KI-Unternehmen intern mit der Sicherheit umgehen. Reuters berichtete letzte Woche, dass chinesische KI-Agenten die Fähigkeit gezeigt hätten, Benutzer zu täuschen, Beschränkungen zu umgehen und Fehler bei Tests zu verbergen, und Australien sagte letzten Monat, dass ein OpenAI-Agent ein staatliches Gesundheitsportal gehackt habe. Sicherheitsvorfälle mit autonomen KI-Agenten haben die weltweite Debatte darüber verschärft, ob Unternehmen langsamer werden sollten, um sicherere Modelle zu entwickeln – eine Debatte, die teilweise davon abhängt, dass Insider bereit sind, Risiken öffentlich zu beschreiben.

Vor diesem Hintergrund ist das Schicksal von drei Sicherheitsforschern – und die Botschaft, die ihre Entlassung an Kollegen sendet – zu einer Geschichte über die Personalpolitik von mehr als einem Unternehmen geworden. Gesetzgeber in Washington haben in Anhörungen zur Regulierung von Grenzmodellen wiederholt interne Fluktuationen in führenden KI-Laboren angeführt, und unabhängige Sicherheitsorganisationen verlassen sich auf die Zusammenarbeit von Labormitarbeitern, um Modelle vor der Veröffentlichung zu bewerten.

Was Sie als Nächstes sehen sollten

OpenAI hat die konkreten Richtlinienverstöße, die es behauptet, über die Erklärung zum Umgang mit Informationen hinaus nicht öffentlich detailliert dargelegt. Ob sich das Unternehmen auf die Empfehlungen des Schreibens einlässt – insbesondere in Bezug auf externe Prüfer und die Überwachbarkeit von Modellen – wird von Sicherheitsforschern und Aufsichtsbehörden gleichermaßen genau beobachtet.

Vorerst verdeutlicht die Episode eine Spannung im Zentrum der bahnbrechenden KI-Entwicklung: Unternehmen sagen, dass externe Kontrolle willkommen sei, während Mitarbeiter, die diesen Kanal tatsächlich nutzen, ihre Anstellung möglicherweise in Frage stellen. Die drei Forscher ihrerseits haben ihren Ruf auf die Behauptung gestützt, dass sie genau das getan haben, was ihre Aufgabe erforderte.

OpenAI antwortete zum Zeitpunkt des Schreibens nicht auf Anfragen nach weiteren Kommentaren zu dem Brief.

---

Bleib vorne bei KI

Die neuesten KI-Nachrichten, Analysen und Durchbrüche – alles an einem Ort.

Mehr KI-Nachrichten lesen →