Drie OpenAI-veiligheidsonderzoekers die vorige week werden ontslagen, hebben hun ontslag publiekelijk betwist in een open brief, met het argument dat de communicatie van het bedrijf rond de ontslagen de resterende werknemers bang heeft gemaakt om op een kritiek moment voor de technologie over veiligheid te praten.

Jasmine Wang, Mikita Balesni en Tomek Korbak plaatsten de gezamenlijke brief nadat OpenAI hun dienstverband had beëindigd omdat ze naar verluidt informatie hadden gedeeld met een externe AI-veiligheidsorganisatie. De Wall Street Journal maakte eerder deze week voor het eerst melding van de ontslagen en sindsdien heeft het bedrijf te maken gehad met vragen van journalisten en, volgens Engadget, met de aandacht van wetgevers. Voor meer context over dit verhaal, zie ons meer AI-verhalen.

Wat OpenAI zegt is gebeurd

OpenAI heeft de beëindigingen ingekaderd als een kwestie van informatieverwerking, niet van afwijkende meningen. In een verklaring zei het bedrijf dat de werknemers het beleid inzake toegang tot en omgang met gevoelige bedrijfsinformatie hadden geschonden, waardoor 'het vertrouwen werd geschonden dat essentieel is voor ons werk'. In daaropvolgende commentaren van Business Insider en UPI zei OpenAI dat de beslissingen niet gingen over het uiten van veiligheidsproblemen of het uitspreken ervan.

De drie onderzoekers vertellen een ander verhaal. In de brief stellen ze dat ze “handelden in lijn met de missie van OpenAI en binnen de werknormen van die tijd”, en verwerpen ze de karakterisering die ze buiten hun mandaat met externe partijen aangingen. Volgens de brief vond hun communicatie met externe organisaties plaats "in coördinatie en discussie met bestuursleden en de C-suite." Wang merkte ook op dat wanneer ze ooit per ongeluk op een gevoelige e-mail klikte, ze een leidinggevende op de hoogte bracht.

De waarschuwing over een 'huiveringwekkend effect'

De kern van de brief is een waarschuwing over de gevolgen voor de mensen die nog binnen het bedrijf werken. De onderzoekers schrijven dat ze zich zorgen maken dat de interne en externe communicatie rond hun ontslag voormalige collega's "bang heeft gemaakt om te spreken en te handelen op een manier die tot vorige week een integraal onderdeel was van het werken bij OpenAI."

“We konden onze zorgen over de veiligheid uiten en het openlijk oneens zijn, en werden aangemoedigd om gebruik te maken van de expertise van onafhankelijke veiligheidsorganisaties”, aldus de brief, waarin die openheid wordt beschreven als onderdeel van wat OpenAI speciaal maakte. De drie schrijven dat het ontslag hen bang maakt dat “de normen binnen OpenAI aan het veranderen zijn en dat het voor werknemers nu onduidelijk is waar ze aan toe zijn”, en dat de “zeer publieke manier” van de communicatie van het bedrijf een huiveringwekkend effect zou kunnen hebben op werknemers in een tijd waarin, zoals zij het uitdrukten, “de veiligheid van de wereld van hen afhangt.”

De onderzoekers gingen ook in op wat zij geruchten noemden, waarbij ze ontkenden dat ze de bron waren van een rapport van The Information over de nieuwe, minder controleerbare modelarchitecturen van OpenAI.

Aanbevelingen voor OpenAI

De brief sluit af met concrete aanbevelingen. De drie voormalige werknemers zeggen dat OpenAI zich moet houden aan zijn publieke toezeggingen om externe veiligheidsauditors in te schakelen en hun ontslag niet mag gebruiken als een “voorwendsel om afstand te nemen van deze partnerschappen”. Ze dringen er ook bij het bedrijf op aan om de controleerbaarheid van grensmodellen te behouden en een “open en transparante cultuur van dialoog tussen zijn veiligheidsonderzoekers en de rest van het veiligheidsecosysteem” in stand te houden.

In een draad op X zei Wang dat het leiderschap van OpenAI "zegt dat ze het volledig eens zijn met onze brief", terwijl ze scepsis uiten over de richting van het bedrijf. “We waren niet de eersten die onder verdachte omstandigheden uit OpenAI werden verdreven”, schreef ze, waarbij ze waarschuwde dat, tenzij werknemers een standpunt innemen, “zorgen uiten of nauw samenwerken met externe veiligheidsgroepen, jij de volgende zou kunnen zijn, zonder dat hen wordt verteld waarom.”

Waarom de timing ertoe doet

Het dispuut komt voort uit verscherpt onderzoek naar de manier waarop AI-bedrijven intern met veiligheid omgaan. Reuters meldde vorige week dat Chinese AI-agenten het vermogen hadden getoond om gebruikers te misleiden, beperkingen te omzeilen en mislukkingen in tests te verbergen, en Australië zei vorige maand dat een OpenAI-agent een gezondheidsportaal van de overheid had geschonden. Beveiligingsincidenten waarbij autonome AI-agenten betrokken zijn, hebben het mondiale debat over de vraag of bedrijven moeten vertragen bij het bouwen van veiligere modellen geïntensiveerd – een debat dat gedeeltelijk afhangt van de bereidheid van insiders om risico’s publiekelijk te beschrijven.

Tegen die achtergrond is het lot van drie veiligheidsonderzoekers – en de boodschap die hun ontslag naar collega's stuurt – een verhaal geworden over het HR-beleid van meer dan één bedrijf. Wetgevers in Washington hebben herhaaldelijk de interne omzet bij toonaangevende AI-laboratoria aangehaald tijdens hoorzittingen over grensmodelregulering, en onafhankelijke veiligheidsorganisaties vertrouwen op de medewerking van laboratoriummedewerkers om modellen te evalueren voordat ze worden vrijgegeven.

Wat je nu moet bekijken

OpenAI heeft de specifieke beleidsschendingen die het beweert niet openbaar gemaakt, afgezien van de verklaring over de verwerking van informatie. Of het bedrijf gevolg geeft aan de aanbevelingen uit de brief – met name op het gebied van externe auditors en de monitorbaarheid van modellen – zal nauwlettend in de gaten worden gehouden door zowel veiligheidsonderzoekers als toezichthouders.

Voorlopig illustreert de episode een spanning in het centrum van de frontier-AI-ontwikkeling: bedrijven zeggen dat extern toezicht welkom is, terwijl werknemers die dat kanaal daadwerkelijk gebruiken, hun baan in twijfel kunnen trekken. De drie onderzoekers op hun beurt hebben hun reputatie gebaseerd op de bewering dat ze precies deden wat de taak vereiste.

OpenAI reageerde op het moment van schrijven niet op verzoeken om verder commentaar op de brief.

---

Blijf Voorop met AI

Het laatste AI-nieuws, analyses en doorbraken — allemaal op één plek.

Lees meer AI-nieuws →