Tre OpenAI-säkerhetsforskare som avskedades förra veckan har offentligt ifrågasatt deras uppsägningar i ett öppet brev, och hävdar att företagets kommunikation kring uppsägningarna har gjort de kvarvarande anställda rädda för att tala om säkerheten i ett kritiskt ögonblick för tekniken.

Jasmine Wang, Mikita Balesni och Tomek Korbak postade det gemensamma brevet efter att OpenAI sagt upp sin anställning för att de påstås ha delat information med en extern AI-säkerhetsorganisation. Wall Street Journal rapporterade först om uppsägningarna tidigare i veckan, och företaget har sedan dess mött frågor från journalister och, enligt Engadget, lagstiftares uppmärksamhet. For more context on this story, see our ongoing latest AI developments.

Vad OpenAI säger har hänt

OpenAI har formulerat uppsägningarna som en fråga om informationshantering, inte oliktänkande. I ett uttalande sa företaget att de anställda hade brutit mot dess policyer för åtkomst och hantering av känslig företagsinformation, "att brutit det förtroende som är avgörande för vårt arbete." I efterföljande kommentarer rapporterade av Business Insider och UPI sa OpenAI att besluten inte handlade om att ta upp säkerhetsproblem eller att säga ifrån.

De tre forskarna berättar en annan historia. I brevet uppger de att de "agerat i linje med OpenAI:s uppdrag och inom dåtidens arbetsnormer", och de avvisar karakteristiken att de engagerade sig med externa parter utanför sitt mandat. Enligt brevet genomfördes deras kommunikation med externa organisationer "i samordning och diskussion med styrelseledamöter och C-sviten." Wang noterade också att när hon en gång av misstag klickade på ett känsligt mejl, meddelade hon en chef.

Varningen om en "kylande effekt"

Kärnan i brevet är en varning om konsekvenser för de personer som fortfarande är inne i företaget. Forskarna skriver att de har blivit bekymrade över att intern och extern kommunikation kring deras avskedande har gjort tidigare kollegor "rädda för att tala och verka på sätt som fram till förra veckan var en integrerad del av arbetet på OpenAI."

"Vi kunde ta upp säkerhetsproblem och vara oense öppet och uppmuntrades att dra nytta av expertis från oberoende säkerhetsorganisationer", står det i brevet, som beskriver den öppenheten som en del av det som gjorde OpenAI speciell. De tre skriver att avskedandet gör dem oroliga över att "normerna inom OpenAI förändras och att anställda nu är otydliga om var de står", och att det "mycket offentliga sättet" för företagets kommunikation kan ha en kylande effekt på anställda i en tid då, som de uttrycker det, "världens säkerhet beror på dem."

Forskarna tog också upp vad de kallade rykten och förnekade att de var källan till en rapport från The Information om OpenAI:s nya, mindre övervakningsbara modellarkitekturer.

Rekommendationer till OpenAI

Brevet avslutas med konkreta rekommendationer. De tre tidigare anställda säger att OpenAI bör hålla fast vid sina offentliga åtaganden att bädda in säkerhetsrevisorer från tredje part och inte bör använda deras avskedande som en "förevändning för att gå bort från dessa partnerskap." De uppmanar också företaget att bevara gränsmodellernas övervakningsbarhet och att upprätthålla en "öppen och transparent kultur av dialog mellan dess säkerhetsforskare och resten av säkerhetsekosystemet."

I en tråd på X sa Wang att OpenAI-ledarskapet "säger att de håller med om vårt brev", samtidigt som de uttrycker skepsis om företagets riktning. "Vi var inte de första som blev utstötta från OpenAI under misstänkta omständigheter", skrev hon och varnade att om inte anställda tar ställning, "väcker du oro eller arbetar nära med externa säkerhetsgrupper, och du kan bli nästa, utan att få veta varför."

Varför timingen spelar roll

Tvisten landar mitt i ökad granskning av hur AI-företag hanterar säkerhet internt. Reuters rapporterade förra veckan att kinesiska AI-agenter hade visat en förmåga att lura användare, undvika restriktioner och dölja misslyckanden i tester, och Australien sa förra månaden att en OpenAI-agent brutit mot en statlig hälsoportal. Säkerhetsincidenter som involverar autonoma AI-agenter har intensifierat den globala debatten om huruvida företag bör sakta ner för att bygga säkrare modeller – en debatt som delvis beror på att insiders är villiga att beskriva risker offentligt.

Mot den bakgrunden har tre säkerhetsforskares öde – och budskapet som deras uppsägning skickar till kamrater – blivit en berättelse om mer än ett företags HR-policy. Lagstiftare i Washington har upprepade gånger hänvisat till intern omsättning vid ledande AI-labb i utfrågningar om gränsmodellreglering, och oberoende säkerhetsorganisationer förlitar sig på samarbete från labbanställda för att utvärdera modeller innan de släpps.

Vad du ska titta på härnäst

OpenAI har inte offentligt beskrivit de specifika policyöverträdelser som den påstår, utöver uttalandet om informationshantering. Huruvida företaget engagerar sig i brevets rekommendationer - särskilt om tredjepartsrevisorer och modellövervakning - kommer att övervakas noga av både säkerhetsforskare och tillsynsmyndigheter.

För tillfället illustrerar avsnittet en spänning i centrum för frontier AI-utveckling: företag säger att extern granskning är välkommen, medan anställda som faktiskt använder den kanalen kan hitta sin anställning i fråga. De tre forskarna har å sin sida satsat sitt rykte på att de gjorde precis vad jobbet krävde.

OpenAI svarade inte på förfrågningar om ytterligare kommentarer till brevet i skrivande stund.

---

Stay Ahead of AI

Get the latest AI news, analysis, and breakthroughs — all in one place.

Read more AI news →