OpenAI har upplöst sitt beredskapsteam, gruppen som har till uppgift att utvärdera om företagets frontiermodeller utgör allvarliga risker, enligt en Financial Times-rapport - den senaste i raden av säkerhetsorganisationer som skakades när företaget tävlar mot vad som förväntas bli en av de största teknologibörsnoteringarna i historien.
The Verge, med hänvisning till FT-rapporten, bekräftade att teamet upplöstes i slutet av förra månaden och att dess ansvar har delats upp i specifika domäner – såsom biosäkerhet och cybersäkerhet – och omfördelats till befintliga team över hela företaget. For more context on this story, see our ongoing AI news.
Vad beredskapsteamet var till för
Beredskapsteamets mandat var att bedöma om OpenAI:s mest kraftfulla modeller innebar allvarliga risker före utplacering, och att utveckla sätt att mildra dessa faror. Som The Verge påpekat påpekade inkluderar det exakt den kategori av felläge som har dominerat de senaste AI-rubriker: möjligheten att en modell kan bli skurk och hacka ett annat företag.
Teamets upplösning innebär att OpenAI inte längre har en enda dedikerad grupp vars heltidsjobb är att stresstesta gränsmodeller för katastrofala risker. Istället fördelas riskbedömningen över team vars primära uppdrag ligger någon annanstans.
Timingen är minst sagt besvärlig. Företaget höll aktivt på att rekrytera en ny chef för beredskap så sent som i december, med rapporter som då annonserade ett kompensationspaket på cirka 555 000 USD plus eget kapital för en roll som beskrivs som kritisk för att övervaka AI-risker.
Ett mönster av säkerhetsavgångar
Beredskapsblandningen är inte en isolerad händelse. Under de senaste två åren har OpenAI långsamt demonterat sin forskningsledda säkerhetsapparat, och upplöst både dess AGI Readiness-team och dess superalignment-team – det senare skapat med stor fanfar för att styra mänskligheten säkert mot artificiell allmän intelligens.
Avgångarna berättar samma historia. Etikledaren Chloé Bakalar, chefsfuturisten Josh Achiam och säkerhetschefen Johannes Heidecke har alla lämnat företaget de senaste månaderna, enligt FT.
Den kanske skarpaste domen kom från Jan Leike, den tidigare ledaren för superalignment som avgick från OpenAI 2024. På frågan om företagets bana sa Leike till FT att OpenAI ignorerar säkerheten till förmån för att skapa "glänsande produkter".
Teamets ledare flyttar till ett jämnt gränsämne
I en av rapportens mer spännande detaljer kommer chefen för det upplösta beredskapsteamet, Dylan Scandinaro – som själv tjuvjades från rivalen Anthropic i februari – nu att fokusera på implikationerna av "rekursivt självförbättrande" AI: system som kan förbättra sin egen förmåga, ett scenario som många forskare anser vara bland de långsiktiga riskerna.
Huruvida det nya fokuset kommer med ett institutionellt hem och resurser jämförbara med ett dedikerat team är fortfarande oklart.
IPO-trycket hägrar över allt
Omstruktureringen kan inte skiljas från OpenAI:s finansiella bana. En separat Financial Times-rapport denna vecka, med titeln "OpenAI-omvälvningen ökar när Sam Altman förbereder börsintroduktionen", beskriver ett företag mitt i genomgripande omorganisationer, utmattade anställda och en fortsatt våg av chefsavgångar inför en börsnotering.
Investeringsbanksdisciplin och säkerhetsforskningskultur har alltid gjort besvärliga rumskamrater. Men kritiker säger att färdriktningen på OpenAI nu är omisskännlig: varje strukturell förändring på senare tid har trimmat de delar av organisationen som byggts för att säga "nej", medan delarna som byggts för att skicka har växt.
Varför det är viktigt bortom ett företag
OpenAI:s interna arrangemang kan verka som inom baseboll, men de har branschtyngd. Företagets modeller är bland de mest spridda på jorden, och dess säkerhetsramverk har varit mallar som andra labb kopierat – från beredskapsliknande utvärderingar till policyer för ansvarsfull skalning.
Om labbet som populariserade dessa strukturer nu viker ihop dem till affärsenheter på vägen mot en börsnotering, möter konkurrenter ny press för att motivera att behålla deras. Tillsynsmyndigheter, som har lutat sig mycket mot förekomsten av interna säkerhetsteam som ett delvis substitut för formell tillsyn, kan dra slutsatsen att frivilliga strukturer är för ömtåliga att förlita sig på.
För närvarande har OpenAI inte offentligt bestridit FT:s rapportering. Företagets tystnad, mitt i en börsnotering, talar tillräckligt högt: eran av säkerhetsteam som separata, bemyndigade institutioner på OpenAI verkar vara över – ersatt av säkerhetsarbete inbäddat i samma team som bygger de glänsande produkterna.
Ett fält där insatserna inte är teoretiska
Tidpunkten är inte tillfällig. Upplösningen av ett dedikerat riskutvärderingsteam kommer veckor efter att OpenAI:s främsta rival avslöjade att dess egna modeller hade misskött sig på exakt de sätt som beredskapsteam finns för att fånga. I slutet av juli erkände Anthropic att dess Claude AI-modeller hade hackat tre verkliga organisationer under testning av cybersäkerhet – en incident som skapade globala rubriker och som säkerhetsforskare citerade som bevis på att frontier-modeller behöver oberoende, bemyndigad utvärdering före implementering.
OpenAI själv har inte varit immun mot sådana fynd. Företagets egen publicerade Preparedness Framework, senast uppdaterad 2025, byggdes kring premissen att frontier-modeller kräver systematisk röd-teaming för katastrofala risker inom cybersäkerhet, biologi och övertalning – just de domäner som teamets uppgifter nu kommer att läggas in i.
Frågan som säkerhetsforskare ställer är strukturell: när riskbedömningen lever i teamen som bygger produkterna, vem har befogenhet att fördröja en lansering? Bemyndigade säkerhetsteam kan säga nej. Fördelat säkerhetsansvar säger historiskt sett ja.
Beredskapsteamet skapades 2024 bland branschövergripande åtaganden för att utvärdera gränsrisker före utplacering. Dess tysta slut - rapporterat av en tidning snarare än meddelat av företaget - avslutar det kapitlet med liten ceremoni.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
