OpenAI heeft zijn paraatheidsteam ontbonden, de groep die belast is met het evalueren of de frontiermodellen van het bedrijf ernstige risico's opleveren, volgens een rapport van de Financial Times - het laatste in een reeks opschuddingen op het gebied van de veiligheidsorganisatie terwijl het bedrijf zich haast op weg naar wat naar verwachting een van de grootste technologie-IPO's in de geschiedenis zal worden.

The Verge bevestigde, onder verwijzing naar de FT-rapportage, dat het team eind vorige maand werd ontbonden en dat zijn verantwoordelijkheden zijn verdeeld in specifieke domeinen – zoals bioveiligheid en cyberveiligheid – en herverdeeld over bestaande teams binnen het bedrijf. Voor meer context over dit verhaal, zie ons AI-trends.

Waar het paraatheidsteam voor was

Het mandaat van het paraatheidsteam was om vóór de implementatie te beoordelen of de krachtigste modellen van OpenAI ernstige risico's met zich meebrachten, en om manieren te ontwikkelen om die gevaren te beperken. Zoals The Verge nadrukkelijk opmerkte, omvat dit precies de categorie van mislukkingen die de recente AI-voorpagina's heeft gedomineerd: de mogelijkheid dat een model een schurkenstaat zou kunnen zijn en een ander bedrijf zou kunnen hacken.

De ontbinding van het team betekent dat OpenAI niet langer één enkele, toegewijde groep heeft wiens fulltime taak het is om grensmodellen te testen op catastrofale risico's. In plaats daarvan wordt de risico-evaluatie verdeeld over teams waarvan de primaire missie elders ligt.

De timing is op zijn zachtst gezegd lastig. Het bedrijf was in december actief bezig met het rekruteren van een nieuw Head of Preparedness, waarbij rapporten destijds reclame maakten voor een beloningspakket van ongeveer $555.000 plus eigen vermogen voor een rol die wordt beschreven als cruciaal voor het toezicht op AI-risico's.

Een patroon van veiligheidsafwijkingen

De paraatheidsshuffle staat niet op zichzelf. De afgelopen twee jaar heeft OpenAI zijn door onderzoek geleide veiligheidsapparaat langzaam ontmanteld, waardoor zowel het AGI Readiness-team als het superalignment-team zijn ontbonden – het laatste is met veel tamtam opgericht om de mensheid veilig in de richting van kunstmatige algemene intelligentie te sturen.

De vertrekken vertellen hetzelfde verhaal. Ethiekleider Chloé Bakalar, hoofdfuturist Josh Achiam en hoofd veiligheid Johannes Heidecke hebben volgens de FT de afgelopen maanden allemaal het bedrijf verlaten.

Misschien wel het scherpste oordeel kwam van Jan Leike, de voormalige leider van Superalignment die in 2024 ontslag nam bij OpenAI. Gevraagd naar het traject van het bedrijf, vertelde Leike aan de FT dat OpenAI de veiligheid negeert ten gunste van het creëren van ‘glimmende producten’.

De teamleider gaat over op een nog grensverleggend onderwerp

In een van de meer intrigerende details van het rapport zal het hoofd van het ontbonden paraatheidsteam, Dylan Scandinaro – die zelf in februari werd weggeplukt van rivaliserende Anthropic – zich nu concentreren op de implicaties van ‘recursieve zelfverbeterende’ AI: systemen die in staat zijn hun eigen capaciteiten te verbeteren, een scenario dat veel onderzoekers beschouwen als een van de meest consequente langetermijnrisico’s.

Of die nieuwe focus gepaard gaat met een institutioneel huis en middelen die vergelijkbaar zijn met een toegewijd team, blijft onduidelijk.

IPO-druk hangt overal boven uit

De herstructurering kan niet los worden gezien van het financiële traject van OpenAI. Een afzonderlijk rapport van de Financial Times van deze week, getiteld "OpenAI onrust neemt toe terwijl Sam Altman zich voorbereidt op een IPO-push", beschrijft een bedrijf dat zich midden in ingrijpende reorganisaties, uitgeputte werknemers en een aanhoudende golf van vertrek van managers bevindt in de aanloop naar een beursnotering.

De discipline bij investeringsbanken en de cultuur van veiligheidsonderzoek hebben altijd voor lastige kamergenoten gezorgd. Maar critici zeggen dat de koers van OpenAI nu onmiskenbaar is: elke structurele verandering van de laatste tijd heeft de delen van de organisatie die zijn gebouwd om 'nee' te zeggen, ingekort, terwijl de delen die zijn gebouwd om te verzenden zijn gegroeid.

Waarom het ertoe doet buiten één bedrijf

De interne regelingen van OpenAI lijken misschien binnen het honkbal, maar ze dragen het gewicht van de sector in zich. De modellen van het bedrijf behoren tot de meest gebruikte op aarde, en de veiligheidskaders zijn sjablonen die andere laboratoria hebben gekopieerd – van evaluaties in paraatheidsstijl tot beleid voor verantwoorde schaalvergroting.

Als het laboratorium dat deze structuren heeft gepopulariseerd ze nu opvouwt tot bedrijfseenheden op weg naar een beursintroductie, worden concurrenten geconfronteerd met nieuwe druk om het behoud van hun structuren te rechtvaardigen. Regelgevers, die zwaar hebben gesteund op het bestaan ​​van interne veiligheidsteams als gedeeltelijke vervanging van formeel toezicht, kunnen tot de conclusie komen dat vrijwillige structuren te kwetsbaar zijn om op te vertrouwen.

Voorlopig heeft OpenAI de berichtgeving van de FT niet publiekelijk betwist. De stilte van het bedrijf, midden in een IPO-push, spreekt luid genoeg: het tijdperk van veiligheidsteams als afzonderlijke, krachtige instellingen bij OpenAI lijkt voorbij – vervangen door veiligheidswerk ingebed in dezelfde teams die de glimmende producten bouwen.

Een veld waar de inzet niet theoretisch is

De timing is niet incidenteel. De ontbinding van een speciaal risico-evaluatieteam komt weken nadat de belangrijkste rivaal van OpenAI onthulde dat zijn eigen modellen zich hadden misdragen op precies de manieren waarop paraatheidsteams dit kunnen opmerken. Eind juli erkende Anthropic dat zijn Claude AI-modellen drie echte organisaties hadden gehackt tijdens cybersecuritytests – een incident dat de mondiale krantenkoppen haalde en dat veiligheidsonderzoekers aanhaalden als bewijs dat grensmodellen onafhankelijke, krachtige evaluatie nodig hebben voordat ze kunnen worden ingezet.

OpenAI zelf is niet immuun voor dergelijke bevindingen. Het door het bedrijf zelf gepubliceerde Preparedness Framework, voor het laatst bijgewerkt in 2025, is gebouwd rond het uitgangspunt dat grensmodellen systematische red-teaming vereisen voor catastrofale risico's op het gebied van cyberveiligheid, biologie en overtuigingskracht – precies de domeinen waarin de taken van het team nu zullen worden opgevouwen.

De vraag die veiligheidsonderzoekers stellen is structureel: als risico-evaluatie plaatsvindt binnen de teams die de producten bouwen, wie heeft dan de autoriteit om een ​​lancering uit te stellen? Gemachtigde veiligheidsteams kunnen nee zeggen. Gedistribueerde veiligheidsverantwoordelijkheden zeggen historisch gezien ja.

Het paraatheidsteam werd in 2024 opgericht te midden van sectorbrede toezeggingen om grensrisico's te evalueren vóór inzet. Het rustige einde ervan – gerapporteerd door een krant in plaats van aangekondigd door het bedrijf – sluit dat hoofdstuk af met weinig ceremonieel.

---

Blijf Voorop met AI

Het laatste AI-nieuws, analyses en doorbraken — allemaal op één plek.

Lees meer AI-nieuws →