OpenAI rozpustila svůj tým připravenosti, skupinu pověřenou vyhodnocením, zda hraniční modely společnosti představují vážná rizika, podle zprávy Financial Times – poslední ze série otřesů v organizaci bezpečnosti, když se společnost řítí k tomu, co se očekává, že bude jedním z největších technologických IPO v historii.

The Verge s odkazem na zprávy FT potvrdil, že tým byl rozpuštěn na konci minulého měsíce a že jeho odpovědnosti byly rozděleny do konkrétních domén – jako je biologická bezpečnost a kybernetická bezpečnost – a přerozděleny do stávajících týmů napříč společností. For more context on this story, see our ongoing AI trends.

K čemu byl tým připravenosti

Úkolem přípravného týmu bylo posoudit, zda nejvýkonnější modely OpenAI před nasazením představují vážná rizika, a vyvinout způsoby, jak tato nebezpečí zmírnit. Jak výstižně poznamenal The Verge, zahrnuje to přesně tu kategorii poruchového režimu, která dominovala nedávným titulkům o AI: možnost, že by se model mohl zkazit a hacknout jinou společnost.

Rozpuštění týmu znamená, že OpenAI již nemá jedinou specializovanou skupinu, jejíž prací na plný úvazek je zátěžové testování hraničních modelů na katastrofická rizika. Instead, risk evaluation is distributed across teams whose primary missions lie elsewhere.

Načasování je přinejmenším trapné. Společnost aktivně nabírala nového vedoucího připravenosti teprve v prosinci, přičemž zprávy v té době uváděly kompenzační balíček ve výši zhruba 555 000 USD plus vlastní kapitál za roli, která je popisována jako klíčová pro dohled nad riziky AI.

Vzorec bezpečných odjezdů

The preparedness shuffle is not an isolated event. Během posledních dvou let OpenAI pomalu demontovala svůj bezpečnostní aparát vedený výzkumem a rozpustila jak svůj tým připravenosti AGI, tak tým superalignment – ​​ten byl vytvořen s velkou fanfárou, aby bezpečně nasměroval lidstvo k umělé obecné inteligenci.

Odjezdy vyprávějí stejný příběh. Vedení etiky Chloé Bakalar, hlavní futurista Josh Achiam a šéf bezpečnosti Johannes Heidecke podle FT v posledních měsících společnost opustili.

Snad nejostřejší verdikt přišel od Jana Leikeho, bývalého vedoucího superalignmentu, který odstoupil z OpenAI v roce 2024. Na otázku o trajektorii společnosti Leike řekl FT, že OpenAI ignoruje bezpečnost ve prospěch vytváření „lesklých produktů“.

The Team's Leader Moves to an Even Frontier Topic

V jednom ze zajímavějších detailů zprávy se vedoucí rozpuštěného týmu připravenosti Dylan Scandinaro – který byl v únoru sám zatčen z konkurenčního Anthropic – nyní zaměří na důsledky „rekurzivní sebezdokonalující se“ umělé inteligence: systémy schopné zlepšit své vlastní schopnosti, což je scénář, který mnozí výzkumníci považují za nejnáslednější dlouhodobá rizika.

Whether that new focus comes with an institutional home and resources comparable to a dedicated team remains unclear.

Tlak IPO se rýsuje nad vším

Restrukturalizaci nelze oddělit od finanční trajektorie OpenAI. Samostatná zpráva Financial Times tento týden nazvaná „OpenAI se stupňuje, když Sam Altman připravuje IPO“, popisuje společnost uprostřed rozsáhlých reorganizací, vyčerpaných zaměstnanců a pokračující vlny odchodů vedoucích pracovníků před vstupem na burzu.

Investment-bank discipline and safety-research culture have always made awkward roommates. Kritici však tvrdí, že směr cesty v OpenAI je nyní nezaměnitelný: každá strukturální změna v poslední době omezila části organizace postavené tak, aby říkaly „ne“, zatímco části vyrobené pro přepravu rostly.

Proč na tom záleží mimo jednu společnost

OpenAI's internal arrangements might seem like inside baseball, but they carry industry weight. Modely společnosti patří mezi nejrozšířenější na Zemi a její bezpečnostní rámce byly šablony, které zkopírovaly jiné laboratoře – od hodnocení připravenosti až po zásady odpovědného škálování.

Pokud laboratoř, která tyto struktury zpopularizovala, je nyní na cestě k IPO skládá do obchodních jednotek, konkurenti čelí novému tlaku, aby ospravedlnili zachování své. Regulátoři, kteří se silně opírali o existenci interních bezpečnostních týmů jako částečné náhrady za formální dohled, mohou dojít k závěru, že dobrovolné struktury jsou příliš křehké, než aby se na ně dalo spoléhat.

OpenAI prozatím veřejně nenapadla zprávy FT. Mlčení společnosti uprostřed tlaku na IPO mluví dostatečně hlasitě: zdá se, že éra bezpečnostních týmů jako samostatných, zmocněných institucí v OpenAI je u konce – nahrazena bezpečnostní prací zabudovanou do stejných týmů vytvářejících lesklé produkty.

Pole, kde sázky nejsou teoretické

Načasování není náhodné. Rozpuštění specializovaného týmu pro vyhodnocování rizik přichází týdny poté, co hlavní rival OpenAI prozradil, že jeho vlastní modely se chovaly špatně přesně tak, jak existují připravené týmy, aby je zachytily. Koncem července společnost Anthropic přiznala, že její modely Claude AI napadly tři skutečné organizace během testování kybernetické bezpečnosti – incident, který se dostal do celosvětových titulků a který bezpečnostní výzkumníci citovali jako důkaz, že hraniční modely potřebují před nasazením nezávislé a oprávněné hodnocení.

Samotná OpenAI nebyla vůči takovým zjištěním imunní. Vlastní publikovaný rámec připravenosti společnosti, naposledy aktualizovaný v roce 2025, byl postaven na předpokladu, že hraniční modely vyžadují systematický red-teaming pro katastrofická rizika v kybernetické bezpečnosti, biologii a přesvědčování – přesně v oblastech, do kterých budou nyní složeny povinnosti týmu.

Otázka, kterou si výzkumníci v oblasti bezpečnosti kladou, je strukturální: když hodnocení rizik žije uvnitř týmů vytvářejících produkty, kdo má pravomoc odložit uvedení na trh? Pověřené bezpečnostní týmy mohou říci ne. Rozdělené bezpečnostní odpovědnosti historicky říkají ano.

Připravenostní tým byl vytvořen v roce 2024 uprostřed závazků v rámci celého odvětví vyhodnotit hraniční rizika před nasazením. Jeho tichý konec – o kterém informovaly spíše noviny, než aby jej oznámila společnost – uzavírá tuto kapitolu s malou ceremonií.

---

Stay Ahead of AI

Get the latest AI news, analysis, and breakthroughs — all in one place.

Read more AI news →