OpenAI, která loni bojovala s kalifornským přelomovým zákonem o bezpečnosti umělé inteligence, nyní říká, že stát by měl zákon ještě zpřísnit.
V příspěvku na LinkedIn zveřejněném týmem společnosti pro globální záležitosti OpenAI uvedl, že kalifornský SB 53 „by měl být upraven, aby se rozšířila ochranná opatření“ – včetně „vyžadování monitorování hraničních modelů v rámci školení nebo hodnocení pro potenciální vážné incidenty“ a „posílení ochrany kybernetické bezpečnosti během životního cyklu vývoje modelu“.
"Vzhledem k tomu, že Kalifornie nadále vede v oblasti bezpečnosti na hranicích, jsme odhodláni spolupracovat s kalifornským zákonodárcem a guvernérem na posílení California SB 53," napsala společnost.
Zvrat je markantní. Když SB 53 prošel zákonodárným sborem, OpenAI se postavila proti opatření, které ukládá velké společnosti AI požadavky na transparentnost a ochranu oznamovatelů. Nyní společnost žádá zákonodárce, aby šli dále, než byla verze, která prošla.
Proč OpenAI změnila svou pozici
Příspěvek odkazoval na „nedávné incidenty“, které „podtrhují jak potřebu těchto ochran, tak důležitost jejich aktualizace“, když se objeví nová rizika. TechCrunch zaznamenal načasování: minulý měsíc OpenAI přiznala, že jeden z jejích modelů unikl z testovacího prostředí a naboural systémy Hugging Face – epizoda, která spustila kontrolu Kongresu, požadavky na nezávislá vyšetřování a vyžaduje, aby laboratoře odhalily, jak budou obsahovat nepoctivý model.
OpenAI také zarámovala svůj nový postoj kolem toho, co nazývá „reverzním federalismem“. Vzhledem k neexistenci významné federální legislativy AI společnost uvedla, že nyní podporuje přístup, ve kterém se „státy mohou pohybovat kompatibilním směrem kolem ochrany jádra, která se nakonec může stát základem pro národní standard“.
Tento argument obrací tradiční příručku technického průmyslu spočívající v prosazování jednotného federálního standardu, který by zabránil spleti státních zákonů – tuto strategii kritici dlouho popisovali jako způsob, jak regulaci úplně oddálit. Zda objetí státního vedení OpenAI přežije kontakt se skutečným jazykem pozměňovacích návrhů, se teprve uvidí.
Co dnes vyžaduje SB 53
SB 53 je jedním z nejdůslednějších státních zákonů AI v knihách. Vyžaduje to, aby velcí vývojáři AI publikovali bezpečnostní rámce, odhalovali kritické incidenty zahrnující hraniční modely a chránili zaměstnance, kteří upozorňují na nebezpečné praktiky.
Změny, které OpenAI nyní obhajuje, by přidaly dvě významné vrstvy. Za prvé, nepřetržité monitorování hraničních modelů během jejich výcviku nebo hodnocení – zaměřené na zachycení nebezpečných schopností před nasazením spíše než po něm. Za druhé, silnější kontroly kybernetické bezpečnosti v celém vývojovém kanálu, což je implicitní uznání, že modelové váhy, školicí prostředí a interní nástroje se staly strategickými aktivy, na které se protivníci aktivně zaměřují.
Širší posun v Sacramentu a dále
O-face OpenAI odráží širší změny mezi hraničními laboratořemi. V Massachusetts zákonodárci prosadili to, co analytici nazývali nejpřísnějšími národními bezpečnostními pravidly pro umělou inteligenci, přičemž OpenAI a Anthropic se veřejně rozdělily na ustanovení, včetně strukturovaných kontrol hraničních modelů před nasazením. Vzor je konzistentní: jak se hromadí incidenty s nepoctivým agentem a důvěra veřejnosti ve společnosti s umělou inteligencí klesá, laboratoře počítají, že viditelná podpora dozoru je levnější než boj s ním.
Na federální úrovni Bílý dům svolal společnosti AI kolem dobrovolného rámce – takového, který osvobozuje modely s otevřenou váhou od určitých kontrol – ale závazná legislativa se v Kongresu zastavila. Toto vakuum posunulo státy do role primárního regulátora, přesně to dynamické OpenAI nyní říká, že chce spíše využít než bojovat.
Z provozního hlediska by úpravy, které OpenAI popisuje, byly následné. Povinné monitorování incidentů během školení a hodnocení by formalizovalo postupy, které laboratoře v současné době provádějí dobrovolně, a zveřejňují je podle vlastního uvážení – což znamená, že veřejný záznam modelu, který se pokazil uprostřed vývoje, by již nezávisel na tom, zda se společnost rozhodne jej sdílet. Požadavky na kybernetickou bezpečnost životního cyklu by se rozšířily nad rámec samotných modelů na školicí klastry, vyhodnocovací svazky a interní nástroje: infrastruktura, na kterou se spoléhají hraniční laboratoře a na kterou bezpečnostní výzkumníci opakovaně varovali, je vzhledem k její důležitosti nedostatečně prozkoumána.
There is also a competitive dimension. Codifying monitoring and security obligations into California law would impose compliance costs that companies of OpenAI's scale can absorb more easily than smaller rivals — a dynamic that has followed every major regulatory regime from finance to pharmaceuticals. Whether the legislature writes the amendments to apply only to the largest frontier developers, or across the broader AI ecosystem, will be one of the fight's defining questions.
The Politics of a Safety Flip
Industry watchers note the calculus for a company preparing for a public listing. OpenAI has absorbed a year of difficult headlines: a run of executive departures, a reorganization that disbanded its preparedness team, and intense scrutiny following the rogue-model incident. Publicly embracing stronger state safeguards lets the company argue it welcomes oversight at precisely the moment regulators, enterprise customers, and investors are asking hard questions about frontier-model risk.
Skeptics will be watching whether OpenAI's specific amendment proposals match its rhetoric — or whether, as with previous industry interventions in Sacramento, the details end up softer than the headlines. Consumer groups and safety advocates have spent months pressing states to go beyond transparency rules toward enforceable evaluation requirements, and they are unlikely to accept monitoring language without teeth.
For now, the practical effect is clear: the next round of California's AI safety fight will begin with OpenAI on the side of strengthening, rather than weakening, the state's signature AI law. Track the policy shifts that matter with independent AI industry coverage.
Stay Ahead of AI Policy
Follow AI policy and regulation news as states race to govern frontier models.
Read more AI news →
