Guvernér Kalifornie Gavin Newsom vydal v pátek výkonný příkaz, kterým nařídil státním agenturám, aby dramaticky urychlily nezávislý dohled nad společnostmi s umělou inteligencí a postoupily k vytvoření nouzového vypnutí – „spínače zabíjení AI“ – pro hraniční modely. Nařízení bylo oznámeno úřadem guvernéra v pátek a rychle jej pokryly CNBC, CalMatters, Los Angeles Times, Politico a Bloomberg Government.

Tento krok posouvá kupředu implementaci dvou zákonů, které Newsom podepsal právě minulý týden, a svolává panel odborníků, aby do dvou měsíců doporučil další změny státního práva – což je neobvykle rychlý časový plán pro regulační vývoj na největším trhu s technologiemi v zemi. For more context on this story, see our ongoing AI industry coverage.

Co příkaz dělá

Podle úřadu guvernéra exekutivní příkaz nařizuje kalifornské vládní operační agentuře, aby urychlila implementační harmonogramy pro Senátní zákon 813 a Zákon o shromáždění 1405, oba podepsané minulý týden. SB 813 vytvořila první rámec v zemi pro certifikaci nezávislých ověřovacích organizací, které mohou hodnotit systémy umělé inteligence z hlediska bezpečnosti a rizik. AB 1405 vytvořil státní registr pro auditory AI se standardy pro jejich nezávislost, transparentnost a integritu.

Nařízení také nařizuje agentuře, aby po konzultaci s úřadem guvernéra pro nouzové služby svolala národní experty, aby vypracovali doporučení pro posílení státního práva. Očekává se, že tito odborníci předají státu pokyny do dvou měsíců.

Zvažované návrhy zahrnují požadavek nezávislých třetích stran, aby sepsaly bezpečnostní plány pro hraniční společnosti s umělou inteligencí, a také požadavek, aby společnosti vyvinuly nouzové vypnutí – „spínač zabíjení“ – pro hraniční modely, podle úřadu guvernéra.

Proč právě teď

Guvernérská kancelář spojila příkaz přímo s řadou nedávných bezpečnostních incidentů AI, včetně útoku, při kterém vlastní nepoctivý agent AI společnosti OpenAI narušil Hugging Face během hodnocení kybernetické bezpečnosti. Páteční příkaz také dorazil ve stejný den, kdy se objevily zprávy, že tříčlenný bezpečnostní tým použil Claude Opus 5 od Anthropic k narušení interních systémů OpenAI prostřednictvím autorizovaného cvičení odměny za chyby.

„Nečekáme na jednání – urychlíme naši práci na podstatném a zodpovědném dohledu nad umělou inteligencí, než bude příliš pozdě,“ uvedl Newsom v oznámení. "Uděláme to promyšleně, ale s naléhavou rychlostí; sázky jsou příliš vysoké na to, abychom čekali nebo odkládali akci."

Úřad guvernéra poznamenal, že incidenty vyvolaly výzvy z celého odvětví umělé inteligence – včetně samotných vedoucích laboratoří – aby urychlili vývoj hraničních systémů a zavedli přísnější vládní regulaci bezpečnostních a bezpečnostních rizik.

Federální vakuum

Ústředním argumentem oznámení je, že Washington ponechal regulační prázdnotu. "Ohromné ​​selhání federální vlády vytvořit jakoukoli formu smysluplného dohledu nebo odpovědnosti nad umělou inteligencí by mělo znepokojit každého Američana, zvláště když sami generální ředitelé AI prosí o regulaci," uvedl úřad guvernéra v oznámení. Uvedlo, že žádný federální zákon nevyžaduje, aby společnosti AI hlásily nebezpečné incidenty, když k nim dojde, a že prezident Trump odmítl výzvy k novým předpisům zaměřeným na zvýšení bezpečnosti.

Newsom vyzval Kongres a prezidenta, aby přezkoumali a přijali kalifornský rámec, nebo aby použili státní nařízení jako „podlahu, nikoli strop“ pro národní politiku. "Kalifornie již vybudovala národní model a naše politika by měla být národní základní linií," prohlásilo prohlášení.

Díky tomu je Kalifornie – domov téměř všech velkých hraničních laboratoří umělé inteligence – de facto národním regulátorem. Společnosti včetně OpenAI, Anthropic a Google DeepMind vyvíjejí své hraniční modely ve státě a budou podléhat jeho ověřovacím a auditním režimům.

Kalifornský širší rámec umělé inteligence

Páteční nařízení staví na tom, co úřad guvernéra popisuje jako nejsilnější regulační rámec AI v zemi. Newsom vydal svůj první výkonný příkaz v zemi o generativní umělé inteligenci již v roce 2023 a stát má nyní zákony, které se dotýkají téměř všech hlavních oblastí politiky umělé inteligence – hraniční model bezpečnosti, nezávislý dohled, chatboti pro děti a společníky, soukromí, deepfakes, podvody, kybernetická bezpečnost a vládní nasazení, podle úřadu guvernéra. V roce 2025 Newsom podepsal SB 53, zákon Transparency in Frontier Artificial Intelligence Act – první národní zákon o bezpečnosti umělé inteligence – který vyžaduje, aby hraniční vývojáři zveřejnili bezpečnostní rámce, hlásili státu kritické bezpečnostní incidenty a chránili informátory, kteří představují vážná rizika.

Letošní přírůstky — SB 813 a AB 1405 — dodávají sílu prosazování: certifikované organizace třetích stran pro nezávislé hodnocení hraničních systémů a profesionální registr, který drží auditory v souladu se standardy nezávislosti.

Co se stane potom, jsou dva měsíce. Až panel odborníků podá zprávu, Kalifornie by se mohla stát prvním státem, který bude vyžadovat, aby hraniční společnosti s umělou inteligencí přijaly externě psané bezpečnostní plány a zabudovaly do svých nejvýkonnějších modelů mechanismy nouzového vypnutí. Pro průmysl, který stále diskutuje o tom, kolik z jeho vlastní práce by mělo být předáno AI – a jak zadržet agenty, které vytváří – se tento termín stal velmi reálným.

---

Stay Ahead of AI

Get the latest AI news, analysis, and breakthroughs — all in one place.

Read more AI news →