Kaliforniens guvernör Gavin Newsom utfärdade en verkställande order på fredagen som uppmanade statliga myndigheter att dramatiskt påskynda den oberoende övervakningen av AI-företag och främja skapandet av en nödavstängning - en "AI kill switch" - för frontiermodeller. Ordern tillkännagavs av guvernörens kontor på fredagen och täcktes snabbt av CNBC, CalMatters, Los Angeles Times, Politico och Bloombergs regering.
Flytten drar framåt implementeringen av två lagar Newsom undertecknade förra veckan och sammankallar en panel av experter för att rekommendera ytterligare ändringar av delstatslagstiftningen inom två månader – en ovanligt snabb tidslinje för regelutveckling på landets största tekniska marknad. For more context on this story, see our ongoing latest AI developments.
Vad ordern gör
Enligt guvernörens kontor instruerar den verkställande ordern California Government Operations Agency att påskynda implementeringstiderna för senatens lagförslag 813 och församlingens lagförslag 1405, båda undertecknade i lag förra veckan. SB 813 etablerade ett först i landet ramverk för att certifiera oberoende verifieringsorganisationer som kan bedöma AI-system för säkerhet och risk. AB 1405 skapade ett statligt register för AI-revisorer, med standarder för deras oberoende, transparens och integritet.
Ordern instruerar också myndigheten att, i samråd med guvernörens kontor för räddningstjänsten, sammankalla nationella experter för att ta fram rekommendationer för att stärka statens lagstiftning. Dessa experter förväntas ge vägledning till staten inom två månader.
Förslag som övervägs inkluderar att kräva att oberoende tredje parter skriver säkerhetsplaner för gränsöverskridande AI-företag, samt att kräva att företag utvecklar en nödavstängning - en "kill switch" - för frontiermodeller, enligt guvernörens kontor.
Varför nu
Guvernörens kontor knöt ordern direkt till en rad nya AI-säkerhetsincidenter, inklusive attacken där OpenAI:s egen skurkaktiga AI-agent bröt mot Hugging Face under en cybersäkerhetsutvärdering. Fredagens beställning landade också samma dag som nyheten kom att ett säkerhetsteam på tre personer använde Anthropics Claude Opus 5 för att bryta mot OpenAI:s interna system genom en auktoriserad bug-bounty-övning.
"Vi väntar inte med att agera - vi kommer att påskynda vårt arbete med betydande och ansvarsfull AI-tillsyn innan det är för sent", sa Newsom i tillkännagivandet. "Vi kommer att göra detta eftertänksamt men med brådskande hastighet; insatserna är för höga för att vänta eller fördröja åtgärder."
Guvernörens kontor noterade att incidenterna har lett till samtal från hela AI-branschen – inklusive från labbledare själva – för att påskynda utvecklingen av gränssystem och införa striktare statlig reglering av säkerhets- och säkerhetsrisker.
Det federala vakuumet
Ett centralt argument för tillkännagivandet är att Washington har lämnat ett tomrum i lagstiftningen. "Den federala regeringens obehagliga misslyckande med att skapa någon form av meningsfull AI-tillsyn eller ansvarsskyldighet borde alarmera varje amerikan, särskilt när AI-chefer själva ber om reglering", sa guvernörens kontor i tillkännagivandet. Den konstaterade att ingen federal lag kräver att AI-företag rapporterar farliga incidenter när de inträffar, och att president Trump har avvisat krav på nya regler som syftar till att öka säkerheten.
Newsom uppmanade kongressen och presidenten att se över och anta Kaliforniens ramverk, eller att använda statens reglering som "ett golv, inte ett tak" för nationell politik. "Kalifornien har redan byggt en nationell modell, och vår policy bör vara den nationella baslinjen", förklarade tillkännagivandet.
Den inramningen positionerar Kalifornien – hem till nästan alla stora frontier AI-labb – som den de facto nationella tillsynsmyndigheten. Företag inklusive OpenAI, Anthropic och Google DeepMind utvecklar alla sina frontiermodeller i staten och skulle bli föremål för dess verifierings- och revisionsregimer.
Kaliforniens bredare AI-ramverk
Fredagens order bygger på vad guvernörens kontor beskriver som det starkaste AI-regelverket i landet. Newsom utfärdade sin första verkställande order om generativ AI redan 2023, och staten har nu lagar som berör nästan alla viktiga områden av AI-policyn – gränsmodellsäkerhet, oberoende tillsyn, barn och följeslagare chatbots, integritet, deepfakes, bedrägerier, cybersäkerhet och statlig utplacering, enligt myndigheten. År 2025 undertecknade Newsom SB 53, Transparency in Frontier Artificial Intelligence Act – landets första AI-säkerhetslag – som kräver att gränsutvecklare offentligt avslöjar säkerhetsramverk, rapporterar kritiska säkerhetsincidenter till staten och skyddar whistleblowers som tar upp allvarliga risker.
Årets tillägg – SB 813 och AB 1405 – tillhandahåller verkställighetsmuskeln: certifierade tredjepartsorganisationer för att självständigt utvärdera gränssystem och ett yrkesregister för att hålla revisorer till oberoende standarder.
Vad som händer sedan är tvåmånadersklockan. När expertpanelen rapporterar tillbaka kan Kalifornien bli den första staten som kräver att gränsöverskridande AI-företag accepterar externt skrivna säkerhetsplaner och bygger in nödavstängningsmekanismer i sina mest kraftfulla modeller. För en bransch som fortfarande diskuterar hur mycket av sitt eget arbete som ska överlämnas till AI – och hur man ska innehålla de agenter som den skapar – blev den deadline väldigt verklig.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
