De gouverneur van Californië, Gavin Newsom, heeft vrijdag een uitvoerend bevel uitgevaardigd waarin staatsagentschappen worden opgedragen het onafhankelijke toezicht op AI-bedrijven dramatisch te versnellen en de invoering van een noodstop – een ‘AI-kill-switch’ – voor grensmodellen te bevorderen. Het bevel werd vrijdag aangekondigd door het kantoor van de gouverneur en werd snel gedekt door CNBC, CalMatters, de Los Angeles Times, Politico en de regering van Bloomberg.

Deze stap bespoedigt de implementatie van twee wetten die Newsom vorige week heeft ondertekend en roept een panel van experts bijeen om binnen twee maanden verdere wijzigingen in de staatswet aan te bevelen – een ongewoon snelle tijdlijn voor de ontwikkeling van regelgeving op de grootste technologiemarkt van het land. Voor meer context over dit verhaal, zie ons laatste AI-ontwikkelingen.

Wat de bestelling doet

Volgens het kantoor van de gouverneur draagt het uitvoerend bevel de California Government Operations Agency op om de implementatietijdlijnen voor Senaatswet 813 en Assembly Bill 1405, die beide vorige week in de wet zijn ondertekend, te versnellen. SB 813 heeft een uniek raamwerk opgezet voor het certificeren van onafhankelijke verificatieorganisaties die AI-systemen kunnen beoordelen op veiligheid en risico. AB 1405 creëerde een staatsregister voor AI-auditors, met normen voor hun onafhankelijkheid, transparantie en integriteit.

Het bevel draagt ​​het agentschap ook op om, in overleg met het Governor's Office of Emergency Services, nationale experts bijeen te roepen om aanbevelingen te ontwikkelen ter versterking van de staatswetgeving. Van deze deskundigen wordt verwacht dat zij binnen twee maanden advies aan de staat zullen verstrekken.

Voorstellen die worden overwogen omvatten onder meer het eisen van onafhankelijke derde partijen om veiligheidsplannen te schrijven voor grens-AI-bedrijven, en ook het verplichten van bedrijven om een ​​noodstop – een ‘kill switch’ – voor grensmodellen te ontwikkelen, aldus het kantoor van de gouverneur.

Waarom nu

Het kantoor van de gouverneur koppelde het bevel rechtstreeks aan een reeks recente AI-veiligheidsincidenten, waaronder de aanval waarbij OpenAI's eigen malafide AI-agent Hugging Face binnendrong tijdens een cybersecurity-evaluatie. Het bevel van vrijdag kwam ook binnen op dezelfde dag dat het nieuws bekend werd dat een driekoppig beveiligingsteam Claude Opus 5 van Anthropic gebruikte om de interne systemen van OpenAI te doorbreken via een geautoriseerde bugbounty-oefening.

“We wachten niet met handelen – we gaan ons werk op het gebied van substantieel en verantwoord AI-toezicht versnellen voordat het te laat is”, zei Newsom in de aankondiging. "We gaan dit bedachtzaam doen, maar met spoed; de inzet is te hoog om te wachten of actie uit te stellen."

Het kantoor van de gouverneur merkte op dat de incidenten aanleiding hebben gegeven tot oproepen vanuit de hele AI-industrie – inclusief van laboratoriumleiders zelf – om de ontwikkeling van grenssystemen te versnellen en strengere overheidsregulering van veiligheids- en beveiligingsrisico’s op te leggen.

Het federale vacuüm

Een centraal argument van de aankondiging is dat Washington een leemte in de regelgeving heeft achtergelaten. “Het verbijsterende onvermogen van de federale overheid om enige vorm van betekenisvol AI-toezicht of aansprakelijkheid te creëren zou elke Amerikaan moeten verontrusten, vooral wanneer AI-CEO’s zelf smeken om regulering”, aldus het kantoor van de gouverneur in de aankondiging. Het stelde dat geen enkele federale wet vereist dat AI-bedrijven gevaarlijke incidenten melden wanneer deze zich voordoen, en dat president Trump de oproepen tot nieuwe regelgeving gericht op het vergroten van de veiligheid heeft afgewezen.

Newsom riep het Congres en de president op om het Californische raamwerk te herzien en over te nemen, of om de regelgeving van de staat te gebruiken als “een bodem, en niet als een plafond” voor het nationale beleid. “Californië heeft al een nationaal model opgebouwd, en ons beleid zou de nationale basis moeten zijn”, aldus de aankondiging.

Dat kader positioneert Californië – de thuisbasis van bijna elk groot AI-laboratorium aan de grens – als de de facto nationale toezichthouder. Bedrijven als OpenAI, Anthropic en Google DeepMind ontwikkelen allemaal hun grensmodellen in de staat en zouden onderworpen zijn aan de verificatie- en auditregimes ervan.

Het bredere AI-framework van Californië

Het besluit van vrijdag bouwt voort op wat het kantoor van de gouverneur beschrijft als het sterkste AI-regelgevingskader in het land. Newsom vaardigde in 2023 zijn eerste uitvoerende bevel uit over generatieve AI, en de staat heeft nu wetten die betrekking hebben op bijna elk belangrijk gebied van het AI-beleid: grensoverschrijdende veiligheid, onafhankelijk toezicht, chatbots voor kinderen en metgezellen, privacy, deepfakes, fraude, cyberveiligheid en overheidsinzet, aldus het kantoor van de gouverneur. In 2025 ondertekende Newsom SB 53, de Transparency in Frontier Artificial Intelligence Act – de eerste AI-veiligheidswet van het land – die grensontwikkelaars verplicht veiligheidskaders openbaar te maken, kritieke veiligheidsincidenten aan de staat te melden en klokkenluiders te beschermen die ernstige risico’s met zich meebrengen.

De toevoegingen van dit jaar – SB 813 en AB 1405 – zorgen voor de handhavingskracht: gecertificeerde externe organisaties om grenssystemen onafhankelijk te evalueren, en een professioneel register om auditors te houden aan de onafhankelijkheidsnormen.

Wat daarna gebeurt, is de tweemaandsklok. Wanneer het panel van deskundigen rapporteert, zou Californië de eerste staat kunnen worden die van grensoverschrijdende AI-bedrijven eist dat ze extern geschreven veiligheidsplannen accepteren en noodstopmechanismen in hun krachtigste modellen inbouwen. Voor een industrie die nog steeds debatteert over hoeveel van haar eigen werk aan AI moet worden overgedragen – en hoe de agenten die het creëert in bedwang moet worden gehouden – is die deadline zojuist heel reëel geworden.

---

Blijf Voorop met AI

Het laatste AI-nieuws, analyses en doorbraken — allemaal op één plek.

Lees meer AI-nieuws →