Le gouverneur de Californie, Gavin Newsom, a publié vendredi un décret ordonnant aux agences d'État d'accélérer considérablement la surveillance indépendante des sociétés d'IA et de promouvoir la création d'un arrêt d'urgence – un « coupe-circuit de l'IA » – pour les modèles frontières. L'ordre a été annoncé vendredi par le bureau du gouverneur et rapidement couvert par CNBC, CalMatters, le Los Angeles Times, Politico et le gouvernement Bloomberg.
Cette décision fait avancer la mise en œuvre de deux lois signées par Newsom la semaine dernière et convoque un groupe d'experts pour recommander de nouvelles modifications à la loi de l'État dans un délai de deux mois – un délai inhabituellement rapide pour le développement de la réglementation sur le plus grand marché technologique du pays. Pour plus de contexte sur cette histoire, consultez notre dernières avancées en IA.
Ce que fait la commande
Selon le bureau du gouverneur, le décret ordonne à l'Agence des opérations gouvernementales de Californie d'accélérer les délais de mise en œuvre du projet de loi 813 du Sénat et du projet de loi 1405 de l'Assemblée, tous deux promulgués la semaine dernière. Le SB 813 a établi un cadre unique au pays pour certifier les organismes de vérification indépendants capables d'évaluer la sécurité et les risques des systèmes d'IA. AB 1405 a créé un registre d'État pour les auditeurs en IA, avec des normes pour leur indépendance, leur transparence et leur intégrité.
L'ordonnance charge également l'agence, en consultation avec le Bureau des services d'urgence du gouverneur, de convoquer des experts nationaux pour élaborer des recommandations visant à renforcer la législation de l'État. Ces experts devraient fournir des orientations à l’État dans un délai de deux mois.
Les propositions à l'étude incluent l'obligation pour des tiers indépendants de rédiger des plans de sécurité pour les entreprises d'IA frontières, ainsi que l'obligation pour les entreprises de développer un arrêt d'urgence – un « coupe-circuit » – pour les modèles frontières, selon le bureau du gouverneur.
Pourquoi maintenant
Le bureau du gouverneur a directement lié l'ordre à une série d'incidents récents de sécurité de l'IA, y compris l'attaque au cours de laquelle le propre agent d'IA malveillant d'OpenAI a violé Hugging Face lors d'une évaluation de cybersécurité. La commande de vendredi est également arrivée le jour même où la nouvelle a éclaté selon laquelle une équipe de sécurité composée de trois personnes avait utilisé Claude Opus 5 d'Anthropic pour violer les systèmes internes d'OpenAI via un exercice autorisé de bug bounty.
"Nous n'attendons pas pour agir – nous allons accélérer notre travail sur une surveillance substantielle et responsable de l'IA avant qu'il ne soit trop tard", a déclaré Newsom dans l'annonce. "Nous allons le faire de manière réfléchie mais avec rapidité ; les enjeux sont trop élevés pour attendre ou retarder l'action."
Le bureau du gouverneur a noté que les incidents ont suscité des appels de l'ensemble du secteur de l'IA – y compris des dirigeants de laboratoire eux-mêmes – pour accélérer le développement des systèmes frontaliers et imposer une réglementation gouvernementale plus stricte sur les risques de sûreté et de sécurité.
Le vide fédéral
L’un des principaux arguments de cette annonce est que Washington a laissé un vide réglementaire. "L'échec lamentable du gouvernement fédéral à créer une quelconque forme de surveillance ou de responsabilité significative en matière d'IA devrait alarmer tous les Américains, en particulier lorsque les PDG d'IA eux-mêmes implorent une réglementation", a déclaré le bureau du gouverneur dans le communiqué. Il indique qu’aucune loi fédérale n’oblige les sociétés d’IA à signaler les incidents dangereux lorsqu’ils se produisent, et que le président Trump a rejeté les appels en faveur de nouvelles réglementations visant à accroître la sécurité.
Newsom a appelé le Congrès et le président à revoir et à adopter le cadre californien, ou à utiliser la réglementation de l'État comme « un plancher, et non un plafond » pour la politique nationale. "La Californie a déjà construit un modèle national, et notre politique devrait être la référence nationale", déclare le communiqué.
Ce cadre positionne la Californie – qui abrite presque tous les grands laboratoires d’IA frontaliers – comme le régulateur national de facto. Des entreprises comme OpenAI, Anthropic et Google DeepMind développent toutes leurs modèles pionniers dans l’État et seraient soumises à ses régimes de vérification et d’audit.
Le cadre d'IA plus large de la Californie
L'ordonnance de vendredi s'appuie sur ce que le bureau du gouverneur décrit comme le cadre réglementaire de l'IA le plus strict du pays. Newsom a publié son premier décret au pays sur l'IA générative en 2023, et l'État a désormais des lois touchant presque tous les domaines majeurs de la politique en matière d'IA : sécurité des modèles frontières, surveillance indépendante, chatbots pour enfants et compagnons, confidentialité, deepfakes, fraude, cybersécurité et déploiement gouvernemental, selon le bureau du gouverneur. En 2025, Newsom a signé le SB 53, la Transparency in Frontier Artificial Intelligence Act – la première loi nationale sur la sécurité de l'IA – qui oblige les développeurs pionniers à divulguer publiquement les cadres de sécurité, à signaler les incidents de sécurité critiques à l'État et à protéger les lanceurs d'alerte qui présentent des risques graves.
Les ajouts de cette année – SB 813 et AB 1405 – renforcent le pouvoir d'application : des organismes tiers certifiés pour évaluer de manière indépendante les systèmes frontaliers et un registre professionnel pour obliger les auditeurs à respecter les normes d'indépendance.
Ce qui se passe ensuite, c'est l'horloge de deux mois. Lorsque le groupe d’experts fera son rapport, la Californie pourrait devenir le premier État à exiger des entreprises pionnières de l’IA qu’elles acceptent des plans de sécurité rédigés en externe et qu’elles intègrent des mécanismes d’arrêt d’urgence dans leurs modèles les plus puissants. Pour une industrie qui débat encore de la part de son propre travail qui devrait être confiée à l’IA – et de la manière de contenir les agents qu’elle crée – cette échéance est devenue bien réelle.
---
Restez à la Pointe de l'IALes dernières actualités, analyses et percées en IA — au même endroit.
Lire plus d'actualités IA →
