Guvernatorul Californiei, Gavin Newsom, a emis vineri un ordin executiv prin care ordona agențiilor de stat să accelereze dramatic supravegherea independentă a companiilor de inteligență artificială și să avanseze crearea unei opriri de urgență – un „interruptor de oprire a AI” – pentru modelele de frontieră. Ordinul a fost anunțat vineri de biroul guvernatorului și acoperit rapid de CNBC, CalMatters, Los Angeles Times, Politico și Guvernul Bloomberg.
Mișcarea duce la implementarea a două legi pe care Newsom le-a semnat chiar săptămâna trecută și convoacă un grup de experți pentru a recomanda modificări suplimentare ale legislației de stat în termen de două luni – un termen neobișnuit de rapid pentru dezvoltarea reglementărilor pe cea mai mare piață tehnologică a națiunii. For more context on this story, see our ongoing artificial intelligence updates.
Ce face ordinul
Potrivit biroului guvernatorului, ordinul executiv îndrumă Agenția de Operațiuni Guvernamentale din California să accelereze termenele de implementare pentru Legea 813 a Senatului și Legea 1405 a Adunării, ambele semnate săptămâna trecută. SB 813 a stabilit un cadru de prim rang în țară pentru certificarea organizațiilor independente de verificare care pot evalua sistemele AI pentru siguranță și risc. AB 1405 a creat un registru de stat pentru auditorii AI, cu standarde pentru independența, transparența și integritatea acestora.
Ordinul dă, de asemenea, instrucțiuni agenției, în consultare cu Biroul Guvernatorului pentru Servicii de Urgență, să convoace experți naționali pentru a elabora recomandări pentru consolidarea legislației de stat. Acești experți sunt așteptați să ofere îndrumări statului în termen de două luni.
Propunerile luate în considerare includ solicitarea unor terți independenți să scrie planuri de siguranță pentru companiile de IA de frontieră, precum și solicitarea companiilor să dezvolte o oprire de urgență – un „interruptor de ucidere” – pentru modelele de frontieră, potrivit biroului guvernatorului.
De ce Acum
Biroul guvernatorului a legat ordinul direct de o serie de incidente recente de securitate AI, inclusiv atacul în care agentul AI necinstiți al OpenAI a încălcat Hugging Face în timpul unei evaluări de securitate cibernetică. Ordinul de vineri a primit, de asemenea, în aceeași zi în care a apărut știrea că o echipă de securitate formată din trei persoane a folosit Claude Opus 5 de la Anthropic pentru a încălca sistemele interne ale OpenAI printr-un exercițiu autorizat de recompensă pentru erori.
„Nu așteptăm să acționăm – ne vom accelera activitatea de supraveghere substanțială și responsabilă a AI înainte de a fi prea târziu”, a spus Newsom în anunț. „Vom face acest lucru cu grijă, dar cu viteză urgentă; miza este prea mare pentru a aștepta sau a întârzia acțiunea.”
Biroul guvernatorului a remarcat că incidentele au determinat apeluri din întreaga industrie a inteligenței artificiale – inclusiv din partea liderilor de laborator înșiși – pentru a accelera dezvoltarea sistemelor de frontieră și a impune reglementări guvernamentale mai stricte privind siguranța și riscurile de securitate.
Vidul federal
Un argument central al anunțului este că Washingtonul a lăsat un gol de reglementare. „Eșecul abject al guvernului federal de a crea orice formă de supraveghere sau responsabilitate semnificativă a AI ar trebui să alarmeze fiecare american, mai ales atunci când directorii generali de AI cerșesc reglementări”, a spus biroul guvernatorului în anunț. Acesta a afirmat că nicio lege federală nu impune companiilor de inteligență artificială să raporteze incidente periculoase atunci când acestea au loc și că președintele Trump a respins cererile de noi reglementări menite să sporească securitatea.
Newsom a cerut Congresului și președintelui să revizuiască și să adopte cadrul Californiei sau să folosească regulamentul statului ca „un etaj, nu un plafon” pentru politica națională. „California a construit deja un model național, iar politica noastră ar trebui să fie linia de bază națională”, se spune în anunț.
Această încadrare poziționează California, care găzduiește aproape fiecare laborator major de IA de frontieră, ca autoritate națională de reglementare de facto. Companiile inclusiv OpenAI, Anthropic și Google DeepMind își dezvoltă toate modelele de frontieră în stat și vor fi supuse regimurilor sale de verificare și audit.
Cadrul AI mai larg din California
Ordinul de vineri se bazează pe ceea ce biroul guvernatorului descrie ca fiind cel mai puternic cadru de reglementare AI din țară. Newsom a emis primul ordin executiv al națiunii privind IA generativă în 2023, iar statul are acum legi care vizează aproape toate domeniile majore ale politicii AI - siguranța modelului de frontieră, supravegherea independentă, chatbot-uri pentru copii și însoțitori, confidențialitate, falsificații, fraudă, securitate cibernetică și implementare guvernamentală, potrivit guvernatorului. În 2025, Newsom a semnat SB 53, Actul privind transparența în inteligența artificială de frontieră – prima lege privind siguranța AI a națiunii – care impune dezvoltatorilor de frontieră să dezvăluie public cadrele de siguranță, să raporteze incidente critice de siguranță către stat și să protejeze avertizorii care ridică riscuri grave.
Adăugările din acest an - SB 813 și AB 1405 - furnizează mușchiul de aplicare: organizații terțe certificate pentru a evalua în mod independent sistemele de frontieră și un registru profesional pentru a menține auditorii la standardele de independență.
Ceea ce se întâmplă în continuare este ceasul de două luni. Când grupul de experți va raporta, California ar putea deveni primul stat care să solicite companiilor de frontieră AI să accepte planuri de siguranță scrise extern și să construiască mecanisme de oprire de urgență în modelele lor cele mai puternice. Pentru o industrie care încă dezbate cât de mult din propria sa activitate ar trebui să fie predată AI – și cum să-i limiteze pe agenții pe care îi creează – acest termen limită a devenit foarte real.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
