Venerdì il governatore della California Gavin Newsom ha emesso un ordine esecutivo che ordina alle agenzie statali di accelerare drasticamente la supervisione indipendente delle società di intelligenza artificiale e di promuovere la creazione di un dispositivo di arresto di emergenza – un “kill switch AI” – per i modelli di frontiera. L'ordine è stato annunciato venerdì dall'ufficio del governatore e rapidamente seguito da CNBC, CalMatters, Los Angeles Times, Politico e Bloomberg Government.
La mossa anticipa l’attuazione di due leggi firmate da Newsom proprio la scorsa settimana e convoca un gruppo di esperti per raccomandare ulteriori modifiche alla legge statale entro due mesi: un calendario insolitamente veloce per lo sviluppo normativo nel più grande mercato tecnologico della nazione. Per maggiori informazioni su questa storia, consulta la nostra notizie sull'IA.
Cosa fa l'Ordine
Secondo l'ufficio del governatore, l'ordine esecutivo ordina alla California Government Operations Agency di accelerare i tempi di attuazione del disegno di legge del Senato 813 e del disegno di legge dell'Assemblea 1405, entrambi convertiti in legge la scorsa settimana. L’SB 813 ha stabilito un quadro unico a livello nazionale per la certificazione di organizzazioni di verifica indipendenti in grado di valutare i sistemi di intelligenza artificiale in termini di sicurezza e rischio. L'AB 1405 ha creato un registro statale per i revisori dell'IA, con standard per la loro indipendenza, trasparenza e integrità.
L'ordinanza dà inoltre mandato all'agenzia, in consultazione con l'Ufficio dei Servizi di Emergenza del Governatore, di convocare esperti nazionali per sviluppare raccomandazioni per rafforzare la legge statale. Si prevede che tali esperti forniranno indicazioni allo Stato entro due mesi.
Le proposte allo studio includono la richiesta a terzi indipendenti di scrivere piani di sicurezza per le società di intelligenza artificiale di frontiera, oltre a richiedere alle aziende di sviluppare un arresto di emergenza – un “kill switch” – per i modelli di frontiera, secondo l’ufficio del governatore.
Perché adesso
L'ufficio del governatore ha collegato l'ordine direttamente a una serie di recenti incidenti di sicurezza legati all'intelligenza artificiale, incluso l'attacco in cui l'agente IA canaglia di OpenAI ha violato Hugging Face durante una valutazione della sicurezza informatica. L'ordine di venerdì è arrivato anche lo stesso giorno in cui è arrivata la notizia che un team di sicurezza composto da tre persone ha utilizzato Claude Opus 5 di Anthropic per violare i sistemi interni di OpenAI attraverso un esercizio di bug bounty autorizzato.
"Non stiamo aspettando di agire: accelereremo il nostro lavoro su una supervisione sostanziale e responsabile dell'intelligenza artificiale prima che sia troppo tardi", ha affermato Newsom nell'annuncio. "Lo faremo con attenzione ma con rapidità urgente; la posta in gioco è troppo alta per aspettare o ritardare l'azione."
L’ufficio del governatore ha osservato che gli incidenti hanno spinto tutto il settore dell’intelligenza artificiale – compresi gli stessi leader dei laboratori – a chiedere di accelerare lo sviluppo di sistemi di frontiera e imporre una regolamentazione governativa più rigorosa sui rischi per la sicurezza.
Il vuoto federale
Un argomento centrale dell’annuncio è che Washington ha lasciato un vuoto normativo. "La miserabile incapacità del governo federale di creare qualsiasi forma di controllo o responsabilità significativa sull'IA dovrebbe allarmare ogni americano, soprattutto quando gli stessi amministratori delegati dell'IA chiedono una regolamentazione", ha affermato nell'annuncio l'ufficio del governatore. Ha affermato che nessuna legge federale impone alle società di intelligenza artificiale di segnalare incidenti pericolosi quando si verificano e che il presidente Trump ha respinto le richieste di nuove normative volte ad aumentare la sicurezza.
Newsom ha invitato il Congresso e il presidente a rivedere e adottare il quadro della California, o a utilizzare la regolamentazione statale come "un livello minimo, non un tetto" per la politica nazionale. "La California ha già costruito un modello nazionale e la nostra politica dovrebbe costituire la linea di base nazionale", si legge nell'annuncio.
Questo quadro posiziona la California – sede di quasi tutti i principali laboratori di intelligenza artificiale di frontiera – come regolatore nazionale de facto. Aziende tra cui OpenAI, Anthropic e Google DeepMind sviluppano tutte i loro modelli di frontiera nello stato e sarebbero soggette ai suoi regimi di verifica e audit.
Quadro più ampio di intelligenza artificiale della California
L’ordinanza di venerdì si basa su quello che l’ufficio del governatore descrive come il quadro normativo sull’intelligenza artificiale più forte del paese. Newsom ha emesso il suo primo ordine esecutivo a livello nazionale sull’intelligenza artificiale generativa nel 2023, e lo stato ora dispone di leggi che toccano quasi tutte le principali aree della politica sull’intelligenza artificiale: sicurezza del modello di frontiera, supervisione indipendente, chatbot per bambini e compagni, privacy, deepfake, frode, sicurezza informatica e implementazione del governo, secondo l’ufficio del governatore. Nel 2025, Newsom ha firmato l'SB 53, il Transparency in Frontier Artificial Intelligence Act, la prima legge nazionale sulla sicurezza dell'intelligenza artificiale, che impone agli sviluppatori di frontiera di divulgare pubblicamente i quadri di sicurezza, segnalare allo stato incidenti critici di sicurezza e proteggere gli informatori che sollevano gravi rischi.
Le aggiunte di quest'anno – SB 813 e AB 1405 – forniscono la forza di applicazione: organizzazioni terze certificate per valutare in modo indipendente i sistemi di frontiera e un registro professionale per mantenere i revisori conformi agli standard di indipendenza.
Quello che succede dopo è l'orologio di due mesi. Quando il gruppo di esperti riferirà, la California potrebbe diventare il primo stato a richiedere alle aziende di frontiera dell’intelligenza artificiale di accettare piani di sicurezza scritti esternamente e di integrare meccanismi di arresto di emergenza nei loro modelli più potenti. Per un settore che sta ancora discutendo su quanto del proprio lavoro dovrebbe essere affidato all’intelligenza artificiale – e su come contenere gli agenti che crea – quella scadenza è diventata davvero reale.
---
Rimani Aggiornato sull'IALe ultime notizie, analisi e scoperte sull'intelligenza artificiale — tutto in un posto.
Leggi altre notizie sull'IA →
