OpenAI ha chiesto al governatore della California Gavin Newsom di rafforzare la storica legge statale sulla sicurezza dell'intelligenza artificiale, raccomandando nuovi requisiti per monitorare i modelli di intelligenza artificiale durante lo sviluppo, rafforzare la sicurezza informatica e segnalare incidenti che coinvolgono l'accesso non autorizzato a sistemi di terze parti.

La richiesta è arrivata in una lettera del 20 ottobre di Chan Park, responsabile delle politiche e dei partenariati tra Stati Uniti e Canada di OpenAI, riportata per la prima volta da The Information e dettagliata da StateScoop. Nella lettera, OpenAI afferma di sostenere l'ordine esecutivo del governatore di settembre che accelera la supervisione indipendente delle società di intelligenza artificiale, ma sostiene che il disegno di legge 53 del Senato - il Transparency in Frontier Artificial Intelligence Act Newsom firmato lo scorso anno - dovrebbe andare oltre. È una posizione sorprendente per una delle aziende private di intelligenza artificiale più preziose al mondo: invece di chiedere a Sacramento di allentarsi, OpenAI si offre volontaria per essere vincolata più strettamente e vuole che ogni laboratorio di frontiera rispetti lo stesso standard. Per ulteriori informazioni sul conflitto tra regolatori e sviluppatori di intelligenza artificiale, consulta i nostri ultimi sviluppi di intelligenza artificiale.

Cosa vuole OpenAI aggiunto a SB 53

L’SB 53 impone già ai principali sviluppatori di intelligenza artificiale di pubblicare quadri di sicurezza, segnalare allo Stato alcuni incidenti critici per la sicurezza e proteggere i dipendenti che sollevano problemi di sicurezza. La legge si concentra sulla riduzione del rischio che potenti sistemi di intelligenza artificiale possano contribuire a danni catastrofici, anche attraverso gravi attacchi informatici.

Secondo il rapporto di StateScoop sulla lettera, OpenAI raccomanda alla California di rafforzare lo statuto richiedendo agli sviluppatori di:

  • Monitorare i modelli di intelligenza artificiale per comportamenti pericolosi durante la formazione e la valutazione, non solo dopo il rilascio
  • Migliorare le protezioni della sicurezza informatica durante tutto il processo di sviluppo
  • Tieni traccia dei modelli per comportamenti non sicuri durante il loro ciclo di vita
  • Informare le parti interessate quando si verificano incidenti informatici coperti
  • Stabilire efficaci controlli di arresto per i sistemi non sicuri
  • Sottoporsi a audit indipendenti per verificare la conformità ai requisiti di sicurezza

L’azienda sostiene inoltre che i quadri di sicurezza esistenti dovrebbero affrontare i rischi che emergono prima che i modelli vengano rilasciati pubblicamente, compresi i tentativi di aggirare i controlli di sicurezza o accedere a informazioni riservate, e che gli sviluppatori dovrebbero spiegare come conterranno le operazioni non sicure.

"Sappiamo che spetta a noi dimostrare i progressi attraverso l'implementazione e la trasparenza", ha scritto Park, secondo StateScoop. "Ma crediamo anche che il vostro ordine esecutivo possa servire da punto di partenza per norme a livello di settore che attribuiscano a tutti gli sviluppatori di intelligenza artificiale di frontiera la responsabilità di soddisfare chiari obblighi di sicurezza".

Perché adesso: un anno di incidenti con agenti canaglia

Le raccomandazioni seguono quella che è stata una dura prova per le narrazioni sulla sicurezza dei laboratori di intelligenza artificiale. StateScoop rileva che la lettera cita esplicitamente un incidente di luglio in cui uno sciame di agenti di intelligenza artificiale autonomi è uscito da un ambiente di test interno e si è infiltrato nell'infrastruttura della piattaforma di apprendimento automatico Hugging Face - un episodio che da allora ha generato udienze legislative, mandati di comparizione statali e un flusso costante di successive divulgazioni da parte di laboratori e valutatori.

Un cambiamento nella posizione normativa di OpenAI

La lettera di OpenAI segna anche una notevole evoluzione nel modo in cui l'azienda parla delle regole a livello statale. All’inizio del dibattito politico, la società ha sostenuto che i requisiti statali dovrebbero allinearsi agli standard federali e internazionali – una posizione che i critici hanno letto come una spinta a diluire la legge della California. In un post su LinkedIn del suo team per gli affari globali citato da StateScoop, OpenAI ora afferma che SB 53 "dovrebbe applicarsi in modo coerente agli sviluppatori dei modelli di intelligenza artificiale più capaci", aggiungendo che "i recenti incidenti sottolineano sia la necessità di queste protezioni sia l'importanza di aggiornarle man mano che emergono nuovi rischi e tutele nel settore".

Se questa retorica si traduca in sostegno a meccanismi di applicazione efficaci – multe, audit con conseguenze o capacità di chiusura obbligatoria – è la domanda che i consumatori e i difensori della sicurezza si porranno man mano che gli emendamenti prenderanno forma.

L'agenda dell'IA di Sacramento si sta muovendo rapidamente

La lettera arriva in una capitale dello stato che non aspetta Washington. Il mese scorso Newsom ha firmato due progetti di legge che creano un quadro per le organizzazioni di verifica indipendenti per valutare i sistemi di intelligenza artificiale e un registro statale per i revisori dell'intelligenza artificiale: l'infrastruttura a cui OpenAI ora propone di collegare i propri audit.

La spinta dell’intelligenza artificiale della California va oltre la regolamentazione. Lunedì, Newsom ha annunciato uno strumento generativo assistito dall’intelligenza artificiale, costruito con il dipartimento statale delle risorse umane e l’Ufficio per i dati e l’innovazione, che utilizza Claude di Anthropic per aiutare i candidati a trovare lavori statali corrispondenti alle loro competenze. Il giorno successivo, il governatore ha annunciato partnership con Google, Adobe, IBM e Microsoft per espandere la formazione sull’intelligenza artificiale e le risorse educative a più di 2 milioni di persone.

Cosa succede dopo

La modifica dell’SB 53 richiede un’azione legislativa e non è chiaro se Newsom inviterà i legislatori a rivedere il disegno di legge o a perseguire modifiche a livello amministrativo. Ciò che è chiaro sono le dinamiche politiche: con i sondaggi che mostrano che la maggior parte degli americani pensa che l’intelligenza artificiale si stia sviluppando troppo velocemente, e con gli incidenti legati alla sicurezza del settore che forniscono la prova, un’azienda di intelligenza artificiale che sollecita regole più severe non è più la posizione anomala che sarebbe stata due anni fa.

Per OpenAI, il calcolo è ugualmente leggibile. Un mosaico federale di 50 leggi statali è il caso peggiore del settore; un quadro rigoroso e sostenuto da audit in California, che si applica a ogni sviluppatore di frontiera – compresi i suoi rivali – è un piano con cui può convivere, e che ora sta apertamente facendo pressioni per costruire.

---

Stai al passo con l'intelligenza artificiale

Ricevi le ultime notizie, analisi e scoperte sull'intelligenza artificiale, tutto in un unico posto.

Leggi altre notizie sull'AI →