Il deputato Ro Khanna, un democratico della Silicon Valley, introdurrà una legislazione che vieterebbe i modelli di intelligenza artificiale in grado di migliorarsi ricorsivamente fino a quando il governo federale non costruirà un sistema di regolamentazione in grado di supervisionarli: la più ampia proposta sulla sicurezza dell’intelligenza artificiale mai arrivata al Congresso.

Il disegno di legge, denominato Human Control Over AI Act, è stato condiviso esclusivamente con la CNBC in forma sintetica prima della sua introduzione. Arriva nel mezzo di crescenti preoccupazioni sulla sicurezza che hanno già spinto gli amministratori delegati di OpenAI e Anthropic a chiedere di rallentare lo sviluppo del modello di frontiera. Per maggiori informazioni su questa storia, consulta la nostra aggiornamenti sull'intelligenza artificiale.

"C'è effettivamente il rischio di estinzione della civiltà", ha detto Khanna lunedì in un'intervista alla CNBC. "C'è un rischio per la sicurezza derivante dalla perdita di controllo, e poi c'è un rischio di uso improprio, e dobbiamo prendere entrambi sul serio."

Cosa vieterebbe il disegno di legge

Fondamentalmente, lo Human Control Over AI Act proibirebbe modelli di intelligenza artificiale che ricorsivamente si auto-migliorano o modificano autonomamente i propri obiettivi principali, meccanismi di contenimento o controlli di spegnimento, a meno che non esistano guardrail federali e una nuova agenzia governativa approvi le attività.

In termini pratici, ciò mira alla capacità che i ricercatori sulla sicurezza temono di più: sistemi in grado di riprogettarsi in un ciclo autodiretto, lasciando agli esseri umani una supervisione sempre minore ad ogni passaggio. Il divieto rimarrebbe in vigore fino a quando le autorità di regolamentazione non saranno attrezzate per valutare i rischi.

Una nuova agenzia federale per l'intelligenza artificiale di frontiera

Il disegno di legge creerebbe un’agenzia federale dedicata focalizzata sui modelli di intelligenza artificiale più potenti – quelli sviluppati da OpenAI, Anthropic, Google DeepMind e xAI – poiché tali aziende si trovano sotto un controllo sempre più intenso.

Secondo la sintesi condivisa con CNBC, l’agenzia sarebbe responsabile di:

  • Scrittura di norme di sicurezza per i sistemi di IA di frontiera
  • Gestione di un sistema di licenze per approvare la formazione e l'implementazione del modello
  • Conduzione di audit sui modelli di intelligenza artificiale di frontiera
  • Stabilire standard di sicurezza per test continui e un controllo umano efficace

Revisori indipendenti sarebbero incorporati in ogni laboratorio di frontiera e riferirebbero direttamente all’agenzia: un controllo strutturale progettato per garantire che i laboratori non possano semplicemente correggere i propri compiti. L’agenzia fisserebbe inoltre standard riguardanti ambienti di test sandbox, air gap che isolano i sistemi di test da Internet, kill switch e controlli che impediscono ai modelli di sfuggire alle impostazioni del laboratorio e vagare nell’Internet aperta.

In particolare, la legislazione estenderebbe la supervisione federale ai chip avanzati utilizzati dai laboratori di frontiera, compresi i meccanismi per monitorare o controllare il modo in cui tali processori vengono utilizzati.

Sanzioni penali e assicurazione obbligatoria

Il disegno di legge va oltre qualsiasi proposta precedente sulle sanzioni. Penalizzerebbe quelli che definisce “crimini contro l’umanità” per l’impiego di modelli di intelligenza artificiale che comportano la distruzione delle popolazioni civili.

I dipendenti delle società di intelligenza artificiale rischierebbero sanzioni penali per aver disabilitato protezioni, kill switch, sistemi di registrazione o contenimento o per aver implementato consapevolmente un sistema non autorizzato. Alle aziende di intelligenza artificiale verrebbe inoltre richiesto di sottoscrivere un’ampia assicurazione di responsabilità civile prima di rilasciare i propri modelli, trasferendo il rischio finanziario di fallimento sul settore piuttosto che sul pubblico.

Sul fronte geopolitico, il disegno di legge invita l’amministrazione a perseguire accordi applicabili e controlli mirati sulle esportazioni progettati per dissuadere la Cina e altri avversari dallo sviluppare pericolosi sistemi di intelligenza artificiale.

Realizzato con la community della sicurezza, non con i laboratori

Khanna è stato esplicito riguardo al contributo che ha dato forma al disegno di legge. Piuttosto che negoziare con i dirigenti delle aziende che dovrebbe regolamentare, ha affermato che la legislazione è stata modellata sulle conversazioni con le organizzazioni per la sicurezza dell’intelligenza artificiale, tra cui le organizzazioni no-profit indipendenti Model Evaluation and Threat Research, il Machine Intelligence Research Institute e Palisade Research.

"Voglio che questo sia un modello per dare voce alla comunità della sicurezza dell'intelligenza artificiale", ha detto Khanna alla CNBC. "Credo che siano stati ingiustamente liquidati come fantascienza e non siano stati presi abbastanza sul serio. A guidare questo dibattito devono essere loro, la comunità per la sicurezza dell'intelligenza artificiale, non i dirigenti dei laboratori di frontiera".

Khanna ha descritto la misura come la legislazione sulla sicurezza dell’intelligenza artificiale più completa proposta fino ad oggi.

Elevate probabilità in un congresso diviso

Lo Human Control Over AI Act si unisce a un campo affollato di proposte sulla sicurezza dell’IA a Capitol Hill. Tra questi c’è il bipartisan FRONTIER Act del rappresentante Jay Obernolte, repubblicano della California, e Lori Trahan, democratica del Massachusetts, che collocherebbe revisori indipendenti nei laboratori di frontiera e conferirebbe al governo l’autorità di chiudere i modelli giudicati rappresentare un rischio catastrofico. Una proposta separata di Sanders-Casar per vietare la superintelligenza artificiale ha ottenuto il sostegno pubblico di dieci democratici della Camera, incluso lo stesso Khanna.

La realtà politica, tuttavia, è deludente. Si prevede che nessun disegno di legge della Camera riceverà un voto fino a dopo le elezioni di medio termine, e si prevede che il Senato lascerà Washington e non ritornerà fino a quando gli elettori non saranno andati alle urne.

Questa sequenza temporale significa che lo Human Control Over AI Act funzionerà, almeno per ora, come un indicatore: un progetto dettagliato di ciò che la comunità per la sicurezza dell’IA costruirebbe se tenesse la penna – introdotto proprio nel momento in cui le persone che costruiscono l’IA di frontiera avvertono, ufficialmente, che la tecnologia sta sfuggendo ai suoi controlli.

---

Rimani Aggiornato sull'IA

Le ultime notizie, analisi e scoperte sull'intelligenza artificiale — tutto in un posto.

Leggi altre notizie sull'IA →