Il CEO di Google DeepMind, Demis Hassabis, ha proposto la creazione di un organismo di standardizzazione indipendente, guidato dagli Stati Uniti, sul modello della Financial Industry Regulatory Authority (FINRA) per valutare e regolamentare i modelli di intelligenza artificiale di frontiera prima del rilascio pubblico, avvertendo che l'umanità ha una "finestra preziosa" per garantire che l'intelligenza artificiale generale sia sviluppata in modo sicuro.

In un documento quadro intitolato "Un quadro per l'intelligenza artificiale di frontiera e l'alba di una nuova era", pubblicato martedì mattina su X, Hassabis ha presentato una proposta dettagliata su come gli Stati Uniti potrebbero stabilire un'infrastruttura normativa credibile per i sistemi di intelligenza artificiale più potenti. Il piano prevede una nuova organizzazione che testerà i modelli di frontiera e svilupperà le migliori pratiche per la loro implementazione, finanziata dal settore dell’intelligenza artificiale ma operante indipendentemente da ogni singola azienda.

Per le ultime ultime notizie sull'intelligenza artificiale e un'analisi politica approfondita, AI Buzz Wire tiene traccia degli sviluppi che plasmano il settore.

Come funzionerebbe l'organismo di standardizzazione proposto

Secondo la proposta di Hassabis, i laboratori di intelligenza artificiale condividerebbero volontariamente i loro modelli di frontiera con l'organismo di standardizzazione per la revisione fino a 30 giorni prima del rilascio pubblico. Questa valutazione pre-implementazione valuterebbe i modelli per la sicurezza, la protezione e i potenziali rischi di uso improprio. Una volta che il protocollo di valutazione si sarà dimostrato efficace e solido, il quadro prevede di formalizzare il processo in modo che i modelli di frontiera siano tenuti a superarlo prima di essere implementati nel mercato statunitense.

La proposta affronta direttamente una lacuna messa in luce dalle recenti revisioni governative dei sistemi di IA di frontiera. All'inizio di quest'anno, il governo degli Stati Uniti ha condotto revisioni ad hoc sulla sicurezza del modello Mythos di Anthropic e del modello Sol di OpenAI prima dei rispettivi rilasci. Tali revisioni hanno suscitato critiche significative per la mancanza di profondità tecnica e per l’opacità del processo decisionale su quando un modello è stato ritenuto sufficientemente sicuro per l’implementazione pubblica.

Secondo il quadro di Hassabis, tali decisioni sarebbero gestite da un'organizzazione dedicata dotata di esperti tecnici, sostenuta dal governo degli Stati Uniti ma isolata dalle pressioni politiche. Ai laboratori verrebbe inoltre richiesto di collaborare con l'organismo di standardizzazione per affrontare le vulnerabilità critiche scoperte dopo il rilascio.

Una 'finestra preziosa' prima dell'AGI

Nelle interviste con Axios, CNBC e The Economist che hanno accompagnato la pubblicazione del quadro, Hassabis ha sottolineato che il momento attuale rappresenta una ristretta opportunità per stabilire meccanismi di governance prima dell’arrivo dell’intelligenza artificiale generale. Ha descritto questo periodo come una “finestra preziosa” – il che implica che la finestra non rimarrà aperta indefinitamente.

Hassabis è da tempo un sostenitore della governance proattiva dell’IA. Il suo quadro arriva nel mezzo di un dibattito sempre più intenso sull’opportunità o meno da parte degli Stati Uniti di creare un regolatore formale dell’intelligenza artificiale e, in caso affermativo, quale forma dovrebbe assumere. Il modello FINRA è degno di nota perché l'organizzazione di autoregolamentazione del settore finanziario è finanziata dalle aziende associate ma opera sotto la supervisione del governo, conferendole sia competenza del settore che responsabilità pubblica.

Resistenza da parte dell'amministrazione Trump

La proposta si trova ad affrontare notevoli ostacoli politici. L’amministrazione Trump ha segnalato un profondo scetticismo nei confronti della creazione di nuovi organismi di regolamentazione per l’intelligenza artificiale. Sriram Krishnan, consigliere generale dell'IA della Casa Bianca e socio generale di a16z, che da allora ha lasciato il suo ruolo, ha pubblicamente respinto l'idea di un regolatore dell'IA all'interno del ramo esecutivo, affermando senza mezzi termini che "non ci sarà una FDA per l'IA".

Questa posizione ha messo i funzionari dell’amministrazione in contrasto con alcuni dei leader più importanti del settore. Sebbene aziende come Anthropic e OpenAI abbiano ampiamente sostenuto i test di sicurezza pre-implementazione, il meccanismo e l’autorità per tali test rimangono contestati. La proposta di Hassabis tenta di infilare questo ago posizionando l'organismo di standardizzazione come finanziato dall'industria e inizialmente volontario, con la formalizzazione che arriva solo dopo che il processo ne ha dimostrato il valore.

Basandosi sugli sforzi esistenti

Il quadro non parte da zero. Si basa sugli impegni volontari che diverse aziende di intelligenza artificiale di frontiera hanno già assunto in merito ai test di sicurezza e al red-teaming. Si basa inoltre su sforzi internazionali, tra cui l’AI Safety Institute del Regno Unito e l’Hiroshima AI Process del G7, che hanno stabilito quadri preliminari per la valutazione di modelli avanzati.

Tuttavia, la proposta di Hassabis va oltre, richiedendo un'organizzazione permanente, dotata di risorse adeguate, con il mandato di testare ogni modello di frontiera prima del rilascio, un livello di controllo che nessun organismo attuale fornisce. L’analogia con la FINRA suggerisce un’operazione professionale su vasta scala con centinaia di esperti tecnici, non un piccolo comitato consultivo.

La proposta affronta anche il monitoraggio post-implementazione, richiedendo ai laboratori di collaborare con l’organismo di standardizzazione sulle vulnerabilità scoperte dopo che un modello è stato reso pubblico. Ciò riflette la crescente consapevolezza che i rischi per la sicurezza non finiscono al momento del lancio, come dimostrato dai casi di jailbreak e uso improprio emersi dopo il rilascio di diversi modelli di alto profilo.

Risposta del settore e passi successivi

Il quadro ha suscitato un’attenzione significativa in tutta la comunità politica dell’IA. I sostenitori sostengono che un credibile regime di test pre-implementazione potrebbe rafforzare la fiducia del pubblico nei modelli di frontiera e ridurre il rischio di un uso improprio catastrofico. I critici, tra cui alcuni sostenitori del libero mercato, avvertono che un requisito di test obbligatorio potrebbe rafforzare i grandi operatori storici creando barriere normative per le aziende più piccole e gli sviluppatori open source.

La proposta di Hassabis non specifica quali modelli si qualificherebbero come “frontiera” – una questione fondamentale che determinerà la portata di qualsiasi futuro regime normativo. Lascia inoltre aperto il modo in cui l’organismo di standardizzazione gestirà le applicazioni classificate o a duplice uso, in particolare date le recenti preoccupazioni sui modelli di intelligenza artificiale utilizzati per violare i sistemi statunitensi classificati.

La tempistica della proposta è voluta. Poiché l’AGI appare sempre più plausibile nei prossimi anni, Hassabis insiste sul fatto che l’infrastruttura di governance deve essere costruita ora, non dopo che è emersa una capacità pericolosa. Resta da vedere se Washington darà seguito alla sua richiesta.

Stai al passo con l'intelligenza artificiale

Per una copertura completa delle politiche, delle normative e degli sviluppi del settore sull'intelligenza artificiale, visitare AI Buzz Wire.

Leggi altre notizie sull'AI →