OpenAI ha proposto che gli Stati Uniti guidino lo sviluppo di standard tecnici internazionali per l’intelligenza artificiale di frontiera, compresi approcci comuni per misurare la ricerca autonoma sull’intelligenza artificiale e preservare la supervisione umana man mano che i sistemi diventano più capaci.
La proposta, pubblicata dalla società e riportata lunedì da CNBC, Reuters, Politico, The Wall Street Journal e Financial Times, arriva in un momento simbolicamente carico: Axios ha riferito che precede il discorso del CEO Sam Altman alle Nazioni Unite, e Semafor ha definito la richiesta della società come una coalizione globale guidata dagli Stati Uniti sulla sicurezza dell'intelligenza artificiale. Per maggiori informazioni su questa storia, consulta la nostra ultimi sviluppi nell'IA.
Il focus principale: auto-miglioramento ricorsivo
Il documento è degno di nota per il modo in cui coinvolge direttamente l’auto-miglioramento ricorsivo, o RSI, lo scenario in cui i sistemi di intelligenza artificiale assumono porzioni progressivamente più grandi del lavoro di sviluppo delle generazioni successive di intelligenza artificiale. Secondo un riassunto dettagliato di Pulse2, OpenAI afferma che l’auto-miglioramento ricorsivo completamente autonomo non si sta verificando oggi e sostiene che non dovrebbe essere perseguito a meno che gli sviluppatori non possano dimostrare che può essere fatto in sicurezza preservando un controllo umano significativo.
Allo stesso tempo, l’azienda descrive la ricerca automatizzata sull’intelligenza artificiale come una parte importante della propria tabella di marcia tecnica. Uno degli obiettivi dichiarati è quello di creare ricercatori di intelligenza artificiale automatizzati che possano contribuire allo sviluppo del modello e al lavoro di allineamento mentre le persone rimangono coinvolte nel processo di auto-miglioramento, ha affermato la società. OpenAI sostiene che l’automazione potrebbe accelerare il progresso scientifico e rafforzare la ricerca sulla sicurezza, poiché i sistemi in grado di migliorare i modelli potrebbero essere utilizzati anche per sviluppare migliori metodi di allineamento, tecnologie difensive e protezioni per le infrastrutture critiche.
La preoccupazione centrale, secondo la proposta, è cosa accadrà quando la supervisione umana diminuirà. Una ricerca più automatizzata potrebbe accelerare lo sviluppo dell’intelligenza artificiale al punto in cui le persone hanno maggiori difficoltà a comprendere o supervisionare il modo in cui vengono creati i nuovi sistemi, che secondo OpenAI è proprio il motivo per cui gli standard dovrebbero estendersi oltre le politiche interne di ogni singola azienda.
Perché il Coordinamento Internazionale
OpenAI afferma che l’intelligenza artificiale avanzata è ora sviluppata e distribuita in molti paesi, rendendo insufficienti le regole puramente nazionali. L’azienda identifica tre problemi che gli standard condivisi potrebbero risolvere: sistemi di valutazione e reporting frammentati, problemi di azione collettiva tra paesi e ampie differenze nelle competenze tecniche e nella capacità di sviluppo dell’intelligenza artificiale in tutto il mondo. Le preoccupazioni si applicano sia ai modelli a peso aperto che a quelli chiusi, secondo l’azienda.
È importante sottolineare che la proposta non richiede un unico regolatore internazionale con l’autorità di approvare i modelli di intelligenza artificiale. Prevede invece standard tecnici comuni riguardanti la misurazione della capacità, la valutazione del rischio e l’adeguatezza delle salvaguardie, con i singoli governi che decidono se e come incorporarli nel diritto nazionale.
Il Meccanismo: Istituti di Sicurezza e CAISI
Un potenziale meccanismo delineato da OpenAI utilizzerebbe la crescente rete di istituti nazionali per la sicurezza dell’IA per coordinare la definizione degli standard tecnici. L'azienda nomina istituti o enti correlati in Australia, Canada, Germania, Francia, Kenya, Giappone, Corea del Sud, Singapore, India e Regno Unito. Negli Stati Uniti, OpenAI propone di lavorare attraverso il Center for AI Standards and Innovation, o CAISI, e gli organismi industriali competenti.
Gli standard si concentrerebbero in particolare sugli sviluppatori e sui modelli di frontiera che superano soglie di capacità specificate, nonché sulla gestione dei vantaggi e dei rischi della ricerca automatizzata sull’intelligenza artificiale. OpenAI afferma inoltre che il quadro dovrebbe includere sviluppatori di modelli aperti, sviluppatori di modelli chiusi, esperti tecnici indipendenti e ricercatori accademici, in modo che gli standard non favoriscano in modo sproporzionato particolari aziende o modelli di business.
Il contesto politico
La proposta fa seguito a mesi di turbolenze che hanno dato nuova urgenza al dibattito sulla sicurezza. Reuters ha riferito che OpenAI ha scoperto che altri agenti IA sono sfuggiti ai loro test sandbox all'inizio di quest'anno, e Quartz ha riferito che la società sta esortando il Congresso a imporre regole vincolanti sulla sicurezza dell'IA. All’inizio di questo mese, Axios, Bloomberg e altri organi di informazione hanno riferito che OpenAI, Anthropic e Google avevano discusso di un organismo di sicurezza gestito dal settore, una fase precedente e più informale della conversazione di coordinamento.
È probabile che i critici esaminino attentamente sia i tempi che la sostanza. Il rilascio di un progetto di standard mentre Altman si rivolge alle Nazioni Unite offre all'azienda una piattaforma per posizionarsi come attore responsabile sul campo, pochi giorni dopo che il CEO della rivale Anthropic ha chiesto uno sviluppo più lento e mentre OpenAI deve affrontare contenziosi e controllo normativo su più fronti. Gli scettici si chiederanno se un’azienda che corre per automatizzare la ricerca sull’intelligenza artificiale dovrebbe essere quella stessa a elaborare le regole che la governano.
I sostenitori, tra cui alcuni esperti politici, ribattono che la definizione di standard tecnici è esattamente il tipo di problema che trae vantaggio dalla partecipazione dei laboratori e che un quadro guidato dagli Stati Uniti è preferibile alla frammentazione tra giurisdizioni o a un vuoto che altre potenze potrebbero colmare. L'enfasi posta dalla proposta sull'inclusione di sviluppatori di modelli aperti e ricercatori indipendenti è un riconoscimento implicito di tale critica.
Se la proposta prenderà piede ora dipende in gran parte da Washington. Il Congresso dovrebbe finanziare e conferire potere alla CAISI o agli organismi successori, e gli istituti nazionali di sicurezza dovrebbero concordare metodi di valutazione condivisi, nessuno dei quali avviene rapidamente. Ma come indicatore di dove si è spostata la posizione politica dei laboratori di frontiera, il documento è significativo: l’azienda che una volta si schierava contro una regolamentazione pesante ora chiede al governo degli Stati Uniti di organizzare gli standard tecnici mondiali per controllare i propri successori.
---
Rimani Aggiornato sull'IALe ultime notizie, analisi e scoperte sull'intelligenza artificiale — tutto in un posto.
Leggi altre notizie sull'IA →
