OpenAI sta dialogando con diversi valutatori indipendenti per aiutare a far crescere il numero di aziende che hanno esperienza nella sicurezza dell'IA di frontiera e possono fornire valutazioni efficaci di terze parti, ha affermato la società in un post sul blog pubblicato martedì 22 settembre, come riportato da PYMNTS.

Il post espone le priorità e i principi proposti da OpenAI per un'efficace supervisione di terze parti: un quadro che, secondo lui, dovrebbe applicarsi a tutti i laboratori di intelligenza artificiale di frontiera mentre addestrano, valutano e implementano modelli sempre più capaci. L’annuncio arriva nel bel mezzo di un mese insolitamente impegnativo per la politica di sicurezza dell’IA, e si legge sia come una concessione ai critici sia come un tentativo di modellare le regole prima che i governi le scrivano. Per chiunque segua le ultime notizie sull'intelligenza artificiale, si tratta dell'ultima mossa di una gara durata settimane tra i laboratori, i loro critici e i regolatori su chi può verificare che i modelli di frontiera siano sicuri.

Cosa propone OpenAI

"Ci impegniamo a supportare valutatori indipendenti e a stabilire standard internazionali più chiari e condivisi - sia attraverso leggi future che iniziative di governance privata - per valutazioni efficaci di terze parti", ha affermato OpenAI nel post, secondo PYMNTS.

Il problema principale descritto da OpenAI è un fallimento del mercato: ci sono semplicemente troppo poche organizzazioni con la profondità tecnica per verificare un modello di frontiera. Una valutazione significativa della sicurezza richiede l’accesso a sistemi non ancora rilasciati, competenze in aree che vanno dalla sicurezza informatica alla bioprotezione e l’indipendenza istituzionale per pubblicare risultati indesiderati. Reclutando e supportando più valutatori anziché un singolo revisore privilegiato, OpenAI afferma di voler costruire un ecosistema in cui la valutazione di terze parti sia una parte di routine dell’implementazione dei sistemi di frontiera, non un esercizio una tantum di pubbliche relazioni.

La società non ha nominato i valutatori con cui sta parlando, e resta da vedere se gli accordi risultanti garantiranno ai valutatori l’accesso, l’indipendenza dai finanziamenti e i diritti di pubblicazione che i ricercatori sulla sicurezza considerano significativi.

Una settimana di colpo di frusta sulla politica dell'IA

La proposta arriva nel mezzo di una rapida sequenza di sviluppi politici che hanno definito il dibattito sull'intelligenza artificiale di settembre:

  • Lunedì 21 settembre: OpenAI ha chiesto agli Stati Uniti di guidare uno sforzo internazionale per sviluppare standard tecnici globali per l'intelligenza artificiale di frontiera, compreso l'auto-miglioramento ricorsivo, il punto in cui i sistemi di intelligenza artificiale migliorano se stessi. La società ha avvertito che lo sviluppo di un’intelligenza artificiale completamente autonoma potrebbe superare la capacità degli esseri umani di comprenderla e controllarla e ha affermato che le decisioni su se e come procedere devono essere prese ora.
  • Venerdì 18 settembre: il governatore della California Gavin Newsom ha firmato un ordine esecutivo che convoca esperti nazionali per rafforzare le leggi statali sulla sicurezza dell'intelligenza artificiale, esplicitamente mirate ad accelerare l'implementazione di una nuova supervisione di terze parti sulla sicurezza e sui rischi nei sistemi di intelligenza artificiale.
  • Sabato 19 settembre: Il presidente Donald Trump ha respinto le preoccupazioni sulla sicurezza del settore in un post su Truth Social, scrivendo: "Non ostacoleremo o soffocheremo in alcun modo la crescita di questo incredibile settore. L'intelligenza artificiale è la prossima rivoluzione industriale, o Internet, ma sarà ancora più grande e di maggiore impatto, forse fino al 25% del PIL del nostro Paese."

Come riportato all’inizio di questa settimana, la proposta di standard guidati dagli Stati Uniti di OpenAI ha segnato un cambiamento sorprendente per un’azienda che ha passato anni a resistere a una supervisione vincolante – e i nuovi principi di valutazione di terze parti estendono questa posizione sul fronte della governance privata.

Il problema dell'indipendenza

L'adozione da parte di OpenAI di controlli esterni segue una proposta parallela del suo principale rivale. Circa una settimana prima, il CEO di Anthropic, Dario Amodei, aveva pubblicato un saggio in cui proponeva un piano di sicurezza dell’IA costruito attorno a valutatori indipendenti incorporati nelle principali aziende di intelligenza artificiale, al coordinamento tra le aziende nei paesi democratici e, infine, a un accordo internazionale che includa la Cina.

Entrambe le proposte hanno suscitato immediato scetticismo da parte degli esperti. La CNBC ha riferito che una coalizione di oltre 100 esperti di intelligenza artificiale sta sollecitando l'indipendenza e la trasparenza da Anthropic, OpenAI e altri laboratori modello di fondazione che conducono valutazioni, avvertendo che i valutatori che sono incorporati - o pagati da - le società che controllano affrontano inevitabili conflitti di interessi. Gli osservatori sostenuti dal pioniere dell’intelligenza artificiale Geoffrey Hinton hanno insistito su entrambe le società sui dettagli dei loro piani di sicurezza, e i commentatori hanno segnalato la porta girevole tra le organizzazioni di valutazione della sicurezza dell’intelligenza artificiale e i laboratori stessi: le persone che valutano i compiti sulla sicurezza potrebbero essere anche quelli che li hanno scritti.

Questa tensione è il punto cruciale del dibattito che il nuovo post di OpenAI cerca di disinnescare. La risposta dell’azienda – più valutatori, standard internazionali condivisi e supervisione applicata sia attraverso leggi future che tramite iniziative private – è un quadro, non ancora una garanzia. I critici sottolineeranno che i laboratori che propongono le regole sono gli stessi laboratori ad esse soggetti, e che la governance auto-modellata ha storicamente favorito le aziende che le modellano.

Perché è importante

I modelli di prossima frontiera sono già in fase di formazione e la finestra per progettare la supervisione prima dell’implementazione si sta chiudendo. Se il reclutamento di valutatori indipendenti da parte di OpenAI producesse revisori con reale accesso e reale indipendenza, potrebbe diventare il modello per il modo in cui l’IA di frontiera è governata in tutto il mondo – un regime privato che i legislatori di Washington, Bruxelles e altrove finora non sono riusciti a costruire da soli. Se produrrà consulenze affiliate alle NDA, confermerà la lettura peggiore degli scettici.

In ogni caso, il fatto che OpenAI sia in competizione con Anthropic su chi possa proporre il regime di supervisione più credibile è di per sé una novità. Un anno fa i laboratori erano unificati principalmente nell’opporsi alla regolamentazione. Adesso fanno a gara per definirlo.

---

Stai al passo con l'intelligenza artificiale

Ricevi le ultime notizie, analisi e scoperte sull'intelligenza artificiale, tutto in un unico posto.

Leggi altre notizie sull'AI →