OpenAI ha confermato che insieme ad Anthropic e Google DeepMind hanno tenuto colloqui sul coordinamento della sicurezza dell'intelligenza artificiale per diverse settimane e afferma di sostenere una legislazione che costringerebbe i laboratori di frontiera ad aprire le loro porte a organizzazioni di verifica indipendenti.
Chris Lehane, responsabile degli affari globali di OpenAI, ha reso la rivelazione durante una riunione martedì, secondo TechCrunch. Reuters e Bloomberg, citando le stesse osservazioni, hanno riferito che OpenAI sta lavorando con Anthropic e Google sulla sicurezza dell'IA. La conferma trasforma settimane di indizi – inclusa un’intervista di Fortune in cui Sam Altman ha riconosciuto discussioni private con altri leader dell’intelligenza artificiale – in un’ammissione esplicita che i tre principali laboratori di frontiera del mondo si stanno coordinando sulla velocità con cui si muovono e su come vengono controllati i loro modelli.
Per i lettori che seguono lo scontro politico più ampio attorno al rallentamento dell'intelligenza artificiale, la copertura degli aggiornamenti sull'intelligenza artificiale questa settimana spazia dal co-fondatore di Anthropic Jack Clark che sostiene un kill switch obbligatorio al presidente Trump che definisce i timori per la sicurezza una bufala durante una chiamata sul palco con Jensen Huang di Nvidia.
Una conferma in preparazione da settimane
I colloqui fanno seguito a un saggio pubblicato sabato dal CEO di Anthropic, Dario Amodei, che invita il settore a lavorare insieme per rallentare il ritmo dello sviluppo dell’intelligenza artificiale di frontiera al fine di evitare rischi catastrofici. La lettera ha ottenuto il sostegno di tutto il settore, con Altman, Demis Hassabis di Google ed Elon Musk che hanno tutti appoggiato l'invito all'azione, e Altman ha affermato che OpenAI si sarebbe unito allo sforzo.
Successivamente The Information ha riferito che le tre società hanno lavorato per creare un organismo di standardizzazione per il settore dell'intelligenza artificiale. Hassabis ha una lunga esperienza in materia: a luglio ha invitato gli Stati Uniti a istituire un nuovo organismo di standardizzazione che funga da cane da guardia dell’intelligenza artificiale, con il potere di vagliare i modelli più avanzati del mondo e coordinare i rallentamenti a livello di settore se i pericoli progredissero.
Ciò che aggiungono le osservazioni di Lehane è una conferma ufficiale. Fino ad ora, i portavoce dei laboratori avevano ampiamente accennato al dialogo informale; Il capo degli affari globali di OpenAI ha ora messo a verbale il coordinamento.
L'ombra dell'Antitrust
Qualsiasi accordo tra concorrenti diretti per rallentare lo sviluppo solleva ovvie questioni antitrust, e i laboratori lo sanno. Lo stesso Altman ha osservato che tali colloqui potrebbero mettere le società a rischio di violare la legge antitrust se si scoprisse che il coordinamento sopprime la concorrenza. Il saggio di Amodei propone una deroga governativa che consentirebbe il coordinamento della sicurezza senza far scattare la legge sulla concorrenza, un segno di quanto seriamente la questione venga presa all'interno delle aziende.
I critici si sono affrettati a sottolineare la tensione al centro dell’accordo: le tre aziende che detengono le maggiori quote di mercato nell’intelligenza artificiale di frontiera che decidono congiuntamente di razionare il progresso sembrano, agli scettici, un comportamento di cartello con un involucro di sicurezza. I sostenitori ribattono che il rischio catastrofico è proprio il tipo di problema che i concorrenti non possono risolvere unilateralmente, dal momento che qualsiasi laboratorio che rallenta da solo cede semplicemente la frontiera ai rivali.
OpenAI abbraccia i controlli di terze parti
La novità politica più concreta nelle osservazioni di Lehane riguarda la legislazione. Ha affermato che OpenAI sostiene una disposizione del FRONTIER Act che richiederebbe ai migliori laboratori di frontiera di consentire a "organizzazioni di verifica indipendenti" di entrare nelle loro aziende per garantire che i modelli vengano sviluppati in modo sicuro. Politico ha riferito che OpenAI sta sostenendo un piano bipartisan costruito attorno a valutazioni di sicurezza di terze parti.
Questa posizione sarebbe stata impensabile per il settore due anni fa, quando gli impegni volontari e le squadre rosse interne erano lo standard del settore. Ora allinea OpenAI con la posizione di audit-first che Anthropic promuove da tempo e crea un raro punto di accordo tra i laboratori e l’ala del dibattito politico che ha passato l’anno a chiedere una supervisione applicabile.
Si crea anche uno scontro con la Casa Bianca. Il presidente Trump ha liquidato le preoccupazioni sulla sicurezza come una bufala e ha sostenuto che qualsiasi rallentamento darebbe alla Cina un vantaggio nella corsa all’intelligenza artificiale. Il suo consulente per l’intelligenza artificiale David Sacks, un investitore di lunga data con interessi personali in tutto il settore, ha definito esagerati i timori del rischio esistenziale. Nel Regno Unito, i ministri rimangono pubblicamente divisi sulla stessa questione, con una fazione che esorta il governo a prestare ascolto agli avvertimenti degli esperti mentre il ministro degli affari Reynolds ha rifiutato di parlare di un kill switch per i sistemi avanzati.
Una lotta politica senza terreno neutrale
Le prossime settimane metteranno alla prova se il coordinamento dei laboratori sopravvivrà al contatto con le autorità garanti della concorrenza e con un'amministrazione scettica. Un organismo di standardizzazione creato da tre società che controllano la frontiera dovrà affrontare le richieste di includere amministratori indipendenti, pubblicare i suoi criteri e sottoporsi alla revisione del governo – o essere liquidato come un cartello privato in abiti pubblici.
Per quanto riguarda il FRONTIER Act, l'approvazione di OpenAI offre agli sponsor del disegno di legge un principale sostenitore, ma anche una nuova linea di attacco per gli oppositori che sostengono che i laboratori più grandi stanno semplicemente conquistando il campo normativo, scrivendo regole che solo loro possono permettersi di seguire. I laboratori più piccoli e la comunità dei pesi aperti, che non ha un posto ai colloqui, stanno osservando da vicino: qualunque regime di verifica emergerà definirà i costi di conformità per tutti coloro che stanno dietro la frontiera.
Ciò che non è più in discussione è il fatto stesso del coordinamento. Le tre aziende che definiscono l’avanguardia dell’intelligenza artificiale stanno ora discutendo apertamente sulla velocità da correre e invitando il governo a fare da arbitro.
---
Stai al passo con l'intelligenza artificialeRicevi le ultime notizie, analisi e scoperte sull'intelligenza artificiale, tutto in un unico posto.
Leggi altre notizie sull'AI →
