OpenAI ha lavorato a stretto contatto con i rivali Anthropic e Google DeepMind per diverse settimane per ideare un quadro per la sicurezza dell'intelligenza artificiale, ha confermato martedì un dirigente senior, rivelando un insolito grado di cooperazione tra aziende che competono ferocemente su quasi tutto il resto.
Chris Lehane, responsabile globale della politica di OpenAI, ha detto ai giornalisti in una conferenza stampa a Washington che i tre laboratori si sono coordinati sulle iniziative di sicurezza. "È meglio cercare di lavorare insieme per dare priorità alla sicurezza", ha detto Lehane, secondo un rapporto Bloomberg del briefing. I suoi commenti sono arrivati giorni dopo una serie di avvertimenti di estinzione di alto profilo da parte di ricercatori che avevano lasciato i più grandi laboratori del settore. Per maggiori informazioni su questa storia, consulta la nostra copertura dell'industria IA.
Cosa copre effettivamente la cooperazione
Lehane non ha approfondito la natura specifica del lavoro, ma la divulgazione segue un notevole tratto di posizionamento pubblico da parte dei più grandi nomi del settore. Sabato, l’amministratore delegato di Anthropic, Dario Amodei, ha pubblicato un saggio in cui invita l’industria dell’intelligenza artificiale a collaborare per rallentare il ritmo di sviluppo del modello di frontiera per evitare quelli che ha definito “rischi catastrofici”.
L’appello ha ottenuto un sostegno sorprendente da tutto il divario competitivo: Sam Altman di OpenAI, Demis Hassabis di Google ed Elon Musk hanno tutti appoggiato il sentimento. Altman è andato oltre, affermando che OpenAI sarebbe disposta ad aderire all'iniziativa di Anthropic per incorporare valutatori di terze parti all'interno dei suoi team di sviluppo per monitorare la sicurezza dell'IA dall'interno. Il cofondatore di Anthropic, Jack Clark, nel frattempo, ha dichiarato a NPR che il rallentamento dell'intelligenza artificiale è fondamentalmente un "problema di azione collettiva" che nessun singolo laboratorio può risolvere da solo.
Tuttavia, non tutti all’interno di OpenAI considerano urgente il dibattito sul ritmo. Il direttore finanziario Sarah Friar ha detto alla CNBC di non essere preoccupata per il rallentamento dello sviluppo dell'intelligenza artificiale, ricordando che la società sta contemporaneamente corteggiando gli investitori con una valutazione di oltre un trilione di dollari.
L'ombra dell'Antitrust sulla cooperazione
Qualsiasi coordinamento tra i laboratori di intelligenza artificiale dominanti si scontra con un ovvio problema legale: la legge antitrust degli Stati Uniti. Esperti legali hanno avvertito che gli accordi tra concorrenti per limitare ciò che i loro prodotti possono fare potrebbero essere interpretati come una “restrizione della produzione”, una violazione dello Sherman Act.
Questa preoccupazione si è già spostata a Capitol Hill. I senatori Jim Banks dell’Indiana e Adam Schiff della California hanno proposto una legislazione – il Collaboration on Adversarial Threats and Security Risks Act – che consentirebbe ai laboratori di intelligenza artificiale di agire sulla sicurezza anche quando tali azioni potrebbero altrimenti sollevare problemi antitrust. Nel saggio di Amodei si sostiene che il governo dovrebbe prendere in considerazione la possibilità di concedere alle aziende una deroga per la cooperazione in materia di sicurezza, anche se Lehane ha detto ai giornalisti che ritiene che tale mossa non sia necessaria.
Jensen Huang di Nvidia è stato ancora schietto. Martedì, parlando a Dreamforce, ha definito la proposta di deroga antitrust di Anthropic "completamente inutile", secondo la CNBC, sottolineando la divisione sempre più profonda tra i laboratori che sollecitano moderazione e il gigante dell'hardware che sollecita accelerazione.
"Un cartello con un altro nome"
I critici della cooperazione sono stati aspri. L'amministratore delegato di Cohere Aidan Gomez ha scritto in un post sul blog in risposta al saggio di Amodei che le chiamate di sicurezza sembrano uno sforzo da parte dei migliori laboratori di intelligenza artificiale per mascherare uno schema anticoncorrenziale che preserverebbe la loro leadership nello sviluppo di modelli di frontiera, consentendo ai laboratori "dominanti del mercato" di definire le regole per tutti gli altri.
"Ancora una volta usando la paura con il pretesto di proteggere il pubblico, questi oligopoli chiedono ora di piegare le regole della concorrenza e di avere il permesso di dettare i termini per tutti gli altri", ha scritto Gomez, definendo l'accordo "un lupo travestito da agnello, un cartello con un altro nome."
Il presidente Donald Trump ha respinto apertamente l’appello di Amodei al rallentamento, sostenendo in un post su Truth Social che qualsiasi rallentamento consentirebbe alla Cina di superare gli Stati Uniti nella corsa all’intelligenza artificiale. David Sacks, il principale consigliere sull’intelligenza artificiale della Casa Bianca, ha affermato che i timori che l’intelligenza artificiale possa rappresentare una minaccia esistenziale sono esagerati.
Gli analisti della CNBC hanno osservato che due schieramenti sono ora pienamente emersi nel dibattito sulla sicurezza e la regolamentazione dell’IA: uno che esorta la frontiera a rallentare prima che qualcosa vada storto, e un altro – popolato da Nvidia, dalla Casa Bianca e dai sostenitori del modello aperto – che sostiene che l’esitazione è il pericolo maggiore.
Capitol Hill Push di OpenAI
Le osservazioni di Lehane sono arrivate durante una conferenza stampa a Washington, dove era previsto un incontro con i legislatori. OpenAI sta sostenendo due progetti di legge bipartisan, secondo le dichiarazioni pubbliche della società e i rapporti di Reuters e Politico.
Il primo è il FRONTIER Act, che richiede un quadro federale per la sicurezza dell’IA e richiederebbe ai laboratori di intelligenza artificiale di presentare nuovi modelli per gli audit da parte di valutatori indipendenti. OpenAI sostiene anche una misura che richiederebbe audit indipendenti dei modelli di intelligenza artificiale, ha riferito CBS News. La seconda proposta, ancora in fase di sviluppo, è quella che il leader della maggioranza al Senato John Thune sta elaborando con il senatore repubblicano Ted Cruz e la senatrice democratica Amy Klobuchar. Secondo Reuters, il disegno di legge darebbe al Segretario al Commercio il potere di sottoporre i nuovi modelli a controlli di sicurezza prima del loro rilascio. OpenAI ha approvato separatamente piani bipartisan che affrontano le minacce biologiche dell’IA, ha riferito Politico.
La convergenza è sorprendente: le stesse aziende che mettono in guardia sull’intelligenza artificiale fuori controllo si offrono volontarie per audit indipendenti, mentre i loro critici avvertono che la collaborazione stessa potrebbe rappresentare il pericolo maggiore. Il modo in cui il Congresso infila quell’ago – consentendo la cooperazione sulla sicurezza senza concedere licenze a un cartello – potrebbe definire la politica dell’IA per anni.
---
Rimani Aggiornato sull'IALe ultime notizie, analisi e scoperte sull'intelligenza artificiale — tutto in un posto.
Leggi altre notizie sull'IA →
