Un'ondata di avvertimenti pubblici provenienti dall'interno di Anthropic si è intensificata questa settimana quando diversi ricercatori della società di intelligenza artificiale hanno fatto eco alla valutazione apocalittica dell'intelligenza artificiale di un ex collega, ottenendo una risposta sprezzante da Elon Musk, che ha suggerito che la protesta fosse una "psyop" coordinata.
Secondo The Guardian, l’escalation è arrivata il giorno dopo che il ricercatore di Anthropic Jacob Coxon ha annunciato le sue dimissioni in un post virale, scrivendo che né Anthropic né OpenAI – il suo ex datore di lavoro – stavano costruendo modelli di intelligenza artificiale in modo responsabile e “stavano giocando d’azzardo con le nostre vite”. Invece di svanire, la controversia è cresciuta man mano che l’attuale staff di Anthropic ha pubblicato le proprie terribili valutazioni a sostegno. Per maggiori informazioni su questa storia, consulta la nostra aggiornamenti sull'intelligenza artificiale.
Gli avvertimenti si accumulano
Anna Wang, che lavora sulla sicurezza dell'intelligenza artificiale generale presso Anthropic e in precedenza ha lavorato presso DeepMind di Google, ha affermato giovedì che molte persone in azienda vogliono rallentare lo sviluppo per pianificare i rischi posti da modelli sempre più capaci.
"Non esiste ancora un piano scientifico praticabile per risolvere i rischi derivanti dall'auto-miglioramento ricorsivo dell'intelligenza artificiale", ha scritto Wang su X.
Un altro dipendente della Anthropic, Drake Thomas, ha affermato di rispettare la decisione di Coxon di abbandonare lo sviluppo della tecnologia. "Le cose si stanno muovendo troppo velocemente, non abbiamo neanche lontanamente il grado di sicurezza che vorremmo per l'ASI [superintelligenza artificiale]", ha scritto Thomas.
Samuel Marks, che lavora alla ricerca sulla sicurezza presso l’azienda, ha sostenuto che le preoccupazioni sono ampiamente condivise all’interno del settore e che l’anzianità è correlata all’allarme. "Gli sviluppatori di intelligenza artificiale credono che la loro tecnologia potrebbe causare l'estinzione umana (o risultati altrettanto negativi)", ha scritto Marks. "Questo potrebbe accadere nei prossimi anni. In generale, più il dipendente è anziano, più è preoccupato."
Evan Hubinger, che si descrive come una guida nella divisione di allineamento di Anthropic, è andato più lontano. "Crediamo davvero sinceramente che l'intelligenza artificiale possa uccidere tutti gli esseri umani!" Hubinger ha scritto, aggiungendo che lui stesso stima la probabilità al di sopra del 10% entro il prossimo decennio.
Le note di Insider seguono la notizia di CBS News secondo cui un ricercatore antropico ha assegnato una probabilità superiore al 10% all’IA di causare l’estinzione umana, e la copertura del The Japan Times secondo cui gli avvertimenti hanno rinnovato le richieste per nuove regole sull’IA negli Stati Uniti.
Musk: 'Sembra un setup'
Elon Musk ha avuto una visione fortemente contraddittoria. "Sembra una montatura", ha scritto l'uomo più ricco del mondo su X, la sua piattaforma social.
Coxon ha risposto con un selfie: "Sono reale e queste sono le mie vere convinzioni. Potresti chiedere di me ai tuoi ricercatori xAI se non li avessi licenziati".
Musk e altre voci simpatizzanti hanno amplificato una teoria avanzata da Parker Thayer, un ricercatore del think tank conservatore Capital Research, che ha suggerito - con poche prove, nota il Guardian - che il post di Coxon fosse la mossa di apertura di una "operazione di pubbliche relazioni MOLTO sofisticata e ben finanziata per ottenere sostegno ai democratici per regolamentare l'intelligenza artificiale nell'oblio".
Il manager miliardario degli hedge fund Bill Ackman ha citato il post di Thayer con una risposta di una sola parola: "Interessante".
Musk ha poi elaborato. "Penso che le basi per questa operazione psicologica (in mancanza di un termine migliore) siano state preparate da molto tempo", ha pubblicato. "Questo è stato proprio il fiammifero che ha acceso il fuoco."
Anthropic difende il suo approccio
Presa tra gli avvertimenti dei propri dipendenti e gli attacchi provenienti dall'esterno, Anthropic ha offerto una risposta pubblica misurata.
"Siamo sempre stati trasparenti sul fatto che l'intelligenza artificiale porterà sia enormi benefici che rischi senza precedenti", ha detto al Guardian un portavoce dell'azienda. "Per affrontare questi rischi, continuiamo a costruire modelli dotati di alcune delle tutele più solide del settore."
L’azienda ha sottolineato la sua esperienza nel documentare e interrompere gli abusi. Lo stesso giorno in cui gli avvertimenti sono diventati virali, Anthropic ha pubblicato il suo rapporto di intelligence sulle minacce di settembre, che descriveva in dettaglio come l'azienda ha smantellato un'operazione che tentava di costruire un'arma biologica utilizzando i suoi modelli di intelligenza artificiale, insieme a campagne interrotte che abbracciavano attacchi informatici e operazioni di influenza. Al Jazeera e la BBC sono stati tra gli organi di informazione che hanno messo in risalto le scoperte sulle armi biologiche venerdì.
Gli scettici vedono un rischio diverso
Non tutti accettano il quadro dell’estinzione. Gary Marcus, scienziato e critico di lunga data dell’intelligenza artificiale, ha sostenuto che la tecnologia sta già causando danni che giustificano un’azione indipendentemente dagli scenari di superintelligenza, chiedendo un boicottaggio dell’intelligenza artificiale per i danni attuali.
Più che l'estinzione, Marcus ha detto al Guardian di essere preoccupato per il "rischio di catastrofe" derivante da "patogeni generati dall'intelligenza artificiale, da guerre iniziate o intensificate dalla disinformazione generata dall'intelligenza artificiale, da hack che distruggono infrastrutture critiche e così via. Niente di ciò che ho visto dà alcuna indicazione che tutto ciò sia sotto controllo. "
La sua posizione sottolinea una spaccatura all’interno dello stesso dibattito sulla sicurezza dell’intelligenza artificiale: tra coloro che si concentrano sui rischi a lungo termine e su scala di civiltà derivanti dai sistemi futuri e coloro che si concentrano sui danni concreti derivanti dai modelli odierni.
Un dibattito che rifiuta di rimanere interno
Ciò che era iniziato come la lettera di dimissioni di un ricercatore è diventato un referendum molto pubblico su come l'industria dell'intelligenza artificiale sta costruendo i suoi sistemi più potenti. All’interno di Anthropic, i dipendenti stanno discutendo apertamente se le loro tempistiche per uno sviluppo sicuro siano slittate. Al di fuori di esso, gli avvertimenti si stanno trasformando in una lotta politica sempre più polarizzata su se e come i governi dovrebbero intervenire.
Il rapporto del Guardian suggerisce che molti membri dello staff di Anthropic condividono queste preoccupazioni in privato ma non ne hanno parlato pubblicamente. Se molti di loro seguissero Coxon, Wang, Thomas, Marks e Hubinger, la pressione sui principali laboratori di intelligenza artificiale affinché rallentino – e sugli enti regolatori affinché agiscano – non potrà che aumentare.
_Questo articolo si basa su un resoconto di The Guardian, con contesto aggiuntivo di CBS News, The Japan Times, Al Jazeera e BBC._
---
Rimani Aggiornato sull'IALe ultime notizie, analisi e scoperte sull'intelligenza artificiale — tutto in un posto.
Leggi altre notizie sull'IA →
