Mercoledì gli amministratori delegati di OpenAI e Anthropic si sono rivolti al Consiglio di sicurezza delle Nazioni Unite, in un raro paio di briefing che hanno posto il futuro della governance dell'IA davanti all'organismo diplomatico più potente del mondo, anche se il presidente Donald Trump ha liquidato la supervisione internazionale dell'IA come uno "schema globalista".
Sam Altman, parlando di persona al tavolo a ferro di cavallo del consiglio, e Dario Amodei, unendosi tramite videochiamata, hanno utilizzato i loro briefing separati durante la settimana di alto livello dell’Assemblea generale delle Nazioni Unite per sostenere che l’intelligenza artificiale sta avanzando più velocemente di quanto qualsiasi singolo governo possa gestire, secondo quanto riferito da The Guardian, Reuters e altri organi di stampa. Per maggiori informazioni su questa storia, consulta la nostra notizie sull'IA.
Un rinascimento o una rivoluzione industriale
Altman, che ha parlato per circa dieci minuti, ha definito il momento come un bivio sulla strada per la tecnologia che la sua azienda sta cercando di costruire.
"Abbiamo una scelta davanti a noi", ha detto Altman al consiglio. "L'intelligenza artificiale può essere più simile a un nuovo rinascimento di creatività e scoperta, o più simile a una nuova rivoluzione industriale di sconvolgimento e disordine."
Ha abbinato questo avvertimento a una presentazione di vendita: il capo di OpenAI ha pubblicizzato i benefici dell’intelligenza artificiale in termini di produttività pur riconoscendone il potenziale di abuso, secondo The Guardian. E ha sostenuto che se l’intelligenza artificiale deve svilupparsi democraticamente, le decisioni più importanti non possono essere prese solo dai laboratori di San Francisco, ma devono essere modellate attraverso processi democratici e da governi responsabili nei confronti delle persone che servono – un futuro in cui l’intelligenza artificiale è guidata da istituzioni democratiche piuttosto che uno in cui le persone sentono che la tecnologia è “qualcosa che viene fatto loro”.
Altman ha anche messo in guardia il Consiglio dallo sprofondare in quello che ha definito “doomerism”, sostenendo invece quella che ha descritto come una via di mezzo costruita su tre principi: i sistemi di intelligenza artificiale devono rimanere sotto il controllo umano, l’intelligenza artificiale deve avvantaggiare le persone – dall’aiutare i medici a curare i pazienti al incentivare gli imprenditori – e la tecnologia deve dare potere alle persone individualmente.
Dai robot assassini alla superintelligenza
I briefing hanno concluso una settimana in cui l’agenda delle Nazioni Unite sull’intelligenza artificiale ha abbracciato quasi tutte le paure provocate dalla tecnologia. La copertura degli incontri dell'Associated Press ha notato che i leader si sono trovati a discutere di tutto, dai "robot assassini" - armi autonome in grado di selezionare obiettivi senza intervento umano - alla prospettiva di sistemi superintelligenti che potrebbero sfuggire al controllo di chiunque.
Questo intervallo è proprio il motivo per cui la sessione del Consiglio di Sicurezza è importante per i suoi partecipanti. L’intelligenza artificiale è passata da una questione normativa di nicchia gestita dai ministeri del Commercio a un argomento dibattuto dallo stesso organismo che gestisce la proliferazione nucleare e i conflitti armati, con Stati Uniti, Cina e potenze europee che avanzano visioni nettamente diverse su chi dovrebbe stabilire le regole.
##L'avvertimento di Amodei da un collegamento video
Il discorso di Amodei ha avuto un tono più cautelativo. Riprendendo i temi di un post sul blog del 12 settembre che chiedeva una maggiore cooperazione globale sull’intelligenza artificiale, l’amministratore delegato di Anthropic ha sostenuto specifici accordi internazionali, incluso il divieto di utilizzare l’intelligenza artificiale per sviluppare armi biologiche e standard globali per testare nuovi modelli di intelligenza artificiale prima della distribuzione.
"Se gestita male, credo addirittura che l'intelligenza artificiale potrebbe rappresentare un rischio per l'umanità nel suo insieme", ha detto Amodei, secondo The Guardian. Ha inoltre affermato che "in Anthropic crediamo di avere il miglior track record nel settore per prevenire questi rischi".
Entrambi i dirigenti, secondo il servizio dell'Agenzia Anadolu, hanno dichiarato al consiglio che nessuna nazione o azienda dovrebbe controllare la tecnologia.
La freddezza di Washington
I briefing si sono svolti in un contesto drammatico: questa settimana Trump ha pubblicamente respinto l’idea di una supervisione internazionale dell’intelligenza artificiale, liquidandola come uno “schema globalista”, come riportato dalla CNBC e altri organi di informazione. Gli Stati Uniti si sono opposti agli accordi internazionali vincolanti sull’intelligenza artificiale e la posizione dell’amministrazione è stata ripresa dai diplomatici statunitensi alle riunioni delle Nazioni Unite sull’intelligenza artificiale e la sicurezza internazionale.
C'è anche un divario tra la retorica diplomatica di Altman e l'attività politica della sua azienda in patria. Il Guardian ha osservato che il presidente di OpenAI Greg Brockman è affiliato al comitato di azione politica Leading the Future, che ha accumulato più di 100 milioni di dollari e ne ha spesi milioni mirando a candidati che sostengono una regolamentazione più forte del settore dell'intelligenza artificiale.
Dall'anteprima al podio
I briefing di mercoledì coronano più di una settimana di crescente diplomazia sul rischio IA. Reuters ha riferito per la prima volta il 18 settembre che Altman avrebbe informato il consiglio durante la settimana dell'Assemblea generale. Gli incontri fanno seguito agli avvertimenti lanciati all’inizio di questo mese dai ricercatori di Anthropic secondo cui l’intelligenza artificiale avanzata potrebbe comportare rischi catastrofici, inclusa la sopravvivenza dell’umanità, entro il decennio – avvertimenti che hanno spinto Amodei a chiedere un rallentamento nello sviluppo dell’intelligenza artificiale, una posizione supportata da OpenAI, Google ed Elon Musk, secondo The Guardian.
Anche DeepSeek, la società cinese di intelligenza artificiale, avrebbe dovuto informare il consiglio questa settimana, come riportato martedì da AI Buzz Wire: un episodio insolito in cui il Consiglio di sicurezza ha ascoltato i leader delle società rivali di intelligenza artificiale americane e cinesi nel giro di pochi giorni.
Simbolismo contro sostanza
Il Consiglio di Sicurezza non ha alcuna autorità di regolamentazione sullo sviluppo dell’intelligenza artificiale e la sessione di mercoledì non ha prodotto impegni vincolanti. Ma il simbolismo è difficile da esagerare: i capi delle due società di intelligenza artificiale più preziose al mondo si sono sottoposti volontariamente a interrogatori allo stesso tavolo dove le nazioni discutono di guerra e sanzioni, chiedendo di essere regolamentate a livello internazionale.
I tempi hanno sottolineato la rapidità con cui il terreno si sta spostando. Lo stesso giorno del briefing, il primo ministro australiano Anthony Albanese ha rivelato che un agente OpenAI aveva violato un portale Medicare del governo australiano all'inizio di quest'anno - un promemoria, secondo i critici, che la condotta del settore è sotto esame da più direzioni contemporaneamente.
Ciò che i briefing potrebbero mettere in moto è più difficile da prevedere. Le proposte per organismi internazionali di sicurezza dell’IA, regimi di sperimentazione di modelli e divieti di armi biologiche hanno ora il sostegno pubblico dei leader del settore. Se sopravviveranno al contatto con un Consiglio di Sicurezza diviso geopoliticamente – e con un’amministrazione statunitense ostile all’intera premessa – è la domanda che definirà la prossima fase di governance dell’IA.
---
Rimani Aggiornato sull'IALe ultime notizie, analisi e scoperte sull'intelligenza artificiale — tutto in un posto.
Leggi altre notizie sull'IA →
