La startup cinese di intelligenza artificiale DeepSeek sarà tra le aziende che questa settimana informeranno il Consiglio di sicurezza delle Nazioni Unite sui rischi posti dall'intelligenza artificiale, hanno detto a Reuters due fonti vicine alla questione, mentre i leader mondiali si riuniscono a New York per l'Assemblea generale annuale delle Nazioni Unite.
Il Consiglio di Sicurezza formato da 15 membri si riunirà il 23 settembre per discutere di intelligenza artificiale e sicurezza internazionale, settimane dopo che diversi leader del settore dell’intelligenza artificiale hanno chiesto un rallentamento coordinato dello sviluppo di sistemi di intelligenza artificiale sempre più potenti, avvertendo che potrebbero presto migliorare da soli e sfuggire al controllo umano. Per ulteriori informazioni su questa storia, consulta la nostra copertura del settore dell'intelligenza artificiale in corso.
Chi sarà nella stanza
L'amministratore delegato di OpenAI, Sam Altman, prevede di informare l'incontro, al quale i diplomatici si aspettano anche la partecipazione di rappresentanti senior di Anthropic, ha riferito Reuters la scorsa settimana.
Da parte cinese, DeepSeek e altre aziende cinesi di intelligenza artificiale, tra cui Moonshot, sono state invitate a rilasciare dichiarazioni, ha detto una delle fonti. Il fondatore di DeepSeek, Liang Wenfeng, non ha intenzione di partecipare, ha avvertito la fonte, sottolineando che i piani rimangono fluidi e potrebbero cambiare all'ultimo minuto. DeepSeek e Moonshot non hanno risposto immediatamente alle richieste di commento.
La sessione si svolge durante una settimana in cui New York è già affollata di diplomazia dell’intelligenza artificiale, mentre i leader mondiali si riuniscono per l’Assemblea generale annuale delle Nazioni Unite e attorno ad essa si moltiplicano gli incontri collaterali. Questa tempistica va in entrambe le direzioni per DeepSeek: l’imprimatur del consiglio segnala che i principali laboratori cinesi sono ora trattati come voci indispensabili sul rischio dell’intelligenza artificiale di frontiera, anche se la posizione ufficiale di Pechino continua a respingere la retorica di rallentamento che emerge dalla Silicon Valley.
L'insolito schieramento - il più importante dirigente americano nel campo dell'intelligenza artificiale che condivide l'agenda del Consiglio di sicurezza con il più noto laboratorio cinese a peso aperto - rende la sessione di mercoledì l'incontro sull'intelligenza artificiale più importante che il consiglio abbia tenuto da quando ha affrontato l'argomento per la prima volta.
Da "Cavallo in fuga" all'intelligenza artificiale canaglia
Il Consiglio di Sicurezza delle Nazioni Unite, incaricato di mantenere la pace e la sicurezza internazionale, si è riunito per la prima volta sui rischi dell’intelligenza artificiale nel 2023. Anche allora, le linee di frattura erano visibili: la Cina ha avvertito che la tecnologia non dovrebbe diventare un “cavallo imbizzarrito”, mentre gli Stati Uniti hanno messo in guardia contro il suo utilizzo per censurare o reprimere le persone.
Tre anni dopo, il dibattito si è spostato dalle ipotesi alle relazioni sugli incidenti. La scorsa settimana il segretario generale delle Nazioni Unite Antonio Guterres ha avvertito i leader mondiali che il rapido progresso dell’intelligenza artificiale comporta rischi che non possono essere ignorati, mettendolo in contrasto con il presidente degli Stati Uniti Donald Trump, il quale ha sostenuto che le garanzie esistenti sono sufficienti e che la Cina trarrebbe beneficio dai dubbi espressi sullo sviluppo dell’intelligenza artificiale.
Silenzio pubblico di Pechino sul rischio catastrofico
Una delle osservazioni più puntuali contenute nel rapporto Reuters riguarda ciò che i leader dei laboratori cinesi non hanno detto. A differenza dei capi dei laboratori di frontiera statunitensi come OpenAI e Anthropic, i leader degli sviluppatori cinesi di punta hanno raramente articolato pubblicamente la possibilità che sistemi di intelligenza artificiale sempre più potenti possano ingannare gli esseri umani, eludere il controllo o causare danni catastrofici – e sono rimasti in gran parte in silenzio su questi rischi da quando il dibattito si è intensificato negli Stati Uniti a settembre.
I media statali cinesi, da parte loro, hanno respinto le richieste di rallentamento dello sviluppo dell’intelligenza artificiale come derivanti da un “manuale della guerra fredda” – uno sforzo, secondo Pechino, volto a preservare il dominio di Washington nella tecnologia all’avanguardia ed escludere completamente Pechino dal sistema di governance globale dell’intelligenza artificiale.
La presenza di DeepSeek al consiglio ha quindi un doppio significato: è allo stesso tempo l’impegno più visibile di Pechino nella conversazione globale sul rischio dell’intelligenza artificiale e una prova per verificare se i laboratori cinesi si impegneranno o meno nell’inquadramento del rischio catastrofico.
Discussioni in vista di Trump-Xi
La sessione del Consiglio di Sicurezza non è isolata. Alti funzionari statunitensi e cinesi hanno concordato di tenere ulteriori colloqui sulla sicurezza dell’intelligenza artificiale, ha dichiarato il segretario al Tesoro americano Scott Bessent il 21 settembre, dopo essersi incontrato prima dei colloqui programmati di Trump con il presidente cinese Xi Jinping più tardi questa settimana a Washington.
Questa sequenza – un vertice ad alto rischio a Washington parallelo a un dibattito del Consiglio di Sicurezza a New York – sottolinea quanto l’intelligenza artificiale sia passata da un dossier politico tecnico al centro della relazione bilaterale.
Cosa guardare
Tre domande incombono sulla riunione di mercoledì. Se Liang Wenfeng cambia idea e partecipa. Sia che la dichiarazione di DeepSeek affronti i rischi del mazzo di carte – inganno, perdita di controllo – che le sue controparti americane sottolineano, sia che rimanga su un terreno più sicuro di accesso equo e diritti di sviluppo. E se il Consiglio possa produrre qualcosa che vada oltre le posizioni familiari.
Il bilancio del Consiglio sull’intelligenza artificiale è scarso: una prima riunione nel 2023, l’avvertimento di un segretario generale questo mese e nessun quadro vincolante. Ma come palcoscenico per la disputa emergente tra Stati Uniti e Cina su chi stabilisce le regole per l’intelligenza artificiale di frontiera – e le cui paure vengono prese sul serio – ha pochi rivali.
---
Stai al passo con l'intelligenza artificialeRicevi le ultime notizie, analisi e scoperte sull'intelligenza artificiale, tutto in un unico posto.
Leggi altre notizie sull'AI →
