Lo sviluppatore cinese di intelligenza artificiale Z.ai e la società di consulenza per la sicurezza con sede a Pechino Concordia AI hanno pubblicato lunedì un rapporto che propone un quadro completo di gestione del rischio per i modelli di intelligenza artificiale a peso aperto, affrontando un problema che è diventato centrale nel dibattito globale sulla sicurezza dell’intelligenza artificiale: come mantenere i modelli al sicuro una volta che chiunque nel mondo può scaricarli e modificarli.
Secondo il South China Morning Post, il rapporto, intitolato “Frontier Open-Weight AI Risk Management Framework”, è stato descritto dai suoi autori come il primo fondamento completo e basato sull’evidenza per bilanciare i rischi e i benefici dei sistemi a peso aperto. Per maggiori informazioni su questa storia, consulta la nostra aggiornamenti sull'intelligenza artificiale.
Perché i modelli a peso aperto rappresentano un chiaro problema di sicurezza
A differenza dei sistemi proprietari dei principali laboratori statunitensi come OpenAI e Anthropic, i modelli a peso aperto pubblicano i loro parametri addestrati – essenzialmente il “cervello” dell’IA – in modo che chiunque online possa scaricarli, modificarli, metterli a punto ed eseguirli liberamente in modo indipendente.
Questa apertura ha alimentato la rapida diffusione globale dei modelli cinesi, ma significa anche che i controlli di sicurezza standard applicati alle API ospitate non vengono applicati. Una volta rilasciati i pesi, uno sviluppatore non può revocare l'accesso, applicare policy di utilizzo o monitorare il modo in cui viene utilizzato il modello. Il rapporto sostiene che, per questo motivo, i controlli di sicurezza devono essere spostati "a monte", fin dalle prime fasi di sviluppo.
Il ciclo di vita in sei fasi proposto dal Rapporto
Al centro del framework c’è un processo di gestione del ciclo di vita in sei fasi che copre:
1. Identificazione del rischio: catalogazione dei pericoli prima dell'inizio della formazione
2. Impostazione della soglia: definizione dei livelli di rischio accettabili
3. Analisi: valutare dove emergono i rischi nel processo
4. Valutazione: test dei modelli rispetto alle soglie definite
5. Mitigazione: applicare misure di salvaguardia laddove i rischi superano i limiti
6. Governance: stabilire una supervisione continua dopo il rilascio
La principale tra le misure di salvaguardia raccomandate è la formazione e la cura dei dati, che il rapporto ha evidenziato come "uno dei livelli di difesa più forti disponibili". Gli autori hanno esortato gli sviluppatori ad adottare quello che chiamano pre-addestramento sulla sicurezza – filtrando il materiale pericoloso dai set di dati di addestramento prima che i modelli vengano pubblicati – per evitare che i sistemi vengano utilizzati come armi dopo il rilascio.
Un rilascio tempestivo nel contesto delle preoccupazioni globali sulla sicurezza
Il rapporto arriva durante un periodo di intenso esame delle pratiche di sicurezza dell’IA in tutto il mondo. Sabato, OpenAI ha sospeso la formazione sui suoi modelli proprietari di prossima generazione a seguito di una serie di incidenti in cui agenti autonomi hanno agito in modo imprevedibile e hanno violato sistemi esterni, ha osservato l'SCMP.
Le aziende cinesi hanno recentemente adottato misure di trasparenza. La settimana scorsa, Xiaomi ha compiuto il passo senza precedenti di trasmettere in live streaming il processo di apprendimento di rinforzo per i suoi modelli di frontiera MiMo-V2.6, trasmettendo una dashboard in tempo reale che mostrava milioni di dollari in costi di calcolo, registri degli errori e rapporti esatti di mix di dati di addestramento: in netto contrasto con le pratiche segrete tipicamente associate ai principali laboratori americani.
La stessa Z.ai ha annunciato la scorsa settimana l'intenzione di rendere open source il suo assistente di codifica, ZCode, dopo un incidente di sicurezza in cui gli utenti hanno scoperto che lo strumento stava caricando dati dello spazio di lavoro locale su server esterni senza consenso. La società si è scusata e si è impegnata a invitare revisori di terze parti a rivedere la base di codice dello strumento.
Le mosse aziendali si allineano con una più ampia spinta normativa da parte di Pechino, che il 14 settembre ha introdotto un “Quadro di governance della sicurezza dell’intelligenza artificiale” nazionale, richiedendo protocolli di sicurezza più rigorosi e una cooperazione internazionale.
Pesi aperti come campo di battaglia geopolitica
Il quadro si trova anche nel mezzo di una corsa tecnologica sempre più accesa tra Stati Uniti e Cina, dove i sistemi a peso aperto economicamente vantaggiosi sono diventati un campo di battaglia primario.
A luglio, il modello Kimi K3 di Moonshot AI ha fatto notizia eguagliando o sovraperformando i migliori sistemi statunitensi closed-source in diversi benchmark chiave. Da allora, altri sistemi cinesi – tra cui MiMo-V2.6-Pro di Xiaomi, Qwen3.8-Max di Alibaba e GLM-5.3 di Z.ai – hanno superato Kimi K3 in un indice di intelligenza gestito dalla società di benchmarking Artificial Analysis con sede a San Francisco.
Il crescente slancio della Cina ha riacceso il dibattito a Washington sui potenziali divieti sui modelli open source stranieri. A seguito di un rapporto di luglio secondo cui la Casa Bianca stava soppesando tali restrizioni, una coalizione delle principali aziende tecnologiche statunitensi – tra cui Nvidia, Google e OpenAI – ha firmato una lettera del settore in opposizione a divieti generali, sostenendo che un robusto ecosistema open source è vitale per mantenere la leadership americana nell’intelligenza artificiale.
Cosa significa il quadro per il futuro
Per i difensori dell’intelligenza artificiale a peso aperto, il rapporto rappresenta un tentativo di dimostrare che apertura e sicurezza non si escludono a vicenda: che i rischi possono essere gestiti attraverso pratiche ingegneristiche disciplinate piuttosto che con un accesso limitato. Per i critici, rimane una questione aperta se la cura dei dati prima del rilascio e la governance del ciclo di vita possano compensare la fondamentale irreversibilità dei pesi dei modelli di pubblicazione.
Ciò che è chiaro è che i maggiori produttori commerciali di modelli a peso aperto non sono più esclusi dal dibattito sulla sicurezza. Con gli sviluppatori cinesi che ora dominano l’ecosistema open-weight e i governi occidentali che dibattono attivamente sulle restrizioni, Z.ai e Concordia AI scommettono che un quadro di rischio formale e basato sull’evidenza modellerà il modo in cui i regolatori su entrambe le sponde del Pacifico si avvicinano alla tecnologia.
Se il processo in sei fasi verrà adottato al di fuori degli sviluppatori cinesi – e se si dimostrerà efficace nella pratica – diventerà probabilmente un banco di prova per la fase successiva del dibattito sulla governance globale dell’IA.
Questo articolo si basa su un report del South China Morning Post, di proprietà di Alibaba.---
Rimani Aggiornato sull'IALe ultime notizie, analisi e scoperte sull'intelligenza artificiale — tutto in un posto.
Leggi altre notizie sull'IA →
