NSA, CISA e FBI nominano sei aziende cinesi di intelligenza artificiale nella consulenza sulla distillazione su scala industriale

In un avviso pubblicato martedì, la National Security Agency, la Cybersecurity and Infrastructure Security Agency e l’FBI hanno accusato congiuntamente sei società di intelligenza artificiale con sede in Cina di condurre campagne di distillazione su scala industriale contro i modelli di frontiera degli Stati Uniti. Le agenzie affermano che DeepSeek, Moonshot AI, Alibaba, MiniMax, StepFun e Z.AI hanno estratto miliardi di token in milioni di scambi e richieste dai modelli di intelligenza artificiale di frontiera degli Stati Uniti - comprese le varianti di Claude, GPT, Gemini e Grok - almeno dalla fine del 2024, un'attività che, secondo l'avviso, probabilmente è avvenuta con la consapevolezza del governo cinese.

L'avviso, denominato AA26-251A, fa attenzione a sottolineare che la distillazione è una tecnica legittima e ampiamente utilizzata nella ricerca sull'intelligenza artificiale, in cui un modello più piccolo viene addestrato a riprodurre i risultati di uno più grande. Ciò che le tre agenzie descrivono è di natura diversa: una distillazione aggressiva, dannosa e mirata condotta su scala industriale, che costituisce quello che il documento definisce il nucleo – non semplicemente un supplemento – della strategia di sviluppo dell’intelligenza artificiale delle aziende prese di mira. Per le ultime notizie sulla politica dell'intelligenza artificiale, segui la copertura continua di AI Buzz Wire sull'agenda normativa di Washington. ultime notizie sulla politica dell'IA

Chi viene nominato e cosa presumibilmente hanno preso

L'avviso attribuisce campagne specifiche a società specifiche. Si dice che DeepSeek abbia condotto campagne di distillazione organizzate almeno dal 2024 mirando a capacità di ragionamento, ottimizzazioni specializzate e funzioni specifiche del dominio che sono state utilizzate per addestrare i suoi modelli R1 e V3. Alibaba è accusata di sfruttare la distillazione su scala industriale per migliorare la sua famiglia di modelli Qwen, che è diventata una delle famiglie di modelli a peso aperto più scaricate al mondo.

Anche Moonshot AI, MiniMax, StepFun e Z.AI sono accusati di essere coinvolti nella distillazione di informazioni dannose su modelli statunitensi, sebbene l'avviso pubblichi meno dettagli specifici dell'azienda per i quattro. Tutte e sei le aziende hanno costruito modelli che ora competono direttamente con i sistemi di frontiera americani in termini di parametri di riferimento e prezzo.

Come presumibilmente funzionavano le campagne

Secondo il documento, le società hanno indirizzato le richieste di distillazione attraverso molteplici percorsi per ottenere un accesso non autorizzato violando i termini di utilizzo delle società statunitensi. Tra questi figurano le interfacce di programmazione delle applicazioni native dei modelli, fornitori di servizi cloud remoti e aggregatori di terze parti che offuscano automaticamente i metadati degli utenti per evitare il rilevamento.

Le agenzie descrivono anche un mercato grigio di proxy noti come “stazioni di trasferimento” utilizzati per aggirare le restrizioni geografiche dei fornitori statunitensi, violare i termini di servizio, eludere le garanzie e minare la tracciabilità. Per contenere i costi durante campagne di questa portata, l’avviso afferma che le aziende si sono impegnate nell’approvvigionamento in blocco di abbonamenti premium che sono stati poi condivisi tra team di sviluppatori.

Tattiche più avanzate includevano l'estrazione di ragionamenti basati sulla catena di pensiero, il failover automatizzato tra i percorsi di accesso durante i tentativi di blocco e sofisticati quadri di valutazione della qualità progettati per rilevare quando un fornitore aveva implementato contromisure difensive. Il vantaggio, scrivono le agenzie, è che le aziende che effettuano distillazioni su scala industriale vedono tempi di sviluppo dell’intelligenza artificiale significativamente più brevi e spese finanziarie ridotte quando addestrano un modello di frontiera.

Tre raccomandazioni per le aziende di intelligenza artificiale statunitensi

L’avviso si chiude con tre azioni immediate per i fornitori americani di intelligenza artificiale. Innanzitutto, implementare un rilevamento e una mitigazione completi: monitorare richieste, account, reti e comportamenti anomali e dannosi e monitorare i rapporti tra abbonamento e utilizzo, l'utilizzo massimo immediato da parte di nuovi account e i modelli di throughput su scala aziendale.

In secondo luogo, implementare modifiche di risposta mirate. Le agenzie raccomandano di alterare sottilmente le risposte fornite ai sospetti tentativi di distillazione dannosi al fine di attenuare i profitti delle campagne – una forma di contromisura che degrada il valore dei prodotti rubati senza allertare il distillatore.

In terzo luogo, stabilire la condivisione dell’intelligence tra organizzazioni per correlare l’attività tra fornitori di modelli, piattaforme cloud e aggregatori API, in modo che le campagne deliberatamente distribuite tra più fornitori per evitare il rilevamento puntuale possano essere riconosciute come un’unica operazione.

Una nuova fase nella disputa sull’intelligenza artificiale tra Stati Uniti e Cina

La pubblicazione arriva nel mezzo di una più ampia escalation nella retorica di Washington sullo sviluppo dell’intelligenza artificiale cinese. Reuters ha riferito che gli Stati Uniti hanno accusato le aziende cinesi di intelligenza artificiale di copia dannosa della tecnologia di intelligenza artificiale americana, e l’avviso è stato coperto martedì da CyberScoop, Nextgov e altri organi di informazione che seguono la comunità dell’intelligence. Il documento inquadra la posta in gioco in termini esplicitamente strategici, descrivendo l’attività come un’estrazione sistematica di funzionalità e capacità proprietarie che minacciano la leadership tecnologica degli Stati Uniti.

Per le sei società citate, la consulenza aumenta il costo reputazionale e commerciale del servizio ai clienti occidentali. Alibaba e DeepSeek in particolare hanno coltivato ecosistemi di sviluppatori al di fuori della Cina, ed entrambi sono apparsi in conversazioni sugli appalti aziendali che ora porterebbero un’ulteriore questione di conformità. Nessuna delle sei società è soggetta direttamente alle raccomandazioni dell'avviso (il documento si rivolge alle società statunitensi di intelligenza artificiale) ma il suo effetto è quello di formalizzare ciò che i laboratori americani sostengono privatamente da due anni: che i loro modelli sono stati sistematicamente copiati su larga scala.

L’avviso si colloca inoltre nel mezzo di un dibattito irrisolto all’interno del settore dell’intelligenza artificiale su dove finisce l’apprendimento legittimo e inizia il furto. La distillazione da modelli a peso aperto, ricerche pubblicate e risultati pubblici è una pratica standard; Gli autori dell'avviso pongono un limite all'estrazione di funzionalità proprietarie limitate attraverso l'inganno, l'evasione dei controlli di accesso e la violazione dei termini di utilizzo. Il modo in cui questa linea viene applicata – attraverso contromisure tecniche, diritto contrattuale o politica di esportazione – è ora la domanda a cui l’industria e i suoi regolatori dovranno rispondere.

Stai al passo con l'intelligenza artificiale

Segui gli ultimi sviluppi dell'intelligenza artificiale e le ultime notizie sull'intelligenza artificiale mentre la battaglia politica sulla sicurezza dei modelli si intensifica.

Leggi altre notizie sull'AI →