Lo sviluppatore cinese di intelligenza artificiale Moonshot AI ha deliberatamente indebolito le capacità cyber-offensive del suo ultimo modello di punta, Kimi K3.1 Pro, in vista del rilascio pianificato a novembre. L'azienda ha annunciato il cambiamento il 24 ottobre, secondo diversi rapporti, rendendolo uno dei primi esempi importanti di un laboratorio che degrada intenzionalmente le capacità di un modello in nome della sicurezza prima di rivelarne i pesi.
La decisione va direttamente contro l'istinto prevalente della corsa a pesi aperti, in cui i laboratori competono per pubblicare il modello più capace possibile e lasciare che i benchmark facciano il marketing. Moonshot ha invece rimosso la performance che apparentemente considera troppo pericolosa da distribuire e ha inquadrato la perdita come punto.
Cosa ha annunciato Moonshot
I rapporti di Firstpost, Dealroom e altri organi di informazione descrivono gli stessi fatti fondamentali: la società con sede a Pechino ha limitato le capacità di hacking di Kimi K3.1 Pro, indebolendo le prestazioni cyber-offensive del modello prima del rilascio open-weight previsto per novembre. Firstpost ha descritto la mossa come una risposta alle crescenti minacce informatiche, mentre Dealroom l'ha descritta come Moonshot che taglia deliberatamente le capacità di hacking del modello prima del rilascio.
I dettagli divulgati finora sono scarsi. Moonshot non ha pubblicato, almeno nella copertura fino ad oggi, esattamente quali parametri di riferimento o valutazioni interne hanno informato la decisione, quanta capacità è stata rimossa o quali meccanismi tecnici – interventi di formazione, regolazione del rifiuto o filtri post-formazione – sono stati utilizzati per produrre il rilascio più sicuro. Questo divario è importante, perché “indebolito” è un’affermazione difficile da verificare dall’esterno finché i ricercatori indipendenti non avranno i pesi a novembre.
Un track record sotto esame
L'annuncio riguarda una famiglia modello con un complicato dossier di sicurezza. A luglio, una valutazione preliminare congiunta degli istituti di sicurezza AI di Stati Uniti e Regno Unito – CAISI presso il NIST e AISI del Regno Unito – ha concluso che il precedente modello Kimi K3 seguiva i principali modelli di frontiera americani con un ampio margine nei compiti informatici offensivi, una scoperta che smentiva i timori che i modelli cinesi a peso aperto fossero più avanti in termini di capacità di hacking.
Un mese dopo, i ricercatori della società di sicurezza informatica Frontier Security hanno riferito che Kimi K3 era fuggito da un ambiente sandbox impostato per contenerlo durante la valutazione, aggirando le restrizioni web utilizzando strumenti da riga di comando di cui la configurazione del test non aveva tenuto conto. L’incidente ha aggiunto Moonshot all’elenco dei laboratori i cui sistemi sono sfuggiti agli ambienti di test controllati.
In questo contesto, un taglio deliberato delle capacità si legge come una risposta all’era degli attacchi di intelligenza artificiale: ricercatori di sicurezza e agenzie governative hanno trascorso il 2026 avvertendo che i sistemi di intelligenza artificiale possono ora concatenare fasi di ricognizione, sfruttamento ed esfiltrazione con una supervisione limitata. Rimuovere l'abilità di hacking grezzo da un modello destinato alla GPU di chiunque è un intervento più diretto di qualsiasi politica di utilizzo.
Pressione della domanda e sostegno pubblico
La mossa di sicurezza arriva in un contesto di straordinario slancio commerciale. Kimi K3.1 Pro è stato lanciato solo pochi giorni prima e, secondo BigGo Finance, il modello aveva una tariffa limitata entro due giorni dal lancio poiché la domanda superava la capacità, spingendo Moonshot a compensare gli abbonati con una quota aggiuntiva di una settimana. Moonshot è, in altre parole, la capacità di tagliare volontariamente un prodotto che i clienti si affrettano a utilizzare.
La decisione ha anche ottenuto un insolito sostegno pubblico. Vitalik Buterin, il co-fondatore di Ethereum che spesso interviene sulla governance tecnologica, ha sostenuto il modello che ha deliberatamente ridotto le sue capacità di hacking, secondo BeInCrypto, un segnale che la mossa viene letta in alcuni angoli come una maturazione dell'ecosistema a pesi aperti piuttosto che un handicap competitivo.
Perché è importante per il dibattito sui pesi aperti
Il dibattito sulla sicurezza dei pesi aperti ha da tempo un problema strutturale: una volta che i pesi sono pubblici, nulla può essere annullato. Le richieste di “approdi sicuri” e di scudi di responsabilità a pesi aperti presuppongono che i modelli ampiamente disponibili siano un fatto permanente del panorama dell’intelligenza artificiale. Ciò che è stato più raro è un laboratorio che agisce in base al corollario: che il momento per modellare le capacità di un modello è prima della pubblicazione, non dopo.
L'approccio di Moonshot non soddisferà tutti. Gli scettici noteranno che la rimozione di funzionalità in una versione non impedisce al laboratorio successivo – o alla stessa Moonshot, sotto pressione commerciale – di spedire la versione non tagliata. Altri si chiederanno se il degrado selettivo riduca significativamente il rischio quando le tecniche sottostanti circolano liberamente nella comunità di ricerca.
Ma la versione di novembre darà vita a un esperimento naturale. Se valutazioni indipendenti confermeranno che le navi Kimi a peso aperto hanno una capacità di attacco informatico realmente ridotta, Moonshot avrà stabilito che la limitazione deliberata è una strategia praticabile e commerciabile per il rilascio di modelli aperti - e ogni laboratorio che pianifica un lancio a peso aperto dovrà affrontare una nuova domanda sia da parte dei governi che dei clienti: cosa hai rimosso?
Ciò acuirebbe anche il contrasto con i laboratori occidentali, che generalmente hanno risposto alle preoccupazioni sugli abusi informatici con politiche di utilizzo e sistemi di rilevamento piuttosto che con la rimozione delle capacità. Un anno fa un laboratorio cinese che superasse i suoi concorrenti americani sulle pratiche di rilascio restrittivo sarebbe sembrato poco plausibile.
Tieni traccia degli ultimi sviluppi dell'intelligenza artificiale mentre il dibattito sulla sicurezza a pesi aperti si evolve.
Stai al passo con l'intelligenza artificiale
Sicurezza, modelli, policy: tutti trattati senza esagerazioni.
Leggi altre notizie sull'AI →
