OpenAI ha rallentato il rilascio del suo prossimo modello Astra dopo che il modello ha dimostrato capacità di sicurezza informatica sufficientemente forti da innescare una pausa interna, ha confermato la società il 7 agosto 2026. Astra, secondo quanto riferito, si è avvicinata a quella che OpenAI classifica come soglia di rischio informatico "critica", rendendolo il primo modello ad avvicinarsi a questo livello nel quadro di sicurezza dell'azienda.

Per le ultime notizie sulla sicurezza dell'intelligenza artificiale e la copertura politica, visitare AI Buzz Wire.

Cosa è successo

Axios ha segnalato per la prima volta lo sviluppo il 7 agosto, descrivendolo come una rivelazione esclusiva secondo cui OpenAI stava rallentando il rilascio di Astra citando le capacità informatiche. The Verge ha descritto la situazione come se OpenAI avesse frenato un nuovo modello perché ritenuto troppo potente in alcuni ambiti rilevanti per la sicurezza.

Bloomberg ha riferito che OpenAI ha sospeso alcuni lavori sul modello Astra specificamente a causa di preoccupazioni informatiche. Il Guardian ha confermato che la pausa era legata a considerazioni di sicurezza relative alle capacità del modello.

Risposta di OpenAI

OpenAI ha pubblicato un post sul blog intitolato "Rispondere alla prossima frontiera delle capacità informatiche critiche" il 7 agosto, delineando il suo approccio alla gestione dei modelli che si avvicinano a soglie pericolose nei settori della sicurezza informatica.

Forbes ha riferito il 9 agosto che OpenAI ha messo in pausa Astra dopo che il modello si era avvicinato al primo livello di rischio informatico "critico" nell'ambito del quadro di preparazione dell'azienda. Ciò segna un momento significativo nella governance della sicurezza dell’IA, poiché nessun modello precedente si era avvicinato a questa classificazione.

La CNBC ha riferito il 10 agosto che OpenAI ha rafforzato i controlli sul nuovo modello mentre il più ampio dibattito sulla sicurezza dell’IA si intensificava. La rete ha osservato che la decisione arriva nel mezzo di un’ondata di hack di modelli di intelligenza artificiale e di un crescente controllo su come i modelli di frontiera gestiscono le attività di sicurezza informatica.

La soglia della capacità critica

Il quadro di preparazione di OpenAI classifica i rischi del modello in diversi ambiti, inclusa la sicurezza informatica, e assegna livelli di rischio che vanno da basso a critico. Il livello critico rappresenta le capacità che potrebbero contribuire in modo significativo ad attacchi informatici sofisticati, come la scoperta di nuove vulnerabilità, la scrittura di codici di exploit o l’automazione di operazioni offensive su larga scala.

Secondo Help Net Security, OpenAI ha bloccato Astra su potenziali capacità informatiche critiche. La struttura dell'azienda richiede ulteriori misure di sicurezza, valutazioni e potenzialmente una revisione esterna prima che un modello con questo livello di rischio possa essere rilasciato.

Il fatto che Astra si sia avvicinata a questa soglia riflette il rapido avanzamento dei modelli di frontiera. Man mano che i modelli diventano più capaci di codifica, ragionamento e analisi di sistema, la loro potenziale utilità sia nella sicurezza informatica difensiva che offensiva cresce proporzionalmente.

Perché è importante

La pausa Astra rappresenta un banco di prova significativo per gli impegni volontari in materia di sicurezza dell’IA. La decisione di OpenAI di rallentare il rilascio di un modello di punta sulla base di valutazioni di sicurezza interne dimostra che le soglie delle capacità di frontiera non sono meri costrutti teorici. Vengono innescati da modelli reali.

Questo sviluppo arriva in un momento di crescente preoccupazione per le minacce informatiche legate all’intelligenza artificiale. The Hacker News ha osservato che il prossimo modello di OpenAI ha mostrato prestazioni informatiche abbastanza forti da innescare una pausa. La comunità della sicurezza informatica ha osservato attentamente se i modelli di intelligenza artificiale di frontiera potrebbero essere utilizzati per automatizzare il rilevamento delle vulnerabilità o generare codici di exploit su larga scala.

Gizmodo ha offerto un quadro più scettico, suggerendo che i modelli più potenti non sono gli unici in grado di causare gravi incidenti di sicurezza informatica, sottolineando che modelli minori sono già stati implicati in attacchi nel mondo reale.

Il contesto politico più ampio

La pausa Astra arriva in un contesto normativo in via di intensificazione. La legge sull’intelligenza artificiale dell’Unione europea comprende disposizioni per i sistemi di intelligenza artificiale ad alto rischio e gli Stati Uniti hanno sviluppato un proprio quadro per governare le capacità di intelligenza artificiale di frontiera. Gli osservatori del settore notano che le pause volontarie di sicurezza da parte di aziende come OpenAI potrebbero orientare i futuri approcci normativi.

La decisione solleva anche questioni di concorrenza. Se OpenAI rallentasse la cadenza di rilascio a causa di problemi di sicurezza mentre i concorrenti si muovessero più velocemente, le dinamiche del mercato potrebbero cambiare. Tuttavia, OpenAI sembra scommettere sul fatto che un’implementazione responsabile creerà una fiducia a lungo termine con i clienti aziendali e le autorità di regolamentazione.

Cosa verrà dopo

OpenAI non ha annunciato una tempistica rivista per il rilascio di Astra. Il post sul blog dell'azienda suggerisce che sta sviluppando nuovi metodi di valutazione e protocolli di sicurezza appositamente progettati per modelli che si avvicinano ai livelli critici di capacità informatica.

La pausa evidenzia anche una crescente tensione nel settore dell’intelligenza artificiale. Man mano che i modelli diventano più capaci, diventa sempre più difficile tracciare il confine tra utili strumenti di sicurezza informatica e pericolose capacità offensive. Il modo in cui le aziende percorrono questa linea può determinare non solo la roadmap dei propri prodotti, ma anche la forma della governance dell’intelligenza artificiale per gli anni a venire.

Stai al passo con l'intelligenza artificiale

Per una copertura approfondita delle politiche, della sicurezza e degli sviluppi dei modelli di frontiera in materia di intelligenza artificiale, seguire AI Buzz Wire.

Leggi altre notizie sull'AI