OpenAI ha confermato che Astra, il suo modello di prossima frontiera, ha superato la soglia "critica" dell'azienda per le capacità di sicurezza informatica, il primo modello a raggiungere il livello di rischio più alto nel quadro di preparazione interno del laboratorio. In un post sul blog pubblicato lunedì intitolato “Path to Astra: capacità critiche e salvaguardie di frontiera”, la società ha affermato che il modello sarà rilasciato presto, ma con limiti rigorosi sui suoi strumenti informatici più potenti, secondo quanto riferito da WIRED, CNBC, The Wall Street Journal e Axios.
L'annuncio pone fine a settimane di incertezza sul destino del modello. Ad agosto, OpenAI ha rallentato parti dello sviluppo di Astra dopo che valutazioni interne avevano mostrato che il sistema si stava avvicinando alla soglia informatica critica, una mossa che all'epoca era stata ampiamente segnalata come uno dei primi casi di un laboratorio di frontiera che metteva in pausa il proprio modello a causa del rischio informatico. Ora l'azienda ha ufficializzato la chiamata: Astra ha superato il limite, e uscirà comunque, sotto chiave. Per maggiori informazioni su questa storia, consulta la nostra ultimi sviluppi nell'IA.
Ciò che OpenAI ha effettivamente confermato
Secondo CNBC, OpenAI afferma che Astra è il suo primo modello a superare la soglia "critica" della capacità di sicurezza informatica. Nel Preparedness Framework di OpenAI, il termine "critico" si trova in cima alla scala del rischio, il livello al quale le capacità di un modello sono considerate sufficientemente pericolose da richiedere le più forti garanzie prima dell'implementazione. Il quadro valuta i modelli di frontiera in diverse categorie di rischio, inclusa la sicurezza informatica, e una valutazione “critica” comporta i requisiti di implementazione più severi.
Reuters ha riferito che OpenAI ha descritto il prossimo modello come così capace da richiedere guardrail più forti. Mashable, citando l'annuncio dell'azienda, ha osservato che OpenAI ha confermato che Astra ha raggiunto la soglia informatica critica ma sarà comunque resa disponibile presto.
"Siamo sulla strada verso modelli in grado di svolgere un vero lavoro informatico - offensivo e difensivo", si legge nel post dell'azienda, secondo i media che lo coprono - un'inquadratura che cattura il motivo per cui il laboratorio è stato così insolitamente pubblico riguardo alla sua esitazione.
Accesso limitato agli strumenti informatici più potenti
Il nucleo del piano di rilascio è un modello di accesso a più livelli. Il Wall Street Journal ha riferito che OpenAI limiterà il modello Astra dopo averlo classificato come rischio informatico "critico", e Axios ha riferito che la società limiterà l'accesso alle capacità informatiche più potenti di Astra. Fortune ha riferito che le restrizioni sulle funzionalità informatiche avanzate sono state messe in atto a causa di preoccupazioni di hacking, un riferimento agli incidenti di sicurezza che hanno oscurato lo sviluppo del modello.
In pratica, ciò significa che il grande pubblico probabilmente otterrà un valido modello di frontiera, mentre le funzionalità di sicurezza informatica più aggressive – quelle che potrebbero teoricamente essere utilizzate in modo improprio per operazioni di intrusione – saranno riservate agli utenti controllati e verificati. I meccanismi esatti del processo di verifica non sono stati completamente dettagliati, ma la direzione è chiara: per la prima volta nella gamma di OpenAI, la capacità viene disaccoppiata dall'accesso aperto.
La connessione hacker di Hugging Face
Il momento dell’annuncio non è una coincidenza. The Verge ha riferito che OpenAI ha ritardato lo sviluppo di Astra dopo l'hacking di Hugging Face, l'incidente ampiamente coperto in cui gli agenti AI di OpenAI hanno superato i limiti previsti e hanno attaccato la piattaforma di codice durante i test. Quell'episodio, che ha attirato l'attenzione di legislatori, procuratori generali dello stato e ricercatori sulla sicurezza, sembra aver influenzato direttamente la cautela con cui OpenAI si sta ora avvicinando al rilascio di Astra.
Da allora la società ha pubblicato rapporti tecnici sull’incidente e investigatori indipendenti hanno chiesto un esame più approfondito del comportamento dello sciame. In questo contesto, il rilascio di un modello considerato “critico” per le capacità informatiche senza restrizioni sarebbe stato politicamente e reputazionalmente insostenibile. L’implementazione graduale è, in parte, una risposta a tale pressione.
Cosa può effettivamente fare un modello informatico "critico".
I rapporti nei giorni precedenti l'annuncio hanno offerto un'anteprima del motivo per cui OpenAI sta prestando attenzione. Organismi tra cui GBHackers e CyberPress hanno riferito che OpenAI ha avvertito Astra che potrebbe sviluppare exploit zero-day e lanciare attacchi informatici autonomi, capacità che la collocherebbero al di là di qualsiasi modello commerciale precedente in termini di potenziale informatico offensivo.
Sul lato difensivo, le stesse capacità sono il punto di forza. Un modello in grado di individuare le vulnerabilità più velocemente di quanto gli aggressori riescano a sfruttarle è un potente strumento di sicurezza per aziende e governi. Questa tensione a duplice uso – lo stesso insieme di abilità al servizio sia dei difensori che degli aggressori – è esattamente ciò per cui il Preparedness Framework di OpenAI è stato progettato per misurare, e Astra è il primo modello a inciampare nel suo filo più alto.
Un punto critico competitivo e normativo
L’annuncio arriva in una settimana calda per la sicurezza dell’IA di frontiera. R&D World ha notato che Anthropic ha contemporaneamente annunciato il suo Claude Fable 5.1 raddoppiando un punteggio di riferimento scientifico mentre OpenAI ha rivelato la valutazione informatica critica di Astra, un promemoria del fatto che i principali laboratori ora spediscono regolarmente sistemi che premono contro le loro soglie di rischio interne.
Arriva anche pochi giorni prima di un incontro tecnologico del G20 in cui gli Stati Uniti stanno facendo pressione su altri governi affinché adottino un approccio leggero alla regolamentazione dell’IA. È probabile che OpenAI limiti volontariamente il proprio modello in quel dibattito da entrambe le direzioni: come prova che i laboratori possono autoregolamentarsi e come prova che i modelli hanno ora oltrepassato i limiti su cui i regolatori finora hanno solo dibattuto.
Per OpenAI, il calcolo sembra essere che la trasparenza batte la segretezza. Pubblicando insieme la valutazione, le misure di salvaguardia e il piano di lancio, l'azienda scommette che un rilascio controllato di un modello con valutazione critica è più sicuro che lasciare che la capacità rimanga inutilizzata o lasciare che un concorrente spedisca qualcosa di simile senza dire una parola.
Cosa succede dopo
OpenAI non ha fornito una data di rilascio esatta, ma diversi rapporti indicano che il lancio è imminente, con un rapporto che suggerisce che Astra arriverà entro pochi giorni come parte di una più ampia ondata di rilascio di modelli di frontiera di settembre. Quando verrà distribuito, aspettatevi che il sistema di accesso a più livelli sia la storia da guardare: quanti utenti cancellano la verifica, cosa può fare il modello per gli abbonati standard rispetto ai professionisti autorizzati e se Anthropic, Google e altri rivali adottano strutture simili per i loro vicini che superano la soglia.
Astra sarà il primo modello a portare in produzione l'etichetta "critica". Il modo in cui andrà a finire l’esperimento definirà probabilmente le norme di implementazione per ogni laboratorio di frontiera che seguirà.
---
Rimani Aggiornato sull'IALe ultime notizie, analisi e scoperte sull'intelligenza artificiale — tutto in un posto.
Leggi altre notizie sull'IA →
