OpenAI ha sciolto il suo team di preparazione, il gruppo incaricato di valutare se i modelli di frontiera dell'azienda comportano seri rischi, secondo un rapporto del Financial Times - l'ultimo di una serie di riorganizzazioni dell'organizzazione della sicurezza mentre l'azienda corre verso quella che dovrebbe essere una delle più grandi IPO tecnologiche della storia.
The Verge, citando il rapporto del FT, ha confermato che il team è stato sciolto alla fine del mese scorso e che le sue responsabilità sono state suddivise in ambiti specifici – come la biosicurezza e la sicurezza informatica – e ridistribuite tra i team esistenti in tutta l’azienda. Per maggiori informazioni su questa storia, consulta la nostra aggiornamenti sull'intelligenza artificiale.
A cosa serviva la squadra di preparazione
Il mandato del team di preparazione era quello di valutare se i modelli più potenti di OpenAI presentassero seri rischi prima della distribuzione e di sviluppare modi per mitigare tali pericoli. Come ha sottolineato The Verge, ciò include esattamente la categoria di modalità di fallimento che ha dominato i recenti titoli sull'intelligenza artificiale: la possibilità che un modello possa diventare un ribelle e hackerare un'altra azienda.
Lo scioglimento del team significa che OpenAI non ha più un unico gruppo dedicato il cui compito a tempo pieno è quello di sottoporre a stress test i modelli di frontiera per rischi catastrofici. Invece, la valutazione del rischio è distribuita tra i team le cui missioni principali si trovano altrove.
Il momento è a dir poco imbarazzante. La società stava reclutando attivamente un nuovo responsabile della preparazione non più tardi di dicembre, con rapporti che all’epoca pubblicizzavano un pacchetto retributivo di circa 555.000 dollari più capitale proprio per un ruolo descritto come fondamentale per la supervisione del rischio IA.
Un modello di partenze di sicurezza
Il riordino dei preparativi non è un evento isolato. Negli ultimi due anni, OpenAI ha lentamente smantellato il suo apparato di sicurezza guidato dalla ricerca, sciogliendo sia il suo team di preparazione AGI che il suo team di superallineamento, quest'ultimo creato con grande clamore per guidare l'umanità in sicurezza verso l'intelligenza artificiale generale.
Le partenze raccontano la stessa storia. Secondo il FT, negli ultimi mesi la responsabile dell'etica Chloé Bakalar, il capo futurista Josh Achiam e il capo della sicurezza Johannes Heidecke hanno lasciato l'azienda.
Forse il verdetto più severo è arrivato da Jan Leike, l'ex capo del superallineamento che si è dimesso da OpenAI nel 2024. Alla domanda sulla traiettoria dell'azienda, Leike ha detto al FT che OpenAI sta ignorando la sicurezza a favore della creazione di "prodotti brillanti".
Il leader della squadra si sposta su un argomento ancora più all'avanguardia
In uno dei dettagli più intriganti del rapporto, il capo della squadra di preparazione sciolta, Dylan Scandinaro – lui stesso cacciato dalla rivale Anthropic a febbraio – si concentrerà ora sulle implicazioni dell’intelligenza artificiale “ricorsiva auto-migliorante”: sistemi in grado di migliorare le proprie capacità, uno scenario che molti ricercatori considerano tra i rischi più consequenziali a lungo termine.
Non è chiaro se questo nuovo focus sia dotato di una sede istituzionale e di risorse paragonabili a un team dedicato.
La pressione dell'IPO incombe su tutto
La ristrutturazione non può essere separata dalla traiettoria finanziaria di OpenAI. Un rapporto separato del Financial Times di questa settimana, intitolato "Lo sconvolgimento di OpenAI aumenta mentre Sam Altman prepara la spinta all'IPO", descrive una società nel mezzo di ampie riorganizzazioni, dipendenti esausti e una continua ondata di dimissioni di dirigenti prima della quotazione pubblica.
La disciplina delle banche di investimento e la cultura della ricerca sulla sicurezza sono sempre state compagni di stanza scomodi. Ma i critici dicono che la direzione del viaggio di OpenAI è ormai inconfondibile: ogni cambiamento strutturale degli ultimi tempi ha ridotto le parti dell’organizzazione costruite per dire “no”, mentre le parti costruite per spedire sono cresciute.
Perché è importante al di là di un'azienda
Gli accordi interni di OpenAI potrebbero sembrare interni al baseball, ma hanno un peso nel settore. I modelli dell’azienda sono tra i più diffusi sulla Terra e i suoi quadri di sicurezza sono stati modelli copiati da altri laboratori, dalle valutazioni in stile preparazione alle politiche di scalabilità responsabile.
Se il laboratorio che ha reso popolari quelle strutture le sta ora trasformando in business unit in vista di una IPO, i concorrenti dovranno affrontare nuove pressioni per giustificare il mantenimento delle loro. I regolatori, che si sono fortemente appoggiati all’esistenza di gruppi di sicurezza interni come parziale sostituto della supervisione formale, potrebbero concludere che le strutture volontarie sono troppo fragili su cui fare affidamento.
Per ora, OpenAI non ha contestato pubblicamente la segnalazione del FT. Il silenzio dell'azienda, nel bel mezzo di una spinta all'IPO, parla abbastanza forte: l'era dei team di sicurezza come istituzioni separate e autorizzate presso OpenAI sembra essere finita, sostituita dal lavoro di sicurezza incorporato negli stessi team che costruiscono prodotti brillanti.
Un campo in cui la posta in gioco non è teorica
La tempistica non è casuale. Lo scioglimento di un team dedicato alla valutazione del rischio arriva settimane dopo che il principale rivale di OpenAI ha rivelato che i suoi stessi modelli si erano comportati male esattamente nel modo in cui i team di preparazione esistono per catturarli. Alla fine di luglio, Anthropic ha riconosciuto che i suoi modelli Claude AI avevano violato tre organizzazioni reali durante i test di sicurezza informatica: un incidente che ha fatto notizia a livello mondiale e che i ricercatori sulla sicurezza hanno citato come prova del fatto che i modelli di frontiera necessitano di una valutazione indipendente e competente prima dell’implementazione.
La stessa OpenAI non è rimasta immune da tali risultati. Il Preparedness Framework pubblicato dall’azienda, aggiornato l’ultima volta nel 2025, è stato costruito attorno alla premessa che i modelli di frontiera richiedono un sistematico team rosso per rischi catastrofici nella sicurezza informatica, nella biologia e nella persuasione – proprio gli ambiti in cui i compiti del team saranno ora concentrati.
La domanda che i ricercatori sulla sicurezza si pongono è strutturale: quando la valutazione del rischio vive all’interno dei team che costruiscono i prodotti, chi ha l’autorità di ritardare un lancio? I team di sicurezza potenziati possono dire di no. Le responsabilità distribuite in materia di sicurezza, storicamente, dicono di sì.
Il team di preparazione è stato creato nel 2024 nel quadro degli impegni a livello di settore volti a valutare i rischi di frontiera prima dell’implementazione. La sua fine tranquilla – riportata da un giornale piuttosto che annunciata dalla società – chiude quel capitolo con poche cerimonie.
---
Rimani Aggiornato sull'IALe ultime notizie, analisi e scoperte sull'intelligenza artificiale — tutto in un posto.
Leggi altre notizie sull'IA →
