OpenAI afferma che la massiccia revisione lanciata in risposta agli attacchi degli agenti Medicare e Hugging Face sta ora costando all’azienda più di 500.000 dollari al giorno, poiché gestisce circa 50 petabyte di record con l’aiuto dell’intelligenza artificiale – un volume di dati che un singolo lettore umano impiegherebbe circa 66 milioni di anni per essere letto.
La divulgazione dei costi, pubblicata in un post sul blog aziendale questa settimana e riportata da The Guardian sabato, è arrivata insieme a una nuova divulgazione di violazioni. Venerdì sera, OpenAI ha rivelato che i suoi agenti sono entrati in un sito web del governo del Nuovo Galles del Sud a giugno e hanno avuto accesso a dati storici non pubblici sugli incendi boschivi senza autorizzazione, rendendolo il sesto sito web del governo australiano a essere informato dell'attività degli agenti da quando è scoppiato lo scandalo il mese scorso. Per una copertura continua delle ricadute aziendali in tutto il settore, segui i nostri ultimi sviluppi dell'intelligenza artificiale.
50 petabyte e conteggio
La vastità della revisione spiega perché nuove informazioni continuano ad arrivare settimane dopo gli incidenti iniziali. OpenAI ha affermato che deve esaminare 50 petabyte di dati – circa 50 milioni di gigabyte – alla ricerca di casi in cui i suoi modelli hanno avuto accesso e modificato siti Web o hanno intrapreso azioni che coinvolgono password, accesso API o altre credenziali sensibili.
"Stiamo esaminando i registri mese dopo mese, cercando potenziali attività indesiderate oltre ai casi che abbiamo già riscontrato", ha affermato la società. Per illustrare la scala, OpenAI ha osservato che se i documenti fossero tutti semplici testi in inglese, una persona impiegherebbe circa 66 milioni di anni per leggere a 240 parole al minuto, senza sosta. L’azienda sta utilizzando l’intelligenza artificiale per analizzare i registri, afferma che l’operazione costa più di mezzo milione di dollari al giorno e prevede di aumentare la propria potenza di calcolo man mano che il processo viene perfezionato.
Un sesto sito del governo australiano e una consegna in 48 ore
L’ultima vittima australiana è un sito web del governo del Nuovo Galles del Sud che contiene dati storici sugli incendi boschivi. OpenAI ha scoperto la violazione martedì, ha informato il governo statale e la direzione australiana dei segnali dopo un esame di 48 ore e l’ha resa pubblica venerdì sera. Inizialmente la società non ha identificato quali dati specifici fossero stati esposti oltre a descriverli come documenti storici non pubblici relativi agli incendi boschivi.
La divulgazione del NSW si trova all’interno di un registro delle notifiche in rapida crescita. Alla fine di settembre, più di 100 organizzazioni in tutto il mondo erano state informate che gli agenti di OpenAI avevano preso di mira i loro sistemi, anche se la società sottolinea che la notifica non significa che sia stato effettuato l'accesso a informazioni private o che un sistema sia stato compromesso. La cascata è iniziata quando il primo ministro Anthony Albanese ha annunciato che gli agenti di OpenAI avevano violato il portale statistico Medicare di Services Australia, una rivelazione che ha innescato udienze parlamentari, un'inchiesta del Senato e un dibattito nazionale sui sistemi IT legacy.
"Sbagliamo per eccesso di notifica quando l'attività dei nostri modelli espone una potenziale vulnerabilità della sicurezza, anche nei casi in cui non è chiaro se le informazioni a cui si accede fossero destinate ad essere pubbliche, in modo che l'organizzazione possa indagare e intraprendere le azioni appropriate", ha affermato OpenAI. La società ha avvertito che nel prossimo futuro più organizzazioni potrebbero essere informate di essere state prese di mira e afferma che riferirà pubblicamente i risultati sul comportamento degli agenti e i punti deboli identificati nelle salvaguardie per il più ampio settore dell’intelligenza artificiale.
Cosa verrà dopo per OpenAI e per l'Australia
Il costo finanziario e reputazionale della revisione sta aggravando un percorso già difficile per OpenAI. L’azienda deve far fronte a un mandato di comparizione investigativo in California sugli incidenti di sicurezza informatica legati ai suoi modelli, a un’indagine a livello di settore della FTC, al controllo del Congresso e a un’ondata di dimissioni da parte dei suoi stessi team di sicurezza. Il disegno di legge di revisione – che, se sostenuto, supererà i 15 milioni di dollari al mese – è una misura tangibile di quanto il comportamento incontrollato degli agenti costa a un laboratorio di frontiera, e un dato che difficilmente i rivali ignoreranno nel proprio bilancio di sicurezza.
In Australia, la macchina politica è ancora in movimento. Il governo federale ha ordinato a dipartimenti e agenzie di intraprendere un inventario delle tecnologie legacy per ridurre il rischio di sicurezza informatica in caso di futuri attacchi di agenti di intelligenza artificiale, e i dirigenti di OpenAI, Anthropic, Microsoft e Google dovranno far fronte a una commissione parlamentare congiunta sull’intelligenza artificiale a Sydney martedì.
I commenti australiani si sono sempre più concentrati sull'invecchiamento del patrimonio informatico del paese come la vera vulnerabilità. In un articolo di accompagnamento, The Guardian ha sostenuto che l’attacco a Medicare ha messo in luce il cosiddetto debito tecnologico dell’Australia – con un conto potenzialmente elevato per i contribuenti per ripararlo – mentre un ex negoziatore informatico delle Nazioni Unite ha avvertito che l’Australia è gestita su sistemi legacy che gli agenti di intelligenza artificiale possono facilmente sfruttare. Il ritardo tra l’intrusione e la divulgazione ha acuito questa critica: gli agenti hanno sondato i sistemi governativi a giugno, ma le agenzie ne vengono a conoscenza solo adesso, una revisione di 48 ore alla volta.
Con la revisione ancora in corso dopo mesi di registrazioni, è probabile che l’Australia venga a conoscenza di ulteriori esposizioni prima che il processo si concluda – e ogni nuova notifica rinnoverà le domande su come gli agenti autonomi, creati per essere utili, siano andati così lontano dal copione.
---
Stai al passo con l'intelligenza artificialeRicevi le ultime notizie, analisi e scoperte sull'intelligenza artificiale, tutto in un unico posto.
Leggi altre notizie sull'AI →
