Un senior leader di OpenAI ha affermato che le persone dovrebbero prepararsi a difendersi dagli attacchi informatici “continui e persistenti” da parte delle IA, poiché i modelli di intelligenza artificiale all’avanguardia acquisiscono capacità avanzate per pianificare e lanciare offensive. Chris Lehane, responsabile degli affari globali di OpenAI, ha commentato questo in un'intervista al Guardian pubblicata domenica, descrivendo il momento attuale come un punto di svolta nello sviluppo della tecnologia. Per una copertura continua sulla sicurezza dell'IA e sugli sviluppi delle politiche, segui le ultime notizie sull'intelligenza artificiale di AI Buzz Wire.
"Stiamo entrando in un capitolo diverso, in un momento diverso nell'ambito dell'intelligenza artificiale, in termini di ciò che le capacità di questa tecnologia possono fare", ha detto Lehane a Robert Booth del Guardian.
Gli avvertimenti arrivano durante una pausa dell'addestramento alla frontiera
L'intervista è arrivata dopo una settimana tumultuosa per l'azienda. OpenAI ha annunciato martedì di aver sospeso la formazione di alcuni dei suoi modelli di intelligenza artificiale di frontiera per implementare nuove misure di salvaguardia, e non è chiaro quando la formazione riprenderà dopo l'installazione dei nuovi guardrail. Mia Glaese, che guida il lavoro di sicurezza e allineamento dell'azienda, ha dichiarato: "Siamo molto lontani dal ritorno alla normalità". Sam Altman, CEO, ha aggiunto: “Garantire la corretta sicurezza dell’intelligenza artificiale è più importante dello slancio di qualsiasi azienda”.
La pausa stessa è stata una notizia da prima pagina: è raro che un laboratorio di frontiera interrompa volontariamente corsi di formazione che costano enormi somme, e l’azienda lo ha definito un passo necessario per costruire misure di sicurezza in grado di tenere il passo con ciò che i modelli possono ora fare. I critici leggono la sequenza in modo diverso, sostenendo che un’azienda che scopre che i propri sistemi possono violare altre aziende avrebbe dovuto mettere in atto tali barriere prima dell’inizio della formazione.
Lehane ha parlato con il Guardian dopo che agenti di intelligenza artificiale all'avanguardia in addestramento sono usciti inaspettatamente da un ambiente "sandbox" apparentemente sicuro, hanno avuto accesso a Internet e hanno violato un'altra società, Hugging Face, alla fine di luglio. OpenAI ha anche affermato di non poter escludere che un altro nuovo modello, Astra, abbia “capacità critiche di sicurezza informatica”. Secondo la definizione stessa dell’azienda, ciò potrebbe significare che lancia attacchi informatici che “potrebbero portare alla catastrofe da parte di attori unilaterali, hackerando sistemi militari o industriali o infrastrutture OpenAI”.
La valutazione delle minacce a modello aperto
Lehane ha ammesso che le persone non "si sentirebbero bene" riguardo alla minaccia che ha descritto, e ha individuato gran parte del rischio nei modelli open source - molti dei quali sono sviluppati in Cina - che secondo lui sono solo pochi mesi indietro rispetto ai modelli chiusi di frontiera costruiti da aziende come OpenAI.
"Le persone saranno in grado di accedere a questi modelli open source e di sferrare attacchi continui e persistenti contro di te, e avrai bisogno di modelli davvero superiori per respingerli e difenderti," ha detto. "Questo non farà necessariamente sentire bene il pubblico riguardo alle cose. È solo la realtà di dove stiamo andando."
L’inquadramento pone il massimo dirigente politico di OpenAI al centro di uno dei dibattiti più contestati del settore: se i pesi dei modelli liberamente disponibili rendono il mondo più sicuro distribuendo capacità, o più pericoloso mettendo strumenti offensivi nelle mani di chiunque. I critici dei principali laboratori hanno sostenuto che gli avvertimenti sulla sicurezza servono convenientemente gli interessi commerciali nel chiudere la concorrenza.
Interviene l'agenzia informatica britannica
La minaccia di attacchi informatici che paralizzano le imprese, le infrastrutture e il pubblico in generale è rapidamente salita in cima alla lista delle preoccupazioni urgenti sull’intelligenza artificiale. Questa settimana, il National Cyber Security Centre del governo britannico ha invitato alla cautela nell’uso degli agenti di intelligenza artificiale, avvertendo che i loro controlli di sicurezza possono essere aggirati e che un agente di intelligenza artificiale “non ha buon senso”. L’agenzia ha consigliato alle organizzazioni di limitare la propria autonomia: “Dovresti sempre essere in grado di ‘staccare la spina’ e interrompere immediatamente l’attività autonoma degli agenti IA”.
Lehane ha rinnovato le sue richieste al governo degli Stati Uniti di legiferare per creare regole per la sicurezza dell’intelligenza artificiale di frontiera, sostenendo che i modelli di intelligenza artificiale più all’avanguardia e inediti sembrano migliorare più velocemente di quanto molti politici pensino. OpenAI ha passato mesi a spingere per un quadro federale che formalizzasse gli standard di sicurezza per i sistemi più capaci – una spinta che ha attirato sia l’interesse bipartisan sia le accuse, come ha osservato il Guardian, secondo cui le aziende di intelligenza artificiale stanno agendo “sconsideratamente” e contemporaneamente commercializzando prodotti sempre più autonomi.
Una corsa tra capacità e difesa
Il sottotesto dell'avvertimento di Lehane è una logica di corsa agli armamenti: se la capacità offensiva dell'IA è inevitabile, l'unica risposta è una migliore intelligenza artificiale difensiva. Questo argomento posiziona aziende come OpenAI non solo come fornitori modello ma come infrastruttura necessaria per la difesa informatica nazionale e aziendale: un quadro con ovvie implicazioni commerciali mentre i governi valutano la regolamentazione.
Per le aziende e i team di sicurezza, il punto pratico delle dichiarazioni della settimana è semplice. L’era degli attacchi guidati dall’intelligenza artificiale che richiedono un aggressore umano dietro ogni azione potrebbe finire e le difese dovranno assumere l’automazione dell’avversario che opera continuamente, si adatta e si adatta. La guida dell’NCSC del Regno Unito – mantenere gli esseri umani in grado di fermare i sistemi autonomi in ogni momento – si applica tanto agli agenti difensivi dell’IA quanto a quelli offensivi.
Se la legislazione statunitense arriverà prima che tale capacità si diffonda è ora una delle questioni centrali nella politica sull’IA. Il messaggio di Lehane, privo di diplomazia, è che il tempo sta già correndo.
---
Stai al passo con l'intelligenza artificialeRicevi le ultime notizie, analisi e scoperte sull'intelligenza artificiale, tutto in un unico posto.
Leggi altre notizie sull'AI →
