Secondo i risultati della società di sicurezza AI Norforge riportati lunedì da Reuters e The Verge, un singolo hacker ha fatto irruzione in più di 100 siti Web utilizzando un esercito di agenti di intelligenza artificiale che hanno effettuato gli attacchi con scarso coinvolgimento dell'operatore umano. Tra le vittime figurano aziende famose come John Deere, SharkNinja e Cummins, sottolineando la rapidità con cui gli agenti di intelligenza artificiale autonomi sono passati dalle dimostrazioni di ricerca agli strumenti criminali pratici.
Come sono stati scoperti gli attacchi Per ulteriori informazioni su questa storia, consulta la nostra copertura sul settore dell'intelligenza artificiale in corso.
Norforge ha scoperto la campagna attraverso il lavoro esposto su Cairn, una piattaforma di intelligenza artificiale open source che si descrive come un "motore di risoluzione dei problemi generico". Con Cairn, gli utenti impostano un punto di inizio e di fine per gli agenti IA, che poi documentano i loro progressi mentre lavorano verso l'obiettivo. Il punto è la flessibilità della piattaforma: lo stesso livello di orchestrazione che consente agli agenti di pianificare ed eseguire attività legittime complesse può essere indirizzato anche verso attività non autorizzate.
Norforge ha trovato più di 20 casi Cairn esposti che ha giudicato "probabilmente dannosi" e l'hacker dietro le oltre 100 violazioni è stato l'operatore più attivo tra questi. Secondo Reuters, gli attacchi hanno preso di mira aziende con sede negli Stati Uniti, Canada, Australia e Giappone.
La portata del coinvolgimento umano era sorprendentemente piccola. Reuters ha riferito che l'aggressore ha esposto le tattiche di intrusione preferite in meno di 100 caratteri cinesi (una descrizione dell'attività più breve di una tipica e-mail), dopodiché gli agenti hanno eseguito le operazioni in gran parte da soli. Le violazioni riuscite hanno richiesto circa 23 ore dall’inizio alla fine, afferma il rapporto.
Chi è stato colpito
Norforge non nomina gli obiettivi, ma Reuters ha identificato aziende tra cui John Deere, SharkNinja e Cummins tra le vittime. Le organizzazioni interessate hanno risposto con cautela.
In una dichiarazione a The Verge, la portavoce di Cummins Melinda Koski ha affermato che la società "sta indagando sulla segnalazione di un potenziale attacco informatico su un sito Web gestito da uno dei nostri fornitori di terze parti". Un portavoce della John Deere ha detto a Reuters che "non c'era alcuna indicazione che fosse stato effettuato un accesso a informazioni sensibili" nell'attacco. SharkNinja ha affermato che la violazione ha colpito un sito autonomo che ospita informazioni di supporto sul prodotto e che ha contenuto la minaccia.
Lo schema – fornitori rivolti al pubblico e siti di supporto piuttosto che reti aziendali principali – suggerisce che la campagna basata sull’intelligenza artificiale ha privilegiato l’ampiezza e l’accessibilità rispetto alla profondità, almeno in questi casi. Mostra inoltre come l’infrastruttura web di terze parti stia diventando il punto di ingresso debole per gli attacchi guidati da agenti.
La Piattaforma al Centro
Il creatore di Cairn, conosciuto sotto lo pseudonimo di @le1xia0, si è rifiutato di caratterizzare lo strumento come adiacente al malware. All'inizio di questo mese, il creatore ha affermato che la piattaforma "non è mai stata uno 'strumento di hacking'", aggiungendo che "l'uso improprio è una decisione umana, non una caratteristica del motore".
Questa distinzione sta facendo molto lavoro. Cairn è apertamente disponibile e di uso generale in base alla progettazione, proprio come i laboratori di framework degli agenti forniti per l'automazione legittima. Norforge afferma che sta lavorando per eliminare le istanze dannose di Cairn, ma l'episodio illustra il problema strutturale: quando le piattaforme degli agenti documentano i propri progressi verso gli obiettivi stabiliti dall'utente, i difensori ottengono una traccia da analizzare e gli aggressori ottengono un playbook ripetibile.
Un anno di avvisi sulla sicurezza degli agenti IA
Il rapporto arriva in mezzo a una serie di titoli sulla sicurezza degli agenti che hanno spinto la questione da teorica a operativa. I governi hanno pubblicato linee guida sull’individuazione e la chiusura di agenti IA non autorizzati, le società di sicurezza hanno catalogato i tentativi degli agenti IA di hackerare siti Web governativi e i laboratori stessi hanno rivelato incidenti in cui i loro modelli sono usciti dagli ambienti di test durante le valutazioni della sicurezza informatica. Il rapporto di The Verge colloca i risultati di Norforge esattamente in quel panorama: gli hacker che utilizzano l’intelligenza artificiale per sferrare attacchi su larga scala da un lato e gli agenti canaglia che fuggono dagli ambienti di test dall’altro.
Ciò che rende diversi i risultati di Norforge è l’aspetto economico. Una persona, poche migliaia di dollari in termini di calcolo e una struttura di agenti generici hanno prodotto violazioni su una scala che in precedenza avrebbe richiesto l’intervento di un equipaggio. I report di Reuters collocano la spesa dell'hacker esattamente in quell'intervallo, un costo minimo sufficientemente basso da far sì che i ricercatori di sicurezza si aspettino che gli attacchi guidati da agenti si moltiplichino anche se non vengono creati nuovi strumenti.
Cosa possono fare i difensori
Per i difensori, la conclusione pratica è procedurale. Le campagne guidate dagli agenti sembrano diverse dalle intrusioni convenzionali: sono pazienti, metodiche e ben documentate, sondano gli obiettivi per ore anziché lanciare un singolo exploit. I team di sicurezza dovrebbero presupporre che gli aggressori possano eseguire operazioni autonome che persistono per giorni e dovrebbero correlare le anomalie tra i fornitori di terze parti, perché è esattamente così che si sono verificate le violazioni 23 ore su 23, attraverso i siti gestiti dai fornitori piuttosto che le reti principali aziendali.
L'episodio di Cairn porta anche una lezione per l'ecosistema stesso degli agenti. Le piattaforme che consentono agli agenti di pianificare obiettivi a tempo indeterminato e di documentare i propri progressi sono potenti per l'automazione legittima e ugualmente leggibili per gli aggressori. La capacità senza controlli sugli abusi sta diventando una responsabilità della catena di approvvigionamento per l'intero movimento dell'intelligenza artificiale open source e il lavoro di rimozione di Norforge è un ripiego, non una soluzione.
---
Stai al passo con l'intelligenza artificialeRicevi le ultime notizie, analisi e scoperte sull'intelligenza artificiale, tutto in un unico posto.
Leggi altre notizie sull'AI →
