Secondo un rapporto di Kyodo News pubblicato da The Straits Times e altri organi di stampa, un'indagine internazionale condotta dal principale organo di coordinamento della sicurezza informatica del Giappone ha identificato circa 1.000 server sospettati di fungere da punti di lancio per attacchi informatici avanzati basati sull'intelligenza artificiale. Il Centro di coordinamento del team di risposta alle emergenze informatiche del Giappone, o JPCERT/CC, ha condotto l’indagine insieme ad aziende di sicurezza informatica straniere e ha avviato le indagini all’inizio di ottobre. Attualmente sta monitorando da 600 a 700 di questi server.

La scoperta è uno dei segnali più chiari finora che l’hacking assistito dall’intelligenza artificiale è passato dall’esperimento all’infrastruttura. Gli aggressori non si limitano più a chiedere consigli ai chatbot: stanno creando server dedicati che eseguono strumenti di intelligenza artificiale 24 ore su 24. Per continuare la copertura sulla sicurezza dell'intelligenza artificiale e l'analisi di come l'intelligenza artificiale sta rimodellando il panorama delle minacce, AI Buzz Wire segue le indagini che contano.

Cosa hanno trovato gli investigatori sui server

Secondo il rapporto, l’indagine ha scoperto che gli aggressori hanno utilizzato i server per implementare strumenti di intelligenza artificiale che scansionano le vulnerabilità del sistema e prendono di mira siti Web in tutto il mondo. La maggior parte dei server ospitava strumenti basati sull'intelligenza artificiale, inclusa una piattaforma di penetration test chiamata Artex, utilizzata per cercare punti deboli e tentare di rubare file di configurazione.

Alcuni server accessibili al pubblico contenevano anche programmi per testare le vulnerabilità del sistema e strumenti per analizzare la struttura interna delle applicazioni per smartphone. Gli investigatori hanno affermato che gli aggressori hanno utilizzato questi strumenti per tentare l’accesso non autorizzato attraverso interfacce che scambiano informazioni con sistemi esterni: le API e i servizi che collegano le applicazioni moderne al mondo esterno.

Un dettaglio ha colpito gli investigatori: su uno dei server, gli investigatori hanno trovato tracce di uno strumento di supporto alla programmazione creato dalla società statunitense di intelligenza artificiale Anthropic, suggerendo che gli aggressori si stanno avvalendo degli strumenti di sviluppo tradizionali per migliorare le loro capacità di hacking, secondo il rapporto Kyodo.

La presenza di strumenti di sviluppo tradizionali sull’infrastruttura degli aggressori evidenzia la sfida strutturale dell’IA a duplice uso. Un sistema ottimizzato per scrivere codice o sondare reti non sa se il suo operatore è un difensore o un intruso, e una volta che l’utilizzo si sposta su infrastrutture come questi server, la visibilità su cui fanno affidamento fornitori e ricercatori è in gran parte scomparsa.

L'intelligenza artificiale sta abbassando l'asticella dell'ingresso

L’emergere dell’intelligenza artificiale avanzata sta abbassando le barriere tecniche per i criminali informatici, rendendo più facile l’hacking anche per le persone senza conoscenze specializzate, ha concluso l’indagine. "L'hacking, che in precedenza richiedeva tempo anche per chi aveva conoscenze specializzate, è diventato più facile con l'emergere dell'intelligenza artificiale di alto livello", osserva il rapporto.

Gli analisti della sicurezza informatica citati nel servizio affermano che gli attacchi informatici assistiti dall’intelligenza artificiale rimangono in una fase iniziale, ma hanno avvertito che la minaccia potrebbe crescere rapidamente. "Gli attacchi più sofisticati aumenteranno in futuro", ha affermato Ken Sajo, analista di JPCERT/CC. All'inizio, in altre parole, ma già organizzato e già funzionante su scala di una piccola operazione di hosting.

L’avvertimento è in linea con uno sviluppo parallelo negli Stati Uniti. Nel rapporto pubblicato venerdì, Nacionale ha descritto come Artex - la stessa piattaforma di test di penetrazione trovata sulla maggior parte dei server nell'indagine condotta dai giapponesi - è stata originariamente creata per aiutare le organizzazioni a testare le proprie reti per individuare i punti deboli, ma l'FBI afferma che gli aggressori l'hanno ora trasformata in uno strumento di intrusione.

Strumenti a duplice uso, conseguenze nel mondo reale

Il modello descritto da JPCERT è il dilemma del duplice uso del settore della sicurezza che si manifesta su scala Internet. Le piattaforme di penetration testing esistono perché le organizzazioni devono individuare i propri difetti prima che lo facciano i criminali. Gli stessi strumenti, come sottolineato in precedenza, automatizzano la ricognizione, la scansione delle vulnerabilità e gli attacchi alle credenziali contro chiunque abbia un'interfaccia esposta.

I server oggetto dell’indagine illustrano una seconda tendenza: gli aggressori trattano gli strumenti di intelligenza artificiale come una normale infrastruttura, mettendoli in piedi, esponendoli e, in alcuni casi, configurandoli in modo così grave che gli investigatori potrebbero osservarli funzionare all’aperto. Questa visibilità è ciò che ha reso possibile l’indagine e offre ai difensori una rara finestra su come sono organizzate queste operazioni. Il fatto che i server siano stati osservati da ottobre suggerisce anche operazioni prolungate piuttosto che esperimenti una tantum: infrastrutture che vengono fornite, mantenute e sostituite man mano che vengono scoperte, un modello più caratteristico di operazioni criminali consolidate che di individui opportunisti.

Per le organizzazioni, le implicazioni pratiche sono immediate. Il rapporto afferma che i server sono stati utilizzati per cercare vulnerabilità e rubare file di configurazione, che spesso contengono credenziali e dettagli della rete interna. Il rafforzamento degli endpoint API, la limitazione delle interfacce amministrative, la rotazione dei segreti esposti e il monitoraggio per la scansione automatizzata rappresentano la linea di base difensiva verso cui puntano i risultati.

L'indagine di JPCERT/CC è in corso e l'agenzia afferma che continuerà a monitorare i server identificati. La domanda più ampia – come governare strumenti che sono allo stesso tempo prodotti di sicurezza e armi d’attacco – viene ora posta nei tribunali, nei consigli di amministrazione e, come mostra questa indagine, in circa un migliaio di server in tutto il mondo.

Stai al passo con l'intelligenza artificiale

Dai modelli di frontiera alle minacce in prima linea, la storia dell’IA si muove rapidamente. Stai un passo avanti rispetto all'intelligenza artificiale con la copertura di AI Buzz Wire sugli sviluppi che contano.

Leggi altre notizie sull'AI →