O investigație internațională condusă de cel mai înalt organism de coordonare a securității cibernetice din Japonia a identificat aproximativ 1.000 de servere suspectate că ar servi drept puncte de lansare pentru atacuri cibernetice avansate conduse de AI, potrivit unui raport al Kyodo News publicat de The Straits Times și alte instituții. Centrul de Coordonare a Echipei de Răspuns la Urgență Calculatoare din Japonia, sau JPCERT/CC, a condus investigația împreună cu firme de securitate cibernetică de peste mări și a început ancheta la începutul lunii octombrie. În prezent, urmărește 600 până la 700 dintre aceste servere.

Descoperirea este unul dintre cele mai clare semnale de până acum că hackingul asistat de AI a trecut de la experiment la infrastructură. Atacatorii nu mai cer doar sfaturi chatboților, ci sunt servere dedicate care rulează instrumente AI non-stop. Pentru a continua acoperirea securității AI și pentru a analiza modul în care inteligența artificială remodelează peisajul amenințărilor, AI Buzz Wire urmărește investigațiile care contează.

Ce au găsit anchetatorii pe servere

Investigația a constatat că atacatorii au folosit serverele pentru a implementa instrumente de inteligență artificială care scanează vulnerabilitățile sistemului și vizează site-uri web din întreaga lume, potrivit raportului. Majoritatea serverelor găzduiau instrumente bazate pe inteligență artificială, inclusiv o platformă de testare a pătrunderii numită Artex, care au fost folosite pentru a căuta punctele slabe și pentru a încerca să fure fișiere de configurare.

Unele servere accesibile publicului conțineau și programe pentru testarea vulnerabilităților sistemului și instrumente pentru analiza structurii interne a aplicațiilor pentru smartphone. Anchetatorii au spus că atacatorii au folosit aceste instrumente pentru a încerca accesul neautorizat prin interfețe care fac schimb de informații cu sisteme externe - API-urile și serviciile care conectează aplicațiile moderne la lumea exterioară.

Un detaliu i-a evidențiat cercetătorilor: pe unul dintre servere, anchetatorii au găsit urme ale unui instrument de asistență pentru programare creat de compania americană de inteligență artificială Anthropic, sugerând că atacatorii folosesc instrumentele de dezvoltare pentru a-și îmbunătăți capacitățile de hacking, potrivit raportului Kyodo.

Prezența instrumentelor principale pentru dezvoltatori pe infrastructura atacatorilor evidențiază provocarea structurală a AI cu dublă utilizare. Un sistem optimizat pentru a scrie cod sau a sonda rețele nu știe dacă operatorul său este un apărător sau un intrus și, odată ce utilizarea trece pe infrastructura precum aceste servere, vizibilitatea pe care se bazează furnizorii și cercetătorii a dispărut în mare măsură.

AI coboară bara la intrare

Apariția IA avansată reduce barierele tehnice pentru infractorii cibernetici, facilitând hacking-ul chiar și pentru persoanele fără cunoștințe de specialitate, a concluzionat ancheta. „Hacking-ul, care anterior necesita timp chiar și pentru cei cu cunoștințe de specialitate, a devenit mai ușor odată cu apariția IA la nivel înalt”, se menționează raportul.

Analiștii de securitate cibernetică citați în acoperire au spus că atacurile cibernetice asistate de AI rămân într-un stadiu incipient, dar au avertizat că amenințarea ar putea crește rapid. „Atacuri mai sofisticate vor crește în viitor”, a spus Ken Sajo, analist la JPCERT/CC. Devreme, cu alte cuvinte, dar deja organizat - și rulează deja la scara unei mici operațiuni de găzduire.

Avertismentul se aliniază cu o dezvoltare paralelă în Statele Unite. Într-un raport publicat vineri, Nacionale a descris modul în care Artex – aceeași platformă de testare a pătrunderii găsită pe majoritatea serverelor din sonda condusă de japonezi – a fost inițial construită pentru a ajuta organizațiile să își testeze propriile rețele pentru punctele slabe, dar FBI spune că atacatorii au transformat-o acum într-un instrument de spargere.

Instrumente cu dublă utilizare, consecințe în lumea reală

Modelul descris de JPCERT este dilema cu dublă utilizare a industriei de securitate care se desfășoară la scară internet. Platformele de testare a penetrației există deoarece organizațiile trebuie să-și găsească propriile defecte înainte ca criminalii să o facă. Același instrument, îndreptat spre exterior, automatizează recunoașterea, scanarea vulnerabilităților și atacurile de acreditări împotriva oricui are o interfață expusă.

Serverele din sondă ilustrează o a doua tendință: atacatorii tratează instrumentele AI ca pe o infrastructură obișnuită - o susțin, o expun și, în unele cazuri, o configurează greșit atât de rău încât anchetatorii le-ar putea observa rulând în aer liber. Această vizibilitate este ceea ce a făcut posibil sondajul și oferă apărătorilor o fereastră rară asupra modului în care sunt organizate aceste operațiuni. Faptul că serverele au fost observate din octombrie sugerează, de asemenea, operațiuni susținute, mai degrabă decât experimente unice - infrastructură care este furnizată, întreținută și înlocuită pe măsură ce este descoperită, un model mai caracteristic operațiunilor criminale stabilite decât indivizilor oportuniști.

Pentru organizații, implicațiile practice sunt imediate. Raportul spune că serverele au fost folosite pentru a căuta vulnerabilități și pentru a fura fișiere de configurare, care conțin adesea acreditări și detalii interne ale rețelei. Întărirea punctelor finale API, restricționarea interfețelor administrative, rotația secretelor expuse și monitorizarea pentru scanarea automată sunt linia de bază defensivă spre care se îndreaptă descoperirile.

Ancheta JPCERT/CC este în desfășurare, iar agenția spune că va continua să urmărească serverele pe care le-a identificat. Întrebarea mai mare – cum să guvernăm instrumentele care sunt simultan produse de securitate și arme de atac – este pusă acum în sălile de judecată, sălile de consiliu și, după cum arată această anchetă, pe aproximativ o mie de servere din întreaga lume.

Rămâi înaintea AI

De la modele de frontieră la amenințări de primă linie, povestea AI se mișcă rapid. Rămâneți înaintea AI cu acoperirea AI Buzz Wire a evoluțiilor care contează.

Citiți mai multe știri AI →