En internationell undersökning ledd av Japans högsta samordningsorgan för cybersäkerhet har identifierat ungefär 1 000 servrar som misstänks fungera som startpunkter för avancerade AI-drivna cyberattacker, enligt en rapport från Kyodo News från The Straits Times och andra butiker. Japan Computer Emergency Response Team Coordination Centre, eller JPCERT/CC, genomförde undersökningen tillsammans med utländska cybersäkerhetsföretag och påbörjade utredningen i början av oktober. Den spårar för närvarande 600 till 700 av dessa servrar.
Fyndet är en av de tydligaste signalerna hittills om att AI-assisterad hacking har flyttat från experiment till infrastruktur. Angripare frågar inte längre bara chatbots om råd – de står upp dedikerade servrar som kör AI-verktyg dygnet runt. För fortsatt AI-säkerhetstäckning och analys av hur artificiell intelligens omformar hotbilden, följer AI Buzz Wire undersökningarna som är viktiga.
Vad utredare hittade på servrarna
Undersökningen fann att angripare använde servrarna för att distribuera artificiell intelligens-verktyg som söker efter systemsårbarheter och riktar sig mot webbplatser över hela världen, enligt rapporteringen. De flesta av servrarna var värd för AI-drivna verktyg, inklusive en penetrationstestplattform som heter Artex, som användes för att söka efter svagheter och försöka stjäla konfigurationsfiler.
Vissa allmänt tillgängliga servrar innehöll också program för att testa systemsårbarheter och verktyg för att analysera den interna strukturen i smartphoneapplikationer. Utredare sa att angripare använde dessa verktyg för att försöka obehörig åtkomst genom gränssnitt som utbyter information med externa system - API:er och tjänster som kopplar moderna applikationer till omvärlden.
En detalj stod ut för forskarna: på en av servrarna hittade utredarna spår av ett programmeringsstödsverktyg skapat av det amerikanska artificiella intelligensföretaget Anthropic, vilket tyder på att angripare backar på vanliga utvecklarverktyg för att förbättra sina hackningsmöjligheter, enligt Kyodo-rapporten.
Närvaron av vanliga utvecklarverktyg på angriparens infrastruktur belyser den strukturella utmaningen med AI med dubbla användningsområden. Ett system som är optimerat för att skriva kod eller undersöka nätverk vet inte om dess operatör är en försvarare eller en inkräktare, och när användningen väl flyttar över till infrastruktur som dessa servrar är den synlighet som leverantörer och forskare litar på i stort sett borta.
AI sänker ribban till inträde
Framväxten av avancerad AI sänker de tekniska barriärerna för cyberbrottslingar, vilket gör hackning lättare även för personer utan specialkunskaper, avslutade utredningen. "Hacking, som tidigare krävde tid även för de med specialiserad kunskap, har blivit lättare med framväxten av högnivå AI," noterade rapporten.
Cybersäkerhetsanalytiker som citeras i bevakningen sa att AI-assisterade cyberattacker fortfarande är i ett tidigt skede, men varnade för att hotet kunde växa snabbt. "Mer sofistikerade attacker kommer att öka i framtiden", säger Ken Sajo, analytiker på JPCERT/CC. Tidig, med andra ord, men redan organiserad – och redan igång i storleken av en liten värdverksamhet.
Varningen stämmer överens med en parallell utveckling i USA. I en rapport som publicerades på fredagen beskrev Nacionale hur Artex – samma penetrationstestplattform som finns på majoriteten av servrarna i den japanskledda sonden – ursprungligen byggdes för att hjälpa organisationer att testa sina egna nätverk för svaga punkter, men FBI säger att angripare nu har förvandlat det till ett inbrottsverktyg.
Verktyg med dubbla användningsområden, verkliga konsekvenser
Mönstret som JPCERT beskriver är säkerhetsbranschens dilemma med dubbla användningsområden som utspelar sig på internetskala. Penetrationstestplattformar finns eftersom organisationer måste hitta sina egna brister innan brottslingar gör det. Samma verktyg, påpekat utåt, automatiserar spaning, sårbarhetsskanning och autentiseringsattacker mot alla med ett exponerat gränssnitt.
Servrarna i sonden illustrerar en andra trend: angripare behandlar AI-verktyg som en vanlig infrastruktur – ställer upp den, avslöjar den och i vissa fall felkonfigurerar den så illa att utredare kan se den körs i det fria. Det är denna synlighet som gjorde undersökningen möjlig, och den ger försvarare ett sällsynt fönster till hur dessa operationer är organiserade. Det faktum att servrarna har observerats sedan oktober tyder också på varaktiga operationer snarare än engångsexperiment - infrastruktur som tillhandahålls, underhålls och ersätts när den upptäcks, ett mönster som är mer karakteristiskt för etablerade kriminella operationer än opportunistiska individer.
För organisationer är de praktiska konsekvenserna omedelbara. Rapporten säger att servrarna användes för att leta efter sårbarheter och stjäla konfigurationsfiler, som ofta innehåller referenser och interna nätverksdetaljer. Härda API-slutpunkter, begränsa administrativa gränssnitt, rotera exponerade hemligheter och övervakning för automatiserad skanning är den defensiva baslinjen som resultaten pekar mot.
JPCERT/CC:s utredning pågår och byrån säger att den kommer att fortsätta spåra de servrar som den har identifierat. Den större frågan – hur man styr verktyg som samtidigt är säkerhetsprodukter och attackvapen – ställs nu i rättssalar, styrelserum och, som denna undersökning visar, på ungefär tusen servrar över hela världen.
Ligg före AI
Från frontlinjemodeller till frontlinjehot, AI-historien rör sig snabbt. Lägg dig före AI med AI Buzz Wires bevakning av den viktiga utvecklingen.
Läs mer AI-nyheter →