Een internationaal onderzoek onder leiding van het Japanse topcoördinatieorgaan voor cyberbeveiliging heeft ongeveer 1.000 servers geïdentificeerd die ervan verdacht worden te dienen als lanceerpunt voor geavanceerde AI-gestuurde cyberaanvallen, volgens een rapport van Kyodo News, uitgebracht door The Straits Times en andere media. Het Japan Computer Emergency Response Team Coördinatiecentrum, of JPCERT/CC, voerde het onderzoek samen met buitenlandse cyberbeveiligingsbedrijven uit en begon het onderzoek begin oktober. Momenteel worden 600 tot 700 van deze servers gevolgd.
De bevinding is een van de duidelijkste signalen tot nu toe dat AI-ondersteund hacken is overgegaan van experiment naar infrastructuur. Aanvallers vragen niet langer alleen maar om advies aan chatbots; ze staan op speciale servers waarop 24 uur per dag AI-tools draaien. Voor voortdurende AI-beveiligingsdekking en analyse van hoe kunstmatige intelligentie het dreigingslandschap hervormt, volgt AI Buzz Wire de onderzoeken die er toe doen.
Wat onderzoekers op de servers hebben gevonden
Uit het onderzoek bleek dat aanvallers de servers gebruikten om kunstmatige-intelligentietools in te zetten die scannen op systeemkwetsbaarheden en zich richten op websites over de hele wereld, aldus de rapportage. De meeste servers hostten door AI aangedreven tools, waaronder een penetratietestplatform genaamd Artex, dat werd gebruikt om zwakke punten op te sporen en configuratiebestanden te stelen.
Sommige openbaar toegankelijke servers bevatten ook programma's voor het testen van systeemkwetsbaarheden en hulpmiddelen voor het analyseren van de interne structuur van smartphoneapplicaties. Onderzoekers zeiden dat aanvallers deze tools gebruikten om ongeautoriseerde toegang te proberen via interfaces die informatie uitwisselen met externe systemen – de API’s en services die moderne applicaties met de buitenwereld verbinden.
Eén detail viel de onderzoekers op: op een van de servers vonden onderzoekers sporen van een programmeerondersteuningstool gemaakt door het Amerikaanse kunstmatige intelligentiebedrijf Anthropic, wat suggereert dat aanvallers meeliften op reguliere ontwikkelaarstools om hun hackmogelijkheden te vergroten, aldus het Kyodo-rapport.
De aanwezigheid van reguliere ontwikkelaarstools op de infrastructuur van aanvallers onderstreept de structurele uitdaging van AI voor tweeërlei gebruik. Een systeem dat is geoptimaliseerd om code te schrijven of netwerken te onderzoeken, weet niet of de operator een verdediger of een indringer is, en zodra het gebruik zich verplaatst naar infrastructuur zoals deze servers, is de zichtbaarheid waar providers en onderzoekers op vertrouwen grotendeels verdwenen.
AI verlaagt de lat voor toegang
De opkomst van geavanceerde AI verlaagt de technische barrières voor cybercriminelen, waardoor hacken zelfs voor mensen zonder gespecialiseerde kennis gemakkelijker wordt, zo concludeert het onderzoek. “Hacking, dat voorheen tijd vergde, zelfs voor mensen met gespecialiseerde kennis, is gemakkelijker geworden met de opkomst van AI op hoog niveau”, aldus het rapport.
Cybersecurity-analisten die in de berichtgeving worden geciteerd, zeggen dat AI-ondersteunde cyberaanvallen zich nog in een vroeg stadium bevinden, maar waarschuwden dat de dreiging snel zou kunnen groeien. “In de toekomst zullen meer geavanceerde aanvallen toenemen”, zegt Ken Sajo, analist bij JPCERT/CC. Met andere woorden, vroeg, maar al georganiseerd – en al draaiend op de schaal van een kleine hostingoperatie.
De waarschuwing sluit aan bij een parallelle ontwikkeling in de Verenigde Staten. In het vrijdag gepubliceerde rapport beschreef Nacionale hoe Artex – hetzelfde penetratietestplatform dat wordt aangetroffen op de meerderheid van de servers in het door Japan geleide onderzoek – oorspronkelijk was gebouwd om organisaties te helpen hun eigen netwerken te testen op zwakke plekken, maar de FBI zegt dat aanvallers er nu een inbraakinstrument van hebben gemaakt.
Tools voor tweeërlei gebruik, gevolgen in de echte wereld
Het patroon dat JPCERT beschrijft is het dual-use-dilemma van de beveiligingsindustrie dat zich op internetschaal afspeelt. Penetratietestplatforms bestaan omdat organisaties hun eigen tekortkomingen moeten ontdekken voordat criminelen dat doen. Dezelfde tooling, naar buiten toe gericht, automatiseert verkenningen, het scannen van kwetsbaarheden en aanvallen op inloggegevens tegen iedereen met een blootgestelde interface.
De servers in het onderzoek illustreren een tweede trend: aanvallers behandelen AI-tools als gewone infrastructuur: ze zetten het rechtop, stellen het bloot en configureren het in sommige gevallen zo slecht dat onderzoekers het in de open lucht kunnen zien draaien. Die zichtbaarheid heeft het onderzoek mogelijk gemaakt en biedt verdedigers een zeldzaam inzicht in de manier waarop deze operaties zijn georganiseerd. Het feit dat de servers sinds oktober zijn geobserveerd duidt ook op aanhoudende activiteiten in plaats van eenmalige experimenten – infrastructuur die wordt ingericht, onderhouden en vervangen zodra deze wordt ontdekt, een patroon dat meer kenmerkend is voor gevestigde criminele operaties dan voor opportunistische individuen.
Voor organisaties zijn de praktische implicaties onmiddellijk. Het rapport zegt dat de servers werden gebruikt om op kwetsbaarheden te jagen en configuratiebestanden te stelen, die vaak inloggegevens en interne netwerkgegevens bevatten. Het versterken van API-eindpunten, het beperken van administratieve interfaces, het roteren van blootgestelde geheimen en monitoring voor geautomatiseerd scannen zijn de defensieve basislijn waar de bevindingen naar verwijzen.
Het onderzoek van JPCERT/CC is aan de gang en het bureau zegt dat het de servers die het heeft geïdentificeerd zal blijven volgen. De grotere vraag – hoe we tools moeten besturen die tegelijkertijd beveiligingsproducten en aanvalswapens zijn – wordt nu gesteld in rechtszalen, directiekamers en, zoals uit dit onderzoek blijkt, op ongeveer duizend servers wereldwijd.
Blijf AI een stap voor
Van frontiermodellen tot frontliniebedreigingen: het AI-verhaal beweegt zich snel. Blijf AI een stap voor met de berichtgeving van AI Buzz Wire over de ontwikkelingen die er toe doen.
Lees meer AI-nieuws →