Mezinárodní vyšetřování vedené nejvyšším japonským koordinačním orgánem pro kybernetickou bezpečnost identifikovalo zhruba 1000 serverů podezřelých z toho, že slouží jako spouštěcí body pro pokročilé kybernetické útoky řízené umělou inteligencí, uvádí zpráva Kyodo News, kterou přinesl The Straits Times a další zdroje. Japonské koordinační centrum pro počítačovou nouzovou reakci týmu nebo JPCERT/CC provedlo vyšetřování společně se zámořskými firmami zabývajícími se kybernetickou bezpečností a vyšetřování zahájilo začátkem října. V současné době sleduje 600 až 700 těchto serverů.
Toto zjištění je zatím jedním z nejjasnějších signálů, že hackování za pomoci umělé inteligence se přesunulo z experimentu do infrastruktury. Útočníci už nežádají jen chatboty o radu – staví dedikované servery, které nepřetržitě provozují nástroje AI. Pro pokračování pokrytí zabezpečení AI a analýzu toho, jak umělá inteligence přetváří prostředí hrozeb, sleduje AI Buzz Wire vyšetřování, na kterých záleží.
Co vyšetřovatelé našli na serverech
Vyšetřování zjistilo, že útočníci použili servery k nasazení nástrojů umělé inteligence, které skenují zranitelnost systému a cílí na webové stránky po celém světě, podle zpráv. Většina serverů hostila nástroje poháněné umělou inteligencí, včetně platformy pro testování penetrace nazvané Artex, které byly použity k hledání slabin a pokusu o krádež konfiguračních souborů.
Některé veřejně přístupné servery obsahovaly také programy pro testování zranitelnosti systému a nástroje pro analýzu vnitřní struktury aplikací pro chytré telefony. Vyšetřovatelé uvedli, že útočníci použili tyto nástroje k pokusu o neoprávněný přístup prostřednictvím rozhraní, která si vyměňují informace s externími systémy – rozhraními API a službami, které spojují moderní aplikace s vnějším světem.
Jeden detail výzkumníkům vynikl: na jednom ze serverů našli vyšetřovatelé stopy po nástroji pro podporu programování vytvořeném americkou společností Anthropic pro umělou inteligenci, což naznačuje, že útočníci využívají mainstreamové vývojářské nástroje, aby zlepšili své hackerské schopnosti, uvádí zpráva Kyodo.
Přítomnost běžných vývojářských nástrojů v infrastruktuře útočníků zdůrazňuje strukturální výzvu AI s dvojím použitím. Systém optimalizovaný pro zápis kódu nebo sondování sítí neví, zda jeho operátor je obránce nebo vetřelec, a jakmile se využití přesune na infrastrukturu, jako jsou tyto servery, viditelnost, na kterou se poskytovatelé a výzkumníci spoléhají, do značné míry zmizí.
AI snižuje laťku pro vstup
Nástup pokročilé umělé inteligence snižuje technické bariéry pro kyberzločince a usnadňuje hackování i lidem bez specializovaných znalostí, uzavřelo vyšetřování. "Hackování, které dříve vyžadovalo čas i pro ty, kdo mají specializované znalosti, se stalo snazším se vznikem AI na vysoké úrovni," uvádí zpráva.
Analytici kybernetické bezpečnosti citovaní v reportáži uvedli, že kybernetické útoky za pomoci umělé inteligence zůstávají v rané fázi, ale varovali, že hrozba může rychle narůst. "Sofistikovanější útoky budou v budoucnu přibývat," řekl Ken Sajo, analytik JPCERT/CC. Brzy, jinými slovy, ale již organizované – a již běží v rozsahu malé hostingové operace.
Varování je v souladu s paralelním vývojem ve Spojených státech. Ve zprávě zveřejněné v pátek Nacionale popsal, jak byla Artex – stejná platforma pro testování penetrace nalezená na většině serverů v japonské sondě – původně postavena tak, aby pomáhala organizacím testovat jejich vlastní sítě na slabá místa, ale podle FBI z ní útočníci nyní udělali nástroj pro vloupání.
Nástroje dvojího použití, důsledky pro skutečný svět
Vzorec, který JPCERT popisuje, je dilema dvojího použití bezpečnostního průmyslu, které se odehrává v internetovém měřítku. Platformy pro penetrační testování existují, protože organizace musí najít své vlastní nedostatky dříve, než to udělají zločinci. Stejné nástroje, směřující ven, automatizují průzkum, skenování zranitelnosti a útoky na pověření proti komukoli s odhaleným rozhraním.
Servery v sondě ilustrují druhý trend: útočníci zacházejí s nástroji AI jako s běžnou infrastrukturou – postaví je, odhalují a v některých případech špatně konfigurují tak špatně, že vyšetřovatelé mohou pozorovat, jak běží na otevřeném prostranství. Právě tato viditelnost umožnila průzkum a nabízí obráncům vzácné okno do toho, jak jsou tyto operace organizovány. Skutečnost, že servery byly pozorovány od října, také naznačuje trvalé operace spíše než jednorázové experimenty – infrastruktura, která je zajišťována, udržována a nahrazována, jakmile je objevena, což je vzorec charakteristický pro zavedené kriminální operace než pro oportunistické jedince.
Pro organizace jsou praktické důsledky okamžité. Zpráva uvádí, že servery byly použity k hledání zranitelností a krádežím konfiguračních souborů, které často obsahují přihlašovací údaje a podrobnosti o interní síti. Zpevnění koncových bodů API, omezení administrativních rozhraní, rotace odhalených tajemství a monitorování pro automatizované skenování jsou základní obrannou linií, k níž zjištění ukazují.
Vyšetřování JPCERT/CC pokračuje a agentura tvrdí, že bude pokračovat ve sledování serverů, které identifikovala. Větší otázka – jak ovládat nástroje, které jsou současně bezpečnostními produkty a útočnými zbraněmi – se nyní klade v soudních síních, zasedacích síních a, jak ukazuje tato sonda, na zhruba tisícovce serverů po celém světě.
Udržujte si náskok před AI
Od hraničních modelů po frontové hrozby se příběh AI rychle vyvíjí. Zůstaňte o krok před AI s pokrytím AI Buzz Wire o vývoji, na kterém záleží.
Přečtěte si další zprávy o AI →