Hackeři použili rychle se rozvíjející hackerský rámec podporovaný umělou inteligencí při průniku zaměřeném na americký letecký sektor, uvedla v pondělí oddělení pro zpravodajské informace o hrozbách společnosti Google ve zjištěních hlášených Nextgov. Tento nástroj, známý jako Cairn, je veřejně dostupný rámec pro testování penetrace vázaný na čínskou open-source bezpečnostní komunitu – a jeho vzhled v živém narušení představuje další krok v migraci agentní umělé inteligence z výzkumných ukázek do skutečných špionážních operací.

Google neuvedl název letecké organizace, která byla zpřístupněna, neuvedl, jaké informace mohly být získány, ani nepřipsal narušení konkrétní vládě. Zpráva obecně pokrývá aktivitu pozorovanou za poslední čtvrtletí a zapadá do dnešního pokrytí AI průmyslem agentních systémů, které se přeměňují rychleji, než se obránci mohou přizpůsobit.

Co dokáže Cairn a jeho bratranci

Cairn se liší od hackování pomocí chatbotů, které dominovalo dřívějším zprávám o hrozbách. Namísto toho, aby člověk krok za krokem pobízel asistenta AI, Cairn používá agenty AI, kteří mezi sebou sdílejí informace a rozhodují se, které hackerské techniky vyzkoušet jako další, když se snaží proniknout do systému.

Výzkumníci společnosti Google uvedli, že další open source systémy – včetně ARTEX, CyberStrikeAI a PentAGI – se nyní používají k „provádění vícestupňových průniků při vyšší provozní rychlosti“ ve srovnání s dřívější činností, kdy hackeři ručně vyzývali chatboty AI, aby jim pomohli s jednotlivými kroky. ARTEX byl samostatně označen v doporučení FBI o kybernetické bezpečnosti zveřejněném v pátek.

Nejalarmující zjištění: Plně automatizované využívání

Ze čtvrtletní zprávy vyčnívá jeden objev. Výzkumníci Google našli systém útočníka nakonfigurovaný tak, aby studoval softwarové opravy, vyvíjel útoky na základě toho, co se naučil, a prováděl tyto útoky automaticky – bez zapojení člověka do smyčky. Společnost uvedla, že to bylo poprvé, kdy její výzkumníci identifikovali útočníky, kteří tento proces plně automatizují.

Důsledek je jasný: závod mezi vydáváním oprav a využíváním se může zhroutit z týdnů na hodiny a vyvinout další tlak na organizace, které se již nyní potýkají s instalací bezpečnostních aktualizací dříve, než se k nim dostanou zločinci. Hacker News, pokrývající stejná zjištění, shrnul tuto techniku ​​jako hackeři používající AI agenty k vytváření a spouštění exploitů přímo ze softwarových záplat.

„Vzhledem k nízké překážce vstupu, snadné integraci nových exploitů a masivnímu potenciálu škálování se domníváme, že je vysoce pravděpodobné, že aktéři hrozeb budou tyto rámce nadále používat v kampaních zaměřených na organizace po celém světě,“ uvedla společnost podle Nextgov.

Čínské týmy industrializují analýzu; Severokorejští náboráři přecházejí na syntetické

Zpráva také podrobně popisuje, jak aktéři napojení na stát skládají modely do různých fází svých operací. Čínské hackerské týmy používají modely umělé inteligence k analýze ukradených souborů a vytváření hotových zpravodajských zpráv pro zákazníky. V jednom případě dodavatel použil umělou inteligenci k překladu a analýze ukradených informací, k vypracování struktury cílových organizací a k uspořádání zjištění do zpravodajských zpráv – pomocí technologie pro komplexní interpretační práci, která následuje po krádeži spíše než po krádeži samotné.

Google také pozoroval podezřelé čínské agenty, kteří experimentovali s automatizovanými hackerskými nástroji, včetně jedné skupiny napojené na Čínu vyvíjející svůj vlastní systém, pravděpodobně pro použití při špionážních operacích.

Severokorejští herci mezitím používají AI k vyostření svého sociálního inženýrství. Jedna skupina Google sleduje cílené kryptoměnové organizace v Severní Americe a Evropě pomocí vymyšlených profilů náborářů. Falešní náboráři nasměrovali cíle na padělané schůzkové služby, kde je pokyny k vyřešení domnělého technického problému vedly ke spuštění škodlivého kódu.

Jakmile byli uvnitř, útočníci změnili nastavení Claude Code – asistenta kódování AI společnosti Anthropic – v úložištích firemního kódu, takže spuštění asistenta by spustilo stahování malwaru. Vyzbrojení důvěryhodného vývojářského nástroje znamená, že zákeřná akce na softwarových inženýrech již důvěřuje.

Zjištění odrážejí oznámení ministerstva spravedlnosti z minulého týdne zaměřené na FaceStealer, severokorejský program falešných videohovorů spojený s krádeží více než 400 milionů dolarů, spolu se soudními příkazy pokrývajícími více než 1,2 miliardy dolarů ukradených společnosti Binance. Zpráva společnosti Google nespojovala svá zjištění ani s jedním případem.

Ovlivněte také operace, které budou více automatizovány

Kromě špionáže a finanční kriminality Google uvedl, že ovlivňovací operace spojené s Ruskem, Čínou a Íránem nyní běžně používají modely umělé inteligence k produkci obsahu a automatizaci jeho distribuce – delegují více práce vystupování jako obyčejní lidé online na stroje.

Rozšiřující se propast

Dohromady tato zjištění naznačují obranný problém, který narůstá s každým vydáním open source. Rámce pro penetrační testování jako Cairn, ARTEX, CyberStrikeAI a PentAGI jsou legální nástroje vytvořené bezpečnostní komunitou a pro ni a díky jejich agentní architektuře jsou skutečně užitečné pro červené týmy. Stejné vlastnosti z nich dělají útočné zbraně na klíč pro každého, kdo si je stáhne.

Zpráva společnosti Google obráncům je ve skutečnosti spíše předpokladem plánování než předpovědí: předpokládejme, že další průnik, kterému čelíte, byl proveden rychlostí stroje, na časové ose nastavené agentem, který si přečetl vaše poznámky k opravám, než jste je dokončili.

---

Stay Ahead of AI

Získejte nejnovější zprávy, analýzy a průlomové informace o umělé inteligenci – vše na jednom místě.

Přečtěte si další zprávy o AI →