Bezpečnostní výzkumníci ze společnosti Cisco Talos podrobně popsali informačního zloděje Windows, který předává svůj ukradený úlovek velkému jazykovému modelu a žádá ho, aby udělal to, co kdysi dělali analytici lidských zločinů: zjistil, které oběti stojí za to pronásledovat. Malware s vlastním jménem VOLTA-AUTODOXER využívá fázi profilování obětí využívající technologii LLM k přeměně nezpracovaných protokolů pověření na prioritní složky lidí za stroji.
V analýze zveřejněné 31. října výzkumníkem Talos Ryanem Fettermanem je malware – sledovaný Talosem jako VOLTA – popsán jako vyzrálý zlodějský implantát s volitelnou integrační vrstvou AI. Po shromáždění přihlašovacích údajů, relací prohlížeče a kryptoměnových peněženek VOLTA sestaví balíček strukturovaných důkazů o oběti a pošle jej poskytovateli LLM s pokyny, jak jednat jako forenzní analytik. Vývoj signalizuje, kam směřuje zneužívání umělé inteligence v kyberzločinu: nejen generování phishingových textů, ale i automatizovaná zpravodajská práce. Pro průběžné pokrytí příběhů, jako je tento, se podívejte na náš [nejnovější vývoj AI] (https://aibuzzwire.news).
Ukradni všechno a nech to AI vyřešit
VOLTA se poprvé objevila v rámci výzkumného úsilí CAIRN a Talos ji popisuje jako samoodstraňující Windows infostealer bez infrastruktury vlastněné útočníkem – vlastnosti, kvůli kterým je těžší jej připsat a narušit. Jeho fáze shromažďování je vyčerpávající i podle standardů zlodějů: hesla prohlížečů, soubory cookie a platební karty; počáteční fráze peněženky kryptoměn; žetony relace Discord, Telegram, Steam a Roblox; tokeny Microsoft OAuth; SSH a klíče poskytovatele cloudu; Wi-Fi profily; a snímky obrazovky.
Novinka začíná po krádeži. VOLTA vytváří to, co Talos nazývá, balíček strukturovaných důkazů obsahující geolokaci a domácí adresu, doménu zaměstnavatele a zaměstnavatele, odvozený rok narození, poslední čtyři číslice platebních karet, pracovní prostory Slack, metadata o autorství dokumentů, indikátory zálohování iPhone a dokonce i živé ocenění Roblox účtu oběti.
Poté tento balíček obohatí pomocí vlastních ukradených relací oběti. Podle Talose malware hledá v Gmailu oběti potvrzení o nákupu, aby potvrdil jejich domovskou adresu, stahuje historii objednávek UberEats a DoorDash a obohacuje účty Discord prostřednictvím ukradeného tokenu. Výsledkem je portrét osoby sestavený téměř výhradně z jejich vlastních přihlášených účtů.
Výzva: 'Jednej jako forenzní zpravodajský analytik'
Sestavený balíček je serializován a odeslán LLM, ke kterému přistupuje prostřednictvím OpenRouter, což je služba, která směruje požadavky k více poskytovatelům modelů. Výzva systému dává modelu pokyn, aby jednal jako „forenzní zpravodajský analytik, který navrhuje cílové hodnocení“.
Požadovaný výstup je nápadně firemní. Musí obsahovat část nazvanou „CO JSOU HODNOTA“, seřazení cenností oběti podle potenciálu zpeněžení s nízkými, středními a vysokými úrovněmi, a část „JEJICH OPSEC“, která hodnotí bezpečnostní pozici oběti a hygienu hesla. Model se efektivně stane operátorovým analytikem třídění a vytvoří dokumentaci podloženou citacemi, která zločinci řekne, kde jsou peníze.
Talos také našel důkazy, že operátoři vytvořili kolem bezpečnostních zábradlí AI. Pokud model odmítne provést cílové hodnocení, VOLTA selže v řetězci tří modelů a zkouší další v řadě – to, co výzkumník popisuje jako přímé inženýrské úsilí postavené na očekávání, že zasáhne odmítnutí modelu. Výzva pro konfiguraci umělé inteligence obnovená z malwaru dokonce obsahuje stylistické pokyny: „Jděte do hloubky, ne široce... Buďte přímočarí, konkrétní, přesní.“
Proč na tom záleží
Talos přesně zarámuje inovaci: AI zde nepodporuje tradiční schopnost malwaru, jako je mlžení nebo vytváření návnad. Pracuje jako zpravodajský analytik jménem operátora. Myšlenka migrace do světa kyberzločinu, píše firma, je vrhnout širokou síť, všechno ukrást a nechat AI, aby vyřešila specifika.
To má důsledky mimo tuto jednu rodinu malwaru. Infozloději již živí velkou část kriminální ekonomiky – kulatiny se prodávají ve velkém a kupující je ručně vybírají. Modelem řízená fáze třídění automatizuje výběr a umožňuje operátorům s nízkou kvalifikací získat maximální hodnotu z velkoobjemových krádeží a soustředit následné útoky, jako je vydírání nebo převzetí účtu, na oběti, které mohou skutečně zaplatit.
Pro modelové poskytovatele a routovací služby je případ připomínkou, že zneužití se neomezuje pouze na veřejná chatovací rozhraní. Přístup založený na API prostřednictvím prodejců a agregátorů vytváří cestu k monetizaci pro nástroje pro zločince a odmítavé chování – které operátoři VOLTA jasně předpokládali – zůstává první linií obrany.
Pro uživatele jsou praktické pokyny nezměněné, ale naléhavější: nejbezpečnější obranou proti zloději informací, který dokáže vyslechnout celý váš digitální život, je v první řadě odepřít mu přístup pomocí jedinečných hesel, vícefaktorové autentizace odolné proti phishingu a rychlé hygieny prohlížeče a pověření.
Talos říká, že VOLTA je vyzrálý implantát, což naznačuje, že integrace umělé inteligence již mohla nějakou dobu fungovat ve volné přírodě. Stejně jako u předchozích zlodějských inovací mají kopie a napodobitelé tendenci rychle následovat.
---
Stay Ahead of AIZískejte nejnovější zprávy, analýzy a průlomové informace o umělé inteligenci – vše na jednom místě.
Přečtěte si další zprávy o AI →
