Badacze ds. bezpieczeństwa w Cisco Talos szczegółowo opisali złodzieja informacji systemu Windows, który przekazuje skradziony łup modelowi w dużym języku i prosi go o zrobienie tego, co kiedyś zrobili analitycy kryminalni: ustalenie, które ofiary warto ścigać. Szkodnik o nazwie VOLTA-AUTODOXER wykorzystuje etap profilowania ofiar oparty na technologii LLM, aby przekształcić surowe dzienniki danych uwierzytelniających w akta osób stojących za maszynami z priorytetami.
W analizie opublikowanej 31 października przez badacza firmy Talos, Ryana Fettermana, szkodliwe oprogramowanie — śledzone przez firmę Talos jako VOLTA — jest opisane jako dojrzały implant złodzieja z opcjonalną warstwą integracji sztucznej inteligencji. Po zebraniu danych uwierzytelniających, sesji przeglądarki i portfeli kryptowalut, VOLTA gromadzi ustrukturyzowany pakiet dowodów na temat ofiary i wysyła go POST do dostawcy LLM z instrukcjami, aby działał w charakterze analityka kryminalistycznego. Rozwój sygnalizuje, dokąd zmierzają nadużywanie sztucznej inteligencji w cyberprzestępczości: nie tylko generowanie tekstów phishingowych, ale także zautomatyzowane prace wywiadowcze. Aby na bieżąco omawiać historie takie jak ta, zobacz nasze najnowsze osiągnięcia w zakresie sztucznej inteligencji.
Ukradnij wszystko, a następnie pozwól AI to rozwiązać
VOLTA pojawiła się po raz pierwszy w ramach badań CAIRN, a Talos opisuje ją jako samousuwającą się kradzież informacji systemu Windows nieposiadającą infrastruktury należącej do osoby atakującej — cechy, które utrudniają jej przypisanie i zakłócanie. Etap jego gromadzenia jest wyczerpujący nawet jak na standardy złodziei: hasła do przeglądarek, pliki cookie i karty płatnicze; frazy początkowe portfela kryptowalut; Tokeny sesji Discord, Telegram, Steam i Roblox; tokeny Microsoft OAuth; Klucze SSH i dostawcy usług w chmurze; profile Wi-Fi; i zrzuty ekranu.
Nowość zaczyna się po kradzieży. VOLTA tworzy to, co Talos nazywa ustrukturyzowanym pakietem dowodów zawierającym geolokalizację i adres domowy, pracodawcę i domenę pracodawcy, wywnioskowany rok urodzenia, cztery ostatnie cyfry kart płatniczych, obszary robocze Slack, metadane autorstwa dokumentów, wskaźniki kopii zapasowych iPhone'a, a nawet wycenę na żywo konta Roblox ofiary.
Następnie wzbogaca ten pakiet, korzystając z własnych skradzionych sesji ofiary. Według Talosa szkodliwe oprogramowanie przeszukuje Gmaila ofiary w poszukiwaniu potwierdzeń zakupów w celu potwierdzenia jej adresu domowego, pobiera historię zamówień UberEats i DoorDash oraz wzbogaca konta Discord za pomocą skradzionego tokena. Rezultatem jest portret osoby złożony niemal w całości z jej własnych zalogowanych kont.
Podpowiedź: „Zachowuj się jak analityk kryminalistyczny”
Złożony pakiet jest serializowany i wysyłany do LLM dostępnych za pośrednictwem OpenRouter – usługi, która kieruje żądania do wielu dostawców modeli. Podpowiedź systemowa instruuje model, aby działał jako „analityk kryminalistyczny opracowujący ocenę celu”.
Wymagana wydajność jest uderzająco korporacyjna. Musi zawierać sekcję zatytułowaną „ICH SĄ WARTE”, zawierającą ranking kosztowności ofiary według potencjału monetyzacji na niskim, średnim i wysokim poziomie, oraz sekcję „ICH OPSEC”, oceniającą stan bezpieczeństwa ofiary i higienę haseł. Modelka faktycznie staje się analitykiem segregacyjnym operatora, tworząc dokumentację popartą cytatami, która informuje przestępcę, gdzie są pieniądze.
Talos znalazł również dowody na to, że operatorzy projektowali w oparciu o poręcze zabezpieczające AI. Jeśli model odmówi przeprowadzenia oceny docelowej, VOLTA przechodzi awaryjnie do łańcucha składającego się z trzech modeli i wypróbowuje następny w kolejności — co badacz opisuje jako bezpośredni wysiłek inżynieryjny oparty na oczekiwaniu trafienia w model odmowy. Monit konfiguracyjny AI odzyskany ze złośliwego oprogramowania zawiera nawet instrukcje stylistyczne: „Idź głęboko, nie szeroko… Bądź dosadny, konkretny i dokładny”.
Dlaczego to ma znaczenie
Talos precyzyjnie określa innowację: sztuczna inteligencja nie obsługuje tradycyjnych funkcji złośliwego oprogramowania, takich jak zaciemnianie czy generowanie przynęt. Pracuje jako analityk wywiadu w imieniu operatora. Pomysł wkraczający do świata cyberprzestępczości – pisze firma – polega na zarzuceniu szerokiej sieci, kradzieży wszystkiego i umożliwieniu sztucznej inteligencji ustalenia szczegółów.
Ma to konsekwencje wykraczające poza tę jedną rodzinę złośliwego oprogramowania. Złodzieje informacji już teraz zasilają znaczną część gospodarki przestępczej — kłody są sprzedawane hurtowo, a kupujący wybierają je ręcznie. Etap segregacji oparty na modelach automatyzuje kompletację, umożliwiając operatorom o niskich kwalifikacjach wyciągnięcie maksymalnej wartości z kradzieży na dużą skalę i skoncentrowanie kolejnych ataków, takich jak wymuszenia lub przejęcie konta, na ofiarach, które faktycznie są w stanie zapłacić.
Dla dostawców modeli i usług routingu sprawa ta przypomina, że niewłaściwe użycie nie ogranicza się do publicznych interfejsów czatu. Dostęp oparty na API za pośrednictwem sprzedawców i agregatorów tworzy ścieżkę monetyzacji dla narzędzi przestępczych, a zachowania odmowne – których operatorzy VOLTA wyraźnie przewidywali – pozostają pierwszą linią obrony.
Praktyczne wskazówki dla użytkowników pozostają niezmienione, ale pilniejsze: najbezpieczniejszą obroną przed złodziejem informacji, który może przesłuchać całe Twoje cyfrowe życie, jest przede wszystkim odmowa mu dostępu za pomocą unikalnych haseł, wieloczynnikowego uwierzytelniania odpornego na phishing oraz szybkiej higieny przeglądarki i danych uwierzytelniających.
Talos twierdzi, że VOLTA to dojrzały implant, co sugeruje, że integracja sztucznej inteligencji mogła już działać na wolności od jakiegoś czasu. Podobnie jak w przypadku poprzednich innowacji dotyczących kradzieży, kopie i naśladowcy zwykle pojawiają się szybko.
---
Wyprzedź sztuczną inteligencjęOtrzymuj najnowsze wiadomości, analizy i przełomowe informacje dotyczące sztucznej inteligencji — wszystko w jednym miejscu.
Przeczytaj więcej aktualności o sztucznej inteligencji →
