Hakerzy wykorzystali szybko powstającą platformę hakerską wspieraną przez sztuczną inteligencję do włamania wymierzonego w amerykański sektor lotniczy – poinformował w poniedziałek dział Google zajmujący się analizą zagrożeń w wynikach zgłoszonych przez Nextgov. Narzędzie znane jako Cairn to publicznie dostępna platforma do testów penetracyjnych powiązana z chińską społecznością zajmującą się bezpieczeństwem open source — a jego pojawienie się w żywym włamaniu oznacza kolejny krok w migracji agentycznej sztucznej inteligencji z demonstracji badawczych do rzeczywistych operacji szpiegowskich.
Google nie podał nazwy organizacji lotniczej, do której uzyskano dostęp, nie podał, jakie informacje mogły zostać przejęte ani nie przypisał wtargnięcia konkretnemu rządowi. Raport szeroko omawia działania zaobserwowane w ostatnim kwartale i osadza się w dzisiejszym raporcie branży sztucznej inteligencji dotyczącym zmiany przeznaczenia systemów agentowych szybciej, niż są w stanie przystosować się obrońcy.
Co Cairn i jego kuzyni mogą zrobić
Cairn różni się od hakowania wspomaganego chatbotem, który dominował we wcześniejszych raportach o zagrożeniach. Zamiast człowieka instruującego asystenta sztucznej inteligencji krok po kroku, Cairn korzysta z agentów sztucznej inteligencji, którzy dzielą się między sobą informacjami i decydują, jakich technik hakerskich użyć w następnej kolejności, pracując nad penetracją systemu.
Badacze Google twierdzą, że inne systemy typu open source — w tym ARTEX, CyberStrikeAI i PentAGI — są obecnie wykorzystywane do „wykonywania wieloetapowych włamań z większą szybkością operacyjną” w porównaniu z wcześniejszymi działaniami, podczas których hakerzy ręcznie prosili chatboty AI o pomoc w poszczególnych krokach. ARTEX został odrębnie oznaczony w opublikowanym w piątek poradniku FBI dotyczącym cyberbezpieczeństwa.
Najbardziej alarmujące odkrycie: w pełni zautomatyzowana eksploatacja
Z raportu kwartalnego wynika jedno odkrycie. Badacze Google odkryli, że system osoby atakującej jest skonfigurowany do badania poprawek oprogramowania, opracowywania ataków na podstawie zdobytych wiedzy i automatycznego wykonywania tych ataków – bez udziału człowieka w pętli. Firma stwierdziła, że po raz pierwszy jej badacze zidentyfikowali napastników w pełni automatyzujących ten proces.
Konsekwencje są jednoznaczne: wyścig między wydaniami poprawek a wykorzystaniem luk może załamać się z tygodni do godzin, co wywrze dodatkową presję na organizacje, które już mają trudności z instalacją aktualizacji zabezpieczeń, zanim dotrą do nich przestępcy. W czasopiśmie Hacker News omówiono tę samą technikę, stwierdzając, że hakerzy wykorzystują agentów sztucznej inteligencji do tworzenia i uruchamiania exploitów bezpośrednio z poprawek oprogramowania.
„Biorąc pod uwagę niską barierę wejścia, łatwość integracji nowych exploitów i ogromny potencjał skalowania, uważamy, że jest wysoce prawdopodobne, że ugrupowania zagrażające będą nadal korzystać z tych platform w kampaniach skierowanych do organizacji na całym świecie” – stwierdziła firma, według Nextgov.
Chińskie zespoły industrializują analizę; Rekruterzy z Korei Północnej wybierają rozwiązania syntetyczne
W raporcie szczegółowo opisano również, w jaki sposób podmioty powiązane z państwem łączą modele w różnych etapach swoich działań. Chińskie kolektywy hakerskie wykorzystywały modele sztucznej inteligencji do analizowania skradzionych plików i tworzenia gotowych raportów wywiadowczych dla klientów. W jednym przypadku wykonawca wykorzystał sztuczną inteligencję do przetłumaczenia i przeanalizowania skradzionych informacji, ustalenia struktury docelowych organizacji i uporządkowania ustaleń w raportach wywiadowczych — wykorzystując tę technologię do złożonej interpretacji, która następuje po kradzieży, a nie po samej kradzieży.
Google zaobserwował także podejrzanych chińskich agentów eksperymentujących z automatycznymi narzędziami hakerskimi, w tym jedną powiązaną z Chinami grupę opracowującą własny system, który prawdopodobnie będzie wykorzystywany w operacjach szpiegowskich.
Tymczasem aktorzy z Korei Północnej wykorzystują sztuczną inteligencję do doskonalenia inżynierii społecznej. Jedna grupa Google śledzi wybrane organizacje kryptowalutowe w Ameryce Północnej i Europie, korzystając ze sfabrykowanych profili rekruterów. Fałszywi rekruterzy kierują swoje cele do fałszywych usług spotkań, gdzie instrukcje mające na celu naprawienie rzekomego problemu technicznego prowadziły do uruchomienia złośliwego kodu.
Po wejściu do środka osoby atakujące zmieniły ustawienia Claude Code — asystenta kodowania AI firmy Anthropic — w firmowych repozytoriach kodu, tak aby uruchomienie asystenta powodowało pobranie złośliwego oprogramowania. Uzbrojenie zaufanego narzędzia programistycznego oznacza, że szkodliwe działania skupiają się na inżynierach oprogramowania, którym już zaufali.
Ustalenia te odzwierciedlają ogłoszenie Departamentu Sprawiedliwości z zeszłego tygodnia, którego celem jest FaceStealer, północnokoreański program fałszywych rozmów wideo powiązany z kradzieżą o wartości ponad 400 milionów dolarów, wraz z nakazami sądowymi obejmującymi ponad 1,2 miliarda dolarów skradzionych z Binance. Raport Google nie powiązał swoich ustaleń z żadnym przypadkiem.
Operacje wywierania wpływu również stają się bardziej zautomatyzowane
Google twierdzi, że poza szpiegostwem i przestępczością finansową operacje wywierania wpływu powiązane z Rosją, Chinami i Iranem rutynowo wykorzystują obecnie modele sztucznej inteligencji do tworzenia treści i automatyzacji ich dystrybucji, delegując w ten sposób większą część pracy polegającej na udawaniu zwykłych ludzi w Internecie na maszyny.
Pogłębiająca się przepaść
Podsumowując, odkrycia zarysowują problem obronny, który narasta wraz z każdym wydaniem oprogramowania typu open source. Struktury testów penetracyjnych, takie jak Cairn, ARTEX, CyberStrikeAI i PentAGI, są legalnymi narzędziami stworzonymi przez społeczność zajmującą się bezpieczeństwem i dla niej, a ich architektura agentowa sprawia, że są naprawdę przydatne dla czerwonych zespołów. Te same właściwości sprawiają, że są to gotowe bronie ofensywne dla każdego, kto je pobierze.
Wiadomość Google do obrońców jest w rzeczywistości założeniem planistycznym, a nie przewidywaniem: załóżmy, że następne włamanie, z którym się spotkasz, zostanie przeprowadzone z szybkością komputera, zgodnie z harmonogramem ustalonym przez agenta, który czyta informacje o poprawkach przed zakończeniem ich wdrażania.
---
Wyprzedź sztuczną inteligencjęOtrzymuj najnowsze wiadomości, analizy i przełomowe informacje dotyczące sztucznej inteligencji — wszystko w jednym miejscu.
Przeczytaj więcej aktualności o sztucznej inteligencji →