Jak wynika z raportu Kyodo News opublikowanego przez „The Straits Times” i inne media, międzynarodowe dochodzenie prowadzone przez najwyższy japoński organ koordynujący cyberbezpieczeństwo zidentyfikowało około 1000 serwerów podejrzanych o to, że mogą służyć jako punkty startowe zaawansowanych cyberataków opartych na sztucznej inteligencji. Japońskie Centrum Koordynacyjne Zespołu Reagowania na Kryzysy Komputerowe (JPCERT/CC) przeprowadziło dochodzenie wspólnie z zagranicznymi firmami zajmującymi się cyberbezpieczeństwem i rozpoczęło je na początku października. Obecnie śledzi od 600 do 700 tych serwerów.
Odkrycie to jest jednym z najwyraźniejszych sygnałów, że hakowanie wspomagane sztuczną inteligencją przeszło z eksperymentu do infrastruktury. Atakujący nie pytają już tylko chatbotów o radę — stawiają na dedykowane serwery, na których przez całą dobę działają narzędzia AI. Aby kontynuować zasięg bezpieczeństwa sztucznej inteligencji i analizować, jak sztuczna inteligencja zmienia krajobraz zagrożeń, AI Buzz Wire śledzi istotne dochodzenia.
Co badacze znaleźli na serwerach
Z dochodzenia wynika, że napastnicy wykorzystali serwery do wdrożenia narzędzi sztucznej inteligencji, które skanują w poszukiwaniu luk w zabezpieczeniach systemu i atakują strony internetowe na całym świecie. Na większości serwerów znajdowały się narzędzia oparte na sztucznej inteligencji, w tym platforma do testów penetracyjnych o nazwie Artex, która była wykorzystywana do wyszukiwania słabych punktów i prób kradzieży plików konfiguracyjnych.
Na niektórych publicznie dostępnych serwerach znajdowały się także programy do testowania podatności systemu oraz narzędzia do analizy wewnętrznej struktury aplikacji na smartfony. Śledczy stwierdzili, że napastnicy wykorzystali te narzędzia do prób nieautoryzowanego dostępu za pośrednictwem interfejsów wymieniających informacje z systemami zewnętrznymi – interfejsów API i usług łączących nowoczesne aplikacje ze światem zewnętrznym.
Badaczom przykuł uwagę jeden szczegół: na jednym z serwerów śledczy znaleźli ślady narzędzia wsparcia programowania stworzonego przez amerykańską firmę Anthropic zajmujące się sztuczną inteligencją, co sugeruje, że napastnicy korzystają z popularnych narzędzi programistycznych, aby zwiększyć swoje możliwości hakerskie – wynika z raportu Kyodo.
Obecność głównego nurtu narzędzi programistycznych w infrastrukturze atakujących podkreśla wyzwanie strukturalne, jakie stanowi sztuczna inteligencja podwójnego zastosowania. System zoptymalizowany do pisania kodu lub sondowania sieci nie wie, czy jego operator jest obrońcą, czy intruzem, a gdy wykorzystanie przeniesie się na infrastrukturę taką jak te serwery, widoczność, na której polegają dostawcy i badacze, w dużej mierze zniknie.
AI obniża poprzeczkę, aby wejść na rynek
Jak wynika z dochodzenia, pojawienie się zaawansowanej sztucznej inteligencji obniża bariery techniczne stojące przed cyberprzestępcami, ułatwiając hakowanie nawet osobom nieposiadającym specjalistycznej wiedzy. „Hakerstwo, które wcześniej wymagało czasu nawet dla osób posiadających specjalistyczną wiedzę, stało się łatwiejsze wraz z pojawieniem się sztucznej inteligencji wysokiego poziomu” – zauważono w raporcie.
Cytowani w relacji analitycy cyberbezpieczeństwa stwierdzili, że cyberataki wspomagane sztuczną inteligencją są nadal na wczesnym etapie, ale ostrzegli, że zagrożenie może szybko wzrosnąć. „W przyszłości zwiększy się liczba bardziej wyrafinowanych ataków” – powiedział Ken Sajo, analityk w JPCERT/CC. Innymi słowy, wcześnie, ale już zorganizowany — i już działający na skalę małej operacji hostingowej.
Ostrzeżenie wpisuje się w równoległą sytuację w Stanach Zjednoczonych. W opublikowanym w piątek raporcie Nacionale opisał, jak Artex – ta sama platforma do testów penetracyjnych, którą znaleziono na większości serwerów objętych sondą prowadzoną przez Japonię – została pierwotnie zbudowana, aby pomóc organizacjom testować własne sieci pod kątem słabych punktów, ale FBI twierdzi, że napastnicy zamienili ją obecnie w narzędzie do włamań.
Narzędzia podwójnego zastosowania, konsekwencje w świecie rzeczywistym
Wzorzec opisany przez JPCERT to dylemat podwójnego zastosowania branży zabezpieczeń, mający miejsce w skali Internetu. Platformy do testów penetracyjnych istnieją, ponieważ organizacje muszą znaleźć własne wady, zanim zrobią to przestępcy. To samo narzędzie, skierowane na zewnątrz, automatyzuje rozpoznanie, skanowanie podatności i ataki poświadczeń przeciwko każdemu, kto ma odsłonięty interfejs.
Serwery objęte sondą ilustrują drugi trend: napastnicy traktują narzędzia sztucznej inteligencji jak zwykłą infrastrukturę — ustawiają je, wystawiają, a w niektórych przypadkach błędnie konfigurują je tak źle, że śledczy mogą obserwować, jak działa na otwartej przestrzeni. Ta widoczność umożliwiła przeprowadzenie badania i zapewnia obrońcom rzadki wgląd w organizację tych operacji. Fakt, że serwery są obserwowane od października, również sugeruje ciągłe działanie, a nie jednorazowe eksperymenty – infrastrukturę, która jest udostępniana, konserwowana i wymieniana w miarę wykrycia, co jest zjawiskiem bardziej charakterystycznym dla ustalonych działań przestępczych niż dla oportunistycznych jednostek.
Dla organizacji praktyczne implikacje są natychmiastowe. Z raportu wynika, że serwery były wykorzystywane do wyszukiwania luk w zabezpieczeniach i kradzieży plików konfiguracyjnych, które często zawierają dane uwierzytelniające i szczegóły sieci wewnętrznej. Wzmacnianie punktów końcowych API, ograniczanie interfejsów administracyjnych, rotacja ujawnionych sekretów i monitorowanie w celu automatycznego skanowania to linia bazowa obrony, na którą wskazują ustalenia.
Dochodzenie JPCERT/CC jest w toku i agencja twierdzi, że będzie nadal śledzić zidentyfikowane serwery. Większe pytanie — jak zarządzać narzędziami, które są jednocześnie produktami bezpieczeństwa i bronią do ataku — jest obecnie zadawane w salach sądowych, salach konferencyjnych oraz, jak pokazuje to badanie, na około tysiącu serwerów na całym świecie.
Wyprzedź sztuczną inteligencję
Od modeli granicznych po zagrożenia z pierwszej linii frontu – historia sztucznej inteligencji toczy się szybko. Wyprzedź sztuczną inteligencję dzięki relacjom AI Buzz Wire na temat ważnych wydarzeń.
Przeczytaj więcej aktualności o sztucznej inteligencji →