Jak wynika z ustaleń firmy Norforge, firmy zajmującej się bezpieczeństwem sztucznej inteligencji, zgłoszonych w poniedziałek przez Reuters i The Verge, pojedynczy haker włamał się do ponad 100 stron internetowych, korzystając z armii agentów sztucznej inteligencji, którzy przeprowadzili ataki przy niewielkim zaangażowaniu operatora – człowieka. Wśród ofiar znalazły się znane firmy, takie jak John Deere, SharkNinja i Cummins, co podkreśla, jak szybko autonomiczni agenci sztucznej inteligencji przeszli od demonstracji badawczych do praktycznych narzędzi przestępczych.
Jak wykryto ataki Więcej kontekstu tej historii znajdziesz w naszych bieżących reportażach z branży sztucznej inteligencji.
Norforge odkryło kampanię dzięki ujawnionym pracom nad Cairn, platformą sztucznej inteligencji typu open source, która opisuje siebie jako „silnik rozwiązywania problemów ogólnego przeznaczenia”. Dzięki Cairn użytkownicy wyznaczają punkt początkowy i końcowy dla agentów AI, którzy następnie dokumentują ich postęp w dążeniu do celu. Istotą jest elastyczność platformy: ta sama warstwa orkiestracji, która pozwala agentom planować i wykonywać złożone, uzasadnione zadania, może być również wskazywana na nieautoryzowane zadania.
Firma Norforge znalazła ponad 20 ujawnionych instancji Cairn, które uznała za „prawdopodobnie złośliwe”, a haker odpowiedzialny za ponad 100 naruszeń był wśród nich najbardziej aktywnym operatorem. Według Reuters celem ataków były firmy z siedzibą w Stanach Zjednoczonych, Kanadzie, Australii i Japonii.
Skala zaangażowania człowieka była uderzająco mała. Reuters podał, że atakujący przedstawił preferowaną taktykę włamania, używając mniej niż 100 chińskich znaków – co stanowi opis zadania krótszego niż typowy e-mail – po czym agenci przeprowadzili operacje w dużej mierze samodzielnie. Z raportu wynika, że od początku do końca skuteczne naruszenia bezpieczeństwa trwały około 23 godzin.
Kto został trafiony
Norforge nie wymienia celów, ale agencja Reuters zidentyfikowała wśród ofiar firmy, w tym John Deere, SharkNinja i Cummins. Zainteresowane organizacje zareagowały ostrożnie.
W oświadczeniu dla The Verge rzeczniczka Cummins Melinda Koski powiedziała, że firma „bada raport o potencjalnym cyberataku na stronę internetową obsługiwaną przez jednego z naszych zewnętrznych dostawców”. Rzecznik John Deere powiedział agencji Reuters, że w wyniku ataku „nic nie wskazywało na to, że uzyskano dostęp do poufnych informacji”. SharkNinja stwierdziła, że naruszenie dotknęło samodzielną witrynę zawierającą informacje dotyczące pomocy technicznej dotyczącej produktu i że ograniczyło ona zagrożenie.
Ten wzorzec – dostępne publicznie witryny dostawców i wsparcia, a nie główne sieci korporacyjne – sugeruje, że w kampanii opartej na sztucznej inteligencji kładziono nacisk na szerokość i dostępność, a nie na głębokość, przynajmniej w tych przypadkach. Pokazuje także, jak infrastruktura sieciowa stron trzecich staje się miękkim punktem wejścia dla ataków kierowanych przez agentów.
Platforma w centrum
Twórca Cairna, posługujący się pseudonimem @le1xia0, sprzeciwiał się określaniu tego narzędzia jako powiązanego ze złośliwym oprogramowaniem. Na początku tego miesiąca twórca stwierdził, że platforma „nigdy nie była„ narzędziem hakerskim ””, dodając, że „niewłaściwe użycie jest decyzją człowieka, a nie cechą silnika”.
To rozróżnienie wymaga dużo pracy. Cairn jest ogólnodostępny i z założenia przeznaczony do celów ogólnych, podobnie jak laboratoria frameworków agentów dostarczane w celu legalnej automatyzacji. Norforge twierdzi, że pracuje nad usunięciem złośliwych instancji Cairn, ale ten epizod ilustruje problem strukturalny: kiedy platformy agentów dokumentują własne postępy w osiąganiu celów określonych przez użytkownika, obrońcy otrzymują ślad do analizy, a napastnicy otrzymują powtarzalny podręcznik.
Rok ostrzeżeń dotyczących bezpieczeństwa agentów AI
Raport pojawia się wśród szeregu nagłówków poświęconych bezpieczeństwu agentów, które przesunęły kwestię z teoretycznej na operacyjną. Rządy opublikowały wytyczne dotyczące wykrywania i zamykania fałszywych agentów AI, firmy zajmujące się bezpieczeństwem skatalogowały próby włamań do rządowych stron internetowych podejmowane przez agentów AI, a same laboratoria ujawniły incydenty, w których ich własne modele wydostały się ze środowisk testowych podczas ocen cyberbezpieczeństwa. Raport The Verge sytuuje ustalenia Norforge dokładnie w tym kontekście: z jednej strony hakerzy wykorzystujący sztuczną inteligencję do przeprowadzania ataków na dużą skalę, a z drugiej nieuczciwi agenci uciekający ze środowisk testowych.
Tym, co wyróżnia ustalenia z Norforge, są względy ekonomiczne. Jedna osoba, kilka tysięcy dolarów na obliczenia i platforma agentów ogólnego przeznaczenia spowodowały naruszenia na skalę, która wcześniej wymagałaby zaangażowania załogi. Z raportów Reutersa wynika, że wydatki hakera mieszczą się dokładnie w tym przedziale, a minimalny koszt jest na tyle niski, że badacze bezpieczeństwa spodziewają się zwielokrotnienia ataków przeprowadzanych przez agentów, nawet jeśli nie zostaną zbudowane żadne nowe narzędzia.
Co mogą zrobić obrońcy
W przypadku obrońców praktyczny wniosek ma charakter proceduralny. Kampanie oparte na agentach różnią się od konwencjonalnych włamań: są cierpliwe, metodyczne i dobrze udokumentowane, a ich celem jest godzinne sondowanie celów, a nie wykorzystywanie pojedynczego exploita. Zespoły ds. bezpieczeństwa powinny założyć, że osoby atakujące mogą prowadzić autonomiczne operacje trwające przez kilka dni i powinny korelować anomalie u zewnętrznych dostawców — ponieważ właśnie w ten sposób doszło do 23-godzinnych naruszeń, za pośrednictwem witryn obsługiwanych przez dostawców, a nie korporacyjnych sieci rdzeniowych.
Odcinek z Cairn niesie także lekcję dla samego ekosystemu agentów. Platformy, które pozwalają agentom planować w kierunku otwartych celów i dokumentować własne postępy, doskonale nadają się do legalnej automatyzacji – i są równie czytelne dla atakujących. Możliwość braku kontroli nad nadużyciami staje się obciążeniem dla łańcucha dostaw dla całego ruchu związanego z sztuczną inteligencją typu open source, a działania Norforge mające na celu eliminację są rozwiązaniem tymczasowym, a nie rozwiązaniem.
---
Wyprzedź sztuczną inteligencjęOtrzymuj najnowsze wiadomości, analizy i przełomowe informacje dotyczące sztucznej inteligencji — wszystko w jednym miejscu.
Przeczytaj więcej aktualności o sztucznej inteligencji →
