Jeden z największych wykonawców zajmujących się cyberbezpieczeństwem w Stanach Zjednoczonych opublikował szereg informacji na temat tego, przed czym przez cały rok ostrzegali badacze bezpieczeństwa: pionierskie modele sztucznej inteligencji zbudowane dla chatbotów i asystentów kodowania są teraz w stanie w dużej mierze samodzielnie przeprowadzać cyberataki. Aby uzyskać bieżące informacje na temat rozwoju bezpieczeństwa sztucznej inteligencji, zobacz AI Buzz Wire.

W nowym raporcie Booz Allen Hamilton, opublikowanym przez SC Media i The Register, który w zeszłym tygodniu obiegł świat bezpieczeństwa przemysłowego, oceniono 18 modeli sztucznej inteligencji – dziewięć ze Stanów Zjednoczonych i dziewięć z Chin – i stwierdzono, że jeden z nich autonomicznie przeszedł pełny łańcuch cyberzabójstw w testach: identyfikacja luk w zabezpieczeniach, uzyskanie dostępu do sieci docelowej i eskalacja do kontroli na poziomie administratora bez interwencji człowieka.

Jeden model zakończył łańcuch zabijania

W raporcie, znanym jako Cyber Weapon Index, uznano Claude’a Mythosa z firmy Anthropic za jedynego modela, który samodzielnie ukończył całą sekwencję ataku. Kilku innych było nieprzyjemnie blisko. Według relacji SC Media, Grok-4.5 firmy xAI i GPT-5.6 Sol firmy OpenAI wykazały znaczny postęp autonomicznego ataku, osiągając pełny dostęp do domeny lub ruch boczny w zaatakowanych sieciach – czyli etapy pośrednie, które wykonuje operator między początkowym wejściem a pełną kontrolą.

Łańcuch zabójstw, z punktu widzenia cyberbezpieczeństwa, obejmuje rozpoznanie poprzez wykorzystanie, eskalację i utrzymywanie się. Model, który samodzielnie go wykonał, skutecznie działał jako ofensywny cyberoperator, a nie narzędzie, które po prostu pisze kod exploita na żądanie.

Uprząż ma większe znaczenie niż model

Być może najważniejsze wnioski zawarte w raporcie dotyczą oprogramowania, a nie modeli. Uprząż ataku — rusztowanie łączące model sztucznej inteligencji z prawdziwymi narzędziami hakerskimi, skanerami i platformami exploitów — radykalnie wzmacnia wszelkie możliwości ofensywne, jakie posiada już model. Model średniej klasy podłączony do wydajnej uprzęży może przewyższać silniejszy model działający na surowo, co oznacza, że ​​bariera dla zdolności do autonomicznego ataku spada z powodów, które nie mają nic wspólnego z kolejną wersją modelu.

Analitycy Booz Allen ostrzegają, że ataki oparte na sztucznej inteligencji, przeprowadzane przez grupy przestępcze motywowane finansowo i podmioty sponsorowane przez państwo, są obecnie nieuchronne. Ich prognoza: oczekuje się, że większość testowanych modeli w ciągu sześciu miesięcy osiągnie poziom uzbrojenia porównywalny z obecnymi liderami. Firma wzywa również rząd USA do wyznaczenia operatorom infrastruktury krytycznej terminów na wykazanie odporności na ataki wykorzystujące sztuczną inteligencję oraz na opracowanie własnych, doskonałych zdolności ofensywnych i defensywnych związanych ze sztuczną inteligencją.

Ostrzeżenie odpowiadające ostrzeżeniu branży

Ocena pojawia się wśród szeregu podobnych alertów pochodzących z samej branży sztucznej inteligencji. Anthropic już wcześniej wskazywało cyberataki oparte na sztucznej inteligencji jako krytyczny punkt zwrotny, a wdrożeniu własnego modelu granicznego przez OpenAI towarzyszyły niezwykłe publiczne ujawnienia na temat zaawansowanych możliwości cybernetycznych – w tym decyzja o ograniczeniu dostępu w czasie, gdy firma oceniała, co jego model może zrobić z rzeczywistymi sieciami. W oddzielnym raporcie na temat ustaleń Booz Allena, sporządzonym przez Industrial Cyber, ten sam raport ujęto jako ostrzeżenie, że okna reakcji dla infrastruktury krytycznej kurczą się wraz ze wzrostem autonomii sztucznej inteligencji.

Debata polityczna, którą to napędza, nie jest już hipotetyczna. Ustawodawcy wszczęli już dochodzenia w sprawie zagrożeń dla bezpieczeństwa cybernetycznego związanych z modelami sztucznej inteligencji obcego pochodzenia działającymi w amerykańskiej infrastrukturze krytycznej, a operatorzy sieci zgłosili gwałtowny wzrost zapotrzebowania na energię elektryczną napędzaną sztuczną inteligencją, zbiegający się z rosnącym zainteresowaniem systemów energetycznych sponsorowanym przez państwo. Udokumentowany test, w którym komercyjny model sztucznej inteligencji samodzielnie kończy łańcuch zabijania, przekształca te abstrakcje w punkt odniesienia.

Co obrońcy powinni z tego wyciągnąć

Dla zespołów ds. bezpieczeństwa praktyczne implikacje raportu są węższe niż jego nagłówki. Autonomiczne przestępstwo zakłada autonomiczną obronę: te same możliwości agenta, które pozwalają na wykorzystanie exploitów w łańcuchu modeli, są już wdrażane po niebieskiej stronie, selekcjonując alerty, korelując dane telemetryczne i łatając z szybkością maszyny. Luka, którą zauważa Booz Allen, ma charakter organizacyjny — większość operatorów infrastruktury krytycznej nadal mierzy reakcję na incydenty w godzinach, podczas gdy ataki wspomagane sztuczną inteligencją skracają ten czas do minut.

Zalecenie firmy dotyczące sztywnych terminów zakłada, że ​​lukę tę wypełnią regulacje, a nie presja rynku. To, czy Stany Zjednoczone pójdą dalej – i czy dostawcy sztucznej inteligencji traktują oceny zdolności ofensywnych jako bramę przed wypuszczeniem na rynek, tak jak farmakologia traktuje badania kliniczne – wpłynie na to, jak faktycznie potoczy się kolejne sześć miesięcy prognoz zawartych w raporcie.

Rynek ofensywny już się formuje

Jeśli potrzebne było jakiekolwiek potwierdzenie, że ta funkcja staje się kategorią produktu, nadeszło dzień po rozpowszechnieniu raportu. Jak odrębnie poinformowało SC Media 4 września, startup o nazwie Abliteration.ai uruchomił usługę wyraźnie mającą na celu umożliwienie ofensywnych operacji cybernetycznych, tworzenia zespołów red-team i testowania agentów z modelami sztucznej inteligencji, których odmawiają inni dostawcy. Moment ten podkreśla główny punkt raportu dotyczący uprzęży: wąskim gardłem dla autonomicznych ataków nie są już możliwości modelu, ale otaczające go oprzyrządowanie, a oprzyrządowanie jest obecnie czymś, co rynek dostarcza obecnie samodzielnie.

Zespoły defensywne nie muszą czekać na kolejny cykl testów porównawczych, aby zastosować się do ustaleń. Sześciomiesięczne okno na uzbrojenie zawarte w raporcie to, funkcjonalnie, termin inwentaryzacji zasobów, segmentacji i pomiaru czasu reakcji – nieestetycznych kontroli, które określają, czy autonomiczny atakujący natknie się na sieć wzmocnioną, czy otwartą.

Wyprzedź sztuczną inteligencję

Śledź ważne historie dotyczące bezpieczeństwa AI. Przeczytaj więcej wiadomości o sztucznej inteligencji, zanim trafią one do Twojej sieci.

Przeczytaj więcej aktualności o sztucznej inteligencji →