Jeden z největších dodavatelů kybernetické bezpečnosti ve Spojených státech uvedl řadu údajů, před kterými bezpečnostní výzkumníci celý rok varovali: hraniční modely umělé inteligence vytvořené pro chatboty a kódovací asistenty jsou nyní schopny provádět kybernetické útoky převážně samy. Pro průběžné pokrytí vývoje zabezpečení AI viz AI Buzz Wire.
Nová zpráva od Booz Allena Hamiltona, kterou pokrývají SC Media a The Register a která za poslední týden obletěla svět průmyslové bezpečnosti, vyhodnotila 18 modelů umělé inteligence – devět ze Spojených států a devět z Číny – a zjistila, že jeden z nich autonomně dokončil úplný řetězec kybernetického zabíjení při testování: identifikace zranitelností, získání přístupu k cílové síti a eskalace na kontrolu na úrovni správce.
Jeden model dokončil zabijácký řetězec
Zpráva, známá jako Cyber Weapon Index, zaznamenala Claude Mythos od Anthropic jako jediný model, který dokončil celou útočnou sekvenci autonomně. Několik dalších se nepříjemně přiblížilo. Podle pokrytí zjištění SC Media, xAI Grok-4.5 a OpenAI GPT-5.6 Sol prokázaly významný pokrok v autonomním útoku a dosáhly úplného přístupu k doméně nebo laterálního pohybu v ohrožených sítích – mezikroky, které operátor provádí mezi počátečním vstupem a plnou kontrolou.
Řetězec zabíjení, z hlediska kybernetické bezpečnosti, zahrnuje průzkum prostřednictvím vykořisťování, eskalace a vytrvalosti. Model, který jej dokončí bez pomoci, účinně funguje jako útočný kybernetický operátor, nikoli jako nástroj, který na požádání pouze zapisuje exploit kód.
Na postroji záleží víc než na modelu
Snad nejzávažnější zjištění zprávy se týká softwaru, nikoli modelů. Útočný postroj – lešení, které propojuje model umělé inteligence se skutečnými hackerskými nástroji, skenery a exploit frameworky – dramaticky zesiluje jakoukoli útočnou schopnost, kterou model již má. Model střední úrovně zapojený do schopného svazku může překonat silnější model fungující v surovém stavu, což znamená, že bariéra schopnosti autonomního útoku klesá z důvodů, které nemají nic společného s vydáním příštího modelu.
Analytici Booz Allen varují, že nyní hrozí mainstreamové útoky finančně motivovaných zločineckých skupin a státem podporovaných aktérů řízené umělou inteligencí. Jejich projekce: U většiny testovaných modelů se očekává, že do šesti měsíců dosáhne úrovně zbraní srovnatelné s dnešními vůdci. Firma také naléhá na americkou vládu, aby stanovila termíny pro provozovatele kritické infrastruktury, aby prokázali odolnost proti útokům s umělou inteligencí a vyvinuli vlastní vynikající útočné a obranné schopnosti umělé inteligence.
Varování, které odpovídá vlastnímu odvětví
Hodnocení se nachází uprostřed řady podobných upozornění ze samotného odvětví umělé inteligence. Společnost Anthropic již dříve označila kybernetické útoky řízené umělou inteligencí za kritický inflexní bod a vlastní zavedení hraničního modelu OpenAI doprovázela neobvyklá veřejná odhalení pokročilých kybernetických schopností – včetně rozhodnutí omezit přístup, zatímco společnost posuzovala, co by její model mohl udělat se skutečnými sítěmi. Samostatné zprávy o zjištěních společnosti Booz Allen, které přinesla společnost Industrial Cyber, vytvořily stejnou zprávu jako varování, že okna odezvy pro kritickou infrastrukturu se zužují, jak se zvyšuje autonomie umělé inteligence.
Politická debata, kterou to vede, již není hypotetická. Zákonodárci již zahájili vyšetřování rizik kybernetické bezpečnosti modelů AI zahraničního původu běžících v kritické infrastruktuře USA a provozovatelé rozvodných sítí oznámili nárůst poptávky po elektřině řízené umělou inteligencí, který se shoduje s rostoucím státem sponzorovaným zájmem o energetické systémy. Zdokumentovaný test, ve kterém komerční model umělé inteligence dokončí řetězec zabíjení sám, převádí tyto abstrakce na benchmark.
Co by si z toho měli obránci vzít
Pro bezpečnostní týmy jsou praktické důsledky zprávy užší než její titulky. Autonomní útok předpokládá autonomní obranu: stejné agentní schopnosti, které umožňují využití modelového řetězce, jsou již nasazeny na modré straně, třídit výstrahy, korelovat telemetrii a opravovat rychlostí stroje. Mezera, kterou Booz Allen identifikuje, je organizační – většina provozovatelů kritické infrastruktury stále měří odezvu na incidenty v hodinách, zatímco útoky s pomocí AI zkrátí ekvivalentní časovou osu na minuty.
Doporučení firmy ohledně pevných termínů je sázka, že tuto mezeru zacelí regulace, nikoli tlak trhu. To, zda se k tomu USA postaví – a zda prodejci umělé inteligence považují hodnocení útočných schopností za bránu před vydáním, jako farmakologie zachází s klinickými zkouškami – bude ovlivňovat, jak se příštích šest měsíců projekce zprávy skutečně odehraje.
Ofenzivní trh se již formuje
Pokud bylo potřeba nějaké potvrzení, že se tato schopnost stává kategorií produktů, dorazilo den po rozeslání zprávy. Jak SC Media samostatně informovala 4. září, startup s názvem Abliteration.ai spustil službu výslovně zaměřenou na umožnění útočných kybernetických operací, red-teamingu a testování agentů s modely AI, které ostatní poskytovatelé odmítají. Načasování podtrhuje hlavní bod zprávy o svazcích: překážkou pro autonomní útoky již není schopnost modelu, ale okolní nástroje a nástroje jsou něco, co nyní trh dodává sám.
Defenzivní týmy nemusí čekat na další cyklus benchmarků, aby mohly na základě zjištění jednat. Šestiměsíční okno zbrojení zprávy je funkčně konečným termínem pro inventarizaci majetku, segmentaci a měření doby odezvy – neokoukané kontroly, které určují, zda se autonomní útočník setká s opevněnou sítí nebo s otevřenou sítí.
Udržujte si náskok před AI
Sledujte příběhy o zabezpečení AI, na kterých záleží. Přečtěte si další zprávy o AI, než se dostane do vaší sítě.
Přečtěte si další zprávy o AI →
