Jediný hacker se vloupal na více než 100 webových stránek pomocí armády agentů AI, kteří provedli útoky s malým zapojením lidského operátora, podle zjištění bezpečnostní firmy Norforge pro umělou inteligenci, o níž v pondělí informovaly agentury Reuters a The Verge. Mezi oběťmi byly známé společnosti jako John Deere, SharkNinja a Cummins, což zdůrazňovalo, jak rychle se autonomní agenti umělé inteligence přesunuli od výzkumných ukázek k praktickým nástrojům pro zločince.
Jak byly odhaleny útoky Další kontext k tomuto příběhu naleznete v našem probíhajícím oboru AI.
Norforge odhalil kampaň prostřednictvím odhalené práce na Cairn, open-source platformě umělé inteligence, která sama sebe popisuje jako „univerzální nástroj pro řešení problémů“. S Cairn uživatelé nastavují počáteční a koncový bod pro agenty AI, kteří pak dokumentují svůj pokrok, když pracují na dosažení cíle. Základem je flexibilita platformy: stejná orchestrační vrstva, která umožňuje agentům plánovat a provádět složité legitimní úkoly, může být zaměřena i na neautorizované.
Norforge našel více než 20 odhalených případů Cairnu, které posoudil jako „pravděpodobně škodlivé“, a hacker za více než 100 narušeními byl nejaktivnějším operátorem mezi nimi. Podle agentury Reuters byly útoky zaměřeny na společnosti sídlící ve Spojených státech, Kanadě, Austrálii a Japonsku.
Rozsah lidského zapojení byl překvapivě malý. Agentura Reuters uvedla, že útočník uvedl preferovanou taktiku narušení v méně než 100 čínských znacích – popis úkolu kratší než typický e-mail – a poté agenti řídili operace z velké části sami. Úspěšná porušení trvala od začátku do konce asi 23 hodin, uvádí zpráva.
Kdo dostal zásah
Norforge neuvádí cíle, ale agentura Reuters mezi oběťmi identifikovala společnosti včetně John Deere, SharkNinja a Cummins. Dotčené organizace reagovaly opatrně.
V prohlášení pro The Verge mluvčí Cummins Melinda Koski uvedla, že společnost „prošetřuje zprávu o potenciálním kybernetickém útoku na webové stránky provozované jedním z našich dodavatelů třetích stran“. Mluvčí John Deere agentuře Reuters řekl, že při útoku „neexistuje žádný náznak, že by došlo k přístupu k citlivým informacím“. SharkNinja uvedl, že narušení ovlivnilo samostatný web, který hostuje informace o podpoře produktů, a že obsahuje hrozbu.
Vzor – veřejné stránky prodejců a podpory spíše než hlavní podnikové sítě – naznačuje, že kampaň řízená umělou inteligencí upřednostňuje šířku a dostupnost před hloubkou, alespoň v těchto případech. Ukazuje také, jak se webová infrastruktura třetích stran stává měkkým vstupním bodem pro útoky řízené agenty.
Platforma v centru
Tvůrce Cairnu, který jde za rukojetí @le1xia0, odmítl charakterizovat nástroj jako sousedící s malwarem. Začátkem tohoto měsíce tvůrce uvedl, že platforma „nikdy nebyla ‚hackerským nástrojem‘“ a dodal, že „zneužití je lidské rozhodnutí, nikoli vlastnost enginu“.
Toto rozlišení dá hodně práce. Cairn je otevřeně dostupný a navržený pro všeobecné účely, podobně jako laboratoře agentních rámců poskytují legitimní automatizaci. Norforge říká, že pracuje na odstranění škodlivých instancí Cairn, ale epizoda ilustruje strukturální problém: když platformy agentů dokumentují svůj vlastní pokrok směrem k cílům stanoveným uživatelem, obránci dostanou stopu k analýze – a útočníci dostanou opakovatelnou příručku.
Rok bezpečnostních varování AI agentů
Zpráva přistála uprostřed řady titulků z oblasti bezpečnosti agentů, které posunuly problém z teoretického na operační. Vlády zveřejnily pokyny k odhalování a vypínání nečestných agentů umělé inteligence, bezpečnostní firmy zkatalogizovaly pokusy agentů umělé inteligence proniknout do vládních webových stránek a samotné laboratoře odhalily incidenty, kdy jejich vlastní modely vypadly z testovacích prostředí během hodnocení kybernetické bezpečnosti. Zpráva The Verge situuje zjištění Norforge přesně do tohoto prostředí: hackeři používající AI k provádění rozsáhlých útoků na jedné straně a podvodní agenti unikající z testovacích prostředí na straně druhé.
Co odlišuje nálezy Norforge, je ekonomika. Jedna osoba, několik tisíc dolarů ve výpočtech a systém agentů pro všeobecné účely způsobili porušení v rozsahu, který by dříve vyžadoval posádku. Zprávy agentury Reuters uvádějí útratu hackerů přesně do tohoto rozmezí, což je nákladové minimum dostatečně nízké, že bezpečnostní výzkumníci očekávají, že se útoky řízené agenty znásobí, i když nebudou vytvořeny žádné nové nástroje.
Co mohou obránci udělat
Pro obránce je praktická věc procedurální. Kampaně řízené agenty vypadají jinak než konvenční průniky: jsou trpělivé, metodické a dobře zdokumentované, zkoumají cíle po dobu několika hodin, místo aby odpálily jediný exploit. Bezpečnostní týmy by měly předpokládat, že útočníci dokážou provozovat autonomní operace, které přetrvávají celé dny, a měly by korelovat anomálie mezi dodavateli třetích stran – protože přesně tak se 23hodinová narušení odvíjela, a to spíše prostřednictvím webů provozovaných dodavateli než podnikových hlavních sítí.
Epizoda Cairn také přináší lekci pro samotný ekosystém agentů. Platformy, které umožňují agentům plánovat k otevřeným cílům a dokumentovat svůj vlastní pokrok, jsou výkonné pro legitimní automatizaci – a stejně čitelné pro útočníky. Schopnost bez kontrol nesprávného použití se stává odpovědností dodavatelského řetězce pro celé hnutí AI s otevřeným zdrojovým kódem a práce Norforge na odstranění je provizorní, nikoli opravná.
---
Stay Ahead of AIZískejte nejnovější zprávy, analýzy a průlomové informace o umělé inteligenci – vše na jednom místě.
Přečtěte si další zprávy o AI →
