Evropská komise, výkonná složka Evropské unie, byla v říjnu terčem kybernetického útoku, který byl proveden pomocí umělé inteligence a narušil interní služby na více než deset dní, potvrdil tento týden úředník. Agentura Associated Press uvedla, že útok proti exekutivě EU byl proveden s pomocí nástroje umělé inteligence, což je dosud jedno z nejzávažnějších veřejně zveřejněných použití umělé inteligence při útoku proti vládní instituci.
Co se stalo For more context on this story, see our ongoing latest AI developments.
Podle Associated Press se útok odehrál v říjnu a použil veřejně dostupný nástroj umělé inteligence známý jako ARTEX. Vniknutí donutilo Komisi odpojit interní aplikace, včetně systémů lidských zdrojů a mzdových systémů, které obsluhují její desítky tisíc zaměstnanců. Techzine uvedl, že kybernetický útok vypnul HR systémy Komise, zatímco outlet Hromadske a španělský Escudo Digital uvedly, že interní služby zůstaly ovlivněny déle než deset dní.
Komise tvrdí, že většinu vniknutí zadržela, uvedlo Escudo Digital, ale vyšetřovatelé stále pracují na tom, aby zjistili, zda nebyly ohroženy osobní údaje zaměstnanců. Euronews popsal incident jako rozsáhlý kybernetický útok, přičemž rozsah úniku dat je stále neznámý a Digital Watch Observatory oznámilo, že útok mohl odkrýt značné množství osobních údajů. Žádný útočník nebyl veřejně jmenován a Komise operaci nepřipsala žádnému státu nebo skupině.
Proč na detailech ARTEX záleží
To, co incident odlišuje, není cíl – instituce EU jsou běžně vyšetřovány – ale nástroje. ARTEX je veřejně dostupný nástroj umělé inteligence a jeho použití ukazuje, jak rychle se útočné schopnosti, které kdysi vyžadovaly elitní týmy, šíří do široce dostupného softwaru. CyberSecurityNews oznámilo, že hackeři se zaměřili na Evropskou komisi s nástrojem AI ARTEX v tom, co charakterizovala jako velký kybernetický útok, a Times of India poznamenaly, že odhalení dopadlo právě ve chvíli, kdy FBI varovala před kybernetickými operacemi za pomoci AI, přičemž varování úřadu o nástrojích AI byla nově zaměřena po porušení.
Pro EU je symbolika nepohodlná. Blok strávil roky budováním jednoho z nejrozsáhlejších regulačních rámců pro digitální technologie na světě, od GDPR po zákon o umělé inteligenci, a stal se světovým tvůrcem pravidel pro umělou inteligenci. To, že jedna z jejích vlastních základních institucí byla na deset dní narušena útokem využívajícím veřejný nástroj AI, podtrhuje propast mezi regulací AI a obranou proti jejímu zneužití.
Vyšetřování a otevřené otázky
Několik kritických otázek zůstává nezodpovězeno. Komise neuvedla, jak útočníci získali počáteční přístup, zda byl nástroj ARTEX použit k vytvoření samotného narušení, k automatizaci průzkumu nebo ke generování přesvědčivých návnad – pouze to, že útok byl proveden s jeho pomocí. Nepotvrdilo ani to, zda osobní údaje zaměstnanců skutečně opustily její sítě, hodnocení podle Euronews stále probíhá.
Doba trvání přerušení je sama o sobě pozoruhodná. Mzdové a personální platformy jsou provozně kritické pro instituci, která zaměstnává desítky tisíc lidí v Bruselu a desítky národních kanceláří, a jejich ponechání offline déle než deset dní naznačuje buď trvalé úsilí o vystěhování vetřelců, nebo záměrnou karanténu, aby se zabránilo bočnímu pohybu – rozhodnutí, které upřednostňuje omezení před kontinuitou. Rumunská outletová stránka Informat.ro oznámila, že interní aplikace byly deaktivovány pouze dočasně, což je v souladu s postupnou obnovou, při níž jsou systémy postupně navraceny tak, jak jsou ověřovány jako čisté.
Zveřejnění také přichází uprostřed širšího rozsahu nestability související s AI v kritických systémech. Ukrajinská média tento týden informovala, že umělá inteligence mohla být nepřímo zapojena do řady rozsáhlých výpadků IT ve Spojených státech a samostatné zprávy spojovaly zranitelnosti objevené AI s nedávnými poruchami oprav – což je vzorec, díky kterému se operace řízené umělou inteligencí staly opakujícím se tématem bezpečnostních brífinků na obou stranách Atlantiku.
Varovný výstřel pro instituce všude
Bezpečnostní analytici již dva roky varovali, že generativní umělá inteligence sníží bariéru pro sofistikované operace – automatizuje výzkum zranitelnosti, navrhuje přesvědčivý phishing ve velkém a urychluje každou fázi narušení. Incident Komise je dosud nejjasnějším veřejným potvrzením toho, že se to děje proti vysoce hodnotným vládním cílům, a to pomocí nástrojů, které si může kdokoli stáhnout. Rámec vlastních agentur pro kybernetickou bezpečnost EU, vybudovaný na základě ENISA a směrnice NIS2 o zabezpečení kritické infrastruktury, nyní čelí typu testovacích regulátorů, o kterých většinou psali, než aby je zažili na vlastní kůži.
Dosavadní odpovědí bylo zadržování, nikoli odveta nebo pojmenování. Jak vyšetřování pokračuje, případ se pravděpodobně objeví v eskalující politické debatě na obou stranách Atlantiku o útocích s umělou inteligencí na vládní systémy a o tom, zda veřejná dostupnost výkonných nástrojů umělé inteligence potřebuje takové ochranné zábradlí, jaké se regulátoři dosud zaměřovali na použití na komerční modely spíše než na útočníky.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →