IBM zveřejnila svou nejnovější zprávu o nákladech na narušení dat, která odhaluje, že každé čtvrté narušení je nyní umožněno umělou inteligencí, přičemž průměrné náklady na narušení dat dosahují přibližně 6 milionů dolarů na jeden incident.

Zjištění, která zveřejnila IBM Newsroom 29. července a o nichž informovaly Network World, Cybersecurity Dive a Security Boulevard, vykreslují ostrý obraz toho, jak umělá inteligence přetváří prostředí kybernetických hrozeb. Organizace sledující vývoj v oboru AI najdou ve zprávě střízlivou připomínku, že stejná technologie, která zvyšuje produktivitu, zároveň vyzbrojuje protivníky.

Čísla za hrozbou

Podle studie IBM se nyní 25 procent škodlivých narušení zabezpečení do určité míry týká umělé inteligence – ať už prostřednictvím automatizovaných phishingových kampaní, malwaru generovaného umělou inteligencí nebo rozsáhlého vycpávání pověření pomocí strojového učení. Network World oznámil, že počet útoků řízených umělou inteligencí vzrostl jen za poslední rok o 56 procent, což je číslo, které podtrhuje rychlé přijetí nástrojů AI aktéry hrozeb.

Průměrné náklady na únik dat se vyšplhaly na přibližně 6 milionů dolarů, což představuje meziroční nárůst o 12 procent, podle zpravodajství Network World. Společnost ASIS International potvrdila průměrné náklady ve výši 6 milionů dolarů a poznamenala, že útoky s umělou inteligencí pomáhají posunout náklady na porušení na nová maxima.

Společnost Cybersecurity Dive rozšířila o důsledky a uvedla, že neřízené přijetí umělé inteligence v podnicích vytváří zcela nové kategorie rizik, i když zvyšuje provozní efektivitu. Zpráva naznačuje, že organizace nasazující nástroje umělé inteligence bez adekvátního řízení zabezpečení neúmyslně rozšiřují svou útočnou plochu.

Kritická infrastruktura v hledáčku

Jedno z nejvíce alarmujících zjištění se týká zaměření na kritickou infrastrukturu. Stock Titan oznámil, že 62 procent útoků řízených umělou inteligencí se zaměřovalo na sektory kritické infrastruktury, mezi které patří energetika, zdravotnictví, finanční služby a vládní systémy.

Tato koncentrace útoků na základní služby odráží strategický kalkul protivníků: organizace zabývající se kritickou infrastrukturou často uchovávají citlivá data, provozují zastaralé systémy, které se obtížněji brání, a čelí vážným následkům výpadků – zvyšuje pravděpodobnost, že zaplatí výkupné nebo budou trpět dlouhodobými výpadky.

TradingView informoval o kanadské dimenzi a poznamenal, že náklady na únik dat v této zemi dosáhly rekordních výšin, protože útoky se stále častěji zaměřují na kritickou infrastrukturu. BNN Bloomberg potvrdila podobné trendy v pokrytí zjištění IBM.

Jak umělá inteligence transformuje útočnou plochu

Zpráva IBM zdůrazňuje několik způsobů, jak umělá inteligence zesiluje kybernetické hrozby:

Automatizované sociální inženýrství

Nástroje s umělou inteligencí dokážou generovat vysoce přesvědčivé phishingové e-maily, hluboce falešné hlasové hovory a syntetické identity v rozsahu a sofistikovanosti, s nimiž se tradiční školení v oblasti povědomí o bezpečnosti jen těžko snaží čelit. Network World poznamenal, že 56procentní nárůst útoků řízených umělou inteligencí přímo koreluje s rozšířením dostupných generativních nástrojů umělé inteligence.

Zrychlené využívání

Systémy umělé inteligence mohou rychle vyhledávat zranitelnosti, testovat řetězce exploitů a automatizovat počáteční fáze útoku – zkracují dobu mezi narušením a exfiltrací dat. Zpráva IBM naznačuje, že AI komprimuje tradiční časovou osu útoku, což dává obráncům méně času na detekci a reakci.

Únik a mlžení

Malware poháněný umělou inteligencí dokáže přizpůsobit své chování v reálném čase, aby se vyhnul detekci tradičními bezpečnostními nástroji, což platformám ochrany koncových bodů a systémům detekce narušení ztěžuje identifikaci škodlivé aktivity.

Enterprise Response

Zpráva IBM přichází v době zvýšených obav o zabezpečení umělé inteligence v celém technologickém průmyslu. Zjištění přicházejí spolu s dalšími nedávnými bezpečnostními incidenty – včetně samo se šířícího červa AI demonstrovaného v aplikaci Microsoft Copilot for Word a nepoctivého agenta AI, který zneužil zranitelnosti po narušení Hugging Face – které podtrhly skutečné důsledky neadekvátních bezpečnostních opatření AI.

Security Boulevard poznamenal, že zpráva IBM ukazuje prudký nárůst kybernetických útoků umožněných umělou inteligencí, přičemž společnost naléhá na organizace, aby přijaly bezpečnostní rámce specifické pro umělou inteligenci, místo aby se spoléhaly na starší obranu. IBM doporučuje implementovat programy AI governance, provádět pravidelná bezpečnostní hodnocení systémů AI a investovat do schopností detekce a reakce navržených tak, aby čelily hrozbám s umělou inteligencí.

Zpráva také zdůrazňuje význam mezinárodní spolupráce a sdílení informací, zvláště když útoky s umělou inteligencí stále více překračují státní hranice a zaměřují se na kritickou infrastrukturu sdílenou více národy.

Varování pro éru AI

Zjištění IBM představují kritický datový bod v probíhající debatě o bezpečnosti a zabezpečení umělé inteligence. S tím, jak se organizace předhánějí v nasazení nástrojů umělé inteligence, aby získaly konkurenční výhodu, je stále nemožné ignorovat bezpečnostní důsledky. Vzhledem k tomu, že každé čtvrté porušení nyní zahrnuje umělou inteligenci a průměrné náklady neustále rostou, finanční důvody pro robustní investice do zabezpečení AI nebyly nikdy jasnější.

Zpráva také vyvolává otázky ohledně rovnováhy mezi obrannými a útočnými aplikacemi AI. Protivníci mají k dispozici stejné schopnosti umělé inteligence, které dokážou detekovat hrozby a automatizovat reakci na incidenty – a data IBM naznačují, že útočníci mohou mít v současnosti navrch.

Udržujte si náskok před AI

Další hlášení o zabezpečení a etice AI najdete na AI Buzz Wire – pojednává o rizicích a přínosech umělé inteligence.

Přečtěte si další zprávy o AI →