IBM opublikował swój najnowszy raport dotyczący kosztów naruszenia danych, ujawniający, że obecnie co czwarte złośliwe naruszenie jest możliwe dzięki sztucznej inteligencji, a średni koszt naruszenia bezpieczeństwa danych sięga około 6 milionów dolarów na incydent.

Odkrycia, opublikowane przez IBM Newsroom 29 lipca i zgłoszone przez Network World, Cybersecurity Dive i Security Boulevard, dają wyraźny obraz tego, jak sztuczna inteligencja zmienia krajobraz zagrożeń cyberbezpieczeństwa. Organizacje monitorujące [rozwój branży sztucznej inteligencji] (https://aibuzzwire.news) uznają ten raport za otrzeźwiające przypomnienie, że ta sama technologia, która napędza wzrost produktywności, jednocześnie zbroi przeciwników.

Liczby stojące za zagrożeniem

Według badania IBM 25 procent złośliwych naruszeń bezpieczeństwa dotyczy obecnie w pewnym sensie sztucznej inteligencji — czy to poprzez zautomatyzowane kampanie phishingowe, złośliwe oprogramowanie generowane przez sztuczną inteligencję, czy też wprowadzanie danych uwierzytelniających na dużą skalę w oparciu o uczenie maszynowe. Network World podało, że w samym zeszłym roku liczba ataków opartych na sztucznej inteligencji wzrosła o 56 procent, co podkreśla szybkie przyjęcie narzędzi sztucznej inteligencji przez podmioty zagrażające.

Jak wynika z raportu Network World, średni koszt naruszenia bezpieczeństwa danych wzrósł do około 6 milionów dolarów, co stanowi 12-procentowy wzrost rok do roku. ASIS International potwierdziła średni koszt wynoszący 6 milionów dolarów, zauważając, że ataki wykorzystujące sztuczną inteligencję pomagają podnieść koszty włamań do nowych rekordów.

Cybersecurity Dive rozwinęło konsekwencje, stwierdzając, że niekontrolowane przyjęcie sztucznej inteligencji w przedsiębiorstwach tworzy zupełnie nowe kategorie ryzyka, nawet jeśli zwiększa efektywność operacyjną. Z raportu wynika, że ​​organizacje wdrażające narzędzia sztucznej inteligencji bez odpowiedniego zarządzania bezpieczeństwem nieumyślnie zwiększają powierzchnię ataku.

Infrastruktura krytyczna na celowniku

Jedno z najbardziej alarmujących ustaleń dotyczy ataków na infrastrukturę krytyczną. Stock Titan podał, że 62 procent ataków opartych na sztucznej inteligencji było wymierzonych w sektory infrastruktury krytycznej, w tym energetykę, opiekę zdrowotną, usługi finansowe i systemy rządowe.

Ta koncentracja ataków na podstawowe usługi odzwierciedla strategiczny rachunek przeciwników: organizacje zajmujące się infrastrukturą krytyczną często przechowują wrażliwe dane, obsługują starsze systemy, które są trudniejsze do obrony i muszą stawić czoła poważnym konsekwencjom przestojów, co zwiększa prawdopodobieństwo, że zapłacą okup lub doświadczą długotrwałych zakłóceń.

TradingView przedstawił raport na temat wymiaru kanadyjskiego, zauważając, że koszty naruszeń danych w tym kraju osiągnęły rekordowy poziom, ponieważ ataki coraz częściej wymierzone są w infrastrukturę krytyczną. BNN Bloomberg potwierdziła podobne tendencje w swoim opisie ustaleń IBM.

Jak sztuczna inteligencja zmienia powierzchnię ataku

Raport IBM podkreśla kilka sposobów, w jakie sztuczna inteligencja wzmacnia zagrożenia cybernetyczne:

Zautomatyzowana inżynieria społeczna

Narzędzia oparte na sztucznej inteligencji mogą generować wysoce przekonujące e-maile phishingowe, fałszywe połączenia głosowe i syntetyczne tożsamości na skalę i stopień zaawansowania, którym tradycyjne szkolenia w zakresie świadomości bezpieczeństwa nie są w stanie sobie poradzić. Network World zauważyło, że 56-procentowy wzrost liczby ataków opartych na sztucznej inteligencji koreluje bezpośrednio z rozprzestrzenianiem się dostępnych generatywnych narzędzi sztucznej inteligencji.

Przyspieszona eksploatacja

Systemy sztucznej inteligencji mogą szybko skanować pod kątem luk w zabezpieczeniach, testować łańcuchy exploitów i automatyzować początkowe fazy ataku, skracając czas między naruszeniem a wyciekiem danych. Raport IBM sugeruje, że sztuczna inteligencja skraca tradycyjny harmonogram ataku, dając obrońcom mniej czasu na wykrycie i reakcję.

Unikanie i zaciemnianie

Złośliwe oprogramowanie wykorzystujące sztuczną inteligencję może dostosowywać swoje zachowanie w czasie rzeczywistym, aby uniknąć wykrycia przez tradycyjne narzędzia bezpieczeństwa, co utrudnia platformom ochrony punktów końcowych i systemom wykrywania włamań identyfikację złośliwej aktywności.

Odpowiedź przedsiębiorstwa

Raport IBM pojawia się w momencie wzmożonych obaw dotyczących bezpieczeństwa sztucznej inteligencji w branży technologicznej. Odkrycia te napływają wraz z innymi niedawnymi incydentami związanymi z bezpieczeństwem — w tym samo rozprzestrzeniającym się robakiem AI zademonstrowanym w programie Microsoft Copilot for Word oraz fałszywym agentem sztucznej inteligencji, który wykorzystywał luki w zabezpieczeniach po włamaniu do sieci Hugging Face — które uwypukliły rzeczywiste konsekwencje nieodpowiednich środków bezpieczeństwa sztucznej inteligencji.

Security Boulevard zauważył, że raport IBM wskazuje na gwałtowny wzrost liczby cyberataków umożliwionych przez sztuczną inteligencję, a firma nalega, aby organizacje przyjęły ramy bezpieczeństwa specyficzne dla sztucznej inteligencji, zamiast polegać na dotychczasowych zabezpieczeniach. IBM zaleca wdrożenie programów zarządzania sztuczną inteligencją, przeprowadzanie regularnych ocen bezpieczeństwa systemów AI oraz inwestowanie w możliwości wykrywania i reagowania zaprojektowane w celu przeciwdziałania zagrożeniom opartym na sztucznej inteligencji.

W raporcie podkreślono również znaczenie współpracy międzynarodowej i wymiany informacji, zwłaszcza że ataki wykorzystujące sztuczną inteligencję w coraz większym stopniu przekraczają granice państw, a ich celem jest infrastruktura krytyczna współdzielona przez wiele krajów.

Ostrzeżenie dla ery sztucznej inteligencji

Ustalenia IBM stanowią kluczowy punkt danych w toczącej się debacie na temat bezpieczeństwa i ochrony sztucznej inteligencji. W miarę jak organizacje starają się wdrażać narzędzia sztucznej inteligencji w celu uzyskania przewagi konkurencyjnej, nie da się zignorować konsekwencji w zakresie bezpieczeństwa. Ponieważ jedno na cztery naruszenia dotyczy obecnie sztucznej inteligencji, a średnie koszty stale rosną, uzasadnienie finansowe solidnych inwestycji w bezpieczeństwo sztucznej inteligencji nigdy nie było bardziej jasne.

W raporcie pojawiają się również pytania dotyczące równowagi między defensywnymi i ofensywnymi zastosowaniami sztucznej inteligencji. Te same możliwości sztucznej inteligencji, które mogą wykrywać zagrożenia i automatyzować reakcję na incydenty, są dostępne dla przeciwników, a dane IBM sugerują, że napastnicy mogą obecnie mieć przewagę.

Wyprzedź sztuczną inteligencję

Aby uzyskać więcej raportów na temat bezpieczeństwa i etyki sztucznej inteligencji, odwiedź AI Buzz Wire – omawiamy ryzyko i korzyści związane ze sztuczną inteligencją.

Przeczytaj więcej aktualności o sztucznej inteligencji →