Komisja Europejska, organ wykonawczy Unii Europejskiej, stała się w październiku celem cyberataku przeprowadzonego z wykorzystaniem sztucznej inteligencji i spowodował zakłócenia w funkcjonowaniu usług wewnętrznych na ponad dziesięć dni, potwierdził w tym tygodniu urzędnik. Associated Press poinformowała, że ​​atak na władzę wykonawczą UE został przeprowadzony przy użyciu narzędzia sztucznej inteligencji, co stanowi jedno z najbardziej znaczących, ujawnionych publicznie zastosowań sztucznej inteligencji w dotychczasowym ataku na instytucję rządową.

Co się stało Więcej kontekstu na ten temat znajdziesz w naszych trendy AI.

Według Associated Press do ataku doszło w październiku i wykorzystano publicznie dostępne narzędzie sztucznej inteligencji znane jako ARTEX. Włamanie zmusiło Komisję do wyłączenia aplikacji wewnętrznych, w tym systemów kadrowych i płacowych, z których korzystają dziesiątki tysięcy pracowników. Techzine podał, że cyberatak spowodował zamknięcie systemów kadrowych Komisji, natomiast portal Hromadske i hiszpański Escudo Digital poinformowały, że problemy z usługami wewnętrznymi utrzymywały się przez ponad dziesięć dni.

Komisja twierdzi, że powstrzymała większość włamań, jak podaje Escudo Digital, ale śledczy nadal pracują nad ustaleniem, czy dane osobowe należące do pracowników zostały naruszone. Euronews opisało incydent jako cyberatak na dużą skalę, w którym zakres wycieku danych jest nadal nieznany, a Digital Watch Observatory poinformowało, że w wyniku ataku mogło dojść do ujawnienia znacznych ilości danych osobowych. Żadnego napastnika nie podano publicznie, a Komisja nie przypisała tej operacji żadnemu państwu ani grupie.

Dlaczego szczegóły ARTEX mają znaczenie

Tym, co wyróżnia ten incydent, nie jest cel – instytucje UE są rutynowo kontrolowane – ale narzędzia. ARTEX to publicznie dostępne narzędzie AI, a jego użycie pokazuje, jak szybko ofensywne możliwości, które niegdyś wymagały elitarnych zespołów, przenikają do szeroko dostępnego oprogramowania. CyberSecurityNews poinformowało, że hakerzy zaatakowali Komisję Europejską za pomocą narzędzia ARTEX AI w ramach, który określono jako poważny cyberatak, a Times of India odnotował, że ujawnienie następuje w chwili, gdy FBI ostrzegało przed operacjami cybernetycznymi wspomaganymi przez sztuczną inteligencję, przy czym ostrzeżenia Biura dotyczące narzędzi sztucznej inteligencji stały się przedmiotem zainteresowania po włamaniu.

Dla UE symbolika jest niewygodna. Blok spędził lata na budowaniu jednych z najbardziej rozbudowanych na świecie ram regulacyjnych dotyczących technologii cyfrowej, od RODO po ustawę o sztucznej inteligencji, i zyskał pozycję światowego twórcy przepisów w zakresie sztucznej inteligencji. Fakt, że działanie jednej z jej głównych instytucji na dziesięć dni zostało przerwane w wyniku ataku wykorzystującego publiczne narzędzie sztucznej inteligencji, podkreśla rozbieżność między regulacją sztucznej inteligencji a obroną przed jej niewłaściwym wykorzystaniem.

Dochodzenie i pytania otwarte

Kilka kluczowych pytań pozostaje bez odpowiedzi. Komisja nie podała, w jaki sposób napastnicy uzyskali początkowy dostęp, czy narzędzie ARTEX zostało wykorzystane do przygotowania samego włamania, zautomatyzowania rozpoznania czy wygenerowania przynęt perswazyjnych – podaje jedynie, że przy jego pomocy przeprowadzono atak. Nie potwierdziła również, czy dane osobowe pracowników faktycznie opuściły jej sieci – ocena, o której donosi Euronews, jest nadal w toku.

Sam czas trwania zakłócenia jest godny uwagi. Platformy płac i HR mają kluczowe znaczenie operacyjne dla instytucji zatrudniającej dziesiątki tysięcy osób w całej Brukseli i dziesiątki biur krajowych, a utrzymywanie ich w trybie offline przez ponad dziesięć dni sugeruje albo ciągłe wysiłki mające na celu eksmisję intruzów, albo celową kwarantannę w celu zapobiegania przemieszczaniu się na boki – decyzja, w której zabezpieczenie przedkłada się nad ciągłość. Rumuński portal Informat.ro poinformował, że aplikacje wewnętrzne zostały wyłączone jedynie tymczasowo, co jest zgodne z etapowym przywracaniem, podczas którego systemy są przywracane stopniowo w miarę sprawdzania, czy są czyste.

Ujawnienie pojawia się również w kontekście szerszego zakresu niestabilności związanej ze sztuczną inteligencją w systemach krytycznych. Ukraińskie media podały w tym tygodniu, że sztuczna inteligencja mogła być pośrednio zaangażowana w serię awarii systemów informatycznych na dużą skalę w Stanach Zjednoczonych, a oddzielne raporty powiązały luki wykryte przez sztuczną inteligencję z niedawnymi przerwami w instalowaniu poprawek. Jest to wzorzec, który sprawił, że operacje oparte na sztucznej inteligencji stały się powracającym tematem odpraw informacyjnych dotyczących bezpieczeństwa po obu stronach Atlantyku.

Strzał ostrzegawczy dla instytucji na całym świecie

Analitycy bezpieczeństwa ostrzegali przez ostatnie dwa lata, że ​​generatywna sztuczna inteligencja obniży barierę dla zaawansowanych operacji – automatyzując badanie luk w zabezpieczeniach, opracowując przekonujące metody phishingu na dużą skalę i przyspieszając każdą fazę włamania. Incydent Komisji jest najwyraźniejszym jak dotąd publicznym potwierdzeniem, że dzieje się to wbrew celom rządowym o dużej wartości, przy użyciu narzędzi, które każdy może pobrać. Ramy unijnej agencji ds. cyberbezpieczeństwa, zbudowane wokół ENISA i dyrektywy NIS2 w sprawie bezpieczeństwa infrastruktury krytycznej, stoją obecnie w obliczu tego rodzaju testów, o których organy regulacyjne w większości pisały, a nie doświadczały ich na własnej skórze.

Jak dotąd reakcją było powstrzymywanie, a nie odwet lub nazewnictwo. W miarę kontynuacji dochodzenia sprawa prawdopodobnie pojawi się w narastającej debacie politycznej po obu stronach Atlantyku na temat ataków z wykorzystaniem sztucznej inteligencji na systemy rządowe oraz tego, czy publiczna dostępność potężnych narzędzi sztucznej inteligencji wymaga zabezpieczeń, które organy regulacyjne dotychczas skupiały na stosowaniu w modelach komercyjnych, a nie w stosunku do atakujących.

---

Bądź na Bieżąco z AI

Najnowsze wiadomości, analizy i przełomy w dziedzinie AI — wszystko w jednym miejscu.

Czytaj więcej wiadomości AI →