Według Reutersa, przywódcy finansowi G7 zgodzili się na zorganizowanie ćwiczeń symulacyjnych w celu ochrony przed cyberatakami wykorzystującymi sztuczną inteligencję. Decyzja zobowiązuje siedem największych rozwiniętych gospodarek świata do wspólnego przećwiczenia swojej reakcji na klasę zagrożeń, które – jak ostrzegają urzędnicy ds. bezpieczeństwa – rosną szybciej niż tradycyjne systemy obronne.
Porozumienie, ogłoszone w piątek, następuje w momencie, gdy decydenci w coraz większym stopniu starają się koordynować reakcje na rosnące zagrożenia cyberbezpieczeństwa związane ze sztuczną inteligencją. Ćwiczenia stołowe – ustrukturyzowane symulacje, podczas których urzędnicy krok po kroku przechodzą przez hipotetyczny kryzys – stały się preferowanym narzędziem do testowania, w jaki sposób rządy, banki centralne i prywatne instytucje finansowe faktycznie komunikowałyby się i reagowały na ataki. W przypadku grupy G7 ćwiczenia skupią się na sektorze finansowym, gdzie udane włamanie z wykorzystaniem sztucznej inteligencji może poruszyć rynki, zanim obrońcy w ogóle zrozumieją, co się dzieje. Więcej kontekstu na ten temat znajdziesz w naszych wiadomości AI.
Ostrzeżenie MFW spowodowało, że ćwiczenia stały się pilne
Posunięcie to jest następstwem ostrzeżenia Międzynarodowego Funduszu Walutowego z tego tygodnia, że atak wykorzystujący sztuczną inteligencję może podważyć zaufanie do instytucji finansowej i wpłynąć na stabilność systemu. Przesłanie MFW, podsumowane przez media relacjonujące decyzję G7, było takie, że sztuczna inteligencja obniża koszty i zwiększa stopień wyrafinowania ataków na banki, systemy płatności i infrastrukturę rynkową – chociaż ta sama technologia zapewnia także obrońcom nowe narzędzia, obecnie przestępcy mają łatwiejsze zadanie.
Ćwiczenia na stole mają na celu zbadanie tej asymetrii. Zamiast testować, czy oprogramowanie antywirusowe blokuje ładunek, symulacje zadają trudniejsze pytania: kto decyduje się na wyłączenie dużego banku z sieci? W jaki sposób organy regulacyjne komunikują się z rynkami w pierwszych godzinach po zdarzeniu? Kiedy wydarzenie cybernetyczne staje się wydarzeniem wpływającym na stabilność finansową wymagającym płynności banku centralnego? Decyzje te rzadko były przećwiczone z myślą o scenariuszach ataków specyficznych dla sztucznej inteligencji.
Opieranie się na istniejących ramach cybernetycznych
Ćwiczenia będą prowadzone przez Grupę Ekspertów ds. Cyberbezpieczeństwa G7 – grupę roboczą koordynującą politykę cyberbezpieczeństwa we władzach finansowych G7. Grupa ma wieloletnie doświadczenie w transgranicznych ćwiczeniach koordynacyjnych i opublikowała w tym roku wytyczne dotyczące zestawień materiałów dotyczących oprogramowania związanego ze sztuczną inteligencją. Nadanie CEG mandatu do przeprowadzania ataków AI formalizuje to, o czym członkowie zaczęli już rozmawiać dwustronnie w miarę rozprzestrzeniania się narzędzi do włamań wykorzystujących sztuczną inteligencję.
Rola Japonii w ogłoszeniu porozumienia podkreśla, jak debata przeniosła się z abstrakcyjnego ryzyka do konkretnych przygotowań. Na początku tego roku japońskie ministerstwo finansów zasygnalizowało już, że grupa G7 omówi standardy obrony przed sztuczną inteligencją dla instytucji finansowych – piątkowe oświadczenie przekształca tę dyskusję w zaangażowany program wspólnych ćwiczeń.
Rok eskalacji przygotowań
Piątkowe porozumienie jest zwieńczeniem miesięcy prac przygotowawczych. W lipcu japońskie ministerstwo finansów poinformowało, że grupa G7 omówi standardy cyberobrony w zakresie sztucznej inteligencji dla instytucji finansowych, a w sierpniu Departament Skarbu USA publicznie wezwał do pogłębienia praktycznej współpracy w zakresie cyberbezpieczeństwa w całej grupie G7. Władze cybernetyczne grupy przeprowadziły w tym roku formalne ćwiczenie koordynacji transgranicznej – ogłoszone przez Bank of Canada i Ministerstwo Skarbu Wielkiej Brytanii – aby przećwiczyć wymianę informacji podczas symulowanego incydentu. Dodanie do tego podręcznika ataków wykorzystujących sztuczną inteligencję stanowi naturalną eskalację, a ostrzeżenie MFW z tego tygodnia stało się katalizatorem.
Moment ten odzwierciedla również szersze zmiany regulacyjne dotyczące sztucznej inteligencji w finansach. Rada Stabilności Finansowej sfinalizowała w tym miesiącu zestaw solidnych praktyk w zakresie odpowiedzialnego wdrażania sztucznej inteligencji przez instytucje finansowe, a organy nadzoru w kilku członkach G7 ostrzegli, że oszustwa i ryzyko modeli spowodowane sztuczną inteligencją wykraczają poza istniejące zbiory przepisów. Ćwiczenia stołowe rozszerzają tę pracę od standardów papierowych do wyćwiczonych reakcji.
Dlaczego finanse są pierwszym czynnikiem
Sektor finansowy ma powody, aby zrobić pierwszy krok. Jest to najbardziej zdigitalizowana branża krytyczna w gospodarkach G7, działa z szybkością maszyn i jest to sektor, w którym motywacja zysku atakującego jest najbardziej bezpośrednio zgodna ze szkodami dla bezpieczeństwa narodowego. Ostrzeżenie MFW z tego tygodnia skupiało się właśnie na tym narażeniu: atak wykorzystujący sztuczną inteligencję – przestrzegł fundusz – może podważyć zaufanie do instytucji finansowej – a zaufanie jest podstawą bankowości surowcowej.
Sztuczna inteligencja zmienia także kształt samego zdarzenia. Atak oparty na sztucznej inteligencji może dostosować się w połowie kampanii, generując nowe przynęty, gdy jedna z nich zostanie zablokowana, i badając obronę szybciej, niż mogą zareagować operatorzy. Dlatego też ćwiczenia na stole — zmuszające ludzi do podejmowania decyzji z ludzką szybkością — są uważane za niezbędne: pokazują, gdzie kończy się automatyzacja, a zaczyna osąd.
Co stanie się dalej
W ogłoszeniu G7 nie określono publicznego harmonogramu pierwszych ćwiczeń, ale istniejący format ćwiczeń transgranicznych Grupy Cyber Ekspertów zapewnia członkom gotową strukturę, na której można bazować. Prawdopodobne scenariusze takich symulacji obejmują generowaną przez sztuczną inteligencję dezinformację na temat paniki na bank, zautomatyzowane ataki na infrastrukturę płatniczą oraz oszustwa oparte na deepfake’ach przeciwko operacjom skarbowym – klasy incydentów najczęściej oznaczane w tym roku przez organy nadzoru finansowego.
Dla banków i ubezpieczycieli praktycznym sygnałem jest oczekiwanie zaostrzonych oczekiwań ze strony organów nadzoru. Tego rodzaju ćwiczenia koordynacyjne historycznie poprzedzają nowe wytyczne regulacyjne, a członkowie G7 pokazali już w tym roku, że chcą uregulować sztuczną inteligencję w finansach. Format tabletop może być nieformalny, ale jego wynik – udokumentowana mapa tego, kto co robi, gdy nastąpi atak AI – staje się później schematem działania egzekwowanym przez organy regulacyjne.
---
Bądź na Bieżąco z AINajnowsze wiadomości, analizy i przełomy w dziedzinie AI — wszystko w jednym miejscu.
Czytaj więcej wiadomości AI →
