Finanční lídři G7 souhlasili s uspořádáním cvičení na stole, aby se ochránili před kybernetickými útoky s umělou inteligencí, řekl podle agentury Reuters japonský ministr financí Satsuki Katayama. Rozhodnutí zavazuje sedm největších vyspělých ekonomik světa ke společnému nácviku jejich reakce na třídu hrozeb, před kterými bezpečnostní úředníci varují, že roste rychleji než tradiční obrana.

Dohoda, oznámená v pátek, přichází v době, kdy se tvůrci politik stále více snaží koordinovat reakce na rostoucí rizika kybernetické bezpečnosti spojená s umělou inteligencí. Stolní cvičení – strukturované simulace, ve kterých úředníci krok za krokem procházejí hypotetickou krizí – se staly preferovaným nástrojem pro testování toho, jak by vlády, centrální banky a soukromé finanční instituce skutečně komunikovaly a reagovaly pod útokem. V případě G7 se cvičení zaměří na finanční sektor, kde by úspěšný průnik s umělou inteligencí mohl pohnout trhy dříve, než obránci vůbec pochopí, co se děje. For more context on this story, see our ongoing AI news.

Varování MMF dodalo cvičení naléhavost

Tento krok následuje po varování Mezinárodního měnového fondu z tohoto týdne, že útok s umělou inteligencí by mohl podkopat důvěru ve finanční instituci a zvlnit stabilitu systému. Poselství MMF, jak shrnuly výstupy pokrývající rozhodnutí G7, bylo, že umělá inteligence snižuje náklady a zvyšuje sofistikovanost útoků na banky, platební systémy a tržní infrastrukturu – zatímco stejná technologie také dává obráncům nové nástroje, útok má v současnosti jednodušší úkol.

Tato asymetrie je to, co mají stolní cvičení zkoumat. Spíše než testování, zda antivirový software blokuje užitečné zatížení, simulace pokládají těžší otázky: Kdo se rozhodne převést velkou banku do režimu offline? Jak regulátoři komunikují s trhy během prvních hodin incidentu? Kdy se kybernetická událost stane událostí finanční stability vyžadující likviditu centrální banky? Tato rozhodnutí byla jen zřídka nacvičována s ohledem na scénáře útoku specifické pro AI.

Stavíme na existujícím kybernetickém rámci

Cvičení budou probíhat v rámci skupiny G7 Cyber Expert Group, pracovní skupiny, která koordinuje politiku kybernetické bezpečnosti napříč finančními úřady G7. Skupina má dlouholeté zkušenosti s přeshraničními koordinačními cvičeními a letos vydala pokyny k kusovníkům softwaru souvisejícím s AI. Udělení mandátu CEG k útoku pomocí umělé inteligence formalizuje to, o čem členové již začali bilaterálně diskutovat, protože se rozšířily nástroje pro narušení s umělou inteligencí.

Role Japonska při oznámení dohody podtrhuje, jak se debata posunula od abstraktního rizika ke konkrétní přípravě. Japonské ministerstvo financí již dříve v tomto roce signalizovalo, že skupina G7 bude diskutovat o standardech ochrany AI pro finanční instituce – páteční oznámení převádí tuto diskusi do programu společných cvičení.

Rok eskalující přípravy

Páteční dohoda je vyvrcholením měsíců příprav. V červenci japonské ministerstvo financí uvedlo, že skupina G7 bude diskutovat o standardech kybernetické obrany pro finanční instituce v oblasti umělé inteligence a do srpna ministerstvo financí USA veřejně vyzvalo k prohloubení praktické spolupráce v oblasti kybernetické bezpečnosti napříč G7. Kybernetické úřady skupiny letos uskutečnily formální Cvičení přeshraniční koordinace – zveřejněné Bank of Canada a Ministerstvem financí Spojeného království – s cílem procvičit sdílení informací během simulovaného incidentu. Přidání útoků s umělou inteligencí do této příručky je přirozenou eskalací a varování MMF z tohoto týdne poskytlo katalyzátor.

Načasování také odráží širší regulační zátah napříč AI ve financích. Rada pro finanční stabilitu dokončila tento měsíc soubor osvědčených postupů pro zodpovědné přijetí umělé inteligence finančními institucemi a orgány dohledu v několika členech G7 varovaly, že podvody a modelové riziko řízené umělou inteligencí předčí stávající knihy pravidel. Stolní cvičení rozšiřují tuto práci z papírových standardů na procvičované reakce.

Proč jsou finance prvním hybatelem

Finanční sektor má důvody, proč se pohnout jako první. Je to nejvíce digitalizované kritické odvětví v ekonomikách G7, funguje strojovou rychlostí a je to odvětví, kde motiv zisku útočníka nejvíce přímo souvisí s poškozením národní bezpečnosti. Varování MMF z tohoto týdne se soustředilo přesně na tuto expozici: útok s umělou inteligencí, varoval fond, by mohl podkopat důvěru ve finanční instituci – a důvěra je základem bankovnictví surovin.

AI také mění podobu samotného incidentu. Útok řízený umělou inteligencí se může přizpůsobit uprostřed kampaně, generovat nové návnady, když je jeden blokován, a zkoumat obranu rychleji, než mohou lidští operátoři reagovat. Proto jsou stolní cvičení – která nutí lidi rozhodovat se lidskou rychlostí – považována za zásadní: odhalují, kde končí automatizace a kde musí začít úsudek.

Co se stane dál

Oznámení G7 nestanovilo veřejný harmonogram prvního cvičení, ale stávající formát přeshraničního cvičení Cyber Expert Group poskytuje členům připravenou strukturu, na které lze stavět. Pravděpodobné scénáře pro takové simulace zahrnují dezinformace generované umělou inteligencí o bankovním běhu, automatizované útoky na platební infrastrukturu a podvody proti pokladním operacím s povoleným hloubkovým falšováním – třídy incidentů, které finanční regulátoři letos nejčastěji označovali.

Pro banky a pojišťovny je praktickým signálem očekávat přísnější očekávání ze strany orgánů dohledu. Koordinační cvičení tohoto druhu historicky předcházejí novým regulačním pokynům a členové G7 již letos prokázali, že jsou ochotni regulovat AI ve financích. Stolní formát může být neformální, ale jeho výstup – zdokumentovaná mapa toho, kdo co dělá, když dopadne útok AI – má tendenci stát se později prosazovanými regulátory příručky.

---

Stay Ahead of AI

Get the latest AI news, analysis, and breakthroughs — all in one place.

Read more AI news →