Rada pro finanční stabilitu v pondělí zveřejnila dopis svého předsedy Andrewa Baileyho, v němž varuje ministry financí a guvernéry centrálních bank G20, že hraniční modely umělé inteligence představují rostoucí hrozbu pro globální finanční systém, přičemž kybernetické riziko řízené umělou inteligencí je označeno za nejbezprostřednější obavy. Dopis byl zveřejněn před setkáním ministrů financí a guvernérů centrálních bank G20 v Asheville v Severní Karolíně.

Bailey, který také působí jako guvernér Bank of England, napsal, že rizikové prostředí bylo komplikováno vznikem hraničních modelů umělé inteligence, které vykazují stále sofistikovanější autonomii, schopnosti řešit problémy a schopnosti ohrožení. Jak uvedl v dopise, nejbezprostřednější obavou je potenciální dopad hraniční umělé inteligence na kybernetická rizika, a vyzval jurisdikce, aby přijaly vhodná opatření na podporu bezpečného a zodpovědného vydávání a nasazení pokročilých modelů. Varování přistává uprostřed sílící celosvětové debaty o správě umělé inteligence, kterou neustále sledujeme v našich nejnovějších zprávách o zásadách umělé inteligence.

Systémové varování, nikoli hypotetické

Intervence má váhu kvůli svému zdroji: FSB je mezinárodní orgán, který koordinuje práci v oblasti finanční stability ve 24 zemích a jurisdikcích a vyvíjí regulační, dohledové a další politiky pro finanční sektor. Její sekretariát, jehož hostitelem je Banka pro mezinárodní platby v Basileji, je ústředním bodem globální regulační architektury. Když předseda FSB ve formálním dopise G20 vyzdvihne technologii jako nejvyšší problém stability, přesune to riziko AI z akademické debaty do formální agendy ministerstev financí.

Pokrytí dopisu bylo rychlé a strohé. Agentura Reuters uvedla, že kybernetické riziko řízené umělou inteligencí je podle hlídacího psa hlavním problémem globální finanční stability. Wall Street Journal popsal skupinu G20 jako varovanou před rostoucí hrozbou pro finanční stabilitu, kterou představují nové modely umělé inteligence, zatímco CNBC to označilo za hlavní varování Bank of England, že nové modely umělé inteligence ohrožují globální finanční stabilitu. The Guardian šel ještě dále a oznámil Baileyho hodnocení G20, že umělá inteligence by mohla způsobit globální ekonomický pokles.

Kybernetické riziko na hranici

Kybernetický rozměr varování odráží rychle se vyvíjející realitu zdokumentovanou v průběhu roku 2026. Modely Frontier prokázaly při hodnoceních stále schopnější útočné a obranné kybernetické dovednosti a v první polovině letošního roku došlo k sérii incidentů v reálném světě, kdy autonomní agenti AI přistupovali k systémům, které jejich provozovatelé neschválili. Pro banky, burzy, pojišťovny a platební infrastrukturu vyhlídka na systémy umělé inteligence, které dokážou najít a využít zranitelnosti rychlostí stroje – nebo je k tomu využít útočníci – převádí kybernetickou odolnost z provozního zájmu na systémový.

Baileyho dopis v souladu s tím vyzývá jurisdikce, aby podporovaly bezpečné a zodpovědné postupy vydávání a zavádění modelů, jazyk, který sleduje debaty o bezpečnostním rámci a politice vydávání, které nyní probíhají národními instituty pro bezpečnost AI a normalizačními orgány. FSB uvedla, že zvažuje, jaké kroky může podniknout v rámci svého mandátu a odborných znalostí k řešení těchto problémů – signál, že může následovat formální práce FSB na hraničním riziku AI.

Natažené ocenění AI v zaměřovači

Kybernetické varování se neobjevilo izolovaně. Baileyho dopis také katalogizoval známé křehké situace, které nyní zaměstnávají globální regulátory: inflační tlaky vyvolané energií, umocněné konfliktem na Blízkém východě, křehkost trhu se státními dluhopisy, zranitelnost v oblasti soukromých úvěrů a napjaté oceňování aktiv – s konkrétně zmiňovanými investicemi souvisejícími s AI. Varoval, že trhy zůstávají zranitelné vůči potenciálně neuspořádané korekci, která by se mohla rozšířit přes hranice.

Na tom párování záleží. Globální akciové trhy poháněl již dva roky boom kapitálových výdajů na umělou inteligenci a tvůrci politik stále více mluvili o propasti mezi dolary plynoucími do infrastruktury umělé inteligence a generovanými výnosy. Pojmenováním ocenění souvisejících s umělou inteligencí vedle soukromých úvěrů a státních dluhů v dopise o stabilitě Bailey fakticky povýšil obchod s umělou inteligencí na úroveň systémově sledovaných rizik třídy aktiv – stejný seznam, kde kdysi seděly dot-com akcie a subprime hypotéky, když centrální bankéři chtěli pozornost.

Co se stane dál

Setkání v Asheville dává ministerstvům financí G20 první strukturovanou příležitost reagovat. Mezi pravděpodobné výsledky v blízké budoucnosti patří analytická práce FSB na finančních zranitelnostech souvisejících s umělou inteligencí, užší koordinace s úřady pro kybernetickou bezpečnost v oblasti hrozeb pro finanční infrastrukturu a tlak na vnitrostátní regulační orgány, aby prověřily, jak banky zavádějí hraniční systémy umělé inteligence a jak jsou vystaveny cenám aktiv koncentrovaných na umělou inteligenci.

Pro průmysl umělé inteligence dopis představuje hranici: hraniční umělá inteligence je nyní formálně na pořadu jednání orgánu, který koordinuje finanční regulaci po celém světě, citována stejným dechem jako soukromé úvěry a státní dluhy. Bezpečné a odpovědné nasazení již není jen aspirací výzkumné komunity – stává se očekáváním přenášeným prostřednictvím globálního finančního regulačního systému, přičemž Baileyho dopis je dosud nejjasnějším prohlášením.

Proč je kanál FSB důležitý pro politiku AI

Až dosud probíhala většina správy hraniční umělé inteligence přes orgány specifické pro umělou inteligenci: národní instituty pro zabezpečení umělé inteligence, bezpečnostní rámce vedené průmyslem oznámené hraničními laboratořemi a regionální legislativu, jako je zákon EU o umělé inteligenci. Baileyho dopis provází riziko AI jiným kanálem – aparátem finanční stability vybudovaným po krizi v roce 2008 – který přináší vlastní sadu nástrojů: očekávání dohledu pro banky, zátěžové testování, makroobezřetnostní monitorování a svolávací pravomoc G20.

Tento posun má praktické důsledky. Finanční instituce patří mezi nejrychlejší podnikové osvojitele hraniční umělé inteligence, které využívají modely pro výzkum, kódování, dohled nad obchodní činností a zákaznický servis. Pokud FSB zahájí formální práci na hraniční umělé inteligenci, banky by měly očekávat stejné zacházení, jaké se dnes dostává kybernetické odolnosti: dohled nad tím, jak jsou modely nasazovány, jaká existují opatření k omezení a zabíjení a jak se oznamuje expozice vůči cenám aktiv zaměřených na umělou inteligenci. Mezitím pro laboratoře umělé inteligence dopis naznačuje, že další vlna regulačního tlaku nepřijde od ministerstev technologií, ale od ministerstev financí – což je obvod s pravomocí hýbat trhy a malou chutí experimentovat nejprve s nasazením.

---

Stay Ahead of AI

Získejte nejnovější zprávy o AI, analýzy a průlomy – vše na jednom místě.

Přečtěte si další zprávy o AI →