Vedení Wall Street a představitelé Národní bezpečnostní agentury řekli členům Kongresu, že týdenní kaskáda výpadků amerických technologií nebyla způsobena kybernetickými útoky, ale mimořádným úsilím o nápravu zranitelností, které modely umělé inteligence odhalily, podle zprávy The Washington Sun s odkazem na tři zdroje obeznámené se soukromými rozhovory.
Pokud by bylo tvrzení podložené, znamenalo by to jeden z dosud nejjasnějších případů účinků AI druhého řádu destabilizujících kritickou infrastrukturu – ne proto, že by modely napadaly cokoli, ale protože našly tolik skutečných slabin, že je lidští operátoři spěchali opravit všechny najednou. For more context on this story, see our ongoing breaking AI news.
Týden kaskádových selhání
Výpadky se začaly hromadit 12. listopadu a zrychlovaly se v průběhu týdne. 13. listopadu americké letecké úřady vydaly celostátní pozemní zastávku kvůli selhání komunikační technologie – což The Straits Times popsaly jako nejdelší celostátní zastavení letů od útoků z 11. září 2001. E-mailová služba Microsoft Outlook utrpěla výpadky, které vyřadily korespondenci mnoha amerických společností, a služby Apple včetně iCloud, App Store a Apple Pay také skončily.
16. listopadu zasáhla zmatek bankovní systém, přičemž zákazníci v institucích včetně JPMorgan Chase neměli přístup k účtům; banka připisovala problémy se službami softwarovým chybám. 17. listopadu samotná NSA oznámila, že její síť zaznamenala „dočasnou degradaci“ během toho, co nazývala plánovaná rutinní údržba, přičemž trvala na tom, že „kritické schopnosti“ zůstaly plně funkční.
Úředníci důsledně vylučují nepřátelský kybernetický útok. Ministr zahraničí Marco Rubio, zdvojený jako poradce pro národní bezpečnost, uznal, že incidenty byly "znepokojivé", ale řekl novinářům v Manile, kde se prezident Donald Trump účastnil ekonomické konference ASEAN, "nejsme pod systémovým útokem. Nemáme žádné důkazy ani žádný důvod se domnívat, že by spolu něco z toho mělo souvislost."
Vysvětlení AI-Patching
V zákulisí na Capitol Hill kolovalo jiné vysvětlení. Podle zpráv The Washington Sun představitelé vlády a bankovnictví řekli zákonodárcům, že narušení pramenila z pokusů opravit mezery v kybernetické obraně, které modely umělé inteligence identifikovaly, a že výsledná záplava oprav dočasně zahltila postižené systémy.
"Tyto modely identifikují masivní zranitelnosti, a to zvyšuje naléhavost okamžité opravy," řekl deníku jeden představitel Kongresu, který byl o této záležitosti informován. "Snaží se prosadit spoustu záplat najednou - více, než pro co byl systém navržen."
Ministr pro vnitřní bezpečnost Markwayne Mullin nabídl související diagnózu v rozhovoru pro CNBC, když řekl, že organizace „tlačí novou technologii na vrchol skutečně starých počítačových systémů a zdá se, že to systém zahlcuje... Uvidíme toho více, až se nová technologie zavede.“
Účet je v souladu s dynamickými bezpečnostními týmy, před kterými varovaly, jak dospívá analýza kódu s pomocí AI: modely, které dokážou skenovat obrovské kódové základny pro zneužitelné chyby, generují nálezy rychleji, než je mohou procesy řízení změn bezpečně absorbovat. Záplatování je samo o sobě riskantní operace a příliš rychlé provádění příliš velkého množství na stárnoucí infrastruktuře může být stejně rušivé jako zranitelnosti, které napravuje.
Zákonodárci tlačí na odpovědi
Politická reakce byla ve své netrpělivosti pozoruhodně dvoustranná. Senátor Josh Hawley, republikán z Missouri, řekl novinářům: "Pokud je to všechno náhoda, je to jako největší náhoda v dějinách světa," zatímco senátor Jack Reed, demokrat ve Výboru pro ozbrojené služby, se připojil k výzvám po úplnějším vysvětlení tohoto vzorce.
Trump tuto epizodu veřejně minimalizoval. "Je to, jako když jste velcí a mocní a máte všechny peníze. Takové věci se stávají. Je to v pořádku," řekl prezident novinářům v Manile. Bílý dům prohlásil, že „žádná krize neexistuje“.
Analytici uvedení v pokrytí výpadků poukázali na dva slučující se faktory: hluboké personální škrty v technologických operacích v posledních letech a zrychlující se integrace nástrojů AI do údržby systémů, což mohlo způsobit, že kritická infrastruktura je méně odolná a viditelně křehčí, když selže.
Co to znamená pro průmysl AI
Pro sektor AI je tento týden varováním před operačním tempem, které nástroje AI vytvářejí. Stejné možnosti modelu, které obráncům umožňují najít zranitelnosti při rychlosti stroje, je také zavazují k plnění plánů nápravy, pro které nebyly starší systémy nikdy navrženy. Několik dodavatelů nyní uvádí na trh kontinuální bezpečnostní skenování řízené umělou inteligencí právě proto, že nachází nedostatky, které lidem unikají – výpadky naznačují, že se úzké místo přesunulo od objevu k nasazení.
Očekává se, že zákonodárci vyhledají formální brífinky o vlně výpadků, až Kongres vrátí svou pozornost k dohledu nad infrastrukturou, a jak agentury, tak banky budou pravděpodobně čelit otázkám, jak je plánována, testována a omezována údržba řízená umělou inteligencí. Tato epizoda může také podnítit vznikající regulační debatu o tom, zda by změny kritických systémů podporované umělou inteligencí měly být postupné a omezeny rychlostí jako jiné vysoce rizikové provozní změny.
Prozatím lety létají, banky odpovídají na jejich aplikace a NSA říká, že její kritické systémy jsou v pořádku. Nepříjemná lekce, kterou má Kongres absorbovat, je ta, že stroje nalézající nedostatky mohou být napřed před institucemi, které je opravují.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →

