Bank of America najala 1000 externích dodavatelů, aby pomohli opravit zranitelnosti softwaru, které se objevily u pokročilých modelů umělé inteligence, včetně Anthropic's Mythos, řekl ve středu CNBC generální ředitel Brian Moynihan. Zveřejnění, učiněné v rozhovoru po zveřejnění zisků banky za třetí čtvrtletí, je jedním z prvních případů, kdy velká americká korporace upřesnila pracovní sílu a dolarové náklady na obranu svých systémů proti hraničním modelům umělé inteligence.
Podle CNBC byli dodavatelé přijati ve druhém čtvrtletí roku 2026, aby podpořili zhruba 3 000 interních zaměstnanců, kteří pracují v této oblasti, a zůstávají v bance dodnes. "Najali jsme 1 000 dodavatelů, aby nám pomohli s opravami ve druhém čtvrtletí, a tito lidé tu zůstávají dodnes a pomáhají nám, kromě 3 000 lidí, které v této oblasti máme," řekl Moynihan Leslie Pickerovi z CNBC. For more context on this story, see our ongoing breaking AI news.
Stovky milionů ve čtvrtletních nákladech
Záplatování nebylo levné. Moynihan dříve ve středu analytikům řekl, že náprava softwaru v kombinaci s regulační prací související s dodržováním předpisů proti praní špinavých peněz přidala ve třetím čtvrtletí k nákladům banky „několik set milionů plus“. Akcie banky se ve středu po zprávě o zisku propadly až o 8 procent a výdaje na nápravu byly součástí širšího rozhovoru s investory o tlaku na výdaje.
Mythos, který Anthropic v dubnu uvolnil malé skupině bank, technologických firem a vládních agentur, byl oceněn za odhalení a využití desítky let starých softwarových nedostatků – schopností, které přinutily společnosti uchovávající citlivá finanční data k nákladnému obrannému tahanici. Bank of America na začátku tohoto roku přispěchala s posílením širokého spektra svého interního a dodavatelského kódu, řekl Moynihan, s využitím tisíců zaměstnanců a externích zaměstnanců.
"To riziko je skutečné riziko, a proto, když se objevily modely hraničního typu... mnozí z nás se posadili a řekli: 'Jak můžeme přijít na to, jak se přes to rychle dostat?'," řekl Moynihan v rozhovoru pro CNBC.
Dvojitá povaha Frontier AI
Epizoda zachycuje podivnou ekonomiku hraniční umělé inteligence pro velké podniky. Stejná třída modelů, která společnostem pomáhá snižovat náklady zvýšením produktivity, může také odhalit slabá místa v softwaru, který se tiše nahromadil po desetiletí. Moynihan přiznal napětí přímo a poznamenal, že prodejci dodávající software banky se sami předhánějí ve vybavení svých nástrojů hraniční AI.
"Musíme zůstat před nimi a musíme si uvědomit, že lidé, kteří se zabývají vývojem softwaru, jsou lidé, kteří se nám snaží prodat služby," řekl.
Dočasný hrot, Moynihan argumentuje
Když akcie klesaly, Moynihan se snažil ujistit investory, že zvýšení výdajů se ukáže jako dočasné. "Jakmile záplatujete, nemusíte tolik záplatovat... Potrubí se pohybuje," řekl a dodal, že banka očekává, že náklady na nápravu budou časem klesat.
Banka také sází na to, že AI bude více než platit za obrannou práci jinde. Bank of America provozuje asi 130 interních projektů umělé inteligence, které podle CNBC podle CNBC plánují příští rok ušetřit zhruba 700 milionů dolarů – což je číslo, které převyšuje náklady na krátkodobou nápravu, i když načasování těchto dvou je nepříjemné.
Co to říká o průmyslu
Zveřejnění Bank of America nabízí jeden z dosud nejjasnějších datových bodů o tom, kolik velkou instituci ve skutečnosti stojí objevování zranitelnosti řízené umělou inteligencí. Analytici varovali od doby, kdy se začaly dodávat modely hraniční kybernetické bezpečnosti, že starší kódové základny v bankách, nemocnicích a vládách představují rozsáhlou útočnou plochu, kterou umělá inteligence dokáže zmapovat mnohem rychleji než lidští auditoři. Až dosud byla většina této diskuse teoretická; Moynihan na odpověď uvedl počet zaměstnanců a cenovku.
Komentáře také podtrhují choulostivé postavení společností jako Anthropic, které prodávají výkonné modely kybernetické bezpečnosti vybrané skupině institucí, zatímco širší průmysl se dohaduje o tom, jak – a jak rychle – by se takové schopnosti měly rozšířit. Zprávy o pokusech o hackování za pomoci umělé inteligence podrobily omezování a monitorování praktikům kontrolu a podnikoví zákazníci nyní počítají s předpokladem, že jejich slabá místa budou nalezena jako první.
Pro banky je tento výpočet jednoduchý: náklady na opravy jsou měřitelné a ohraničené, zatímco náklady na úspěšný exploit nikoli. Moynihanův vzkaz investorům byl, že nárůst je jednorázové vyčištění, nikoli trvalá nákladová linie – ale epizoda je připomínkou toho, že každý skok ve schopnostech modelu může tiše přehodnotit bezpečnostní pozici každé společnosti, která provozuje software.
Jak se hraniční modely neustále zlepšují v hledání nedostatků, zkušenost Bank of America se může stát méně odlehlou a více šablonou: tisíce zaměstnanců, smluvní armáda a faktura v hodnotě mnoha set milionů dolarů, to vše spuštěno modelem, který se nikdy přímo nedotkl systémů banky.
Bezpečnostní týmy v dalších velkých finančních institucích bedlivě sledují příručku. Pokud modely umělé inteligence dokážou odhalit desetiletí nahromaděných zranitelností během dní, otázkou pro každou banku již není, zda má její kód chyby – jde o to, kdo je najde jako první, a zda má instituce schopnost záplatování reagovat, než se tyto chyby použijí. Moynihanovo odhalení naznačuje, že pro druhou největší banku v USA odpověď vyžadovala, aby náprava řízená umělou inteligencí byla považována za čtvrtletní výdaj spíše než za rutinní položku IT.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
