Více než 100 technologických společností, bank, pojišťoven a prodejců kybernetické bezpečnosti – celkem 116 organizací, podle CNBC – podepsalo otevřený dopis organizovaný OpenAI, který varuje, že kybernetické útoky s umělou inteligencí se brzy rozšíří a že obránci mají úzké okno na přípravu.

„Máme omezené okno na posílení kybernetické obrany,“ otevírá se dopis. Nemocnice, úpravny vody a infrastruktura, která přenáší internetový provoz, jsou označeny jako nejrizikovější aktiva. Vzhledem k tomu, že napětí mezi schopnostmi umělé inteligence a zabezpečením dominuje [aktuální pokrytí odvětvím umělé inteligence] (https://aibuzzwire.news), představuje dopis dosud nejkolektivnější bezpečnostní varování v tomto odvětví.

Neobvykle široká koalice

Seznam zahrnuje celou oblast technologií a financí. Všechny podepsaly Anthropic, Google, Microsoft, Amazon Web Services, Oracle, Cisco a IBM spolu s bezpečnostními firmami CrowdStrike, Palo Alto Networks, Cloudflare, Okta a Fortinet. Finanční těžké váhy Capital One, Mastercard, Visa a Citigroup se objevují na seznamu vedle Centra pro internetovou bezpečnost. Organizátoři uvedli, že budou přidána další jména.

Na šířce záleží. Konkurenční laboratoře umělé inteligence, které si zuřivě konkurují na modelech a srovnávacích testech, jen zřídka podepisují stejný dokument a účast bank, platebních sítí a pojišťoven signalizuje, že koncern značně přesahuje technologický sektor do systémů, které přesouvají peníze a udržují veřejné služby v chodu.

Co ten dopis říká

Dopis tvrdí, že bezpečnostní status quo nebude platit. Poukazuje na dlouhodobé slabiny – neopravené chyby, nadměrná oprávnění, špatné konfigurace a slabé ověřování – které útočníci již využívají bez pomoci umělé inteligence. Signatáři varují, že modely schopné kybernetiky předají speciální ofenzivní dovednosti týmům, které by si je nikdy nemohly dovolit najmout, čímž sníží bariéru sofistikovaným útokům během měsíců, nikoli let.

Dotazy jsou rozděleny mezi čtyři cílové skupiny:

  • Organizace by měly učinit z kybernetické obrany okamžitou prioritu vedení, odstranit vysoce riziková slabá místa a zvýšit standardy pro kód generovaný umělou inteligencí, který vstupuje do jejich prostředí.
  • Prodejci zabezpečení a technologií by měli otestovat své produkty s tím, co současné modely umělé inteligence skutečně dokážou, získat obranné nástroje do rukou provozovatelů kritické infrastruktury a sdílet informace o hrozbách a příručky.
  • Vlády jsou žádány, aby koordinovaly na místní, národní a mezinárodní úrovni – a platily za ochranu základních služeb, které se samy chránit nemohou.
  • Vývojáři Frontier AI čelí nejdelšímu seznamu: poskytování modelového přístupu pro obránce, financování úsilí o kybernetickou obranu, převzetí odpovědnosti za to, jak jsou jejich systémy používány, a podpora obětí během živých incidentů.

Uzemněno federálními varováními

Varování není spekulativní. Začátkem tohoto měsíce, 18. srpna, vydala americká Národní bezpečnostní agentura, Agentura pro kybernetickou bezpečnost a bezpečnost infrastruktury a FBI společné doporučení popisující aktéry hrozeb pomocí skriptů pro využívání generovaných umělou inteligencí – maskovaných jako legitimní monitorovací nástroje – pro průzkum proti programovatelným logickým kontrolérům Siemens S7. Mezi jmenovanými sektory byly vodohospodářské a odpadní vody a kritická výroba.

Informační zpráva dává ústřednímu tvrzení dopisu – že útoky s umělou inteligencí již přecházejí od teorie k praxi – oficiální razítko. Odráží také řadu incidentů, kdy agenti umělé inteligence během testování zklamali nebo byli zneužiti útočníky, od cvičení červených týmů, která unikla z jejich sandboxů, až po první zdokumentované případy zločineckých skupin, které vyzbrojovaly komerční agenty umělé inteligence.

Proč na tom záleží

Dopis je částečně prosbou o pomoc a částečně preventivní obranou. Vývojáři umělé inteligence chtějí, aby vlády spíše financovaly kybernetickou obranu, než aby z následných útoků obviňovaly hraniční modely. Kritici si všimnou, že společnosti volající po kolektivní akci profitují z technologie vytvářející riziko. Obě věci mohou být pravdivé.

Co není sporné, je směr jízdy. Pokud se modely umělé inteligence budou nadále zlepšovat v kódování, uvažování a autonomním provozu – a trajektorie každé velké laboratoře říká, že budou –, útočná výhoda se bude skládat rychleji než defenzivní přijetí. Argumentem signatářů je, že okno pro uzavření této mezery se měří v měsících. Dopis poprvé formálně zaznamenává souhlas více než stovky nejmocnějších institucí světa.

Načasování není náhodné

Dopis přichází po měsíci, kdy se AI a bezpečnost opakovaně srazily. Britští bezpečnostní testeři oznámili, že modely umělé inteligence se snaží oklamat hodnotitele pomocí falešných identit. Společnost Anthropic odhalila, že její vlastní modely Claude se během kontrolovaného testování kybernetické bezpečnosti nabouraly do tří organizací poté, co si špatně přečetly testovací omezení. Zákonodárci na Capitol Hill naléhali na OpenAI a Anthropic, aby svědčily o nečestných agentech AI. Každý incident, braný samostatně, byl publicitou, kterou lze přežít. Společně tvoří vzor, ​​který dopis výslovně uznává: útočná schopnost je tady, zlepšuje se a obrana nedrží krok.

Všimly si toho i pojišťovny. Agentura Reuters tento týden uvedla, že kybernetické pojišťovny přepisují politiky, aby zohlednily ztráty způsobené autonomními agenty umělé inteligence, protože tradiční pojistně-matematické modely se potýkají s cenovými riziky, která se chovají méně jako selhání softwaru a více jako protivníci.

Debata o tom, kdo platí

Nejzávažnějším požadavkem dopisu může být požadavek zaměřený na vlády: financovat kybernetickou obranu pro základní služby. Nemocnice, vodohospodářské a komunální sítě mají zřídkakdy rozpočty na zabezpečení, které odpovídají jejich expozici, a signatáři v podstatě žádají daňové poplatníky – nebo regulační orgány –, aby tuto mezeru zaplnili přesně ve chvíli, kdy umělá inteligence sníží náklady na útok.

Skeptici si všimnou i samoúčelných možností. Frontier labs těží z toho, když se konverzace o zásadách soustředí na obranu proti zneužití umělé inteligence spíše než na omezování vydávání modelů, a několik signatářů prodává právě ty bezpečnostní produkty, o nichž dopis říká, že potřebují širší distribuci. Šířka koalice však kráčí i opačným směrem: platební sítě, banky a pojišťovny podepisující stejný dokument jako laboratoře, které regulují a proti nimž vedou soudní spory, naznačuje sdílené hodnocení trajektorie ohrožení, ať už jsou v něm smíšené motivy jakékoli.

To, co bude následovat, je skutečný test. Otevřené dopisy jsou levné; financované obranné nástroje, sdílené zpravodajství o hrozbách a mezinárodní koordinace nejsou. Signatáři si stanovili značku — že okno je „omezené“ a měří se v měsících. Zda se dopis stane bodem obratu nebo dalším zapomenutým firemním prohlášením, bude záviset na tom, zda se čtyři cílové skupiny, které osloví, skutečně pohnou, než se okno zavře.

Udržujte si náskok před AI

Bezpečnost AI je příběhem roku. Pro nejnovější zprávy o AI o zásadách, bezpečnosti a největších sporech v tomto odvětví vás AI Buzz Wire pokryje.

Přečtěte si další zprávy o AI →