Směrnice, oznámená ze Sacramenta, staví Kalifornii jako nejagresivnějšího státního aktéra v USA v oblasti kybernetické bezpečnosti řízené umělou inteligencí. Přichází několik dní poté, co nejnovější zpravodajství o odvětví AI odhalilo, že modely hraniční umělé inteligence prokázaly schopnost provádět sofistikované kybernetické operace samy během kontrolovaného testování – vývoj, který otřásl tvůrci politik po celém světě.
Co program udělá
Podle úřadu guvernéra Newsom nařizuje státním agenturám, aby přijaly čtyři základní kroky:
1. Zaveďte program kybernetické obrany AI k centralizaci obranné pozice státu proti hrozbám s umělou inteligencí.
2. Posílení koordinace kybernetické bezpečnosti napříč státní správou, rozbití sil mezi agenturami.
3. Rozšiřte obranu s umělou inteligencí pro kritickou infrastrukturu a místní samosprávy a zaveďte stejnou technologii, která umožňuje útokům fungovat jako obranný nástroj.
4. Zlepšit připravenost na vznikající incidenty kybernetické bezpečnosti AI.
Iniciativa vychází z kalifornských výkonných nařízení z roku 2023 a 2026 o umělé inteligenci, která společně vytvořila státní rámec pro odpovědné, etické a transparentní používání AI napříč veřejnými agenturami.
„Útoky jsou rychlejší, sofistikovanější a častější“
Newsom zarámoval oznámení jako volbu mezi čekáním na krizi a jednáním hned.
> "Digitální prostředí se před našima očima rychle vyvíjí. Útoky jsou rychlejší, propracovanější a častější, což ohrožuje základní systémy, na které rodiny počítají. Kalifornie může buď čekat na další krizi, nebo můžeme vybudovat takovou obranu, jakou si tato chvíle vyžaduje. Rozhodneme se stavět."
Kancelář guvernéra poznamenala, že nedávná zveřejnění předních vývojářů umělé inteligence prokázala, že pokročilé systémy umělé inteligence jsou schopny nezávisle provádět sofistikované kybernetické operace během kontrolovaných testovacích prostředí a odhalit to, co nazývají „nová rizika“. Protivníci zároveň využívají stále schopnější systémy umělé inteligence k zahájení útoků levněji a efektivněji než kdy dříve.
Proč je v hledáčku kritická infrastruktura
Caroline Thomas Jacobsová, ředitelka úřadu kalifornského guvernéra pro nouzové služby (Cal OES) a poradce pro vnitřní bezpečnost státu, uvedla, že program se zaměřuje na služby, na kterých jsou Kaliforňané každý den závislí.
> "Kybernetické útoky mohou narušit základní služby, na které se Kaliforňané každý den spoléhají, včetně vody, elektřiny, dopravy a nouzové komunikace. Tento nový program pomůže Cal OES a našim partnerům odhalit hrozby dříve, efektivněji sdílet informace, posílit obranu a rychleji reagovat."
Tajemník vládní provozní agentury Nick Maduros dodal, že tato iniciativa pomůže státním agenturám, místním samosprávám a partnerům v kritické infrastruktuře „lépe odhalovat, předcházet a reagovat na kybernetické incidenty, přičemž zajistí, že základní služby, na které se Kaliforňané spoléhají, zůstanou bezpečné, odolné a spolehlivé“.
Pozadí federálního ústupu
Oznámení přichází v významný okamžik v politice kybernetické bezpečnosti USA. Kancelář Newsom výrazně poznamenala, že program přichází „s tím, jak se kybernetické hrozby stávají komplexnějšími a Trumpova administrativa pokračuje ve snižování klíčové federální podpory“.
Federální úředníci nedávno varovali, že obecní vodovodní systémy v Minnesotě byly terčem podezřelé kybernetické operace spojené s Íránem, která ovlivnila více než 30 veřejných služeb – což je jasný příklad toho, že základní občanské služby jsou nyní přímo v hledáčku zahraničních protivníků. Několik národních programů kybernetické bezpečnosti, na které se státní a místní vlády historicky spoléhaly, se současně omezuje na federální úrovni, uvedl úřad guvernéra.
Pro Kalifornii, pátou největší ekonomiku světa, je mezera po federálním ústupu taková, kterou stát hodlá zaplnit sám.
Dilema dvojího použití
Program odráží ústřední napětí v moderní politice AI: stejné schopnosti, které činí AI nebezpečnou v rukou útočníků – rychlost, rozsah, schopnost autonomně zkoumat slabiny – z ní také dělají silný obranný nástroj. Newsom nařídil agenturám, aby „rozšířily obranu s umělou inteligencí“, sází na to, že Kalifornie dokáže využít umělou inteligenci jako štít, i když se připravuje na útoky s umělou inteligencí.
Tuto sázku sdílí rostoucí počet bezpečnostních výzkumníků a startupů, kteří tvrdí, že jedinou realistickou obranou proti hrozbám akcelerovaným umělou inteligencí je detekce a reakce akcelerovaná umělou inteligencí. To, zda se státní úřady dokážou dostatečně rychle rozvinout, aby tyto schopnosti vybudovaly – a přilákaly talenty, aby je provozovaly – určí, jakou ochranu program v praxi poskytuje.
Udržujte si náskok před AI
AI přepisuje pravidla bezpečnosti, správy a infrastruktury. Sledujte AI Buzz Wire, kde budete průběžně informovat o zásadách umělé inteligence, kybernetické bezpečnosti a rozhodnutích utvářejících budoucnost této technologie.
Přečtěte si další zprávy o AI →
