Dyrektywa ogłoszona w Sacramento stawia Kalifornię jako najbardziej agresywnego aktora stanowego USA w zakresie cyberbezpieczeństwa opartego na sztucznej inteligencji. Opublikowano je kilka dni po tym, jak najnowsze doniesienia z branży sztucznej inteligencji ujawniły, że pionierskie modele sztucznej inteligencji wykazały zdolność do samodzielnego przeprowadzania wyrafinowanych operacji cybernetycznych podczas kontrolowanych testów – co wstrząsnęło decydentami na całym świecie.
Co zrobi program
Według biura gubernatora Newsom poleca agencjom stanowym podjęcie czterech podstawowych działań:
1. Utworzenie programu obrony cybernetycznej AI w celu scentralizowania postawy obronnej państwa przed zagrożeniami opartymi na sztucznej inteligencji.
2. Wzmocnienie koordynacji cyberbezpieczeństwa w rządzie stanowym, rozbijanie silosów między agencjami.
3. Rozszerzanie zabezpieczeń opartych na sztucznej inteligencji dla infrastruktury krytycznej i samorządów lokalnych, wykorzystując tę samą technologię, która umożliwia ataki, jako narzędzie obronne.
4. Poprawa gotowości na pojawiające się incydenty związane z cyberbezpieczeństwem AI.
Inicjatywa opiera się na zarządzeniach wykonawczych Kalifornii z lat 2023 i 2026 w sprawie sztucznej inteligencji, które łącznie ustanowiły stanowe ramy odpowiedzialnego, etycznego i przejrzystego wykorzystania sztucznej inteligencji w agencjach publicznych.
„Ataki są szybsze, bardziej wyrafinowane i częstsze”
Newsom sformułował to ogłoszenie jako wybór między oczekiwaniem na kryzys a działaniem teraz.
> „Środowisko cyfrowe szybko ewoluuje na naszych oczach. Ataki są szybsze, bardziej wyrafinowane i częstsze, zagrażając podstawowym systemom, na których liczą rodziny. Kalifornia może albo poczekać na kolejny kryzys, albo możemy zbudować zabezpieczenia, jakich wymaga ta chwila. Decydujemy się na budowę”.
Biuro gubernatora zauważyło, że niedawne ujawnienia czołowych twórców sztucznej inteligencji wykazały, że zaawansowane systemy sztucznej inteligencji są w stanie niezależnie przeprowadzać wyrafinowane operacje cybernetyczne w kontrolowanych środowiskach testowych, ujawniając tak zwane „nowe ryzyko”. Jednocześnie przeciwnicy wykorzystują coraz wydajniejsze systemy sztucznej inteligencji, aby przeprowadzać ataki taniej i skuteczniej niż kiedykolwiek.
Dlaczego infrastruktura krytyczna jest na celowniku
Caroline Thomas Jacobs, dyrektor Biura Służb Kryzysowych Gubernatora Kalifornii (Cal OES) i stanowy doradca ds. bezpieczeństwa wewnętrznego, powiedziała, że program skierowany jest do usług, z których Kalifornijczycy korzystają na co dzień.
> „Cyberataki mogą zakłócać podstawowe usługi, z których Kalifornijczycy korzystają na co dzień, w tym wodę, energię, transport i łączność w sytuacjach awaryjnych. Ten nowy program pomoże firmie Cal OES i naszym partnerom szybciej wykrywać zagrożenia, efektywniej dzielić się informacjami, wzmacniać mechanizmy obronne i szybciej reagować”.
Sekretarz Agencji Operacyjnej Rządu Nick Maduros dodał, że inicjatywa pomoże agencjom stanowym, samorządom lokalnym i partnerom zajmującym się infrastrukturą krytyczną „lepiej wykrywać incydenty cybernetyczne, zapobiegać im i reagować na nie, zapewniając, że podstawowe usługi, z których korzystają Kalifornijczycy, pozostaną bezpieczne, odporne i niezawodne”.
Tło federalnych odwrotów
Oświadczenie pojawia się w znaczącym momencie amerykańskiej polityki cyberbezpieczeństwa. Biuro Newsoma stanowczo zauważyło, że program pojawia się „w miarę jak zagrożenia cybernetyczne stają się coraz bardziej złożone, a administracja Trumpa kontynuuje wycofywanie kluczowego wsparcia federalnego”.
Urzędnicy federalni ostrzegli niedawno, że miejskie systemy wodociągowe w Minnesocie stały się celem podejrzanej powiązanej z Iranem operacji cybernetycznej, która dotknęła ponad 30 przedsiębiorstw użyteczności publicznej, co stanowi wyraźną ilustrację tego, że podstawowe usługi obywatelskie są obecnie w centrum uwagi zagranicznych przeciwników. Biuro gubernatora podało, że kilka krajowych programów cyberbezpieczeństwa, na których w przeszłości opierały się władze stanowe i lokalne, jest jednocześnie ograniczanych na poziomie federalnym.
Dla Kalifornii, piątej co do wielkości gospodarki świata, luka pozostawiona przez wycofanie się władz federalnych to ta, którą stan zamierza sam wypełnić.
Dylemat podwójnego zastosowania
Program odzwierciedla główne napięcie we współczesnej polityce sztucznej inteligencji: te same możliwości, które czynią sztuczną inteligencję niebezpieczną w rękach atakujących – szybkość, skala, zdolność do autonomicznego wykrywania słabych punktów – czynią z niej również potężny instrument obronny. Nakazując agencjom „rozszerzenie obrony opartej na sztucznej inteligencji”, Newsom zakłada, że Kalifornia będzie w stanie wykorzystać sztuczną inteligencję jako tarczę, nawet przygotowując się na ataki wykorzystujące sztuczną inteligencję.
Tę opinię podziela rosnąca liczba badaczy bezpieczeństwa i start-upów, którzy twierdzą, że jedyną realistyczną obroną przed zagrożeniami wspomaganymi przez sztuczną inteligencję jest wykrywanie i reagowanie przy pomocy sztucznej inteligencji. To, czy agencje państwowe będą w stanie działać wystarczająco szybko, aby zbudować te zdolności i przyciągnąć talenty do ich obsługi, zadecyduje o tym, ile ochrony zapewnia program w praktyce.
Wyprzedź sztuczną inteligencję
Sztuczna inteligencja zmienia zasady bezpieczeństwa, zarządzania i infrastruktury. Śledź AI Buzz Wire, aby na bieżąco śledzić politykę dotyczącą sztucznej inteligencji, cyberbezpieczeństwo i decyzje kształtujące przyszłość technologii.
Przeczytaj więcej aktualności o sztucznej inteligencji →
