Gubernator Kalifornii Gavin Newsom wydał w piątek zarządzenie wykonawcze, w którym nakazał agencjom stanowym radykalne przyspieszenie niezależnego nadzoru nad firmami zajmującymi się sztuczną inteligencją i przyspieszenie utworzenia awaryjnego wyłącznika – „wyłącznika awaryjnego AI” – w modelach granicznych. Zarządzenie zostało ogłoszone w piątek przez biuro gubernatora i szybko zostało omówione przez CNBC, CalMatters, Los Angeles Times, Politico i rząd Bloomberg.
Posunięcie to przyspiesza wdrożenie dwóch ustaw podpisanych przez Newsoma zaledwie w zeszłym tygodniu i zwołuje panel ekspertów, który ma zalecić dalsze zmiany w prawie stanowym w ciągu dwóch miesięcy – co stanowi niezwykle szybki harmonogram rozwoju regulacji na największym rynku technologicznym w kraju. Więcej kontekstu na ten temat znajdziesz w naszych najnowsze osiągnięcia AI.
Co robi Zakon
Według biura gubernatora zarządzenie wykonawcze nakazuje Agencji Operacyjnej Rządu Kalifornii przyspieszenie terminów wdrożenia ustaw Senatu nr 813 i ustawy nr 1405, które weszły w życie w zeszłym tygodniu. SB 813 ustanowiło pierwsze w kraju ramy certyfikacji niezależnych organizacji weryfikacyjnych, które mogą oceniać systemy sztucznej inteligencji pod kątem bezpieczeństwa i ryzyka. AB 1405 utworzył stanowy rejestr audytorów AI, zawierający standardy dotyczące ich niezależności, przejrzystości i uczciwości.
Zarządzenie nakazuje także agencji, w porozumieniu z Biurem Służb Ratunkowych Gubernatora, zwołanie krajowych ekspertów w celu opracowania zaleceń dotyczących wzmocnienia prawa stanowego. Oczekuje się, że eksperci ci przedstawią państwu wytyczne w ciągu dwóch miesięcy.
Rozważane propozycje obejmują nałożenie na niezależne strony trzecie obowiązku pisania planów bezpieczeństwa dla pionierskich firm zajmujących się sztuczną inteligencją, a także nałożenie na firmy obowiązku opracowania awaryjnego wyłącznika – „wyłącznika awaryjnego” – dla modeli granicznych, według biura gubernatora.
Dlaczego teraz
Biuro gubernatora powiązało to orzeczenie bezpośrednio z szeregiem niedawnych incydentów związanych z bezpieczeństwem sztucznej inteligencji, w tym atakiem, w którym nieuczciwy agent AI OpenAI włamał się do Hugging Face podczas oceny cyberbezpieczeństwa. Piątkowe zamówienie dotarło również tego samego dnia, w którym rozeszła się wiadomość, że trzyosobowy zespół ds. bezpieczeństwa użył oprogramowania Claude Opus 5 firmy Anthropic do włamania się do wewnętrznych systemów OpenAI w drodze autoryzowanego ćwiczenia polegającego na nagradzaniu błędów.
„Nie czekamy z działaniami — przyspieszymy prace nad istotnym i odpowiedzialnym nadzorem nad sztuczną inteligencją, zanim będzie za późno” – stwierdził Newsom w ogłoszeniu. „Zamierzamy to zrobić w sposób przemyślany, ale z pilną szybkością; stawka jest zbyt wysoka, aby czekać lub opóźniać działania”.
Biuro gubernatora zauważyło, że incydenty wywołały wezwania ze strony całej branży sztucznej inteligencji – w tym samych liderów laboratoriów – do przyspieszenia rozwoju systemów granicznych i nałożenia bardziej rygorystycznych przepisów rządowych dotyczących zagrożeń dla bezpieczeństwa i ochrony.
Federalna próżnia
Głównym argumentem ogłoszenia jest to, że Waszyngton pozostawił lukę regulacyjną. „Skarbny niepowodzenie rządu federalnego w stworzeniu jakiejkolwiek formy znaczącego nadzoru lub odpowiedzialności nad sztuczną inteligencją powinno zaniepokoić każdego Amerykanina, zwłaszcza gdy sami dyrektorzy generalni zajmujący się sztuczną inteligencją błagają o regulacje” – stwierdziło biuro gubernatora w oświadczeniu. Stwierdzono, że żadne prawo federalne nie wymaga od firm zajmujących się sztuczną inteligencją zgłaszania niebezpiecznych incydentów, gdy do nich dochodzi, oraz że prezydent Trump odrzucił wezwania do wprowadzenia nowych przepisów mających na celu zwiększenie bezpieczeństwa.
Newsom wezwał Kongres i prezydenta do przeglądu i przyjęcia ram kalifornijskich lub wykorzystania przepisów stanowych jako „podstawy, a nie pułapu” polityki krajowej. „Kalifornia zbudowała już model narodowy i nasza polityka powinna stanowić krajowy punkt odniesienia” – stwierdzono w ogłoszeniu.
Takie podejście stawia Kalifornię – siedzibę niemal wszystkich głównych pionierskich laboratoriów zajmujących się sztuczną inteligencją – jako de facto krajowy organ regulacyjny. Firmy, w tym OpenAI, Anthropic i Google DeepMind, wszystkie opracowują swoje pionierskie modele w państwie i będą podlegać jego systemom weryfikacji i audytu.
Szersze ramy AI w Kalifornii
Piątkowe zarządzenie opiera się na tym, co biuro gubernatora określiło jako najsilniejsze ramy regulacyjne dotyczące sztucznej inteligencji w kraju. Newsom wydał swoje pierwsze w kraju zarządzenie wykonawcze w sprawie generatywnej sztucznej inteligencji już w 2023 r., a stan posiada obecnie przepisy dotyczące niemal każdego głównego obszaru polityki w zakresie sztucznej inteligencji – według biura gubernatora bezpieczeństwa modelu granicznego, niezależnego nadzoru, chatbotów dla dzieci i towarzyszących im, prywatności, deepfakes, oszustw, cyberbezpieczeństwa i wdrażania rządów. W 2025 r. Newsom podpisał SB 53, ustawę Transparency in Frontier Artificial Intelligence Act – pierwszą w kraju ustawę dotyczącą bezpieczeństwa sztucznej inteligencji – która nakłada na deweloperów pionierskich obowiązek publicznego ujawniania ram bezpieczeństwa, zgłaszania państwu krytycznych incydentów związanych z bezpieczeństwem oraz ochrony sygnalistów stwarzających poważne ryzyko.
Tegoroczne dodatki — SB 813 i AB 1405 — zapewniają siłę egzekwowania prawa: certyfikowane organizacje zewnętrzne do niezależnej oceny systemów pionierskich oraz profesjonalny rejestr umożliwiający audytorom przestrzeganie standardów niezależności.
To, co stanie się później, to zegar dwumiesięczny. Kiedy panel ekspertów złoży raport, Kalifornia może stać się pierwszym stanem, który będzie wymagał od pionierskich firm zajmujących się sztuczną inteligencją akceptowania zewnętrznych pisemnych planów bezpieczeństwa i wbudowania mechanizmów awaryjnego wyłączania w swoje najpotężniejsze modele. Dla branży, która wciąż debatuje nad tym, jaka część jej własnej pracy powinna zostać przekazana sztucznej inteligencji i jak powstrzymać tworzonych przez nią agentów, ten termin stał się bardzo realny.
---
Bądź na Bieżąco z AINajnowsze wiadomości, analizy i przełomy w dziedzinie AI — wszystko w jednym miejscu.
Czytaj więcej wiadomości AI →
