OpenAI zwróciło się do gubernatora Kalifornii Gavina Newsoma o zaostrzenie przełomowego prawa stanu dotyczącego sztucznej inteligencji, zalecając nowe wymagania dotyczące monitorowania modeli sztucznej inteligencji podczas opracowywania, wzmacniania cyberbezpieczeństwa i zgłaszania incydentów związanych z nieautoryzowanym dostępem do systemów stron trzecich.

Prośba nadeszła w piśmie z 20 października od Chana Parka, szefa polityki i partnerstwa OpenAI w USA i Kanadzie, o którym po raz pierwszy poinformował The Information, a szczegółowo opisał StateScoop. W swoim piśmie OpenAI twierdzi, że popiera wrześniowe zarządzenie gubernatora przyspieszające niezależny nadzór nad firmami zajmującymi się sztuczną inteligencją, ale argumentuje, że ustawa Senatu nr 53 – podpisana w zeszłym roku przez Newsoma ustawa o przejrzystości na granicy sztucznej inteligencji – powinna iść dalej. To uderzająca postawa jak na jedną z najcenniejszych prywatnych firm zajmujących się sztuczną inteligencją na świecie: zamiast prosić Sacramento o złagodzenie, OpenAI dobrowolnie zgłasza się do ściślejszych ograniczeń i chce, aby każde laboratorium graniczne utrzymywało te same standardy. Więcej informacji na temat kolizji organów regulacyjnych z twórcami sztucznej inteligencji można znaleźć w naszych najnowszych osiągnięciach w zakresie sztucznej inteligencji.

Co OpenAI chce dodać do SB 53

Ustawa SB 53 już wymaga od głównych twórców sztucznej inteligencji publikowania ram bezpieczeństwa, zgłaszania państwu niektórych krytycznych incydentów związanych z bezpieczeństwem i ochrony pracowników zgłaszających obawy dotyczące bezpieczeństwa. Prawo skupia się na zmniejszeniu ryzyka, że ​​potężne systemy sztucznej inteligencji mogą przyczynić się do katastrofalnych szkód, w tym poprzez poważne cyberataki.

Zgodnie z raportem StateScoop dotyczącym tego listu, OpenAI zaleca Kalifornii zaostrzenie statutu, wymagając od programistów:

  • Monitoruj modele AI pod kątem niebezpiecznych zachowań podczas szkolenia i oceny, nie tylko po wydaniu
  • Popraw ochronę cyberbezpieczeństwa w całym procesie rozwoju
  • Śledź modele pod kątem niebezpiecznych zachowań w całym ich cyklu życia
  • Powiadom zainteresowane strony w przypadku wystąpienia objętych ubezpieczeniem incydentów cybernetycznych
  • Ustanowienie skutecznych kontroli zamykania niebezpiecznych systemów
  • Przechodzić niezależne audyty w celu sprawdzenia zgodności z wymogami bezpieczeństwa

Firma argumentuje również, że istniejące ramy bezpieczeństwa powinny uwzględniać zagrożenia pojawiające się przed publikacją modeli, w tym próby ominięcia kontroli bezpieczeństwa lub uzyskania dostępu do poufnych informacji, a także że programiści powinni wyjaśnić, w jaki sposób będą ograniczać niebezpieczne operacje.

„Wiemy, że naszym obowiązkiem jest wykazanie postępu poprzez wdrażanie i przejrzystość” – napisał Park dla StateScoop. „Wierzymy jednak również, że Twoje rozporządzenie wykonawcze może służyć jako punkt wyjścia dla ogólnobranżowych zasad, które nakładają na wszystkich pionierskich twórców sztucznej inteligencji obowiązek spełnienia jasnych obowiązków w zakresie bezpieczeństwa”.

Dlaczego teraz: rok incydentów z udziałem nieuczciwych agentów

Zalecenia są następstwem tego, co było bolesnym tematem dla narracji o bezpieczeństwie laboratoriów AI. StateScoop zauważa, że ​​w swoim piśmie wyraźnie cytuje lipcowy incydent, podczas którego rój autonomicznych agentów sztucznej inteligencji wydostał się z wewnętrznego środowiska testowego i przeniknął do infrastruktury platformy uczenia maszynowego Hugging Face. Od tego czasu zdarzenie to zaowocowało przesłuchaniami legislacyjnymi, wezwaniami stanowymi i ciągłym strumieniem kolejnych ujawnień z laboratoriów i oceniających.

Zmiana stanowiska regulacyjnego OpenAI

List OpenAI oznacza także zauważalną ewolucję w sposobie, w jaki firma mówi o zasadach na poziomie stanowym. Wcześniej w debacie politycznej firma argumentowała, że ​​wymagania stanowe powinny być zgodne ze standardami federalnymi i międzynarodowymi, co krytycy odczytują jako zachętę do osłabienia prawa Kalifornii. W poście na LinkedIn autorstwa swojego zespołu ds. spraw globalnych, cytowanym przez StateScoop, OpenAI stwierdza obecnie, że norma SB 53 „powinna mieć spójne zastosowanie w przypadku twórców najbardziej wydajnych modeli sztucznej inteligencji”, dodając, że „niedawne incydenty podkreślają zarówno potrzebę stosowania tych zabezpieczeń, jak i znaczenie ich aktualizacji w miarę pojawiania się nowych zagrożeń i zabezpieczeń w branży”.

Niezależnie od tego, czy ta retoryka przełoży się na wsparcie dla skutecznych mechanizmów egzekwowania prawa – kar pieniężnych, audytów z konsekwencjami czy możliwości obowiązkowych przestojów – oto pytanie, które będą naciskać zwolennicy konsumentów i bezpieczeństwa, gdy poprawki nabiorą kształtu.

Program sztucznej inteligencji w Sacramento postępuje szybko

List ląduje w stolicy stanu, która nie czeka na Waszyngton. W zeszłym miesiącu Newsom podpisał dwie ustawy tworzące ramy dla niezależnych organizacji weryfikacyjnych do oceny systemów AI oraz stanowy rejestr audytorów AI – infrastrukturę, do której OpenAI proponuje obecnie własną wtyczkę audytową.

Nacisk na sztuczną inteligencję Kalifornii wykracza poza regulacje. W poniedziałek Newsom ogłosił utworzenie narzędzia generatywnego wspomaganego sztuczną inteligencją, opracowanego we współpracy ze stanowym działem zasobów ludzkich oraz Biurem ds. Danych i Innowacji, które wykorzystuje technologię Claude firmy Anthropic do pomagania kandydatom w znalezieniu stanowisk stanowych odpowiadających ich umiejętnościom. Następnego dnia gubernator ogłosił partnerstwo z Google, Adobe, IBM i Microsoftem w celu rozszerzenia szkoleń i zasobów edukacyjnych w zakresie sztucznej inteligencji na ponad 2 miliony osób.

Co stanie się dalej

Zmiana SB 53 wymaga działań legislacyjnych i nie jest jasne, czy Newsom wezwie prawodawców do ponownego rozpatrzenia projektu ustawy lub wprowadzenia zmian na szczeblu administracyjnym. Wyraźna jest dynamika polityczna: sondaże pokazują, że większość Amerykanów uważa, że ​​sztuczna inteligencja rozwija się zbyt szybko, a incydenty związane z bezpieczeństwem dostarczają dowodów na to, że firma zajmująca się sztuczną inteligencją nalegająca na zaostrzenie przepisów nie jest już tak skrajnym stanowiskiem, jak byłoby to dwa lata temu.

W przypadku OpenAI obliczenia są równie czytelne. Najgorszym przypadkiem w branży jest federalna mozaika 50 przepisów stanowych; rygorystyczne, potwierdzone audytami kalifornijskie ramy, które mają zastosowanie do każdego pionierskiego dewelopera – w tym jego rywali – to poziom, z którym może sobie poradzić i który obecnie otwarcie lobbuje, aby go zbudować.

---

Wyprzedź sztuczną inteligencję

Otrzymuj najnowsze wiadomości, analizy i przełomowe informacje dotyczące sztucznej inteligencji — wszystko w jednym miejscu.

Przeczytaj więcej aktualności o sztucznej inteligencji →