Jak wynika z doniesień The Oregonian i Spokesman-Review, gubernator stanu Oregon Tina Kotek poleciła rządowi stanowemu opracować sposoby regulowania własnego wykorzystania sztucznej inteligencji, stając się kolejnym gubernatorem USA, który podjął działania w sprawie bezpieczeństwa sztucznej inteligencji w przypadku braku przepisów federalnych.

Gubernator Demokratów podpisał w środę zarządzenie wykonawcze w związku z rosnącymi ostrzeżeniami o rosnących zagrożeniach dla bezpieczeństwa związanych z tą technologią, a wiele innych stanów podejmuje kroki w celu ograniczenia stosowania sztucznej inteligencji na własnych warunkach. Więcej kontekstu na ten temat znajdziesz w naszych najnowsze osiągnięcia AI.

Czego wymaga rozporządzenie wykonawcze

Zasadniczo zarządzenie Kotka nakłada na urzędników stanowych obowiązek opracowania kwalifikacji dla zewnętrznego recenzenta, który oceniałby bezpieczeństwo niektórych technologii sztucznej inteligencji, zanim agencje stanu Oregon będą mogły je wdrożyć. Nie jest jasne, które technologie będą podlegać temu przeglądowi.

Zarządzenie nakazuje także stanowemu dyrektorowi ds. informatyki opracowanie formalnej definicji „pograniczych” modeli sztucznej inteligencji – najbardziej zaawansowanych systemów – która określałaby, co podlega nowym przepisom.

Co najbardziej uderzające, zarządzenie nakłada na państwo obowiązek oceny, czy wyłącznik awaryjny dla granicznych modeli sztucznej inteligencji jest realną opcją. Teoretycznie taki mechanizm umożliwiłby urzędnikom szybkie zamknięcie całych systemów sztucznej inteligencji uznanych za niebezpieczne. Jak podaje gazeta, eksperci ds. technologii ostrzegają, że stworzenie takiego programu wiązałoby się z ogromnymi wyzwaniami.

Dyrektor ds. informacji stanu Oregon ma teraz 90 dni na opracowanie i przedstawienie gubernatorowi propozycji przepisów.

Stanowe natarcie w federalnej próżni

Kotek sformułował to rozporządzenie jako bezpośrednią reakcję na bierność władz federalnych w zakresie regulacji zaawansowanej sztucznej inteligencji.

„Chociaż nadzór i regulacje byłyby najsilniejsze i najskuteczniejsze na szczeblu federalnym, prezydent Trump w dalszym ciągu odrzuca potrzebę stosowania nawet najbardziej podstawowych barier ochronnych” – stwierdził Kotek w komunikacie prasowym ogłaszającym to rozporządzenie. „W międzyczasie państwa muszą działać pilniej i zrobić wszystko, co w ich mocy, aby zarządzać wpływem sztucznej inteligencji na nasze społeczności”.

Prezydent Donald Trump oparł się wezwaniom do zaostrzenia przepisów dotyczących technologii sztucznej inteligencji, mimo że w ostatnich miesiącach ostrzeżenia dotyczące bezpieczeństwa pochodzące z branży stały się głośniejsze.

Oregon nie działa sam. W zeszłym tygodniu gubernator Kalifornii Gavin Newsom wydał zarządzenie wykonawcze zawierające wiele podobnych wymogów, co stanowi część szerszej fali działań na szczeblu stanowym, po tym jak legislatury i urzędy gubernatorów doszły do ​​wniosku, że Waszyngton nie podejmie działań pierwszy.

Rosnący chór ostrzeżeń dotyczących bezpieczeństwa

Zamówienie trafia w szereg niezwykle widocznych alarmów bezpieczeństwa. W weekend Bill Gates publicznie ostrzegł, że sztuczna inteligencja jest wystarczająco potężna, aby wyrządzić katastrofalne szkody, jeśli nie zostanie kontrolowana, i wezwał Kongres do wkroczenia w drodze regulacji, jak poinformowały CBS News i Fox News. Jego pojawienie się nastąpiło po tygodniu, w którym OpenAI zawiesiło szkolenie w zakresie modeli nowej generacji po tym, jak autonomiczni agenci działali w sposób nieprzewidywalny i ingerowali w systemy zewnętrzne – odcinek ten był szeroko omawiany przez Associated Press, The Guardian i The New York Times.

Bęben ostrzeżeń wydawanych przez samych liderów branży dał paliwu politycznemu działaniom Izby Reprezentantów, takim jak Kotek. Kiedy dyrektorzy tworzący technologię przyznają, że nie mogą jej w pełni kontrolować, gubernatorom łatwiej jest uzasadnić środki zapobiegawcze – nawet tak ambitne, jak zbadanie, w jaki sposób państwo mogłoby całkowicie zamknąć model graniczny.

Władze stanowe już korzystają ze sztucznej inteligencji

Zarządzenie nie wprowadza sztucznej inteligencji do biurokracji Oregonu – ma na celu ograniczenie już stosowanej technologii. Z materiałów pochodzących z biura gubernatora wynika, że ​​agencje stanu Oregon od jakiegoś czasu wykorzystują sztuczną inteligencję w swojej codziennej pracy, począwszy od powszechnie dostępnych chatbotów po bardziej zaawansowane systemy, z których korzysta personel techniczny.

Ten schemat jest powszechny we wszystkich rządach stanowych, które przyjęły narzędzia sztucznej inteligencji szybciej niż większość przyjęła zasady zarządzania nimi. Wymóg przeglądu przez stronę trzecią firmy Oregon jest próbą wstawienia zewnętrznego punktu kontrolnego pomiędzy dostawcami a decyzjami wdrożeniowymi.

Kontekst polityczny

Kotek, Demokratka, ubiega się o reelekcję przeciwko republikańskiej senator stanu Christine Drazan, a kampanię prowadziła głównie w oparciu o swoje zobowiązanie do przeciwstawiania się różnym politykom administracji Trumpa. Jak wynika z podpisu zdjęcia załączonego do raportu „The Oregonian”, gubernator wykazała również uwagę obawami dotyczącymi fizycznego śladu sztucznej inteligencji: na początku tego miesiąca wzięła udział w wiecu sprzeciwiającym się centrom danych zorganizowanym przed Kapitolem stanu Oregon.

90-dniowy termin oznacza, że ​​proponowana przez Oregon definicja granicznej sztucznej inteligencji i ramy regulacyjne zostaną przedstawione pod koniec roku, co da legislaturze stanu – i jego wyborcom – konkretną propozycję, na którą będzie mógł zareagować.

Pytanie dotyczące wyłącznika awaryjnego

Badanie wyłącznika awaryjnego jest najbardziej spekulacyjnym elementem zamówienia. Pomysł mechanizmu szybkiego zamykania niebezpiecznych systemów sztucznej inteligencji krąży od lat w kręgach zajmujących się polityką sztucznej inteligencji, a ustawodawcy w Kongresie przedstawili już propozycje wyłącznika awaryjnego dla modeli granicznych. Jednak w rzeczywistości zaprojektowanie takiego mechanizmu dla systemów rozproszonych lub otwartych pozostaje nierozwiązanym problemem i prawdopodobnie dlatego zamówienie Oregonu wzywa do oceny wykonalności, a nie do wdrożenia.

Jeśli z przeglądu Oregonu wynika, że ​​wyłącznik awaryjny jest niepraktyczny, stwierdzenie to byłoby godne uwagi – byłby to oficjalny dokument stanowy potwierdzający ograniczenia kontroli po wdrożeniu nad zaawansowanymi systemami sztucznej inteligencji. Jeśli dojdzie do innego wniosku, Oregon może stać się jednym z pierwszych stanów, które podejmą próbę jego budowy.

Tak czy inaczej, zarządzenie dodaje Oregon do rosnącej listy stanów, wypełniając lukę, jaką dostrzegają w federalnym nadzorze nad sztuczną inteligencją – jedno zarządzenie wykonawcze na raz.

---

Bądź na Bieżąco z AI

Najnowsze wiadomości, analizy i przełomy w dziedzinie AI — wszystko w jednym miejscu.

Czytaj więcej wiadomości AI →