Demokratka z Doliny Krzemowej, republikanin Ro Khanna, wprowadzi ustawodawstwo zakazujące modeli sztucznej inteligencji zdolnych do rekurencyjnego doskonalenia, dopóki rząd federalny nie stworzy systemu regulacyjnego zdolnego do ich nadzorowania – co będzie najbardziej radykalną propozycją dotyczącą bezpieczeństwa sztucznej inteligencji, jaka kiedykolwiek trafiła do Kongresu.

Ustawa, nazwana ustawą Human Control Over AI, została udostępniona wyłącznie CNBC w formie skróconej przed jej wprowadzeniem. Pojawia się w obliczu rosnących obaw dotyczących bezpieczeństwa, które już skłoniły dyrektorów generalnych OpenAI i Anthropic do wezwania do spowolnienia rozwoju modeli pionierskich. Więcej kontekstu na ten temat znajdziesz w naszych wiadomości AI.

„W rzeczywistości istnieje ryzyko wyginięcia cywilizacji” – powiedziała Khanna w poniedziałek w wywiadzie dla CNBC. „Istnieje ryzyko utraty kontroli dla bezpieczeństwa, a także ryzyko niewłaściwego użycia i musimy poważnie podejść do obu sytuacji”.

Czego zabraniałaby ustawa

W swej istocie ustawa Human Control Over AI zakazuje modeli sztucznej inteligencji, które rekurencyjnie samodoskonalą się lub autonomicznie modyfikują swoje własne podstawowe cele, mechanizmy powstrzymywania lub kontrole przestojów – chyba że istnieją federalne poręcze i nowa agencja rządowa zatwierdzi takie działania.

W praktyce dotyczy to możliwości, których badacze bezpieczeństwa obawiają się najbardziej: systemów, które mogą przeprojektować się w samodzielnym cyklu, pozostawiając ludzi z coraz mniejszym nadzorem na każdym etapie. Zakaz miałby obowiązywać do czasu, gdy organy regulacyjne będą przygotowane do oceny ryzyka.

Nowa Federalna Agencja ds. Granicznej AI

Ustawa utworzy specjalną agencję federalną skupioną na najpotężniejszych modelach sztucznej inteligencji – opracowanych przez OpenAI, Anthropic, Google DeepMind i xAI – ponieważ firmy te znajdują się pod wzmożoną kontrolą.

Jak wynika z podsumowania udostępnionego CNBC, agencja miałaby odpowiadać za:

  • Pisanie przepisów bezpieczeństwa dla pionierskich systemów AI
  • Obsługa systemu licencjonowania w celu zatwierdzania szkolenia i wdrażania modeli
  • Przeprowadzanie audytów pionierskich modeli AI
  • Ustanawianie standardów bezpieczeństwa dla ciągłych testów i skutecznej kontroli człowieka

Niezależni audytorzy byliby zatrudnieni w każdym laboratorium granicznym i podlegaliby bezpośrednio agencji, co stanowiłoby kontrolę strukturalną mającą na celu zapewnienie, że laboratoria nie będą mogły po prostu oceniać własnych prac domowych. Agencja ustaliłaby również standardy obejmujące środowiska testowe typu sandbox, szczeliny powietrzne izolujące systemy testowe od Internetu, przełączniki awaryjne i elementy sterujące uniemożliwiające modelom ucieczkę z ustawień laboratoryjnych i poruszanie się po otwartym Internecie.

W szczególności ustawodawstwo rozszerzyłoby nadzór federalny na zaawansowane chipy wykorzystywane w laboratoriach przygranicznych, w tym na mechanizmy monitorowania i kontrolowania sposobu wdrażania tych procesorów.

Kary karne i obowiązkowe ubezpieczenie

Projekt ustawy idzie dalej niż jakikolwiek poprzedni wniosek dotyczący kar. Kryminalizowałoby to, co definiuje jako „zbrodnie przeciwko ludzkości” za wdrażanie modeli sztucznej inteligencji, które skutkują zniszczeniem ludności cywilnej.

Pracownikom firm zajmujących się sztuczną inteligencją groziłyby sankcje karne za wyłączenie zabezpieczeń, wyłączników awaryjnych, systemów rejestrowania lub przechowywania – lub za świadome wdrożenie nieautoryzowanego systemu. Firmy zajmujące się sztuczną inteligencją byłyby również zobowiązane do posiadania szerokiego ubezpieczenia od odpowiedzialności cywilnej przed wypuszczeniem swoich modeli, co przerzuciłoby ryzyko finansowe niepowodzenia na branżę, a nie na społeczeństwo.

Na froncie geopolitycznym projekt ustawy wzywa administrację do zawierania wykonalnych porozumień i ukierunkowanych kontroli eksportu mających na celu powstrzymanie Chin i innych przeciwników od opracowywania niebezpiecznych systemów sztucznej inteligencji.

Zbudowane we współpracy ze społecznością ds. bezpieczeństwa, a nie z laboratoriami

Khanna wyraźnie określiła, czyj wkład ukształtował projekt ustawy. Zamiast negocjować z kierownictwem firm, które będzie regulować, stwierdził, że ustawodawstwo opiera się na rozmowach z organizacjami zajmującymi się bezpieczeństwem sztucznej inteligencji, w tym niezależnymi organizacjami non-profit Model Evaluation and Threat Research, Instytutem Badań nad Inteligencją Maszynową i Palisade Research.

„Chcę, aby był to model, który da głos społeczności zajmującej się bezpieczeństwem sztucznej inteligencji” – Khanna powiedziała CNBC. „Uważam, że zostali niesprawiedliwie odrzuceni jako fantastyka naukowa i nie potraktowano ich wystarczająco poważnie. To oni powinni kierować tą debatą, społeczność zajmująca się bezpieczeństwem sztucznej inteligencji, a nie dyrektorzy pionierskich laboratoriów”.

Khanna określiła to rozwiązanie jako najbardziej kompleksowe zaproponowane dotychczas ustawodawstwo w zakresie bezpieczeństwa sztucznej inteligencji.

Duże szanse w podzielonym Kongresie

Ustawa o kontroli człowieka nad sztuczną inteligencją dołącza do zatłoczonego obszaru propozycji dotyczących bezpieczeństwa sztucznej inteligencji na Kapitolu. Wśród nich znajduje się dwupartyjna ustawa FRONTIER Act złożona przez posłów Jaya Obernolte, republikanina z Kalifornii i Lori Trahan, demokratkę z Massachusetts, która umieszczałaby niezależnych audytorów w przygranicznych laboratoriach i dawałaby rządowi uprawnienia do zamykania modeli uznanych za stwarzające katastrofalne ryzyko. Odrębna propozycja Sandersa-Casara zakazująca sztucznej superinteligencji zyskała poparcie społeczne dziesięciu Demokratów w Izbie Reprezentantów, w tym samego Khanny.

Rzeczywistość polityczna jest jednak otrzeźwiająca. Oczekuje się, że żaden projekt ustawy Izby Reprezentantów nie zostanie poddany pod głosowanie przed wyborami śródokresowymi, a Senat ma opuścić Waszyngton i powrócić dopiero po tym, jak wyborcy pójdą do urn.

Ten harmonogram oznacza, że ​​ustawa o kontroli człowieka nad sztuczną inteligencją będzie, przynajmniej na razie, pełnić rolę wskaźnika: szczegółowego planu tego, co stworzyłaby społeczność zajmująca się bezpieczeństwem sztucznej inteligencji, gdyby trzymała pióro – wprowadzonego dokładnie w momencie, gdy ludzie tworzący pionierską sztuczną inteligencję ostrzegają, zgodnie z protokołem, że technologia wymyka się spod kontroli.

---

Bądź na Bieżąco z AI

Najnowsze wiadomości, analizy i przełomy w dziedzinie AI — wszystko w jednym miejscu.

Czytaj więcej wiadomości AI →