Dyrektor generalny Google DeepMind, Demis Hassabis, zaproponował utworzenie niezależnego organu normalizacyjnego pod przewodnictwem Stanów Zjednoczonych, wzorowanego na Urzędzie Regulacji Przemysłu Finansowego (FINRA), w celu oceny i regulowania pionierskich modeli sztucznej inteligencji przed publikacją, ostrzegając, że ludzkość ma „cenne okno”, aby zapewnić bezpieczny rozwój sztucznej inteligencji ogólnej.
W dokumencie ramowym zatytułowanym „Ramy dla granicznej sztucznej inteligencji i początek nowej ery”, opublikowanym we wtorek rano w serwisie X, Hassabis przedstawił szczegółową propozycję, w jaki sposób Stany Zjednoczone mogłyby ustanowić wiarygodną infrastrukturę regulacyjną dla najpotężniejszych systemów sztucznej inteligencji. Plan zakłada powołanie nowej organizacji, która testowałaby pionierskie modele i opracowywała najlepsze praktyki w zakresie ich wdrażania – finansowanej przez branżę sztucznej inteligencji, ale działającej niezależnie od jakiejkolwiek pojedynczej firmy.
Aby uzyskać najnowsze najnowsze wiadomości o sztucznej inteligencji i dogłębną analizę polityki, AI Buzz Wire śledzi rozwój sytuacji kształtującej branżę.
Jak miałby działać proponowany organ normalizacyjny
Zgodnie z propozycją Hassabisa laboratoria sztucznej inteligencji dobrowolnie udostępniałyby swoje pionierskie modele organowi normalizacyjnemu w celu przeglądu do 30 dni przed publikacją. Ta ocena przed wdrożeniem obejmowałaby ocenę modeli pod kątem bezpieczeństwa, ochrony i potencjalnych zagrożeń związanych z niewłaściwym użyciem. Gdy protokół oceny okaże się skuteczny i solidny, ramy przewidują sformalizowanie procesu w taki sposób, aby modele pionierskie musiały go przejść pomyślnie przed wdrożeniem na rynku amerykańskim.
Wniosek bezpośrednio usuwa lukę ujawnioną w wyniku niedawnych rządowych przeglądów pionierskich systemów sztucznej inteligencji. Na początku tego roku rząd Stanów Zjednoczonych przeprowadził ad hoc przeglądy bezpieczeństwa modeli Mythos firmy Anthropic i modelu Sol firmy OpenAI przed ich wydaniem. Przeglądy te spotkały się z ostrą krytyką ze względu na brak głębi technicznej i nieprzejrzysty proces podejmowania decyzji o tym, kiedy model został uznany za wystarczająco bezpieczny do wdrożenia publicznego.
W ramach Hassabisa decyzje te będą podejmowane przez specjalną organizację zatrudniającą ekspertów technicznych, wspieraną przez rząd USA, ale odizolowaną od nacisków politycznych. Laboratoria będą również musiały współpracować z organem normalizacyjnym, aby wyeliminować krytyczne luki wykryte po wydaniu.
„Cenne okno” przed AGI
W wywiadach dla Axios, CNBC i The Economist towarzyszących udostępnieniu platformy Hassabis podkreślił, że obecny moment stwarza niewielką szansę na ustanowienie mechanizmów zarządzania, zanim pojawi się sztuczna inteligencja ogólna. Opisał ten okres jako „cenne okno” – co oznacza, że okno nie pozostanie otwarte w nieskończoność.
Hassabis od dawna jest zwolennikiem proaktywnego zarządzania sztuczną inteligencją. Jego ramy pojawiają się w obliczu nasilającej się debaty na temat tego, czy Stany Zjednoczone powinny utworzyć formalny organ regulacyjny ds. sztucznej inteligencji, a jeśli tak, to jaką formę powinien on przyjąć. Model FINRA jest godny uwagi, ponieważ organizacja samoregulacyjna branży finansowej jest finansowana przez firmy członkowskie, ale działa pod nadzorem rządu, co zapewnia jej zarówno wiedzę branżową, jak i odpowiedzialność publiczną.
Opór ze strony administracji Trumpa
Propozycja napotyka poważne trudności polityczne. Administracja Trumpa zasygnalizowała głęboki sceptycyzm wobec tworzenia nowych organów regulacyjnych zajmujących się sztuczną inteligencją. Doradca Białego Domu ds. sztucznej inteligencji i komplementariusz a16z, Sriram Krishnan – który odszedł ze swojego stanowiska – publicznie odrzucił pomysł utworzenia organu regulacyjnego ds. sztucznej inteligencji we władzy wykonawczej, stwierdzając bez ogródek, że „nie będzie FDA zajmującej się sztuczną inteligencją”.
Takie stanowisko postawiło urzędników administracji w sprzeczności z niektórymi z najwybitniejszych liderów branży. Choć firmy takie jak Anthropic i OpenAI szeroko wspierają testy bezpieczeństwa przed wdrożeniem, mechanizm i uprawnienia do przeprowadzania takich testów pozostają przedmiotem sporów. Propozycja Hassabisa stanowi próbę poruszenia tej kwestii, pozycjonując organ normalizacyjny jako początkowo finansowany przez przemysł i dobrowolny, a formalizacja nastąpi dopiero, gdy proces udowodni swoją wartość.
Opieranie się na istniejących wysiłkach
Framework nie zaczyna się od zera. Opiera się na dobrowolnych zobowiązaniach podjętych już przez kilka pionierskich firm zajmujących się sztuczną inteligencją w zakresie testów bezpieczeństwa i tworzenia zespołów czerwonych. Opiera się także na wysiłkach międzynarodowych, w tym brytyjskim Instytucie Bezpieczeństwa AI i procesie AI w Hiroszimie G7, które ustanowiły wstępne ramy oceny zaawansowanych modeli.
Jednak propozycja Hassabisa idzie dalej i wzywa do utworzenia stałej organizacji dysponującej dużymi zasobami, upoważnionej do testowania każdego pionierskiego modelu przed wypuszczeniem na rynek – poziomu kontroli, jakiego nie zapewnia żaden obecny organ. Analogia do FINRA sugeruje skalowane, profesjonalne działanie z udziałem setek ekspertów technicznych, a nie małego panelu doradczego.
Propozycja dotyczy również monitorowania po wdrożeniu, wymagając od laboratoriów współpracy z organem normalizacyjnym w sprawie luk w zabezpieczeniach wykrytych po udostępnieniu modelu publicznie. Odzwierciedla to rosnące przekonanie, że zagrożenia dla bezpieczeństwa nie kończą się w momencie premiery, czego dowodem są ucieczki z więzienia i przypadki nadużyć, które pojawiły się po kilku głośnych wydaniach modeli.
Reakcja branży i dalsze kroki
Ramy wzbudziły duże zainteresowanie społeczności zajmującej się polityką dotyczącą sztucznej inteligencji. Zwolennicy argumentują, że wiarygodny system testów przed wdrożeniem mógłby zbudować zaufanie publiczne do pionierskich modeli i zmniejszyć ryzyko katastrofalnych nadużyć. Krytycy, w tym niektórzy zwolennicy wolnego rynku, ostrzegają, że wymóg obowiązkowych testów może umocnić dużych graczy na rynku, tworząc bariery regulacyjne dla mniejszych firm i twórców oprogramowania open source.
Propozycja Hassabisa nie precyzuje, które modele można uznać za „graniczne” – jest to kwestia progowa, która określi zakres przyszłego systemu regulacyjnego. Pozostawia również otwartą kwestię, w jaki sposób organ normalizacyjny poradziłby sobie z aplikacjami niejawnymi lub aplikacjami podwójnego zastosowania, szczególnie biorąc pod uwagę niedawne obawy dotyczące wykorzystywania modeli sztucznej inteligencji do łamania tajnych systemów w USA.
Moment przedstawienia propozycji jest celowy. Ponieważ w ciągu najbliższych kilku lat AGI będzie coraz bardziej wiarygodna, Hassabis nalega, aby infrastrukturę zarządzania należy zbudować teraz, a nie po ujawnieniu się niebezpiecznych możliwości. Czas pokaże, czy Waszyngton zastosuje się do jego wezwania.
Wyprzedź sztuczną inteligencję
Aby uzyskać wyczerpujące informacje na temat polityki, przepisów i rozwoju branży związanej ze sztuczną inteligencją, odwiedź AI Buzz Wire.
Przeczytaj więcej aktualności o sztucznej inteligencji →
