Associated Press poinformowało w sobotę, że pracownicy małego biura rządu USA odpowiedzialnego za testowanie bezpieczeństwa granicznych modeli sztucznej inteligencji zostali ostatnio poproszeni o nieformalne zgłoszenie się do biura Białego Domu, co wzbudziło nowe obawy co do niezależności najwyższego w kraju podmiotu oceniającego bezpieczeństwo sztucznej inteligencji.
Według AP jego biuro, Centrum Rozwoju Innowacji i Standardów dla SuperInteligencji, znane jako CAISSI i mieszczące się w Departamencie Handlu, również zaprzestało publikowania wyników swoich badań. Raport pojawia się w kontekście rosnącego niepokoju opinii publicznej w związku z szeregiem historii o wymykających się spod kontroli agentach sztucznej inteligencji i opisuje psa stróżującego, któremu brakuje personelu, przywódcy i jest coraz cichszy. Więcej kontekstu na ten temat znajdziesz w naszych trendy AI.
Co robi CAISSI — i co odkrył AP
CAISSI ma za zadanie oceniać bezpieczeństwo nowych ofert sztucznej inteligencji, zanim dotrą one do opinii publicznej. Zadania te obejmują ocenę, jak dobrze modele pionierskie są odporne na niewłaściwe wykorzystanie w celu cyberataków i innych poważnych szkód. Według AP pracownicy centrum zostali „niedawno” poproszeni o nieformalne zgłoszenie się do biura Białego Domu. Agencja informacyjna zacytowała dwóch byłych urzędników rządowych posiadających wiedzę na temat dyskusji, którzy wypowiadali się anonimowo, aby chronić obecnych pracowników. Biały Dom nie odpowiedział na konkretne pytania dotyczące centrum.
Skala operacji jest skromna. AP podaje, że CAISSI otrzymuje około 10 milionów dolarów rocznie – mniej więcej jedną ósmą tego, co otrzymuje jej brytyjski odpowiednik, mimo że w Stanach Zjednoczonych powstaje większość pionierskich modeli.
Nieformalne ustalenia dotyczące raportowania to tylko najnowsze zakłócenie w centrum. AP opisuje próżnię w przywództwie trwającą kilka miesięcy: dyrektora przyjęto w kwietniu i zwolniono w ciągu kilku dni, jego zastępstwo trwało kilka miesięcy, zanim złożył rezygnację, a dyrektor macierzystego instytutu pełni obecnie funkcję pełniącego obowiązki dyrektora. W praktyce oznacza to, że obecnie nikt ze stałym mandatem nie broni niezależności centrum.
Strażnik, który przestał publikować
Według AP bardziej istotna zmiana dotyczy tego, czego centrum już nie robi. W sierpniu Kongres zapytał, dlaczego CAISSI zaprzestała publicznego publikowania raportów na temat wyników systemów sztucznej inteligencji w testach bezpieczeństwa. Testowanie przed wdrożeniem pełni funkcję publicznej kontroli konstruktorów modeli tylko wtedy, gdy jego wyniki są widoczne poza laboratorium — a na razie tak nie jest.
Zmiana nie wzięła się znikąd. W październiku Reuters, powołując się na raport The Information, ujawnił, że administracja planuje przenieść do Białego Domu trzech wyższych urzędników CAISSI. Urzędnik Białego Domu powiedział wówczas The Information, że problemy z koordynacją z działem handlu wskazują na potrzebę zbliżenia kierownictwa centrum do procesu decyzyjnego opartego na sztucznej inteligencji. Według tego raportu urzędnicy mieli odpowiadać przed Michaelem Kratsiosem, który kieruje Biurem ds. Polityki Naukowej i Technologicznej, oraz krajowym dyrektorem ds. cyberbezpieczeństwa Seanem Cairncrossem. Sekretarz handlu Howard Lutnick zaprosił ich do wspólnego zarządzania centrum mniej więcej sześć miesięcy wcześniej.
Podsumowując, nowy raport AP sugeruje, że plan wchodzi w życie – nieformalnie i przed jakąkolwiek formalną restrukturyzacją.
Obawy dotyczące niepodległości w obu kierunkach
Krytycy cytowani przez AP obawiają się, że decyzje dotyczące ryzyka cyberbezpieczeństwa i broni biologicznej mogą zostać upolitycznione lub że ustalenia można złagodzić, aby dostosować je do branży technologicznej. Amos Toh z Centrum Sprawiedliwości Brennan powiedział AP, że takie decyzje mają ogromne konsekwencje społeczne i należy je publicznie wyjaśniać. Caroline Siegel Singh z Federacji Naukowców Amerykańskich opisała ośrodki takie jak CAISSI jako potężne instytucje, które mogą radykalnie poprawić jakość życia lub przynieść odwrotne skutki.
Jest kontrargument i AP go nie odrzuca. Ocena zdolności modelu do pomagania w pisaniu złośliwego oprogramowania jest kwestią bezpieczeństwa narodowego, a administracja, która chce mieć wgląd w to, kto widzi te wyniki, ma uzasadnione argumenty. Trudność ma charakter instytucjonalny: sędzia, który odpowiada przed jednym ze sponsorów drużyny, nie jest w stanie jasno ocenić przebiegu meczu, a ośrodek zaprzestał publikowania raportów, które w przeciwnym razie świadczyłyby o jego niezależności.
Dlaczego jest to ważne dla konstruktorów i kupujących
W przypadku firm opierających się na modelach pionierskich ryzyko praktyczne zidentyfikowane w raportach nie jest zakazem – jest to niepewność. Jeśli oceny pozostaną tajne i zostaną uwzględnione w kontroli eksportu i zamówieniach rządowych, laboratorium może stracić kontrakt lub rynek na podstawie ustaleń, których nigdy nie zobaczy ani nie zakwestionuje. Ryzyko to rozprzestrzeniłoby się w łańcuchu dostaw na produkty niższego szczebla bez żadnego ostrzeżenia.
W następnej kolejności warto obejrzeć dwie rzeczy. Po pierwsze, czy administracja mianuje stałego dyrektora centrum i kto go wybiera. Po drugie, czy Kongres, który już naciskał na centrum w związku z milczeniem w sprawie publikowanych raportów, przejdzie do zapisania w prawie niezależności centrum. Dopóki jedno nie nastąpi, czołowy amerykański sędzia ds. bezpieczeństwa sztucznej inteligencji działa z budżetem wynoszącym 10 milionów dolarów, bez stałego lidera i linią raportowania skierowaną w stronę Białego Domu.
---
Bądź na Bieżąco z AINajnowsze wiadomości, analizy i przełomy w dziedzinie AI — wszystko w jednym miejscu.
Czytaj więcej wiadomości AI →
