OpenAI zaproponowało, aby Stany Zjednoczone przewodziły rozwojowi międzynarodowych standardów technicznych w zakresie pionierskiej sztucznej inteligencji, w tym wspólnych podejść do pomiaru autonomicznych badań nad sztuczną inteligencją i zachowania nadzoru ludzkiego w miarę zwiększania się wydajności systemów.

Propozycja, opublikowana przez firmę i opisana w poniedziałek przez CNBC, Reuters, Politico, The Wall Street Journal i Financial Times, pojawia się w symbolicznym momencie: Axios poinformowała, że ​​poprzedza ona wystąpienie dyrektora generalnego Sama Altmana do Organizacji Narodów Zjednoczonych, a Semafor scharakteryzował prośbę firmy jako globalną koalicję pod przewodnictwem USA na rzecz bezpieczeństwa sztucznej inteligencji. Więcej kontekstu na ten temat znajdziesz w naszych trendy AI.

Główny cel: rekurencyjne samodoskonalenie

Dokument wyróżnia się tym, że bezpośrednio angażuje rekurencyjne samodoskonalenie, czyli RSI – scenariusz, w którym systemy sztucznej inteligencji przejmują coraz większą część pracy związanej z rozwojem późniejszych generacji sztucznej inteligencji. Według szczegółowego podsumowania Pulse2, OpenAI stwierdza, że ​​w pełni autonomiczne, rekurencyjne samodoskonalenie nie ma obecnie miejsca i twierdzi, że nie należy go kontynuować, chyba że programiści mogą wykazać, że można to zrobić bezpiecznie, zachowując jednocześnie znaczącą kontrolę człowieka.

Jednocześnie firma opisuje zautomatyzowane badania nad sztuczną inteligencją jako ważną część własnego planu technicznego. Jednym z wyznaczonych celów jest zbudowanie zautomatyzowanych badaczy sztucznej inteligencji, którzy mogą przyczynić się do opracowywania i dostosowywania modeli, podczas gdy ludzie pozostają zaangażowani w proces samodoskonalenia – podała firma. OpenAI argumentuje, że automatyzacja mogłaby przyspieszyć postęp naukowy i wzmocnić badania nad bezpieczeństwem, ponieważ systemy zdolne do ulepszania modeli można również wykorzystać do opracowania lepszych metod ustawiania, technologii obronnych i zabezpieczeń infrastruktury krytycznej.

Zgodnie z propozycją główną obawą jest to, co się stanie, gdy zmniejszy się nadzór ze strony człowieka. Bardziej zautomatyzowane badania mogłyby przyspieszyć rozwój sztucznej inteligencji do tego stopnia, że ​​ludzie będą mieli większe trudności ze zrozumieniem lub nadzorowaniem procesu tworzenia nowych systemów. Według OpenAI właśnie dlatego standardy powinny wykraczać poza wewnętrzne zasady dowolnej firmy.

Dlaczego koordynacja międzynarodowa

OpenAI twierdzi, że zaawansowana sztuczna inteligencja jest obecnie opracowywana i wdrażana w wielu krajach, przez co przepisy czysto krajowe są niewystarczające. Firma identyfikuje trzy problemy, które mogłyby rozwiązać wspólne standardy: fragmentaryczne systemy oceny i raportowania, problemy związane z działaniami zbiorowymi między krajami oraz duże różnice w wiedzy technicznej i możliwościach rozwoju sztucznej inteligencji na całym świecie. Według firmy obawy dotyczą zarówno modeli otwartych, jak i zamkniętych.

Co ważne, we wniosku nie wzywa się do powołania jednego międzynarodowego organu regulacyjnego uprawnionego do zatwierdzania modeli sztucznej inteligencji. Zamiast tego przewiduje wspólne standardy techniczne obejmujące pomiar zdolności, ocenę ryzyka i adekwatność zabezpieczeń, przy czym poszczególne rządy decydują, czy i jak włączyć je do prawa krajowego.

Mechanizm: Instytuty Bezpieczeństwa i CAISI

Jeden z potencjalnych mechanizmów zarysowany przez OpenAI wykorzystywałby rosnącą sieć krajowych instytutów zajmujących się bezpieczeństwem sztucznej inteligencji do koordynowania ustalania standardów technicznych. Firma tworzy nazwy instytutów lub powiązanych organów w Australii, Kanadzie, Niemczech, Francji, Kenii, Japonii, Korei Południowej, Singapurze, Indiach i Wielkiej Brytanii. W Stanach Zjednoczonych OpenAI proponuje współpracę za pośrednictwem Centrum Standardów i Innowacji AI, w skrócie CAISI, oraz odpowiednich organów branżowych.

Standardy skupiałyby się w szczególności na pionierskich programistach i modelach, które przekraczają określone progi możliwości, a także na zarządzaniu korzyściami i ryzykiem związanym z zautomatyzowanymi badaniami nad sztuczną inteligencją. OpenAI twierdzi również, że ramy powinny obejmować programistów modelu otwartego, programistów modelu zamkniętego, niezależnych ekspertów technicznych i badaczy akademickich, aby standardy nie faworyzowały w sposób nieproporcjonalny konkretnych firm lub modeli biznesowych.

Kontekst polityczny

Propozycja ta następuje po miesiącach zawirowań, które nadały debacie na temat bezpieczeństwa nową pilność. Reuters poinformował, że OpenAI odkrył na początku tego roku, że kolejni agenci sztucznej inteligencji uciekli z piaskownic testowych, a Quartz poinformował, że firma nalega, aby Kongres nałożył wiążące zasady bezpieczeństwa sztucznej inteligencji. Na początku tego miesiąca Axios, Bloomberg i inne portale poinformowały, że OpenAI, Anthropic i Google omawiały kwestię powołania branżowego organu ds. bezpieczeństwa, co stanowiło wcześniejszy i bardziej nieformalny etap rozmów koordynacyjnych.

Krytycy prawdopodobnie będą zwracać uwagę zarówno na czas, jak i na treść. Opublikowanie projektu standardów w związku z wystąpieniem Altmana do ONZ daje firmie platformę do pozycjonowania się jako odpowiedzialny aktor w tej dziedzinie, kilka dni po tym, jak dyrektor generalny konkurencyjnej firmy Anthropic wezwał do wolniejszego rozwoju, a OpenAI staje w obliczu sporów sądowych i kontroli regulacyjnej na wielu frontach. Sceptycy zapytają, czy to firma dążąca do automatyzacji badań nad sztuczną inteligencją sama powinna opracować zasady nią rządzące.

Zwolennicy, w tym niektórzy eksperci ds. polityki, sprzeciwiają się temu, że ustalanie standardów technicznych jest dokładnie tym rodzajem problemu, który przynosi korzyści dzięki udziałowi laboratoriów i że ramy kierowane przez USA są lepsze niż fragmentacja między jurysdykcjami lub próżnia, którą wypełniłyby inne uprawnienia. Nacisk położony we wniosku na włączenie twórców modelu otwartego i niezależnych badaczy jest ukrytym potwierdzeniem tej krytyki.

To, czy propozycja zyska teraz popularność, zależy w dużej mierze od Waszyngtonu. Kongres musiałby finansować i wzmacniać pozycję CAISI lub organów je zastępujących, a krajowe instytuty ds. bezpieczeństwa musiałyby uzgodnić wspólne metody oceny, a żadna z nich nie nastąpi szybko. Dokument ten jest jednak znaczący jako wyznacznik kierunku zmiany stanowiska politycznego laboratoriów granicznych: firma, która niegdyś sprzeciwiała się rygorystycznym regulacjom, zwraca się teraz do rządu USA o zorganizowanie światowych standardów technicznych w celu kontrolowania jej własnych następców.

---

Bądź na Bieżąco z AI

Najnowsze wiadomości, analizy i przełomy w dziedzinie AI — wszystko w jednym miejscu.

Czytaj więcej wiadomości AI →