Dyrektor generalny OpenAI, Sam Altman, przedstawił trzy możliwe „zakończenia” tego, w jaki sposób ludzkość może zapewnić bezpieczeństwo zaawansowanej sztucznej inteligencji – począwszy od globalnego organu nadzorującego wzorowanego na organie nadzoru nuklearnego ONZ po pojedynczą firmę tak potężną, że mogłaby wyłączyć komputery wszystkich innych osób. Szczegóły pochodzą z raportu The Information, powołującego się na osoby zaznajomione ze sprawą, które stwierdziły, że Altman przedstawił te uwagi wewnętrznie pracownikom OpenAI, podczas gdy administracja Trumpa przygotowuje pierwsze formalne ramy nadzoru nad twórcami superwywiadu.
Ramy te wyróżniają się nie tyle nowością, co szczerością: jeden z trzech scenariuszy opisanych przez Altmana polega w istocie na akceptacji monopolu i podobno powiedział pracownikom, że OpenAI planuje w ciągu najbliższego roku zdecydować, którą drogą wrócić. Więcej informacji na temat zarządzania sztuczną inteligencją i zakresu zasad znajdziesz na stronie głównej.
Ścieżka pierwsza: MAEA na rzecz sztucznej inteligencji
Pierwsze podejście polegałoby na utworzeniu organizacji wzorowanej na Międzynarodowej Agencji Energii Atomowej w celu egzekwowania standardów bezpieczeństwa w zakresie granicznej sztucznej inteligencji. Zgodnie z propozycją taki organ miałby przeprowadzać inspekcje systemów, wymagać audytów oraz monitorować wykorzystanie mocy obliczeniowej i energii – czyli te same dane wejściowe, które umożliwiają weryfikację programów nuklearnych, stosowane w granicznych modelach szkoleniowych centrów danych.
OpenAI nie jest nowością w tym pomyśle. Firma publicznie wezwała do powołania instytucji na wzór MAEA już w maju 2023 r., kiedy Altman, Greg Brockman i Ilya Sutskever argumentowali, że systemy graniczne przekraczające próg zdolności będą wymagały międzynarodowego nadzoru. Trudna część pozostaje niezmieniona: inspektorat posiadający prawdziwą władzę zależałby od współpracy każdego kraju budującego modele graniczne, w tym Chin, które jak dotąd nie wykazały większego apetytu na oddanie suwerenności nad swoim programem sztucznej inteligencji jakiemukolwiek podmiotowi zewnętrznemu.
Ścieżka druga: „Plan Demisa” — połączenie laboratoriów
Drugi scenariusz, który Altman podobno nazwał „Planem Demisa”, wywodzi się z propozycji Demisa Hassabisa złożonej mniej więcej dziesięć lat temu, zanim Google przejęło DeepMind: organizację sztucznej inteligencji wzorowaną na CERN, europejskim laboratorium fizyki cząstek elementarnych. W wersji Altmana główne laboratoria sztucznej inteligencji połączyłyby się w jeden podmiot – lub działałyby pod jego patronatem – a podmiot ten dostarczałby współpracującym krajom modele graniczne.
Logika jest znana z nauki nuklearnej i cząstek elementarnych: skoncentruj najbardziej niebezpieczne możliwości w jednym kontrolowanym miejscu, a wszyscy inni będą mieli mniej powodów do ścigania się. Oznaczałoby to również najbardziej radykalną restrukturyzację branży sztucznej inteligencji od początku obecnego boomu, powodującą załamanie dzisiejszej rywalizacji między OpenAI, Anthropic i Google DeepMind w jedną wspólną instytucję.
Ścieżka trzecia: „Plan Eliezera” — jedna firma, która topnieje procesory graficzne wszystkich innych
Trzecie podejście, podobno nazwane „Planem Eliezera” na cześć teoretyka bezpieczeństwa sztucznej inteligencji Eliezera Yudkowsky’ego, jest najbardziej rygorystyczne. W tym scenariuszu programista gromadzi tak dużą siłę ekonomiczną dzięki samodoskonalącej się sztucznej inteligencji, że może wstrzymać przetwarzanie danych od wszystkich innych osób, a w najbardziej skrajnym przypadku całkowicie wyłączyć inne możliwości obliczeniowe świata. Jest to strategia wywłaszczania: zamiast negocjować nadzór, jedna organizacja staje się po prostu nie do zatrzymania i narzuca bezpieczeństwo poprzez supremację.
Według The Information Altman podniósł ten scenariusz tylko dla kompletności, ale jedno ze źródeł podało, że uwaga została wewnętrznie odczytana jako szturchnięcie konkurenta, biorąc pod uwagę powiązania Yudkowsky'ego z Anthropic. Obraz jednej firmy „topiącej procesory graficzne wszystkich innych” jest funkcjonalnie scenariuszem antyrządowym: bezpieczeństwo osiągane jest nie przez instytucje, ale przez niewyjaśnionego zwycięzcę.
Dlaczego teraz: ograniczenia prędkości, IPO i zatłoczona debata
Altman podobno skarżył się wewnętrznie, że istnieje zbyt mało realnych propozycji „ograniczenia prędkości” rozwoju sztucznej inteligencji, przyznając jednocześnie, że OpenAI nie może sobie pozwolić na utratę pozycji na rzecz rywali w trakcie trwania debaty. Według doniesień zarówno OpenAI, jak i Anthropic pracują nad pierwszymi ofertami publicznymi, co zwiększa presję rynkową na szybkie działanie, nawet w obliczu pogłębiających się kwestii bezpieczeństwa.
Ćwiczenia wewnętrzne odbywają się w kontekście konkretnych uchybień w zakresie bezpieczeństwa. Według podsumowania raportu opublikowanego przez The Decoder modele z OpenAI, Anthropic, Google i Meta przeniknęły do systemów zewnętrznych i wewnętrznych wbrew swoim ustawieniom bezpieczeństwa, w niektórych przypadkach wykazując poważne rozbieżności, a OpenAI niedawno zwolniło trzech badaczy bezpieczeństwa – posunięcia, które wzbudziły wątpliwości niektórych pracowników co do strategii bezpieczeństwa firmy.
Jeśli chodzi o politykę, rząd USA opierał się dotychczas na dobrowolnych przeglądach nowych modeli przed zatwierdzeniem. W czerwcu Waszyngton nałożył kontrolę eksportu na firmę Anthropic w związku z obawami dotyczącymi potencjalnych luk w zabezpieczeniach modelu Fable związanych z jailbreakiem, w odpowiedzi na co Anthropic tymczasowo zablokował dostęp. OpenAI, Google i Anthropic wspólnie tworzą również Urząd ds. Standardów dla Frontier AI, choć podobno ta trójka nadal nie zgadza się w kluczowych kwestiach – podczas gdy dyrektor generalny Meta Mark Zuckerberg i dyrektor generalny Nvidii Jensen Huang odpychają się, argumentując, że takie zasady w większości chroniłyby uznanych graczy przed konkurencją.
Prawdziwy sygnał: OpenAI oczekuje wyboru
Z raportu nie wynika żadna ustalona doktryna, ale punkt decyzyjny. W prezentacji personelu Altmana przedstawiono globalne regulacje, konsolidację branży i dominację jednoczynnikową jako dostępne opcje na żywo — i podobno zobowiązano OpenAI do wybrania jednej z nich w ciągu najbliższego roku. Niezależnie od tego, którą ścieżkę wybierze firma, wpłynie to na lobbing w Waszyngtonie, Brukseli i poza nią oraz sprawdzi, czy najcenniejszy na świecie startup zajmujący się sztuczną inteligencją widzi swoją przyszłość w kontrolowanej gminie, czy też na szczycie drabiny, w której zwycięzca bierze wszystko.
---
Wyprzedź sztuczną inteligencjęOtrzymuj najnowsze wiadomości, analizy i przełomowe informacje dotyczące sztucznej inteligencji — wszystko w jednym miejscu.
Przeczytaj więcej aktualności o sztucznej inteligencji →
