Kilka godzin po opublikowaniu przez dyrektora generalnego Anthropic Dario Amodei eseju „We Must Pace the Frontier” wzywającego rządy do spowolnienia wyścigu sztucznej inteligencji, w Hacker News zaczęła pojawiać się ostra reakcja, która ostatecznie stała się jednym z najbardziej pozytywnie ocenianych artykułów tamtych czasów. Jej argumentacja, przedstawiona w liście otwartym przez pisarza i programistę Jacoba Golda, jest rozbrajająco prosta: jeśli Amodei szczerze twierdzi, że spowalnia sztuczną inteligencję, istnieje jedno prawo, o które mógłby się ubiegać, które faktycznie by to umożliwiło – i żaden inny dyrektor laboratorium nie byłby w stanie tego zaproponować. Wymagaj, aby każdy model sztucznej inteligencji, jaki firma oferuje społeczeństwu, był udostępniany jako otwarte wagi.
„Uważam, że jest Pan szczery” – rozpoczyna się list, zwracając się bezpośrednio do Amodei – „dlatego proszę, aby nawoływał Pan do wprowadzenia innego prawa, takiego, które faktycznie spowolniłoby sytuację, choć wymagałoby to z Waszej strony prawdziwego poświęcenia”. List wzbudził sensację właśnie dlatego, że nawiązuje do najmocniejszej wersji argumentu Amodei, a nie go odrzuca, a także dlatego, że ląduje w środku najbardziej istotnej dzisiejszej debaty politycznej na temat sztucznej inteligencji, debaty, którą codziennie śledzimy w naszym reportażu dotyczącym polityki w zakresie sztucznej inteligencji.
Co zaproponował Amodei i dlaczego Gold twierdzi, że to nie zadziała
W swoim eseju Amodei zobowiązał Anthropic do współpracy z zewnętrznymi podmiotami oceniającymi i zwrócił się do rządów, aby wymagały od każdej innej firmy granicznej wywiązania się z tego zobowiązania. Sam Altman zgodził się w ciągu kilku godzin — „Zgadzam się z Dario, że musimy przekraczać granice” – stwierdził, według Politico, przy czym OpenAI również spełniło wymagania ewaluatorów. Na pozór jest to bezprecedensowe porozumienie: szefowie dwóch najcenniejszych laboratoriów sztucznej inteligencji na świecie publicznie proszą o spowolnienie.
W swoim piśmie Gold dowodzi, że to właśnie ten konsensus powinien wzbudzić podejrzenia obserwatorów. „Każde rozporządzenie, o które prosiłeś, kończy się schwytaniem” – ostrzega. Wbudowane moduły oceniające, progi obliczeniowe, koordynacja branży z odstępstwami antymonopolowymi — „Wszystko to jest pisane przy pomocy obecnych laboratoriów granicznych, ponieważ nikt inny nie rozumie szczegółów technicznych na tyle dobrze, aby to napisać”. Gdy takie zasady staną się prawem, każdy incydent dodaje regułę i żadna nie zostanie usunięta, a gigantów stać na zespoły ds. zgodności, które powstrzymują mniejszych konkurentów. „Zamiast Cię spowalniać” – czytamy w liście Amodei – „chroni Twoją pozycję i zyski”.
Kontrpropozycja wagi otwartej
Alternatywne szkice Gold są celowo tępe. Każdy model sztucznej inteligencji, jaki firma oferuje społeczeństwu, musiałby być dostarczany z opublikowaną wagą. Modele wewnętrzne i badawcze pozostaną nietknięte, a rządy zachowają dostęp do niewydanych jeszcze systemów, ale Anthropic będzie musiało opublikować wagi swojego kolejnego pionierskiego modelu w dniu jego premiery, a OpenAI będzie musiało zrobić to samo. „Nie ma w tym nic, co można by oszukiwać lub unikać” – kończy list – „nawet dla ciebie”.
Mechanizm ma charakter finansowy, a nie biurokratyczny. Jak wyjaśnia Gold, finansowanie rozwoju modelu pionierskiego zależy od wycen, które zakładają, że wagi pozostają zastrzeżone. Mandat odwraca to założenie: jeśli każde publiczne udostępnienie jest otwarte, przewaga konkurencyjna płynie do tego, kto opracowuje najlepszy model, a nie do tego, kto sprzedaje do niego dostęp, premia zawarta w prywatnych wycenach spada, a pieniądze dostępne na następny cykl szkoleniowy kurczą się – „w każdym laboratorium na raz, bez podejmowania jakiejkolwiek decyzji przez organ regulacyjny”. Jest to w istocie argument, że oczekiwania rynku wobec zamkniętych modeli są motorem wyścigu i że usunięcie oczekiwań usuwa silnik.
A konkretnie dlaczego Amodei
Zawarte w piśmie uzasadnienie, dlaczego Amodei jest jedyną osobą, która może złożyć tę propozycję, opiera się na jego aktach i jest szczególnie pełne szacunku. Gold przypisuje mu to, że opuścił OpenAI pod koniec 2020 r. i założył Anthropic, „kiedy miał pozostać bezpieczny krok w karierze”, od lat opowiadając się za regulacją własnej branży i forsując kontrolę eksportu, która kurczy jego własny rynek. Zauważa, że Anthropic przekształciło się w Korporację Pożytku Publicznego z misją prawną — „odpowiedzialnym rozwojem i utrzymaniem zaawansowanej sztucznej inteligencji dla długoterminowej korzyści ludzkości” — która umożliwiłaby jej kierownictwu wchłonięcie ciosu finansowego, jaki spowodowałoby takie prawo. Gold zauważa, że w eseju Amodei Anthropic opowiada się za regulacjami, „nawet jeśli zostajemy oskarżeni o szum medialny, «doomeryzm» lub przejmowanie regulacji”.
Sceptycy zwrócą uwagę na oczywiste kontrargumenty, a list nie daje na nie w pełni odpowiedzi: otwarte wagi ułatwiają nadużycia, a także utrudniają postęp, mandat dotyczący ciężarów otwartych spotkałby się z ostrym sprzeciwem inwestorów w każdym laboratorium, a krytycy wcześniejszego stanowiska Amodei w sprawie chińskich modeli otwartych usłyszą we wniosku echa dawnych walk. Jednak główne wyzwanie zawarte w piśmie nie zależy od przyjęcia jego polityki. Zależy to od napięcia, które wyraźnie określa: laboratorium, które zwraca się do rządów o spowolnienie wszystkich innych, podczas gdy jego własna wycena opiera się na utrzymaniu przewagi, nie zażądało jeszcze niczego, co mogłoby go cokolwiek kosztować.
Debata, która jest teraz nieunikniona
To, czy Amodei zareaguje, jest prawie nieistotne. W ciągu jednego dnia laboratoria graniczne przestały konkurować w zakresie wydajności i osiągnęły porozumienie w sprawie konieczności utrzymywania tempa pracy, a reakcja opinii publicznej przeniosła się z pytania, czy sztuczna inteligencja jest niebezpieczna, do pytania, czy można wierzyć ostrzegającym przed nią ludziom. List Golda – zawierający kilkaset słów szczegółów politycznych owiniętych wokół jednego niewygodnego pytania – stał się najostrzejszym wyrazem tego sceptycyzmu, a jego wirusowość sugeruje, że ożywiająca debata będzie toczyć się nie tylko w Waszyngtonie, ale publicznie, na platformach takich jak Hacker News, gdzie społeczność ciężarów otwartych od lat zmienia ten argument.
Wyprzedź sztuczną inteligencję
Regulacje, otwarte ciężary i walka o tempo AI – omawiane bez szumu.
Przeczytaj więcej aktualności o sztucznej inteligencji →
