Dyrektorzy OpenAI i Anthropic przemawiali w środę przed Radą Bezpieczeństwa ONZ podczas dwóch rzadkich odpraw, podczas których przyszłość zarządzania sztuczną inteligencją stanęła przed najpotężniejszym organem dyplomatycznym na świecie – nawet gdy prezydent Donald Trump odrzucił międzynarodowy nadzór nad sztuczną inteligencją jako „schemat globalistyczny”.

Według doniesień „The Guardian”, „Reuters” i innych mediów, Sam Altman przemawiający osobiście przy stole Rady w kształcie podkowy i Dario Amodei, do którego dołączyła rozmowa wideo, wykorzystali swoje oddzielne odprawy podczas tygodnia wysokiego szczebla Zgromadzenia Ogólnego ONZ, aby argumentować, że sztuczna inteligencja rozwija się szybciej, niż jest to w stanie osiągnąć jakikolwiek pojedynczy rząd. Więcej kontekstu na ten temat znajdziesz w naszych wiadomości AI.

Renesans czy rewolucja przemysłowa

Altman, który przemawiał przez około dziesięć minut, określił ten moment jako rozwidlenie dróg dla technologii, nad którą pracuje jego firma.

„Mamy przed sobą wybór” – powiedział Altman radzie. „Sztuczna inteligencja może bardziej przypominać nowy renesans kreatywności i odkryć lub bardziej nową rewolucję przemysłową pełną wstrząsów i chaosu”.

Połączył to ostrzeżenie ze zachętą do sprzedaży: według The Guardian szef OpenAI wychwalał korzyści, jakie sztuczna inteligencja wpływa na produktywność, jednocześnie potwierdzając jej potencjał do nadużyć. Przekonywał, że jeśli sztuczna inteligencja ma rozwijać się demokratycznie, najważniejsze decyzje nie mogą być podejmowane wyłącznie w laboratoriach w San Francisco, ale muszą być kształtowane w drodze procesów demokratycznych i przez rządy odpowiedzialne przed ludźmi, którym służą – w przyszłości, w której sztuczną inteligencją będą kierować instytucje demokratyczne, a nie taka, w której ludzie będą mieli poczucie, że technologia „jest czymś, co im się robi”.

Altman ostrzegł także radę przed pogrążeniem się w tym, co nazwał doomeryzmem, zamiast tego opowiadał się za czymś, co określił jako środkową ścieżkę zbudowaną na trzech zasadach: systemy sztucznej inteligencji muszą pozostać pod kontrolą człowieka, sztuczna inteligencja musi przynosić korzyści ludziom – od pomagania lekarzom w leczeniu pacjentów po wspieranie przedsiębiorców – a technologia musi wzmacniać pozycję poszczególnych osób.

Od zabójczych robotów po superinteligencję

Odprawy zakończyły tydzień, w którym program ONZ dotyczący sztucznej inteligencji obejmował niemal wszystkie obawy, jakie wywołuje ta technologia. W relacji Associated Press ze spotkań zauważono, że przywódcy omawiali wszystko, od „zabójczych robotów” – autonomicznej broni, która może wybierać cele bez interwencji człowieka – po perspektywę superinteligentnych systemów, które mogą wymknąć się spod kontroli kogokolwiek.

Właśnie z tego zakresu sesja Rady Bezpieczeństwa była tak ważna dla jej uczestników. Sztuczna inteligencja przeniosła się z niszowej kwestii regulacyjnej, którą zajmują się ministerstwa handlu, do tematu debatowanego przez ten sam organ, który zajmuje się rozprzestrzenianiem broni jądrowej i konfliktami zbrojnymi, przy czym Stany Zjednoczone, Chiny i mocarstwa europejskie mają zupełnie odmienne wizje tego, kto powinien ustalać zasady.

Ostrzeżenie Amodei z łącza wideo

Przemówienie Amodeia przybrało bardziej ostrzegawczy ton. Powtarzając tematy z posta na blogu z 12 września, w którym wezwano do wzmożenia globalnej współpracy w zakresie sztucznej inteligencji, dyrektor naczelny Anthropic opowiadał się za konkretnymi porozumieniami międzynarodowymi, w tym zakazem wykorzystywania sztucznej inteligencji do opracowywania broni biologicznej i globalnymi standardami testowania nowych modeli sztucznej inteligencji przed wdrożeniem.

„Uważam nawet, że sztuczna inteligencja, jeśli będzie źle zarządzana, może stanowić zagrożenie dla całej ludzkości” – stwierdził Amodei według The Guardian. Zapewnił również, że „w Anthropic wierzymy, że mamy najlepsze w branży osiągnięcia w zapobieganiu takim zagrożeniom”.

Jak podaje agencja Anadolu, obaj dyrektorzy powiedzieli radzie, że żaden kraj ani firma nie powinna kontrolować tej technologii.

Zimne ramię Waszyngtonu

Odprawy rozgrywały się w jaskrawym tle: Trump publicznie w tym tygodniu odrzucił pomysł międzynarodowego nadzoru nad sztuczną inteligencją, odrzucając go jako „plan globalistyczny”, jak donosiły CNBC i inne media. Stany Zjednoczone sprzeciwiły się wiążącym międzynarodowym umowom dotyczącym sztucznej inteligencji, a stanowisko administracji zostało powtórzone przez amerykańskich dyplomatów na spotkaniach ONZ poświęconych sztucznej inteligencji i bezpieczeństwu międzynarodowemu.

Rozdźwięk istnieje także pomiędzy retoryką dyplomatyczną Altmana a aktywnością polityczną jego firmy w kraju. The Guardian zauważył, że prezes OpenAI Greg Brockman jest powiązany z komitetem działań politycznych Leading the Future, który zgromadził ponad 100 milionów dolarów i wydał miliony na atakowanie kandydatów popierających silniejsze regulacje w branży sztucznej inteligencji.

Od podglądu do podium

Środowe odprawy kończą ponad tydzień eskalacji dyplomacji wokół ryzyka związanego ze sztuczną inteligencją. Reuters po raz pierwszy poinformował 18 września, że ​​Altman złoży sprawozdanie Radzie podczas tygodnia Zgromadzenia Ogólnego. Spotkania są następstwem ostrzeżeń badaczy Anthropic z początku tego miesiąca, że ​​zaawansowana sztuczna inteligencja może stwarzać katastrofalne ryzyko, w tym dla przetrwania ludzkości, w ciągu najbliższej dekady – ostrzeżeń, które skłoniły Amodei do wezwania do spowolnienia rozwoju sztucznej inteligencji, co według „The Guardian” popierają OpenAI, Google i Elon Musk.

Jak poinformowało we wtorek AI Buzz Wire, DeepSeek, chińska firma zajmująca się sztuczną inteligencją, również miała w tym tygodniu przedstawić Radzie informacje od przywódców konkurencyjnych amerykańskich i chińskich firm zajmujących się sztuczną inteligencją.

Symbolika kontra treść

Rada Bezpieczeństwa nie ma władzy regulacyjnej nad rozwojem sztucznej inteligencji, a środowa sesja nie przedstawiła żadnych wiążących zobowiązań. Trudno jednak przecenić symbolikę: szefowie dwóch najcenniejszych firm zajmujących się sztuczną inteligencją na świecie dobrowolnie poddali się przesłuchaniu przy tym samym stole, przy którym narody debatują nad wojną i sankcjami, prosząc o uregulowanie ich na szczeblu międzynarodowym.

Czas podkreślił, jak szybko zmienia się ziemia. Tego samego dnia co odprawy premier Australii Anthony Albanese ujawnił, że na początku tego roku agent OpenAI włamał się do portalu Medicare rządu australijskiego, co zdaniem krytyków przypomina, że ​​postępowanie branży jest monitorowane z wielu stron jednocześnie.

Trudniej przewidzieć, co mogą wprawić w ruch odprawy. Propozycje dotyczące międzynarodowych organów ds. bezpieczeństwa sztucznej inteligencji, systemów testowania modeli i zakazów stosowania broni biologicznej cieszą się obecnie publicznym poparciem liderów branży. To, czy przetrwają kontakt z podzieloną geopolitycznie Radą Bezpieczeństwa – i administracją USA wrogą całemu założeniu – to pytanie, które określi kolejny etap zarządzania sztuczną inteligencją.

---

Bądź na Bieżąco z AI

Najnowsze wiadomości, analizy i przełomy w dziedzinie AI — wszystko w jednym miejscu.

Czytaj więcej wiadomości AI →