Chiński startup zajmujący się sztuczną inteligencją, DeepSeek, znajdzie się wśród firm, które w tym tygodniu informowały Radę Bezpieczeństwa ONZ o zagrożeniach stwarzanych przez sztuczną inteligencję, powiedziały agencji Reuters dwa źródła zaznajomione z tą kwestią, gdy światowi przywódcy zbierają się w Nowym Jorku na dorocznym Zgromadzeniu Ogólnym ONZ.
Złożona z 15 członków Rada Bezpieczeństwa ma zebrać się 23 września, aby omówić sztuczną inteligencję i bezpieczeństwo międzynarodowe — kilka tygodni po tym, jak kilku liderów branży sztucznej inteligencji wezwało do skoordynowanego spowolnienia rozwoju coraz potężniejszych systemów sztucznej inteligencji, ostrzegając, że wkrótce mogą one ulepszyć się samodzielnie i wymknąć się spod kontroli człowieka. Więcej kontekstu tej historii znajdziesz w naszych bieżących reportażach z branży AI.
Kto będzie w pokoju
Jak poinformował w zeszłym tygodniu Reuters, dyrektor generalny OpenAI Sam Altman planuje zreferować spotkanie, w którym dyplomaci oczekują również udziału starszych przedstawicieli Anthropic.
Jedno ze źródeł podało, że ze strony chińskiej do złożenia oświadczeń zaproszono DeepSeek i inne chińskie firmy zajmujące się sztuczną inteligencją, w tym Moonshot. Założyciel DeepSeek, Liang Wenfeng, nie planuje udziału w konferencji – ostrzegło źródło, zauważając, że plany pozostają płynne i mogą ulec zmianie w ostatniej chwili. DeepSeek i Moonshot nie odpowiedziały natychmiast na prośby o komentarz.
Sesja kończy się w tygodniu, w którym Nowy Jork jest już przepełniony dyplomacją sztucznej inteligencji, gdy światowi przywódcy zbierają się na dorocznym Zgromadzeniu Ogólnym ONZ, a wokół niego mnożą się spotkania poboczne. Ten moment jest dla DeepSeek niekorzystny w obie strony: imprimatur rady sygnalizuje, że wiodące laboratoria Chin są obecnie traktowane jako niezastąpione osoby wypowiadające się na temat ryzyka związanego z pionierską sztuczną inteligencją, mimo że oficjalne stanowisko Pekinu w dalszym ciągu odrzuca retorykę spowolnienia wyłaniającą się z Doliny Krzemowej.
Niezwykły skład – najwybitniejszy amerykański dyrektor ds. sztucznej inteligencji dzielący program Rady Bezpieczeństwa z najbardziej znanym chińskim laboratorium wagi otwartej – sprawia, że środowa sesja jest najbardziej konsekwentnym spotkaniem dotyczącym sztucznej inteligencji, jakie Rada zorganizowała od czasu, gdy po raz pierwszy podjęła ten temat.
Od „Uciekającego konia” po Zbuntowaną sztuczną inteligencję
Rada Bezpieczeństwa ONZ, której zadaniem jest utrzymanie międzynarodowego pokoju i bezpieczeństwa, zebrała się po raz pierwszy w sprawie zagrożeń związanych ze sztuczną inteligencją w 2023 r. Już wtedy widoczne były różnice między stronami: Chiny ostrzegały, że technologia nie powinna stać się „uciekającym koniem”, podczas gdy Stany Zjednoczone ostrzegały przed jej wykorzystywaniem do cenzurowania i represjonowania ludzi.
Trzy lata później debata przeniosła się z hipotez na raporty o incydentach. Sekretarz generalny ONZ Antonio Guterres ostrzegł w zeszłym tygodniu światowych przywódców, że szybko rozwijająca się sztuczna inteligencja stwarza ryzyko, którego nie można zignorować, co stawia go w sprzeczności z prezydentem USA Donaldem Trumpem, który argumentował, że istniejące zabezpieczenia są wystarczające i że Chiny skorzystają na wątpliwościach co do rozwoju sztucznej inteligencji.
Publiczne milczenie Pekinu w sprawie katastrofalnego ryzyka
Jedna z bardziej celnych obserwacji w raporcie Reutersa dotyczy tego, czego nie powiedzieli liderzy chińskich laboratoriów. W przeciwieństwie do szefów amerykańskich laboratoriów granicznych, takich jak OpenAI i Anthropic, liderzy czołowych chińskich twórców modeli rzadko wyrażali publicznie możliwość, że coraz wydajniejsze systemy sztucznej inteligencji mogą oszukiwać ludzi, uchylać się od kontroli lub powodować katastrofalne szkody – i od czasu wrześniowej debaty w Stanach Zjednoczonych w dużej mierze milczą na temat tych zagrożeń.
Ze swojej strony chińskie media państwowe odrzuciły wezwania do spowolnienia rozwoju sztucznej inteligencji jako wynikające z „podręcznika zimnej wojny” – co, zdaniem Pekinu, ma na celu utrzymanie dominacji Waszyngtonu w najnowocześniejszych technologiach i całkowite wykluczenie Pekinu z globalnego systemu zarządzania sztuczną inteligencją.
Pojawienie się DeepSeek na Radzie ma zatem podwójne znaczenie: jest to jednocześnie najbardziej widoczne jak dotąd zaangażowanie Pekinu w globalną dyskusję na temat ryzyka związanego ze sztuczną inteligencją oraz sprawdzian, czy chińskie laboratoria w ogóle zaangażują się w określanie ryzyka katastroficznego.
Rozmowy przed Trumpem-Xi
Sesja Rady Bezpieczeństwa nie jest odosobniona. Wyżsi urzędnicy amerykańscy i chińscy zgodzili się na dalsze rozmowy na temat bezpieczeństwa sztucznej inteligencji, powiedział 21 września sekretarz skarbu USA Scott Bessent po spotkaniu przed zaplanowanymi rozmowami Trumpa z prezydentem Chin Xi Jinpingiem, które odbędą się pod koniec tygodnia w Waszyngtonie.
Ta kolejność – szczyt wysokiej stawki w Waszyngtonie, który odbywa się równolegle z debatą Rady Bezpieczeństwa w Nowym Jorku – podkreśla, jak gruntownie sztuczna inteligencja przeniosła się z dossier polityki technicznej do centrum stosunków dwustronnych.
Co obejrzeć
Nad środowym spotkaniem wiszą trzy pytania. Czy Liang Wenfeng zmieni zdanie i przybędzie. Niezależnie od tego, czy oświadczenie DeepSeek wiąże się z ryzykiem związanym z talią kart – oszustwem, utratą kontroli – które podkreślają jego amerykańscy odpowiednicy, czy też opiera się na bezpieczniejszym gruncie, jakim są sprawiedliwy dostęp i prawa do rozwoju. I czy rada może przedstawić coś poza znanymi stanowiskami.
Dotychczasowe osiągnięcia Rady w zakresie sztucznej inteligencji są niewielkie: pierwsze posiedzenie w 2023 r., ostrzeżenie sekretarza generalnego w tym miesiącu i brak wiążących ram. Jednak jako scena dla wyłaniającego się sporu między USA a Chinami o to, kto ustala zasady dotyczące granicznej sztucznej inteligencji – i czyje obawy są traktowane poważnie – ma niewielu rywali.
---
Wyprzedź sztuczną inteligencjęOtrzymuj najnowsze wiadomości, analizy i przełomowe informacje dotyczące sztucznej inteligencji — wszystko w jednym miejscu.
Przeczytaj więcej aktualności o sztucznej inteligencji →
