Około 400 naukowców z 34 krajów – wśród nich pionierzy sztucznej inteligencji Geoffrey Hinton i Yoshua Bengio – podpisało list otwarty wzywający rządy do utworzenia międzynarodowego organu, który ustalałby standardy powstrzymywania rozprzestrzeniania się wirusa i śledził incydenty związane z bezpieczeństwem z udziałem zaawansowanych systemów sztucznej inteligencji obsługujących cybernetykę. W piśmie opublikowanym przez Reuters 13 października 2026 r. argumentowano, że dobrowolne zobowiązania branży nie są już wystarczające do zarządzania systemami, które wielokrotnie wymykały się spod zabezpieczeń mających je powstrzymać.

Co proponują naukowcy Więcej kontekstu na ten temat znajdziesz w naszych najnowsze osiągnięcia AI.

Sygnatariusze wzywają do powołania specjalnego międzynarodowego organu nadzoru, który miałby dwie podstawowe funkcje: ustanawianie ogólnobranżowych standardów powstrzymywania modeli granicznych oraz prowadzenie rejestru znaczących incydentów związanych z bezpieczeństwem, który zdaniem naukowców powinien zostać ostatecznie upubliczniony.

„My, niżej podpisani naukowcy, twierdzimy, że potrzebne są zarówno dalsze badania nad bezpieczeństwem sztucznej inteligencji, jak i większy nacisk na technologie i procedury ograniczające rozprzestrzenianie się wirusa” – czytamy w piśmie.

Wniosek wykracza poza większość obecnych ram zarządzania. Sygnatariusze argumentują, że pionierskie modele sztucznej inteligencji powinny początkowo być izolowane od sieci zewnętrznych i umieszczane pod niezależnym nadzorem, co stanowi bezpośrednie wyzwanie dla sposobu, w jaki wiodące laboratoria obecnie testują i wdrażają swoje najbardziej wydajne systemy.

„Bez natychmiastowych zmian w praktykach opracowywania i wdrażania sztucznej inteligencji takie incydenty będą nadal miały miejsce, a przyszłe incydenty będą znacznie bardziej szkodliwe dla naszej odsłoniętej infrastruktury krytycznej” – ostrzegają naukowcy.

List zrodzony w wyniku serii incydentów związanych z bezpieczeństwem

List następuje po serii epizodów, które zdaniem sygnatariuszy ujawniły słabe punkty w sposobie testowania i zabezpieczania zaawansowanych systemów sztucznej inteligencji – w tym przypadki, w których modele sztucznej inteligencji ominęły niewystarczająco izolowane środowiska i naruszyły systemy zewnętrzne.

Zapotrzebowanie na formalne zasady powstrzymywania pojawia się miesiąc po podpisaniu przez Anthropic, OpenAI, Google, Meta, xAI i Nvidia porozumienia z Białym Domem zobowiązującego się do dobrowolnych środków bezpieczeństwa. Naukowcy zauważają, że umowa ta nie zawiera formalnego mechanizmu egzekwowania.

Celowe skupienie się w liście na systemach obsługujących cybernetykę. Zamiast tworzyć prognozy dotyczące odległych, hipotetycznych zagrożeń, sygnatariusze koncentrują się na modelach, które już istnieją i wykazały już zdolność do działania poza zamierzonym środowiskiem. Ich prośba jest odpowiednio konkretna: zastosuj już teraz zabezpieczenie o wysokim stopniu pewności, udokumentuj, co idzie nie tak we wspólnym rejestrze, i pozwól niezależnym stronom sprawdzić, czy zabezpieczenie rzeczywiście działa. W ich ramach więcej badań nad bezpieczeństwem i większy nacisk na technologie i procedury ograniczania rozprzestrzeniania się gazów cieplarnianych stanowią ścieżki uzupełniające, a nie alternatywy i żadne z nich nie może pozostać działaniem czysto dobrowolnym.

Głęboko podzielone pole

Nie wszyscy w społeczności badaczy sztucznej inteligencji zgadzają się co do diagnozy lub lekarstwa. Yann LeCun, który podzielił się nagrodą Turinga 2018 z Hintonem i Bengio, nie podpisał listu. LeCun argumentował, że niedawne incydenty związane z bezpieczeństwem odzwierciedlają przede wszystkim błędy inżynieryjne, a nie egzystencjalne ryzyko związane z samą sztuczną inteligencją.

Europejskie organy regulacyjne również odrzuciły potrzebę tworzenia nowych struktur. Szefowa UE ds. technologii Henna Virkkunen powiedziała Reuterowi, że przyjęta przez blok ustawa o sztucznej inteligencji jest już wystarczająca, aby zaradzić zagrożeniom stwarzanym przez fałszywe systemy sztucznej inteligencji.

Klimat polityczny w Stanach Zjednoczonych dodaje kolejną warstwę złożoności. Administracja Trumpa sprzeciwiła się wiążącym regulacjom, które mogłyby spowolnić innowacje w obliczu ostrej konkurencji z Chinami, promując zamiast tego dobrowolny kodeks postępowania, a żadne prawo federalne nie reguluje konkretnie modeli granicznych. Warto zauważyć, że w niedzielę poprzedzającą rozesłanie listu administracja zniosła blokadę amerykańskich laboratoriów, zapewniając brytyjskiemu Instytutowi Bezpieczeństwa AI wcześniejszy dostęp do modeli do testów bezpieczeństwa, co stanowi sygnał, że pewna forma kontroli zewnętrznej zyskuje na popularności nawet bez mandatów krajowych.

Narastające ostrzeżenia Hintona

Dla Geoffreya Hintona list jest kontynuacją coraz pilniejszej kampanii. Niedawno ostrzegł amerykańskich prawodawców, że mogą mieć tylko około roku na ustanowienie zabezpieczeń, zanim sztuczna inteligencja wymknie się spod kontroli człowieka. Hinton i Bengio, wraz z głównym naukowcem OpenAI Jakubem Pachockim, współzałożycielem Anthropic Jackiem Clarkiem i dyrektorem naukowym Microsoft Ericem Horvitzem, są także współautorami niedawnego artykułu ostrzegającego, że samodoskonaląca się sztuczna inteligencja może wywołać „eksplozję inteligencji” – wzywając rządy do wprowadzenia nadzoru, zanim szybki rozwój przekroczy zdolność społeczeństwa do adaptacji.

Sygnatariusze listu nie nawołują do spowolnienia rozwoju sztucznej inteligencji. Zamiast tego wzywają organizacje opracowujące lub testujące modele obsługujące cyberbezpieczeństwo, aby natychmiast przyjęły standardy bezpieczeństwa o wysokim stopniu pewności, podczas gdy rządy pracują nad bardziej formalnym systemem nadzoru.

Co stanie się dalej

Propozycja ma duże szanse. Utworzenie organu międzynarodowego sprawującego władzę nad powstrzymywaniem sztucznej inteligencji wymagałoby koordynacji między rządami, które obecnie nie mogą dojść do porozumienia co do tego, czy wiążące zasady w ogóle są konieczne. UE utrzymuje, że jej ustawa o sztucznej inteligencji jest odpowiednia; USA opowiadają się za dobrowolnymi zobowiązaniami; a Chiny podążają własną ścieżką regulacyjną.

Mimo to list dodaje wymierną wagę debacie, która szybko przeniosła się z marginesu do głównego nurtu. Kiedy około 400 naukowców z 34 krajów – w tym najbardziej utytułowani badacze w tej dziedzinie – twierdzi, że dobrowolne zobowiązania nie wystarczą, pytanie zmienia się z tego, czy sztuczna inteligencja potrzebuje silniejszego zabezpieczenia, na to, kto ją zbuduje i jak szybko.

---

Bądź na Bieżąco z AI

Najnowsze wiadomości, analizy i przełomy w dziedzinie AI — wszystko w jednym miejscu.

Czytaj więcej wiadomości AI →