OpenAI poinformowało we wtorek, że zablokowało grupę kont ChatGPT pochodzących z Rosji, które były wykorzystywane do wspierania tajnej kampanii wywierania wpływu w Internecie – operacji zbudowanej wokół fikcyjnej organizacji badawczej o nazwie International Burke Institute, która sfabrykowała powiązania z wybitnymi naukowcami i splagiatowała zdecydowaną większość opublikowanych materiałów.
Firma ujawniła usunięcie w poście na blogu zatytułowanym „Przerywanie nowej tajnej kampanii wywierania wpływu z Rosji”, a ustalenia zostały zgłoszone przez CNBC i Quartz. Według OpenAI konta służyły do promowania Międzynarodowego Instytutu Burke’a, czyli IBI, samozwańczej „społeczności ekspertów”, której witryna internetowa zawierała adres w Izraelu i została zarejestrowana w lutym 2025 r. Więcej kontekstu na ten temat znajdziesz w naszych wiadomości AI.
Zespół doradców, jakiego nigdy nie było
Centralnym punktem operacji było pojawienie się legitymizacji instytucjonalnej. OpenAI twierdzi, że witryna IBI fałszywie twierdziła, że przedstawiają wybitnych naukowców, w tym Francisa Fukuyamę i Noama Chomsky'ego. Przegląd 36 artykułów zawierających linki do ekspertów wymienionych w witrynie i opublikowanych między wrześniem 2025 r. a majem 2026 r. wykazał, że 34 artykuły zostały skopiowane z innego miejsca w Internecie – czasami z nieprawidłowym przypisaniem.
Głównym elementem kampanii był „wskaźnik suwerenności”, który szeregował kraje według miernika mającego na celu przychylną ocenę Rosji podczas krytykowania narodów zachodnich. Według OpenAI doniesienia skierowane przeciwko Francji, Niemcom, Stanom Zjednoczonym i Unii Europejskiej przerodziły się w polemikę. Jeden z wpisów na temat Stanów Zjednoczonych brzmiał: „Trump przybył [do Pekinu] ze wskaźnikiem suwerenności nr 1 na świecie i wyjechał po wykonaniu szeregu kroków, które [...] można zakwalifikować jako dobrowolne ograniczenie autonomii”.
Jak przebiegła operacja
OpenAI stwierdziło, że pomimo kamuflażu oceniło konta jako bardzo prawdopodobne, że pochodzą z Rosji. Aby ominąć zakaz OpenAI dotyczący dostępu modeli z Rosji, operatorzy przekierowywali swoje połączenia przez VPN – twierdzi firma. Pracując w języku rosyjskim, wykorzystali ChatGPT do opracowywania treści w mediach społecznościowych, które pojawiały się na Substack, Telegram, X, Facebooku i LinkedIn — polecając modelowi usunięcie wszelkich elementów tekstu, które mogłyby zdradzać jego pochodzenie generowane przez sztuczną inteligencję. Większość wygenerowanych treści została napisana w języku angielskim, co sugeruje, że operacja była skierowana do odbiorców zachodnich, a nie do krajowych czytelników rosyjskich.
Operacja wykraczała poza treści anglojęzyczne. Jeden z operatorów wygenerował posty w języku niemieckim dla kanału Telegramu o nazwie „Lahme Ente” – po niemiecku „kulawa kaczka” – w których krytykował Ukrainę, Unię Europejską i niemiecki rząd, opowiadając się jednocześnie za zacieśnieniem więzi z Rosją. Drugi operator stworzył logo dla kilkunastu kanałów Telegramu skupiających się na Niemczech, Stanach Zjednoczonych, Francji, Polsce i Turcji i zażądał rosyjskojęzycznych podsumowań swojej działalności.
Ograniczony zasięg, ale alarmujący plan
Według konwencjonalnych wskaźników zaangażowania kampania nie zakończyła się sukcesem. OpenAI przyznało, że większość postów w mediach społecznościowych uzyskała niską liczbę wyświetleń, oficjalne konta IBI miały niewielu subskrybentów, a powiązane kanały Telegramu przyciągały od 10 000 do 20 000 obserwujących każdy.
Firma argumentowała jednak, że znaczenie tej operacji nie leży w jej zasięgu, ale w aparacie skonstruowanym przez jej operatorów. Posty utworzone za pomocą ChatGPT kierowały czytelników do czegoś, co wydawało się legalną instytucją badawczą – wraz z adresem fizycznym, listą ekspertów i stałym strumieniem publikacji. Ta struktura, jak twierdzi OpenAI, pokazuje, w jaki sposób narzędzia sztucznej inteligencji mogą pomóc złym podmiotom w budowaniu wiarygodności instytucjonalnej, zaciemniać prawdziwe źródło preferowanych narracji i położyć podwaliny pod operacje, które mogą znacznie się rozrosnąć.
Szersza walka o wpływ generowany przez sztuczną inteligencję
Usunięcie to jest najnowszym z serii zakłóceń ogłoszonych przez OpenAI z udziałem powiązanych z państwem aktorów zagrażających i następuje w obliczu rosnącej liczby dowodów na to, że operacje wywierania wpływu przenoszą swoje ambicje z kanałów mediów społecznościowych w stronę samych systemów sztucznej inteligencji. Na początku sierpnia odrębne dochodzenie przeprowadzone przez Responsible Statecraft udokumentowało, że fałszywy zespół doradców publikuje ponad 100 raportów tygodniowo, najwyraźniej próbując zmanipulować odpowiedzi udzielane przez chatboty AI na temat Izraela i Palestyny.
Razem te przypadki zarysowują wyłaniający się schemat: zamiast jedynie przekazywać ludziom komunikaty, operatorzy tworzą fałszywe instytucje, których wyniki można cytować, pomijać i wchłaniać przez modele sztucznej inteligencji, które w coraz większym stopniu pośredniczą w sposobie, w jaki ludzie spotykają się z informacjami.
Dla firm zajmujących się sztuczną inteligencją konsekwencje są niewygodne. Te same właściwości, które czynią duże modele językowe użytecznymi – płynne wielojęzyczne redagowanie, niski koszt, niestrudzone wyniki – czynią je atrakcyjną infrastrukturą dla wypranej propagandy. Odpowiedzią OpenAI w tym przypadku było usunięcie na poziomie zawartości: zablokowane konta, nazwane taktyki i publiczne sprawozdanie z przebiegu operacji.
To, czy takie ujawnienia mogą nadążać za opisywanymi operacjami, pozostaje jedną z głównych kwestii bezpieczeństwa w epoce sztucznej inteligencji. Jak jasno wynika z wtorkowego raportu, koszt zbudowania przekonującej fałszywej instytucji drastycznie spadł, a podmiotami najlepiej przygotowanymi do ich wykrycia są te same firmy, których modele wykorzystuje się do ich tworzenia.
---
Bądź na Bieżąco z AINajnowsze wiadomości, analizy i przełomy w dziedzinie AI — wszystko w jednym miejscu.
Czytaj więcej wiadomości AI →
