OpenAI poinformowało w czwartek, że zakazało dwóch tajnych operacji wywierania wpływu – jednej pochodzącej z Rosji i jednej z Iranu – które wykorzystywały ChatGPT do kierowania wyrafinowanymi podmiotami „fałszywego frontu” mającymi na celu pranie propagandy geopolitycznej w prawdziwych mediach. Firma stwierdziła, że kampania wywodząca się z Rosji to najdalej idąca operacja wywierania wpływu, jaką przerwała, odkąd dwa i pół roku temu zaczęła publikować raporty o zagrożeniach.
Ujawnienie, opublikowane na stronie internetowej OpenAI, jest najnowszym wpisem w szeregu raportów na temat tego, w jaki sposób podmioty powiązane z państwem nadużywają komercyjnych modeli sztucznej inteligencji. Podkreśla również, jak zauważyliśmy w naszym najnowszym podsumowaniu [najnowszych wiadomości o sztucznej inteligencji] (https://aibuzzwire.news), schemat zaobserwowany przez OpenAI w 30 tajnych operacjach, które ujawnił od początku 2024 r.: kampanie, które skutecznie umieszczają swoje treści w prawdziwych publikacjach, docierają do znacznie większej liczby odbiorców niż te opierające się na fałszywych kontach w mediach społecznościowych.
Najpierw kategoria 5: Operacja „Mroczny Clark”
Rosyjska operacja, którą OpenAI nazwało „Dark Clark”, skupiała się na samozwańczej organizacji badawczej w Ameryce Łacińskiej zwanej Centrum Badań Społecznych (SRC). Według OpenAI operatorzy kontrolowali zespół doradców za pośrednictwem sfabrykowanej osoby o imieniu „Mia Clark”, podczas gdy lokalni pracownicy w Ameryce Łacińskiej przeprowadzali wywiady i pisali artykuły badawcze, nie wiedząc, że pracują dla rosyjskiej grupy.
Korzystając ze skali przełamania — miary potencjalnego zasięgu operacji wywierania wpływu opracowanej w Brookings od 1 do 6 — OpenAI przyznało Dark Clarkowi kategorię 5, co stanowi najwyższą ocenę, jaką przyznała jakiejkolwiek operacji od początku sporządzania raportów. Kampania wywodząca się z Iranu osiągnęła kategorię 4.
OpenAI twierdzi, że duża część wykorzystania ChatGPT przez operatorów trafia do wewnętrznych raportów kierowanych do nieznanego osoby obsługującej, twierdzi OpenAI, opisując kampanie mające na celu oczernianie Ukrainy, utrudnianie rekrutacji do ukraińskich sił zbrojnych i ingerencję w politykę wewnętrzną w Argentynie i Boliwii. Operatorzy porozumiewali się głównie w języku rosyjskim i w celu uzyskania dostępu do usługi korzystali z VPN, co blokowało ruch z Rosji.
Badacze OpenAI potwierdzili kilka rzekomych kampanii tej operacji za pośrednictwem otwartych źródeł. Jeden dotyczył fałszywych e-maili, rzekomo pochodzących od regionalnej dyrekcji edukacji w Limie, instruujących szkoły w stolicy Peru, aby zorganizowały wydarzenia ku czci Stepana Bandery – kontrowersyjnej postaci ukraińskiego nacjonalisty – z okazji narodowego dnia różnorodności. O zaistniałych kontrowersjach pisały peruwiańskie i polskie media, a w relacji o tym zacytowano polskiego posła do Parlamentu Europejskiego. W Ekwadorze operatorzy używali fałszywego adresu e-mail, aby nakłonić szkoły do złożenia przysięgi wierności prezydentowi Danielowi Noboa i byłemu szefowi Blackwater Erikowi Prince'owi; wyczyn ten spotkał się z zainteresowaniem mediów i publicznym sprzeciwem ze strony ministra edukacji Ekwadoru.
W ramach operacji rozpowszechniły się także sfabrykowane nagrania audio, w tym jedno przypisywane pracownikowi boliwijskiego państwowego przedsiębiorstwa wodociągowego EPSAS, twierdzącemu, że rząd odetnie dostawy do La Paz, oraz drugie przypisywane konsulowi Ukrainy w Ekwadorze. Weryfikatorzy faktów w obu krajach obalili te twierdzenia. Badacze zajmujący się oprogramowaniem open source powiązali wcześniej podobną działalność z „Politologią” lub „La Companią”, podmiotami określanymi jako następcy operacji zmarłego Jewgienija Prigożyna, a raporty operatorów twierdziły, że kampanie wymierzone w prezydenta Argentyny Javiera Milei odpowiadają tym publicznym raportom.
Siedmiu fałszywych dziennikarzy: operacja „fałszywe bylines”
Irańska operacja przyjęła inną drogę do ekosystemu medialnego. Jej operatorzy, którzy stworzyli ChatGPT w języku perskim, wykorzystali ten model do udoskonalenia długich anglojęzycznych artykułów na temat konfliktu amerykańsko-irańskiego, a następnie przekazali je redaktorom małych i średnich sklepów internetowych, wykorzystując siedem sfabrykowanych osobowości dziennikarzy: Ervina B. Hoskinsa, Noaha Lamingtona, Sophii Gonzalez, Michaela Harrisona, Ericki Feusier, Jenny Williams i Alice Johnson.
OpenAI zidentyfikowało prawie 100 artykułów opublikowanych lub dystrybuowanych pod tymi tytułami w kilkunastu punktach sprzedaży na całym świecie, z których większość skupiała się na sprawach międzynarodowych i Bliskim Wschodzie. Operacja wygenerowała także wiele komentarzy w mediach społecznościowych, choć OpenAI stwierdziła, że wzbudziły one niewielkie rzeczywiste zaangażowanie – i zauważyła, że operatorzy stosowali w swoich wewnętrznych raportach zwodnicze obliczenia, aby zawyżać swój widoczny wpływ w mediach społecznościowych. Firma stwierdziła, że działanie to wyglądało na kojarzące się z działalnością podmiotu komercyjnego prowadzącego kampanię wywierania wpływu na pracowników i że udostępniła informacje odpowiednim władzom.
Stare rzemiosło, nowe narzędzia
Tym, co najbardziej uderza badaczy, napisał OpenAI, jest to, jak bardzo obie operacje przypominały kampanie wywierania wpływu z epoki przed sztuczną inteligencją. Fałszywi dziennikarze są bardzo podobni do „Alice Donovan” – fikcyjnej reporterki współpracującej z rosyjskim wywiadem wojskowym, której artykuły pojawiały się w zachodnich mediach w 2016 i 2017 r. Mimowolny lokalny personel SRC powtarza „PeaceData”, fałszywy serwis informacyjny, który w 2020 r. dokooptował prawdziwych dziennikarzy.
Sztuczna inteligencja nie wymyśliła tych technik — dzięki niej stały się tańsze, szybsze i płynniejsze. Operatorzy korzystali z modeli, aby dostosowywać podróbki do lokalnego słownictwa i stylu instytucji, tłumaczyć skrypty na regionalne odmiany języka hiszpańskiego i tworzyć dopracowane wiadomości e-mail dla redaktorów. OpenAI argumentowało jednak, że tajny, bezpośredni charakter fałszywych operacji również naraża je na ujawnienie: zarówno Alice Donovan, jak i PeaceData zostały zamknięte po upublicznieniu ich nazw.
Uważne czytanie dowodów
OpenAI ostrożnie podważało swoje własne ustalenia. Operatorzy rutynowo przypisywali sobie wydarzenia, z którymi nie mieli nic wspólnego, a w otwartych źródłach nie można było znaleźć niektórych podróbek, które według nich zakładano. To, co OpenAI mogło zweryfikować – poprzez weryfikację faktów, oficjalne zaprzeczenia i opublikowane artykuły zgodne z opisami operatorów – sugeruje rzeczywistą penetrację mediów i dyskursu politycznego w co najmniej czterech krajach.
Dla branży sztucznej inteligencji raport przypomina, że najskuteczniejsze zastosowania modeli w dezinformacji to często te najmniej widoczne: sporządzanie raportów wewnętrznych, udoskonalanie prezentacji, dopracowywanie tłumaczeń. Podmiotami najlepiej przygotowanymi do wykrywania takich kampanii, jak pokazały wcześniejsze przypadki OpenAI, są często platformy, których własne narzędzia są wykorzystywane do ich prowadzenia.
---
Wyprzedź sztuczną inteligencjęOtrzymuj najnowsze wiadomości, analizy i przełomowe informacje dotyczące sztucznej inteligencji — wszystko w jednym miejscu.
Przeczytaj więcej aktualności o sztucznej inteligencji →
