W czwartek OpenAI oświadczyło, że przerwało powiązaną z Iranem operację wywierania wpływu, która wykorzystała ChatGPT do umieszczenia prawie 100 artykułów wygenerowanych przez sztuczną inteligencję pod fałszywymi nazwiskami zachodnich dziennikarzy w prawdziwych publikacjach na całym świecie, w tym w kilku amerykańskich placówkach.
Kampanię, którą OpenAI nazywa operacją „fałszywego frontu”, szczegółowo opisano w raporcie opublikowanym przez firmę 8 października oraz w kolejnych raportach The Washington Post, CNN, NPR i Radia Wolna Europa/Radio Liberty. Jest to jeden z najlepiej udokumentowanych przypadków zagranicznej sieci wpływów wykorzystującej komercyjnego chatbota głównego nurtu nie tylko do tworzenia propagandy, ale także do zarządzania pełnym procesem redakcyjnym polegającym na umieszczaniu jej w legalnych mediach. Więcej kontekstu na ten temat znajdziesz w naszych najnowsze osiągnięcia AI.
Dziennikarz, który nigdy nie istniał
W centrum operacji znajdował się Ervin B. Hoskins, przedstawiany jako amerykański niezależny dziennikarz. Według RFE/RL artykuły przypisywane Hoskinsowi przedstawiały Stany Zjednoczone jako agresora w trwającym konflikcie z Iranem, przedstawiały Izrael jako niewiarygodnego sojusznika i przedstawiały Iran jako wyzywającego słabszego. Hoskins, potwierdziło OpenAI, nigdy nie istniało.
Był jedną z siedmiu sfabrykowanych dziennikarzy, z których wszyscy rzekomo pochodzili z krajów zachodnich, a których operatorzy używali do rozpowszechniania i umieszczania artykułów. „Zidentyfikowaliśmy prawie 100 artykułów opublikowanych lub rozpowszechnianych pod tytułem operacji w kilkunastu sklepach internetowych na całym świecie” – podaje OpenAI w swoim raporcie, opisując cele jako małe i średnie sklepy, które zazwyczaj skupiają się na sprawach międzynarodowych, geopolityce i Bliskim Wschodzie.
„Washington Post”, który jako pierwszy poinformował o penetracji amerykańskich mediów przez kampanię, odkrył, że mały tygodnik z Florydy opublikował jeden z fałszywych komentarzy. Inne oznaczone miejsca docelowe pojawiły się w takich serwisach, jak Middle East Monitor, który poinformował CNN, że usunął przedmiotowe artykuły i sprawdza proces ich przesyłania.
Jak korzystano z ChatGPT
Zgodnie z ujawnieniem OpenAI operatorzy korzystali z ChatGPT w języku farsi i angielskim na całym etapie umieszczania publikacji: redagując wersje robocze długich artykułów, dopasowując propozycje do wymagań redakcyjnych poszczególnych publikacji, przygotowując e-maile informacyjne do redaktorów i generując partie komentarzy w mediach społecznościowych, które miały wyglądać jak reakcje niezależnych czytelników.
Jeden z przykładów wyśledzonych przez badaczy: artykuł zatytułowany „Jared Kushner i prywatyzacja amerykańskiej strategii wobec Iranu” opublikowany 12 czerwca przez PeaceVoice, usługę dystrybucji artykułów prowadzoną przez Instytut Pokoju w Oregonie. Według RFE/RL, w kolejnych dniach ten sam artykuł został ponownie opublikowany przez CounterPunch i LA Progressive.
OpenAI twierdzi, że aktywność wydawnicza wzrosła po rozpoczęciu konfliktu między Stanami Zjednoczonymi a Iranem na początku tego roku. Firma oświadczyła, że zablokowała konta ChatGPT biorące udział w kampanii i oceniła możliwość umieszczania treści w zewnętrznych redakcjach jako kategorię 4 w sześciopunktowej skali operacji wywierania wpływu, według raportów CNN.
Uznanie autorstwa pozostaje otwarte
Warto zauważyć, że OpenAI stwierdziło, że nie może zidentyfikować konkretnego podmiotu stojącego za kampanią ani potwierdzić wskazówek irańskiego rządu. Jak podaje CNN, jego ocena wskazywała na komercyjną, płatną do wynajęcia operację wywierania wpływu, a nie bezpośrednio zarządzaną przez państwo – strukturę, która utrudnia przypisanie informacji, a zakłócenia są mniej jednoznaczne. Blokowanie kont zakłóciło to, co zauważyło OpenAI; nie ustaliło, że szersza sieć została rozebrana.
Jessica Brandt, która w latach 2023–2025 kierowała biurem dyrektora Centrum Wpływów Złośliwych Zagranicznych w ramach wywiadu narodowego, powiedziała CNN, że operacja pokazała, jak sztuczna inteligencja pomaga zagranicznym aktorom ukrywać swoje zaangażowanie i kierować wiadomości autentycznymi kanałami.
Kampania irańska nie była jedyną aktywnością oznaczoną przez OpenAI. Jak donosi The Record z Recorded Future News, raport firmy dotyczył również zakłóceń w powiązanych z Rosją operacjach wywierania wpływu wykorzystujących ChatGPT. Ponadto RFE/RL zauważyło, że Anthropic już wcześniej udaremnił irańskie wysiłki zmierzające do niewłaściwego wykorzystania modeli Claude do propagandy i inwigilacji dysydentów.
Publikacja nie jest już dowodem autorstwa
Dla redakcji sprawa sprowadza się do niewygodnej prawdy: podpis, spójny rytm, wiarygodna biografia i dopracowany ton nie oznaczają już, że istnieje autor. Redaktorzy, którzy polegają na zgłoszeniach niezależnych strzelców – zwłaszcza redakcje i komentarze, które z założenia publikują opinie z zewnątrz – stoją obecnie przed problemem weryfikacji, którego nie rozwiążą filtry spamu ani heurystyki jakości pisania.
Praktyczne odpowiedzi wskazane w raporcie obejmują silniejsze uwierzytelnianie autorów, udokumentowane historie sugestii, analizę podpisów pojawiających się w wielu punktach sprzedaży w krótkich oknach oraz narzędzia dotyczące pochodzenia, które wiążą zgłoszenia z możliwą do zweryfikowania tożsamością.
Ekonomia też ma znaczenie. Operację, która kiedyś wymagała zespołu autorów, może teraz przeprowadzić mały zespół kierujący chatbotem, a model zajmuje się wszystkim, od tłumaczenia po dopasowanie tonu do stylu publikacji docelowej. Raport OpenAI sugeruje, że bariera w prowadzeniu wieloosobowej kampanii umieszczającej oferty w wielu punktach sprzedaży spadła do poziomu, w którym wypożyczalnia może to zrobić jako usługę komercyjną.
Żaden z serwisów wymienionych w raporcie nie był głównymi organizacjami informacyjnymi głównego nurtu, ale kilka z nich przyciągało prawdziwych odbiorców. O to właśnie chodzi, twierdzą badacze: umieszczenie wiadomości w jakiejkolwiek wiarygodnej publikacji powoduje, że wiadomość trafia do szerszego obiegu poprzez dystrybucję, agregację i wyszukiwanie — co dokładnie udało się osiągnąć kampanii, zanim została zakłócona.
---
Bądź na Bieżąco z AINajnowsze wiadomości, analizy i przełomy w dziedzinie AI — wszystko w jednym miejscu.
Czytaj więcej wiadomości AI →
