OpenAI ve čtvrtek uvedlo, že narušilo vlivovou operaci spojenou s Íránem, která používala ChatGPT k umístění téměř 100 článků vytvořených umělou inteligencí pod falešné titulky západních novinářů ve skutečných publikacích po celém světě, včetně několika amerických obchodů.
Kampaň, kterou OpenAI nazývá operací „falešné fronty“, je podrobně popsána ve zprávě, kterou společnost zveřejnila 8. října, a v následných zprávách The Washington Post, CNN, NPR a Radio Free Europe/Radio Liberty. Je to jeden z dosud nejjasněji zdokumentovaných případů, kdy síť zahraničního vlivu používala mainstreamového komerčního chatbota nejen k navrhování propagandy, ale také k řízení celého redakčního workflow spočívajícího v jejím umístění do legitimních médií. For more context on this story, see our ongoing AI news.
Novinář, který nikdy neexistoval
V centru operace byla persona jménem Ervin B. Hoskins, prezentovaná jako americký novinář na volné noze. Podle RFE/RL články připisované Hoskinsovi staví Spojené státy jako agresora v pokračujícím konfliktu s Íránem, Izrael vykreslují jako nespolehlivého spojence a staví Írán za vzdorovitého smolaře. Hoskins, potvrdil OpenAI, nikdy neexistoval.
Byl jedním ze sedmi vymyšlených novinářských osobností, všichni předstírali, že pocházejí ze západních zemí, které operátoři používali k nabízení a umístění článků. "Identifikovali jsme téměř 100 článků publikovaných nebo syndikovaných pod vedlejšími liniemi operace na zhruba tuctu online prodejen po celém světě," uvedl OpenAI ve své zprávě a popsal cíle jako malé až střední pobočky obecně zaměřené na mezinárodní záležitosti, geopolitiku a Blízký východ.
The Washington Post, který jako první informoval o průniku kampaně do amerických médií, zjistil, že malý floridský týdeník zveřejnil jeden z falešných op-ed. Další označená umístění se objevila v prodejnách včetně Middle East Monitor, který CNN sdělil, že dotyčné články odstranil a přezkoumává proces odesílání.
Jak byl ChatGPT použit
Podle zveřejnění OpenAI operátoři používali ChatGPT jak v perštině, tak v angličtině v celém procesu umisťování: upravovali návrhy dlouhých článků, přizpůsobovali nabídky redakčním požadavkům jednotlivých publikací, připravovali informační e-maily pro redaktory a generovali dávky komentářů na sociálních sítích navržených tak, aby vypadaly jako reakce nezávislých čtenářů.
Jeden příklad vysledovaný výzkumníky: op-ed s názvem „Jared Kushner a privatizace americké íránské strategie“, publikovaný 12. června PeaceVoice, op-ed distribuční službou provozovanou Oregonským mírovým institutem. V následujících dnech byl stejný článek znovu publikován CounterPunch a LA Progressive, podle RFE/RL.
OpenAI uvedla, že publikační aktivita vzrostla poté, co začátkem tohoto roku začal konflikt mezi Spojenými státy a Íránem. Společnost uvedla, že zakázala účty ChatGPT zapojené do kampaně a podle zpráv CNN ohodnotila schopnost operace umístit obsah do externích redakčních míst jako kategorii 4 na šestibodové stupnici vlivu.
Atribuce zůstává otevřená
OpenAI zejména uvedla, že nemůže identifikovat konkrétního aktéra za kampaní ani potvrdit směr od íránské vlády. Jeho hodnocení, jak uvádí CNN, směřovalo spíše ke komerčním operacím vlivu na pronájem než k přímé státní – struktuře, která ztěžuje připisování a narušení je méně průkazné. Zákaz účtů narušil to, co OpenAI mohla pozorovat; neprokázalo, že by byla širší síť demontována.
Jessica Brandtová, která v letech 2023 až 2025 vedla Kancelář ředitele Centra pro zahraniční zhoubný vliv na úřad National Intelligence, řekla CNN, že operace ukázala, jak AI pomáhá zahraničním aktérům skrývat jejich zapojení a směrovat zprávy autentickými kanály.
Íránská kampaň nebyla jedinou aktivitou, kterou OpenAI označila. Zpráva společnosti se také týkala narušení vlivových operací spojených s Ruskem, které využívaly ChatGPT, jak uvedl The Record from Recorded Future News. RFE/RL dále poznamenala, že Anthropic již dříve narušil íránské snahy zneužít své Claudeovy modely k propagandě a sledování disidentů.
Publikace již není důkazem o autorství
Pro redakce se případ dostává k nepohodlné pravdě: vedlejší řádek, souvislý rytmus, věrohodný životopis a uhlazená výška tónu již nenaznačují, že přispěvatel existuje. Redaktoři, kteří se spoléhají na příspěvky na volné noze – zejména op-ed a komentáře, které záměrně publikují vnější pohledy – nyní čelí problému s ověřováním, který filtry nevyžádané pošty a heuristika kvality psaní nemohou vyřešit.
Mezi praktické reakce označené v pokrytí zprávy patří silnější autentizace přispěvatelů, zdokumentovaná historie výběrů, kontrola vedlejších řádků, které se objevují na více prodejnách v krátkých oknech, a nástroje původu, které spojují příspěvky s ověřitelnou identitou.
Rozhodující je také ekonomika. Operaci, která dříve vyžadovala tým autorů, může nyní řídit malý tým řídící chatbota, přičemž model zvládne vše od překladu až po přizpůsobení tónu domácímu stylu cílové publikace. Zpráva OpenAI naznačuje, že překážka pro provozování kampaně zaměřené na více osob a na více prodejen klesla do bodu, kdy to může pronajímatel dělat jako komerční službu.
Žádný z kanálů jmenovaných ve zprávách nebyl hlavní zpravodajskou organizací hlavního proudu, ale několik mělo skutečné publikum. Právě o to jde, říkají vědci: umístění v jakékoli důvěryhodné publikaci posouvá zprávu do širšího oběhu prostřednictvím syndikace, agregace a vyhledávání – což je přesně to, čeho kampaň dosáhla, než byla narušena.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
