OpenAI v úterý uvedla, že zakázala shluk účtů ChatGPT pocházejících z Ruska, které byly použity k podpoře skryté online kampaně vlivu – operace vybudované kolem fiktivní výzkumné organizace zvané International Burke Institute, která si vymyslela spojení s prominentními akademiky a plagiovala převážnou většinu svých publikovaných materiálů.
Společnost zveřejnila zastavení šíření v blogovém příspěvku s názvem „Narušení nové skryté kampaně vlivu z Ruska“ a zjištění oznámily CNBC a Quartz. Podle OpenAI byly účty použity k propagaci International Burke Institute neboli IBI, což je „odborná komunita“, jejíž webové stránky uváděly adresu v Izraeli a byly zaregistrovány v únoru 2025. For more context on this story, see our ongoing breaking AI news.
Think Tank, který nikdy nebyl
Středobodem operace bylo zdání institucionální legitimity. Webová stránka IBI nepravdivě tvrdila, že obsahuje prominentní akademiky včetně Francise Fukuyamy a Noama Chomského, uvedla OpenAI. Při přezkumu 36 článků spojených s odborníky uvedenými na webu a zveřejněnými mezi zářím 2025 a květnem 2026 společnost zjistila, že 34 bylo zkopírováno odjinud na internetu – někdy s nesprávným uvedením zdroje.
Ústředním rysem kampaně byl „index suverenity“, který seřadil země podle metriky navržené tak, aby příznivě vrhala Rusko a zároveň kritizovala západní národy. Zprávy zacílené na Francii, Německo, Spojené státy a Evropskou unii se dostaly do polemiky, uvedla OpenAI. Jeden záznam o Spojených státech zněl: "Trump přijel [do Pekingu] s indexem suverenity č. 1 na světě a odešel poté, co podnikl řadu kroků, které [...] lze kvalifikovat jako dobrovolné omezení autonomie."
Jak operace fungovala
OpenAI uvedla, že i přes maskování vyhodnotila účty jako velmi pravděpodobně pocházející z Ruska. Aby se vyhnuli zákazu OpenAI ohledně modelového přístupu z Ruska, operátoři směrovali svá připojení přes VPN, uvedla společnost. Při práci v ruštině použili ChatGPT k navrhování obsahu sociálních médií, který se objevil na Substack, Telegram, X, Facebook a LinkedIn – nařídili modelu, aby odstranil všechny prvky textu, které by mohly prozradit jeho původ generovaný AI. Většina generovaného obsahu byla napsána v angličtině, což naznačuje, že operace byla zaměřena spíše na západní publikum než na domácí ruské čtenáře.
Operace přesahovala obsah v angličtině. Jeden operátor generoval příspěvky v německém jazyce pro kanál Telegram s názvem „Lahme Ente“ – německy „chromá kachna“ – který kritizoval Ukrajinu, Evropskou unii a německou vládu a zároveň obhajoval užší vztahy s Ruskem. Druhý operátor vytvořil loga pro zhruba tucet telegramových kanálů zaměřených na Německo, Spojené státy americké, Francii, Polsko a Turecko a vyžádal si ruskojazyčná shrnutí jejich činnosti.
Omezený dosah, ale alarmující plán
Podle konvenčních metrik zapojení nebyla kampaň úspěšná. OpenAI uznala, že většina příspěvků na sociálních sítích zaznamenala nízký počet zhlédnutí, oficiální účty IBI měly málo předplatitelů a související kanály Telegram přilákaly každý mezi 10 000 a 20 000 sledujícími.
Společnost však tvrdila, že význam operace nespočívá v jejím dosahu, ale v aparátu, který její operátoři zkonstruovali. Příspěvky vytvořené pomocí ChatGPT nasměrovaly čtenáře k tomu, co se zdálo být legitimním výzkumným orgánem – s fyzickou adresou, seznamem odborníků a stálým proudem publikací. Tato struktura, řekl OpenAI, ukazuje, jak mohou nástroje umělé inteligence pomoci špatným aktérům vytvořit institucionální důvěryhodnost, zakrýt skutečný zdroj preferovaných narativů a položit základy pro operace, které by se mohly podstatně rozrůst.
Širší bitva o vliv generovaný umělou inteligencí
Zastavení šíření je posledním ze série narušení, která OpenAI oznámila a zahrnuje aktéry hrozeb přidružených ke státu, a přichází uprostřed rostoucích důkazů, že vlivové operace přesouvají jejich ambice od zdrojů sociálních médií k samotným systémům umělé inteligence. Začátkem srpna samostatné vyšetřování Responsible Statecraft zdokumentovalo falešný think tank, který za týden zveřejnil více než 100 zpráv ve zjevné snaze zmanipulovat odpovědi, které AI chatboti dávají o Izraeli a Palestině.
Případy společně načrtávají vznikající příručku: namísto pouhého předávání zpráv lidem budují operátoři falešné instituce, jejichž výstupy mohou být citovány, seškrabávány a absorbovány modely AI, které stále více zprostředkovávají, jak se lidé setkávají s informacemi.
Pro společnosti AI je to nepohodlné. Stejné vlastnosti, díky kterým jsou velké jazykové modely užitečné – plynulé vícejazyčné navrhování, nízké náklady, neúnavný výstup – z nich činí atraktivní infrastrukturu pro pranou propagandu. Reakcí OpenAI v tomto případě bylo odstranění na úrovni obsahu: zakázané účty, pojmenované taktiky a veřejné vyúčtování toho, jak operace fungovala.
Zda takovéto zveřejnění dokáže držet krok s operacemi, které popisují, zůstává jednou z hlavních bezpečnostních otázek éry AI. Jak objasňuje úterní zpráva, náklady na vybudování přesvědčivé falešné instituce dramaticky klesly – a subjekty, které je mají nejlépe odhalit, jsou právě ty společnosti, jejichž modely se používají k jejich budování.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
