OpenAI sa i tisdags att de har förbjudit ett kluster av ChatGPT-konton med ursprung i Ryssland som användes för att stödja en hemlig onlineinflytandekampanj – en operation byggd kring en fiktiv forskningsorganisation som heter International Burke Institute som tillverkade kopplingar till framstående akademiker och plagierade den stora majoriteten av dess publicerade material.
Företaget avslöjade borttagningen i ett blogginlägg med titeln "Att störa en ny hemlig inflytandekampanj från Ryssland", och resultaten rapporterades av CNBC och Quartz. Enligt OpenAI användes kontona för att marknadsföra International Burke Institute, eller IBI, en självbeskriven "expertgemenskap" vars webbplats listade en gatuadress i Israel och registrerades i februari 2025. For more context on this story, see our ongoing AI news.
En tankesmedja som aldrig funnits
Operationens mittpunkt var uppkomsten av institutionell legitimitet. IBI-webbplatsen hävdade felaktigt att den innehåller framstående akademiker inklusive Francis Fukuyama och Noam Chomsky, sa OpenAI. I en granskning av 36 artiklar länkade till experter listade på webbplatsen och publicerade mellan september 2025 och maj 2026, fann företaget att 34 hade kopierats från någon annanstans på internet – ibland med felaktig attribution.
Ett centralt inslag i kampanjen var ett "suveränitetsindex" som rankade länder på ett mått utformat för att ge Ryssland positivt samtidigt som de kritiserade västerländska nationer. Rapporter som riktade sig mot Frankrike, Tyskland, USA och EU hamnade i polemik, sa OpenAI. Ett inlägg om USA löd: "Trump anlände [till Peking] med suveränitetsindex nummer 1 i världen och lämnade efter att ha tagit ett antal steg som [...] kan kvalificeras som en frivillig minskning av autonomin."
Hur operationen fungerade
OpenAI sa att de bedömde kontona som mycket sannolikt härrörande från Ryssland trots kamouflaget. För att undvika OpenAI:s förbud mot modellåtkomst från Ryssland dirigerade operatörerna sina anslutningar via VPN, sa företaget. De arbetade på ryska och använde ChatGPT för att utarbeta innehåll på sociala medier som dök upp på Substack, Telegram, X, Facebook och LinkedIn – vilket ledde till att modellen skulle ta bort alla funktioner i texten som kan förråda dess AI-genererade ursprung. Det mesta av det genererade innehållet skrevs på engelska, ett val som tyder på att operationen var riktad mot västerländsk publik snarare än inhemska ryska läsare.
Verksamheten sträckte sig bortom engelskspråkigt innehåll. En operatör skapade tyskspråkiga inlägg för en Telegram-kanal som heter "Lahme Ente" - tyska för "lame anka" - som kritiserade Ukraina, EU och den tyska regeringen samtidigt som de förespråkade närmare förbindelser med Ryssland. En andra operatör skapade logotyper för ungefär ett dussin Telegram-kanaler fokuserade på Tyskland, USA, Frankrike, Polen och Turkiet, och begärde ryskspråkiga sammanfattningar av deras verksamhet.
Begränsad räckvidd, men en alarmerande plan
Med konventionella engagemangsmått blev kampanjen inte en framgång. OpenAI erkände att de flesta av inläggen på sociala medier fick låga visningsantal, de officiella IBI-kontona hade få prenumeranter och de tillhörande Telegram-kanalerna lockade mellan 10 000 och 20 000 följare var.
Men företaget hävdade att betydelsen av operationen inte ligger i dess räckvidd utan i den apparat som dess operatörer konstruerade. Inlägg producerade med ChatGPT styrde läsarna mot vad som verkade vara ett legitimt forskningsorgan - komplett med en fysisk adress, en expertlista och en stadig ström av publikationer. Den strukturen, sa OpenAI, visar hur AI-verktyg kan hjälpa dåliga aktörer att skapa institutionell trovärdighet, dölja den sanna källan till föredragna berättelser och lägga grunden för verksamhet som kan växa betydligt större.
Den bredare kampen om AI-genererat inflytande
Borttagningen är den senaste i en serie av störningar som OpenAI har tillkännagivit som involverar statligt anslutna hotaktörer, och det kommer mitt i växande bevis på att påverkansverksamheter flyttar sina ambitioner från sociala medier till AI-system själva. Tidigare i augusti dokumenterade en separat utredning av Responsible Statecraft en falsk tankesmedja som publicerade mer än 100 rapporter under en vecka i ett uppenbart försök att manipulera svaren AI-chatbotar ger om Israel och Palestina.
Tillsammans skisserar fallen en framväxande spelbok: snarare än att bara skicka meddelanden till människor bygger operatörer falska institutioner vars resultat kan citeras, skrapas och absorberas av AI-modellerna som i allt högre grad förmedlar hur människor möter information.
För AI-företag är implikationen obekväm. Samma egenskaper som gör stora språkmodeller användbara – flytande flerspråkig formulering, låg kostnad, outtröttlig produktion – gör dem till en attraktiv infrastruktur för tvättad propaganda. OpenAI:s svar i det här fallet var en nedtagning på innehållsnivå: förbjudna konton, namngivna taktiker och en offentlig redovisning av hur operationen fungerade.
Huruvida sådana avslöjanden kan hålla jämna steg med de operationer de beskriver förblir en av AI-erans centrala säkerhetsfrågor. Som tisdagens rapport klargör har kostnaden för att bygga en övertygande falsk institution sjunkit dramatiskt - och de enheter som är bäst positionerade för att upptäcka dem är just de företag vars modeller används för att bygga dem.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
