OpenAI заявив у вівторок, що заборонив кластер облікових записів ChatGPT, що походять із Росії, які використовувалися для підтримки таємної кампанії впливу в Інтернеті — операції, побудованої навколо фіктивної дослідницької організації під назвою Міжнародний інститут Берка, яка сфабрикувала зв’язки з видатними вченими та плагіатом переважної більшості своїх опублікованих матеріалів.

Компанія оприлюднила видалення в дописі в блозі під назвою «Зрив нової прихованої кампанії впливу з Росії», а результати повідомили CNBC і Quartz. За даними OpenAI, облікові записи використовувалися для просування Міжнародного інституту Берка, або IBI, самоназваної «експертної спільноти», на веб-сайті якої була вказана адреса в Ізраїлі та була зареєстрована в лютому 2025 року. For more context on this story, see our ongoing artificial intelligence updates.

Мозковий центр, якого ніколи не було

Центральним елементом операції було поява інституційної легітимності. Веб-сайт IBI неправдиво стверджував, що містить видатних вчених, зокрема Френсіса Фукуяму та Ноама Хомського, повідомляє OpenAI. Під час огляду 36 статей, пов’язаних із експертами, перелічених на сайті та опублікованих у період з вересня 2025 року по травень 2026 року, компанія виявила, що 34 були скопійовані з інших місць в Інтернеті — іноді з неправильним посиланням.

Головною особливістю кампанії був «індекс суверенітету», який класифікував країни за показником, розробленим для того, щоб прихильно ставитися до Росії, одночасно критикуючи західні країни. Звіти, націлені на Францію, Німеччину, Сполучені Штати та Європейський Союз, переросли в полеміку, повідомляє OpenAI. Один із записів про Сполучені Штати звучав так: «Трамп прибув [до Пекіна] з індексом суверенітету №1 у світі та залишив його після низки кроків, які [...] можна кваліфікувати як добровільне скорочення автономії».

Як працювала операція

OpenAI заявив, що оцінив облікові записи як дуже ймовірні, що походять з Росії, незважаючи на камуфляж. Щоб уникнути заборони OpenAI на доступ до моделі з Росії, оператори маршрутизували свої з’єднання через VPN, повідомила компанія. Працюючи російською мовою, вони використовували ChatGPT для розробки контенту соціальних медіа, який з’являвся в Substack, Telegram, X, Facebook і LinkedIn, керуючи моделлю видаляти будь-які особливості тексту, які могли б видати його походження, створене ШІ. Більшість створеного контенту було написано англійською мовою, що свідчить про те, що операція була націлена на західну аудиторію, а не на вітчизняних російських читачів.

Операція вийшла за межі англомовного контенту. Один оператор генерував німецькомовні пости для каналу Telegram під назвою «Lahme Ente» (німецька «кульгава качка»), у яких критикували Україну, Європейський Союз та уряд Німеччини, водночас виступаючи за тісніші зв’язки з Росією. Другий оператор створив логотипи для приблизно десятка каналів Telegram, орієнтованих на Німеччину, США, Францію, Польщу та Туреччину, і запросив російськомовні зведення про їхню діяльність.

Обмежений охоплення, але тривожний план

За звичайними показниками залучення, кампанія не мала успіху. OpenAI визнав, що більшість публікацій у соціальних мережах мали низьку кількість переглядів, офіційні облікові записи IBI мали мало підписників, а пов’язані з ними канали Telegram залучали від 10 000 до 20 000 підписників кожен.

Але компанія стверджувала, що значення операції полягає не в її охопленні, а в обладнанні, яке створили оператори. Дописи, створені за допомогою ChatGPT, спрямовували читачів до того, що здавалося легітимним дослідницьким органом — разом із фізичною адресою, списком експертів і постійним потоком публікацій. За словами OpenAI, ця структура демонструє, як інструменти штучного інтелекту можуть допомогти зловмисникам створити інституційну довіру, приховати справжнє джерело бажаних наративів і закласти основу для операцій, які можуть значно розширитися.

Широка боротьба за вплив, створений ШІ

Це останнє у серії збоїв, про які OpenAI оголосив, пов’язаних із пов’язаними з державою загрозливими суб’єктами, і воно відбувається на тлі зростаючої кількості доказів того, що операції впливу переміщують свої амбіції з каналів соціальних мереж на самі системи ШІ. Раніше в серпні окреме розслідування Responsible Statecraft задокументувало фальшивий аналітичний центр, який публікував понад 100 звітів на тиждень, намагаючись маніпулювати відповідями чат-ботів ШІ щодо Ізраїлю та Палестини.

Разом ці кейси окреслюють нову гру: замість того, щоб просто надсилати повідомлення людям, оператори будують фальшиві інституції, результати яких можуть бути цитовані, скопійовані та поглинені моделями штучного інтелекту, які все більше визначають те, як люди стикаються з інформацією.

Для компаній штучного інтелекту це незручно. Ті самі властивості, які роблять великі мовні моделі корисними — вільне багатомовне написання, низька вартість, невтомний вихід — роблять їх привабливою інфраструктурою для відмиваної пропаганди. Відповіддю OpenAI у цьому випадку було видалення на рівні контенту: заборонені облікові записи, названі тактики та публічний звіт про те, як працювала операція.

Чи може таке розкриття відповідати описаним операціям, залишається одним із головних питань безпеки епохи ШІ. Як стало ясно зі звіту за вівторок, вартість створення переконливої ​​фальшивої установи різко впала — і найкраще їх виявити можуть ті самі компанії, моделі яких використовуються для їх створення.

---

Stay Ahead of AI

Get the latest AI news, analysis, and breakthroughs — all in one place.

Read more AI news →