OpenAI заявив у четвер, що перервав операцію впливу, пов’язану з Іраном, яка використовувала ChatGPT для розміщення майже 100 статей, створених штучним інтелектом, під фальшивими підписами західних журналістів у справжніх виданнях по всьому світу, включаючи кілька американських видань.

Кампанія, яку OpenAI називає операцією «помилкового фронту», детально описана у звіті, опублікованому 8 жовтня, і в подальших звітах The Washington Post, CNN, NPR і Radio Free Europe/Radio Liberty. Це один із найбільш чітко задокументованих випадків на сьогоднішній день, коли іноземна мережа впливу використовує мейнстрімовий комерційний чат-бот не лише для розробки пропаганди, але й для керування повним редакційним процесом розміщення її в законних ЗМІ. For more context on this story, see our ongoing more AI stories.

Журналіст, якого ніколи не існувало

У центрі операції була особа на ім'я Ервін Б. Хоскінс, представлений як американський журналіст-фрілансер. За даними Радіо Свобода, статті, які приписують Хоскінсу, розглядають Сполучені Штати як агресора в триваючому конфлікті з Іраном, зображують Ізраїль як ненадійного союзника, а Іран – як зухвалого аутсайдера. Госкінс, як підтвердив OpenAI, ніколи не існував.

Він був одним із семи сфабрикованих журналістів, усі нібито із західних країн, яких оператори використовували для реклами та розміщення статей. «Ми виявили майже 100 статей, опублікованих або синдикованих під авторськими назвами операції в приблизно дюжині онлайн-видань по всьому світу», — йдеться у звіті OpenAI, описуючи цілі як малі та середні засоби масової інформації, як правило, зосереджені на міжнародних справах, геополітиці та Близькому Сході.

The Washington Post, яка першою повідомила про проникнення кампанії в ЗМІ США, виявила, що невеликий тижневик у Флориді опублікував одну з підроблених публікацій. Інші помічені місця розміщення з’явилися в пресі, зокрема в Middle East Monitor, який повідомив CNN, що видалив статті, про які йдеться, і переглядає процес подання.

Як використовувався ChatGPT

Згідно з розкриттям OpenAI, оператори використовували ChatGPT як фарсі, так і англійською мовами для всього процесу розміщення: редагування чернеток довгих статей, адаптація презентацій до редакційних вимог окремих видань, підготовка електронних листів до редакторів і генерація пакетів коментарів у соціальних мережах, розроблених так, щоб виглядати як незалежні реакції читачів.

Один із прикладів, який виявили дослідники: стаття під назвою «Джаред Кушнер і приватизація американської стратегії щодо Ірану», опублікована 12 червня PeaceVoice, службою розповсюдження публікацій під керівництвом Орегонського інституту миру. Наступними днями цю ж статтю перепублікували CounterPunch і LA Progressive, повідомляє Радіо Свобода.

OpenAI заявив, що активність публікацій зросла після початку конфлікту між Сполученими Штатами та Іраном на початку цього року. Згідно з повідомленням CNN, компанія заявила, що заборонила облікові записи ChatGPT, задіяні в кампанії, і оцінила здатність операції розміщувати контент у зовнішніх редакційних виданнях як категорію 4 за шестибальною шкалою операцій впливу.

Атрибуція залишається відкритою

Примітно, що OpenAI заявив, що не може ідентифікувати конкретного учасника кампанії або підтвердити вказівки уряду Ірану. Його оцінка, як повідомляє CNN, вказувала на комерційну операцію впливу за наймом, а не на державну операцію — структуру, яка ускладнює визначення авторства та менш переконливі зриви. Блокування облікових записів порушило те, що міг спостерігати OpenAI; він не встановив, що більш широка мережа була демонтована.

Джессіка Брандт, яка з 2023 по 2025 рік очолювала офіс директора Центру зовнішнього шкідливого впливу Національної розвідки, розповіла CNN, що операція показала, як ШІ допомагає іноземним акторам приховувати свою причетність і направляти повідомлення через справжні канали.

Іранська кампанія була не єдиною діяльністю, яку OpenAI позначила. Як повідомляє The Record from Recorded Future News, у звіті компанії також йдеться про зрив пов’язаних з Росією операцій впливу, які використовували ChatGPT. Окремо Радіо Свобода зазначило, що Anthropic раніше перешкоджала спробам Ірану зловживати своїми моделями Клода для пропаганди та стеження за дисидентами.

Публікація більше не є доказом авторства

Для редакцій справа закінчується незручною правдою: рядок авторства, послідовний ритм, правдоподібна біографія та відшліфована подача більше не означають, що співавтор існує. Редактори, які покладаються на позаштатні публікації, зокрема на відділи коментарів і коментарів, які за своєю думкою публікують сторонні перспективи, тепер стикаються з проблемою перевірки, яку не можуть вирішити спам-фільтри та евристика якості написання.

Практичні відповіді, зазначені у звіті, включають посилену автентифікацію співавторів, задокументовані історії презентацій, ретельний аналіз підписів авторів, які з’являються в кількох торгових точках у коротких вікнах, а також інструменти визначення походження, які пов’язують подання з особами, які можна перевірити.

Економіка також має значення. Операція, яка колись вимагала штату авторів, тепер може виконуватися невеликою командою, яка керує чат-ботом, а модель займається всім: від перекладу до тонального узгодження стилю цільової публікації. У звіті OpenAI стверджується, що бар’єр для проведення кампанії з розміщення кількох осіб і кількох торгових точок знизився до такого рівня, що орендований магазин може робити це як комерційну послугу.

Жодне із названих у звіті засобів масової інформації не було основними новинними організаціями, але кілька мали реальну аудиторію. Саме в цьому суть, кажуть дослідники: розміщення в будь-якій надійній публікації переміщує повідомлення в ширше поширення через синдикацію, агрегацію та пошук — саме цього досягла кампанія до того, як її було зруйновано.

---

Stay Ahead of AI

Get the latest AI news, analysis, and breakthroughs — all in one place.

Read more AI news →