OpenAI заявила в четверг, что сорвала связанную с Ираном операцию по оказанию влияния, которая использовала ChatGPT для размещения почти 100 статей, созданных ИИ, под фальшивыми подписями западных журналистов в реальных изданиях по всему миру, включая несколько американских изданий.

Кампания, которую OpenAI называет операцией «ложного фронта», подробно описана в отчете компании, опубликованном 8 октября, а также в последующих репортажах The Washington Post, CNN, NPR и Радио Свободная Европа/Радио Свобода. На сегодняшний день это один из наиболее ярких задокументированных случаев, когда иностранная сеть влияния использовала основного коммерческого чат-бота не только для разработки пропаганды, но и для управления полным редакционным рабочим процессом по ее размещению в законных СМИ. Подробнее об этой истории — в нашем новости об ИИ.

Журналист, которого никогда не существовало

В центре операции оказался человек по имени Эрвин Б. Хоскинс, представленный американским журналистом-фрилансером. По данным Радио Свобода, статьи, приписываемые Хоскинсу, изображают Соединенные Штаты агрессором в продолжающемся конфликте с Ираном, изображают Израиль ненадежным союзником и изображают Иран дерзким аутсайдером. Хоскинса, как подтвердил OpenAI, никогда не существовало.

Он был одним из семи сфабрикованных журналистов, якобы выходцев из западных стран, которых операторы использовали для распространения и размещения статей. «Мы выявили почти 100 статей, опубликованных или синдицированных под подписями операции примерно в дюжине онлайн-изданий по всему миру», — говорится в отчете OpenAI, описывая цели как малые и средние издания, обычно специализирующиеся на международных отношениях, геополитике и Ближнем Востоке.

Газета Washington Post, которая первой сообщила о проникновении кампании в американские СМИ, обнаружила, что небольшой еженедельник Флориды опубликовал одну из фейковых статей. Другие помеченные публикации появились в средствах массовой информации, включая Middle East Monitor, который сообщил CNN, что удалил рассматриваемые статьи и пересматривает процесс их подачи.

Как использовался ChatGPT

Согласно раскрытию OpenAI, операторы использовали ChatGPT как на фарси, так и на английском языке на протяжении всего процесса размещения: редактировали длинные черновики статей, адаптировали презентации к редакционным требованиям отдельных публикаций, готовили информационные письма редакторам и генерировали пакеты комментариев в социальных сетях, которые выглядели как независимые реакции читателей.

Один из примеров, приведенный исследователями: статья под названием «Джаред Кушнер и приватизация американской стратегии в отношении Ирана», опубликованная 12 июня службой распространения статей PeaceVoice, которой управляет Орегонский институт мира. В последующие дни ту же статью переиздали CounterPunch и LA Progressive, сообщает Радио Свобода.

В OpenAI заявили, что активность публикаций возросла после того, как в начале этого года начался конфликт между Соединенными Штатами и Ираном. Компания заявила, что заблокировала учетные записи ChatGPT, участвующие в кампании, и оценила способность операции размещать контент в сторонних редакционных изданиях как категорию 4 по своей шестибалльной шкале влияния, согласно сообщению CNN.

Атрибуция остается открытой

Примечательно, что OpenAI заявила, что не может определить конкретного участника кампании или подтвердить направление иранского правительства. Его оценка, как сообщает CNN, указывает на коммерческую, наемную операцию влияния, а не на прямую государственную операцию - структуру, которая усложняет установление виновных и делает нарушения менее убедительными. Запрет учетных записей нарушил то, что мог наблюдать OpenAI; он не установил, что более широкая сеть была демонтирована.

Джессика Брандт, которая с 2023 по 2025 год возглавляла Центр злонамеренного влияния за рубежом Национальной разведки, рассказала CNN, что операция показала, как ИИ помогает иностранным субъектам скрывать свое участие и направлять сообщения по достоверным каналам.

Иранская кампания была не единственной активностью, отмеченной OpenAI. В отчете компании также говорится о срыве операций по оказанию влияния, связанных с Россией, которые использовали ChatGPT, как сообщает The Record from Recorded Future News. Отдельно Радио Свобода отметило, что Anthropic ранее препятствовала усилиям Ирана по злоупотреблению моделями Клода для пропаганды и слежки за диссидентами.

Публикация больше не является доказательством авторства

Для редакций дело сводится к неприятной истине: авторство, связный ритм, правдоподобная биография и отполированная презентация больше не означают, что автор существует. Редакторы, которые полагаются на внештатные материалы — особенно отделы статей и комментариев, которые по замыслу публикуют мнения со стороны — теперь сталкиваются с проблемой проверки, которую не могут решить спам-фильтры и эвристика качества письма.

Практические меры, отмеченные при освещении отчета, включают более строгую аутентификацию участников, документированную историю презентаций, проверку подписей, которые появляются в нескольких изданиях в коротких окнах, а также инструменты для проверки происхождения, которые связывают материалы с проверяемыми личностями.

Экономика также имеет значение. Операцию, которая когда-то требовала штата авторов, теперь может выполнять небольшая команда, руководящая чат-ботом, при этом модель выполняет все: от перевода до соответствия тона фирменному стилю целевой публикации. В отчете OpenAI говорится, что барьер для проведения многопользовательской кампании по размещению в нескольких торговых точках упал до такой степени, что магазин по найму может выполнять ее как коммерческую услугу.

Ни одно из средств массовой информации, упомянутых в репортаже, не было крупным ведущим новостным агентством, но некоторые из них имели реальную аудиторию. В этом-то и суть, говорят исследователи: размещение в любом заслуживающем доверия издании способствует более широкому распространению сообщения посредством распространения, агрегирования и поиска — именно этого достигла кампания до того, как она была сорвана.

---

Будьте в курсе ИИ

Последние новости, аналитика и прорывы в сфере ИИ — всё в одном месте.

Читать больше новостей об ИИ →