OpenAI заявила в четверг, что запретила две тайные операции влияния — одну из России и одну из Ирана — которые использовали ChatGPT для запуска сложных структур «ложного фронта», предназначенных для отмывания геополитической пропаганды в реальные средства массовой информации. Компания заявила, что кампания российского происхождения является самой далеко идущей операцией влияния, которую она сорвала с тех пор, как она начала публиковать отчеты об угрозах два с половиной года назад.
Раскрытие информации, опубликованное на веб-сайте OpenAI, является последней записью в череде отчетов о том, как государственные субъекты злоупотребляют коммерческими моделями ИИ. Это также подчеркивает, как мы отмечали в нашем последнем обзоре [последних новостей ИИ] (https://aibuzzwire.news), закономерность, которую OpenAI наблюдал в 30 тайных операциях, раскрытых с начала 2024 года: кампании, которым удалось разместить свой контент в подлинных публикациях, охватывают гораздо большую аудиторию, чем те, которые полагаются на фейковые аккаунты в социальных сетях.
Первая категория 5: Операция «Тёмный Кларк»
Российская операция, которую OpenAI прозвала «Темный Кларк», была сосредоточена на самопровозглашенной исследовательской организации в Латинской Америке под названием «Центр социальных исследований» (SRC). По данным OpenAI, операторы контролировали аналитический центр через вымышленную личность по имени «Миа Кларк», в то время как местные сотрудники в Латинской Америке проводили интервью и составляли исследовательские документы, не зная, что работают на российскую группу.
Используя шкалу прорыва — меру потенциального охвата операции влияния от 1 до 6, разработанную в Брукингсе, — OpenAI присвоила Dark Clark категорию 5, самый высокий рейтинг, который она присвоила любой операции с момента начала ее отчетности. Кампания иранского происхождения достигла категории 4.
Большая часть использования ChatGPT операторами ушла во внутренние отчеты неизвестному куратору, сообщила OpenAI, описывая кампании по очернению Украины, подрыву набора кадров в вооруженные силы Украины и вмешательству во внутреннюю политику в Аргентине и Боливии. Операторы в основном подсказывали на русском языке и использовали VPN для доступа к сервису, блокирующему трафик из России.
Исследователи OpenAI подтвердили несколько заявленных кампаний операции через открытые источники. Одно из них касалось фальшивых электронных писем, якобы отправленных из регионального управления образования Лимы, в которых школам перуанской столицы предписывалось проводить мероприятия в честь Степана Бандеры — скандального украинского националистического деятеля — в национальный день многообразия. Перуанские и польские СМИ освещали возникшую полемику, и в ее освещении приводилась цитата польского члена Европейского парламента. В Эквадоре операторы использовали поддельный адрес электронной почты, чтобы обманом заставить школы принести клятву верности президенту Дэниелу Нобоа и бывшему главе Blackwater Эрику Принсу; этот трюк получил освещение в средствах массовой информации и получил публичное опровержение со стороны министра образования Эквадора.
В ходе операции также были распространены сфабрикованные аудиозаписи, в том числе одна, приписываемая работнику государственной компании водоснабжения Боливии EPSAS, в которой утверждалось, что правительство прекратит подачу воды в Ла-Пас, а другая приписывалась консулу Украины в Эквадоре. Фактчекеры в обеих странах опровергли эти утверждения. Исследователи открытых источников ранее связывали подобную деятельность с «Политологией» или «La Compania», организациями, описанными как преемники деятельности покойного Евгения Пригожина, а в собственных отчетах операторов утверждалось, что кампании, нацеленные на президента Аргентины Хавьера Милея, соответствуют этим публичным сообщениям.
Семь фейковых журналистов: Операция «Фальшивые подписи»
Иранская операция пошла другим путем в медиа-экосистему. Его операторы, запустившие ChatGPT на персидском языке, использовали эту модель для доработки длинных англоязычных статей о конфликте между США и Ираном, а затем передавали их редакторам небольших и средних онлайн-изданий, используя семь вымышленных журналистских персонажей: Эрвина Б. Хоскинса, Ноа Лэмингтона, Софии Гонсалес, Майкла Харрисона, Эрики Фойзье, Дженни Уильямс и Элис Джонсон.
OpenAI выявила около 100 статей, опубликованных или распространенных под этими авторами примерно в дюжине изданий по всему миру, большинство из которых посвящены международным делам и Ближнему Востоку. Операция также вызвала массу комментариев в социальных сетях, хотя OpenAI заявила, что они не привлекли реального внимания, и отметила, что операторы использовали обманчивые расчеты в своих внутренних отчетах, чтобы преувеличить свое очевидное влияние в социальных сетях. Компания заявила, что эта деятельность, по всей видимости, соответствует тому, что коммерческий субъект проводит кампанию влияния по найму, и что она поделилась информацией с соответствующими органами.
Старое ремесло, новые инструменты
Что больше всего поражает исследователей, пишет OpenAI, так это то, насколько близко обе операции напоминали кампании влияния в эпоху до появления ИИ. Фальшивые журналистские персонажи имеют семейное сходство с «Алисой Донован», вымышленным репортером, представляющим российскую военную разведку, чьи статьи появились в западных СМИ в 2016 и 2017 годах.
ИИ не изобрел эти методы — он сделал их дешевле, быстрее и эффективнее. Операторы использовали модели, чтобы адаптировать фейки к местной лексике и институциональному стилю, переводить сценарии на региональные испанские варианты и готовить отточенные электронные письма для редакторов. Но OpenAI утверждает, что скрытый, личный характер операций под ложным прикрытием также делает их уязвимыми для разоблачения: и Alice Donovan, и PeaceData закрылись после того, как их имя было публично названо.
Внимательно читайте доказательства
OpenAI была осторожна и предупредила о своих выводах. Операторы регулярно брали на себя ответственность за события, к которым они не имели никакого отношения, а некоторые фейки, о которых они сообщали, не могли быть найдены в открытых источниках. То, что OpenAI удалось проверить — посредством проверки фактов, официальных опровержений и опубликованных статей, соответствующих описаниям операторов, — предполагает подлинное проникновение в средства массовой информации и политический дискурс как минимум в четырех странах.
Для индустрии искусственного интеллекта отчет является напоминанием о том, что наиболее эффективное использование моделей в дезинформации зачастую наименее заметно: составление внутренних отчетов, доработка презентаций, доработка переводов. Субъектами, которые лучше всего могут обнаружить эти кампании, как показали предыдущие случаи OpenAI, часто являются платформы, собственные инструменты которых используются для их запуска.
---
Будьте впереди ИИПолучайте последние новости, анализ и открытия в области искусственного интеллекта — все в одном месте.
Подробнее новости AI →
