Фальшивый американский аналитический центр, впервые разоблаченный на прошлой неделе, теперь получил количественную оценку Guardian: 124 отчета и 560 000 слов за девять дней, созданные на коммерческой платформе, которая обещает оптимизировать контент, чтобы чат-боты с искусственным интеллектом могли его цитировать - при этом след финансирования правительства Израиля задокументирован в документах Министерства юстиции США. Это самый яркий публичный пример того, как связанные с государством субъекты нацелены на сам уровень ответов ИИ: не читателей, а моделей, которые все чаще говорят за них. Именно такую ​​историю мы отслеживаем освещение отрасли искусственного интеллекта по мере того, как манипулирование чат-ботами становится промышленным. (Мы рассказали о первоначальном открытии сайта здесь.)

Мозговой центр, которого не существует

Сайт публикуется под названием Ганноверского института государственной политики. По словам Джейсона Уилсона из Guardian, институт, судя по всему, не существует как юридическое лицо ни в одной юрисдикции, не имеет физического адреса, не имеет ни поименованного персонала, ни подписи ни в одном из своих отчетов. Его собственные условия использования регулируются законами «штата, в котором учрежден Институт» — штата, название которого в документе отказывается называть.

Масштабы производства были промышленными. С 6 по 14 августа Ганноверский институт опубликовал 124 доклада общим объемом более 560 000 слов, в среднем около 4500 слов каждый. Только за 12 и 13 августа было подготовлено 73 доклада объемом почти 354 000 слов. С момента появления первых сообщений в СМИ о сайте ничего не публиковалось.

Разработан для уровня ответов чат-бота

Что отличает эту операцию как новизну, так это ее направленность. Все заголовки из 124, кроме одного, начинаются с вопроса, похожего на тот, который пользователь может ввести в чат-бот: «Является ли антисионизм антисемитизмом?», «Изгнал ли Израиль палестинцев со своей земли?», «Осуществляет ли Израиль геноцид в секторе Газа?» В отчетах позиция Израиля по вопросу пыток палестинских заключенных, военных преступлений и голода в секторе Газа представлена ​​как нейтральное исследование, отформатированное для машинного поиска.

Механика задокументирована в официальных документах. Нью-йоркская медиа-производственная компания Piro Inc зарегистрировала сайт в Министерстве юстиции США в этом месяце в соответствии с Законом о регистрации иностранных агентов (Fara), законом 1938 года, требующим раскрытия информации о работе иностранных правительств в качестве материалов, которые она распространяет для правительства Израиля. The Guardian сообщает, что эти усилия финансируются за счет десятков миллионов долларов от израильского правительства, направляемых через третьи стороны, включая европейскую рекламную группу Havas Media. Контракт между Havas и другой американской фирмой, работающей над кампанией, обязывает ее «развертывать веб-сайты и контент для предоставления результатов формирования GPT в разговорах GPT».

После того, как 14 августа впервые стало известно о существовании сайта, институт незаметно добавил страницу финансирования, содержащую существенную поправку: «В более ранней версии этой страницы говорилось, что Институт работал без внешнего финансирования, и это было правдой на момент ее написания». The Guardian связалась с Piro Inc, Havas Media и израильским государственным рекламным агентством LaPam для получения комментариев.

Почему чат-боты — новое поле битвы

Эта стратегия имеет название в маркетинговой индустрии — генеративная оптимизация или GEO — и является преемником поисковой оптимизации. Когда чат-бот отвечает на вопрос, он использует свой обучающий корпус и источники поиска. Объемный контент, оформленный в формате вопросов и оформленный как авторитетное исследование, с большей вероятностью будет опубликован, процитирован или включен в ответ модели. Фальшивый аналитический центр — это почти идеальный артефакт ГЕО: институциональный авторитет без института.

Выбор времени отражает отчаяние и изощренность. The Guardian отмечает, что кампания проводится на фоне падения позиций Израиля в общественном мнении США, а также на фоне того, как израильские официальные лица информируют средства массовой информации о том, что деньги, потраченные на публичную дипломатию «Хасбара» за рубежом, были потрачены впустую.

Ганноверский институт — не единичный случай. В тот же день, когда Guardian опубликовала свое расследование, OpenAI объявила, что сорвала новую тайную кампанию влияния на Россию с использованием ИИ — последнее из серии атак, которые компания приписывает субъектам, связанным с государством. Две отдельные операции, два континента, одно общее понимание: влиять на модели теперь дешевле и надежнее, чем напрямую влиять на людей.

Пробел в управлении

Для регуляторов этот случай обнажает дыру в существующих системах. Раскрытие информации Фарой зафиксировало операцию на бумаге, но только после того, как контент был опубликован и потенциально проглочен. Положения Закона ЕС о прозрачности искусственного интеллекта и добровольные рамки, регулирующие происхождение обучающих данных, не были разработаны для мира, где самый дешевый путь к убеждениям населения лежит через чат-боты.

Для лабораторий ИИ сразу же встает оперативный вопрос: как системы поиска и конвейеры обучения отличают исследования от контент-ферм, носящих исследовательскую одежду? Объем, форматирование и уверенное цитирование — сигналы авторитета — это именно то, что массово производит Ганноверский институт. Пока модели не улучшат происхождение, полмиллиона слов уже существуют, и никакое раскрытие, поданное постфактум, их не вспомнит.

---

Будьте впереди ИИ

Получайте последние новости, анализ и открытия в области искусственного интеллекта — все в одном месте.

Подробнее новости AI →