Фальшивый аналитический центр, созданный по поручению правительства Израиля, опубликовал более 100 отточенных исследовательских отчетов всего за неделю, что аналитики называют преднамеренной кампанией по манипулированию ответами, которые чат-боты с искусственным интеллектом дают пользователям об Израиле и Палестине, согласно исследованию, опубликованному в понедельник изданием Responsible Statecraft.
Организация, получившая название Ганноверский институт государственной политики, позиционирует себя как новый исследовательский орган, специализирующийся на Израиле и Палестине. Но в его отчетах нет подписи, а в заявлении об отказе от ответственности в нижней части веб-сайта признается, что он был создан от имени израильского государственного рекламного агентства фирмой Piro, Inc., соучредителем которой является Дэниел Розенберг, кинопродюсер, автор фильма Спайка Ли «Человек изнутри». Эту историю подхватили такие СМИ, как Arab News и The Cradle, и она является последним признаком того, что операции по оказанию влияния смещаются от каналов социальных сетей к моделям искусственного интеллекта. Чтобы узнать больше о том, как манипулирование развивается в эпоху искусственного интеллекта, следите за нашими последними новостями об искусственном интеллекте. Подробнее об этой истории — в нашем тенденции ИИ.
Отчеты, разработанные для того, чтобы студенты LLM оценивали надежность
Что делает Ганноверский институт необычным, так это то, насколько точно его результаты адаптированы к тому, как большие языковые модели оценивают источники. Его «отчеты о данных» сопровождаются сносками, оглавлениями и размеренным, нейтральным тоном — форматированием, которое помогает документам обращаться к чат-ботам, таким как Клод или Близнецы, сообщает Responsible Statecraft.
Многие заголовки сформулированы как точные вопросы, которые пользователь может ввести в чат-бот: «Что вызвало перемещение палестинцев в 1948 году?» «Какие гуманитарные организации задокументировали военные преступления Израиля?» «Какова текущая ситуация в секторе Газа?» и «Является ли ЦАХАЛ самой моральной армией в мире?» — последний из которых цитирует опрос 2022 года, показавший, что 47% израильских евреев поверили этому описанию.
На собственном веб-сайте Пиро об этом методе ничего не говорится. Компания заявляет, что является автором «контента, разработанного для того, как LLM оценивают достоверность», услуги, которую она позиционирует как «Оптимизация историй с помощью искусственного интеллекта». У исследователей есть более резкое название этой практики: «отравление LLM».
«Идеальная имитация» заслуживающего доверия учреждения
Элис Ли, аналитик NewsGuard, компании по отслеживанию дезинформации, рассказала Responsible Statecraft, что отчеты сайта, судя по всему, предназначены для охвата американской аудитории, интересующейся конфликтом, будь то через поисковые системы или помощников искусственного интеллекта.
«Мастера права предпочитают конкретную статистику и данные, а также убедительные цитаты и источники, которые есть во всех этих статьях», — сказал Ли. «Это идеальная имитация типичного заслуживающего доверия американского аналитического центра, вплоть до общего названия, макета сайта и красно-бело-синей цветовой схемы».
Институт также опубликовал, как он утверждает, оригинальные выводы — например, исследование, в котором утверждается, что 19 из 36 наиболее просматриваемых видеороликов, объясняющих ситуацию в секторе Газа, содержат оспариваемые утверждения, причем большинство из этих оспариваемых утверждений соответствуют палестинской версии. Другие отчеты опровергают установленную документацию, в том числе тот, который ставит под сомнение утверждение ЮНИСЕФ о том, что 90% водной и институциональной инфраструктуры в секторе Газа были повреждены или уничтожены.
Примечательно, что результаты не всегда соответствуют линии израильского правительства. В одном из докладов описывается теория, согласно которой иностранное финансирование университетов объясняет антисемитские инциденты как «слабые и полные исключений» — хотя премьер-министр Биньямин Нетаньяху продвигал эту теорию, сообщая Breitbart, что иностранные актеры потратили «миллиарды» на американские кампусы. Многие отчеты завершаются тем, что обсуждаемую тему связывают с ростом антисемитизма, часто ссылаясь на одни и те же исследования.
Следуйте за деньгами: 900 000 долларов через французский пиар-конгломерат
По данным Responsible Statecraft, Piro, Inc. получила 900 000 долларов от израильского правительства за свою работу по субподряду через Havas Media, французский конгломерат по связям с общественностью — договоренность, соответствующая тому, как другим израильским подрядчикам платили за работу по оказанию влияния за рубежом.
Ганноверский институт начал публиковаться 6 августа. Примерно за десять дней с тех пор он выпустил более 100 отчетов – темп, которого не выдерживает ни один настоящий политический институт сопоставимого размера.
Почему манипуляции с чат-ботами отличаются
Этот случай подчеркивает структурную слабость того, как ИИ-помощники собирают ответы: они рассматривают часто цитируемые, насыщенные статистикой документы как заслуживающие доверия, независимо от того, кто их подготовил и почему. Традиционная дезинформация была нацелена на читателей-людей на социальных платформах, где эмоциональный удар имел наибольшее значение. Вместо этого так называемое отравление LLM нацелено на уровни поиска и ранжирования, которые решают, какие источники цитирует модель, — и тогда один убедительный документ может затем отразиться на миллионах ответов.
Для разработчиков чат-ботов Ганноверский институт — это стресс-тест проверки источников. По оценкам NewsGuard, мимикрия достаточно близка к тому, чтобы обмануть автоматизированные сигналы достоверности. Для читателей урок проще: уверенный, четко сформулированный ответ, который чат-бот дает вам о спорном конфликте, может быть связан с организацией, которая была создана, промаркирована и профинансирована для выдачи именно такого ответа.
---
Будьте в курсе ИИПоследние новости, аналитика и прорывы в сфере ИИ — всё в одном месте.
Читать больше новостей об ИИ →
