Фальшивий аналітичний центр, створений від імені ізраїльського уряду, опублікував понад 100 досконалих звітів про дослідження трохи більше ніж за тиждень, що аналітики описують як навмисну кампанію з маніпулювання відповідями, які чат-боти штучного інтелекту дають користувачам щодо Ізраїлю та Палестини, згідно з дослідженням, опублікованим у понеділок Responsible Statecraft.
Організація під назвою Ганноверський інститут публічної політики представляє себе як новий дослідницький орган, що зосереджується на Ізраїлі/Палестині. Але в його звітах немає підписів автора, а в застереженні внизу веб-сайту вказується, що він був створений від імені Ізраїльського урядового рекламного агентства компанією Piro, Inc., співзасновником якої є Даніель Розенберг, кінопродюсер, на якого приписується фільм Спайка Лі «Inside Man». Цю історію підхопили видання Arab News і The Cradle, і це остання ознака того, що операції впливу переміщуються з каналів соціальних мереж на моделі ШІ. Щоб дізнатися більше про розвиток маніпуляцій в епоху штучного інтелекту, слідкуйте за нашими останніми новинами про штучний інтелект. For more context on this story, see our ongoing AI trends.
Звіти, розроблені для того, як магістри права оцінюють довіру
Що робить Ганноверський інститут незвичайним, так це те, наскільки точно його результати здаються адаптованими до того, як великі мовні моделі оцінюють джерела. Його «звіти з даними» містять виноски, зміст і розмірений, нейтральний тон — таке форматування допомагає документам приваблювати чат-ботів, таких як Claude або Gemini, повідомляє Responsible Statecraft.
Багато заголовків сформульовані як точні питання, які користувач може ввести в чат-бот: «Що спричинило переміщення палестинців у 1948 році?» «Які гуманітарні організації задокументували військові злочини Ізраїлю?» «Яка зараз ситуація в секторі Газа?» та «Чи Армія оборони Ізраїлю є найморальнішою армією у світі?» — останнє з яких посилається на опитування 2022 року, згідно з яким 47% ізраїльських євреїв повірили цьому опису.
Власний веб-сайт Піро прямо говорить про метод. Компанія каже, що створює «контент, розроблений для того, як LLM оцінюють довіру», послугу, яку вона продає як «AI Story Optimization». Дослідники мають більш грубу назву для практики: «отруєння LLM».
«Ідеальна мімікрія» надійної установи
Еліс Лі, аналітик NewsGuard, компанії з відстеження дезінформації, розповіла Responsible Statecraft, що звіти сайту, здається, створені для охоплення американської аудиторії, яка цікавиться конфліктом, чи то через пошукові системи, чи то через помічників ШІ.
«Місцеві права віддають перевагу конкретним статистичним даним і даним, а також сильним цитатам і джерелам, які є в усіх цих статтях», — сказав Лі. «Це ідеальна мімікрія типового надійного американського мозкового центру, аж до загальної назви, макета сайту та червоно-біло-синьої колірної схеми».
Інститут також опублікував те, що, як він стверджує, є оригінальними висновками — наприклад, дослідження, яке стверджує, що 19 із 36 найбільш популярних пояснювальних відео Ізраїлю та Гази містять суперечливі твердження, причому більшість із цих спірних тверджень узгоджується з палестинським наративом. Інші звіти суперечать встановленій документації, в тому числі та, яка ставить під сумнів твердження ЮНІСЕФ про те, що 90% водної та інституційної інфраструктури в Газі було пошкоджено або знищено.
Примітно, що результати не завжди відповідають лінії ізраїльського уряду. В одному звіті описується теорія про те, що іноземне фінансування університетів пояснює антисемітські інциденти як «слабкі та повні винятків» — навіть незважаючи на те, що прем’єр-міністр Біньямін Нетаньяху просував цю теорію, розповідаючи Breitbart, що іноземні актори витратили «мільярди» на американські кампуси. Багато доповідей закінчуються пов’язуванням розглянутої теми зі зростанням антисемітизму, часто посилаючись на ті самі дослідження.
Стежте за грошима: $900 000 через французький PR-конгломерат
За даними Responsible Statecraft, Piro, Inc. отримала 900 000 доларів США від ізраїльського уряду за свою роботу, передану субпідрядником через Havas Media, французький конгломерат зі зв’язків з громадськістю — угода узгоджується з тим, як іншим ізраїльським підрядникам платили за роботу за кордоном.
Ганноверський інститут почав публікацію 6 серпня. Приблизно за десять днів з того часу він випустив понад 100 звітів, темпи, яких не витримує жодна справжня політика порівнянного розміру.
Чому маніпуляції чат-ботами відрізняються
Цей випадок підкреслює структурну слабкість у тому, як помічники штучного інтелекту збирають відповіді: вони розглядають добре цитовані документи, які містять велику кількість статистики, як надійні незалежно від того, хто їх створив і чому. Традиційна дезінформація була націлена на читачів-людей на соціальних платформах, де емоційний удар мав найбільше значення. Так зване отруєння LLM натомість націлене на рівні пошуку та ранжирування, які вирішують, які джерела цитує модель, і один переконливий документ може потім відлунювати у мільйонах відповідей.
Для розробників чат-ботів Ганноверський інститут є стрес-тестом перевірки джерела. Оцінка NewsGuard показує, що мімікрія досить близька, щоб обдурити автоматизовані сигнали достовірності. Для читачів урок простіший: впевнена, добре сформульована відповідь, яку чат-бот дає вам про спірний конфлікт, може походити від організації, яка була створена, брендована та профінансована для отримання саме такої відповіді.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
