Підроблений аналітичний центр США, вперше викритий минулого тижня, тепер був кількісно оцінений Guardian: 124 звіти та 560 000 слів за дев’ять днів, створені на комерційній платформі, яка обіцяє оптимізувати вміст, щоб чат-боти зі штучним інтелектом цитували його — із слідом фінансування ізраїльського уряду, задокументованим у документах Міністерства юстиції США. Це найяскравіший публічний приклад того, як пов’язані з державою суб’єкти націлені на сам рівень відповідей ШІ: не на читачів, а на моделі, які все більше говорять за них. Це історія, яку ми висвітлюємо індустрію штучного інтелекту відстежуємо, коли маніпуляції з чат-ботами стають промисловими. (Ми розповіли про початкове відкриття сайту тут.)

Мозковий центр, якого не існує

Сайт публікується під назвою Ганноверського інституту публічної політики. За словами Джейсона Вілсона з Guardian, інститут, очевидно, не існує як юридична особа в жодній юрисдикції, не має фізичної адреси, не має імен співробітників і підписів у своїх звітах. Його власні умови використання регулюються законами «держави, в якій засновано Інститут» — держави, яку документ відмовляється називати.

Масштаби виробництва були промисловими. У період з 6 по 14 серпня Ганноверський інститут опублікував 124 звіти загальною кількістю понад 560 000 слів, в середньому близько 4500 слів у кожному. Лише 12 і 13 серпня було створено 73 звіти обсягом майже 354 000 слів. З моменту появи перших повідомлень про сайт в ЗМІ нічого не публікувалося.

Розроблено для рівня відповіді чат-бота

Те, що відзначає операцію як нову, так це її націлювання. Усі 124 заголовки, окрім одного, відкриваються запитанням, схожим на те, яке користувач міг би ввести в чат-бот: «Чи є антисіонізм антисемітизмом?», «Чи Ізраїль вигнав палестинців з їхньої землі?», «Чи Ізраїль здійснює геноцид у Газі?» У звітах представлена ​​позиція Ізраїлю щодо тортур палестинських в’язнів, військових злочинів і голоду в Газі як нейтральне дослідження, відформатоване для машинного пошуку.

Механіка задокументована в офіційних документах. Нью-йоркська медіа-виробнича компанія Piro Inc зареєструвала сайт у Міністерстві юстиції США цього місяця відповідно до Закону про реєстрацію іноземних агентів (Fara), закону 1938 року, який вимагає розголошення роботи для іноземних урядів як матеріалів, які вона поширює для уряду Ізраїлю. The Guardian повідомляє, що ці зусилля фінансуються десятками мільйонів доларів від ізраїльського уряду через треті сторони, включаючи європейську рекламну групу Havas Media. Контракт між Havas та іншою американською фірмою, яка працює над кампанією, зобов’язує її «розгортати веб-сайти та вміст для надання результатів кадрування GPT у розмовах GPT».

Після того, як 14 серпня вперше було повідомлено про існування сайту, інститут тихенько додав сторінку фінансування, яка містила промовисте виправлення: «У попередній версії цієї сторінки говорилося, що Інститут працював без зовнішнього фінансування, і це було правдою, коли вона була написана». The Guardian зв’язалася з Piro Inc, Havas Media та ізраїльським державним рекламним агентством LaPam, щоб отримати коментар.

Чому чат-боти — нове поле битви

Ця стратегія має назву в маркетинговій індустрії — генеративна оптимізація двигуна, або GEO — і це наступна дисципліна пошукової оптимізації. Коли чат-бот відповідає на запитання, він використовує свій навчальний корпус і джерела пошуку. Вміст, який є об’ємним, у форматі запитання та оформлений як авторитетне дослідження, швидше за все, буде висвітлено, процитовано чи включено у відповідь моделі. Фальшивий аналітичний центр — це майже ідеальний артефакт GEO: інституційна довіра без інституції.

Час відображає відчай так само, як і вишуканість. The Guardian зазначає, що кампанія відбувається в той момент, коли позиції Ізраїлю в громадській думці США впали, а ізраїльські офіційні особи поінформували ЗМІ про те, що гроші, витрачені на публічну дипломатію «Хасбара» за кордоном, були витрачені даремно.

Ганноверський інститут – не поодинокий випадок. У той самий день, коли Guardian опублікував своє розслідування, OpenAI оголосила, що зірвала нову таємну кампанію російського впливу за допомогою штучного інтелекту — останнє в серії видалень, які компанія приписує пов’язаним з державою акторам. Дві окремі операції, два континенти, одне спільне розуміння: тепер впливати на моделі дешевше й довговічніше, ніж впливати безпосередньо на людей.

Розрив в управлінні

Для регуляторів цей випадок відкриває дірку в існуючих структурах. Розкриття інформації Fara зафіксувало операцію на папері, але лише після того, як вміст було опубліковано та потенційно використано. Положення про прозорість Закону ЄС про штучний інтелект та добровільні рамки, що регулюють походження навчальних даних, не були розроблені для світу, де найдешевший шлях до переконань населення пролягає через його чат-боти.

Для лабораторій штучного інтелекту оперативне питання постає негайно: як системи пошуку та навчальні конвеєри відрізняють дослідження від контент-ферм, які носять дослідницький одяг? Обсяг, форматування та впевнене цитування — сигнали авторитету — це саме те, що масово випускав Ганноверський інститут. Поки моделі не покращать походження, півмільйона слів уже існують, і жодне розголошення, подане після факту, їх не згадує.

---

Будьте попереду ШІ

Отримуйте останні новини штучного інтелекту, аналіз і прориви — усе в одному місці.

Читати більше новин AI →