Jak wynika z dochodzenia opublikowanego w poniedziałek przez Responsible Statecraft, fałszywy zespół doradców utworzony w imieniu izraelskiego rządu opublikował ponad 100 dopracowanych raportów z badań w ciągu nieco ponad tygodnia, co analitycy określają jako celową kampanię mającą na celu manipulowanie odpowiedziami udzielanymi użytkownikom przez chatboty AI na temat Izraela i Palestyny.
Organizacja o nazwie Hanover Institute for Public Policy przedstawia się jako nowa jednostka badawcza skupiona na Izraelu/Palesstynie. Jednak w jego raportach nie ma podpisu, a zastrzeżenie na dole strony internetowej potwierdza, że została ona utworzona na zlecenie izraelskiej agencji reklamowej rządu przez Piro, Inc., firmę, której współzałożycielem jest Daniel Rosenberg, producent filmowy, któremu można przypisać zasługę w filmie „Inside Man” Spike’a Lee. Sprawą podchwyciły takie media, jak Arab News i The Cradle, i jest najnowszym sygnałem, że operacje wywierania wpływu przechodzą z mediów społecznościowych na modele sztucznej inteligencji. Więcej informacji na temat ewolucji manipulacji w erze sztucznej inteligencji można znaleźć w naszych najświeższych wiadomościach dotyczących sztucznej inteligencji. Więcej kontekstu na ten temat znajdziesz w naszych trendy AI.
Raporty opracowane pod kątem tego, jak firmy LLM oceniają wiarygodność
Tym, co wyróżnia Instytut Hanowerski, jest to, jak precyzyjnie jego prace wydają się być dostosowane do sposobu, w jaki duże modele językowe oceniają źródła. „Raporty danych” zawierają przypisy, spisy treści i wyważony, neutralny ton – taki rodzaj formatowania, który sprawia, że dokumenty są atrakcyjne dla chatbotów, takich jak Claude czy Gemini, podaje Responsible Statecraft.
Wiele tytułów sformułowano dokładnie tak, jak pytania, które użytkownik mógłby wpisać w chatbocie: „Co spowodowało wysiedlenie Palestyńczyków w 1948 r.?” „Które organizacje humanitarne udokumentowały izraelskie zbrodnie wojenne?” „Jaka jest obecna sytuacja w Strefie Gazy?” oraz „Czy IDF jest najbardziej moralną armią świata?” — ostatni z nich przytacza sondaż przeprowadzony w 2022 r., z którego wynika, że 47% izraelskich Żydów wierzy w ten opis.
Strona internetowa Piro bez ogródek mówi o tej metodzie. Firma twierdzi, że jej autorzy „treści opracowali pod kątem oceny wiarygodności przez firmy LLM”, a usługę tę reklamuje jako „Optymalizacja historii AI”. Naukowcy mają bardziej dosadną nazwę tej praktyki: „zatrucie LLM”.
„Doskonała mimikra” wiarygodnej instytucji
Alice Lee, analityk w NewsGuard, firmie śledzącej dezinformację, powiedziała Responsible Statecraft, że raporty witryny wydają się mieć na celu dotarcie do odbiorców w USA zainteresowanych konfliktem, czy to za pośrednictwem wyszukiwarek, czy asystentów AI.
„LLM preferują konkretne statystyki i dane, a także mocne cytaty i źródła, które zawierają wszystkie te artykuły” – powiedział Lee. „To doskonała imitacja typowego wiarygodnego amerykańskiego think tanku, aż do ogólnej nazwy, układu strony i czerwono-biało-niebieskiej kolorystyki”.
Instytut opublikował także ustalenia, które uważa za oryginalne – na przykład badanie, w którym stwierdzono, że 19 z 36 najczęściej oglądanych filmów wyjaśniających Izrael–Gaza zawiera kwestionowane twierdzenia, a większość z nich jest zgodna z narracją palestyńską. Inne raporty zaprzeczają ustalonej dokumentacji, w tym ta podająca w wątpliwość twierdzenie UNICEF, że 90% infrastruktury wodnej i instytucjonalnej w Gazie zostało uszkodzonych lub zniszczonych.
Warto zauważyć, że wyniki nie zawsze są zgodne z linią izraelskiego rządu. W jednym z raportów opisano teorię, zgodnie z którą zagraniczne finansowanie uniwersytetów wyjaśnia incydenty antysemickie jako „słabe i pełne wyjątków” – mimo że premier Benjamin Netanjahu promował tę teorię, mówiąc Breitbartowi, że zagraniczni aktorzy wydali „miliardy” na amerykańskich kampusach. Wiele raportów kończy się powiązaniem omawianego tematu z rosnącym antysemityzmem, często cytując te same badania.
Podążaj za pieniędzmi: 900 000 dolarów za pośrednictwem francuskiego konglomeratu PR
Według Responsible Statecraft firma Piro, Inc. otrzymała od izraelskiego rządu 900 000 dolarów za swoją pracę zleconą za pośrednictwem Havas Media, francuskiego konglomeratu public relations – co jest porozumieniem zgodnym z wynagrodzeniem innych izraelskich wykonawców za pracę z wpływami za granicą.
Instytut Hanowerski zaczął publikować 6 sierpnia. W ciągu mniej więcej dziesięciu dni opublikował ponad 100 raportów, a to tempo, którego nie jest w stanie utrzymać żaden prawdziwy warsztat polityczny porównywalnej wielkości.
Dlaczego manipulacja chatbotem jest inna
Sprawa podkreśla strukturalną słabość sposobu, w jaki asystenci AI gromadzą odpowiedzi: traktują dobrze cytowane dokumenty zawierające dużo statystyk jako wiarygodne, niezależnie od tego, kto je wyprodukował i dlaczego. Tradycyjna dezinformacja była skierowana do ludzkich czytelników na platformach społecznościowych, gdzie najważniejsze było uderzenie emocjonalne. Zamiast tego tak zwane zatrucie LLM atakuje warstwy wyszukiwania i rankingu, które decydują, które źródła cytuje model – a pojedynczy przekonujący dokument może następnie odbić się echem na milionach odpowiedzi.
Dla twórców chatbotów Hanover Institute jest testem warunków skrajnych weryfikacji źródeł. Ocena NewsGuard sugeruje, że mimikra jest wystarczająco bliska, aby oszukać automatyczne sygnały wiarygodności. Dla czytelników lekcja jest prostsza: pewna, dobrze opatrzona przypisami odpowiedź, jakiej udziela chatbot na temat spornego konfliktu, może odnosić się do organizacji, która została zbudowana, oznakowana i sfinansowana w celu uzyskania dokładnie takiej odpowiedzi.
---
Bądź na Bieżąco z AINajnowsze wiadomości, analizy i przełomy w dziedzinie AI — wszystko w jednym miejscu.
Czytaj więcej wiadomości AI →
