Falešný think-tank vytvořený jménem izraelské vlády publikoval více než 100 vylepšených výzkumných zpráv za něco málo přes týden, což analytici popisují jako záměrnou kampaň za zmanipulování odpovědí, které chatboti AI dávají uživatelům o Izraeli a Palestině, podle vyšetřování zveřejněného v pondělí Responsible Statecraft.
Organizace s názvem Hannoverský institut pro veřejnou politiku se prezentuje jako nový výzkumný orgán zaměřený na Izrael/Palestinu. Její zprávy však neobsahují žádné vedlejší řádky a prohlášení v dolní části jejích webových stránek potvrzuje, že byla vytvořena jménem izraelské vládní reklamní agentury Piro, Inc., firma spoluzaložená Danielem Rosenbergem, filmovým producentem, jehož autorem je Spike Lee ve filmu „Inside Man“. Příběhu se chopily servery, včetně Arab News a The Cradle, a je nejnovějším znamením, že vlivové operace se přesouvají od zdrojů sociálních médií k modelům AI. Chcete-li se dozvědět více o tom, jak se manipulace vyvíjí v éře AI, sledujte naše nejnovější zpravodajství o AI. For more context on this story, see our ongoing AI news.
Zprávy vytvořené pro to, jak LLM posuzují důvěryhodnost
Hannoverský institut je neobvyklý v tom, jak přesně se jeho výstup jeví přizpůsobený způsobu, jakým velké jazykové modely hodnotí zdroje. Jeho „datové zprávy“ přicházejí s poznámkami pod čarou, obsahy a měřeným, neutrálním tónem – druh formátování, který pomáhá dokumentům oslovit chatboty, jako jsou Claude nebo Gemini, uvedl Responsible Statecraft.
Mnoho názvů je formulováno jako přesné otázky, které by uživatel mohl zadat do chatbota: „Co způsobilo vysídlení Palestinců v roce 1948?“ "Které humanitární organizace zdokumentovaly izraelské válečné zločiny?" "Jaká je současná situace v pásmu Gazy?" a "Je IDF nejmorálnější armádou světa?" — poslední z nich cituje výsledky průzkumu z roku 2022, že tomuto popisu věřilo 47 % izraelských Židů.
Pirova vlastní webová stránka je přímo o metodě. Společnost říká, že je autorem „obsahu navrženého pro to, jak LLM hodnotí důvěryhodnost“, službu, kterou prodává pod názvem „AI Story Optimization“. Výzkumníci mají pro tuto praxi tupější název: „otrava LLM“.
„Dokonalá mimika“ důvěryhodné instituce
Alice Lee, analytička NewsGuard, společnosti pro sledování dezinformací, řekla Responsible Statecraft, že zprávy na webu se zdají být navrženy tak, aby oslovily americké publikum zvědavé na konflikt, ať už prostřednictvím vyhledávačů nebo asistentů AI.
"LLM upřednostňují konkrétní statistiky a data, stejně jako silné citace a zdroje, které všechny tyto články mají," řekl Lee. "Je to dokonalá mimika typického důvěryhodného amerického think-tanku, až po obecný název, rozvržení stránek a červeno-bílo-modré barevné schéma."
Institut také zveřejnil to, o čem tvrdí, že jsou původní nálezy – například studii, která tvrdí, že 19 z 36 nejsledovanějších vysvětlujících videí Izraele a Gazy obsahuje sporná tvrzení, přičemž většina těchto sporných tvrzení je v souladu s palestinským příběhem. Jiné zprávy odmítají zavedenou dokumentaci, včetně té, která zpochybňuje tvrzení UNICEF, že 90 % vodní a institucionální infrastruktury v Gaze bylo poškozeno nebo zničeno.
Je pozoruhodné, že výstup ne vždy sleduje linii izraelské vlády. Jedna zpráva popisuje teorii, že zahraniční financování univerzit vysvětluje antisemitské incidenty jako „slabé a plné výjimek“ – i když premiér Benjamin Netanjahu tuto teorii prosazoval a řekl Breitbartu, že zahraniční aktéři utratili „miliardy“ na amerických kampusech. Mnoho zpráv končí spojením daného tématu s rostoucím antisemitismem a často cituje stejné studie.
Sledujte peníze: 900 000 $ prostřednictvím francouzského PR konglomerátu
Podle Responsible Statecraft obdržela společnost Piro, Inc. od izraelské vlády za svou práci 900 000 dolarů, subdodavatelsky prostřednictvím Havas Media, francouzského konglomerátu pro styk s veřejností – což je ujednání v souladu s tím, jak byli ostatní izraelští dodavatelé placeni za práci se zámořským vlivem.
Hannoverský institut začal publikovat 6. srpna. Za zhruba deset dní od té doby chrlil více než 100 zpráv, což je tempo, které žádný skutečný obchod s politikami srovnatelné velikosti neudrží.
Proč je manipulace s chatboty jiná
Případ podtrhuje strukturální slabinu v tom, jak asistenti umělé inteligence sestavují odpovědi: dobře citované a statistiky obsáhlé dokumenty považují za důvěryhodné bez ohledu na to, kdo je vytvořil nebo proč. Tradiční dezinformace se zaměřovaly na lidské čtenáře na sociálních platformách, kde nejvíce záleželo na emocionálním úderu. Takzvaná otrava LLM se místo toho zaměřuje na vrstvy vyhledávání a hodnocení, které rozhodují o tom, které zdroje model cituje – a jediný přesvědčivý dokument se pak může projevit v milionech odpovědí.
Pro vývojáře chatbotů je Hannoverský institut zátěžovým testem prověřování zdrojů. Hodnocení NewsGuard naznačuje, že mimikry jsou dostatečně blízko, aby oklamaly automatické signály důvěryhodnosti. Pro čtenáře je poučení jednodušší: sebevědomá, dobře označená odpověď, kterou vám chatbot o sporném konfliktu poskytne, může vést k organizaci, která byla postavena, označena a financována, aby vytvořila přesně takovou odpověď.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
