Un grup de gândire fals creat în numele guvernului israelian a publicat peste 100 de rapoarte de cercetare fine în puțin peste o săptămână, în ceea ce analiștii descriu drept o campanie deliberată de manipulare a răspunsurilor pe care chatbot-urile AI le oferă utilizatorilor despre Israel și Palestina, potrivit unei investigații publicate luni de Responsible Statecraft.
Organizația, numită Institutul Hanovra pentru Politici Publice, se prezintă ca un nou organism de cercetare axat pe Israel/Palestina. Dar rapoartele sale nu conțin linii de bază, iar o declinare a răspunderii din partea de jos a site-ului său web recunoaște că a fost creat în numele Agenției de Publicitate a Guvernului Israelian de către Piro, Inc., o firmă co-fondată de Daniel Rosenberg, un producător de film creditat pentru „Inside Man” de Spike Lee. Povestea a fost preluată de canale precum Arab News și The Cradle și este cel mai recent semn că operațiunile de influență trec de la feedurile de rețele sociale la modelele AI. Pentru mai multe despre cum evoluează manipularea în era AI, urmăriți știrile noastre de ultimă oră. For more context on this story, see our ongoing AI industry coverage.
Rapoarte concepute pentru modul în care LLM-urile judecă credibilitatea
Ceea ce face ca Institutul din Hanovra să fie neobișnuit este cât de precis apare rezultatele sale adaptate modului în care modelele mari de limbă evaluează sursele. „Rapoartele sale de date” vin cu note de subsol, cuprins și un ton măsurat, neutru - genul de formatare care ajută documentele să atragă chatboții precum Claude sau Gemini, a raportat Responsible Statecraft.
Multe dintre titluri sunt formulate ca întrebări exacte pe care un utilizator le-ar putea introduce într-un chatbot: „Ce a cauzat strămutarea palestinienilor în 1948?” „Ce organizații umanitare au documentat crimele de război israeliene?” „Care este situația actuală în Fâșia Gaza?” și „Este IDF cea mai morală armată din lume?” - ultimul dintre care citează un sondaj din 2022 care a constatat că 47% dintre evreii israelieni credeau această descriere.
Site-ul propriu al lui Piro este clar referitor la metodă. Compania spune că creează „conținut conceput pentru modul în care LLM-urile evaluează credibilitatea”, un serviciu pe care îl comercializează sub numele de „AI Story Optimization”. Cercetătorii au un nume mai clar pentru practică: „otrăvirea cu LLM”.
O „mimică perfectă” a unei instituții credibile
Alice Lee, un analist la NewsGuard, compania de urmărire a dezinformarii, a declarat pentru Responsible Statecraft că rapoartele site-ului par concepute pentru a ajunge la un public din SUA curios de conflict, fie prin intermediul motoarelor de căutare sau al asistenților AI.
„LLM-urile favorizează statisticile și datele concrete, precum și citările și sursele puternice, pe care toate aceste articole le au”, a spus Lee. „Este o imitație perfectă a unui think tank american credibil, chiar până la numele generic, aspectul site-ului și schema de culori roșu-alb-albastru.”
Institutul a publicat, de asemenea, ceea ce pretinde că sunt constatări originale - de exemplu, un studiu care afirmă că 19 dintre cele 36 de videoclipuri explicative cele mai vizionate Israel-Gaza conțin afirmații contestate, majoritatea acestor afirmații contestate aliniindu-se cu narațiunea palestiniană. Alte rapoarte resping documentația stabilită, inclusiv una care pune la îndoială afirmația UNICEF că 90% din infrastructura de apă și instituțională din Gaza a fost deteriorată sau distrusă.
În special, producția nu urmărește întotdeauna linia guvernului israelian. Un raport descrie teoria conform căreia finanțarea străină a universităților explică incidentele antisemite drept „slabe și pline de excepții” – chiar dacă prim-ministrul Benjamin Netanyahu a promovat această teorie, spunându-i lui Breitbart că actorii străini au cheltuit „miliarde” în campusurile americane. Multe rapoarte se încheie prin a lega subiectul în discuție de antisemitismul în creștere, citând frecvent aceleași studii.
Urmăriți banii: 900.000 USD printr-un conglomerat de PR francez
Potrivit Responsible Statecraft, Piro, Inc. a primit 900.000 de dolari de la guvernul israelian pentru munca sa, subcontractat prin Havas Media, un conglomerat francez de relații publice - un aranjament în concordanță cu modul în care alți contractori israelieni au fost plătiți pentru munca de influență în străinătate.
Institutul Hanovra a început să publice pe 6 august. În cele aproximativ zece zile care au trecut de atunci, a produs peste 100 de rapoarte, un ritm pe care niciun magazin de politici autentice de dimensiuni comparabile nu îl susține.
De ce manipularea Chatbot este diferită
Cazul subliniază o slăbiciune structurală în modul în care asistenții AI adună răspunsuri: ei tratează documentele bine citate, grele de statistici ca fiind credibile, indiferent de cine le-a produs sau de ce. Dezinformarea tradițională a vizat cititorii umani de pe platformele de socializare, unde pumnul emoțional a contat cel mai mult. Așa-numita otrăvire LLM vizează în schimb straturile de recuperare și de clasare care decid ce surse citează un model - și un singur document persuasiv poate apoi să răspundă în milioane de răspunsuri.
Pentru dezvoltatorii de chatbot, Institutul Hanovra este un test de stres pentru verificarea sursei. Evaluarea NewsGuard sugerează că mimetismul este suficient de aproape pentru a păcăli semnalele automate de credibilitate. Pentru cititori, lecția este mai simplă: răspunsul încrezător, bine notat de subsol, pe care ți-l oferă un chatbot despre un conflict contestat, se poate retrage la o organizație care a fost construită, marcată și finanțată pentru a produce exact acel răspuns.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
