Laut einer am Montag von Responsible Statecraft veröffentlichten Untersuchung hat ein im Auftrag der israelischen Regierung gegründeter gefälschter Think Tank in etwas mehr als einer Woche mehr als 100 ausgefeilte Forschungsberichte veröffentlicht. Analysten bezeichnen dies als eine bewusste Kampagne zur Manipulation der Antworten, die KI-Chatbots Benutzern über Israel und Palästina geben.
Die Organisation mit dem Namen Hanover Institute for Public Policy präsentiert sich als neue Forschungseinrichtung mit Schwerpunkt auf Israel/Palästina. Die Berichte enthalten jedoch keine Autorenzeilen, und ein Haftungsausschluss am Ende der Website bestätigt, dass sie im Auftrag der Werbeagentur der israelischen Regierung von Piro, Inc. erstellt wurden, einer Firma, die von Daniel Rosenberg, einem Filmproduzenten, der für Spike Lees „Inside Man“ bekannt ist, mitbegründet wurde. Die Geschichte wurde von Medien wie Arab News und The Cradle aufgegriffen und ist das jüngste Zeichen dafür, dass sich die Einflussnahme von Social-Media-Feeds auf KI-Modelle verlagert. Um mehr darüber zu erfahren, wie sich Manipulation im KI-Zeitalter entwickelt, folgen Sie unserer Berichterstattung über aktuelle KI-Nachrichten. Weitere Informationen zu dieser Geschichte finden Sie in unserer KI-Branchenberichterstattung.
Berichte, die dafür entwickelt wurden, wie LLMs die Glaubwürdigkeit beurteilen
Das Besondere am Hannover-Institut ist, dass seine Ergebnisse genau auf die Art und Weise zugeschnitten zu sein scheinen, wie große Sprachmodelle Quellen auswerten. Seine „Datenberichte“ enthalten Fußnoten, Inhaltsverzeichnisse und einen maßvollen, neutralen Ton – die Art von Formatierung, die dazu beiträgt, dass Dokumente Chatbots wie Claude oder Gemini ansprechen, berichtete Responsible Statecraft.
Viele der Titel sind so formuliert, dass sie genau die Fragen sind, die ein Benutzer in einen Chatbot eingeben könnte: „Was verursachte die Vertreibung der Palästinenser im Jahr 1948?“ „Welche humanitären Organisationen haben israelische Kriegsverbrechen dokumentiert?“ „Wie ist die aktuelle Situation im Gazastreifen?“ und „Ist die IDF die moralischste Armee der Welt?“ – Die letzte davon zitiert eine Umfrage aus dem Jahr 2022, die ergab, dass 47 % der israelischen Juden dieser Beschreibung glaubten.
Piros eigene Website äußert sich unverblümt zu dieser Methode. Das Unternehmen gibt an, dass es „Inhalte verfasst, die darauf ausgerichtet sind, wie LLMs die Glaubwürdigkeit bewerten“, eine Dienstleistung, die es als „KI-Story-Optimierung“ vermarktet. Forscher haben einen deutlicheren Namen für die Praxis: „LLM-Vergiftung“.
Eine „perfekte Nachahmung“ einer glaubwürdigen Institution
Alice Lee, Analystin bei NewsGuard, dem Desinformationsverfolgungsunternehmen, sagte gegenüber Responsible Statecraft, dass die Berichte der Website offenbar dazu gedacht seien, ein US-amerikanisches Publikum zu erreichen, das neugierig auf den Konflikt sei, sei es über Suchmaschinen oder KI-Assistenten.
„LLMs bevorzugen konkrete Statistiken und Daten sowie starke Zitate und Quellen, die alle diese Artikel enthalten“, sagte Lee. „Es ist eine perfekte Nachahmung einer typischen glaubwürdigen amerikanischen Denkfabrik, bis hin zum generischen Namen, dem Site-Layout und dem rot-weiß-blauen Farbschema.“
Das Institut hat auch angeblich Originalergebnisse veröffentlicht – zum Beispiel eine Studie, die besagt, dass 19 der 36 meistgesehenen Israel-Gaza-Erklärvideos umstrittene Behauptungen enthalten, wobei die meisten dieser umstrittenen Behauptungen mit der palästinensischen Erzählung übereinstimmen. Andere Berichte lehnen etablierte Unterlagen ab, darunter einen, der Zweifel an der Behauptung von UNICEF aufkommen lässt, dass 90 % der Wasser- und institutionellen Infrastruktur in Gaza beschädigt oder zerstört wurden.
Bemerkenswert ist, dass die Ausgabe nicht immer der Linie der israelischen Regierung entspricht. In einem Bericht wird die Theorie beschrieben, dass die ausländische Finanzierung von Universitäten antisemitische Vorfälle als „schwach und voller Ausnahmen“ erklärt – obwohl Premierminister Benjamin Netanyahu diese Theorie vertreten hat und Breitbart erzählt hat, dass ausländische Akteure „Milliarden“ auf amerikanischen Campussen ausgegeben hätten. Viele Berichte schließen mit der Verknüpfung des Themas mit zunehmendem Antisemitismus und zitieren häufig dieselben Studien.
Folgen Sie dem Geld: 900.000 US-Dollar durch ein französisches PR-Konglomerat
Laut Responsible Statecraft hat Piro, Inc. von der israelischen Regierung 900.000 US-Dollar für seine Arbeit erhalten, die von Havas Media, einem französischen PR-Konglomerat, als Unterauftrag vergeben wurde – eine Vereinbarung, die mit der Bezahlung anderer israelischer Auftragnehmer für Einflussarbeit im Ausland übereinstimmt.
Das Hannover-Institut hat am 6. August mit der Veröffentlichung begonnen. In den rund zehn Tagen seitdem hat es mehr als 100 Berichte herausgebracht, ein Tempo, das kein echter Policy-Shop vergleichbarer Größe mithalten kann.
Warum Chatbot-Manipulation anders ist
Der Fall unterstreicht eine strukturelle Schwäche bei der Zusammenstellung von Antworten durch KI-Assistenten: Sie behandeln gut zitierte, statistikintensive Dokumente als glaubwürdig, unabhängig davon, wer sie erstellt hat oder warum. Traditionelle Desinformation zielte auf menschliche Leser auf sozialen Plattformen ab, wo es vor allem auf die emotionale Wirkung ankam. Das sogenannte LLM-Poisoning zielt stattdessen auf die Retrieval- und Ranking-Ebenen ab, die darüber entscheiden, welche Quellen ein Modell zitiert – und ein einzelnes überzeugendes Dokument kann dann in Millionen von Antworten widerhallen.
Für Chatbot-Entwickler ist das Hannover-Institut ein Stresstest der Quellenüberprüfung. Die Einschätzung von NewsGuard legt nahe, dass die Nachahmung nah genug ist, um automatisierte Glaubwürdigkeitssignale zu täuschen. Für die Leser ist die Lektion einfacher: Die selbstbewusste, gut mit Fußnoten versehene Antwort, die Ihnen ein Chatbot zu einem umstrittenen Konflikt gibt, kann auf eine Organisation zurückgehen, die gegründet, gebrandet und finanziert wurde, um genau diese Antwort zu produzieren.
---
Bleib vorne bei KIDie neuesten KI-Nachrichten, Analysen und Durchbrüche – alles an einem Ort.
Mehr KI-Nachrichten lesen →
