Die gefälschte US-Denkfabrik, die letzte Woche erstmals aufgedeckt wurde, wurde nun vom Guardian quantifiziert: 124 Berichte und 560.000 Wörter in neun Tagen, aufgebaut auf einer kommerziellen Plattform, die verspricht, Inhalte so zu optimieren, dass KI-Chatbots sie zitieren – mit einer Finanzierungsspur der israelischen Regierung, die in Akten des US-Justizministeriums dokumentiert ist. Es ist das bisher deutlichste öffentliche Beispiel dafür, dass staatsnahe Akteure die KI-Antwortschicht selbst ins Visier nehmen: nicht die Leser, sondern die Modelle, die zunehmend für sie sprechen. Es ist die Art von Geschichte, die unsere KI-Branchenberichterstattung verfolgt, während Chatbot-Manipulation industriell voranschreitet. (Über die erste Entdeckung der Website berichteten wir hier.)
Ein Thinktank, den es nicht gibt
Die Seite veröffentlicht unter dem Namen Hanover Institute for Public Policy. Laut Jason Wilson vom Guardian existiert das Institut offenbar in keiner Gerichtsbarkeit als juristische Person, hat keine physische Adresse und führt in keinem seiner Berichte namentlich genannte Mitarbeiter und keine Verfasser auf. Seine eigenen Nutzungsbedingungen unterliegen den Gesetzen „des Staates, in dem das Institut seinen Sitz hat“ – einem Staat, auf dessen Namen das Dokument verzichtet.
Der Umfang der Produktion war industriell. Zwischen dem 6. und 14. August veröffentlichte das Hannover-Institut 124 Berichte mit insgesamt mehr als 560.000 Wörtern, durchschnittlich jeweils etwa 4.500 Wörtern. Allein am 12. und 13. August entstanden 73 Berichte mit einem Umfang von fast 354.000 Wörtern. Seit Erscheinen der ersten Medienberichte über die Seite wurde nichts veröffentlicht.
Entwickelt für die Chatbot-Antwortebene
Was die Operation als neuartig kennzeichnet, ist ihre gezielte Ausrichtung. Alle bis auf eine der 124 Schlagzeilen beginnen mit einer Frage, die einer Frage ähnelt, die ein Benutzer in einen Chatbot eingeben würde: „Ist Antizionismus Antisemitismus?“, „Hat Israel Palästinenser aus ihrem Land vertrieben?“, „Führt Israel in Gaza einen Völkermord aus?“ Die Berichte präsentieren Israels Position zur Folter palästinensischer Gefangener, Kriegsverbrechen und Hunger in Gaza als neutrale Forschung, formatiert für maschinelles Abrufen.
Die Mechanik ist in offiziellen Akten dokumentiert. Die New Yorker Medienproduktionsfirma Piro Inc. hat die Website diesen Monat beim US-Justizministerium gemäß dem Foreign Agents Registration Act (Fara) registriert, einem Gesetz aus dem Jahr 1938, das die Offenlegung von Arbeiten für ausländische Regierungen als Material vorschreibt, das sie für die israelische Regierung verteilt. Der Guardian berichtet, dass die Bemühungen mit Dutzenden Millionen Dollar von der israelischen Regierung finanziert werden, die über Dritte, darunter die europäische Werbegruppe Havas Media, geleitet werden. Ein Vertrag zwischen Havas und einer anderen amerikanischen Firma, die an der Kampagne arbeitet, verpflichtet sie zur „Bereitstellung von Websites und Inhalten, um GPT-Framing-Ergebnisse für GPT-Gespräche zu liefern“.
Nachdem am 14. August erstmals über die Existenz der Website berichtet wurde, fügte das Institut stillschweigend eine Finanzierungsseite mit einer aussagekräftigen Korrektur hinzu: „In einer früheren Version dieser Seite hieß es, das Institut arbeite ohne externe Finanzierung, und das stimmte auch, als es geschrieben wurde.“ Der Guardian kontaktierte Piro Inc, Havas Media und die staatliche israelische Werbeagentur LaPam um einen Kommentar.
Warum Chatbots das neue Schlachtfeld sind
Die Strategie hat in der Marketingbranche einen Namen – Generative Engine Optimization oder GEO – und ist die Nachfolgedisziplin der Suchmaschinenoptimierung. Wenn ein Chatbot eine Frage beantwortet, greift er auf sein Trainingskorpus und seine Abrufquellen zurück. Inhalte, die umfangreich, frageformatiert und als maßgebliche Forschung gestaltet sind, werden mit größerer Wahrscheinlichkeit an die Oberfläche gebracht, zitiert oder in die Antwort eines Modells aufgenommen. Ein gefälschter Thinktank ist nahezu das ideale GEO-Artefakt: institutionelle Glaubwürdigkeit ohne Institution.
Der Zeitpunkt spiegelt sowohl Verzweiflung als auch Raffinesse wider. Der Guardian stellt fest, dass die Kampagne zu einem Zeitpunkt stattfindet, an dem Israels Ansehen in der öffentlichen Meinung der USA zusammengebrochen ist und israelische Beamte Medien darüber informieren, dass Geld, das für die öffentliche Diplomatie der „Hasbara“ im Ausland ausgegeben wurde, verschwendet wurde.
Das Hannover-Institut ist kein Einzelfall. Am selben Tag, an dem der Guardian seine Untersuchung veröffentlichte, gab OpenAI bekannt, dass es eine neue verdeckte russische Einflusskampagne mithilfe von KI gestört habe – die jüngste in einer Reihe von Angriffen, die das Unternehmen staatsnahen Akteuren zugeschrieben hat. Zwei getrennte Betriebe, zwei Kontinente, eine gemeinsame Erkenntnis: Die Beeinflussung von Modellen ist heute kostengünstiger und nachhaltiger als die direkte Beeinflussung von Menschen.
Die Governance-Lücke
Für die Regulierungsbehörden offenbart der Fall eine Lücke in den bestehenden Rahmenbedingungen. Die Offenlegung von Fara hat den Vorgang auf dem Papier festgehalten, allerdings erst, nachdem der Inhalt live war und möglicherweise aufgenommen wurde. Die Transparenzbestimmungen des EU-KI-Gesetzes und die freiwilligen Rahmenwerke zur Regelung der Herkunft von Trainingsdaten sind nicht für eine Welt konzipiert, in der der günstigste Weg zu den Überzeugungen einer Bevölkerung über ihre Chatbots führt.
Für KI-Labore ist die operative Frage unmittelbar: Wie unterscheiden Abrufsysteme und Trainingspipelines Forschung von Content-Farmen, die Forschungskleidung tragen? Umfang, Formatierung und sichere Zitate – die Signale der Autorität – sind genau das, was das Hannover-Institut in Massen produziert hat. Solange sich die Herkunft der Modelle nicht verbessert, sind die halben Millionen Wörter bereits verfügbar, und keine nachträglich eingereichte Offenlegung erinnert an sie.
---
Der KI einen Schritt voraus seinErhalten Sie die neuesten KI-Nachrichten, Analysen und Durchbrüche – alles an einem Ort.
Weitere KI-Neuigkeiten lesen →
