OpenAI gab am Dienstag bekannt, dass es eine Gruppe von ChatGPT-Konten mit Ursprung in Russland gesperrt hat, die zur Unterstützung einer verdeckten Online-Einflusskampagne genutzt wurden – eine Operation, die auf einer fiktiven Forschungsorganisation namens International Burke Institute basiert, die Verbindungen zu prominenten Wissenschaftlern fabrizierte und den Großteil ihres veröffentlichten Materials plagiierte.

Das Unternehmen gab die Abschaltung in einem Blogbeitrag mit dem Titel „Störung einer neuen verdeckten Einflusskampagne aus Russland“ bekannt und die Ergebnisse wurden von CNBC und Quartz gemeldet. Laut OpenAI wurden die Konten zur Werbung für das International Burke Institute (IBI) verwendet, eine selbsternannte „Expertengemeinschaft“, deren Website eine Straße in Israel auflistete und im Februar 2025 registriert wurde. Weitere Informationen zu dieser Geschichte finden Sie in unserer KI-Nachrichten.

Eine Denkfabrik, die es nie gab

Das Herzstück der Operation war der Anschein institutioneller Legitimität. Laut OpenAI behauptete die IBI-Website fälschlicherweise, prominente Akademiker wie Francis Fukuyama und Noam Chomsky zu präsentieren. Bei einer Überprüfung von 36 Artikeln, die mit auf der Website aufgeführten Experten verknüpft waren und zwischen September 2025 und Mai 2026 veröffentlicht wurden, stellte das Unternehmen fest, dass 34 von anderen Stellen im Internet kopiert worden waren – manchmal mit falscher Namensnennung.

Ein zentrales Merkmal der Kampagne war ein „Souveränitätsindex“, der Länder anhand einer Kennzahl einordnete, die darauf abzielte, Russland positiv zu bewerten und gleichzeitig westliche Nationen zu kritisieren. Berichte, die auf Frankreich, Deutschland, die Vereinigten Staaten und die Europäische Union abzielten, gingen in Polemik über, sagte OpenAI. In einem Eintrag zu den Vereinigten Staaten hieß es: „Trump kam [in Peking] mit dem Souveränitätsindex Nr. 1 der Welt an und verließ das Land, nachdem er eine Reihe von Schritten unternommen hatte, die [...] als freiwillige Einschränkung der Autonomie eingestuft werden können.“

Wie die Operation funktionierte

OpenAI sagte, es schätzte die Konten trotz der Tarnung als sehr wahrscheinlich aus Russland stammend ein. Um OpenAIs Verbot des Modellzugangs aus Russland zu umgehen, leiteten die Betreiber ihre Verbindungen über VPNs, so das Unternehmen. Sie arbeiteten auf Russisch und nutzten ChatGPT, um Social-Media-Inhalte zu entwerfen, die auf Substack, Telegram, Der Großteil der generierten Inhalte wurde auf Englisch verfasst, eine Entscheidung, die darauf hindeutet, dass sich die Aktion eher an ein westliches Publikum als an inländische russische Leser richtete.

Der Betrieb ging über englischsprachige Inhalte hinaus. Ein Betreiber generierte deutschsprachige Beiträge für einen Telegram-Kanal namens „Lahme Ente“ – deutsch für „lahme Ente“ –, der die Ukraine, die Europäische Union und die deutsche Regierung kritisierte und gleichzeitig für engere Beziehungen zu Russland plädierte. Ein zweiter Betreiber erstellte Logos für etwa ein Dutzend Telegram-Kanäle mit Schwerpunkt auf Deutschland, den Vereinigten Staaten, Frankreich, Polen und der Türkei und forderte russischsprachige Zusammenfassungen seiner Aktivitäten an.

Begrenzte Reichweite, aber eine alarmierende Blaupause

Nach herkömmlichen Engagement-Kennzahlen war die Kampagne kein Erfolg. OpenAI räumte ein, dass die meisten Social-Media-Beiträge nur geringe Aufrufzahlen erzielten, die offiziellen IBI-Konten nur wenige Abonnenten hatten und die zugehörigen Telegram-Kanäle jeweils zwischen 10.000 und 20.000 Follower anzogen.

Das Unternehmen argumentierte jedoch, dass die Bedeutung der Operation nicht in ihrer Reichweite, sondern in der von ihren Betreibern konstruierten Apparatur liege. Mit ChatGPT erstellte Beiträge führten die Leser zu einer scheinbar legitimen Forschungseinrichtung – komplett mit einer physischen Adresse, einer Expertenliste und einem stetigen Strom an Veröffentlichungen. Diese Struktur, so OpenAI, zeige, wie KI-Tools schlechten Akteuren dabei helfen können, institutionelle Glaubwürdigkeit aufzubauen, die wahre Quelle bevorzugter Narrative zu verschleiern und den Grundstein für Operationen zu legen, die erheblich größer werden könnten.

Der umfassendere Kampf um KI-generierten Einfluss

Die Abschaltung ist die jüngste in einer Reihe von Störungen, die OpenAI angekündigt hat und an denen staatsnahe Bedrohungsakteure beteiligt sind, und sie erfolgt vor dem Hintergrund wachsender Beweise dafür, dass Einflussoperationen ihre Ambitionen von Social-Media-Feeds auf KI-Systeme selbst verlagern. Anfang August dokumentierte eine separate Untersuchung von Responsible Statecraft, dass eine gefälschte Denkfabrik mehr als 100 Berichte in einer Woche veröffentlichte, offensichtlich in dem Versuch, die Antworten zu manipulieren, die KI-Chatbots über Israel und Palästina geben.

Zusammengenommen skizzieren die Fälle ein aufkommendes Spielbuch: Anstatt nur Botschaften an Menschen weiterzuleiten, bauen Betreiber falsche Institutionen auf, deren Ergebnisse von den KI-Modellen zitiert, ausgekratzt und absorbiert werden können, die zunehmend vermitteln, wie Menschen mit Informationen umgehen.

Für KI-Unternehmen ist die Implikation unangenehm. Dieselben Eigenschaften, die große Sprachmodelle nützlich machen – fließende mehrsprachige Abfassung, niedrige Kosten, unermüdliche Ausgabe – machen sie zu einer attraktiven Infrastruktur für gewaschene Propaganda. Die Antwort von OpenAI in diesem Fall war eine Löschung auf Inhaltsebene: gesperrte Konten, benannte Taktiken und eine öffentliche Darstellung der Funktionsweise der Operation.

Ob solche Offenlegungen mit den beschriebenen Vorgängen Schritt halten können, bleibt eine der zentralen Sicherheitsfragen des KI-Zeitalters. Wie der Bericht vom Dienstag deutlich macht, sind die Kosten für den Aufbau einer überzeugenden Fake-Institution dramatisch gesunken – und die Unternehmen, die am besten in der Lage sind, sie aufzudecken, sind genau die Unternehmen, deren Modelle für den Aufbau dieser Institutionen verwendet werden.

---

Bleib vorne bei KI

Die neuesten KI-Nachrichten, Analysen und Durchbrüche – alles an einem Ort.

Mehr KI-Nachrichten lesen →