OpenAI sagte am Donnerstag, dass es eine mit dem Iran verbundene Einflussoperation gestört habe, die ChatGPT nutzte, um fast 100 KI-generierte Artikel unter gefälschten westlichen Journalistentiteln in echten Publikationen auf der ganzen Welt, darunter mehreren US-amerikanischen Filialen, zu platzieren.

Die Kampagne, die OpenAI als „Falschfront“-Operation bezeichnet, wird in einem Bericht, den das Unternehmen am 8. Oktober veröffentlichte, und in Folgeberichten von The Washington Post, CNN, NPR und Radio Free Europe/Radio Liberty detailliert beschrieben. Es handelt sich um einen der bis heute klarsten dokumentierten Fälle, in denen ein ausländisches Einflussnetzwerk einen kommerziellen Mainstream-Chatbot nicht nur zum Verfassen von Propaganda nutzte, sondern auch, um den gesamten redaktionellen Arbeitsablauf zu verwalten und diese in legitimen Medien zu platzieren. Weitere Informationen zu dieser Geschichte finden Sie in unserer KI-Nachrichten.

Ein Journalist, den es nie gab

Im Mittelpunkt der Operation stand eine Person namens Ervin B. Hoskins, die als amerikanischer freiberuflicher Journalist vorgestellt wurde. Laut RFE/RL stellten Artikel, die Hoskins zugeschrieben werden, die Vereinigten Staaten als Aggressor im anhaltenden Konflikt mit dem Iran dar, stellten Israel als unzuverlässigen Verbündeten dar und stellten den Iran als trotzigen Außenseiter dar. Hoskins, bestätigte OpenAI, existierte nie.

Er war einer von sieben erfundenen Journalistenpersönlichkeiten, die alle angeblich aus westlichen Ländern stammten und die von den Betreibern zum Pitchen und Platzieren von Artikeln verwendet wurden. „Wir haben fast 100 Artikel identifiziert, die unter den Namen der Operation in rund einem Dutzend Online-Shops auf der ganzen Welt veröffentlicht oder syndiziert wurden“, sagte OpenAI in seinem Bericht und beschrieb die Ziele als kleine bis mittlere Sender, die sich im Allgemeinen auf internationale Angelegenheiten, Geopolitik und den Nahen Osten konzentrieren.

Die Washington Post, die erstmals über die Durchdringung der US-Medien durch die Kampagne berichtete, stellte fest, dass eine kleine Wochenzeitung in Florida einen der gefälschten Kommentare veröffentlichte. Andere markierte Platzierungen erschienen in Medien wie Middle East Monitor, das CNN mitteilte, dass es die fraglichen Artikel entfernt habe und seinen Einreichungsprozess überprüfe.

Wie ChatGPT verwendet wurde

Laut der Offenlegung von OpenAI verwendeten die Betreiber ChatGPT sowohl auf Farsi als auch auf Englisch in der gesamten Platzierungspipeline: Sie bearbeiteten lange Artikelentwürfe, passten Pitches an die redaktionellen Anforderungen einzelner Publikationen an, bereiteten Outreach-E-Mails an Redakteure vor und generierten Stapel von Social-Media-Kommentaren, die wie unabhängige Leserreaktionen aussehen sollten.

Ein von Forschern aufgespürtes Beispiel: ein Leitartikel mit dem Titel „Jared Kushner und die Privatisierung der amerikanischen Iran-Strategie“, veröffentlicht am 12. Juni von PeaceVoice, einem Leitartikel-Vertriebsdienst des Oregon Peace Institute. In den folgenden Tagen wurde derselbe Artikel laut RFE/RL von CounterPunch und LA Progressive erneut veröffentlicht.

OpenAI sagte, die Veröffentlichungsaktivität habe zugenommen, nachdem der Konflikt zwischen den Vereinigten Staaten und dem Iran Anfang dieses Jahres begann. Das Unternehmen sagte, es habe die an der Kampagne beteiligten ChatGPT-Konten gesperrt und die Fähigkeit des Unternehmens, Inhalte in externen Redaktionskanälen zu platzieren, laut CNN-Berichten mit Kategorie 4 auf seiner sechsstufigen Einflussskala bewertet.

Namensnennung bleibt offen

Insbesondere sagte OpenAI, es könne den konkreten Akteur hinter der Kampagne nicht identifizieren oder die Richtung der iranischen Regierung bestätigen. Wie CNN berichtete, deutete die Einschätzung darauf hin, dass es sich eher um eine kommerzielle, vermietete Einflussnahme als um eine direkt staatliche Einflussnahme handelte – eine Struktur, die die Zuordnung erschwert und eine Störung weniger schlüssig macht. Das Sperren der Konten störte die Beobachtungen von OpenAI; Es wurde nicht nachgewiesen, dass das umfassendere Netzwerk abgebaut wurde.

Jessica Brandt, die von 2023 bis 2025 das Foreign Malign Influence Center des Direktors des National Intelligence leitete, sagte gegenüber CNN, die Operation zeige, wie KI ausländischen Akteuren dabei helfe, ihre Beteiligung zu verbergen und Nachrichten über authentische Kanäle weiterzuleiten.

Die iranische Kampagne war nicht die einzige Aktivität, die OpenAI gemeldet hat. Der Bericht des Unternehmens befasste sich auch mit der Störung von mit Russland verbundenen Einflussoperationen, die ChatGPT nutzten, wie The Record von Recorded Future News berichtete. Unabhängig davon stellte RFE/RL fest, dass Anthropic zuvor die iranischen Bemühungen, seine Claude-Modelle für Propaganda und Überwachung von Dissidenten zu missbrauchen, gestört hat.

Eine Veröffentlichung ist kein Beweis mehr für die Urheberschaft

Für die Nachrichtenredaktionen landet der Fall bei einer unangenehmen Wahrheit: Eine Zeile, ein zusammenhängender Text, eine plausible Biografie und ein ausgefeilter Ton bedeuten nicht mehr, dass es einen Mitwirkenden gibt. Redakteure, die auf Beiträge von Freiberuflern angewiesen sind – insbesondere Redaktionen und Kommentatoren, die von Natur aus Außenperspektiven veröffentlichen – stehen nun vor einem Überprüfungsproblem, das Spamfilter und Heuristiken für Schreibqualität nicht lösen können.

Zu den praktischen Reaktionen, die in der Berichterstattung über den Bericht hervorgehoben wurden, gehören eine stärkere Authentifizierung der Mitwirkenden, dokumentierte Pitch-Historien, die Prüfung von Verfassern, die in mehreren Verkaufsstellen in kurzen Zeitfenstern erscheinen, und Provenienz-Tools, die Einsendungen mit überprüfbaren Identitäten verknüpfen.

Auch die Ökonomie spielt eine Rolle. Ein Vorgang, für den früher ein Team von Autoren erforderlich war, kann jetzt von einem kleinen Team unter der Leitung eines Chatbots durchgeführt werden, wobei das Modell alles von der Übersetzung bis zur Tonanpassung an den Hausstil einer Zielpublikation übernimmt. Der Bericht von OpenAI legt nahe, dass die Hürde für die Durchführung einer Multi-Persona- und Multi-Outlet-Placement-Kampagne so weit gesunken ist, dass ein Leihgeschäft dies als kommerzielle Dienstleistung durchführen kann.

Bei keinem der in der Berichterstattung genannten Medien handelte es sich um große Mainstream-Nachrichtenorganisationen, aber einige hatten ein echtes Publikum. Das ist der Punkt, sagen Forscher: Durch die Platzierung in einer glaubwürdigen Publikation gelangt eine Botschaft durch Syndizierung, Aggregation und Suche in eine größere Verbreitung – genau das hat die Kampagne erreicht, bevor sie unterbrochen wurde.

---

Bleib vorne bei KI

Die neuesten KI-Nachrichten, Analysen und Durchbrüche – alles an einem Ort.

Mehr KI-Nachrichten lesen →