OpenAIは木曜日、ChatGPTを利用して、AIが生成したほぼ100の記事を、米国の複数の報道機関を含む世界中の本物の出版物に偽の西側ジャーナリストの署名欄の下に置くというイラン関連の影響力作戦を妨害したと発表した。

OpenAIが「偽戦線」作戦と呼ぶこのキャンペーンは、同社が10月8日に発表した報告書と、ワシントン・ポスト、CNN、NPR、ラジオ・フリー・ヨーロッパ/ラジオ・リバティによるフォローアップ報道で詳述されている。これは、外国の影響力ネットワークがプロパガンダの草案を作成するだけでなく、正規のメディアに掲載する編集ワークフロー全体を管理するために主流の商用チャットボットを使用している、これまでに文書化された最も明確な事例の 1 つです。 この件の詳細は、人工知能の最新情報をご覧ください。

存在しなかったジャーナリスト

作戦の中心には、アメリカのフリージャーナリストとして登場したアービン・B・ホスキンスという人物がいた。 RFE/RLによると、ホスキンスのものとされる記事は、現在進行中のイランとの紛争において米国を侵略者に仕立て上げ、イスラエルを信頼できない同盟国として描き、イランを反抗的な弱者として組み立てている。 OpenAI が認めたように、ホスキンスは存在しなかった。

彼は、オペレーターが記事の売り込みや掲載に使用していた、全員が西側諸国出身であると称する 7 人の捏造ジャーナリストのペルソナのうちの 1 人でした。 OpenAIは報告書の中で、「世界中の約12のオンライン媒体で、この作戦の署名欄に基づいて出版またはシンジケートされた約100の記事を特定した」と述べ、標的は一般的に国際情勢、地政学、中東に焦点を当てている中小規模の媒体であると説明した。

このキャンペーンの米国メディアへの浸透を最初に報じたワシントン・ポスト紙は、フロリダ州の小さな週刊誌が偽の論説の1つを掲載したことを発見した。報告された他の掲載箇所には、ミドル・イースト・モニターなどの報道機関が掲載され、同モニターは問題の記事を削除し、投稿プロセスを見直しているとCNNに伝えた。

ChatGPT の使用方法

OpenAIの開示によると、オペレーターは掲載パイプライン全体にわたってペルシャ語と英語の両方でChatGPTを使用していた。つまり、長文記事の下書きの編集、個々の出版物の編集要件に合わせたピッチの調整、編集者へのアウトリーチメールの準備、独立した読者の反応のように見えるように設計されたソーシャルメディアコメントのバッチの生成である。

研究者らによって追跡された一例は、オレゴン平和研究所が運営する論説配信サービス、ピースボイスによって6月12日に出版された「ジャレッド・クシュナーとアメリカのイラン戦略の民営化」と題された論説だ。 RFE/RL によると、翌日、同じ記事が CounterPunch と LA Progressive によって再掲載されました。

OpenAIは、今年初めに米国とイランの間の紛争が始まってから出版活動が増加したと述べた。 CNNの報道によると、同社はキャンペーンに関与したChatGPTアカウントを禁止し、外部の編集媒体にコンテンツを掲載するこの作戦の能力を6段階の影響力作戦スケールでカテゴリー4と評価したと発表した。

帰属はオープンのままです

特に、OpenAIは、キャンペーンの背後にある特定の主体を特定できず、イラン政府からの指示も確認できなかったと述べた。 CNNが報じたところによると、その評価は、国が直接運営するものではなく、営利的な、雇われの影響力作戦であることを指摘しており、その構造が原因の特定を難しくし、混乱を決定的にしにくいものとなっている。アカウントを禁止すると、OpenAI が観察できる内容が中断されました。より広範なネットワークが解体されたことは証明されていない。

2023年から2025年まで国家情報局の外国悪影響センター長官室を率いていたジェシカ・ブラント氏はCNNに対し、この作戦は外国の関係者が自らの関与を隠蔽し、本物のチャンネルを通じてメッセージをルーティングするのにAIがどのように役立つかを示したと語った。

OpenAIがフラグを立てた活動はイランのキャンペーンだけではなかった。 The Record from Recorded Future Newsが報じたように、同社の報告書はChatGPTを利用したロシア関連の影響力活動の妨害についても取り上げている。これとは別に、RFE/RLは、Anthropicが以前、反体制派のプロパガンダや監視にクロード・モデルを悪用しようとするイランの取り組みを妨害したと指摘した。

出版物はもはや著者であることを証明するものではありません

報道機関にとって、この事件は不快な真実にたどり着く。署名欄、一貫したビート、もっともらしい伝記、そして洗練されたピッチは、もはや寄稿者の存在を示唆するものではない。フリーランスの投稿に依存している編集者、特に論説デスクや解説デスクは、意図的に外部の視点を公開するものですが、現在、スパムフィルターや文章品質のヒューリスティックでは解決できない検証の問題に直面しています。

レポートの報道で示された実際的な対応には、より強力な寄稿者の認証、文書化されたピッチ履歴、短い期間で複数の媒体に掲載される署名欄の精査、投稿を検証可能な身元に結び付ける出所ツールが含まれます。

経済性も重要です。かつてはライターのスタッフが必要だった業務を、チャットボットを指揮する少人数のチームによって実行できるようになり、モデルは翻訳から対象出版物のハウススタイルに合わせたトーンマッチングまですべてを処理します。 OpenAIのレポートは、複数のペルソナ、複数の店舗での掲載キャンペーンを実行する障壁が、レンタルショップが商用サービスとして実行できるところまで下がったことを示唆している。

報道で名前が挙がった報道機関はいずれも大手主流報道機関ではなかったが、実際の視聴者を乗せた報道機関もいくつかあった。研究者らによれば、それが重要な点だ。信頼できる出版物に掲載されると、メッセージはシンジケーション、集約、検索を通じてより広範囲に流通することになる。これはまさに、キャンペーンが中断される前に達成したことだ。

---

AIの最新情報をお届け

AIの最新ニュース、分析、ブレイクスルーを一箇所で。

AIニュースをもっと読む →