OpenAI、偽の国際バーク研究所シンクタンクの背後にあるロシアのChatGPTアカウントを禁止

OpenAIは火曜日、秘密のオンライン影響力キャンペーンを支援するために使用されたロシア発のChatGPTアカウント群を禁止したと発表した。このキャンペーンは、著名な学者との提携を捏造し、その公開資料の大部分を盗用した国際バーク研究所と呼ばれる架空の研究組織を中心に構築された活動である。

同社は「ロシアからの新たな秘密影響力キャンペーンの妨害」と題したブログ投稿で削除を明らかにし、その結果はCNBCとQuartzによって報道された。 OpenAIによると、これらのアカウントは、ウェブサイトにイスラエルの住所を掲載し、2025年2月に登録された自称「専門家コミュニティ」である国際バーク研究所（IBI）を宣伝するために使用されたという。 この件の詳細は、AIニュースをご覧ください。

存在しなかったシンクタンク

この作戦の目玉は、制度上の正当性を明らかにすることであった。 OpenAIによると、IBIのウェブサイトは、フランシス・フクヤマ氏やノーム・チョムスキー氏などの著名な学者を特集していると誤って主張していた。同社は、サイトに掲載されている専門家にリンクされ、2025年9月から2026年5月までに公開された36件の記事を調査したところ、34件がインターネット上の他の場所からコピーされたもので、場合によっては出所が間違っていることを発見した。

このキャンペーンの中心的な特徴は、西側諸国を批判しながらロシアに好意的な見方をするよう設計された指標で各国をランク付けする「主権指数」だった。 OpenAIによると、フランス、ドイツ、米国、欧州連合をターゲットにした報道が論争に発展したという。米国に関するある記事には、「トランプ氏は世界第1位の主権指数を持って[北京に]到着し、[...]自治権の自発的削減とみなされるいくつかの措置を講じた後に去った」と書かれていた。

操作の仕組み

OpenAIは、偽装にもかかわらず、アカウントはロシアから発信された可能性が非常に高いと評価したと述べた。ロシアからのモデルへのアクセスに対するOpenAIの禁止を回避するために、通信事業者はVPN経由で接続をルーティングしたと同社は述べた。彼らはロシア語で作業し、ChatGPT を使用して Substack、Telegram、X、Facebook、LinkedIn に掲載されるソーシャル メディア コンテンツの草案を作成し、AI が生成した起源を裏切る可能性のあるテキストの特徴を取り除くようモデルに指示しました。生成されたコンテンツのほとんどは英語で書かれており、この選択は、この作戦がロシア国内の読者ではなく西側の視聴者をターゲットにしていたことを示唆しています。

作戦は英語コンテンツだけにとどまりませんでした。ある運営者は、「ラーメ・エンテ」（ドイツ語で「レームダック」を意味する）と呼ばれる電報チャンネルにドイツ語の投稿を生成し、ウクライナ、欧州連合、ドイツ政府を批判する一方、ロシアとの緊密な関係を主張した。 2人目の通信事業者は、ドイツ、米国、フランス、ポーランド、トルコに焦点を当てた約12のテレグラムチャンネルのロゴを作成し、その活動のロシア語での概要を要求した。

範囲は限られているが、驚くべき青写真

従来のエンゲージメント指標によれば、このキャンペーンは成功とは言えませんでした。 OpenAIは、ソーシャルメディアの投稿のほとんどが閲覧数が低く、公式IBIアカウントの購読者がほとんどおらず、関連するTelegramチャンネルにはそれぞれ1万人から2万人のフォロワーが集まっていることを認めた。

しかし同社は、作戦の重要性は作戦の範囲内にあるのではなく、作戦担当者が構築した装置にあると主張した。 ChatGPT で作成された投稿は、物理的な住所、専門家名簿、および安定した出版物を備えた、合法的な研究機関のように見えるものに読者を誘導しました。 OpenAIによれば、その構造は、AIツールがいかにして悪役が組織的信頼性を捏造し、好まれる物語の真の情報源を曖昧にし、かなり大規模化する可能性のある作戦の基礎を築くのに役立つかを実証しているという。

AI が生み出す影響力をめぐる広範な戦い

この削除は、OpenAIが国家関連の脅威アクターが関与していると発表した一連の混乱の最新のものであり、影響力活動がソーシャルメディアフィードからAIシステム自体に野心を移しているという証拠が増える中で行われた。 8月初め、レスポンシブル・ステートクラフトによる別の調査では、AIチャットボットがイスラエルとパレスチナに関して与える回答を操作する明らかな目的で、偽シンクタンクが1週間に100件以上の報告書を発表していることが文書化された。

これらの事件は共に、新たな戦略を描いています。オペレーターは、人間にメッセージをプッシュするだけでなく、その出力が引用され、収集され、AI モデルに吸収される偽の組織を構築しており、人々が情報に出会う方法をますます仲介しています。

AI企業にとって、この意味は不快なものだ。大規模な言語モデルを有用なものにするのと同じ特性、つまり流暢な多言語の草稿、低コスト、精力的な出力により、言語モデルはロンダリングされたプロパガンダにとって魅力的なインフラストラクチャとなります。この件に対する OpenAI の対応は、コンテンツ レベルの削除、つまりアカウントの禁止、戦術の指名、および操作の仕組みの公表でした。

このような開示が、記載されている運用と歩調を合わせられるかどうかは、依然として AI 時代のセキュリティ上の中心的な問題の 1 つです。火曜日の報告書が明らかにしたように、説得力のある偽機関を構築するコストは劇的に下がっている。そして、偽機関を検出するのに最適な立場にある組織は、偽機関を構築するためにモデルが使用されているまさに企業である。

---

AIの最新情報をお届け

AIの最新ニュース、分析、ブレイクスルーを一箇所で。

AIニュースをもっと読む →