OpenAIは木曜日、地政学的なプロパガンダを現実のメディアにマネーロンダリングすることを目的とした洗練された「偽のフロント」組織をChatGPTを使って運営する2件の秘密影響力作戦（1つはロシア発、もう1つはイラン発）を禁止したと発表した。同社は、ロシア発のキャンペーンは、2年半前に脅威レポートを発表し始めて以来、同社が妨害した最も広範な影響力作戦であると述べた。

OpenAIのWebサイトで公開されたこの開示は、国家と連携した関係者が商用AIモデルをどのように悪用しているかに関する一連の報告書の最新のエントリーである。また、最新の AI ニュース速報 のまとめで指摘したように、OpenAI が 2024 年初頭以来暴露してきた 30 件の秘密工作全体で観察したパターンも強調しています。つまり、本物の出版物にコンテンツを掲載することに成功したキャンペーンは、偽のソーシャル メディア アカウントに依存するキャンペーンよりもはるかに多くの視聴者にリーチします。

最初のカテゴリ 5: 作戦「ダーク クラーク」

OpenAIが「ダーク・クラーク」と名付けたロシアの作戦は、社会調査センター（SRC）と呼ばれるラテンアメリカの自称研究組織を中心としていた。 OpenAIによると、運営者らは「ミア・クラーク」という名の捏造された人物を通じてシンクタンクをコントロールし、一方中南米の現地従業員はロシアのグループで働いていることを知らずに面接を行い、研究論文の草稿を作成したという。

OpenAI は、ブルッキングスで開発された影響力作戦の潜在的な範囲を 1 から 6 で評価するブレイクアウト スケールを使用して、ダーク クラークをカテゴリー 5 で評価しました。これは、報告が開始されて以来、どの作戦にも割り当てられた最高の評価です。イラン発のキャンペーンはカテゴリー 4 に達しました。

OpenAIによると、オペレーターによるChatGPTの使用量の多くは未知のハンドラーへの内部報告に含まれており、ウクライナを中傷し、ウクライナ軍の募集を弱体化させ、アルゼンチンとボリビアの内政に干渉するキャンペーンについて説明した。オペレーターは主にロシア語でプロンプトを出し、サービスへのアクセスには VPN を利用していたため、ロシアからのトラフィックはブロックされていました。

OpenAI の研究者は、この作戦が主張するキャンペーンのいくつかをオープンソースを通じて裏付けました。そのうちの1件には、リマの地域教育局から送信されたと称する偽メールが含まれており、ペルーの首都の学校に対し、国家多様性の日に物議を醸しているウクライナの民族主義者ステパン・バンデラを称えるイベントを開催するよう指示していた。ペルーとポーランドの報道機関はその後の論争を報道し、ポーランドの欧州議会議員の発言が報道の中で引用された。エクアドルでは、オペレーターが偽の電子メールアドレスを使用して学校を騙し、ダニエル・ノボア大統領と元ブラックウォーター会長エリック・プリンスへの忠誠を誓わせた。このスタントはメディアで取り上げられ、エクアドル教育大臣からの公の場での反論を招いた。

この作戦はまた、ボリビア国営水道会社EPSASの労働者によるものとされ、政府がラパスへの供給を削減すると主張したものや、エクアドルのウクライナ領事によるものなど、捏造された音声録音も拡散させた。両国のファクトチェッカーはこの主張の誤りを暴いた。オープンソースの研究者らは以前、同様の活動を、故エフゲニー・プリゴジン氏の活動の後継者とされる団体「ポリトロジー」や「ラ・コンパニア」と関連付けており、運営者自身の報告書では、アルゼンチンのハビエル・ミレイ大統領をターゲットにしたキャンペーンが行われていると主張しており、その公開報告書と一致している。

7人の偽ジャーナリスト: 「偽の署名欄」作戦

イランの作戦は別のルートでメディアエコシステムに侵入した。ペルシア語でChatGPTを開発した運営者らは、このモデルを利用して米国とイランの紛争に関する英語の長文記事を改良し、アービン・B・ホスキンス、ノア・ラミントン、ソフィア・ゴンザレス、マイケル・ハリソン、エリカ・フュージエ、ジェニー・ウィリアムズ、アリス・ジョンソンという7人の捏造ジャーナリスト役を使って中小規模のオンラインメディアの編集者に記事を売り込んだ。

OpenAI は、世界中の約 12 の媒体でこれらの署名欄に基づいて発行またはシンジケートされた 100 近くの記事を特定しましたが、そのほとんどが国際情勢と中東に焦点を当てていました。この作戦ではソーシャルメディアのコメントも大量に生成されたが、OpenAIは、これらは実際の関与をほとんど示さなかったと述べ、運営者が内部報告書で偽の計算を使用して、見かけ上のソーシャルメディアへの影響を誇張したと指摘した。同社は、この活動は、営利目的の影響力キャンペーンを実施している商業俳優と一致しているようであり、関連当局と情報を共有したと述べた。

古い工芸品、新しいツール

研究者が最も衝撃を受けたのは、両方の作戦がAI以前の時代から影響を与えたキャンペーンにどれほど酷似しているかである、とOpenAIは書いている。偽ジャーナリストのペルソナは、2016年と2017年に西側報道機関に論説が掲載されたロシア軍事諜報機関の架空の記者「アリス・ドノバン」に家族に似ている。SRCの無知な現地スタッフは、2020年に本物のジャーナリストを騙した偽ニュースサイト「ピースデータ」を真似ている。

AI がこれらの技術を発明したのではありません。AI はそれらの技術をより安く、より速く、より流暢に行うようになりました。オペレーターはモデルを使用して、地域の語彙や組織のスタイルに合わせて偽物を調整し、スクリプトを地域のスペイン語に翻訳し、編集者向けに洗練された売り込みメールを作成しました。しかし OpenAI は、偽表活動の秘密で個人対個人の性質により、暴露されやすくなると主張した。アリス・ドノバンとピースデータの両社は、名前が公表された後に閉鎖された。

慎重に証拠を読む

OpenAI は、自身の調査結果を慎重に警告しました。運営者らは日常的に、自分たちとは何の関係もないイベントの功績を主張しており、彼らが植え付けたと報告した偽物の一部はオープンソースでは見つからなかった。 OpenAIが事実確認、公式の否定、オペレーターの説明と一致する出版記事を通じて検証できたことは、少なくとも4か国でメディアと政治的言説が真に浸透していることを示唆している。

AI 業界にとって、この報告書は、偽情報におけるモデルの最も効果的な使用法は、内部報告書の草案、ピッチの調整、翻訳の磨き上げなど、最も目立たないものであることが多いことを思い出させるものです。 OpenAI の以前の事例が示したように、これらのキャンペーンを検出するのに最適なエンティティは、多くの場合、キャンペーンを実行するために独自のツールが使用されているプラ​​ットフォームです。

---

AI の先を行く

最新の AI ニュース、分析、画期的な情報をすべて 1 か所で入手できます。

AI ニュースをもっと読む→