先週初めて暴露されたこの偽米国シンクタンクは、ガーディアン紙によって定量化された。9日間で124件の報告書と56万語が、AIチャットボットが引用できるようコンテンツを最適化することを約束する商用プラットフォーム上に構築され、米国司法省の提出書類にはイスラエル政府の資金提供の痕跡が記録されている。これは、AI 回答層そのもの、つまり読者ではなく、ますます彼らの代弁者となるモデルをターゲットにしている国家関連の攻撃者のこれまでで最も明確な公の例です。これは、チャットボットの操作が産業化されるにつれて、私たちの AI 業界の報道 が追跡するようなストーリーです。 (このサイトの最初の発見についてはこちらで取り上げました。)

存在しないシンクタンク

このサイトはハノーバー公共政策研究所の名前で公開されています。ガーディアン紙のジェイソン・ウィルソン氏によると、この研究所は明らかにどの管轄地域にも法人として存在しておらず、物理的な住所も持たず、指名されたスタッフも報告書にも署名欄もありません。独自の利用規約は、「研究所が設立された州」の法律に準拠します。この文書では州の名前は明かされていません。

生産規模は工業用でした。 8 月 6 日から 8 月 14 日までに、ハノーバー研究所は合計 560,000 ワード以上、各平均約 4,500 ワードに及ぶ 124 件のレポートを発表しました。 8 月 12 日と 13 日だけで、ほぼ 354,000 ワードに相当する 73 件のレポートが作成されました。このサイトに関する最初のメディア報道が出て以来、何も発表されていません。

チャットボット応答レイヤー向けに設計

この作戦が斬新である点は、その標的を定めていることだ。 124 の見出しのうち、1 つを除くすべての見出しは、ユーザーがチャットボットに入力するような質問で始まります。「反シオニズムは反ユダヤ主義ですか?」「イスラエルはパレスチナ人を土地から追放しましたか?」「イスラエルはガザで大量虐殺を行っていますか?」報告書は、パレスチナ捕虜の拷問、戦争犯罪、ガザ地区での飢餓に関するイスラエルの立場を、機械による回収を目的とした中立的な研究として提示している。

メカニズムは公式文書に文書化されています。ニューヨークのメディア制作会社ピロ社は今月、外国代理人登録法（Fara）（外国政府への仕事の開示を義務付ける1938年の法律）に基づき、イスラエル政府向けに配布する資料として同サイトを米司法省に登録した。ガーディアン紙の報道によると、この取り組みはイスラエル政府から数千万ドルの資金提供を受けており、ヨーロッパの広告グループHavas Mediaを含む第三者を通じて行われている。ハバスとこのキャンペーンに取り組む別のアメリカ企業との間の契約では、「GPT会話でGPTフレーミング結果を提供するためのウェブサイトとコンテンツの展開」が約束されている。

8月14日にこのサイトの存在が最初に報じられた後、同研究所はひっそりと資金提供ページを追加し、「このページの以前のバージョンでは、研究所は外部資金なしで運営されていると書かれていたが、それが書かれた時点ではそれは事実だった」との明らかな訂正を行った。ガーディアン紙は、Piro Inc、Havas Media、イスラエル政府の広告代理店LaPamにコメントを求めた。

チャットボットが新たな戦場となる理由

この戦略はマーケティング業界では生成エンジン最適化 (GEO) という名前で知られており、検索エンジン最適化の後継分野です。チャットボットが質問に答えるときは、トレーニング コーパスと検索ソースを利用します。ボリュームがあり、質問形式で、信頼できる研究としてスタイル付けされたコンテンツは、表面化され、引用され、モデルの回答に組み込まれる可能性が高くなります。偽のシンクタンクは、GEO の理想的な成果物に近く、機関のない機関の信頼性です。

このタイミングには、洗練さだけでなく絶望感も反映されています。ガーディアン紙は、このキャンペーンは米国世論におけるイスラエルの地位が崩壊し、海外での「ハスバラ」パブリック・ディプロマシーに費やされた資金が無駄になっているとイスラエル当局者が報道機関に説明している中で行われたと指摘している。

ハノーバー研究所は特別なケースではありません。ガーディアン紙が調査結果を発表したのと同じ日、OpenAIは、AIを利用した新たな秘密のロシア影響力キャンペーンを妨害したと発表した。これは、同社が国家関連の行為者によるものとしている一連の削除の最新のものである。 2 つの別々の操作、2 つの大陸、1 つの洞察の共有: モデルに影響を与えることは、人々に直接影響を与えるよりも安価で耐久性が高くなります。

ガバナンスのギャップ

規制当局にとって、この事件は既存の枠組みの穴を露呈させることになる。ファラの開示により、この操作は紙面上で把握されましたが、それはコンテンツが実際に公開され、取り込まれた可能性があった後でした。 EU AI 法の透明性規定と、トレーニング データの出所を管理する自主的な枠組みは、チャットボットを通じて国民の信念にたどり着くための最も安価な道が実現する世界向けに設計されたものではありません。

AI ラボにとって、運用上の問題は差し迫ったものです。検索システムとトレーニング パイプラインは、研究と研究服を着たコンテンツ ファームをどのように区別するのでしょうか。ボリューム、フォーマット、自信に満ちた引用、つまり権威のシグナルは、まさにハノーバー研究所が大量生産したものです。モデルの出自が改善されるまでは、50 万語がすでに世に出ており、事実が思い出されても開示が提出されることはありません。

---

AI の先を行く

最新の AI ニュース、分析、画期的な情報をすべて 1 か所で入手できます。

AI ニュースをもっと読む→