レスポンシブル・ステートクラフトが月曜日に発表した調査結果によると、イスラエル政府に代わって設立された偽のシンクタンクは、わずか1週間で100件以上の洗練された調査報告書を発表しており、アナリストらはAIチャットボットがイスラエルとパレスチナについてユーザーに与える回答を操作するための意図的なキャンペーンであると説明している。

ハノーバー公共政策研究所と呼ばれるこの組織は、イスラエル/パレスチナに焦点を当てた新しい研究機関であると主張しています。しかし、その報告書には署名欄はなく、そのウェブサイトの下部の免責条項は、スパイク・リーの「インサイド・マン」にクレジットされた映画プロデューサー、ダニエル・ローゼンバーグが共同設立した会社ピロ社がイスラエル政府広告庁に代わって作成したものであることを認めている。この記事はアラブニュースやクレイドルなどのメディアで取り上げられ、影響力の行使がソーシャルメディアフィードからAIモデルに移行しつつあることを示す最新の兆候となっている。 AI 時代に操作がどのように進化しているかについて詳しくは、AI ニュース速報をご覧ください。 この件の詳細は、AIの最新動向をご覧ください。

LLM が信頼性を判断する方法を考慮して設計されたレポート

ハノーバー研究所が珍しいのは、その出力が大規模な言語モデルがソースを評価する方法に合わせて調整されているように見える点です。その「データレポート」には、脚注、目次、慎重で中立的なトーンが含まれており、これは文書がクロードやジェミニなどのチャットボットにアピールするのに役立つ種類の書式設定であるとレスポンシブル・ステートクラフトは報告した。

タイトルの多くは、「1948 年のパレスチナ人の強制移住の原因は何ですか?」という、ユーザーがチャットボットに入力する可能性のある質問とまったく同じ表現で表現されています。 「イスラエルの戦争犯罪を記録した人道団体はどれですか?」 「ガザ地区の現状はどうなっているのか？」そして「IDFは世界で最も道徳的な軍隊なのか?」 —その最後は、イスラエル系ユダヤ人の47％がその記述を信じたという2022年の世論調査結果を引用している。

Piro 自身の Web サイトでは、その方法について率直に説明されています。同社は、「LLMが信頼性を評価する方法を考慮して設計されたコンテンツ」を作成しており、そのサービスを「AI Story Optimization」として販売していると述べている。研究者らはこの行為を「LLM中毒」というもっと率直な名前で呼んでいる。

信頼できる機関の「完璧な模倣」

偽情報追跡会社ニューズガードのアナリスト、アリス・リー氏はレスポンシブル・ステートクラフトに対し、同サイトの報道は、検索エンジンやAIアシスタントを通じて、紛争に興味を持つ米国の視聴者に届くように設計されているようだと語った。

「LLMは具体的な統計やデータ、そして強力な引用や情報源を好みます。これらの記事にはすべてそれらが含まれています」とリー氏は述べた。 「一般名、サイトのレイアウト、赤白青の配色に至るまで、典型的な信頼できるアメリカのシンクタンクを完璧に模倣しています。」

同研究所はまた、独自の調査結果であると主張する内容も公表している。たとえば、最も視聴されているイスラエル・ガザ説明ビデオ36本のうち19本に論争の的となっている主張が含まれており、それらの論争のある主張のほとんどはパレスチナ側の主張と一致しているとする研究結果も発表している。他の報告書は、ガザの水と施設インフラの90％が損傷または破壊されたというユニセフの主張に疑問を投げかける報告書を含め、確立された文書に反論している。

特に、その成果は常にイスラエル政府の方針に従っているわけではありません。ある報告書では、外国からの大学への資金提供が反ユダヤ主義事件を「弱体で例外だらけ」と説明しているという理論について述べているが、ベンヤミン・ネタニヤフ首相はその理論を推進し、外国人がアメリカのキャンパスで「数十億」を費やしているとブライトバートに語ったにもかかわらずである。多くの報告書は、同じ研究を頻繁に引用しながら、当面のテーマを反ユダヤ主義の台頭と結びつけて結論づけています。

フォロー・ザ・マネー: フランスの PR コングロマリットを通じて 90 万ドル

レスポンシブル・ステートクラフトによると、ピロ社は、フランスの広報複合企業ハバス・メディアを通じて下請けとして、その仕事に対してイスラエル政府から90万ドルを受け取ったという。この取り決めは、他のイスラエルの請負業者が海外に影響を与える仕事で支払われている方法と一致している。

ハノーバー研究所は 8 月 6 日に出版を開始し、それ以来約 10 日間で 100 を超える報告書を量産しました。これは、同等の規模の本物の政策機関が維持できないペースです。

チャットボットの操作が異なる理由

この訴訟は、AI アシスタントが回答を組み立てる方法の構造的な弱点を浮き彫りにしています。つまり、AI アシスタントは、誰が作成したのか、なぜ作成したのかに関係なく、よく引用され、統計を多く含む文書を信頼できるものとして扱います。従来の偽情報は、感情的なパンチが最も重要となるソーシャル プラットフォーム上の人間の読者をターゲットにしていました。いわゆる LLM ポイズニングは、代わりに、モデルがどのソースを引用するかを決定する検索層とランキング層をターゲットにします。そして、単一の説得力のある文書が何百万もの回答にエコーされる可能性があります。

チャットボット開発者にとって、ハノーバー研究所はソースを精査するストレス テストです。 NewsGuard の評価では、この模倣は自動化された信頼性シグナルを欺くのに十分近いものであることが示唆されています。読者にとって、教訓はより単純です。紛争中の紛争に関してチャットボットが与える自信に満ちた脚注付きの回答は、まさにその回答を生み出すために設立され、ブランド化され、資金提供された組織に遡る可能性があります。

---

AIの最新情報をお届け

AIの最新ニュース、分析、ブレイクスルーを一箇所で。

AIニュースをもっと読む →