アメリカ国民が火曜日の中間選挙の投票に向かう中、OpenAIとAnthropicの両社は、自社のAIプラットフォームが正確な選挙情報を提供できるようにするため、専用の「作戦室」を運営しているとSemaforは報じた。これは両社にとって初めてのことだという。この動きは不快な現実を認めている。増え続ける有権者にとって、チャットボットやAI検索ツールは、いつ、どこで、どのように投票するかについて基本的な質問をする主な手段となっている。

作戦室のコンセプトは、初期の時代のプラットフォーム政治から借用したものです。その始まりは、選挙関連の誤った情報の拡散が懸念される中、メタが最初のそのようなチームを立ち上げた 2018 年に遡ります。それ以来変化したのは脅威モデルです。AI 時代によりこれらのリスクが増大し、現在ではディープフェイク動画や AI を活用した検索結果が誤った情報を自信を持って広めています。 選挙シーズンの AI ニュース報道 では、AI と中間選挙の交差点を 1 日を通して追跡しています。

両 AI ラボにとって初の試み

Anthropic は Semafor にその設定を確認しました。アンスロピックの広報担当者は、「全社のチームが一年中、選挙関連の安全策の強化と政策の執行に取り組んでいる」と述べた。 「選挙に先立ち、私たちはプラットフォームの悪用を監視する専用の作戦室を設け、あらゆる事件に迅速に対応する準備を整えています。」

その構造は単純だが要求が厳しい。スタッフはクロードやその他のツールが選挙の質問にどのように対応するかを監視し、生成された偽情報などの悪用パターンを監視し、数日ではなく数時間以内に解決する必要があるインシデントに対して迅速な対応プロセスを維持する。一方、NBC Newsは読者をOpenAIの並行選挙作戦室に案内し、同社が中間選挙へのAIの影響にどのように備えているかを調査した。

両社がこの機能をゼロから構築する必要性を感じていたということは、この問題がいかに新しいものであるかを物語っています。 2018年、プラットフォームは主にユーザーが投稿した内容を懸念していました。 2026 年には、彼らは自分たちのモデルが何を言っているかについても心配しなければなりません。

AI の回答が最悪の場合に間違った場合

賭け金は仮説ではありません。セマフォー氏は、先週の一件を指摘した。GoogleのAIモードは、2020年の選挙で誰が勝ったのかという質問に答えなかったが、これは最近のアメリカ政治史の中で最も多く質問され、最も解決された質問の1つである。 Googleはこの問題の解決に取り組んでいると述べた。

故障モードは有益です。 AI システムは、答えるべき質問を拒否することもあれば、拒否すべき質問に答えることもあります。両方のエラーは、まさに世間の注目とクエリ量が最も高まるときに急増します。過去の選挙に関する事実に関する質問を拒否する AI アシスタントは、信頼を確立しようとすると同時に信頼を損なうことになります。

より広範な懸念は、単一の誤った回答にとどまりません。今週発表された外交問題評議会の分析は、AIチャットボットが影響力のあるキャンペーンに新たな信頼性を与える可能性があると警告した。なぜなら、冷静で自信に満ちたアシスタントのような声で伝えられる誤った情報は、党派的なウェブサイトでは決して得られない中立のオーラを受け継いでいるからだ。

「予測できない事態に対処するために構築」

なぜ選挙前の検査に頼るのではなく、ライブの作戦室を維持するのでしょうか?元メタの公共政策ディレクターで、現在はテクノロジーと民主主義の問題に取り組んでいるケイティ・ハーバス氏は、その論理をSemaforに説明した。作戦室は「必ずしもうまくいかないことが予測できない事態に対処するために作られており、トリアージに関しては迅速で確立されたプロセスが必要だ」と彼女は述べた。

セマフォー氏は、AIの不安定な性質、業界に影響を与えている最近のサイバーセキュリティ問題、ユーザーが見たい答えをAI検索ツールが反映する傾向、つまり論争の的となっているトピックに対する人々の理解方法を静かに歪める可能性があるお調子者問題によって、その予測不可能性がさらに悪化していると指摘した。

選挙日はストレステストです。投票所、候補者の順位、結果に関する問い合わせの量は、選挙前評価が完全にシミュレートできないレベルまで急増します。作戦室が存在するのは、これらのシステムがその負荷の下でどのように動作するかを知る唯一の方法が、問題を迅速に修正する権限を持ってリアルタイムで監視することであるためです。

結果が出たら何に注目するか

選挙の夜を通じて、たとえタイミングが合わなくても、プレッシャーポイントはカテゴリー内で予測可能だった。レースが正式に呼ばれる前に結果とマージンについてAIが回答し、混乱が最大限に高まるタイミングでディープフェイクが行われ、チャットボットの悪質な回答のスクリーンショットが修正よりも早く拡散した。 OpenAI、Anthropic、Google のシステムがどれだけ早く適応するかが、今回の選挙の情報環境だけでなく、次の選挙の管理方法を形作ることになります。

AI 業界にとって、より詳細なテストは評判につながります。今週、何百万人もの有権者が、一か八かの市民的文脈で初めてこれらのシステムを操作することになります。選挙で正しい答えを得た企業、あるいは目に見えてすぐに答えを修正した企業は、マーケティングキャンペーンでは買えないような信頼を獲得することになる。

---

AI の先を行く

最新の AI ニュース、分析、画期的な情報をすべて 1 か所で入手できます。

AI ニュースをもっと読む→