メタ氏は、ノー・キングス連合のインスタグラムのメインアカウントが不当に停止されたのは、アンスロピックのクロードに関連した人工知能ツールのせいだと非難しており、このミスにより、11月の中間選挙に向けて期日前投票率を高めることを目的とした全国規模の行動日中に、抗議運動のソーシャルメディアでの存在感が数時間にわたってオフラインになった。

土曜午後から始まった停止は、当初は日常的な自動保護機能が原因だったと考えられていた。翌日、Meta は別の、より珍しいアカウントを提供した。ブルームバーグとガーディアンの報道によると、同社のエンジニアは、Anthropic のクロードに接続されたツールが通常の約 4 倍のペースでアカウントから投稿、プロフィール、ハッシュタグを取得していることを発見した。これは、Meta のシステムが自動化されたボットのアクティビティと誤認し、アカウントを停止することで対応したトラフィック パターンである。 この件の詳細は、人工知能の最新情報をご覧ください。

国家行動デーにおける数時間の沈黙

ロックアウトはこれほど敏感な時期に行われたことはないだろう。ディープ・ダイブ紙が引用した数字によると、土曜日、主催者は全米で約3,000回の「ノー・キングス：早期投票」イベントを開催した。ディープ・ダイブは、近年数百万人のアメリカ人を街頭に集めている民主化運動の一環である。

管理者は午後 1 時 30 分頃にアカウントにアクセスできなくなりました。イースタン紙、連立政権の報道官が語った。アカウント自体は約 90 分後に再び公開されましたが、その背後にいる人々は 4 時間近くバックエンドからロックされたままとなり、午後 5 時 33 分に完全なアクセスを取り戻しました。東部。

組織団体「インディヴィジブル」の共同創設者エズラ・レビン氏は、この状況を率直に語った。 「彼らはそれを停止した。私たちはそれにアクセスできなかった」と彼は言った。

メタの説明が 2 回変更されました

メタ社の最初の公の反応は土曜日に行われ、広報担当者のアンディ・ストーン氏がXに、プラットフォームの自動化システムは「アカウントが非常に高い頻度で投稿、共有、コメントするときに」機能することがある、と書いた。同氏は「自動化された措置は明らかに誤って行われた」と認め、「現在はすべて正常に機能しており、心よりお詫び申し上げます」と付け加えた。

同社は日曜日までに出来事の報告を修正した。ストーン氏は長い声明の中で、プロフィール、投稿、ハッシュタグを「集中的に」読み取る大量のアクティビティにより、メタのAIツールがトラフィックを自動ボットとして分類したと述べた。 「この行為により、当社の自動保護機能が誤ってNo Kings Instagramアカウントをオフラインにしてしまいました」とストーン氏は述べ、管理者アクセスの解除にはさらに時間がかかったが、1時間後の自動再審査で間違いが認識され、アカウントが復元されたと指摘した。

クロード氏との関係は、日曜日にブルームバーグによって初めて報じられた。メタ社は、誰がツールを操作していたのか、なぜアカウントにこれほど積極的にクエリを行ったのかについて説明していない。同社は公式声明でその質問に回答しなかった。

主催者は回答が不適切だと主張

連合はボットトラフィックの説明に納得していなかった。同団体は日曜日のインスタグラムへの投稿で、活動当日にメンバーが「数回投稿しただけで、数千人にライブストリーミングした」と述べたが、これは自動スパム活動とは程遠いものだった。

「私たちはアカウントへのアクセスを取り戻したが、メタ社にはまだ説明の義務がある」とノー・キングス連合は書いている。 「選挙の最中に投票に関する通信を制限することは容認できない。」

このエピソードはすぐに政治的な反応を引き起こした。バーニー・サンダース上院議員はXで、停職処分の背景には「億万長者のメディア所有」があると示唆したが、コネチカット州上院議員クリス・マーフィーは何が起きたのか調査するよう求めた。

AI トラフィックが悪用と思われる場合

この事件は当面の政治を超えて、大規模プラットフォームがシステムを監視する方法における断層が拡大していることを示している。自動適用は、人間の行動とボットの行動を区別する分類子に依存しています。AI エージェント、スクレイパー、サードパーティ ツールが正当な理由でマシンの速度でソーシャル プラットフォームにクエリを実行するため、この区別を維持するのはますます困難になっています。

停止に関するメタ社の説明は、その防御が本当に自動化されているように見えるトラフィックに対して設計どおりに機能し、自動化モデレーションの批評家が長年警告してきたとおりに失敗したことを示唆しています。つまり、迅速かつ不透明に、間違ったターゲットに対して、修正は被害が発生した後でのみ行われます。

Anthropic にとって、このエピソードは、モデルのフットプリントが自社の製品をはるかに超えて広がっていることを思い出させるものです。 Claude は、Anthropic の API を介してサードパーティ アプリケーションからアクセスされており、インシデントに関するレポートが示すように、Meta は Anthropic 自体が実行したものではなく、モデルに「接続されている」ツールを指摘しました。言い換えれば、下流での使用は、それ自体が直接的な行動をとらなくても、モデルメーカーの名前が望ましくない見出しに掲載される可能性があります。

次に何が起こるか

メタ社は二度謝罪し、アカウントを回復したが、連合はより完全な会計処理を要求しており、同社はこれまでのところ、クロード関連ツールの運営者の名前や、選挙期間中に政治団体にどのような保護措置が適用されるのか（ある場合）の詳細については明らかにしていない。

週半ばが近づき、いくつかの州で期日前投票が行われていることから、プラットフォーム団体や選挙当局は、メタや同様の自動防御に依存する他のプラットフォームが、市民団体がボットフィルターに巻き込まれるのを避けるためにしきい値を調整するかどうかに注目している。規制当局がより深い関心を寄せるかどうかは、主催者が尋ね続ける質問、つまり正確に何が起こったのか、そしてすべてを引き起こしたトラフィックの背後に誰がいたのかという質問に、メタ社がどれだけ満足のいく答えを出せるかにかかっているかもしれない。

この記事には、The Guardian、Bloomberg、The Deep Dive の報道が寄稿されました。

---

AIの最新情報をお届け

AIの最新ニュース、分析、ブレイクスルーを一箇所で。

AIニュースをもっと読む →