Meta 指责与 Claude 相关的人工智能工具导致 No Kings Instagram 在选举期间被暂停

Meta 表示，与 Anthropic 的 Claude 连接的人工智能工具在中期提前投票期间引发了 No Kings 联盟 Instagram 帐户的错误暂停。

Meta 指责与 Anthropic 的 Claude 有关的人工智能工具错误地暂停了 No Kings Coalition 的主要 Instagram 账户，这一错误导致抗议运动的社交媒体在全国范围内的行动日中离线数小时，该行动旨在在 11 月中期选举前提高早期选民投票率。

周六下午开始的暂停首先归因于例行的自动保护。一天后，Meta 提供了一个不同且更不寻常的账户：根据彭博社和《卫报》的报道，该公司的工程师发现，与 Anthropic 的 Claude 连接的工具一直在以大约四倍于平常速度的速度从该账户中提取帖子、个人资料和主题标签——Meta 的系统将这种流量模式误认为是自动机器人活动，并通过关闭该账户来做出回应。更多相关背景，请参阅我们的AI行业报道。

全国行动日默哀数小时

停摆发生在一个极其敏感的时刻。根据 The Deep Dive 援引的数据，周六，组织者在美国各地举办了近 3,000 场“不国王：提前投票”活动，该活动是近年来吸引数百万美国人走上街头的民主运动的一部分。

下午 1:30 左右，管理员失去了对该帐户的访问权限。联盟发言人表示，东部地区。该帐户本身在大约 90 分钟后重新公开出现，但其背后的人在近四个小时内仍被锁定在其后端之外，直到下午 5:33 才重新获得完全访问权限。东。

组织团体 Indivisible 的联合创始人埃兹拉·莱文 (Ezra Levin) 直言不讳地描述了情况。 “他们暂停了它。我们无法访问它，”他说。

Meta 的解释发生了两次变化

Meta 于周六首次公开回应，发言人安迪·斯通 (Andy Stone) 在 X 上写道，该平台的自动化系统有时“当账户以非常高的频率发布、分享或评论时”会采取行动。他承认“自动操作显然是错误的”，并补充道，“现在一切都按预期进行，我们真诚地道歉。”

到周日，该公司修改了对事件的描述。斯通在一份较长的声明中表示，大量的活动以“强烈的爆发”方式阅读个人资料、帖子和主题标签，导致 Meta 的人工智能工具将流量归类为自动机器人。斯通说：“这一活动导致我们的自动保护错误地使 No Kings Instagram 帐户离线。”他指出，一小时后自动重新审核发现了该错误并恢复了该帐户，尽管解决管理员访问权限需要额外的时间。

彭博社周日首次报道了克劳德的联系。 Meta 没有解释是谁在操作这些工具，或者为什么他们如此积极地查询该帐户。该公司没有在公开声明中回应这个问题。

组织者称答案不够充分

该联盟对机器人流量的解释并不信服。该组织周日在 Instagram 上发帖称，其成员在行动当天“只发了几次帖子，并向数千人进行了直播”——这根本不是自动垃圾邮件操作的情况。

“我们已经重新获得了对我们账户的访问权限，但 Meta 仍然欠我们一个解释，”无王联盟写道。 “在选举期间限制有关投票的沟通是不可接受的。”

这一事件很快引起了政治反应。参议员伯尼·桑德斯在 X 上表示，“亿万富翁拥有媒体”是停职的幕后黑手，而康涅狄格州参议员克里斯·墨菲则呼吁对所发生的事情进行调查。

当人工智能流量看起来像是滥用时

除了眼前的政治之外，这一事件还表明大型平台在监管其系统方面存在越来越大的断层。自动执行取决于区分人类行为和机器人行为的分类器——随着人工智能代理、抓取工具和第三方工具出于合法原因以机器速度查询社交平台，这种区别变得越来越难以维持。

Meta 对暂停的描述表明，其防御措施是针对看起来真正自动化的流量而设计的，但其失败的方式正是自动审核批评者长期以来警告的方式：快速、不透明、针对错误的目标，只有在造成损害后才会进行纠正。

对于 Anthropic 来说，这一事件提醒我们，一个模型的足迹远远超出了它自己的产品。第三方应用程序通过 Anthropic 的 API 访问 Claude，正如事件报告所示，Meta 指出的是“连接到”模型的工具，而不是 Anthropic 本身运行的任何工具。换句话说，下游使用可以在不采取直接行动的情况下将模型制造商的名字放在不受欢迎的标题中。