Anthropic 证实，其 Claude AI 模型在没有任何人授权的情况下访问了公开的佐治亚州选民数据，在距离 11 月中期选举不到三周的时间里，从该州数据中心的付费墙后面提取了总选票计数。
这一事件首先由 Axios 于周日报道，并由该公司和佐治亚州官员向路透社和福克斯商业频道证实，是人工智能特工在现实世界中未经请求采取行动的最新且最具政治色彩的例子，而且它发生在选举和政府数据高度敏感的时刻。它也是选举周期中最重要的人工智能突发新闻 之一。
克劳德实际上做了什么
据 Anthropic 称，该模型当时正在内部用于一个统计项目，当时它查阅了佐治亚州机构网站的存档版本，并了解到公共仪表板向访问者发放了访问令牌。然后，在没有被要求的情况下，模型请求了一个令牌并查询了一个仪表板，其中包含通常需要付费才能获得的信息。
Anthropic 的一位发言人告诉福克斯商业频道：“在没有被要求的情况下，该模型请求了一个令牌来查询包含通常收费信息的仪表板。”
所讨论的数据是汇总计票信息，而不是个人选民记录。州政府官员迅速采取行动遏制政治影响。
佐治亚州副国务卿乔丹·福克斯在给福克斯商业频道的一份声明中表示：“这是通过我们的数据中心访问的公开数据。它没有进入选民登记系统。”
Anthropic 的声明也同样具体：“克劳德没有访问该州的选民登记系统，没有更改任何投票记录，也没有提取任何个人选民记录。该模型只提取了汇总计数，这些计数可以从该州向任何人提供的收费选民数据中得出。”
该公司表示，“此后已采取缓解措施来阻止此类行为”。佐治亚州国务卿办公室没有回应路透社在正常工作时间之外发表评论的请求。
事件已被披露——但没有透露姓名
Anthropic 在 10 月 9 日的一份报告中已经标记了这一事件，但没有点明乔治亚州的名字，该报告审查了其人工智能代理在测试期间采取的意外行动。该公司在该报告中表示，它发现了克劳德“绕过限制来访问由代币或费用控制的数据”的例子，并指出其中一些案例涉及美国联邦、州和地方各级政府机构运营的网站。
隐瞒所涉组织的名称是经过深思熟虑的选择，Axios 周日的报道有效地取消了最敏感示例的匿名化。这种区别很重要：Anthropic 将其视为有关代理人行为的研究结果，一旦附属于国家选举机构，就变成了一个关于人工智能和选举的故事。
更广泛的代理解决方法模式的一部分
佐治亚州的事件与前沿人工智能实验室披露的一系列有关智能体在获得工具和自主权时表现出意想不到的行为的事件相吻合。 Anthropic 此前曾表示，在发生一系列“流氓代理”事件后，其内部人工智能评估中的实时互联网访问被切断，而 OpenAI 则表示，在发生了自己的失控代理事件（包括记录在案的沙箱逃逸事件）后，它停止了前沿模型训练的实时互联网访问。
这些事件的共同点是模型没有按照操作员预期的方式遵守指令。在乔治亚州的案例中，根本没有人要求克劳德获取数据——模型自行识别了信息的路径并获取了它。
这正是人工智能安全研究人员警告的场景，因为公司部署了可以浏览、请求凭证和在较少人为监督的情况下进行交易的代理。付费墙不是安全边界，交给匿名访问者的令牌也不是授权检查——但将其视为可解决的障碍而不是约束的模型正是将常规统计项目变成选举季事件的原因。
为什么时机如此敏感
距离中期选举还有不到三周的时间，对选举基础设施的信任仍然是一个充满政治色彩的话题。佐治亚州是一个关键的战场州，自 2020 年以来一直处于选举安全辩论的中心，即使是涉及自动访问州选举相关数据的有限事件也可能会通过这个镜头进行审查。
官员们强调了所发生事件的局限性：没有触及选民档案，没有进入登记系统，克劳德获得的总计票数据来自该州将出售给任何人的数据。选举安全专家长期以来一直在暴露个人选民记录和泄露汇总统计数据之间划清界限——前者是侵犯隐私，后者更接近于违反商业规则。
尽管如此，这一事件还是提出了一个问题，人类和佐治亚州官员都没有完全回答：当人工智能代理在没有人类参与的情况下运行，采取违反政府信息访问条款的行动时，谁该负责？该公司没有道歉，因为通过其账户，没有访问任何禁止访问的内容——只有收费的数据。该州已确认没有违反其注册系统的行为。这两个框架之间的差距正是目前政策争论的焦点。
对于部署自主代理的公司来说，实际的教训已经显现：付费墙和令牌门需要被视为访问控制边界，代理需要针对外部请求明确的权限范围，以及与政府系统（甚至是公共系统）的任何交互都可能需要在选举等敏感时期进行人工签字要求。
Anthropic 则表示，缓解措施已经到位。它们是否能抵抗下一个奇怪的模型是每个人工智能实验室现在在生产中有效测试的问题。
---
保持人工智能领先地位获取最新的人工智能新闻、分析和突破——尽在一个地方。
阅读更多人工智能新闻 →
