据 Semafor 报道，随着美国人即将参加周二的中期选举投票，OpenAI 和 Anthropic 都在运行专门的“作战室”，以确保他们的人工智能平台提供准确的选举信息——这对两家公司来说都是第一次。这些举措承认了一个令人不安的现实：对于越来越多的选民来说，聊天机器人和人工智能搜索工具现在是询问如何、在哪里以及何时投票等基本问题的主要方式。
作战室的概念借鉴自早期的平台政治时代。它可以追溯到 2018 年，当时 Meta 成立了第一个这样的团队，因为人们担心与选举相关的错误信息泛滥。从那时起，威胁模型发生了变化：人工智能时代加剧了这些风险，现在包括深度伪造视频和人工智能驱动的搜索结果，它们自信地传播不正确的信息。我们全天在选举季人工智能新闻报道 中跟踪人工智能与中期选举的交集。
两个人工智能实验室的首次
Anthropic 向 Semafor 确认了其设置。 Anthropic 发言人表示：“公司各个团队全年都致力于加强与选举相关的保障措施并执行我们的政策。” “在选举之前，我们有一个专门的作战室来监控我们的平台是否被滥用，并准备对任何事件做出快速反应。”
该结构很简单，但要求很高：工作人员监控 Claude 和其他工具如何响应选举查询，监视生成的虚假信息等滥用模式，并对需要在几小时（而不是几天）内修复的事件保持快速响应流程。与此同时，NBC 新闻带读者走进了 OpenAI 的平行选举作战室，研究该公司如何为人工智能对中期选举的影响做准备。
两家公司都认为有必要从头开始构建这种能力，这说明了这个问题有多新。 2018 年，平台主要担心的是用户发布的内容。到了 2026 年，他们还得担心自己的模型会说什么。
当人工智能在最糟糕的时候给出错误答案时
赌注不是假设的。 Semafor 提到了上周的一个案例：谷歌的 AI 模式不会回答有关谁赢得 2020 年大选的询问，这是美国近代政治史上最常被问及且最有解决的问题之一。谷歌表示正在努力解决这个问题。
故障模式具有指导意义。人工智能系统有时会拒绝他们应该回答的问题，有时又会回答他们应该拒绝的问题，而这两种错误恰恰在公众关注度和查询量最高时达到峰值。人工智能助手在试图建立信任的同时，也阻碍了有关过去选举的事实问题，同时也破坏了信任。
更广泛的担忧不仅仅是单一的错误答案。外交关系委员会本周发表的一份分析警告称，人工智能聊天机器人可以为影响力活动带来新的可信度——因为以平静、自信、助理般的声音传递的错误信息继承了党派网站永远无法获得的中立光环。
##“专为处理我们无法预测的事情而打造”
为什么要维持一个实时作战室而不是依靠选前测试？凯蒂·哈巴斯 (Katie Harbath) 是 Meta 的前公共政策主管，现在负责技术和民主问题，她向 Semafor 解释了其中的逻辑。她说，作战室“是为了处理我们不一定能预测出问题的事情而建立的，而且你需要一个快速、既定的分类流程。”
Semafor 指出，由于人工智能的不稳定性质、最近影响该行业的网络安全问题以及人工智能搜索工具反映用户想要看到的答案的趋势，这种不可预测性变得更加复杂——这是一个可能悄悄扭曲人们对有争议话题的理解方式的阿谀奉承问题。
选举日是压力测试。有关投票地点、候选人职位和结果的查询量将飙升至选举前评估无法完全模拟的水平。作战室之所以存在，是因为了解这些系统在该负载下的表现的唯一方法是实时观察它们，并有权快速修复问题。
结果出来后要注意什么
在整个选举之夜，压力点在类别上是可以预测的，即使不是在时间上：人工智能在正式宣布比赛之前回答有关结果和利润的问题，深度造假的时间安排到了最大程度的混乱，糟糕的聊天机器人答案的屏幕截图传播得比更正的速度更快。 OpenAI、Anthropic 和谷歌系统的适应速度不仅会影响本次选举的信息环境，还会影响下一次选举的管理方式。
对于AI行业来说，更深层次的考验就是声誉。本周，数百万选民将在高风险的公民环境中首次与这些系统进行互动。那些在选举中得到正确答案的公司——或者明显能快速解决问题的公司——将赢得任何营销活动都买不到的信任。
---
保持人工智能领先地位获取最新的人工智能新闻、分析和突破——尽在一个地方。
阅读更多人工智能新闻 →
