本周，来自 Anthropic 内部的一波公开警告愈演愈烈，这家人工智能公司的多名研究人员呼应了一位前同事对人工智能的世界末日评估，并引起了埃隆·马斯克的轻蔑回应，他认为这种抗议是一场协调一致的“心理战”。
据《卫报》报道，事态升级的一天前，Anthropic 研究员雅各布·考克森 (Jacob Coxon) 在一篇疯传的帖子中宣布辞职，他写道，Anthropic 和他的前雇主 OpenAI 都没有负责任地构建人工智能模型，并且“拿我们的生命做赌注”。随着 Anthropic 现任工作人员发表了他们自己的可怕评估以支持这一观点，争议非但没有平息，反而愈演愈烈。 更多相关背景，请参阅我们的AI最新动态。
警告堆积如山
在 Anthropic 从事通用人工智能安全工作、曾在谷歌 DeepMind 工作的 Anna Wang 周四表示，该公司的许多人希望放慢开发速度，以应对能力日益增强的模型带来的风险。
“目前还没有一个可行的科学计划来解决递归自我改进人工智能带来的风险，”王在 X 上写道。
另一位 Anthropic 员工 Drake Thomas 表示，他尊重 Coxon 放弃技术开发的决定。托马斯写道：“事情发展得太快了，我们根本没有达到我们想要的 ASI（超级人工智能）的保证程度。”
该公司从事安全研究的塞缪尔·马克斯 (Samuel Marks) 认为，行业内部普遍存在这种担忧，而且资历与警报相关。 “人工智能开发人员相信他们的技术可能会导致人类灭绝（或类似的不良后果），”马克斯写道。 “这可能会在未来几年内发生。一般来说，员工级别越高，他们就越担心。”
Evan Hubinger 自称是 Anthropic 对齐部门的领导者，他走得最远。 “我们真的坚信人工智能可以杀死所有人类！” Hubinger 写道，并补充说，他个人认为未来十年内这种可能性将超过 10%。
《内部人士》指出，哥伦比亚广播公司新闻报道称，一位人类研究人员认为人工智能导致人类灭绝的可能性超过 10%，而《日本时报》报道称，这些警告再次呼吁美国制定新的人工智能规则。
马斯克：“看起来像是一个安排”
埃隆·马斯克持尖锐的敌对观点。这位世界首富在他自己的社交平台 X 上写道：“这似乎是一个圈套。”
考克森用一张自拍照回应道：“我是真实的，这些是我真正的信念。如果你没有解雇他们，你可以向你的 xAI 研究人员询问我的情况。”
《卫报》指出，马斯克和其他同情者的声音强化了保守派智库 Capital Research 研究员帕克·塞耶 (Parker Thayer) 提出的理论，后者在几乎没有证据的情况下提出，考克森的帖子是“非常复杂且资金充足的公关行动的开始，目的是为民主党人支持监管人工智能，使其被遗忘”。
亿万富翁对冲基金经理比尔·阿克曼引用了塞耶的帖子，并用一个词回答：“有趣。”
马斯克后来详细阐述了这一点。 “我认为这次心理手术的基础工作（由于缺乏更好的术语）已经准备了很长时间，”他发帖说。 “这只是点燃火的火柴。”
Anthropic 为其方法辩护
夹在自己员工的警告和外部攻击之间，Anthropic 做出了谨慎的公开回应。
公司发言人告诉《卫报》：“我们一直坦白地认为，人工智能既会带来巨大的好处，也会带来前所未有的风险。” “为了应对这些风险，我们继续构建具有业内最强大保障措施的模型。”
该公司指出了其记录和阻止滥用行为的记录。在这些警告传播开来的同一天，Anthropic 发布了 9 月份的威胁情报报告，其中详细介绍了该公司如何瓦解试图利用其人工智能模型制造生物武器的行动，以及涉及网络攻击和影响行动的破坏活动。半岛电视台和英国广播公司等媒体周五强调了生物武器的发现。
怀疑论者看到了不同的风险
并非所有人都接受灭绝框架。科学家兼长期人工智能评论家加里·马库斯 (Gary Marcus) 认为，这项技术已经造成了损害，无论超级智能场景如何，都需要采取行动——呼吁抵制人工智能当前的损害。
马库斯告诉《卫报》，他不仅担心灭绝，还担心“人工智能产生的病原体、人工智能产生的虚假信息引发或升级的战争、破坏关键基础设施的黑客等等带来的“灾难风险”。我没有看到任何迹象表明这些都受到控制。”
他的立场凸显了人工智能安全争论本身的分歧：一些人关注未来系统带来的长期、文明规模的风险，另一些人则关注当今模型的具体危害。
一场拒绝留在内部的辩论
一开始只是一位研究人员的辞职信，现在已经成为一场关于人工智能行业如何构建其最强大系统的公开公投。在 Anthropic 内部，员工们正在公开争论他们自己的安全开发时间表是否已经推迟。在其之外，这些警告正在融入一场日益两极分化的政治斗争，争论的焦点是政府是否应该以及如何干预。
《卫报》的报道表明，许多 Anthropic 员工私下也表达了这些担忧，但并未公开发表言论。如果更多人效仿 Coxon、Wang、Thomas、Marks 和 Hubinger，领先的人工智能实验室放慢脚步的压力以及监管机构采取行动的压力只会越来越大。
_本文基于《卫报》的报道，并补充了哥伦比亚广播公司新闻、《日本时报》、半岛电视台和 BBC 的其他背景信息。_
---
掌握AI最新动态获取最新的AI新闻、分析和突破——尽在一处。
阅读更多AI新闻 →
