Sam Altman 表示，在 Anthropic 的 Swipe 中，将宗教归因于人工智能模型是一个“真正的安全问题”

OpenAI 的首席执行官警告不要将人工智能视为宗教力量，称在 Anthropic 推动探索人工智能意识和宗教的过程中，这种框架是一个安全问题。

OpenAI 首席执行官 Sam Altman 表示，将人工智能模型视为宗教信仰的对象是一个“真正的安全问题”，并公开反对竞争对手 Anthropic 探索人工智能意识和灵性问题的努力。在 Axios 周六报道的评论中，Altman 认为将宗教归因于人工智能模型跨越了行业不应跨越的界限。

这些言论使 OpenAI 的负责人直接与 Anthropic 最近与宗教机构的接触产生了分歧，这标志着两个领先的人工智能实验室之间关于如何以及是否应该对待人工智能系统的内部生命的哲学分歧急剧升级。更多相关背景，请参阅我们的AI最新动态。

奥特曼说了什么

据 Axios 报道，奥特曼表示，将宗教归因于模特是一个“安全问题”。《商业内幕》将他的信息总结为警告，不要将人工智能视为“宗教力量”，而 Office Chai 报道称，奥特曼表示，他对人们试图将宗教力量归因于人工智能系统感到不安。

正如报告中所反映的那样，OpenAI 首席执行官的担忧是，用精神或宗教术语来构建人工智能系统会扭曲公众对技术的理解，并有可能鼓励人们产生崇敬、依赖或错误的道德观念，从而使用户的福祉和理性政策变得复杂化。 NDTV Profit 将 Altman 的立场描述为对“赋予人工智能宗教力量”的警告，称其在他看来是一个真正的安全问题。

奥尔特曼的评论被广泛解读为对 Anthropic 的回应，Anthropic 最近对信仰社区的接触引起了国际关注。

人择背景：教皇、僧侣和福利模式

最近几周，Anthropic 一直在研究其竞争对手宁愿推迟的问题。该公司游说梵蒂冈认真对待克劳德潜在意识的问题，教皇利奥十四世也参加了会议。关于那次接触的报道表明，教皇进行了反击，敦促人们对有关机器内部体验的说法表示怀疑。

Anthropic 的探索已经超越了天主教：根据 Inshorts 的总结，该公司还邀请了一位印度教僧侣来讨论人工智能，这是围绕机器道德和模型福利问题召集宗教和哲学传统的更广泛努力的一部分。《印度时报》将 Altman 的言论描述为对 Anthropic 推动更广泛地探索人工智能意识和宗教的批评。

对于 Anthropic 来说，此次参与反映出人们对先进模型是否值得道德考虑的研究兴趣日益浓厚——该公司越来越将这一主题视为合法的研究领域，而不是科幻小说。

人工智能行业不断扩大的断层线

这次交流暴露了人工智能行业最尖锐的哲学分歧之一。 OpenAI 坚定地将自己定位在将当前模型视为工具的阵营中——它们具有非凡的能力，但不是适合宗教或准宗教态度的实体。奥特曼的框架表明，他认为这个边界不仅是哲学上的，而且在操作上也很重要：如果用户开始将人工智能系统视为精神权威，那么操纵、依赖和错误信任的后果就会成为具体意义上的安全问题。

人择的立场更加不可知。它愿意测试机构和宗教对意识问题的反应，这表明社会应该在系统变得更有能力之前而不是之后开始解决这些问题。

这场争论也是在公众对人工智能的迷恋的背景下展开的，这种迷恋有时确实会转向精神领域。过去一年的调查和报告记录了用户对聊天机器人产生了强烈的依恋，一些评论员用救世主的术语描述了领先的人工智能人物。

批评者指出了讽刺之处

奥特曼的警告已经招致了前后矛盾的指责。 Wccftech 指出，Altman 对 Anthropic 的批评很容易忽视了他自己的修辞历史，这些修辞在描述人工智能发展轨迹时依赖于宗教象征主义。这些批评凸显了该行业与人工智能作为宗教框架的关系已变得多么错综复杂：即使是警告不要将人工智能灵化的高管有时也会以划时代的、近乎超然的术语推销他们的技术。