随着科技公司竞相打造更强大的人工智能，其中一些公司正在向一家老机构寻求帮助解决一个新问题：如何教导聊天机器人是非。他们的答案越来越多地是宗教。
近几个月来，人工智能高管一直在寻求哲学家和信仰领袖的意见，以了解如何使模型“道德良好”。外展活动从正式磋商到在梵蒂冈露面，据美联社周日发表的一篇报道，这引起了宗教学者的担忧，认为这些公司误解了他们正在利用的内容。对于追踪最新人工智能发展的读者来说，这个故事表明道德联盟已成为这些公司目前运营方式的核心道德联盟。
##“实验室无法回答的问题”
Anthropic 是一家被广泛认为最重视道德规范的人工智能公司，也是最活跃的公司之一。今年早些时候，在梵蒂冈介绍教皇利奥十四世关于人工智能的通谕时，Anthropic 联合创始人 Chris Olah 告诉观众，围绕人工智能的道德问题超出了公司自身所能解决的范围。
“这些不是实验室可以回答的问题，”奥拉说。 “这些都是像你们这样的传统几千年来一直存在的问题。”
Anthropic 在 5 月份的一篇博客文章中表示，它已经会见了“来自超过 15 个宗教和跨文化群体的学者、神职人员、哲学家和伦理学家”，并表示希望扩大这一群体。该公司概括地阐述了这项工作：“这项工作并不是要使我们的模型与任何一种传统的世界观保持一致。我们希望克劳德能够从宗教、世俗、政治等全方位的观点中汲取灵感，同时具有同等的深度和严谨性。”
OpenAI 首席执行官 Sam Altman 阐述了一个不同的、更总体的愿景。 “我认为 ChatGPT 应该做的是反映人类道德观的加权平均值或其他什么，”奥特曼去年表示。
Anthropic 信仰聚会的内部
宗教哲学家梅根·沙利文 (Meghan Sullivan) 在圣母大学领导了一项伦理和人工智能倡议，她今年早些时候参加了 Anthropic 的一次会议。与她与其他科技公司的对话相比，她对参与的严格性印象深刻。
沙利文说：“公司内部的文化与优秀大学校园的文化相似，因为这里有一群非常求知欲的人。” “这些会议非常书呆子气——我不知道这是否是最好的表达方式——以一种好的方式。”
这次会议包括来自不同教派的基督徒，会议分为两个部分：公司首先“用外行人的话”解释其模式，信仰领袖则通过反馈和讨论进行回应。据沙利文说，问题包括“人类有灵魂吗？”到“三年级学生是否应该能够使用聊天机器人进行扫盲教育？”
梵蒂冈成为常规站点
长椅上的人并不孤单。 Meta、谷歌和亚马逊的代表也与梵蒂冈会面，而微软则被认为在宗教宣传方面特别活跃。
这种参与反映了人工智能开发中当前独特的计算。当高管们对人工智能的破坏性潜力发出警报，并争论“道德上良好”的模型行为到底意味着什么时，宗教传统提供了几千年来积累的关于性格、义务和伤害的思考——任何培训语料库都无法完全复制这些材料，公司也无法轻易地在其他地方大规模地获取这些材料。
Anthropic 自己的框架明确地表达了这一雄心：“我们在这些对话中追求的是对如何真正形成良好品格的仔细、积累的思考。”
学者警告：宗教不是规则手册
专家和追随者都警告说，这些公司的前提——宗教可以提供一套可提取的道德原则——没有考虑到传统的实际运作方式。不同的世界观常常相互矛盾，将宗教视为规则数据库可能会扭曲所参考的材料。
密歇根大学人类学家韦伯·基恩认为，学者们花了几十年时间反对宗教这一观点，认为宗教是一套与信徒“混乱、实用、临时”生活方式相脱离的原则。
“有一种非常传统的方式将宗教视为一本规则手册，”基恩说。 “它肯定与圣经宗教密切相关，而圣经宗教归根结底确实是亚伯拉罕宗教。”
他警告说，这种假设可能会优先考虑某些传统，同时扭曲其他传统，尤其是那些不将自身主要视为道德体系的信仰。
宗教研究学者、《世界宗教的发明》一书的作者增泽友子 (Tomoko Masuzawa) 更进一步，指出像“佛教”和“印度教”这样的类别作为明确界限、可比较的传统，很大程度上是 19 世纪欧洲学术界的建构。 “所有这些类别都不是原生的，”增泽说。
实际正在构建什么
学术批评具有实际意义，因为公司在这些咨询中学到的任何东西都可能影响模型如何回答数十亿用户的道德问题。一个将宗教视为加权平均原则来源的人工智能，其行为与经过训练、认识到道德权威是有争议的、定位的和存在的人工智能的行为不同。
目前，这些公司否认任何单一传统议程，参与其中的信仰领袖称这种参与是认真和实质性的。沙利文对人类的评价——求知欲强、严谨、有点书呆子——表明这些会议不仅仅是公共关系。
但美联社报告提出的更深层次的问题仍然悬而未决：是否有任何协商过程可以将数千年的生活传统转化为模范行为而不使其扁平化——以及由谁决定人类道德遗产的哪些部分纳入权重。
---
保持人工智能领先地位获取最新的人工智能新闻、分析和突破——尽在一个地方。
阅读更多人工智能新闻 →
