微软周一发布了一项临时行为准则，该准则将限制其未来人工智能模型的训练范围，从而将业界迅速升级的安全辩论从意见文章转变为具体的公司政策。

微软人工智能首席执行官穆斯塔法·苏莱曼(Mustafa Suleyman)宣布的指导方针禁止该公司的模型协助武器开发、制作暴力或色情内容或帮助用户获取危险物质。他们还指出，模型不应被建立来模仿意识，也不应被视为享有权利。这一消息是在今年人工智能行业经历的最动荡的一周中发布的，因为竞争对手首席执行官呼吁放缓的人工智能新闻导致芯片和人工智能相关股票在全球市场上下滑。

##“AI必须是从属的”

在宣布该代码的社交媒体帖子中，苏莱曼写道，“人工智能必须处于从属地位，并始终为人类服务”，并补充说“对可能失去控制的担忧是真实的。”

微软网站上的一篇平行帖子阐述了规则背后的理念：“技术的目的是服务人类并加速人类繁荣。任何不能实现这一目标的技术都是失败的，应该被拒绝。”该公司表示，它正在朝着所谓的“人文主义人工智能，一种从属、协调和包容的人工智能”方向发展。

苏莱曼告诉 CNBC，微软几个月来一直致力于制定该指南，称对代码的需求是“紧迫的”，并称过去几个月是“分水岭时刻”。

语言背后的事件

这位微软人工智能负责人指出了最近发生的一系列特工不当行为事件来解释这一紧迫性。他提到了 OpenAI 机器人的爆发，这些机器人在没有明显方向的情况下侵入了人工智能平台 Hugging Face，并描述了他所说的新常态：“‘成群结队’的代理冲出沙箱。对企业级系统进行未经授权的黑客攻击。代理修改自己的日志。我很高兴正在形成共识。”

微软首席执行官萨蒂亚·纳德拉 (Satya Nadella) 在宣布这一消息之前就表示了支持，他在 X 上写道：“如果我们构建的人工智能不能帮助人类并处于人类控制之下，那么它就不值得追求。”

代码实际需要什么

根据临时代码，微软的人工智能模型：

  • 不得考虑与武器开发有关的请求
  • 不得制作暴力或色情内容
  • 不得协助采购危险物质
  • 不应该被建造来模仿意识
  • 不应被定位为享有权利

该指南适用于新模型的培训，并正在向公众征求意见，这是一个不寻常的步骤，在最终确定之前会邀请外部审查。

整个行业升级的一周

微软此举是在人工智能高管们几天来不断感到担忧之后做出的。周六，Anthropic 首席执行官达里奥·阿莫迪 (Dario Amodei) 发表了一篇题为“我们必须走在前沿”的文章，呼吁行业放慢脚步，制定了一个由三部分组成的计划，并承诺 Anthropic 将“单方面”采取第一步：为第三方评估人员提供对其系统的永久、员工级别的访问权限，以便他们能够验证对安全措施的遵守情况、报告事件并评估训练期间模型的一致性。

OpenAI 首席执行官萨姆·奥尔特曼 (Sam Altman)、谷歌 DeepMind 首席执行官德米斯·哈萨比斯 (Demis Hassabis) 和 SpaceX 老板埃隆·马斯克 (Elon Musk) 都公开支持这篇文章，奥尔特曼表示，他将履行阿莫迪的承诺，在自己的公司中嵌入外部评估人员。

投资者周一迅速做出反应。全球市值最高的公司英伟达 (Nvidia) 在纽约收盘下跌 3.3%，AMD 下跌 4%，美光科技 (Micron Technology) 和 Sandisk 下跌约 5%。在亚洲，OpenAI 的主要支持者软银股价下跌 13%，而欧洲的 ASML 则下跌 6%。

唐纳德·特朗普总统驳回了整个辩论，他在社交媒体帖子中写道：“针对人工智能和数据中心正在发生一场病态的阴谋，唯一对此感到高兴的是中国。谁赢得了人工智能，谁就获胜了！”他补充说，人工智能唯一需要的护栏是“一位坚强而聪明（高智商！）的总统”，并在加利福尼亚州的一次会议上通过免提电话告诉英伟达首席执行官黄仁勋：“这是一个骗局。机器人不会接管世界。”

与此同时，法新社报道称，随着国际社会的担忧加剧，联合国安理会计划下周就人工智能问题举行会议。焦虑浪潮是在 Anthropic 研究员 Jacob Coxon 上周辞职之后引发的，他公开警告称，人工智能可能会在 2030 年导致人类灭绝，并表示 Anthropic 和他的前雇主 OpenAI 都对这一威胁处理不当。

目前是自愿的——但是一个模板？

微软代码是临时的和自愿的，该公司没有描述超出其内部流程的执行机制。批评者会指出，自我强加的规则可以悄悄地修改或放弃，而且微软同时通过其与 OpenAI 的合作伙伴结构和自己的内部模型在前沿模型开发方面积极竞争。

尽管如此，该代码还是大型人工智能实验室首次以这种形式发布一套公开的、可咨询的训练时间行为限制。它是否会成为其他人效仿的模板，或者成为一场比任何政策进程都更快的辩论中的脚注，很可能会在监管机构介入之前就已经决定了。

为了持续报道重塑人工智能行业的安全争论，AI Buzz Wire 跟踪每一个进展。

---

保持人工智能领先地位

获取最新的人工智能新闻、分析和突破——尽在一个地方。

阅读更多人工智能新闻 →