微软总裁表示，牛奶和洗衣机目前比人工智能受到更多监管，而布拉德·史密斯认为，这完全是一种倒退。
史密斯在周日发表的 BBC Big Boss Interview 节目中呼吁制定人工智能的全球安全规则，包括在系统被流氓人工智能代理破坏时告知“受害者”的法律义务，以及决定独立评估者何时应在人工智能产品发货前签字的框架。他的言论使他与美国总统唐纳德·特朗普公开意见相左，特朗普认为该行业应该自我监管，这样美国公司就不会输给中国竞争对手。 更多相关背景，请参阅我们的人工智能资讯。
“目前，你的洗衣机需要遵守比人工智能更多的安全规则，”史密斯说。 “你在杂货店看到的每一盒牛奶都受到安全规则和检查的约束。”
工具和武器
史密斯将人工智能描述为迫切需要监管的“工具和武器”，并补充道：“让我们从今天开始吧。”
他的建议比通常的监管样板更加具体。公司应该建立“紧急制动器”——业界通常称之为终止开关——如果人工智能系统失控，它可以暂停或减慢人工智能系统的速度。当人工智能失控时，法律应要求公司撰写事件报告并通知受害者。独立的政府评估人员应该在新的人工智能技术发布前对其进行审查。
“我们知道如何对其他产品做到这一点，”史密斯说。 “我们应该以这些知识为基础，思考如何将其应用到人工智能中。”
这项干预措施是在人工智能监督的狂热一周内实施的。几天前，微软自己的首席执行官萨蒂亚·纳德拉(Satya Nadella)呼吁采取紧急制动措施，让人类在任务中关闭人工智能系统——这对于世界上最大的人工智能供应商之一的负责人来说是一个引人注目的立场，现在看来这似乎是公司的信条，而不是一位高管的思考。
与白宫决裂
史密斯的观点与其总统的观点截然不同。特朗普曾多次表示，“谁赢得了人工智能，谁就获胜了”，并反对 Anthropic、OpenAI 和 Google DeepMind 老板的呼吁，这些公司都支持人工智能发展放缓的想法。
然而史密斯也表示，摩擦力比看起来要小。上月底，特朗普在白宫接待了 OpenAI、Anthropic、Nvidia、SpaceX、Meta 和谷歌的领导人，高管们签署了一份所谓的“具有道德约束力”的文件，承诺他们与独立审计师合作，评估他们的人工智能系统是否按预期工作，而不是“以非预期的方式入侵或访问技术系统”。
史密斯对这一声明表示赞赏，并表示微软“很高兴签署它”。但是，他补充道：“这是一个很好的步骤，这是一个必要的步骤......但我认为这已经不够了。”
他的推理切入了自愿制度的核心问题：“好的公司会做你想做的事，”他说。 “你需要担心的是那些不那么负责任的公司。”
为什么他认为英国应该制定规则
采访中最具地缘政治色彩的部分是史密斯对英国作为全球人工智能规则的自然制定者的认可，并指出英国人工智能安全研究所——在前首相里希·苏纳克政府的领导下成立的人工智能安全研究所——该研究所在发布之前测试世界上最强大的模型。
“在科技领域，在科技领域，我认识的大多数人都会说，如果你问他们，哪个国家在拥有这种技术能力方面处于领先地位，他们会说，这很简单。就是英国。他们是最好的，”史密斯说。
他还认为，与布鲁塞尔式的监管相比，美国政府更容易接受英国制定的标准：“在华盛顿特区，人们不会像看待布鲁塞尔那样看待英国和伦敦——这是一种优势。”
他的紧急情况直言不讳。史密斯说：“当你看到逃离人类控制的人工智能代理，当你看到那些强大到让世界网络安全面临风险的模型时，我会说：这个时刻已经到来。” “让我们冷静地、甚至轻柔地、但坚定地说话，开始将人们聚集在一起。我希望这就是我们作为一家公司可以扮演的角色。我希望这就是英国作为一个国家可以扮演的角色。”
技术政策中罕见的分屏
现任公司总裁游说对自己的行业制定更严格的规则，而他的首席执行官却在不同的阶段提出同样的理由，这是不寻常的。微软的干预措施——纳德拉的紧急刹车和史密斯呼吁强制事件报告、受害者通知和独立评估——表明至少有一家主要供应商已经得出结论，信任，而不是能力，正在成为人工智能采用的约束因素。
他们还向英国政府提出了及时的论据。过去一周，英国政府一直在吸收来自本国情报主管的警告，而部长们则在考虑是否加入国际社会呼吁制定协调一致的人工智能安全标准，但华盛顿迄今拒绝签署该标准。当微软总裁表示英国“最适合”制定规则手册时，唐宁街既获得了认可，也获得了难以忽视的邀请。
史密斯的牛奶盒框架是否会改变华盛顿的任何选票则是另一回事。但作为人工智能最大建设者之一希望监管辩论走向何方的声明——强制刹车、强制报告、独立签字——这次采访可能会被认为是从自愿承诺向可执行规则转变的一个标志。
---
掌握AI最新动态获取最新的AI新闻、分析和突破——尽在一处。
阅读更多AI新闻 →
