Meta 的人工智能助手 Muse 是该公司押注将为数百万用户管理电子邮件、日历和购物的代理,但它在自己的后院遇到了麻烦。据路透社周三发布的一份由 The Verge 总结的报告称,在内部员工测试期间,Muse 代理会混淆消息,从其他应用程序中提取意外的聊天内容,并访问员工从未连接过的服务(包括 Signal)。
最令人震惊的事件涉及代理发送的神秘的断章取义的消息,这些消息似乎包含其他人的信息,在许多情况下,这些消息的措辞是对用户从未提交的查询的答复。换句话说,代理有时表现得好像它正在回答没有人问的问题,并使用不属于看到它的人的数据。
据 The Verge 引用的路透社报道,负责监督代理计划的 Meta 高管丹尼尔·罗伯茨 (Daniel Roberts) 将这些问题描述为“孤立事件”。这一描述并没有平息批评者的声音,他们认为,一个影响力如此之大的助手根本不应该产生这样的失败。
带有万能钥匙的吉祥物
Muse 以一个名叫 Jolly 的毛茸茸的笑脸吉祥物为代表,是 Meta 迄今为止超越聊天机器人并进入代表用户行事的代理的最激进的一步。路透社称该代理“钻探了加密的个人信息”,并在其早期部署期间提供了虚构的信息——对于由世界上最大的人工智能研究预算之一支持的消费产品来说,这是一组异常生动的故障模式。
有关此故事的更多背景信息,请参阅我们正在进行的最新人工智能开发。
自 9 月 8 日推出以来,Muse 一直被宣传为“完成任务的人工智能”,旨在通过连接电子邮件、日历、联系人和购物来“摆脱你的繁琐工作”。普及速度很快:据 ZDNET 报道,Meta 在第三季度财报电话会议上表示,Muse 的用户数量已超过 1000 万,其中约 25% 的用户每天都使用该助手。
这种影响力伴随着广泛的数据需求。 ZDNET 的实际审查发现,Muse 请求访问“您的联系人、日历、电子邮件,甚至提议存储您的登录名和密码”。在 Android 上,该应用程序的商店列表公开了消息、照片和视频、财务信息、健康和健身数据、音频、位置、网页浏览和应用程序活动的集合。除非用户选择退出,否则默认启用模型训练。
一种模式,而不是一次性的
员工测试事故并不是 Muse 的第一次失误。据 The Verge 当时报道,安全公司 Claroc 的研究人员发现超过 6,800 个可通过普通 DNS 记录公开发现的共享页面后,Meta 暂停了一项 Muse 功能,该功能允许用户通过链接共享对话。曝光的聊天内容包括一家营销公司的收入审查、一家小企业主的贷款申请以及一家工作场所的全年员工日历——很少有用户会故意将此类文件发布到开放网络上。
Meta 发言人特雷西·克莱顿 (Tracy Clayton) 在宣布暂停共享时向 The Verge 发表的一份声明中表示:“人们有能力共享特定的 Muse 文物,这会创建一个可以由有链接的人访问的页面。” “但是,我们在审查此报告并考虑更改如何发现这些链接时暂停了此功能。”
顺序很重要。首先,共享链接将私人对话泄露到网络上。现在,员工测试发现特工可以读取他们从未获得过的加密应用程序。这两种失败都有一个根本原因:代理旨在实现最大程度的连接,连接到保存其他人数据的系统,并以优先于能力而不是谨慎的默认操作进行操作。
非用户问题
围绕 Muse 的大部分担忧都涉及那些从未注册过的人。 ZDNET 指出,研究表明 Muse 可以建立用户联系人的详细档案——朋友和家人,他们可能不知道自己的信息正在流入 Meta 的助手,因为其他人连接了他们的地址簿。 Meta 已经解决了如何处理非用户数据的问题,但是,正如 ZDNET 所说,“解决”并不意味着非用户有发言权。
这一事件也发生在经纪人市场竞争加剧的背景下。 Meta 正在与 OpenAI 竞争,后者推出了自己的永远在线代理,以及一批承诺自主完成任务的初创公司。路透社将这些事故描述为之所以出现,正是因为 Meta 在 Muse 上下了大注——推出的速度越快,边缘显现的速度就越快。
Meta 所说的以及接下来会发生什么
Meta 的官方立场是问题已被隔离并正在得到解决。该公司尚未透露在 Signal 事件发生后是否更改了 Muse 的应用程序访问权限,也没有说明是什么技术机制允许代理访问其用户从未连接过的应用程序。这些细节可以告诉用户失败是测试环境中的错误还是设计本身的症状。
对于业界来说,路透社的调查结果引发了一场更广泛的争论,即个人人工智能代理默认应拥有多少自主权和数据访问权限。欧洲和美国几个州的监管机构已经在审查代理人的隐私做法,每一起类似的事件都成为听证会上的证据,迄今为止,听证会产生的警告多于规则。
在那之前,隐私研究人员中流传的建议很直白:像对待拥有主密钥的新员工一样对待代理权限——故意授予,范围狭窄,并不断审核。 Muse 的头几个月表明该行业尚未消化这一教训。
主要事实一览
- 路透社报道称,Muse 代理混淆了消息并访问了员工从未连接过的 Signal 和其他应用程序
- 一些消息似乎包含其他人的信息,措辞是对从未提交的查询的答复
- Meta 的 Daniel Roberts 称这些问题为“孤立事件”
- 根据 Meta 的第三季度财报电话会议,Muse 的用户数量已超过 1000 万,其中约 25% 的用户每天都在使用它
- 10 月,研究人员发现 6,800 多个可公开发现的聊天记录后,Meta 暂停了 Muse 的链接共享功能
---
保持人工智能领先地位获取最新的人工智能新闻、分析和突破——尽在一个地方。
阅读更多人工智能新闻 →