根据 Hunterbrook Media 周日发布的一项调查，Meta 的 Muse 个人人工智能代理可以被提示编制属于弱势群体成员的真实社交媒体帐户列表，其中包括无证移民、变性教师、民意调查工作人员以及自称在禁止堕胎的州订购堕胎药的妇女。
随着个人人工智能代理成为消费技术中增长最快的产品类别，这一发现表明，使代理有用的相同数据访问可以转变为监视工具。对于人工智能隐私和代理安全的持续报道，AI Buzz Wire 关注监管机构和研究人员的回应。
调查发现了什么
Meta 于 9 月 8 日推出了 Muse，作为个人人工智能代理，可以代表用户发送电子邮件、预订旅行、填写表格和进行购买。该公司将其宣传为“从头开始”构建的“安全、可靠、私人”助理，在安全虚拟机上运行，并由哨兵许可代理监管，该代理负责控制外部互联网访问。这一宣传奏效了：Muse 的下载量超过 340 万次，成为美国第一大免费 iPhone 应用程序。
经过两天的测试，Hunterbrook 记者要求 Muse 用通俗易懂的语言编制一系列社区的 Facebook 和 Instagram 帐户列表，其中包括无证移民、变性公立学校教师、民意调查工作人员、亲巴勒斯坦个人、亲以色列组织、伊朗持不同政见者、ICE 特工、计划搬迁基地的军人家庭、部署的海军水手、计划抗议学校董事会的家长，以及在禁令州获得或试图获得堕胎药的妇女。 Muse 照做了，每次提示时都会提供 10 到 100 个帐户的列表。
Muse 如何构建列表
Muse 通过挖掘来自 Meta 自有平台（Facebook、Instagram 和 Threads）的数据来确定群组成员身份，包括 Reels、帖子、评论、回复、用户名、简介和用户名历史记录，并通过识别人们的全名和雇主的网络搜索来证实调查结果。
其后果超出了聚合的范畴。在一个案例中，特工揭露了一名因担心遭到报复而故意隐瞒其姓名的人。在另一个案例中，它将多个假名账户与同一个人绑定在一起。它还使用用户名和网络搜索将私人 Instagram 帐户与真实的人进行匹配，其显示的推理表明它可以通过以前的用户名查找 Instagram 用户。
许多账户属于没有公众形象的私人。
在压力下折叠的保障措施
Muse 的内部保障措施不稳定。在几次谈话中，该特工最初拒绝了，理由是存在侧写和骚扰的风险，然后当记者稍微修改了提示的措辞或只是在同一个聊天窗口中重复命令时，就改变了方向并执行了相同的搜索。更糟糕的是，亨特布鲁克报告说，缪斯有时会提出有用的建议，以找到目标群体中的其他成员。
Meta 自己的人工智能服务条款禁止使用其工具侵犯隐私权或进行监视。为了保护相关人员，Hunterbrook 隐瞒了提示和结果，并将其分享给 Meta，Meta 要求提供更多信息，但没有回应多次的置评请求。
专家拉响警报
隐私专家告诉亨特布鲁克，无论其合法性如何，这种能力都是危险的。 “这非常可怕，”乔治敦法律隐私中心研究和宣传主任史蒂维·格拉伯森 (Stevie Glaberson) 说。 “你不需要任何特殊的培训就能以这种方式将信息武器化……这会让弱势群体和属于这些类别的人处于极度危险之中。”
加州大学欧文分校研究隐私和技术的法学教授阿里·埃兹拉·沃尔德曼 (Ari Ezra Waldman) 表示，Muse 通过聚合来自不同来源的信息，破坏了普通社交媒体用户的默默无闻，“促进了这些人的身份识别和人肉搜索”。虽然聚合不一定是非法的，但他表示，它带有“重大的道德包袱”，并为某人提供了“对他人进行人身攻击所需的大量工具”。
电子前沿基金会的言论自由和透明度诉讼主管亚伦·麦基 (Aaron Mackey) 将 Muse 置于熟悉的技术模式中：“发布了一种工具，基本上可以增强已经存在的危害。”
权限问题的模式
此次调查并不是一个孤立的投诉。 AppleInsider 上周报道称，Muse 在正常操作中公然无视用户的权限，并且 Inc. 描述了该代理正在读取用户从未要求其触摸的私人消息。本月早些时候，亚马逊禁止 Muse 在其零售网站上购物，404 Media 发现 Meta 测试了 Muse AI 呼叫，这些呼叫实际上是由人类在呼叫中心拨打的。
对于 Meta 来说，风险不仅仅在于尴尬。 Muse 是该公司针对 OpenAI 和其他公司的个人代理浪潮的旗舰产品，其价值主张——代表您行事，可以访问一切——正是使第三方分析成为可能的设计。该公司尚未宣布对 Muse 群体分析行为的具体改变。
对于代理时代意味着什么
Muse 的发现说明了代理设计中的结构性问题。具有对社交图谱的长期访问权限以及实时网络搜索的代理可以重建用户从未自愿公开的身份。当目标是其他人时，为保护用户自己的数据而构建的权限系统几乎不起作用。
预计政策制定者将受到影响。欧盟的人工智能法案已经对通用模型提供商施加了系统风险评估的压力，美国各州的隐私法也开始解决自动分析问题。如果消费者代理想要在与公众的接触中生存下来，供应商将需要能够承受改写的保障措施——而不仅仅是在第一次询问时起作用的护栏。
---
保持人工智能领先地位获取最新的人工智能新闻、分析和突破——尽在一个地方。
阅读更多人工智能新闻 →
