苹果周一宣布了针对 Mac 的新安全控制措施,旨在保护用户免受人工智能代理带来的风险,人工智能代理越来越多地要求对计算机进行全面访问,以便自行执行任务。据 TechCrunch 称,这些更改将在 macOS 27.3 的第二个开发者测试版中出现,预计将于 12 月公开发布。

此举是对代理软件与之前的聊天机器人有何不同的直接回应。人工智能代理不仅仅回答问题——它还代表用户读取电子邮件、管理文件并控制其他应用程序。为了可靠地做到这一点,许多代理请求“完全磁盘访问”,这是一种允许软件查看、修改或删除整个系统中的文件的权限。据 TechCrunch 报道,苹果公司在一篇针对应用程序开发人员的博客文章中警告说:“在授予应用程序如此特殊的访问权限之前,用户应该明白,这会让他们 Mac 上的所有数据都面临风险。” 更多相关背景,请参阅我们的人工智能资讯。

苹果为何现在采取行动

苹果公司去年 10 月表示,在一些开发人员开始使用“全磁盘访问”,可能会暴露用户系统上存储的所有内容后,该公司将修改 Mac 安全设置。有报道称,包括 Meta 的 Muse 桌面应用程序在内的第三方人工智能工具一旦获得广泛的权限就可以访问私人消息和系统数据,此后,人们的担忧加剧了。

这一事件凸显了代理热潮核心的一个令人不安的权衡:助理在获得预订会议或组织照片库的权限的同时,也获得了机器上几乎所有其他内容的密钥。

一个强大的权限变成两个有范围的权限

在 macOS 27.2 中,名为“设备控制和数据访问”的单一设置可让应用程序读取和发送电子邮件、编辑联系人和照片、监控键盘、跟踪访问的网站、记录屏幕和控制其他应用程序——一个切换的非常宽的捆绑包。

macOS 27.3 将该捆绑包分为两个设置:可访问性,适用于辅助技术;系统和应用程序保护覆盖,适用于需要绕过某些保护以控制其他应用程序或运行自动化任务的应用程序。在新的覆盖设置下,用户可以准确选择自动化工具可以访问哪些应用程序。例如,用户可以让 AI 代理处理邮件,同时阻止其处理消息。

每次询问,并观察菜单栏

此次更新还允许用户要求应用程序在每次需要访问时请求许可,而不是无限期地授予许可——这一选项直接针对长期运行的代理,这些代理的行为可能会在数天或数周的使用中发生变化。

菜单栏中的新指示器会显示一个应用程序何时通过覆盖权限控制另一个应用程序,从而向用户提供后台自动化正在运行的可见确认,而不是将其隐藏。

更清晰的全磁盘访问警告

Apple 并未删除完整磁盘访问。相反,批准屏幕现在更详细地解释了哪些保护被绕过以及哪些个人信息可能被泄露。更新后的流程还鼓励用户仅授予对特定文件夹而不是整个 Mac 的访问权限。

报告中分享的新批准屏幕的屏幕截图显示了涉及人工智能应用程序的示例,包括 OpenAI 的 ChatGPT 和 Anthropic 的 Claude。这些屏幕描述了潜在的访问范围,并不表明任一应用程序滥用了数据。

一个重要的警告:已经拥有完全磁盘访问权限的应用程序将保留它。之前向人工智能助手或其他工具授予广泛权限的用户将需要自行检查这些设置。

开发人员需要改变什么

苹果表示,底层编程接口没有改变,但开发人员必须更新他们的应用程序,以便在用户仅授予有限访问权限时继续工作。备份软件和辅助技术可以请求特殊权利,以便新安装保留其以前的行为。

不是禁令 - 也不是完整的修复

这些变化并不是对人工智能软件的全面封锁。它们适用于任何请求这些权限的应用程序,无论是否涉及人工智能。安全研究人员还指出,这些控制措施并不能消除其他风险,例如即时注入攻击,无论最初授予什么权限,这些攻击都会诱骗人工智能代理采取有害行动。

大局观

macOS 27.3 目前正在进行 Beta 测试,预计 12 月公开发布,发布前细节仍可能发生变化。但方向很明确:平台供应商开始将代理权限视为一流的安全类别,而不是事后的想法。

对于 Mac 用户来说,实际的收获很简单。当更新发布时,值得检查哪些应用程序已经拥有完整磁盘访问权限或旧的组合权限,并撤销任何不需要的应用程序 - 因为苹果不会自动降级现有的授权。展望未来,在代理工作允许的情况下,优先选择范围选择而不是系统范围的覆盖。

此举反映出整个科技行业越来越关注如何平衡人工智能代理的便利性与用户个人数据的隐私和安全性,这给竞争对手带来了压力,要求他们解释为什么他们自己的许可模型没有跟上代理现在可以做的事情。

---

掌握AI最新动态

获取最新的AI新闻、分析和突破——尽在一处。

阅读更多AI新闻 →