安全研究人员记录了每台 Mac 上都有的一个隐藏系统:一对后台进程,悄悄地构建了一个详细的、可查询的知识图谱,涉及机器的使用者及其周围的每个人——他们的联系人、他们的家庭关系、他们的日常生活,甚至他们的面部数据——几乎没有来自苹果的官方文档。

该分析由研究人员 Dario Pasquini 和 Michał Bazyli 于 10 月 28 日发表在第八排名博客上,周五登上《黑客新闻》头版,本周以重大方式重新出现,吸引了超过 750 个点,并引发了有关设备隐私的长时间争论。据作者称,本文中的所有内容都是在 macOS 26 版本 26.6.2 上收集的。 更多相关背景,请参阅我们的AI最新动态。

两个守护进程,五十一个数据库

该系统由两个守护进程构建,自 macOS 13 于 2022 年推出以来,每台 Mac 都附带了这两个守护进程:知识构建和智能平台。苹果自己的机制文档只有一个手册页,其中将knowledgeconstructiond描述为一个守护进程,“分析该设备上的内容以帮助构建通用知识图谱”——仅此而已。

据研究人员称,守护进程几乎交叉引用操作系统可以看到的所有内容:联系人、日历、照片(包括面部数据)、消息和邮件、位置、屏幕时间、家庭共享数据(包括每个家庭成员的年龄)、健康中的医疗 ID 紧急联系人、Siri 建议显示的事件和联系人、第三方应用程序通过应用程序意图捐赠的人员以及已安装的应用程序列表。

结果位于 ~/Library/IntelligencePlatform 中:51 个以明文形式存储的 SQLite 数据库,通过 macOS 的 TCC 全磁盘访问门防止随意访问。该系统的核心是 graph.db,这是一个用 181 个实体类和 278 个谓词的词汇表编写的三元组存储。每行编码一个主语、一个谓语和一个客体——一个人、一种关系类型和另一个人、地点、组织或事件——每条边都带有置信度分数、源计数和时间戳。

你的生活,分类

本体论的广度是研究引人注目的地方。研究人员对所有 181 个实体类进行了编目,发现其中 57 个实体类(近三分之一的词汇量)描述了活动:睡眠、锻炼、正念课程、上床睡觉、通勤、就餐。图表旁边有辅助表格,记录谁与谁一起出现在照片中,还有一个通信日志,记录谁向谁发送消息、何时、在哪个应用程序中以及向哪个方向发送消息——仅元数据,没有消息内容。

其中 46 个谓词是具体化人与人之间边缘的关系类型,这就是系统不仅捕获您认识的人,还捕获他们彼此之间关系的方式。正是这种功能使得 Hacker News 用户直言不讳地总结了这一发现:每台 Mac 都附带一个未记录的家庭成员分类器。

该图不是闲置的元数据。研究人员将其描述为大型语言模型可从中检索的可查询存储——Apple Intelligence 可以通过该底层回答有关“我姐姐去年夏天的照片”的问题,而无需将数据发送到云端。苹果自己的研究人员在 2023 年发表了一篇关于底层图形构建技术的论文,但研究人员指出,几乎没有任何关于该系统如何集成到运输操作系统中的文章发表。

开源一瞥——以及警告

为了让用户检查自己的图表,研究人员发布了 iKnow,这是一个开源仪表板,可以读取 ~/Library/IntelligencePlatform 的内容并呈现系统对您和您家人的看法。

这篇论文的最后一部分是故意挑衅性的。作者进行了一项思想实验(他们指出该实验适用于任何个性化系统),展示如果这样的知识库最终落入坏人之手会发生什么,并将其与“取消的”语言模型(删除了安全训练的模型)相结合,以演示如何以个人数据泄露无法做到的方式将“隐私单点故障”武器化以攻击用户。

大局观

这一发现与定义苹果人工智能战略的隐私优先营销策略相悖:设备上的处理确实比云替代方案更加私密,但这项研究表明,“保留在您的设备上”并不意味着“保持小型化”。了解您的睡眠时间表、通勤时间、家谱和照片历史记录的本地系统是一个高价值目标——无论威胁是短暂访问笔记本电脑的恶意行为者、未来的软件漏洞,还是功能过于强大的本地代理,提示其滥用其可以查询的内容。

研究人员强调,所有数据都不是由守护进程本身在设备外传输的。分析涉及本地存储什么以及如何存储。但随着人工智能助手更深入地了解本地环境,研究人员的核心观点是:用户无法清楚地了解自己的机器正在构建什么,因此必须自己对答案进行逆向工程。

---

掌握AI最新动态

获取最新的AI新闻、分析和突破——尽在一处。

阅读更多AI新闻 →