Các nhà nghiên cứu bảo mật đã ghi lại một hệ thống ẩn có trên mọi máy Mac: một cặp quy trình nền lặng lẽ xây dựng biểu đồ kiến ​​thức chi tiết, có thể truy vấn về người sử dụng máy và mọi người xung quanh họ — danh bạ, mối quan hệ gia đình, thói quen hàng ngày, thậm chí cả dữ liệu khuôn mặt của họ — mà hầu như không có tài liệu chính thức nào từ Apple.

Phân tích, được công bố vào ngày 28 tháng 10 trên blog Xếp hạng thứ tám của các nhà nghiên cứu Dario Pasquini và Michał Bazyli, đã xuất hiện trở lại một cách đáng chú ý trong tuần này khi nó xuất hiện trên trang nhất của Hacker News vào thứ Sáu, thu hút hơn 750 điểm và một cuộc tranh luận kéo dài về quyền riêng tư trên thiết bị. Theo các tác giả, mọi thứ trong bài viết đều được thu thập trên macOS 26, phiên bản 26.6.2. For more context on this story, see our ongoing AI news.

Hai Daemon, Năm mươi mốt cơ sở dữ liệu

Hệ thống này được xây dựng bởi hai daemon đi kèm với mọi máy Mac kể từ khi macOS 13 ra mắt vào năm 2022: Knowledgeconstructiond và Intelligenceplatformd. Tài liệu riêng của Apple về cơ chế này chỉ bao gồm một trang man, trong đó mô tả kiến ​​thức xây dựng như một daemon "phân tích nội dung trên thiết bị này để giúp xây dựng biểu đồ kiến ​​thức cho mục đích chung" - và hơn thế nữa.

Theo các nhà nghiên cứu, daemon tham chiếu chéo gần như mọi thứ mà hệ điều hành có thể thấy: Danh bạ, Lịch, Ảnh (bao gồm dữ liệu khuôn mặt), Tin nhắn và Thư, vị trí, Thời gian sử dụng màn hình, Dữ liệu chia sẻ trong gia đình - bao gồm tuổi của mọi thành viên trong gia đình - liên hệ khẩn cấp về ID y tế trong Sức khỏe, các sự kiện và địa chỉ liên hệ được Siri Gợi ý hiển thị, những người được ứng dụng bên thứ ba quyên góp thông qua Ý định ứng dụng và danh sách các ứng dụng đã cài đặt.

Kết quả tồn tại trong ~/Library/IntelligencePlatform: 51 cơ sở dữ liệu SQLite được lưu trữ ở dạng văn bản thuần túy, được bảo vệ khỏi sự truy cập thông thường bằng cổng TCC Full Disk Access của macOS. Trung tâm của hệ thống là graph.db, một kho lưu trữ ba được viết bằng từ vựng gồm 181 lớp thực thể và 278 vị từ. Mỗi hàng mã hóa một chủ đề, một vị ngữ và một đối tượng — một người, một loại mối quan hệ và một người, địa điểm, tổ chức hoặc sự kiện khác — với mỗi cạnh mang điểm tin cậy, số lượng nguồn và dấu thời gian.

Cuộc sống của bạn, được phân loại

Độ rộng của bản thể luận là điểm khiến nghiên cứu trở nên nổi bật. Các nhà nghiên cứu đã lập danh mục tất cả 181 lớp thực thể và phát hiện ra rằng 57 lớp trong số đó - gần một phần ba số từ vựng - mô tả các hoạt động: ngủ, tập thể dục, các buổi chánh niệm, đi ngủ, đi lại, ăn uống. Bên cạnh biểu đồ là các bảng phụ ghi lại ai xuất hiện với ai trong ảnh của bạn và nhật ký liên lạc ghi lại ai đã nhắn tin cho ai, khi nào, trong ứng dụng nào và theo hướng nào - chỉ siêu dữ liệu, không có nội dung tin nhắn.

Bốn mươi sáu thuộc tính là các loại mối quan hệ cụ thể hóa các ranh giới giữa mọi người, đó là cách hệ thống nắm bắt không chỉ những người bạn biết mà còn cả mối quan hệ của họ với nhau. Khả năng đó là điều khiến người dùng Hacker News tóm tắt khám phá này một cách thẳng thắn: mọi máy Mac đều gửi một bộ phân loại thành viên không có giấy tờ.

Biểu đồ không phải là siêu dữ liệu nhàn rỗi. Các nhà nghiên cứu mô tả nó như một kho lưu trữ có thể truy vấn mà các mô hình ngôn ngữ lớn lấy từ đó - nền tảng cho phép Apple Intelligence trả lời các câu hỏi về "những bức ảnh của chị tôi từ mùa hè năm ngoái" mà không cần gửi dữ liệu lên đám mây. Các nhà nghiên cứu của riêng Apple đã xuất bản một bài báo về các kỹ thuật xây dựng đồ thị cơ bản vào năm 2023, nhưng các nhà nghiên cứu lưu ý rằng hầu như không có gì được xuất bản về cách hệ thống được tích hợp vào hệ điều hành vận chuyển.

Xem nhanh nguồn mở — và một cảnh báo

Để cho phép người dùng kiểm tra biểu đồ của riêng họ, các nhà nghiên cứu đã phát hành iKnow, một bảng điều khiển nguồn mở đọc nội dung của ~/Library/IntelligencePlatform và hiển thị những gì hệ thống tin tưởng về bạn và gia đình bạn.

Phần cuối cùng của bài báo cố tình khiêu khích. Các tác giả tiến hành một thử nghiệm tư duy — mà họ lưu ý là áp dụng cho bất kỳ hệ thống được cá nhân hóa nào — cho thấy điều gì sẽ xảy ra nếu cơ sở kiến ​​thức đó rơi vào tay kẻ xấu, kết hợp nó với một mô hình ngôn ngữ "bị xóa bỏ" (một mô hình đã loại bỏ đào tạo về an toàn) để chứng minh cách một "điểm lỗi duy nhất về quyền riêng tư" có thể được vũ khí hóa để chống lại người dùng theo những cách mà việc rò rỉ dữ liệu cá nhân không thể làm được.

Bức tranh lớn hơn

Phát hiện này trái ngược với cách tiếp thị ưu tiên quyền riêng tư vốn đã xác định chiến lược AI của Apple: xử lý trên thiết bị thực sự riêng tư hơn so với các lựa chọn thay thế trên đám mây, nhưng nghiên cứu này cho thấy rằng "lưu lại trên thiết bị của bạn" không có nghĩa là "vẫn nhỏ". Hệ thống cục bộ biết lịch trình giấc ngủ, lộ trình đi làm, gia phả và lịch sử ảnh của bạn là mục tiêu có giá trị cao — cho dù mối đe dọa là tác nhân độc hại có quyền truy cập ngắn vào máy tính xách tay, lỗ hổng phần mềm trong tương lai hay tác nhân địa phương có năng lực quá mức được nhắc sử dụng sai mục đích mà nó có thể truy vấn.

Các nhà nghiên cứu nhấn mạnh, không có dữ liệu nào được truyền ra khỏi thiết bị bởi chính các daemon; phân tích liên quan đến những gì được lưu trữ cục bộ và như thế nào. Nhưng khi các trợ lý AI tiếp cận sâu hơn với bối cảnh địa phương, quan điểm cốt lõi của các nhà nghiên cứu là: người dùng không được cung cấp hình ảnh rõ ràng về những gì máy móc của họ đang xây dựng về họ và phải tự mình thiết kế lại câu trả lời.

---

Stay Ahead of AI

Get the latest AI news, analysis, and breakthroughs — all in one place.

Read more AI news →