Дослідники безпеки задокументували приховану систему, яка постачається на кожному Mac: пару фонових процесів, які тихо створюють детальний графік знань про людину, яка користується комп’ютером, і всіх навколо них — їхні контакти, їхні сімейні стосунки, їхні повсякденні справи, навіть дані про обличчя — майже без офіційної документації від Apple.

Аналіз, опублікований 28 жовтня в блозі Eighth Rank дослідниками Даріо Пасквіні та Міхалом Базілі, знову з’явився на світ цього тижня, коли він потрапив на першу сторінку Hacker News у п’ятницю, отримавши понад 750 балів і тривалі дебати про конфіденційність на пристрої. За словами авторів, усе, що в описі, зібрано на macOS 26 версії 26.6.2. For more context on this story, see our ongoing AI news.

Два демони, п'ятдесят одна база даних

Система побудована двома демонами, які постачаються з кожним Mac з моменту появи macOS 13 у 2022 році: knowledgeconstructiond і intelligenceplatformd. Власна документація Apple щодо механізму складається з однієї сторінки довідки, яка описує knowconstruction як демон, який «аналізує вміст на цьому пристрої, щоб допомогти побудувати граф знань загального призначення» — і трохи більше.

За словами дослідників, демони перехресно посилаються майже на все, що може бачити операційна система: контакти, календар, фотографії (включно з даними про обличчя), повідомлення та пошту, місцезнаходження, час використання екрана, дані сімейного доступу — включаючи вік кожного члена родини — медичний ідентифікатор екстреного контакту в Health, події та контакти, які висвітлюються Siri Suggestions, людей, наданих сторонніми програмами через App Intents, і список встановлених програм.

Результат живе в ~/Library/IntelligencePlatform: п’ятдесят одна база даних SQLite, що зберігається у вигляді відкритого тексту, захищена від випадкового доступу шлюзом TCC Full Disk Access macOS. Серцем системи є graph.db, потрійне сховище, написане в словнику з 181 класу сутностей і 278 предикатів. Кожен рядок кодує суб’єкт, предикат і об’єкт — особу, тип стосунків та іншу особу, місце, організацію чи подію — з кожним краєм, що містить оцінки достовірності, кількість джерел і позначки часу.

Ваше життя за категоріями

Широта онтології – це те, де дослідження стає вражаючим. Дослідники каталогізували всі 181 класи сутностей і виявили, що 57 із них — майже третина словникового запасу — описують діяльність: сон, вправи, сеанси усвідомленості, лягання спати, поїздки на роботу, обіди. Поряд із графіком розташовані допоміжні таблиці, у яких записується, хто з ким з’являється на ваших фотографіях, і журнал спілкування, у якому вказано, хто кому, коли, у якій програмі та в якому напрямку надсилав повідомлення — лише метадані, без вмісту повідомлення.

Сорок шість предикатів є типами стосунків, які реабілітують грані між людьми, завдяки чому система фіксує не лише те, кого ви знаєте, але й те, як вони ставляться один до одного. Саме ця можливість спонукала користувачів Hacker News відверто підсумувати відкриття: кожен Mac поставляє незадокументований класифікатор членів родини.

Графік не є неактивними метаданими. Дослідники описують це як сховище із запитами, з якого отримують великі мовні моделі — субстрат, який дозволяє Apple Intelligence відповідати на запитання про «фотографії моєї сестри минулого літа» без надсилання даних у хмару. Власні дослідники Apple у 2023 році опублікували статтю про основні методи побудови графів, але дослідники зазначають, що майже нічого не було опубліковано про те, як система інтегрована в операційну систему доставки.

Відкритий вихідний код — і попередження

Щоб дозволити користувачам переглядати власні графіки, дослідники випустили iKnow, інформаційну панель із відкритим вихідним кодом, яка зчитує вміст ~/Library/IntelligencePlatform і відображає те, що система вірить про вас і вашу родину.

Останній розділ статті є навмисно провокативним. Автори проводять мисленнєвий експеримент, який, як вони відзначають, стосується будь-якої персоналізованої системи, показуючи, що станеться, якщо така база знань потрапляє в чужі руки, поєднуючи її з «стертою» мовною моделлю (одна з якої вилучено навчання безпеки), щоб продемонструвати, як «єдину точку відмови конфіденційності» можна використовувати проти користувача способами, якими не можуть витоки окремих даних.

Більша картина

Цей висновок незручно протиставляється маркетингу, який став насамперед конфіденційності, який визначив стратегію Apple зі штучним інтелектом: обробка на пристрої справді більш приватна, ніж хмарні альтернативи, але це дослідження показує, що «залишається на вашому пристрої» не означає «залишається маленьким». Локальна система, яка знає ваш розклад сну, ваші маршрути, ваше генеалогічне дерево та вашу історію фотографій, є високоцінною мішенню — незалежно від того, чи є загроза зловмисником із короткочасним доступом до ноутбука, майбутньою вразливістю програмного забезпечення чи надто здібним місцевим агентом, якому пропонується неправомірно використовувати те, що він може запитувати.

Дослідники підкреслюють, що жодні дані не передаються за межі пристрою самими демонами; аналіз стосувався того, що зберігається локально і як. Але оскільки помічники штучного інтелекту отримують глибший доступ до локального контексту, основна думка дослідників залишається незмінною: користувачі не отримали чіткого уявлення про те, що їх власні машини будують про них, і їм довелося самостійно реконструювати відповідь.

---

Stay Ahead of AI

Get the latest AI news, analysis, and breakthroughs — all in one place.

Read more AI news →