Исследователи безопасности задокументировали скрытую систему, которая поставляется на каждом Mac: пару фоновых процессов, которые незаметно создают подробный, доступный для запроса граф знаний о человеке, использующем машину, и обо всех вокруг — их контактах, их семейных отношениях, их повседневных делах, даже их лицах — практически без официальной документации от Apple.

Анализ, опубликованный 28 октября в блоге Eighth Rank исследователями Дарио Паскини и Михалом Базили, вновь всплыл на поверхность на этой неделе, когда он появился на первой странице Hacker News в пятницу, набрав более 750 баллов и вызвав продолжительные дебаты о конфиденциальности на устройствах. По словам авторов, все в рецензии собрано на macOS 26 версии 26.6.2. Подробнее об этой истории — в нашем больше статей об ИИ.

Два демона, пятьдесят одна база данных

Система построена с помощью двух демонов, которые поставляются с каждым Mac с момента выхода macOS 13 в 2022 году: Knowledgeconstructiond и Intelligenceplatformd. Собственная документация Apple по этому механизму представляет собой одну справочную страницу, в которой Knowledgeconstructiond описывается как демон, который «анализирует контент на этом устройстве, чтобы помочь построить граф знаний общего назначения» — и немного больше.

По мнению исследователей, демоны перекрестно ссылаются почти на все, что может видеть операционная система: контакты, календарь, фотографии (включая данные о лицах), сообщения и почту, местоположение, экранное время, данные семейного доступа, включая возраст каждого члена семьи, контакт для экстренных случаев с медицинским идентификатором в «Здоровье», события и контакты, обнаруженные в предложениях Siri, людей, пожертвованных сторонними приложениями через App Intents, и список установленных приложений.

Результат находится в ~/Library/IntelligencePlatform: пятьдесят одна база данных SQLite, хранящаяся в открытом виде и защищенная от случайного доступа шлюзом полного дискового доступа TCC в macOS. Сердцем системы является граф.db, тройное хранилище, написанное на словаре, состоящем из 181 класса сущностей и 278 предикатов. Каждая строка кодирует субъект, предикат и объект — человека, тип отношений и другого человека, место, организацию или событие — причем каждое ребро содержит показатели достоверности, количество источников и временные метки.

Ваша жизнь по категориям

Исследование поражает широтой онтологии. Исследователи каталогизировали все 181 класс сущностей и обнаружили, что 57 из них — почти треть словарного запаса — описывают действия: сон, упражнения, сеансы осознанности, отход ко сну, дорогу на работу, ужин. Рядом с графиком расположены вспомогательные таблицы, записывающие, кто с кем появляется на ваших фотографиях, и журнал общения, в котором фиксируется, кто кому писал, когда, в каком приложении и в каком направлении — только метаданные, без содержания сообщения.

Сорок шесть предикатов представляют собой типы отношений, которые овеществляют границы между людьми, и именно так система фиксирует не только тех, кого вы знаете, но и то, как они относятся друг к другу. Именно эта возможность побудила пользователей Hacker News прямо резюмировать открытие: каждый Mac поставляется с недокументированным классификатором членов семьи.

Граф не является пустыми метаданными. Исследователи описывают его как хранилище запросов, из которого извлекаются большие языковые модели — основу, которая позволяет Apple Intelligence отвечать на вопросы о «фотографии моей сестры прошлым летом», не отправляя данные в облако. Собственные исследователи Apple опубликовали статью об основных методах построения графов в 2023 году, но исследователи отмечают, что почти ничего не было опубликовано о том, как система интегрируется в поставляемую операционную систему.

Открытый исходный код: обзор и предупреждение

Чтобы позволить пользователям проверять свои собственные графики, исследователи выпустили iKnow, панель мониторинга с открытым исходным кодом, которая считывает содержимое ~/Library/IntelligencePlatform и отображает то, что система думает о вас и вашей семье.

Заключительный раздел статьи намеренно провокационен. Авторы проводят мысленный эксперимент (который, как они отмечают, применим к любой персонализированной системе), показывающий, что произойдет, если такая база знаний окажется в чужих руках, объединив ее с «уничтоженной» языковой моделью (с удаленной подготовкой по технике безопасности), чтобы продемонстрировать, как «единая точка отказа конфиденциальности» может быть использована против пользователя в качестве оружия, чего не могут сделать отдельные утечки данных.

Общая картина

Этот вывод противоречит маркетингу, ориентированному на конфиденциальность, который определил стратегию Apple в области искусственного интеллекта: обработка на устройстве действительно более конфиденциальна, чем облачные альтернативы, но это исследование показывает, что «оставаться на вашем устройстве» не означает «оставаться небольшим». Локальная система, которая знает ваш график сна, ваши поездки на работу, ваше генеалогическое древо и историю ваших фотографий, является ценной целью — будь то злоумышленник с кратковременным доступом к ноутбуку, будущая уязвимость программного обеспечения или слишком способный локальный агент, которому предлагается неправильно использовать то, что он может запросить.

Никакие данные, подчеркивают исследователи, не передаются за пределы устройства самими демонами; анализ касался того, что и как хранится локально. Но по мере того, как ИИ-помощники получают более глубокий доступ к локальному контексту, основная идея исследователей остается неизменной: пользователи не имели четкого представления о том, что их собственные машины строят о них, и им приходилось самостоятельно реконструировать ответ.

---

Будьте в курсе ИИ

Последние новости, аналитика и прорывы в сфере ИИ — всё в одном месте.

Читать больше новостей об ИИ →