Badacze zajmujący się bezpieczeństwem udokumentowali ukryty system dostępny na każdym komputerze Mac: parę procesów w tle, które po cichu tworzą szczegółowy, możliwy do sprawdzenia wykres wiedzy o osobie korzystającej z maszyny i wszystkich wokół niej — jej kontaktach, relacjach rodzinnych, codziennych czynnościach, a nawet danych dotyczących twarzy — niemal bez oficjalnej dokumentacji od Apple.
Analiza, opublikowana 28 października na blogu Eighth Rank przez badaczy Dario Pasquiniego i Michała Bazylego, powróciła w wielkim stylu w tym tygodniu, kiedy w piątek trafiła na pierwszą stronę Hacker News, zdobywając ponad 750 punktów i wywołując długą debatę na temat prywatności na urządzeniach. Według autorów wszystko, co opisano w artykule, zebrano w systemie macOS 26 w wersji 26.6.2. Więcej kontekstu na ten temat znajdziesz w naszych wiadomości AI.
Dwa demony, pięćdziesiąt jeden baz danych
System składa się z dwóch demonów, które są dostarczane z każdym komputerem Mac od czasu pojawienia się systemu macOS 13 w 2022 r.: Knowledgeconstructiond i Intelligenceplatformd. Własna dokumentacja Apple dotycząca mechanizmu ogranicza się do pojedynczej strony podręcznika, która opisuje Knowledgeconstruction jako demona, który „analizuje zawartość tego urządzenia, aby pomóc w tworzeniu wykresu wiedzy ogólnego przeznaczenia” – i niewiele więcej.
Według badaczy demony odwołują się do niemal wszystkiego, co widzi system operacyjny: kontakty, kalendarz, zdjęcia (w tym dane twarzy), wiadomości i poczta, lokalizacja, czas korzystania z ekranu, dane dotyczące Chmury rodzinnej – w tym wiek każdego członka gospodarstwa domowego – numer kontaktu alarmowego z identyfikatorem medycznym w obszarze Zdrowie, wydarzenia i kontakty wyświetlane przez sugestie Siri, osoby przekazane przez aplikacje innych firm za pośrednictwem aplikacji Intents oraz listę zainstalowanych aplikacji.
Wynik znajduje się w ~/Library/IntelligencePlatform: pięćdziesiąt jeden baz danych SQLite przechowywanych w postaci zwykłego tekstu, chronionych przed przypadkowym dostępem przez bramę TCC Full Disk Access w systemie macOS. Sercem systemu jest graph.db, potrójny magazyn zapisany w słowniku składającym się ze 181 klas encji i 278 predykatów. Każdy wiersz koduje podmiot, orzeczenie i obiekt — osobę, typ relacji oraz inną osobę, miejsce, organizację lub wydarzenie — przy czym każda krawędź zawiera wskaźniki pewności, liczbę źródeł i znaczniki czasu.
Twoje życie, podzielone na kategorie
Uderzający jest zakres ontologii. Naukowcy skatalogowali wszystkie 181 klas jednostek i odkryli, że 57 z nich – prawie jedna trzecia słownictwa – opisuje czynności: spanie, ćwiczenia, sesje uważności, kładzenie się do łóżka, dojazdy do pracy, jedzenie. Obok wykresu znajdują się tabele pomocnicze rejestrujące, kto z kim pojawia się na Twoich zdjęciach, oraz dziennik komunikacji rejestrujący, kto do kogo, kiedy, w jakiej aplikacji i w jakim kierunku – tylko metadane, bez treści wiadomości.
Czterdzieści sześć predykatów to typy relacji, które odzwierciedlają granice między ludźmi, w ten sposób system rejestruje nie tylko to, kogo znasz, ale także to, jak odnoszą się do siebie nawzajem. Dzięki tej możliwości użytkownicy Hacker News bez ogródek podsumowali odkrycie: każdy komputer Mac jest dostarczany z klasyfikatorem nieudokumentowanych członków rodziny.
Wykres nie jest pustymi metadanymi. Naukowcy opisują go jako sklep, z którego można przeszukiwać zapytania, z którego pobierane są duże modele językowe — substrat, który pozwala Apple Intelligence odpowiadać na pytania dotyczące „zdjęć mojej siostry z zeszłego lata” bez wysyłania danych do chmury. Badacze Apple opublikowali w 2023 r. artykuł na temat podstawowych technik konstruowania grafów, jednak badacze zauważają, że nie opublikowano prawie nic na temat integracji systemu z systemem operacyjnym wysyłki.
Rzut oka na Open Source — i ostrzeżenie
Aby umożliwić użytkownikom sprawdzanie własnych wykresów, badacze udostępnili iKnow, pulpit nawigacyjny o otwartym kodzie źródłowym, który odczytuje zawartość ~/Library/IntelligencePlatform i wyświetla opinie systemu na temat Ciebie i Twojej rodziny.
Ostatnia część artykułu ma charakter celowo prowokacyjny. Autorzy przeprowadzają eksperyment myślowy – który, ich zdaniem można zastosować w przypadku każdego spersonalizowanego systemu – pokazując, co się stanie, jeśli taka baza wiedzy trafi w niepowołane ręce, łącząc ją z „usuniętym” modelem językowym (z usuniętym szkoleniem w zakresie bezpieczeństwa), aby zademonstrować, w jaki sposób „pojedynczy punkt awarii prywatności” może zostać wykorzystany przeciwko użytkownikowi w sposób uniemożliwiający indywidualne wycieki danych.
Większy obraz
Odkrycie to stoi w sprzeczności z marketingiem stawiającym na prywatność, który zdefiniował strategię Apple w zakresie sztucznej inteligencji: przetwarzanie na urządzeniu jest w rzeczywistości bardziej prywatne niż alternatywy w chmurze, ale to badanie pokazuje, że „pozostanie na urządzeniu” nie oznacza „pozostanie mały”. System lokalny, który zna Twój harmonogram snu, dojazdy do pracy, drzewo genealogiczne i historię zdjęć, jest celem o dużej wartości — niezależnie od tego, czy zagrożeniem jest złośliwy podmiot z krótkim dostępem do laptopa, przyszła luka w oprogramowaniu, czy też nadmiernie zdolny agent lokalny, który może niewłaściwie wykorzystać to, czego może zapytać.
Naukowcy podkreślają, że żadne dane nie są przesyłane poza urządzenie przez same demony; analiza dotyczyła tego, co i w jaki sposób jest przechowywane lokalnie. Jednak w miarę jak asystenci AI uzyskują głębszy dostęp do kontekstu lokalnego, główny wniosek badaczy pozostaje niezmienny: użytkownicy nie otrzymali jasnego obrazu tego, co budują na ich temat ich własne maszyny, i musieli sami odtworzyć odpowiedź.
---
Bądź na Bieżąco z AINajnowsze wiadomości, analizy i przełomy w dziedzinie AI — wszystko w jednym miejscu.
Czytaj więcej wiadomości AI →
