Beveiligingsonderzoekers hebben een verborgen systeem gedocumenteerd dat op elke Mac wordt geleverd: een paar achtergrondprocessen die stilletjes een gedetailleerde, doorzoekbare kennisgrafiek opbouwen over de persoon die de machine gebruikt en iedereen om hen heen (hun contacten, hun familierelaties, hun dagelijkse routines, zelfs hun gezichtsgegevens) met vrijwel geen officiële documentatie van Apple.

De analyse, die op 28 oktober op de Eighth Rank-blog werd gepubliceerd door onderzoekers Dario Pasquini en Michał Bazyli, kwam deze week op een belangrijke manier naar voren toen het vrijdag op de voorpagina van Hacker News verscheen, met meer dan 750 punten en een langdurig debat over de privacy op het apparaat. Alles in het artikel is volgens de auteurs verzameld op macOS 26, versie 26.6.2. Voor meer context over dit verhaal, zie ons meer AI-verhalen.

Twee daemons, eenenvijftig databases

Het systeem is gebouwd door twee daemons die bij elke Mac zijn geleverd sinds de komst van macOS 13 in 2022: kennisconstructie en intelligentieplatform. Apple's eigen documentatie voor het mechanisme komt neer op een enkele man-pagina, die kennisconstructie beschrijft als een daemon die "de inhoud op dit apparaat analyseert om te helpen een kennisgrafiek voor algemene doeleinden op te bouwen" - en weinig meer.

Volgens de onderzoekers verwijzen de daemons naar bijna alles wat het besturingssysteem kan zien: contacten, agenda, foto's (inclusief gezichtsgegevens), berichten en e-mail, locatie, schermtijd, gegevens delen met gezin (inclusief de leeftijd van elk lid van een huishouden), het medische ID-contact voor noodgevallen in Gezondheid, evenementen en contacten die door Siri Suggestions zijn opgedoken, mensen die door apps van derden zijn gedoneerd via App Intents, en de lijst met geïnstalleerde apps.

Het resultaat is te vinden in ~/Library/IntelligencePlatform: eenenvijftig SQLite-databases opgeslagen in leesbare tekst, beschermd tegen toevallige toegang door de TCC Full Disk Access-poort van macOS. Het hart van het systeem is graph.db, een drievoudige opslag geschreven in een vocabulaire van 181 entiteitsklassen en 278 predikaten. Elke rij codeert een onderwerp, een predikaat en een object – een persoon, een relatietype en een andere persoon, plaats, organisatie of gebeurtenis – waarbij elke rand betrouwbaarheidsscores, brontellingen en tijdstempels bevat.

Jouw leven, gecategoriseerd

Het is de breedte van de ontologie waar het onderzoek opvalt. De onderzoekers catalogiseerden alle 181 entiteitsklassen en ontdekten dat 57 daarvan – bijna een derde van de woordenschat – activiteiten beschrijven: slapen, sporten, mindfulness-sessies, naar bed gaan, woon-werkverkeer, dineren. Naast de grafiek staan ​​hulptabellen waarin wordt vastgelegd wie met wie op uw foto's verschijnt en een communicatielogboek waarin wordt vastgelegd wie wie een bericht heeft gestuurd, wanneer, in welke app en in welke richting - alleen metagegevens, zonder berichtinhoud.

Zesenveertig van de predikaten zijn relatietypes die de grenzen tussen mensen verduidelijken, waardoor het systeem niet alleen vastlegt wie je kent, maar ook hoe ze zich tot elkaar verhouden. Deze mogelijkheid heeft Hacker News-gebruikers ertoe aangezet de ontdekking botweg samen te vatten: elke Mac wordt geleverd met een classificatie voor gezinsleden zonder papieren.

De grafiek is geen inactieve metadata. De onderzoekers omschrijven het als een doorzoekbare winkel waar grote taalmodellen uit kunnen halen - het substraat waarmee Apple Intelligence vragen kan beantwoorden over "de foto's van mijn zus van afgelopen zomer" zonder gegevens naar de cloud te sturen. Apple's eigen onderzoekers publiceerden in 2023 een artikel over de onderliggende grafiekconstructietechnieken, maar de onderzoekers merken op dat er bijna niets is gepubliceerd over hoe het systeem is geïntegreerd in het besturingssysteem van de scheepvaart.

Open source, een kijkje - en een waarschuwing

Om gebruikers hun eigen grafieken te laten bekijken, hebben de onderzoekers iKnow uitgebracht, een open-source dashboard dat de inhoud van ~/Library/IntelligencePlatform leest en weergeeft wat het systeem over u en uw gezin gelooft.

Het laatste deel van het artikel is opzettelijk provocerend. De auteurs voeren een gedachte-experiment uit – dat volgens hen van toepassing is op elk gepersonaliseerd systeem – en laten zien wat er gebeurt als een dergelijke kennisbank in verkeerde handen terechtkomt. Ze combineren dit met een ‘weggevaagd’ taalmodel (een zonder veiligheidstraining) om aan te tonen hoe een ‘privacy single point of fail’ tegen een gebruiker kan worden bewapend op een manier waarop individuele datalekken niet mogelijk zijn.

Het grotere plaatje

De bevinding komt op onhandige wijze in tegen de privacy-first-marketing die de AI-strategie van Apple heeft gedefinieerd: verwerking op het apparaat is echt meer privé dan cloud-alternatieven, maar dit onderzoek toont aan dat 'op je apparaat blijven' niet betekent dat 'klein blijft'. Een lokaal systeem dat uw slaapschema, uw woon-werkverkeer, uw stamboom en uw fotogeschiedenis kent, is een waardevol doelwit – of de dreiging nu een kwaadwillende actor is met korte toegang tot een laptop, een toekomstige softwarekwetsbaarheid of een al te capabele lokale agent die wordt aangezet om misbruik te maken van wat het kan opvragen.

Geen van de gegevens, zo benadrukken de onderzoekers, wordt door de daemons zelf buiten het apparaat verzonden; de analyse betrof wat lokaal wordt opgeslagen en hoe. Maar naarmate AI-assistenten diepere toegang krijgen tot de lokale context, blijft het kernpunt van de onderzoekers staan: gebruikers kregen geen duidelijk beeld van wat hun eigen machines over hen bouwen, en moesten het antwoord zelf reverse-engineeren.

---

Blijf Voorop met AI

Het laatste AI-nieuws, analyses en doorbraken — allemaal op één plek.

Lees meer AI-nieuws →