I ricercatori di sicurezza hanno documentato un sistema nascosto presente su ogni Mac: una coppia di processi in background che costruiscono silenziosamente un grafico della conoscenza dettagliato e interrogabile sulla persona che utilizza la macchina e su tutti coloro che la circondano - i loro contatti, le loro relazioni familiari, le loro routine quotidiane, persino i dati del viso - quasi senza documentazione ufficiale da parte di Apple.
L'analisi, pubblicata il 28 ottobre sul blog Eighth Rank dai ricercatori Dario Pasquini e Michał Bazyli, è riemersa in modo importante questa settimana quando è arrivata sulla prima pagina di Hacker News venerdì, raccogliendo più di 750 punti e un lungo dibattito sulla privacy dei dispositivi. Tutto nell'articolo è stato raccolto su macOS 26, versione 26.6.2, secondo gli autori. Per maggiori informazioni su questa storia, consulta la nostra aggiornamenti sull'intelligenza artificiale.
Due demoni, cinquantuno database
Il sistema è costruito da due demoni forniti con ogni Mac dall’arrivo di macOS 13 nel 2022: knowledgeconstructed e intelligenceplatformd. La documentazione di Apple relativa al meccanismo ammonta a un'unica pagina man, che descrive knowledgeconstructiond come un demone che "analizza il contenuto su questo dispositivo per aiutare a costruire un grafico della conoscenza per scopi generali" - e poco altro.
Secondo i ricercatori, i demoni fanno riferimenti incrociati a quasi tutto ciò che il sistema operativo può vedere: contatti, calendario, foto (inclusi i dati dei volti), messaggi e posta, posizione, tempo di utilizzo, dati di condivisione familiare (inclusa l'età di ogni membro di una famiglia), il contatto di emergenza dell'ID medico in Salute, eventi e contatti emersi dai suggerimenti di Siri, persone donate da app di terze parti tramite Intent app e l'elenco delle app installate.
Il risultato risiede in ~/Library/IntelligencePlatform: cinquantuno database SQLite archiviati in testo normale, protetti dall'accesso casuale dal cancello TCC Full Disk Access di macOS. Il cuore del sistema è graph.db, un triplo archivio scritto in un vocabolario di 181 classi di entità e 278 predicati. Ogni riga codifica un soggetto, un predicato e un oggetto – una persona, un tipo di relazione e un'altra persona, luogo, organizzazione o evento – con ciascun bordo che riporta punteggi di confidenza, conteggi delle fonti e timestamp.
La tua vita, categorizzata
L’ampiezza dell’ontologia è il punto in cui la ricerca diventa sorprendente. I ricercatori hanno catalogato tutte le 181 classi di entità e hanno scoperto che 57 di esse – quasi un terzo del vocabolario – descrivono attività: dormire, fare esercizio, sessioni di consapevolezza, andare a letto, spostarsi, cenare. Accanto al grafico si trovano tabelle ausiliarie che registrano chi appare con chi nelle tue foto e un registro delle comunicazioni che cattura chi ha inviato messaggi a chi, quando, in quale app e in quale direzione: solo metadati, senza contenuto del messaggio.
Quarantasei predicati sono tipi di relazione che reificano i confini tra le persone, ed è così che il sistema cattura non solo chi conosci ma anche il modo in cui si relazionano tra loro. Questa capacità è ciò che ha portato gli utenti di Hacker News a riassumere la scoperta senza mezzi termini: ogni Mac viene fornito con un classificatore di membri della famiglia non documentato.
Il grafico non è metadati inattivi. I ricercatori lo descrivono come un archivio interrogabile da cui recuperano grandi modelli linguistici: il substrato che consente all'intelligenza di Apple di rispondere a domande sulle "foto di mia sorella dell'estate scorsa" senza inviare dati al cloud. Gli stessi ricercatori di Apple hanno pubblicato un articolo sulle tecniche di costruzione dei grafici sottostanti nel 2023, ma i ricercatori notano che non è stato pubblicato quasi nulla su come il sistema è integrato nel sistema operativo di spedizione.
Uno sguardo all'open source e un avvertimento
Per consentire agli utenti di esaminare i propri grafici, i ricercatori hanno rilasciato iKnow, una dashboard open source che legge il contenuto di ~/Library/IntelligencePlatform e restituisce ciò che il sistema crede su di te e sulla tua famiglia.
La sezione finale del documento è volutamente provocatoria. Gli autori conducono un esperimento mentale – che secondo loro si applica a qualsiasi sistema personalizzato – mostrando cosa succede se tale base di conoscenza finisce nelle mani sbagliate, combinandolo con un modello linguistico “abliterato” (uno con formazione sulla sicurezza rimossa) per dimostrare come un “singolo punto di errore sulla privacy” può essere utilizzato come arma contro un utente in modi che le fughe di dati individuali non possono.
Il quadro più ampio
La scoperta si scontra goffamente con il marketing incentrato sulla privacy che ha definito la strategia AI di Apple: l’elaborazione sul dispositivo è davvero più privata rispetto alle alternative cloud, ma questa ricerca mostra che “rimane sul tuo dispositivo” non significa “rimane piccolo”. Un sistema locale che conosce il tuo programma di sonno, i tuoi spostamenti, il tuo albero genealogico e la tua cronologia fotografica è un obiettivo di alto valore, sia che la minaccia sia un attore malintenzionato con un breve accesso a un laptop, una futura vulnerabilità del software o un agente locale eccessivamente capace spinto a abusare di ciò che può interrogare.
Nessuno dei dati, sottolineano i ricercatori, viene trasmesso off-device dai demoni stessi; l'analisi ha riguardato cosa viene memorizzato localmente e come. Ma man mano che gli assistenti di intelligenza artificiale ottengono un accesso più profondo al contesto locale, il punto centrale dei ricercatori rimane: agli utenti non è stata data un’immagine chiara di ciò che le loro macchine stanno costruendo su di loro e hanno dovuto decodificare da soli la risposta.
---
Rimani Aggiornato sull'IALe ultime notizie, analisi e scoperte sull'intelligenza artificiale — tutto in un posto.
Leggi altre notizie sull'IA →
