Cercetătorii în domeniul securității au documentat un sistem ascuns care este livrat pe fiecare Mac: o pereche de procese de fundal care construiesc în liniște un grafic de cunoștințe detaliat, interogabil despre persoana care folosește aparatul și despre toți cei din jur - contactele lor, relațiile lor de familie, rutinele lor zilnice, chiar și datele feței lor - aproape fără documentație oficială de la Apple.
Analiza, publicată pe 28 octombrie pe blogul Eighth Rank de către cercetătorii Dario Pasquini și Michał Bazyli, a reapărut într-un mod major săptămâna aceasta, când a ajuns vineri pe prima pagină a Hacker News, adunând peste 750 de puncte și o dezbatere îndelungată despre confidențialitatea pe dispozitiv. Totul din scris a fost colectat pe macOS 26, versiunea 26.6.2, potrivit autorilor. For more context on this story, see our ongoing more AI stories.
Doi demoni, cincizeci și unu de baze de date
Sistemul este construit de doi demoni care au fost livrat cu fiecare Mac de la sosirea macOS 13 în 2022: knowledgeconstructiond și intelligenceplatformd. Documentația Apple pentru mecanism se ridică la o singură pagină de manual, care descrie cunoașterea construită ca un demon care „analizează conținutul de pe acest dispozitiv pentru a ajuta la construirea unui grafic de cunoștințe de uz general” – și puțin mai mult.
Potrivit cercetătorilor, demonii fac referire încrucișată la aproape tot ceea ce poate vedea sistemul de operare: contacte, calendar, fotografii (inclusiv date faciale), mesaje și e-mail, locație, timp pe ecran, date de partajare în familie - inclusiv vârsta fiecărui membru al gospodăriei - contactul de urgență medical ID în Sănătate, evenimente și contacte apărute de Sugestii Siri, persoane donate de aplicații instalate de terțe părți, lista de aplicații instalate în aplicații și liste.
Rezultatul se află în ~/Library/IntelligencePlatform: cincizeci și una de baze de date SQLite stocate în text simplu, protejate împotriva accesului obișnuit de poarta TCC Full Disk Access de la macOS. Inima sistemului este graph.db, un depozit triplu scris într-un vocabular de 181 de clase de entități și 278 de predicate. Fiecare rând codifică un subiect, un predicat și un obiect - o persoană, un tip de relație și o altă persoană, loc, organizație sau eveniment - fiecare margine având scoruri de încredere, număr de surse și marcaje temporale.
Viața ta, clasificată
Lărgimea ontologiei este locul în care cercetarea devine izbitoare. Cercetătorii au catalogat toate cele 181 de clase de entități și au descoperit că 57 dintre ele - aproape o treime din vocabular - descriu activități: somn, exerciții, sesiuni de mindfulness, culcare, navetă, masă. Alături de grafic se află tabele auxiliare care înregistrează cine apare cu cine în fotografiile tale și un jurnal de comunicare care surprinde cine a trimis mesaje cui, când, în ce aplicație și în ce direcție - numai metadate, fără conținutul mesajului.
Patruzeci și șase de predicate sunt tipuri de relații care reifesc marginile dintre oameni, ceea ce este modul în care sistemul surprinde nu doar pe cine cunoști, ci și modul în care se raportează unul la altul. Această capacitate este ceea ce i-a determinat pe utilizatorii Hacker News să rezumă clar descoperirea: fiecare Mac furnizează un clasificator nedocumentat pentru membrii familiei.
Graficul nu este metadate inactive. Cercetătorii îl descriu ca pe un magazin interogabil de pe care modelele mari de limbă îl preiau – substratul care permite Apple Intelligence să răspundă la întrebări despre „fotografiile surorii mele din vara trecută” fără a trimite date în cloud. Cercetătorii Apple au publicat în 2023 o lucrare despre tehnicile subiacente de construcție a graficelor, dar cercetătorii observă că aproape nimic nu a fost publicat despre modul în care sistemul este integrat în sistemul de operare de transport.
Open-Sourcing o privire – și un avertisment
Pentru a permite utilizatorilor să-și inspecteze propriile grafice, cercetătorii au lansat iKnow, un tablou de bord open-source care citește conținutul ~/Library/IntelligencePlatform și redă ceea ce crede sistemul despre tine și familia ta.
Secțiunea finală a lucrării este în mod deliberat provocatoare. Autorii desfășoară un experiment de gândire – despre care notează că se aplică oricărui sistem personalizat – care arată ce se întâmplă dacă o astfel de bază de cunoștințe ajunge în mâini greșite, combinându-l cu un model de limbaj „abliterat” (unul cu pregătirea de siguranță eliminată) pentru a demonstra cum un „punct unic de eșec al confidențialității” poate fi armat împotriva unui utilizator în moduri în care scurgerile de date individuale nu nu pot.
Imaginea de ansamblu
Descoperirea se îndreaptă stânjenitor împotriva marketingului de confidențialitate care a definit strategia AI a Apple: procesarea pe dispozitiv este cu adevărat mai privată decât alternativele cloud, dar această cercetare arată că „rămâne pe dispozitivul tău” nu înseamnă „rămâne mic”. Un sistem local care vă cunoaște programul dvs. de somn, naveta, arborele genealogic și istoricul fotografiilor dvs. este o țintă de mare valoare - indiferent dacă amenințarea este un actor rău intenționat cu acces scurt la un laptop, o viitoare vulnerabilitate a software-ului sau un agent local prea capabil solicitat să folosească greșit ceea ce poate interoga.
Niciuna dintre date, subliniază cercetătorii, nu este transmisă în afara dispozitivului de către demoni înșiși; analiza a vizat ce este stocat local și cum. Dar, pe măsură ce asistenții AI obțin un acces mai profund la contextul local, punctul central al cercetătorilor rămâne: utilizatorilor nu li s-a oferit o imagine clară despre ceea ce construiesc propriile lor mașini despre ei și au trebuit să facă ei înșiși să facă o inginerie inversă a răspunsului.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
