Güvenlik araştırmacıları, her Mac'te gönderilen gizli bir sistemi belgeledi: Makineyi kullanan kişi ve etrafındaki herkes (kişiler, aile ilişkileri, günlük rutinler, hatta yüz verileri) hakkında, Apple'ın neredeyse hiçbir resmi belgesi olmadan, sessizce ayrıntılı, sorgulanabilir bir bilgi grafiği oluşturan bir çift arka plan işlemi.

Araştırmacılar Dario Pasquini ve Michał Bazyli tarafından 28 Ekim'de Eighth Rank blogunda yayınlanan analiz, bu hafta Cuma günü Hacker News'in ön sayfasında yer aldığında büyük bir şekilde yeniden gün yüzüne çıktı ve 750'den fazla puan aldı ve cihaz içi gizlilik hakkında uzun bir tartışmaya neden oldu. Yazarlara göre yazıdaki her şey macOS 26, sürüm 26.6.2'de toplandı. For more context on this story, see our ongoing latest AI developments.

İki Daemon, Elli Bir Veritabanı

Sistem, macOS 13'ün 2022'de gelmesinden bu yana her Mac ile birlikte gönderilen iki arka plan programı tarafından oluşturulmuştur: Knowledge Constructiond ve Intelligenceplatformd. Apple'ın mekanizmaya ilişkin kendi dokümantasyonu tek bir kılavuz sayfası kadardır; bu sayfa, informationconstrucd'ı "genel amaçlı bir bilgi grafiği oluşturmaya yardımcı olmak için bu cihazdaki içeriği analiz eden" bir arka plan programı olarak tanımlar - ve çok daha fazlası.

Araştırmacılara göre, cinler işletim sisteminin görebileceği hemen hemen her şeye çapraz referans veriyor: Kişiler, Takvim, Fotoğraflar (yüz verileri dahil), Mesajlar ve Posta, konum, Ekran Süresi, Aile Paylaşımı verileri (evdeki her bireyin yaşı dahil), Sağlık'taki Tıbbi Kimlik acil durumda iletişime geçilecek kişi, Siri Önerileri aracılığıyla ortaya çıkan olaylar ve kişiler, Uygulama Amaçları aracılığıyla üçüncü taraf uygulamalar tarafından bağışlanan kişiler ve yüklü uygulamaların listesi.

Sonuç ~/Library/IntelligencePlatform'da bulunuyor: macOS'un TCC Tam Disk Erişimi kapısı tarafından sıradan erişime karşı korunan, düz metin halinde depolanan elli bir SQLite veritabanı. Sistemin kalbi, 181 varlık sınıfı ve 278 yüklemden oluşan bir sözlükle yazılmış üçlü bir depo olan graph.db'dir. Her satır bir özneyi, bir yüklemi ve bir nesneyi (bir kişi, bir ilişki türü ve başka bir kişi, yer, organizasyon veya olay) kodlar ve her kenar güven puanlarını, kaynak sayımlarını ve zaman damgalarını taşır.

Sizin Hayatınız, Kategorize Edilmiş

Ontolojinin genişliği araştırmanın dikkat çekici olduğu noktadır. Araştırmacılar 181 varlık sınıfının tamamını katalogladılar ve bunlardan 57'sinin - kelime dağarcığının neredeyse üçte birinin - uyku, egzersiz, farkındalık seansları, yatma, işe gidip gelme, yemek yeme gibi aktiviteleri tanımladığını buldu. Grafiğin yanında, fotoğraflarınızda kimin kiminle göründüğünü kaydeden yardımcı tablolar ve kimin kime, ne zaman, hangi uygulamadan ve hangi yönde mesaj gönderdiğini gösteren bir iletişim günlüğü bulunur (yalnızca meta veriler, mesaj içeriği olmadan).

Yüklemlerin kırk altısı, insanlar arasındaki sınırları somutlaştıran ilişki türleridir; bu, sistemin yalnızca kimi tanıdığınızı değil, aynı zamanda birbirleriyle nasıl ilişki kurduğunu da bu şekilde yakalar. Bu yetenek, Hacker News kullanıcılarının keşfi açık bir şekilde özetlemesine neden oldu: Her Mac, belgelenmemiş bir aile üyesi sınıflandırıcısı gönderir.

Grafik boşta kalan meta veriler değildir. Araştırmacılar bunu, büyük dil modellerinin alındığı sorgulanabilir bir mağaza olarak tanımlıyor; Apple Intelligence'ın "kız kardeşimin geçen yazki fotoğrafları" hakkındaki soruları buluta veri göndermeden yanıtlamasına olanak tanıyan alt katman. Apple'ın kendi araştırmacıları, 2023'te temel grafik oluşturma teknikleri üzerine bir makale yayınladılar, ancak araştırmacılar, sistemin nakliye işletim sistemine nasıl entegre edildiğine dair neredeyse hiçbir şeyin yayınlanmadığını belirtiyor.

Bir Göz Atma ve Bir Uyarıyı Açık Kaynak Kullanımı

Araştırmacılar, kullanıcıların kendi grafiklerini incelemelerine olanak sağlamak için ~/Library/IntelligencePlatform içeriğini okuyan ve sistemin siz ve aileniz hakkında ne düşündüğünü gösteren açık kaynaklı bir kontrol paneli olan iKnow'u yayınladı.

Makalenin son bölümü kasıtlı olarak provokatiftir. Yazarlar, böyle bir bilgi tabanının yanlış ellere geçmesi durumunda ne olacağını gösteren, "kötüleştirilmiş" bir dil modeliyle (güvenlik eğitimi kaldırılmış bir model) birleştirerek "gizlilik tek başarısızlık noktasının" bireysel veri sızıntılarının yapamayacağı şekillerde bir kullanıcıya karşı nasıl silah haline getirilebileceğini gösteren - herhangi bir kişiselleştirilmiş sistem için geçerli olduğunu not ettikleri - bir düşünce deneyi yürütüyorlar.

Büyük Resim

Bu bulgu, Apple'ın yapay zeka stratejisini tanımlayan gizlilik öncelikli pazarlama anlayışıyla garip bir şekilde çelişiyor: Cihazdaki işlemler, bulut alternatiflerinden gerçekten daha özeldir, ancak bu araştırma, "cihazınızda kalmanın" "küçük kalması" anlamına gelmediğini gösteriyor. Uyku programınızı, işe gidiş geliş yollarınızı, aile ağacınızı ve fotoğraf geçmişinizi bilen yerel bir sistem, yüksek değerli bir hedeftir; tehdit ister dizüstü bilgisayara kısa süreli erişimi olan kötü niyetli bir aktör, ister gelecekteki bir yazılım güvenlik açığı veya sorgulayabildiği şeyi kötüye kullanmaya yönlendirilen aşırı yetenekli bir yerel ajan olsun.

Araştırmacılar, hiçbir verinin bizzat cinler tarafından cihaz dışına aktarılmadığını vurguluyor; analiz neyin yerel olarak ve nasıl depolandığıyla ilgiliydi. Ancak yapay zeka asistanları yerel bağlama daha derinlemesine erişim kazandıkça, araştırmacıların temel fikri ortaya çıkıyor: Kullanıcılara, kendi makinelerinin onlar hakkında ne inşa ettiğine dair net bir resim verilmedi ve yanıtın tersine mühendisliğini kendileri yapmak zorunda kaldılar.

---

Stay Ahead of AI

Get the latest AI news, analysis, and breakthroughs — all in one place.

Read more AI news →