Penyelidik keselamatan telah mendokumentasikan sistem tersembunyi yang dihantar pada setiap Mac: sepasang proses latar belakang yang secara senyap membina graf pengetahuan yang terperinci dan boleh ditanya tentang orang yang menggunakan mesin itu dan semua orang di sekeliling mereka — kenalan mereka, perhubungan keluarga mereka, rutin harian mereka, malah data muka mereka — tanpa dokumentasi rasmi daripada Apple.
Analisis yang diterbitkan pada 28 Oktober di blog Peringkat Kelapan oleh penyelidik Dario Pasquini dan Michał Bazyli, muncul semula dengan cara yang besar minggu ini apabila ia mencecah muka depan Berita Hacker pada hari Jumaat, menarik lebih daripada 750 mata dan perdebatan panjang tentang privasi pada peranti. Segala-galanya dalam penulisan telah dikumpulkan pada macOS 26, versi 26.6.2, menurut pengarang. For more context on this story, see our ongoing AI news.
Dua Daemon, Lima Puluh Satu Pangkalan Data
Sistem ini dibina oleh dua daemon yang telah dihantar dengan setiap Mac sejak macOS 13 tiba pada 2022: knowledgeconstructiond dan intelligenceplatformd. Dokumentasi Apple sendiri untuk mekanisme itu berjumlah satu halaman manual, yang menerangkan pembinaan pengetahuan dan sebagai daemon yang "menganalisis kandungan pada peranti ini untuk membantu membina graf pengetahuan tujuan umum" — dan sedikit lagi.
Menurut penyelidik, daemon merujuk silang hampir semua yang sistem pengendalian boleh lihat: Kenalan, Kalendar, Foto (termasuk data muka), Mesej dan Mel, lokasi, Masa Skrin, data Perkongsian Keluarga — termasuk umur setiap ahli isi rumah — kenalan kecemasan ID Perubatan dalam Kesihatan, acara dan kenalan yang dipaparkan oleh Siri Cadangan, orang yang didermakan oleh apl pihak ketiga dan melalui Niat senarai Apl yang dipasang.
Hasilnya hidup dalam ~/Library/IntelligencePlatform: lima puluh satu pangkalan data SQLite yang disimpan dalam teks biasa, dilindungi daripada akses kasual oleh gerbang Akses Cakera Penuh TCC macOS. Inti sistem ialah graph.db, stor tiga yang ditulis dalam perbendaharaan kata 181 kelas entiti dan 278 predikat. Setiap baris mengekod subjek, predikat dan objek — seseorang, jenis perhubungan dan orang lain, tempat, organisasi atau acara — dengan setiap tepi membawa skor keyakinan, kiraan sumber dan cap masa.
Kehidupan Anda, Dikategorikan
Keluasan ontologi adalah tempat penyelidikan menjadi menarik. Para penyelidik mengkatalogkan semua 181 kelas entiti dan mendapati bahawa 57 daripadanya - hampir satu pertiga daripada perbendaharaan kata - menerangkan aktiviti: tidur, bersenam, sesi kesedaran, pergi tidur, berulang-alik, makan. Di sebelah graf terdapat jadual tambahan yang merakam siapa yang muncul dengan siapa dalam foto anda dan log komunikasi yang menangkap siapa yang menghantar mesej kepada siapa, bila, dalam apl mana dan ke arah mana — metadata sahaja, tanpa kandungan mesej.
Empat puluh enam daripada predikat ialah jenis perhubungan yang mengukuhkan lagi kelebihan antara orang, iaitu cara sistem menangkap bukan sahaja orang yang anda kenali tetapi bagaimana ia berkait antara satu sama lain. Keupayaan itulah yang menyebabkan pengguna Berita Hacker meringkaskan penemuan itu secara terang-terangan: setiap Mac menghantar pengelas ahli keluarga tanpa dokumen.
Graf bukan metadata terbiar. Para penyelidik menyifatkannya sebagai kedai yang boleh ditanya yang model bahasa besar dapat semula — substrat yang membolehkan Apple Intelligence menjawab soalan tentang "foto kakak saya dari musim panas lalu" tanpa menghantar data ke awan. Penyelidik Apple sendiri menerbitkan makalah mengenai teknik pembinaan graf yang mendasari pada tahun 2023, tetapi para penyelidik mendapati bahawa hampir tiada apa yang telah diterbitkan tentang bagaimana sistem itu disepadukan ke dalam sistem pengendalian perkapalan.
Mengintip Sumber Terbuka — dan Amaran
Untuk membenarkan pengguna memeriksa graf mereka sendiri, para penyelidik mengeluarkan iKnow, papan pemuka sumber terbuka yang membaca kandungan ~/Library/IntelligencePlatform dan memaparkan apa yang sistem percaya tentang anda dan keluarga anda.
Bahagian akhir kertas itu sengaja menimbulkan provokasi. Pengarang menjalankan eksperimen pemikiran — yang mereka perhatikan terpakai pada mana-mana sistem yang diperibadikan — menunjukkan apa yang berlaku jika pangkalan pengetahuan sedemikian berakhir di tangan yang salah, menggabungkannya dengan model bahasa "diterapkan" (satu dengan latihan keselamatan dialih keluar) untuk menunjukkan bagaimana "titik kegagalan tunggal privasi" boleh dipersenjatai terhadap pengguna dengan cara yang tidak boleh dibocorkan oleh data individu.
Gambaran Lebih Besar
Penemuan ini tidak sesuai dengan pemasaran yang mengutamakan privasi yang telah mentakrifkan strategi AI Apple: pemprosesan pada peranti sebenarnya lebih peribadi daripada alternatif awan, tetapi penyelidikan ini menunjukkan bahawa "kekal pada peranti anda" tidak bermakna "kekal kecil." Sistem setempat yang mengetahui jadual tidur anda, perjalanan ulang-alik anda, salasilah keluarga anda dan sejarah foto anda ialah sasaran bernilai tinggi — sama ada ancaman itu adalah pelakon berniat jahat yang mempunyai akses ringkas kepada komputer riba, kelemahan perisian pada masa hadapan atau ejen tempatan yang terlalu berkebolehan digesa untuk menyalahgunakan perkara yang boleh ditanyakannya.
Tiada data, para penyelidik menekankan, dihantar ke luar peranti oleh daemon sendiri; analisis berkenaan apa yang disimpan secara tempatan dan bagaimana. Tetapi apabila pembantu AI mendapat akses yang lebih mendalam kepada konteks tempatan, perkara teras penyelidik berdiri: pengguna tidak diberi gambaran yang jelas tentang apa yang mesin mereka sendiri sedang membina tentang mereka, dan terpaksa merekayasa balik jawapan itu sendiri.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
