Peneliti keamanan telah mendokumentasikan sistem tersembunyi yang ada di setiap Mac: sepasang proses latar belakang yang secara diam-diam membuat grafik pengetahuan terperinci dan dapat ditanyakan tentang orang yang menggunakan mesin tersebut dan semua orang di sekitarnya — kontak, hubungan keluarga, rutinitas sehari-hari, bahkan data wajah mereka — hampir tanpa dokumentasi resmi dari Apple.
Analisis tersebut, yang diterbitkan pada tanggal 28 Oktober di blog Eighth Rank oleh peneliti Dario Pasquini dan Michał Bazyli, muncul kembali secara besar-besaran minggu ini ketika muncul di halaman depan Hacker News pada hari Jumat, menghasilkan lebih dari 750 poin dan perdebatan panjang tentang privasi di perangkat. Segala sesuatu dalam artikel ini dikumpulkan di macOS 26, versi 26.6.2, menurut penulisnya. For more context on this story, see our ongoing AI industry coverage.
Dua Daemon, Lima Puluh Satu Basis Data
Sistem ini dibangun oleh dua daemon yang dikirimkan bersama setiap Mac sejak macOS 13 hadir pada tahun 2022: konstruksi pengetahuan dan platform intelijen. Dokumentasi Apple sendiri untuk mekanisme ini berjumlah satu halaman manual, yang menggambarkan konstruksi pengetahuan sebagai daemon yang "menganalisis konten pada perangkat ini untuk membantu membangun grafik pengetahuan tujuan umum" — dan masih banyak lagi.
Menurut para peneliti, daemon melakukan referensi silang hampir semua hal yang dapat dilihat oleh sistem operasi: Kontak, Kalender, Foto (termasuk data wajah), Pesan dan Mail, lokasi, Durasi Layar, data Keluarga Berbagi — termasuk usia setiap anggota rumah tangga — kontak darurat ID Medis di Kesehatan, acara dan kontak yang muncul oleh Saran Siri, orang-orang yang disumbangkan oleh aplikasi pihak ketiga melalui App Intents, dan daftar aplikasi yang diinstal.
Hasilnya ada di ~/Library/IntelligencePlatform: lima puluh satu database SQLite disimpan dalam teks biasa, dilindungi dari akses biasa oleh gerbang Akses Disk Penuh TCC macOS. Inti dari sistem ini adalah graph.db, penyimpanan rangkap tiga yang ditulis dalam kosakata 181 kelas entitas dan 278 predikat. Setiap baris mengkodekan subjek, predikat, dan objek — seseorang, jenis hubungan, dan orang lain, tempat, organisasi, atau peristiwa — dengan masing-masing sisi membawa skor keyakinan, jumlah sumber, dan stempel waktu.
Hidup Anda, Dikategorikan
Luasnya ontologi adalah hal yang membuat penelitian ini menjadi mencolok. Para peneliti membuat katalog seluruh 181 kelas entitas dan menemukan bahwa 57 di antaranya – hampir sepertiga dari kosakata – menggambarkan aktivitas: tidur, berolahraga, sesi kesadaran, pergi tidur, bepergian, makan. Di samping grafik terdapat tabel tambahan yang mencatat siapa yang muncul bersama siapa di foto Anda dan log komunikasi yang mencatat siapa yang mengirim pesan kepada siapa, kapan, di aplikasi mana, dan ke arah mana — hanya metadata, tanpa konten pesan.
Empat puluh enam predikat adalah tipe hubungan yang mempertegas batasan di antara orang-orang, yang merupakan cara sistem menangkap tidak hanya siapa yang Anda kenal tetapi juga bagaimana mereka berhubungan satu sama lain. Kemampuan itulah yang membuat pengguna Hacker News merangkum penemuan tersebut secara blak-blakan: setiap Mac mengirimkan pengklasifikasi anggota keluarga yang tidak berdokumen.
Grafik tersebut bukanlah metadata yang menganggur. Para peneliti menggambarkannya sebagai penyimpanan yang dapat dikueri yang diambil dari model bahasa besar – substrat yang memungkinkan Apple Intelligence menjawab pertanyaan tentang “foto saudara perempuan saya dari musim panas lalu” tanpa mengirim data ke cloud. Peneliti Apple sendiri menerbitkan makalah tentang teknik konstruksi grafik yang mendasarinya pada tahun 2023, namun para peneliti mencatat bahwa hampir tidak ada yang dipublikasikan tentang bagaimana sistem tersebut diintegrasikan ke dalam sistem operasi pengiriman.
Intip Sumber Terbuka — dan Peringatan
Agar pengguna dapat memeriksa grafik mereka sendiri, para peneliti merilis iKnow, sebuah dasbor sumber terbuka yang membaca konten ~/Library/IntelligencePlatform dan menampilkan apa yang diyakini sistem tentang Anda dan keluarga Anda.
Bagian akhir makalah ini sengaja dibuat provokatif. Para penulis menjalankan eksperimen pemikiran – yang menurut mereka berlaku untuk sistem apa pun yang dipersonalisasi – menunjukkan apa yang terjadi jika basis pengetahuan tersebut jatuh ke tangan yang salah, menggabungkannya dengan model bahasa yang “dihapuskan” (yang pelatihan keselamatannya dihapus) untuk menunjukkan bagaimana “satu titik kegagalan privasi” dapat dijadikan senjata untuk melawan pengguna dengan cara yang tidak dapat dilakukan oleh kebocoran data individual.
Gambaran Yang Lebih Besar
Temuan ini bertentangan dengan pemasaran yang mengutamakan privasi yang telah menentukan strategi AI Apple: pemrosesan pada perangkat benar-benar lebih pribadi dibandingkan alternatif cloud, namun penelitian ini menunjukkan bahwa "tetap berada di perangkat Anda" tidak berarti "tetap kecil". Sistem lokal yang mengetahui jadwal tidur Anda, perjalanan Anda, silsilah keluarga Anda, dan riwayat foto Anda adalah target yang bernilai tinggi — baik ancamannya adalah aktor jahat dengan akses singkat ke laptop, kerentanan perangkat lunak di masa depan, atau agen lokal yang terlalu cakap yang diminta untuk menyalahgunakan apa yang dapat ditanyakannya.
Para peneliti menekankan, tidak ada data yang dikirimkan ke luar perangkat oleh daemon itu sendiri; analisisnya berkaitan dengan apa yang disimpan secara lokal dan bagaimana caranya. Namun ketika asisten AI mendapatkan akses yang lebih dalam terhadap konteks lokal, poin utama para peneliti tetap ada: pengguna tidak diberi gambaran jelas tentang apa yang dibuat oleh mesin mereka sendiri, dan harus merekayasa balik jawabannya sendiri.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
