قام باحثون أمنيون بتوثيق نظام مخفي يتم شحنه على كل جهاز Mac: زوج من العمليات الخلفية التي تبني بهدوء رسمًا بيانيًا معرفيًا تفصيليًا وقابلاً للاستعلام حول الشخص الذي يستخدم الجهاز وكل من حوله - جهات الاتصال الخاصة به، وعلاقاته العائلية، وروتينه اليومي، وحتى بيانات وجهه - دون أي وثائق رسمية تقريبًا من شركة Apple.

التحليل، الذي نُشر في 28 أكتوبر على مدونة Eighth Rank للباحثين داريو باسكيني وميكال بازيلي، عاد إلى الظهور بشكل كبير هذا الأسبوع عندما وصل إلى الصفحة الأولى من Hacker News يوم الجمعة، حيث استقطب أكثر من 750 نقطة ونقاشًا مطولًا حول الخصوصية على الجهاز. تم جمع كل ما ورد في المقالة على نظام التشغيل MacOS 26، الإصدار 26.6.2، وفقًا للمؤلفين. لمزيد من السياق حول هذه القصة، راجع أخبار الذكاء الاصطناعي.

اثنان من الشياطين، وواحد وخمسون قاعدة بيانات

تم إنشاء النظام بواسطة برنامجين خفيين تم شحنهما مع كل جهاز Mac منذ وصول macOS 13 في عام 2022: Knowledgeconstructiond وIntelligenceplatformd. تصل وثائق Apple الخاصة بالآلية إلى صفحة دليل واحدة، تصف بناء المعرفة كبرنامج خفي "يحلل المحتوى الموجود على هذا الجهاز للمساعدة في بناء رسم بياني معرفي للأغراض العامة" - وأكثر من ذلك بقليل.

وفقًا للباحثين، فإن الشياطين ترجع تقريبًا إلى كل شيء يمكن لنظام التشغيل رؤيته: جهات الاتصال، والتقويم، والصور (بما في ذلك بيانات الوجه)، والرسائل والبريد، والموقع، ومدة استخدام الجهاز، وبيانات مشاركة العائلة - بما في ذلك عمر كل فرد في الأسرة - جهة اتصال الطوارئ الخاصة بالهوية الطبية في الصحة، والأحداث وجهات الاتصال التي ظهرت بواسطة اقتراحات Siri، والأشخاص الذين تبرعت بهم تطبيقات الطرف الثالث من خلال App Intents، وقائمة التطبيقات المثبتة.

النتيجة موجودة في ~/Library/IntelligencePlatform: إحدى وخمسون قاعدة بيانات SQLite مخزنة في نص عادي، محمية من الوصول العرضي بواسطة بوابة TCC Full Disk Access الخاصة بنظام macOS. قلب النظام هو graph.db، وهو مخزن ثلاثي مكتوب بمفردات مكونة من 181 فئة كيان و278 مسندًا. يقوم كل صف بترميز موضوع ومسند وكائن - شخص ونوع علاقة وشخص آخر أو مكان أو منظمة أو حدث - حيث تحمل كل حافة درجات الثقة وعدد المصادر والطوابع الزمنية.

حياتك، مصنفة

إن اتساع علم الوجود هو المكان الذي يصبح فيه البحث ملفتًا للنظر. قام الباحثون بفهرسة جميع فئات الكيانات البالغ عددها 181، ووجدوا أن 57 منها - ما يقرب من ثلث المفردات - تصف الأنشطة: النوم، وممارسة الرياضة، وجلسات اليقظة الذهنية، والذهاب إلى السرير، والتنقل، وتناول الطعام. إلى جانب الرسم البياني، توجد جداول مساعدة تسجل من يظهر ومع من في صورك وسجل اتصالات يلتقط من أرسل الرسائل ومتى وفي أي تطبيق وفي أي اتجاه - البيانات الوصفية فقط، بدون محتوى الرسالة.

ستة وأربعون من المسندات هي أنواع العلاقات التي تجسد الحدود بين الأشخاص، وهذه هي الطريقة التي يلتقط بها النظام ليس فقط من تعرفه ولكن أيضًا كيفية ارتباطهم ببعضهم البعض. هذه القدرة هي التي دفعت مستخدمي Hacker News إلى تلخيص الاكتشاف بصراحة: كل جهاز Mac يشحن مصنفًا غير موثق لأفراد العائلة.

الرسم البياني ليس بيانات تعريف خاملة. يصفه الباحثون بأنه مخزن قابل للاستعلام تستعيد منه نماذج اللغات الكبيرة - الركيزة التي تتيح لـ Apple Intelligence الإجابة على أسئلة حول "صور أختي من الصيف الماضي" دون إرسال البيانات إلى السحابة. نشر باحثو شركة Apple بحثًا حول تقنيات إنشاء الرسوم البيانية الأساسية في عام 2023، لكن الباحثين لاحظوا أنه لم يتم نشر أي شيء تقريبًا حول كيفية دمج النظام في نظام تشغيل الشحن.

نظرة خاطفة على المصادر المفتوحة – وتحذير

للسماح للمستخدمين بفحص الرسوم البيانية الخاصة بهم، أصدر الباحثون iKnow، وهي لوحة معلومات مفتوحة المصدر تقرأ محتويات ~/Library/IntelligencePlatform وتعرض ما يعتقده النظام عنك وعن عائلتك.

القسم الأخير من الورقة استفزازي بشكل متعمد. أجرى المؤلفون تجربة فكرية - لاحظوا أنها تنطبق على أي نظام شخصي - توضح ما يحدث إذا انتهت قاعدة المعرفة هذه في الأيدي الخطأ، ودمجها مع نموذج لغة "مُمحى" (نموذج مع إزالة التدريب على السلامة) لتوضيح كيف يمكن استخدام "نقطة فشل واحدة تتعلق بالخصوصية" كسلاح ضد المستخدم بطرق لا يمكن لتسرب البيانات الفردية أن يستخدمها.

الصورة الأكبر

تتعارض هذه النتيجة بشكل غريب مع تسويق الخصوصية أولاً الذي حدد استراتيجية الذكاء الاصطناعي لشركة Apple: المعالجة على الجهاز هي في الواقع أكثر خصوصية من البدائل السحابية، لكن هذا البحث يوضح أن عبارة "البقاء على جهازك" لا تعني "البقاء صغيرًا". يعد النظام المحلي الذي يعرف جدول نومك وتنقلاتك وشجرة عائلتك وسجل الصور الخاص بك هدفًا عالي القيمة - سواء كان التهديد ممثلًا خبيثًا لديه إمكانية الوصول لفترة قصيرة إلى جهاز كمبيوتر محمول، أو ثغرة أمنية في البرامج المستقبلية، أو وكيل محلي ذو قدرة مفرطة يتم مطالبته بإساءة استخدام ما يمكنه الاستعلام عنه.

يؤكد الباحثون على أنه لا يتم نقل أي من البيانات خارج الجهاز بواسطة الشياطين أنفسهم؛ يتعلق التحليل بما يتم تخزينه محليًا وكيف. ولكن مع حصول مساعدي الذكاء الاصطناعي على وصول أعمق إلى السياق المحلي، فإن النقطة الأساسية للباحثين تظل قائمة: لم يتم إعطاء المستخدمين صورة واضحة عما تبنيه أجهزتهم الخاصة عنهم، وكان عليهم إجراء هندسة عكسية للإجابة بأنفسهم.

---

ابق على اطلاع بأخبار الذكاء الاصطناعي

آخر أخبار وتحليلات وإنجازات الذكاء الاصطناعي — في مكان واحد.

اقرأ المزيد من أخبار الذكاء الاصطناعي →