محققان امنیتی یک سیستم مخفی را ثبت کرده‌اند که بر روی هر مک ارسال می‌شود: یک جفت فرآیند پس‌زمینه که بی‌سروصدا یک نمودار دانش دقیق و قابل پرس‌وجو درباره شخصی که از دستگاه استفاده می‌کند و همه افراد اطرافشان - مخاطبین، روابط خانوادگی، کارهای روزمره، حتی داده‌های چهره‌شان - ایجاد می‌کند، تقریباً بدون هیچ سند رسمی از اپل.

این تحلیل که در 28 اکتبر در وبلاگ رتبه هشتم توسط محققان Dario Pasquini و Michał Bazyli منتشر شد، این هفته زمانی که در صفحه اول Hacker News در روز جمعه قرار گرفت، به شکلی اساسی دوباره ظاهر شد و بیش از 750 امتیاز و بحثی طولانی در مورد حفظ حریم خصوصی روی دستگاه به همراه داشت. به گفته نویسندگان، همه چیز در نوشتن در macOS 26، نسخه 26.6.2 جمع آوری شده است. For more context on this story, see our ongoing AI trends.

دو دیمون، پنجاه و یک پایگاه داده

این سیستم توسط دو دیمون ساخته شده است که از زمان ورود macOS 13 در سال 2022 با هر مک ارسال شده است: Knowledgeconstructiond و Intelligenceplatformd. مستندات خود اپل برای مکانیسم به یک صفحه مرد منفرد می رسد، که دانش ساخت را به عنوان دیمونی توصیف می کند که "محتوای موجود در این دستگاه را برای کمک به ایجاد یک نمودار دانش با هدف کلی تجزیه و تحلیل می کند" - و کمی بیشتر.

به گفته محققان، شیاطین تقریباً به همه چیزهایی که سیستم عامل می‌تواند ببیند ارجاع می‌دهد: مخاطبین، تقویم، عکس‌ها (از جمله داده‌های چهره)، پیام‌ها و نامه‌ها، مکان، زمان صفحه نمایش، داده‌های اشتراک‌گذاری خانواده - از جمله سن هر یک از اعضای خانواده - مخاطب اضطراری شناسه پزشکی در Health، رویدادها و مخاطبین نشان داده شده توسط Siri Suggestions، افرادی که در برنامه‌های بخش نصب شده از طریق لیست سوم نصب شده‌اند.

نتیجه در ~/Library/IntelligencePlatform زندگی می‌کند: پنجاه و یک پایگاه داده SQLite که در متن ساده ذخیره شده‌اند، که توسط گیت دسترسی کامل به دیسک TCC macOS از دسترسی عادی محافظت می‌شود. قلب سیستم graph.db است، یک فروشگاه سه گانه که در واژگانی از 181 کلاس موجودیت و 278 محمول نوشته شده است. هر ردیف یک موضوع، یک محمول و یک مفعول را رمزگذاری می‌کند - یک شخص، یک نوع رابطه، و شخص، مکان، سازمان یا رویداد دیگر - که هر لبه دارای امتیازات اطمینان، شمارش منبع و مهر زمانی است.

زندگی شما، طبقه بندی شده

گستردگی هستی شناسی جایی است که پژوهش چشمگیر می شود. محققان تمام 181 کلاس موجودیت را فهرست‌بندی کردند و دریافتند که 57 مورد از آنها - تقریباً یک سوم واژگان - فعالیت‌ها را توصیف می‌کنند: خواب، ورزش، جلسات تمرکز حواس، رفتن به رختخواب، رفت و آمد، غذا خوردن. در کنار نمودار، جداول کمکی وجود دارد که نشان می‌دهد چه کسی با چه کسی در عکس‌های شما ظاهر می‌شود و یک گزارش ارتباطی که نشان می‌دهد چه کسی به چه کسی، چه زمانی، در کدام برنامه و در کدام جهت پیام داده است - فقط ابرداده، بدون محتوای پیام.

چهل و شش مورد از محمول‌ها انواع رابطه‌ای هستند که لبه‌های بین افراد را تقویت می‌کنند، به این ترتیب سیستم نه تنها افرادی را که شما می‌شناسید بلکه نحوه ارتباط آنها با یکدیگر را نیز ثبت می‌کند. این قابلیت همان چیزی است که کاربران هکر نیوز را وادار کرد تا این کشف را به صراحت خلاصه کنند: هر مک یک طبقه‌بندی عضو خانواده غیرمستند را ارسال می‌کند.

نمودار فوق داده بیکار نیست. محققان آن را به‌عنوان یک فروشگاه پرسش‌پذیر توصیف می‌کنند که مدل‌های زبان بزرگ از آن بازیابی می‌کنند – بستری که به Apple Intelligence اجازه می‌دهد بدون ارسال داده‌ها به ابر به سؤالات مربوط به «عکس‌های خواهرم از تابستان گذشته» پاسخ دهد. محققان خود اپل در سال 2023 مقاله ای در مورد تکنیک های ساخت گراف زیربنایی منتشر کردند، اما محققان خاطرنشان کردند که تقریباً هیچ چیز در مورد نحوه ادغام این سیستم در سیستم عامل حمل و نقل منتشر نشده است.

منبع باز یک نگاه کردن - و یک هشدار

برای اینکه کاربران بتوانند نمودارهای خود را بررسی کنند، محققان iKnow را منتشر کردند، داشبورد منبع باز که محتویات ~/Library/IntelligencePlatform را می خواند و آنچه سیستم در مورد شما و خانواده شما باور دارد را ارائه می دهد.

بخش پایانی مقاله عمداً تحریک آمیز است. نویسندگان یک آزمایش فکری را اجرا کردند - که به گفته آنها برای هر سیستم شخصی‌سازی شده اعمال می‌شود - که نشان می‌دهد اگر چنین پایگاه دانشی در دستان اشتباهی قرار گیرد چه اتفاقی می‌افتد، و آن را با یک مدل زبان "حذف شده" (یکی با آموزش ایمنی حذف شده) ترکیب می‌کنند تا نشان دهند که چگونه می‌توان یک "نقطه شکست حریم خصوصی" را علیه کاربر به شیوه‌هایی که نشت داده‌های فردی نمی‌تواند مورد استفاده قرار داد.

تصویر بزرگتر

این یافته به طرز عجیبی در برابر بازاریابی اول حریم خصوصی قرار می گیرد که استراتژی هوش مصنوعی اپل را تعریف کرده است: پردازش روی دستگاه واقعاً خصوصی تر از جایگزین های ابری است، اما این تحقیق نشان می دهد که "در دستگاه شما بماند" به معنای "کوچک ماندن" نیست. یک سیستم محلی که از برنامه خواب شما، رفت و آمد شما، شجره نامه شما و تاریخچه عکس شما مطلع باشد، یک هدف با ارزش است - چه تهدید یک عامل مخرب با دسترسی کوتاه به لپ تاپ، یک آسیب پذیری نرم افزاری آینده، یا یک عامل محلی بیش از حد توانا باشد که از آنچه می تواند درخواست سوء استفاده کند.

محققان تاکید می کنند هیچ یک از داده ها خارج از دستگاه توسط خود شیاطین مخابره نمی شود. تجزیه و تحلیل مربوط به چه چیزی و چگونه به صورت محلی ذخیره می شود. اما از آنجایی که دستیاران هوش مصنوعی به زمینه محلی دسترسی عمیق‌تری پیدا می‌کنند، نکته اصلی محققان این است: به کاربران تصویر واضحی از آنچه ماشین‌های خودشان درباره‌شان می‌سازند داده نمی‌شد و مجبور بودند خودشان پاسخ را مهندسی معکوس کنند.

---

Stay Ahead of AI

Get the latest AI news, analysis, and breakthroughs — all in one place.

Read more AI news →