חוקרי אבטחה תיעדו מערכת נסתרת הנשלחת לכל מק: צמד תהליכי רקע שבונים בשקט גרף ידע מפורט וניתן לשאילתה על האדם המשתמש במכונה וכל מי שסביבו - אנשי הקשר שלו, מערכות היחסים המשפחתיות שלהם, השגרה היומיומית שלהם, אפילו נתוני הפנים שלהם - כמעט ללא תיעוד רשמי מאפל.
הניתוח, שפורסם ב-28 באוקטובר בבלוג של דרגה שמינית על ידי החוקרים דריו פאסקיני ומיכל באזילי, עלה מחדש השבוע בצורה משמעותית כאשר הגיע לעמוד הראשון של האקר ניוז ביום שישי, משך יותר מ-750 נקודות ווויכוח ממושך על פרטיות במכשיר. הכל בכתבה נאסף ב-macOS 26, גרסה 26.6.2, לדברי המחברים. For more context on this story, see our ongoing breaking AI news.
שני דמונים, חמישים ואחד מסדי נתונים
המערכת בנויה על ידי שני דמונים שנשלחו עם כל Mac מאז ש-macOS 13 הגיע ב-2022: בניית ידע ופלטפורמת מודיעין. התיעוד של אפל עצמה למנגנון מסתכם בדף אדם אחד, שמתאר ידע שנבנה כדמון ש"מנתח תוכן במכשיר הזה כדי לעזור לבנות גרף ידע כללי" - ועוד קצת.
לטענת החוקרים, הדמונים מצליבים כמעט את כל מה שמערכת ההפעלה יכולה לראות: אנשי קשר, לוח שנה, תמונות (כולל נתוני פנים), הודעות ודואר, מיקום, זמן מסך, נתוני שיתוף משפחה - כולל גיל כל אחד מבני הבית - איש הקשר החירום של זיהוי רפואי בבריאות, אירועים ואנשי קשר שהועלו על ידי Siri Suggestions, אנשים שנתרמו על ידי רשימת אפליקציות מותקנות של צד שלישי, ואפליקציה ברשימה של אפליקציות מותקנות של צד שלישי.
התוצאה נמצאת ב-~/Library/IntelligencePlatform: חמישים ואחד מסדי נתונים של SQLite המאוחסנים בטקסט רגיל, מוגנים מגישה סתמית על ידי שער הגישה לדיסק מלא של macOS TCC. לב המערכת הוא graph.db, חנות משולשת הכתובה באוצר מילים של 181 כיתות ישות ו-278 פרדיקטים. כל שורה מקודדת נושא, פרדיקט ואובייקט - אדם, סוג מערכת יחסים ועוד אדם, מקום, ארגון או אירוע - כאשר כל קצה נושא ציוני ביטחון, ספירת מקורות וחותמות זמן.
החיים שלך, מסווגים
הרוחב של האונטולוגיה הוא המקום שבו המחקר מקבל בולט. החוקרים קיטלגו את כל 181 כיתות הישות וגילו ש-57 מהם - כמעט שליש מאוצר המילים - מתארים פעילויות: שינה, פעילות גופנית, מפגשי מיינדפולנס, הולכים לישון, נסיעה לעבודה, אוכל. לצד הגרף יושבות טבלאות עזר שמתעדות מי מופיע עם מי בתמונות שלך ויומן תקשורת המתעד מי שלח למי, מתי, באיזו אפליקציה ולאיזה כיוון - מטא נתונים בלבד, ללא תוכן הודעה.
46 מהפרדיקטים הם סוגי מערכות יחסים המחזקות את הקצוות בין אנשים, וכך המערכת לוכדת לא רק את מי שאתה מכיר אלא איך הם מתייחסים זה לזה. היכולת הזו היא שהובילה את משתמשי האקר ניוז לסכם את התגלית בצורה בוטה: כל Mac שולח סיווג בני משפחה לא מתועד.
הגרף אינו מטא נתונים סרק. החוקרים מתארים את זה כחנות שאילתה ממנה שולפים דגמי שפות גדולים - המצע שמאפשר לאפל אינטליגנציה לענות על שאלות על "התמונות של אחותי מהקיץ האחרון" מבלי לשלוח נתונים לענן. החוקרים של אפל עצמה פרסמו מאמר על טכניקות בניית הגרפים הבסיסיות בשנת 2023, אך החוקרים מציינים שכמעט שום דבר לא פורסם על האופן שבו המערכת משולבת במערכת ההפעלה המשלוח.
הצצה במקורות פתוחים - ואזהרה
כדי לאפשר למשתמשים לבחון את הגרפים שלהם, החוקרים פרסמו את iKnow, לוח מחוונים בקוד פתוח הקורא את התוכן של ~/Library/IntelligencePlatform ומציג את מה שהמערכת מאמינה עליך ועל משפחתך.
החלק האחרון של העיתון פרובוקטיבי בכוונה. המחברים מנהלים ניסוי מחשבתי - שלדעתם חל על כל מערכת מותאמת אישית - המראה מה קורה אם בסיס ידע כזה יגיע לידיים הלא נכונות, תוך שילוב עם מודל שפה "משוחרר" (אחד עם הכשרת בטיחות הוסרה) כדי להדגים כיצד "נקודת פרטיות יחידה של כשל" ניתן לנשק נגד משתמש בדרכים שבהן לא ניתן לדלוף נתונים בודדים.
התמונה הגדולה יותר
הממצא נוחת בצורה מביכה נגד השיווק הראשון בפרטיות שהגדיר את אסטרטגיית הבינה המלאכותית של אפל: עיבוד במכשיר הוא באמת פרטי יותר מחלופות ענן, אבל המחקר הזה מראה ש"להישאר במכשיר שלך" לא אומר "נשאר קטן". מערכת מקומית שמכירה את לוח השינה שלך, את הנסיעה לעבודה, את אילן היוחסין שלך ואת היסטוריית התמונות שלך היא יעד בעל ערך גבוה - בין אם האיום הוא שחקן זדוני עם גישה קצרה למחשב נייד, פגיעות תוכנה עתידית או סוכן מקומי בעל יכולת יתר שמתבקש לעשות שימוש לרעה במה שהוא יכול לשאול.
אף אחד מהנתונים, מדגישים החוקרים, אינו מועבר מחוץ למכשיר על ידי הדמונים עצמם; הניתוח עסק במה מאוחסן באופן מקומי וכיצד. אך כאשר עוזרי בינה מלאכותית מקבלים גישה עמוקה יותר להקשר המקומי, נקודת הליבה של החוקרים עומדת: למשתמשים לא ניתנה תמונה ברורה של מה שהמכונות שלהם בונים עליהם, והיה עליהם להנדס לאחור את התשובה בעצמם.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
