סיגנל חוסם כעת צילומי מסך כברירת מחדל ב-iOS 27 ומגביל עוזרי AI במכשיר לקרוא את האפליקציה באנדרואיד, אמצעי נגד ישיר נגד סוכני AI שאפל וגוגל ארוגים במערכות ההפעלה הניידות שלהן. נשיאת Signal Meredith Whittaker הודיעה על השינוי בפוסט בבלוג שפורסם ב-20 בנובמבר בשם "Signal is Serious About Protecting Privacy Your Privacy", ולא קמצנה מילים על ההימור: בינה מלאכותית ברמת מערכת ההפעלה, היא כתבה, היא "איום קיומי לסיגנל, והיכולת שלנו לעמוד באחריות במשימתנו".
המהלך, שדווח לראשונה כבלעדי על ידי רויטרס, הוא ההסלמה החדה ביותר עד כה בסכסוך השקט בין יצרני אפליקציות ראשונות לפרטיות והפלטפורמות שבהן הם תלויים - ורגע מרכזי עבור כל מי שעוקב אחר התפתחויות הבינה המלאכותיות האחרונות בטכנולוגיית הצרכנים. אפליקציית ההודעות המוצפנות של Signal הבטיחה מזמן שרק אתה והאדם שאתה מדבר איתו יכולים לקרוא את ההודעות שלך. הטענה שלו היא שסוכנים המובנים ב-iOS, אנדרואיד ו-Windows מפרים כעת את ההבטחה הזו מבחוץ, על ידי קריאת המסך עצמו.
איזה אות בעצם חוסם
ההגנות שונות לפי פלטפורמה מכיוון שהכלים הבסיסיים כן. ב-iOS 27, Signal כעת מונע צילומי מסך בתוך האפליקציה כברירת מחדל. באנדרואיד, האפליקציה מפעילה אוטומטית את הגדרת "אבטחת המסך" שלה כשהיא מזהה עוזר בינה מלאכותית שמנסה לגשת למסך - בחירה עיצובית מכוונת, הסביר Whittaker, מכיוון שספקי אנדרואיד רבים מחוץ לקו הפיקסל של גוגל אינם מציעים דרך אמינה לזהות ניסיון צילום מסך ברגע שצילומי מסך מושבתים. במקום להשאיר למשתמשים צילומי מסך שבאופן מסתורי מפסיקים לעבוד, Signal מכוון לפעילות הסוכן עצמה.
משתמשים שרוצים את היכולת לצלם צילומי מסך יכולים לכבות את ההגנה בהגדרות של Signal. החברה מפורשת לגבי הפשרה: פעולה זו עלולה לחשוף הן את ההודעות שלך והן את ההודעות של אנשי הקשר שלך לכל סוכני AI שצופים במסך, לשבור את ערבות הפרטיות ש-Signal מעניק לכל משתתף בשיחה.
תקדים ההחזרה
זו לא הפעם הראשונה ש-Signal מתווה קו נגד AI של מערכת ההפעלה. בשנה שעברה, האפליקציה השתמשה באותו מנגנון חסימת צילומי מסך כדי למנוע מה-Recall AI של מיקרוסופט ללכוד הודעות איתות ב-Windows 11 כברירת מחדל. על פי הערות השוליים הטכניות של Signal עצמו, Recall לוכדת את המסך כל כמה שניות, מחלצת טקסט מאותם צילומי מסך באמצעות זיהוי תווים אופטי, ומכילה מסד נתונים במכשיר הניתן לחיפוש - תהליך שעשוי לחשוף ולשמור נתוני Signal ללא הגבלת זמן, כולל הודעות שנעלמות שנועדו להיעלם.
מדוע אות אזעקות AI ברמת מערכת ההפעלה
בפוסט בבלוג, Whittaker ממסגר את הנושא בצורה מבנית ולא כמחלוקת עם כל חברה בודדת. גוגל, אפל ומיקרוסופט מייצרות את שלוש מערכות ההפעלה הדומיננטיות לצרכנים - "האוקיינוסים שבהם סיגנל, ויישומים אחרים, חייבים לשחות", כדבריה, מערכות ש"מכתיבות את תנאי החיים לאקוסיסטם האפליקציות".
הבעיה היא איך הסוכנים פועלים. כדי לענות על שאלות ולהשלים משימות, AI ברמת מערכת ההפעלה סורקת את מה שמופיע על המסך. כל דבר הנראה ב-Signal באותו רגע - תוכן הודעה, זהויות של אנשי קשר - נקלט וזמין לסוכן, ועשוי לנחות במסד נתונים מקומי או בשרת מרוחק מחוץ לשליטתה של Signal. ההצפנה מקצה לקצה של החברה מבטיחה את העברת ההודעה, ולא את הופעתה על מסך שמערכת ההפעלה מצלמת. Whittaker כותב כי האינטגרציות הללו "הופכות אותה לעוינת יותר ויותר את הפרטיות" עבור היישומים השוחים בסביבה זו.
אות הפערים לא יכול להיסגר עדיין
איתות גלוי שהתרופה לא הושלמה. הכיסוי אינו אחיד על פני ההפצות הרבות של אנדרואיד. חסימת צילומי מסך, יתרה מכך, אינה מתייחסת למה שוויטאקר מכנה "דרכים ערמומיות יותר שבהן סוכני AI יכולים לגשת לנתוני יישומים", כגון אחזור תוכן שכבר מאוחסן במערכת הקבצים של המכשיר.
החור הבולט ביותר הוא macOS. סיגנל אומרת שהיא לא יכולה לחסום שם צילומי מסך באופן מהימן בכלל, תוך ציון מחסור בממשקי API מתועדים - אפל ביטלה גישות ישנות יותר לטובת פתרונות הגנה על המסך שעובדים רק עבור הזרמת מדיה ותוכן מוגן DRM, אשר Whittaker מתאר כ"שדה מוקשים של החלטות מבלבלות שמעמידות את פרטיות המשתמש בסיכון". עבור משתמשי macOS 27, העצה הזמנית היחידה של החברה היא להוסיף ידנית את Signal לקטע אפליקציות לא נכללות תחת הגדרות מערכת > Siri, שעוצר גישה יזומה של Siri AI אך לא צילומי מסך.
מאבק התיעוד
בבסיס האמצעים הטכניים עומדת תלונה על אטימות. סיגנל אומרת שהיא השקיעה חודשים של זמן של מפתחים בביצוע חקירות משפטיות באנדרואיד וב-iOS כדי להבין מה באמת קורה כשמערכות בינה מלאכותית ניגשים לנתוני יישומים - מכיוון שאפל, גוגל ומיקרוסופט מספקות תיעוד מועט על איך הסוכנים שלהן עובדים.
החברה קוראת לשלושת ספקי מערכת ההפעלה לספק שני דברים: מפרטים טכניים מדויקים המתארים כיצד סוכנים ניגשים לנתונים ומעבדים אותם, וכלים פשוטים המאפשרים למפתחים להגביל את הגישה הזו. הוא גם מסמן סוכני צד שלישי כמו Meta's Muse, שלדבריו ממנפים את הרשאות הנגישות שניתנו במהלך ההגדרה - הרשאות "שנועדו להעצים אנשים בפועל" - כ"מפתח שלד" לגישה לנתוני AI. לעת עתה, Signal אומר כי היא "אופטימית בזהירות" שגוגל ואפל מתקשרות עם החברה לגבי האופן שבו מערכות אלו צריכות להתממשק עם אפליקציות רגישות לפרטיות.
הקנרית במכרה הפחם
ההכרזה זכתה לסיקור מיידי של רויטרס, CNET, Engadget, The Decoder ו-Fast Company, ונוחתת על רקע בדיקה רחבה יותר של הרגלי הנתונים של AI סוכן. כתבים תיעדו בעבר את סוכן Muse של Meta ניגש להודעות Signal במהלך בדיקות פנימיות של עובדים ומערבב שיחות - פרק שהבשר בדיוק על הסיכון שסיגנל מתכננת כעת.
טיעון הסיום של וויטאקר הוא שהמאבק הזה משתרע הרבה מעבר לאפליקציה אחת. "אות הוא הקנרית במכרה הפחם", כתבה, "אבל זה משפיע על המערכת האקולוגית כולה וצריך לעורר את כל מי שאכפת לו מזכויות היסוד הללו". אם אפל, גוגל ומיקרוסופט יגיבו עם כלים אמיתיים - או עם תיעוד שרק מסביר מה הסוכנים שלהם כבר עושים - יעצבו את משמעות הפרטיות במכשירים שרוב האנשים נושאים.
הישאר לפני AI
קבל את החדשות, הניתוחים ופריצות הדרך האחרונות של AI - הכל במקום אחד. עקבו אחר עדכוני הבינה המלאכותית שלנו. קרא עוד חדשות AI →.
