אפל מחמירה את אחת ההרשאות החזקות ביותר ב-Mac. בפוסט בבלוג של מפתחים, החברה אמרה שהיא מציגה בקרות חדשות סביב הגדרת גישה מלאה לדיסק של macOS, והזהירה שחלק מהמפתחים משתמשים בזכאות בדרכים שעלולות לחשוף את כל המערכת של המשתמש - ושסוכני AI הופכים את רמת הגישה הזו למסוכנת הרבה יותר.
המהלך, שדווח על ידי TechCrunch, מגיע לרגע שבו עוזרי הבינה המלאכותית של שולחן העבודה מתרבים ועוזרים יותר ויותר עבור משתמשי בינה מלאכותית. גישה מלאה לדיסק תוכננה במקור כך שאפליקציות כמו תוכנת גיבוי יוכלו לתפקד כראוי, אך היא מעניקה טווח הגעה יוצא דופן: הרשאה לקרוא קבצים, דואר, הודעות, ואפילו היסטוריית גלישה של משתמש. For more context on this story, see our ongoing AI trends.
"חלק מהמפתחים משתמשים בגישה מלאה לדיסק בדרכים שעלולות לסכן את המשתמשים, לחשוף את כל המערכות שלהם... ללא הידע וההבנה המלאה של המשתמשים", אמרה אפל בפוסט בבלוג המיועד למפתחים.
מדוע אפל פועלת כעת
ההודעה הגיעה ימים לאחר שכותב הטור של Inc., ג'ייסון אטן, דיווח כי נראה כי Muse, אפליקציה המופעלת בינה מלאכותית ב-Mac, יודעת את תוכן ההודעות הפרטיות שלו - למרות שלדבריו לא נתן לסוכן אישור לקרוא אותן. Meta, בעלת Muse, ערערה על הטענה, אך הדו"ח שם זרקור על כמה אמון המשתמשים מתבקשים לתת בתוכנת AI שולחנית שיכולה לקרוא את הקבצים שלהם ולשלוט במערכות שלהם.
ההחלטה של אפל באה גם בעקבות דוח Wired המתאר פגם באפליקציית ה-Mac של ChatGPT שיכול היה לאפשר להאקרים לגשת לנתונים רגישים ממחשבי המשתמשים. אף אחד מהאירועים לא כלל הפרה מאושרת של אבטחת הפלטפורמה של אפל עצמה, אבל יחד הם ממחישים את משטח הסיכון החדש שסוכני בינה מלאכותית יוצרים: תוכנה שזוכה לגישה גורפת, פועלת באופן רציף ופועלת עם אוטונומיה גוברת היא יעד בעל ערך הרבה יותר - ואחריות הרבה יותר גדולה - מאשר אפליקציה מסורתית.
במקרה של Muse, אפליקציית הבינה המלאכותית מאפשרת למשתמשים להפעיל גישה מלאה לדיסק, המעניקה לה את המפתחות לקבצים, דואר, הודעות והיסטוריית גלישה במתג אחד. הדפוס הזה - עוזר בינה מלאכותית שמבקש את ההרשאה הרחבה ביותר האפשרית כדי שיוכל לעזור בצורה מקסימלית - הוא בדיוק מה שאפל רוצה כעת להפריע.
מה משתנה ב-Mac
בהמשך, אפל אומרת שהיא תציג בקרות חדשות כדי להבטיח שמשתמשים שבאמת רוצים להעניק לאפליקציה רמת גישה יוצאת דופן זו יוכלו לעשות זאת רק עם פעולת משתמש מפורשת מאוד. בפועל, זה אומר שפחות דיאלוגים של הסכמה בלחיצה אחת קבורות בזרימות ההתקנה ותהליך מכוון ומושכל יותר לפני שאפליקציה יכולה לראות הכל ב-Mac.
"הטיפול בזה הוא קריטי", כתבה אפל. "ככל שסוכני בינה מלאכותית הופכים ליותר ויותר מסוגלים ואוטונומיים, הסיכונים הקשורים לרמת גישה זו יגדלו באופן משמעותי. אנו מחויבים להבטיח שמשתמשים מבינים בבירור את הסיכונים הללו לפני הענקת גישה כזו, כדי שהם יוכלו לקבל החלטות מושכלות לגבי הנתונים והפרטיות שלהם".
אפל לא הגיבה לפנייתה של TechCrunch בנוגע לשינוי התכונה, והחברה לא ציינה מתי בדיוק יישלחו הפקדים החדשים או כיצד הם יופיעו ב-macOS. מפתחים המסתמכים על גישה מלאה לדיסק למטרות לגיטימיות - כלי גיבוי, תוכנות אבטחה וכלי עזר לאוטומציה - יצפו מקרוב כדי לראות אם זרימת ההסכמה ההדוקה מוסיפה חיכוך למשתמשים שלהם.
אות לעידן ה-AI של שולחן העבודה
שינוי המדיניות משקף התחשבנות רחבה יותר בתעשיית הבינה המלאכותית לגבי הרשאות סוכן. סוכני AI הפועלים על שולחן העבודה של משתמש יכולים לנסח מסמכים, להעביר קבצים, לשלוח הודעות ולגלוש באינטרנט - יכולות שימושיות רק אם התוכנה יכולה לראות ולגעת בהרבה מאוד נתונים אישיים. השירות הזה בלתי נפרד מהסיכון.
בעיית ההרשאה שסוכנים יוצרים
המתח שאפל מנסה לנהל הוא מבני. התועלת של סוכן בינה מלאכותית על שולחן העבודה היא פונקציה ישירה של מה שהוא יכול לראות: סכם את הדוא"ל שלך, מיין את ההורדות שלך, תזמון על פני היומן שלך וטיוטת תשובות, והוא חייב לקרוא את כולם. לפיכך למפתחים יש תמריץ מסחרי לבקש את הזכאות הרחבה ביותר הזמינה במקום להרכיב הרשאות צרות וספציפיות למשימה - וגישה מלאה לדיסק היא הרחבה ביותר שיש.
המסגרת של אפל בולטת באופן ישיר שהיא מכנה סוכני בינה מלאכותית כסיבה שהחישוב השתנה. כלי גיבוי עם גישה מלאה לדיסק תמיד היה דאגה; סוכן אוטונומי עם אותה גישה יכול להחליט, בעצמו, מה לעשות עם כל מה שהוא יכול לקרוא. על ידי דרישת פעולת משתמש מפורשת מאוד לפני מתן גישה כזו, אפל בונה למעשה ארכיטקטורת הסכמה לעידן הסוכנים - ומפעילה לחץ על מפתחי בינה מלאכותית לעצב מוצרים שזקוקים לפחות גישה מלכתחילה.
למשתמשים, העצה בינתיים ללא שינוי: בדוק אילו אפליקציות מחזיקות כרגע בגישה מלאה לדיסק בהגדרות המערכת, בטל כל דבר שאינו יכול להצדיק את ההרשאה, והיה סקפטי כלפי כל עוזר AI שמבקש את המפתחות לכל המערכת כדי לספק תכונה צנועה.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
