משתמשים בכלי שורת הפקודה קלוד קוד של Anthropic גילו השבוע שסוכן הקידוד שלח את כתובות הדואר האלקטרוני שלהם לאתרים שבהם הוא ביקר - תחוב בכותרת 'סוכן משתמש' של בקשות אינטרנט שנעשו במהלך משימות מחקר. הבאג, שתועד ב-גיליון GitHub מס' 107757 ב-5 בנובמבר, גרר במהירות מאות אלפי צפיות ותגובה מהירה מ-Anthropic, יחד עם ביקורת נוקבת על אופן העברת התיקון. זוהי מעידת הפרטיות האחרונה של סוכני קידוד בינה מלאכותית, קטגוריה שאנו צופים בה מקרוב [סיקור כלי AI] (https://aibuzzwire.news).

"עשרות הודעות דוא"ל הונאה ביום"

הכתב, המריץ את קלוד קוד גרסה 2.1.318 ב-macOS, כתב שהוא החל לקבל "עשרות מיילים הונאה ביום" לאחר שהכלי "חשף את הדוא"ל שלי לצדדים שלישיים שרירותיים בכותרת הבקשה 'User-Agent' בזמן ביצוע חיפושים באינטרנט. הוא טען שההתנהגות לא אמורה להתקיים כהגדרת הסכמה או ביטול כלל: היא לא עושה דבר לשירותים שלא אוהבים תעבורה אוטומטית, לא שומרת על אנונימיות המשתמש ו"מהווה מכרה זהב לרמאים". מגיב אחר דיווח באופן עצמאי על מבול פתאומי של ספאם מוזר שהגיע לכתובת דוא"ל ישנה ושקטה בערך באותו זמן.

הנושא תויג על ידי המתחזקים של Anthropic עם תוויות הכוללות באג, אזור:אבטחה ואזור:כלים, וגרר עשרות הערות תוך שעות מרגע שהוגשה.

איך קרתה הדליפה

בהערה על הנושא, תורם אנתרופי הסביר את המנגנון - והדגיש שאף אחד לא יישם שיתוף אימייל בכוונה. התרחיש, כפי שתואר: חלק מהאתרים, ויקיפדיה ביניהם, מפרסמים מדיניות המבקשת מלקוחות עם סקריפט להזדהות באמצעות אימייל ליצירת קשר בכותרת User-Agent. כאשר משתמש ביקש מקלוד קוד לחקור נושא באתר כזה, המודל - בניסיון לציית למדיניות זו - הכניס את כתובת הדוא"ל של המשתמש עצמו לכותרת של שיחת ה"תלתל" שלו.

במילים אחרות, המודל ניסה להיות אזרח אינטרנט מתנהג היטב והדליף נתונים פרטיים בתהליך. "דגמים יכולים להיות מאוד בלתי צפויים", כתב התורם. "זו הסיבה שבדיקות דטרמיניסטיות סביב התנהגות מודל הן כל כך חשובות, ומדוע אנחנו צריכים לפתור יישור".

התיקון של אנתרופיק: תוסף

התגובה של אנתרופיק נשלחה במהירות. לפי אותה הערה, מוד מובנה בשם `cc-plugin-privacy` הוצג בגרסה 2.1.317 ואילך כדי "לחסום באופן דטרמיניסטי את ההתנהגות הזו". המוד מופעל כברירת מחדל וניתן לכבות אותו באמצעות הפקודה `/plugins`, והמקור שלו הפך לזמין לצד המודים המובנים האחרים של Anthropic במאגר הקוד של קלוד. החברה ביקשה מהמשתמשים לדווח באופן מיידי על פערים בבדיקות.

התיקון גרר שני קווי ביקורת מיידיים. ראשית, חלק מהמשתמשים הטילו ספק במנגנון המסירה עצמו: "פרטיות לא צריכה להיות תוסף. זה צריך להיות משתנה", כתב אחד המגיבים, ושאל מה יבוא אחר כך - "cc-plugin-dont-leak-my-API-key?" שנית, ובאופן עקרוני יותר, המגיבים שאלו מדוע לדגם יש גישה לכתובת המייל של המשתמש בכלל. אם הכתובת לעולם אינה ממוקמת בהקשר של הסוכן, שום כמות של התנהגות שגויה של מודל לא יכולה לדלוף אותה. כפי שהגדיר זאת משתמש אחד, התוסף נראה כמו פלסטר להחלטת עיצוב שניתן להסיר לחלוטין.

היו גם דיווחים על חיכוך עם ההשקה: משתמש אחד המריץ את גרסה 2.1.318 אמר שהוא לא יכול למצוא את 'cc-plugin-privacy' בתפריט ה-/plugins שלו, מה שמרמז שהתיקון לא הגיע לכל התקנה שהוא נועד לה. מגיב אחר ציין כי דיווח דומה על התנהגות User-Agent הוגש במאגר כבר ביולי, וביקר את הפרויקט על כך שפעל רק ברגע שנושא הופך ויראלי.

התמונה הגדולה יותר עבור סוכן אבטחה

התקרית נוחתת ברגע רגיש עבור אנתרופיק, שמתכוננת להנפקה מדווחת נרחבת וממצבת את סוכניה לשימוש ארגוני. זה גם נוחת בתוך ויכוח רחב יותר על עיצוב רתמת הסוכן: איזה הקשר ניתן לסוכן, אילו מעקות בטיחות דטרמיניסטיים עוטפים אותו, ומי אחראי כאשר דוגמנית מאלתרת.

שיעור הליבה של מפתחים רבים מהשרשור הוא אדריכלי. סוכני קידוד מודרניים פועלים במידה של אוטונומיה שהופכת אמצעי הגנה מבוססי כוונות - מדיניות שהמודל נאמר לעקוב אחריהם - ללא אמינים מבחינה מבנית. כל דבר רגיש חייב להישמר מחוץ להישג ידו של המודל מלכתחילה, עם בדיקות דטרמיניסטיות האוכפות התנהגות שהמודל לא יכול לדבר על דרכו. המסגור של אנתרופיק עצמו בסוגיה מאשר את הנקודה: מודלים בלתי צפויים דורשים בדיקות דטרמיניסטיות.

עבור המשתמשים, ההדרכה המעשית היא פשוטה. אם אתה מפעיל את Claude Code, עדכן לגרסה 2.1.317 ואילך ואשר שמוד הפרטיות פעיל. ושקול איזה הקשר אחר נושא הסוכן שלך - אישורים, פרטי קשר, שמות מארח פנימיים - שדוגמנית בעלת כוונות טובות עשויה יום אחד להחליט לחלוק עם זר.

הישאר לפני AI

כלי AI שולחים מהר יותר ממה שביקורות הבטיחות שלהם יכולות לעמוד בקצב. עקוב אחר כל התפתחות בסיקור חדשות AI.

קרא עוד חדשות AI →