עשרה ממפתחי הבינה המלאכותית הגדולים בעולם - כולל אמזון, אנתרופיק, אפל, גוגל, מטה, מיקרוסופט ו-OpenAI - הסכימו לשנות את אופן הטיפול בנתונים אישיים בעקבות בדיקה של רגולטור הפרטיות של בריטניה, שביום חמישי הפנה את תשומת ליבו לחשש חדש: סוכני AI אוטונומיים שעוקפים את מעקות הבטיחות של עצמם.
משרד נציב המידע (ICO) אמר כי עשר החברות ביצעו שינויים או התחייבו לעשות זאת לאחר שהרגולטור בחן את עמידתם בחוק הגנת המידע בבריטניה. ההתחייבויות כוללות הסברים ברורים יותר כיצד משתמשים במידע אישי להכשרת מודלים של בינה מלאכותית, מנגנונים טובים יותר לאנשים לממש את זכויות הנתונים שלהם, והערכות קפדניות יותר של אמצעי ההגנה של המפתחים.
תוכנית פיקוח נושאת פרי
רוחב הרשימה בולט. היא משתרעת על היפר-scalers בארה"ב (אמזון, גוגל, מיקרוסופט, מטה, אפל), מעבדות הגבול המובילות (OpenAI, Anthropic), מומחי משקל פתוח (Cohere, Stability AI), ו-DeepSeek - מפתח סיני שהדגמים שלו נמצאים בשימוש נרחב על ידי חברות מערביות. כל העשרה יושבים כעת תחת התחייבויות המכסות את השוק הבריטי.
ההתחייבויות נובעות מתוכנית פיקוח שה-ICO השיקה ב-2025 המכסה אחד עשר מפתחים גדולים. הסגל הזה ירד ל-10 לאחר שהרגולטור השהה את התקשרותו עם ה-xAI של אילון מאסק כדי להמשיך בחקירה רשמית נפרדת לגבי הצ'אטבוט Grok של החברה.
ההתערבות מגיעה ברגע של מעבר עבור הרגולטור עצמו, שמותג מחדש לאחרונה כוועדת המידע והתחיל מחדש עם דירקטוריון חדש ומטה מנצ'סטר.
הרגולטור לא מכריז על ניצחון. היא אמרה שהיא תמשיך לעקוב אם המפתחים מקיימים את הבטחותיהם, והודתה ששיטות ההכשרה הנוכחיות של AI עדיין יוצרות חיכוך עם חוק הגנת המידע בבריטניה. למפתחים עדיין יש שאלות פתוחות לענות על נתונים אישיים רגישים המוטמעים במודלים מאומנים, על האופן שבו אנשים יכולים להסיר את המידע שלהם לאחר שהמודל הוכשר עליו, ועל הסיכון שמידע אישי - כולל מפתחי נתונים שמעולם לא התכוונו לשמור - יכולים להיחלץ ממודלים לאחר מעשה.
"ל-AI יש פוטנציאל עצום להועיל לחברה שלנו, אבל זה תלוי באמון ובשקיפות", אמר ריצ'רד נווינסון, מנהל הרגולציה הטכנולוגית של ICO. "ההתקשרות שלנו עם כמה מהמפתחים הגדולים הבטיחה מחויבויות אמיתיות שיעזרו לאנשים להבין טוב יותר ולשלוט כיצד נעשה שימוש בנתונים שלהם, אפילו בתחום שזז מהר ומורכב."
היעד הבא: סוכנים שמחליקים את מעקות הבטיחות שלהם
תשומת הלב של כלב השמירה עוברת כעת לסוכני בינה מלאכותית - מערכות שגולשות באתרים, משתמשות בכלים ומשימות משימות עם פיקוח אנושי מוגבל. ה-ICO אישרה כי יצרה קשר עם OpenAI, Anthropic, Meta ומכון האבטחה של AI בבריטניה בעקבות דיווחים מוקדם יותר השנה על סוכנים שעוקפים אמצעי הגנה במהלך הבדיקות והפריסה.
"הדיווחים האחרונים הללו מראים גם כמה מהר המערכות הללו מתקדמים, וגם את הסיכונים שהם מהווים אם מעקות הבטיחות אינם מתאימים למטרה", אמר נווינסון. "המסר שלנו ברור: העובדה שסוכני AI פועלים באוטונומיה אינה תירוץ לציות לקוי".
לצד ההתקשרות הסמוכה לאכיפה, ה-ICO פתחה קריאה בת שישה שבועות לקבלת ראיות על AI סוכן, המכסה אבטחה, שקיפות, אחריות ושימוש חוקי בנתונים אישיים. צופים במדיניות בינה מלאכותית העוקבים אחר התפתחויות הבינה המלאכותיות האחרונות ירצו לשים לב לציר הזמן: התשובות אמורות להגיע עד ה-20 בנובמבר ויודיעו על הנחיות עתידיות כמו גם על קוד הנוהג הסטטוטורי הקרוב של הרגולטור בנושא בינה מלאכותית וקבלת החלטות אוטומטיות.
הרגולטור בוחן גם כיצד צ'אטבוטים של צרכנים ונלווי בינה מלאכותית משתמשים במידע אישי ככל שהמוצרים הללו הופכים להיות יותר ויותר מותאמים אישית - קטגוריה שגדלה במהירות עם התגלגלות לוויה, בוטים של דמויות ועוזרים בעלי אוריינטציה של בני נוער. עבודה זו מסמנת שההיקף של תוכנית הפיקוח משתרע כעת מעבר להכשרת מודלים למוצרים הפונים לצרכן שבהם התאמה אישית היא תכונת הליבה.
עבור חברות בינה מלאכותית הפועלות בבריטניה, ההשפעה המעשית היא שה-ICO יצר מסגרת עומדת: מפתחים בעלי שם, התחייבויות מתועדות ומעקב ציבורי. חברות שחתמו יימדדו מול הבטחותיהן, והרגולטור הבהיר כי הוא מחשיב את שיטות ההכשרה של היום - לא רק בעתיד - כבעיית ציות מתמשכת.
מה זה אומר
עבור חברות בינה מלאכותית הפועלות בבריטניה, המסר הוא שבדיקת הגנת הנתונים עוברת מנתוני אימון להתנהגות פרוסה. הבטחת התחייבויות לגבי שקיפות ההדרכה הייתה השלב הקל יותר; השאלות הקשות יותר - מחיקה ממודלים מאומנים, סיכוני מיצוי וסוכנים הפועלים מחוץ למעקות הבטיחות שלהם - נשארות פתוחות, וה-ICO אותת שהוא מצפה מהתעשייה, הרגולטורים והממשלה לעבוד עליהם יחד.
הפרק גם ממחיש את העמדה הרגולטורית של בריטניה לאחר הברקזיט: במקום אקט רחב של בינה מלאכותית, כלבי השמירה של המדינה מיישמים את חוק הגנת המידע הקיים על מערכות בינה מלאכותית ובונים קוד פרקטיקה סטטוטורי לקבלת החלטות אוטומטיות. עם קריאה להוכחות על בינה מלאכותית שפועלת כעת וכמה מהמעבדות הגדולות בעולם על הכוונת באופן רשמי, ה-ICO ממצב את עצמו כאחד הרגולטורים הפעילים ביותר של AI בקרב רשויות הגנת המידע במערב.
---
הישאר לפני AIקבל את החדשות, הניתוחים ופריצות הדרך האחרונות של AI - הכל במקום אחד.
קרא עוד חדשות AI →
