חוקרים ב-Google DeepMind דוחים בפומבי נגד חוזי העסקה שלדבריהם מונעים מהם לבקר את החברה על סיכוני בינה מלאכותית לנצח - כולל לאחר עזיבתם - וגוגל הודתה כעת, ואמרה שהיא לא תאכוף את ההגבלות שלאחר העסקה וכבר הסירה אותן מתנאי העסקה החדשים.
הוושינגטון פוסט דיווח ביום שלישי שצוות DeepMind דורש את החופש לספר לציבור מה הם יודעים על AI, במחאה על מה שהדו"ח מתאר כאסור לכל החיים לבקר את החברה. המחלוקת התגלגלה בפורומים פנימיים בגוגל לפני שנשפכה לעיני הציבור, והיא נוגעת באחת השאלות השנויות ביותר בתעשיית הבינה המלאכותית: האם עובדים במעבדות הבונות מערכות גבול יכולים להזהיר את העולם החיצון מפני סיכונים שהם עדים להם בעבודה. For more context on this story, see our ongoing breaking AI news.
מה אומרים החוזים
לפי הדיווח של הפוסט, חוזי עובדי DeepMind כללו סעיפי אי-זלזול שממשיכים לחייב עובדים גם לאחר סיום העסקתם. לפי תנאים כאלה, חוקר עוזב שביקר בפומבי את נוהלי הבטיחות של גוגל - או פשוט חשף מידע על מערכות הבינה המלאכותית של החברה - עלול תיאורטית לעמוד בפני חשיפה משפטית למשך שארית הקריירה שלו.
משתתף בדיון הפנימי תיאר את ההסדר בהערות שצוטטו קוראי האקר ניוז שדנו בכתבה: החוזה כלל ככל הנראה לשון המציינת כי התפטרות אינה פוטרת את העובד מחובת אי-הזלזול. עבור חוקרי בטיחות, שערכם המקצועי תלוי לרוב ביכולתם לפרסם ולדבר בגלוי, ההשפעה היא סוג של השתקה קבועה.
התגובה של Google
נראה שהלחץ הניב תוצאות. ביום שישי הגיב בכיר בגוגל לדיון הפנימי על סעיף אי-הזלזול ואמר שהחברה לא תאכוף אותו נגד עובדים שעזבו את החברה, לפי הפוסט.
עד יום שלישי, דובר גוגל הרחיק לכת, ואמר לעיתון באימייל: "תמיד עודדנו דיאלוג פתוח על בטיחות ואחריות". הדובר הוסיף: "לאחרונה, עדכנו את התנאים שלנו לגיוס עובדים חדשים, שכללו הסרת ההיבט שלאחר הפיטורים של סעיפי אי-זלזול".
זה ויתור משמעותי. סעיפי אי-זלזול לאחר העסקה הפכו לנקודת הבזק ברחבי תעשיית הטכנולוגיה בדיוק בגלל שהם מונעים מהציבור לשמוע על בעיות בתוך חברות אחרי שהעובדים כבר עזבו - הרגע שבו לאנשים יש הכי פחות מה להפסיד והכי הרבה אמינות. ההחלטה של גוגל לשלול את הרכיב שלאחר סיום ההתקשרות מחוזי העסקה חדשים מציעה שהחברה העריכה את העלות המוניטין של ההגנה על הסעיפים כגבוהה מכל הטבת הסודיות שהם סיפקו.
מתח ממושך במעבדות הבינה המלאכותית
המחלוקת מתאימה לדפוס שהתרחש ברחבי תעשיית הבינה המלאכותית הגבולית. חוקרי בטיחות מצאו את עצמם שוב ושוב לכודים בין חובות סודיות כלפי מעסיקיהם לבין הרשעה שהציבור ראוי לדעת על סיכונים הכרוכים במערכות בעלות יכולת גבוהה יותר מכל מה שנפרס קודם לכן.
DeepMind עצמה ראתה עזיבות בולטות הקשורות לדאגות בטיחות, ומעבדות יריבות התמודדו עם התפטרויות בפרופיל גבוה משלהן מחוקרים שאמרו שהם לא יכולים עוד לשתוק לגבי האופן שבו המעסיקים שלהם ניגשים לסיכון. עצומות ומכתבים פתוחים של עובדים הפכו למנגנון שחוזר על עצמו שבאמצעותו מנסים צוותי מעבדת בינה מלאכותית להשפיע על התנהלות החברות שלהם - על חוזים צבאיים, על מחויבויות בטיחות ועל שקיפות.
מחאת DeepMind מוסיפה ממד משפטי חדש לאותה דינמיקה: במקום לחלוק על מה שהחברה בונה, העובדים חולקים על המנגנון החוזי השולט אם הם יכולים אי פעם לדבר על זה. עורכי דין לעבודה מציינים כי האכיפה של סעיפי אי-זלזול רחבים משתנה בהתאם לתחום השיפוט, ורגולטורים בארצות הברית פעלו בעבר נגד חברות שהשתמשו בהסכמי הפרדה רחבים מדי כדי להשתיק עובדים עוזבים.
גם העיתוי משנה. גוגל מתחרה על כישרונות מחקר בינה מלאכותית מול OpenAI, Anthropic, Meta וקבוצה הולכת וגדלה של סטארט-אפים ממומנים היטב, והחוקרים בעלי הסבירות הגבוהה ביותר לשקול שאלות סיכון הם הרגישים ביותר לשאלה האם הם יוכלו לדבר אי פעם בפומבי על מה שהם רואים. חברה שידועה בסתימת פיות של עובדים לשעבר עומדת בפני הצעה קשה יותר לגיוס בדיוק לאותם מועמדים - חישוב מסחרי שאולי הכביד על ההחלטה של גוגל לעדכן את התנאים שלה כל כך מהר.
למה זה חשוב
חברות AI Frontier תופסות עמדה יוצאת דופן. הם מעסיקים כמה מהאנשים הבודדים על פני כדור הארץ עם ידע מעשי על מערכות הבינה המלאכותית המסוגלות ביותר, אך העובדים הללו מחויבים בדרך כלל להסכמי סודיות צפופים שנמשכים זמן רב יותר מהעסקתם. אם כל עד אמין לנוהלי הבטיחות הפנימיים של מעבדה מוגבל מבחינה משפטית מלדבר, הרישום הציבורי תלוי לחלוטין במה שחברות בוחרות לחשוף על עצמן.
לכן התוצאה של מחלוקת זו חורגת מעבר לגוגל. האופן שבו חברות בינה מלאכותית מגבילות - או מגינות - את הנאום העתידי של החוקרים שלהן עשוי לעצב אם אזהרות לגבי מערכות חזקות יגיעו לרגולטורים, לעיתונאים ולציבור מוקדם מספיק כדי לעניין, או שיגיעו רק בדיעבד. הזיכיון של גוגל מסיר סעיף איסור פרסום אחד לכל החיים מתנאי העסקה החדשים שלו; האם עובדים קיימים מקבלים בהירות מקבילה נותרה, לעת עתה, השאלה הפתוחה שהעלו האנשים שעובדים שם.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
