עובדים בחטיבת הבינה המלאכותית של גוגל דוחפים את המנהלים לשחרר אותם מהסכמי אי-זלזול, בטענה שהם חייבים להיות חופשיים ליידע את הציבור על הסיכונים של הטכנולוגיה שהם פועלים לקדם, על פי הדו"ח הבלעדי של הוושינגטון פוסט מאת Gerrit De Vynck, המצטט אנשים בתוך החברה.

כותרת המשנה של הדו"ח חותכת את ליבה של התלונה: "חוזי העסקה מרתיעים את הצוות מלהזהיר את הציבור מפני סיכוני בינה מלאכותית, אמרו העובדים הנוכחיים". סיקור המשך של הסיפור תיאר את הסעיפים כאסור לכל החיים על ביקורת על גוגל, כאשר כותרות על פני צוברים ורשתות בינלאומיות מאפיינות את המחלוקת כ"צוות DeepMind מחאה על איסור לכל החיים על ביקורת על גוגל", וליתר דיוק, שני צוותי DeepMind מבקשים מגוגל להסיר את מה שהם מכנים איסור חיים לכל החיים. להקשר נוסף על הסיפור הזה, עיין בחדשות הבינה המלאכותית המתמשכות שלנו.

מה העובדים מבקשים

על פי הדיווח, הצוות ב-Google DeepMind - חטיבת Alphabet שעומדת מאחורי חלק גדול מחקרי הבינה המלאכותית של החברה - רוצים שההנהלה תשחרר אותם מחובות חוזיות ללא זלזול כדי שיוכלו לדבר בפתיחות על דאגות בטיחות הקשורות למערכות שהם בונים, מבלי לעמוד בפני תגמול משפטי.

מכיוון שסיכומי הדו"ח העבירו אותו, ההסכמים המדוברים מחייבים את הצוות להשתיק לא רק לגבי שיטות עבודה ארגוניות אלא גם לגבי סיכונים טכנולוגיים וההחלטות הפנימיות שמעצבות את האופן שבו מערכות AI מגיעות לעולם. הטיעון של העובדים הוא פשוט: האנשים הקרובים ביותר לטכנולוגיה, ולכן הקרובים ביותר למצבי הכישלון שלה, מוגבלים חוזית מלספר לציבור את מה שהם יודעים.

לפי הסיקור ההמשך, גוגל לא התייחסה לדרישות הספציפיות. הדוח של וושינגטון פוסט מייחס את תיאור המחלוקת לעובדים הנוכחיים בתוך החברה ולא להצהרה רשמית של גוגל, ותגובת החברה, אם בכלל, נותרה השאלה הפתוחה החשובה ביותר בסיפור.

למה זה חשוב לבטיחות בינה מלאכותית

המחלוקת נוחתת ברגע רגיש עבור תעשיית הבינה המלאכותית. הוויכוח על כמה מעבדות גבול צריכות לחשוף - לגבי יכולות, פוטנציאל שימוש לרעה ובדיקות פנימיות - התגבר ככל שהמודלים גדלים ליכולת יותר ויותר כלכלית. אם האנשים שעושים את העבודה לא יכולים לבקר בפומבי את שיטות העבודה של המעסיק שלהם, טוענים המבקרים, הציבור וקובעי המדיניות מאבדים את אחד מערוצי האזהרה המוקדמים המעטים שיש להם.

ההיסטוריה של התחום מציעה תקדים נוקב. ג'פרי הינטון, שבילה יותר מעשור בגוגל ושמחקר הרשתות העצבית שלו עומד בבסיס בום הבינה המלאכותית המודרני, עזב את החברה ב-2023 במפורש כדי שיוכל לדבר בחופשיות על סיכוני בינה מלאכותית. השבוע הוא הרחיק לכת, ואמר ל-Guardian שאולי יתברר שעדיף לאנושות לעולם לא לפתח בינה מלאכותית, והזהיר מפני בינה מלאכותית "צ'ורנוביל" - כמו התקפה התומכת בבינה מלאכותית שגורמת לתקלה מסיבית בכוח או לכשל במערכת הפיננסית של שבוע - שתגיע השנה או הבאה.

הינטון יכול היה לדבר כי הוא עזב. עובדי DeepMind, לעומת זאת, מנסים לשנות את התנאים כך שהם לא יצטרכו לעשות את אותה בחירה בין קריירה לקול.

הסחר בשקיפות מול סודיות

המחלוקת משקפת מתח מבני בתעשיית הבינה המלאכותית. חברות טוענות שתנאי העסקה מגבילים מגינים על סודות מסחריים, מונעים טענות מטעות ומונעים מחילוקי דעות פנימיים לזלוג לעיני הציבור באמצע הפיתוח. עובדים ותומכי בטיחות מתנגדים לכך שאותם תנאים יכולים להסתיר סיכונים אמיתיים - וכי לחברה בטוחה בשיטות הבטיחות שלה אין מעט מה לחשוש ממבקרים פנימיים מושכלים.

הדו"ח של וושינגטון פוסט ממסגר את העניין כאחד מתמריצים: חוזי עבודה, במילותיהם של עובדים נוכחיים שצוטטו על ידי העיתון, מרתיע את הצוות מלהזהיר את הציבור מפני סיכוני AI. המסגור הזה הופך את המחלוקת לגדולה יותר ממדיניות משאבי אנוש של חברה אחת. זה מבחן האם מקור המידע העיקרי של הציבור על סיכוני AI גבול יהיה השיווק של המעבדות עצמו, או האנשים בתוך המעבדות האלה עם ידע ישיר.

מה קהילת המפתחים אומרת

הדיון בדיווח הגיע במהירות לעמוד הראשון של האקר ניוז, שם התפצלו המגיבים בנוגע לאתיקה של המצב. הטיעון החביב ביותר טען שעובדים מוגבלים צריכים פשוט ללכת: "הם צריכים להפסיק ולהזהיר. כל דבר אחר הוא צבוע". אחרים נרתעו וציינו שעובדים אינם מחויבים לשאת קדושים בקריירה שלהם וכי רפורמה חוזית קיבוצית היא דרך ריאלית יותר מאשר יציאה אינדיבידואלית.

הוויכוח הזה - לפרוש, להישאר ולדחוף, או לשתוק - הוא בדיוק העניין שהעובדים אומרים שהם מנסים לברוח.

במה לצפות

שלושה דברים יקבעו לאן זה הולך. ראשית, האם גוגל מאשרת את הבקשה, וחשוב מכך, האם היא פועלת לפיה - תגובת החברה לדרישות הספציפיות נעדרת עד כה מהפרוטוקול. שנית, האם העובדים מסלימים, למשל על ידי התארגנות פומבית או פנייה לרגולטורים, אם התשובה היא לא. ושלישית, האם מעבדות גבול אחרות מתמודדות עם לחץ דומה; אם מונחי אי זלזול נפוצים בכל התעשייה, מחלוקת DeepMind עשויה להפוך לתבנית לארגון עבודה המתמקד בשקיפות בינה מלאכותית.

לעת עתה, הבקשה עצמה היא החדשות: קבוצת חוקרים עם חשיפה ישירה ויומיומית למערכות בינה מלאכותית סבורה שהאינטרס הציבורי מחייב את קולם, וביקשה רשמית לאפשר להם להשתמש בהם. התשובות של גוגל יגידו הרבה על מידת ההתנגדות שמירוץ ה-AI הגבול מוכן לסבול.

---

הישאר לפני AI

קבל את החדשות, הניתוחים ופריצות הדרך האחרונות של AI - הכל במקום אחד.

קרא עוד חדשות AI →