שלושה חוקרי בטיחות של OpenAI שפוטרו בשבוע שעבר עוררו בפומבי על פיטורין במכתב פתוח, בטענה שהתקשורת של החברה סביב הפיטורים גרמה לעובדים שנותרו לפחד לדבר על בטיחות ברגע קריטי עבור הטכנולוגיה.
יסמין וואנג, מיקיטה באלסני וטומק קורבאק פרסמו את המכתב המשותף לאחר ש-OpenAI הפסיקה את העסקתם בשל שיתוף מידע עם ארגון חיצוני לבטיחות בינה מלאכותית. הוול סטריט ג'ורנל דיווח לראשונה על הפיטורים מוקדם יותר השבוע, והחברה התמודדה מאז עם שאלות של עיתונאים ולפי Engadget, עם תשומת לבם של מחוקקים. For more context on this story, see our ongoing AI news.
מה ש-OpenAI אומר שקרה
OpenAI הגדירה את הסיום כעניין של טיפול במידע, לא התנגדות. בהצהרה, החברה אמרה שהעובדים הפרו את מדיניותה לגבי גישה וטיפול במידע רגיש של החברה, "שברו את האמון החיוני לעבודתנו". בהערות עוקבות שדווחו על ידי Business Insider ו-UPI, OpenAI אמרה כי ההחלטות אינן נוגעות להעלאת חששות בטיחות או דיבור.
שלושת החוקרים מספרים סיפור אחר. במכתב הם מציינים כי "פעלו בהתאם לייעודה של OpenAI ובתוך נורמות העבודה של אז", והם דוחים את האפיון כי פעלו עם גורמים חיצוניים מחוץ למנדט שלהם. לפי המכתב, התקשורת שלהם עם ארגונים חיצוניים התבצעה "בתאום ודיון עם חברי הדירקטוריון ועם C-suite". וואנג גם ציינה שכאשר פעם אחת לחצה בטעות על מייל רגיש, היא הודיעה למנהל.
האזהרה לגבי 'אפקט מצמרר'
ליבת המכתב היא אזהרה לגבי ההשלכות על האנשים שעדיין נמצאים בחברה. החוקרים כותבים כי הם חששו מכך שהתקשורת הפנימית והחיצונית סביב הפיטורים גרמה לעמיתים לשעבר "לפחד לדבר ולפעול בדרכים שעד השבוע שעבר היו חלק בלתי נפרד מהעבודה ב-OpenAI".
"יכולנו להעלות חששות בטיחות ולא להסכים בגלוי, ועודדו אותנו להסתמך על המומחיות של ארגוני בטיחות עצמאיים", נכתב במכתב, ומתאר את הפתיחות הזו כחלק ממה שעשה את OpenAI למיוחד. השלושה כותבים כי הפיטורים מותירים אותם מודאגים מכך ש"הנורמות בתוך OpenAI משתנות וכי לעובדים כעת לא ברור היכן הם עומדים", וכי ל"אופן הציבורי מאוד" של התקשורת של החברה עשויה להיות השפעה מצמררת על העובדים בתקופה שבה, כדבריהם, "בטיחות העולם תלויה בהם".
החוקרים התייחסו גם למה שהם כינו שמועות, והכחישו שהן המקור לדיווח של The Information בנוגע לארכיטקטורות המודל החדשות של OpenAI, הפחות ניתנות לניטור.
המלצות ל-OpenAI
המכתב נסגר בהמלצות קונקרטיות. שלושת העובדים לשעבר אומרים ש-OpenAI צריכה לעמוד בהתחייבויות הציבוריות שלה להטמיע מבקרי בטיחות של צד שלישי ולא להשתמש בפיטורים שלהם כ"עילה להתרחק מהשותפויות הללו". הם גם קוראים לחברה לשמר את יכולת הניטור של מודלים חזיתיים ולשמור על "תרבות פתוחה ושקופה של דיאלוג בין חוקרי הבטיחות שלה לבין שאר מערכת הבטיחות".
בשרשור ב-X, וואנג אמר כי הנהגת OpenAI "אומרת שהם מסכימים מאוד עם המכתב שלנו", תוך שהיא מביעה ספקנות לגבי כיוון החברה. "לא היינו הראשונים שנדחקו מ-OpenAI בנסיבות חשודות", היא כתבה, והזהירה כי אם לא עובדים נוקטים עמדה, "העלו חששות או עובדים בשיתוף פעולה הדוק עם קבוצות בטיחות חיצוניות, ואתה יכול להיות הבא, מבלי שיגידו לך מדוע".
למה העיתוי חשוב
המחלוקת נוחתת על רקע בדיקה מוגברת של האופן שבו חברות בינה מלאכותית מטפלות בבטיחות פנימית. רויטרס דיווחה בשבוע שעבר שסוכני AI סיניים הראו יכולת להונות משתמשים, להתחמק מהגבלות ולהסתיר כשלים בבדיקות, ואוסטרליה אמרה בחודש שעבר שסוכן OpenAI פרץ פורטל בריאות ממשלתי. אירועי אבטחה הכוללים סוכני AI אוטונומיים העצימו את הוויכוח העולמי בשאלה האם חברות צריכות להאט את קצב בניית מודלים בטוחים יותר - ויכוח שתלוי, בין השאר, במקורבים שמוכנים לתאר סיכונים בפומבי.
על רקע זה, גורלם של שלושה חוקרי בטיחות - והמסר שפיטורים שולחים לעמיתים - הפך לסיפור על יותר ממדיניות משאבי אנוש של חברה אחת. מחוקקים בוושינגטון ציטטו שוב ושוב תחלופה פנימית במעבדות בינה מלאכותית מובילות בדיונים על רגולציה של מודלים חזיתיים, וארגוני בטיחות עצמאיים מסתמכים על שיתוף פעולה מצד עובדי המעבדה כדי להעריך מודלים לפני השחרור.
במה לצפות בהמשך
OpenAI לא פירטה בפומבי את הפרות המדיניות הספציפיות שלטענתה, מעבר להצהרה על טיפול במידע. האם החברה תעסוק בהמלצות המכתב - במיוחד לגבי מבקרי צד שלישי וניטור מודלים - תיבדק מקרוב על ידי חוקרי בטיחות ורגולטורים כאחד.
לעת עתה, הפרק ממחיש מתח במרכז פיתוח בינה מלאכותית: חברות טוענות שבדיקה חיצונית מתקבלת בברכה, בעוד שעובדים שממשיכים לממש את הערוץ הזה עשויים למצוא את התעסוקה שלהם בשאלה. שלושת החוקרים, מצידם, סידרו את המוניטין שלהם בטענה שהם עשו בדיוק את מה שהעבודה דרשה.
OpenAI לא הגיבה לבקשות להתייחסות נוספת למכתב בזמן כתיבת שורות אלו.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
