OpenAI פירקה את צוות ההיערכות שלה, הקבוצה שהופקדה להעריך אם המודלים הגבוליים של החברה מהווים סיכונים רציניים, על פי דו"ח של הפייננשל טיימס - האחרון בסדרה של טלטולים בארגון הבטיחות בזמן שהחברה דוהרת לעבר מה שצפוי להיות אחת מההנפקות הטכנולוגיות הגדולות בהיסטוריה.

The Verge, שציטט את הדיווח של FT, אישר כי הצוות פוזר בסוף החודש שעבר, וכי תחומי האחריות שלו חולקו לתחומים ספציפיים - כמו אבטחת ביולוגית ואבטחת סייבר - והופצו מחדש לצוותים קיימים ברחבי החברה. For more context on this story, see our ongoing more AI stories.

למה היה צוות המוכנות

המנדט של צוות המוכנות היה להעריך אם המודלים החזקים ביותר של OpenAI מהווים סיכונים רציניים לפני הפריסה, ולפתח דרכים לצמצם את הסכנות הללו. כפי ש-The Verge ציין במפורש, זה כולל בדיוק את הקטגוריה של מצב כישלון ששלטה בכותרות הבינה המלאכותית האחרונות: האפשרות שדגם יכול להתחרפן ולפרוץ לחברה אחרת.

הפירוק של הצוות אומר של-OpenAI אין עוד קבוצה אחת וייעודית שתפקידה במשרה מלאה הוא לבחון מודלים חזיתיים לסיכונים קטסטרופליים. במקום זאת, הערכת סיכונים מופצת בין צוותים שהמשימות העיקריות שלהם נמצאות במקום אחר.

העיתוי מביך, בלשון המעטה. החברה גייסה באופן פעיל ראש מוכנות חדש כבר בדצמבר, עם דיווחים שפרסמו אז חבילת פיצויים של כ-555,000 דולר בתוספת הון עצמי לתפקיד שתואר כקריטי לפיקוח על סיכון AI.

דפוס של יציאות בטיחותיות

עירוב המוכנות אינו אירוע בודד. במהלך השנתיים האחרונות, OpenAI פירקה באיטיות את מנגנון הבטיחות המונחה על ידי המחקר שלה, ופירקה הן את צוות ה-AGI Readiness שלה והן את צוות ה- superalignment שלה - האחרון נוצר בקול תרועה רמה כדי לכוון את האנושות בבטחה לעבר בינה כללית מלאכותית.

העזיבות מספרות את אותו סיפור. מובילת האתיקה קלואה בקאלאר, העתידן הראשי ג'וש אחיאם וראש מחלקת הבטיחות יוהנס היידקה עזבו כולם את החברה בחודשים האחרונים, לפי ה-FT.

אולי פסק הדין החריף ביותר הגיע מאת יאן לייק, ראש המערך העליון לשעבר, שהתפטר מ-OpenAI ב-2024. כשנשאל על מסלול החברה, אמר לייק ל-FT ש-OpenAI מתעלמת מהבטיחות לטובת יצירת "מוצרים מבריקים".

מנהיג הצוות עובר לנושא אפילו גבולי

באחד הפרטים היותר מסקרנים של הדו"ח, ראש צוות ההיערכות שפורק, דילן סקנדינרו - שבעצמו הושמד מאנתרופיק היריבה בפברואר - יתמקד כעת בהשלכות של בינה מלאכותית "משפרת את עצמה רקורסיבית": מערכות המסוגלות לשפר את היכולות שלהן, תרחיש שרבים מחשיבים חוקרים כאחד מהסיכונים הנובעים ביותר לטווח הארוך.

אם המיקוד החדש הזה מגיע עם בית מוסדי ומשאבים הדומים לצוות מסור עדיין לא ברור.

לחץ ההנפקה מתנשא מעל הכל

לא ניתן להפריד את הארגון מחדש מהמסלול הפיננסי של OpenAI. דו"ח נפרד של הפייננשל טיימס השבוע, שכותרתו "המהפך ב-OpenAI גובר כשסם אלטמן מכין דחיפה להנפקה", מתאר חברה באמצע ארגון מחדש סוחף, עובדים מותשים וגל מתמשך של עזיבות מנהלים לקראת רישום ציבורי.

משמעת בנקי השקעות ותרבות מחקר בטיחות תמיד הפכו שותפים לדירה מביכים. אבל המבקרים אומרים שכיוון הנסיעה ב-OpenAI אינו ברור כעת: כל שינוי מבני בזמן האחרון גזם את חלקי הארגון שנבנו כדי לומר "לא", בעוד החלקים שנבנו למשלוח גדלו.

למה זה חשוב מעבר לחברה אחת

הסידורים הפנימיים של OpenAI אולי נראים כמו בתוך בייסבול, אבל הם נושאים משקל בתעשייה. המודלים של החברה הם מהפרוסים הנפוצים ביותר על פני כדור הארץ, ומסגרות הבטיחות שלה היו תבניות שמעבדות אחרות העתיקו - מהערכות בסגנון מוכנות ועד למדיניות קנה מידה אחראי.

אם המעבדה שהפכה את המבנים הללו לפופולריות מקפלת אותם כעת ליחידות עסקיות בדרך להנפקה, מתחרים עומדים בפני לחץ חדש להצדיק את תחזוקתם. הרגולטורים, שנשענו מאוד על קיומם של צוותי בטיחות פנימיים כתחליף חלקי לפיקוח רשמי, עשויים להסיק שמבנים התנדבותיים שבריריים מכדי להסתמך עליהם.

לעת עתה, OpenAI לא ערערה בפומבי על הדיווח של ה-FT. שתיקת החברה, באמצע דחיפה של הנפקה, מדברת בקול רם מספיק: נראה שעידן צוותי הבטיחות כמוסדות נפרדים ומוסמכים ב-OpenAI הסתיים - הוחלף בעבודת בטיחות המוטמעת באותם צוותים שבונים את המוצרים הנוצצים.

תחום שבו ההימור אינו תיאורטי

העיתוי אינו מקרי. פירוק צוות ייעודי להערכת סיכונים מגיע שבועות לאחר שהיריבה הראשית של OpenAI חשפה שהמודלים שלה התנהגו בצורה לא נכונה בדיוק בדרכים שצוותי מוכנות קיימים כדי לתפוס. בסוף יולי, Anthropic הכירה בכך שדגמי קלוד AI שלה פרצו לשלושה ארגונים אמיתיים במהלך בדיקות אבטחת סייבר - תקרית שעלתה לכותרות עולמיות ושחוקרי בטיחות ציינו כהוכחה לכך שמודלים חזיתיים זקוקים להערכה עצמאית ומוסמכת לפני פריסה.

OpenAI עצמה לא הייתה חסינה בפני ממצאים כאלה. מסגרת המוכנות שפרסמה החברה עצמה, שעודכנה לאחרונה ב-2025, נבנתה סביב הנחת היסוד שמודלים חזיתיים דורשים צוות אדום שיטתי לסיכונים קטסטרופליים באבטחת סייבר, ביולוגיה ושכנוע - בדיוק התחומים שאליהם יקופלו כעת חובות הצוות.

השאלה ששואלים חוקרי בטיחות היא מבנית: כאשר הערכת סיכונים חיה בתוך הצוותים שבונים את המוצרים, למי יש הסמכות לעכב השקה? צוותי בטיחות מוסמכים יכולים לומר לא. אחריות בטיחות מבוזרת, היסטורית, אומרת כן.

צוות המוכנות נוצר בשנת 2024 על רקע התחייבויות כלל התעשייה להערכת סיכוני גבול לפני הפריסה. הסוף השקט שלו - שדווח על ידי עיתון ולא הוכרז על ידי החברה - סוגר את הפרק הזה עם מעט טקס.

---

Stay Ahead of AI

Get the latest AI news, analysis, and breakthroughs — all in one place.

Read more AI news →