Google DeepMind שוכרת צוות של מומחי גרעין כדי להעריך אם דגמי AI חזיתיים יכולים לסייע בפיתוח נשק גרעיני, על פי רשימות משרות שדווחו לראשונה על ידי פרסום התעשייה Data Center Dynamics וסוקרו השבוע על ידי Futurism.
הרישומים, שפורסמו באתר הקריירה של גוגל, מחפשים "פיזיקאים ומהנדסי גרעין מוסמכים" לתפקיד מומחה לנושאים גרעיניים בצוות חומרי נפץ כימיים, ביולוגיים, רדיולוגיים, גרעיניים ובעלי תפוקה גבוהה (CBRNE), שיושב בארגון הפיתוח והחדשנות האחראי של DeepMind. For more context on this story, see our ongoing more AI stories.
מה התפקיד בעצם מבקש
רף המינימום תלול. מועמדים זקוקים לתואר דוקטור בתחום כמו פיזיקת פלזמה או הנדסה גרעינית - או "ניסיון מעשי מקביל" - בתוספת רקורד של שיתוף פעולה עם מעבדה ממשלתית בארה"ב והיכרות עם תחומי מדיניות כולל ניהול מלאי, אי-הפצה, בקרת נשק או הפחתת איומים.
הכישורים המועדפים מגיעים עוד יותר: ניסיון בבטיחות בינה מלאכותית, מומחיות במודלים חישוביים, זמן עבודה במתקני משתמשי לייזר גדולים והיכולת לתכנן הערכות בטיחות ש"בלתי מסווגות בעליל ואינן נשלטות בייצוא על ידי פיתוח פרוקסי מדעיים לשימוש כפול לנושאי נשק".
התמורה תואמת את דרישות המומחה. גוגל מציגה טווח שכר של $174,000 עד $252,000, עם בונוס של 15% למעלה.
מדוע מעבדת בינה מלאכותית זקוקה למומחי נשק
האחריות המרכזית היא להעריך את הבטיחות של דגמי AI חזיתיים בתחום הגרעיני. הרשימה מתארת את העבודה כהערכת "סיוע במודל בביקוע, היתוך והפצת נשק תרמו-גרעיני, הידרודינמיקה של קרינה, מגנטו-הידרודינמיקה וכו' באופן בלתי מסווג בעליל ולא מבוקר יצוא".
תורגם משפת פרסום המשרה: DeepMind רוצה מומחים שיוכלו לקבוע אם המודלים שלה מסוגלים לספק עזרה משמעותית בפיתוח נשק גרעיני - ולעשות זאת מבלי שההערכות עצמן יחצו את קווי הסיווג. ההתייחסות ל"פרוקסי מדע לשימוש כפול" מציעה בדיקות הבנויות על בעיות מדעיות סמוכות, כגון הידרודינמיקה של קרינה, שעומדות בפני שאלות ספציפיות לנשק שמודל לא אמור לענות עליהן.
תחומי הפיזיקה המופיעים ברשימה אינם שרירותיים. הידרודינמיקה של קרינה ומגנטו-הידרודינמיקה מתארות כיצד אנרגיה ופלזמה מתנהגות בתנאים הקיצוניים הרלוונטיים לפיזיקה של נשק גרעיני, וזו בדיוק הסיבה לכך שהם משמשים כנושאים רגישים: מיומנות בתחומים אלה היא הבסיס לתכנון ראשי נפץ, אך המדע הבסיסי מתפרסם גם במחקר היתוך ואסטרופיזיקה. בניית שאלות הערכה סביב "פרוקסי" כאלה מאפשרת לצוותי בטיחות למדוד אם מודל יכול לנווט בידע הגבול הזה מבלי שההערכות עצמן יהפכו לסיכון התפשטות.
הקריאה של הפוטוריזם של הרישום הייתה בוטה: היא מציעה שמעבדת המחקר הבינה המלאכותית של גוגל מצפה מהמודלים שלה בסופו של דבר להתמודד עם שאלות עם תוכן גרעיני אמיתי, והיא שוכרת את המומחיות הדרושה כדי לתפוס את ההתנהגות הזו לפני שהיא משנה. המסגור הזה הוא ספקולטיבי - דחיפה לגיוס ממחישה מוכנות, לא הוכחה לכך שהמודלים הנוכחיים יכולים לייצר הנחיית נשק בר-פעולה - אבל קנה המידה של דרישות המומחים מדגיש עד כמה המעבדה מתייחסת לתרחיש ברצינות.
חלק ממערך בטיחות גדול יותר
הגיוס מתאים לדפוס שהגדיר את תעשיית מעבדות הגבול במשך שנים: חברות בינה מלאכותית מגייסות מומחי תחום מוסמכים על פני דיסציפלינות אקדמיות כדי לבחון את המודלים שלהן. מה שהתחיל כצבאות של בודקי עובדות בנושאים לאימון מודלים התפתח יותר ויותר לצוותי הערכה ייעודיים לתחומי סיכון קטסטרופליים, כאשר CBRN בין הרגישים ביותר.
ההנהגה של DeepMind עצמה השמיעה אזעקה בפומבי. בשבוע שעבר הזהירה הנהגת המעבדה כי יש להתייחס לניסיונות פריצה התומכים בבינה מלאכותית כאל "יריות אזהרה מוקדמות" מפני סיכוני אבטחה גדולים יותר, דיווחה רויטרס, עם תחזיות כי בינה מלאכותית יכולה לאפשר אירועי אבטחה גדולים בתוך כשנתיים. בניית צוות הערכה של CBRN היא הגרסה המבצעית של הרטוריקה הזו.
הדחיפה מגיעה גם בתוך תקופה של שינויים מבניים בפעילות ה-AI של גוגל. באוגוסט, החברה עירבה מחדש את מנהיגות הבינה המלאכותית שלה, כאשר רויטרס ו-CNBC דיווחו ששינויי מנהיגות ותיקים העבירו את פונקציות האחריות - והוול סטריט ג'ורנל דיווח בנפרד שגוגל העבירה צוות אחריות לבינה מלאכותית ממעבדת DeepMind לחלוטין כחלק מהטלטול הזה. העובדה שצוות CBRNE יושב כעת בתוך ארגון "פיתוח וחדשנות אחראי" מראה כיצד מנגנון הבטיחות אורגן מחדש - והורחב - גם כשהדיווח על הארגון מחדש נמשך.
המשנה של המשילות
יש גם מימד מדיניות. חברות בינה מלאכותית של Frontier נמצאות תחת לחץ גובר מצד ממשלות להוכיח שהן יכולות למדוד ולשלוט ביכולות המסוכנות ביותר שהמערכות שלהן עשויות לפתח. הערכות אמינות בתחומים גרעיניים וביולוגיים הופכות להיות דרישה דה פקטו לאמינות מעבדה - עבודת מקרה הבטיחות שרגולטורים וגופי פיקוח מבקשים יותר ויותר לראות.
לאור זאת, העסקת אנשים שהעבירו קריירות בממסד לאי-הפצה משרתת שתי מטרות בו זמנית: היא בונה את היכולת הטכנית להפעיל הערכות קפדניות, והיא שואלת לגיטימציה מוסדית מעולם בקרת הנשק הקיים.
הרישומים נשארים פתוחים באתר הקריירה של גוגל. בין אם התפקידים מעידים על זהירות או על מיצוב תחרותי, דבר אחד ברור: הסתיים העידן שבו בטיחות בינה מלאכותית הייתה עבודה עבור כלליים.
_מאמר זה מבוסס על דיווח של Data Center Dynamics and Futurism, ועל רשימות המשרות הציבוריות של Google DeepMind._
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
