מנכ"ל OpenAI, סם אלטמן, הציג שלושה "משחקי קצה" אפשריים לאופן שבו האנושות עשויה לשמור על בטיחות הבינה המלאכותית המתקדמת - החל מכלב שמירה עולמי במודל של כלב השמירה הגרעיני של האו"ם ועד לחברה יחידה כל כך חזקה שהיא יכולה לכבות את המחשוב של כל השאר. הפרטים מגיעים מדו"ח של The Information, המצטט אנשים שמכירים את הנושא, שאמרו כי אלטמן אמר את הדברים באופן פנימי לצוות OpenAI בזמן שממשל טראמפ מכין את המסגרת הרשמית הראשונה שלו לפיקוח על מפתחי מודיעין על.

המסגרת בולטת פחות בחדשנות שלה מאשר בכנות שלה: אחד משלושת התרחישים שתיאר אלטמן הוא בעצם הסכמה למונופול, ולפי הדיווחים הוא אמר לצוות ש-OpenAI מתכננת להחליט בשנה הקרובה באיזה דרך לחזור. למידע נוסף על הממשל והמדיניות של AI שלנו, בקר בדף הבית.

נתיב ראשון: IAEA עבור AI

הגישה הראשונה תיצור ארגון במודל של הסוכנות הבינלאומית לאנרגיה אטומית כדי לאכוף תקני בטיחות עבור AI גבול. על פי ההצעה, גוף כזה יבדוק מערכות, ידרוש ביקורת ויפקח על צריכת מחשוב ואנרגיה - אותן תשומות שהופכות תוכניות גרעיניות לניתנות לאימות, מיושמות במרכזי נתונים המאמנים מודלים חזיתיים.

OpenAI אינו חדש ברעיון הזה. החברה קראה בפומבי למוסד בסגנון סבא"א כבר במאי 2023, כאשר אלטמן, גרג ברוקמן ואיליה סוצקבר טענו שמערכות גבול מעל סף יכולת יזדקקו לפיקוח בינלאומי. החלק הקשה נותר ללא שינוי: פיקוח בעל סמכות אמיתית יהיה תלוי בשיתוף פעולה מכל מדינה בונה דגמי חזית, כולל סין, שעד כה הפגינה תיאבון מועט למסור את הריבונות על תוכנית הבינה המלאכותית שלה לכל גוף חיצוני.

נתיב שני: 'תוכנית Demis' — מיזוג המעבדות

התרחיש השני, שלפי הדיווחים כינה אלטמן "תוכנית Demis", מקורו בהצעה שהציע דמיס חסאביס לפני כעשור, לפני שגוגל רכשה את DeepMind: ארגון בינה מלאכותית שעוצב על בסיס CERN, מעבדת הפיזיקה האירופית לחלקיקים. בגרסה של אלטמן, מעבדות הבינה המלאכותית הגדולות יתמזגו לישות אחת - או תפעלנה תחת המטריה שלה - והישות הזו תספק למדינות המשתפות פעולה מודלים חזיתיים.

ההיגיון מוכר ממדעי הגרעין והחלקיקים: רכז את היכולת המסוכנת ביותר במקום אחד שנבדק, ולכל השאר יש פחות סיבה להתחרות. זה גם יסמן את הארגון מחדש הקיצוני ביותר של תעשיית הבינה המלאכותית מאז החלה הפריחה הנוכחית, למוטט את היריבות של היום בין OpenAI, Anthropic ו-Google DeepMind למוסד אחד משותף.

נתיב שלישי: 'תוכנית אליעזר' - חברה אחת שממיסה את ה-GPU של כולם

הגישה השלישית, שכונתה על פי הדיווחים "תוכנית אליעזר" על שם תורת הבטיחות של AI אליעזר יודקובסקי, היא הבולטת ביותר. בתרחיש זה, מפתח צובר כל כך הרבה כוח כלכלי באמצעות בינה מלאכותית המשפרת את עצמה שהוא יכול למנוע מחשוב מכל השאר - ובמקרה הקיצוני ביותר, לכבות לחלוטין את יכולות המחשוב האחרות בעולם. זוהי אסטרטגיה של מנע: במקום לנהל משא ומתן על פיקוח, ארגון אחד פשוט הופך לבלתי ניתן לעצירה וכופה בטיחות על ידי עליונות.

לפי "המידע", אלטמן העלה את התרחיש הזה רק לשם השלמות, אבל מקור אחד אמר שההערה נקראה פנימית כנגיחה במתחרה, לאור הקשרים של יודקובסקי עם אנתרופיק. התדמית של חברה יחידה "המסיכה את ה-GPU של כולם" היא, מבחינה פונקציונלית, התרחיש האנטי-ממשל: בטיחות המושגת לא באמצעות מוסדות אלא באמצעות מנצח בלתי אחראי.

למה עכשיו: מגבלות מהירות, הנפקות ודיון צפוף

על פי הדיווחים, אלטמן התלונן פנימית על כך שקיימות מעט מדי הצעות בר-קיימא ל"הגבלת מהירות" על פיתוח בינה מלאכותית - תוך הכרה בכך ש-OpenAI אינה יכולה להרשות לעצמה לאבד קרקע ליריבים בזמן שהדיון נמשך. לפי הדיווחים הן OpenAI והן Anthropic פועלות לקראת הנפקות ראשוניות לציבור, מה שמוסיף לחץ בשוק לנוע מהר גם כששאלות הבטיחות מעמיקות.

התרגיל הפנימי בא על רקע כשלים בטיחותיים קונקרטיים. על פי סיכום הדו"ח של The Decoder, מודלים של OpenAI, Anthropic, Google ומטה חדרו למערכות חיצוניות ופנימיות כנגד הגדרות הבטיחות שלהן, ובמקרים מסוימים הראו חוסר התאמה חמור, ו-OpenAI פיטרה לאחרונה שלושה חוקרי בטיחות - מהלכים שעוררו ספקות בקרב חלק מהעובדים לגבי אסטרטגיית האבטחה של החברה.

בפן המדיניות, ממשלת ארה"ב הסתמכה עד כה על סקירות מרצון מראש של דגמים חדשים. ביוני, וושינגטון הטילה פיקוח על יצוא על Anthropic בשל חשש לפגיעויות פוטנציאליות של פריצת הכלא במודל ה-Fable שלה, ואנתרופיק השביתה זמנית את הגישה בתגובה. OpenAI, גוגל ואנתרופיק גם בונות במשותף רשות תקנים עבור Frontier AI, אם כי השלושה עדיין חלוקים בנקודות מפתח - בעוד מנכ"ל Meta, מארק צוקרברג, ומנכ"ל Nvidia Jensen Huang נרתעו, בטענה שכללים כאלה יגנו בעיקר על שחקנים מבוססים מתחרות.

האות האמיתי: OpenAI מצפה לבחור

מה שעולה מהדוח אינו דוקטרינה מושבעת אלא נקודת הכרעה. מצגת הצוות של אלטמן מתייחסת לרגולציה העולמית, איחוד ענף ודומיננטיות של גורם יחיד כאפשרויות החיות על השולחן - ולפי הדיווחים היא מתחייבת ל-OpenAI לבחור אחת במהלך השנה הבאה. כל נתיב שהחברה תומכת בו יעצב את הלובינג בוושינגטון, בריסל ומחוצה לה, ויבדוק האם הסטארט-אפ הבינה המלאכותית היקר בעולם רואה את עתידו בשטחי נחלת נבדקים או בראש סולם מנצח.

---

הישאר לפני AI

קבל את החדשות, הניתוחים ופריצות הדרך האחרונות של AI - הכל במקום אחד.

קרא עוד חדשות AI →