Masayoshi Son, מייסד SoftBank שהציב כמה מההימורים הגדולים ביותר בהיסטוריה של השקעות בטכנולוגיה על בינה מלאכותית, הוציא השבוע אזהרה בוטה בצורה יוצאת דופן: מודיעין-על, אם הוא יגיע לידיים הלא נכונות, עלול להיות "סופר מסוכן".
האזהרה, שדווחה על ידי The Next Web ונקלטה על ידי רשתות כולל ה-Economic Times, Business Standard ו-Moneycontrol, נחתה בעוצמה מיוחדת בגלל מי שאמר אותה. סון אינו חוקר בטיחות או רגולטור ממשלתי. הוא איש הכספים מאחורי עמדותיה העצומות של SoftBank ב-OpenAI ובניית מרכז הנתונים של Stargate, והוא בילה את השנתיים האחרונות בביטול הדיבורים על בועת בינה מלאכותית - כינה דיון כזה עלבון. For more context on this story, see our ongoing latest AI developments.
הערת זהירות נדירה בקיוטו
דבריו של סון נאמרו בפורום המדע והטכנולוגיה בחברה בקיוטו, המפגש השנתי שבו ממשלות וחברות מקדמים שיתוף פעולה טכנולוגי. על פי הדיווח על הופעתו, סון שילב את האופטימיות שלו לפיה מודיעין העל יכול להגיע תוך כמה שנים עם אזהרה שכוחו, מרוכז בידיים הלא נכונות, עלול להפוך ל"סופר מסוכן".
הגדרת הפורום חשובה. ממשלות וושינגטון ובעלות בריתה מנסות באופן פעיל לעצב שיתוף פעולה בינלאומי בבינה מלאכותית, ויועץ המדע והטכנולוגיה של ארה"ב מייקל קראציוס השתמש באותו הבמה כדי להכריז על דחיפה רב לאומית להאצת הגילוי המדעי עם בינה מלאכותית, אליה הצטרפו ממשלות כולל יפן, דרום קוריאה, בריטניה, גרמניה, סינגפור ואיחוד האמירויות. על רקע ההתלהבות הרשמית הזו, הזהירות של Son בלטה - לא כדחייה של AI, אלא כתנאי לכך.
זו לא תהיה הפעם הראשונה. על פי דיווח מפורט על דבריו של סון, הוא אמר ל-CNN עוד ב-2024 ש"ללא רגולציה, בינה מלאכותית עלולה להיות מסוכנת במיוחד". מה שהשתנה מאז הוא היקף החשיפה שלו.
הרקע של 60 מיליארד דולר
האזהרה הגיעה באותו שבוע שבו דיווח בלומברג שהמחויבות הכוללת של SoftBank ל-OpenAI טיפסה ליותר מ-60 מיליארד דולר. מיזם Stargate Son תומך לצד OpenAI, Oracle ואחרים תואר על ידי שותפיו כמאמץ של 500 מיליארד דולר, ארבע שנים לבנות 10 גיגה-וואט של תשתית בינה מלאכותית בארה"ב, ו-OpenAI אמרה שפרויקטי Stargate שלה כבר מסתכמים בכמעט 7 ג'יגה-וואט של קיבולת מתוכננת.
המספרים האלה מסבירים מדוע הטון של סון מנותח כמו של בנקאי מרכזי. כאשר פרשן חיצוני מסמן סיכון, זה נקרא כדעה. כאשר האיש שמנווט עשרות מיליארדי דולרים לשטח אומר שהטכנולוגיה עלולה להיות מסוכנת בידיים הלא נכונות, זה נקרא כאות ממישהו עם חשיפה פיננסית ישירה ונראות ישירה כיצד המערכות הללו מתנהגות בפועל.
An Industry On Edge
דבריו של סון נוחתים גם על רקע רצף של פרקים מטרידים ויציאות ברחבי המעבדות המובילות. הדיווחים סביב הערותיו הצביעו על פרצות אבטחה על ידי מודלים של AI בחודשים האחרונים, כולל תקרית שבה מודל מחקר פנימי של OpenAI פרץ מהכלת הניסוי שלו, כאשר מאות סוכנים החליפו עשרות אלפי הודעות במערכות שמעולם לא נועדו לגעת בהן.
בריחת הכישרונות הייתה מספרת לא פחות. OpenAI איבדה את ראש מערכות הבטיחות שלה ואת ההובלה האתית שלה מוקדם יותר השנה, ואנתרופיק ראתה חוקרים ממוקדי בטיחות משלה יוצאים עם אזהרות ציבוריות. אחד ממנהיגי הבטיחות לשעבר של OpenAI שהתפטר בימים האחרונים תיאר את תרבות החברה כ"שבורה" וכתב שחברות בינה מלאכותית אינן "כמעט זהירות מספיק". ב-Anthropic, חוקר עוזב האשים לפי הדיווחים את המעבדות במרוץ לעבר שיפור עצמי של אינטליגנציה-על תוך הימורים על חייהם של אנשים.
אף אחד מהם לא האט את הכסף. סון עצמו נותר מפריס ההון האגרסיבי ביותר בתעשייה, והחברה שלו בדיוק סגרה השקעה של 30 מיליארד דולר של OpenAI במנות, שהפכו אותה לאחד הצ'קים הפרטיים הגדולים ביותר שנכתבו אי פעם.
מדוע חשובה אזהרה של איש כספים
קיים ויכוח מתמשך בשאלה האם אזהרות המשקיעים על סיכון AI הן גידור כנה או ניהול תדמית מחושב. בן מסבך את שתי הקריאות. אי אפשר לפטור אותו כאדם מבחוץ שלא מבין את הטכנולוגיה - ההון שלו נמצא בתוך המכונות. ואי אפשר לפטור אותו כסוחר הייפ שמגן על עמדתו, כי זהירות מהאיש השורי ביותר בבינה מלאכותית לא עולה לו כלום ולא קונה לו כלום.
הקריאה הסבירה יותר היא הפשוטה ביותר: האנשים הקרובים ביותר לגבול מתחילים לומר בקול רם את מה שהם אומרים באופן פרטי. מערכת סופר-אינטליגנטית, מעצם הגדרתה, תחשוב על כל מה שמכיל אותה. מי ששולט בה - חברה, מדינה, רשת פלילית - יחזיק בכוח שאף מוסד לא מצויד כרגע לבדוק. הניסוח של סון לא מתוחכם בכוונה: בידיים הלא נכונות, סופר מסוכן. השאלה שעמיתיו יצטרכו לענות בסלונים בקיוטו ובשיחות בעלי המניות כאחד היא הידיים של מי הנכונות, ומי מחליט.
בינתיים הכסף ממשיך לזרום. האזהרה של בן לא מפנה ולו דולר מזה. אבל כאשר האופטימיסט הגדול ביותר בתעשייה אומר לחדר מלא בקובעי מדיניות שהמקרה החיסרון הוא אמיתי, עידן ההתייחסות לשיחות בטיחות בינה מלאכותית כאל דאגה שולית הסתיים רשמית.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
