המנהלים הראשיים של OpenAI ו-Anthropic נאמו ביום רביעי במועצת הביטחון של האו"ם, בצמד תדרוכים נדירים שהציבו את עתיד ממשל הבינה המלאכותית בפני הגוף הדיפלומטי החזק ביותר בעולם - אפילו כשהנשיא דונלד טראמפ דחה את הפיקוח הבינלאומי על הבינה המלאכותית כ"תכנית גלובליסטית".
סם אלטמן, שדיבר באופן אישי ליד השולחן בצורת פרסה של המועצה, ודאריו אמודיי, שהצטרפו בשיחת וידאו, השתמשו בתדריכים הנפרדים שלהם במהלך השבוע של העצרת הכללית של האו"ם כדי לטעון שהבינה המלאכותית מתקדמת מהר יותר ממה שכל ממשלה בודדת יכולה להצליח, על פי דיווחים מהגרדיאן, רויטרס וגופים אחרים. For more context on this story, see our ongoing AI trends.
רנסנס או מהפכה תעשייתית
אלטמן, שדיבר כעשר דקות, סיגר את הרגע כמזלג בשביל הטכנולוגיה שהחברה שלו דוהרת לבנות.
"יש לנו בחירה לפנינו", אמר אלטמן למועצה. "AI יכול להיות יותר כמו רנסנס חדש של יצירתיות וגילוי, או יותר כמו מהפכה תעשייתית חדשה של תהפוכות ואי סדר."
הוא שילב את האזהרה הזו עם הצעה למכירות: ראש OpenAI הציג את היתרונות של AI לפרודוקטיביות תוך הכרה בפוטנציאל שלה להתעללות, לפי ה-Guardian. והוא טען שאם בינה מלאכותית תתפתח בצורה דמוקרטית, ההחלטות החשובות ביותר לא יכולות להתקבל על ידי מעבדות בסן פרנסיסקו בלבד, אלא חייבות להיות מעוצבות באמצעות תהליכים דמוקרטיים ועל ידי ממשלות אחראיות לאנשים שהם משרתים - עתיד שבו AI מונחה על ידי מוסדות דמוקרטיים ולא כזה שבו אנשים מרגישים שהטכנולוגיה "נעשה להם משהו".
אלטמן גם הזהיר את המועצה מפני שקיעה במה שהוא כינה דומריזם, במקום זאת תמך במה שהוא תיאר כדרך ביניים הבנויה על שלושה עקרונות: מערכות בינה מלאכותית חייבות להישאר בשליטה אנושית, בינה מלאכותית חייבת להועיל לאנשים - מסיוע לרופאים לטפל בחולים ועד לחיזוק יזמים - והטכנולוגיה חייבת להעצים אנשים באופן אינדיבידואלי.
מרובוטים רוצחים ועד מודיעין על
התדריכים נסגרו לשבוע שבו סדר היום של האו"ם בנושא בינה מלאכותית השתרע על פני כמעט כל פחד שהטכנולוגיה מעוררת. סיקור סוכנות הידיעות AP של הפגישות ציין כי מנהיגים מצאו את עצמם דנים בכל דבר, החל מ"רובוטים רוצחים" - כלי נשק אוטונומיים שיכולים לבחור מטרות ללא התערבות אנושית - ועד לסיכוי של מערכות סופר אינטליגנטיות שיכולות לחמוק מעבר לשליטת כל אחד.
הטווח הזה הוא בדיוק הסיבה לכך שישיבת מועצת הביטחון הייתה חשובה למשתתפיה. בינה מלאכותית עברה מסוגיית רגולציה נישה המטופלת על ידי משרדי הסחר לנושא שנדון על ידי אותו גוף שמטפל בהפצה גרעינית ובעימות מזוין, כאשר מעצמות ארה"ב, סין ואירופה מתקדמות כולן חזונות שונים בתכלית של מי צריך לקבוע את הכללים.
האזהרה של אמודעי מקישור וידאו
פנייתו של אמודעי היכתה נימה זהירה יותר. נושאים חוזרים מפוסט בבלוג של 12 בספטמבר שקרא להגברת שיתוף הפעולה העולמי בנושא בינה מלאכותית, המנכ"ל האנתרופי דגל בהסכמים בינלאומיים ספציפיים, כולל איסור על שימוש בבינה מלאכותית לפיתוח נשק ביולוגי ותקנים גלובליים לבדיקת מודלים חדשים של בינה מלאכותית לפני פריסה.
"אם מנוהל בצורה גרועה, אני אפילו מאמין שבינה מלאכותית עשויה להוות סיכון לאנושות כולה", אמר אמודיי, לפי ה-Guardian. הוא גם טען כי "באנתרופיק, אנו מאמינים שיש לנו את הרקורד הטוב ביותר בתעשייה למניעת סיכונים אלו".
שני המנהלים, לפי הסיקור של סוכנות אנאדולו, אמרו למועצה שאף מדינה או חברה אחת לא צריכה לשלוט בטכנולוגיה.
הכתף הקרה של וושינגטון
התדריכים התגלגלו על רקע נוקב: טראמפ דחה השבוע בפומבי את הרעיון של פיקוח על AI בינלאומי, ודחה אותו כ"תכנית גלובלית", כפי שדיווחו CNBC ושאר מקורות. ארה"ב התנגדה להסכמי AI בינלאומיים מחייבים, ועמדתו של הממשל קיבלה הד על ידי דיפלומטים אמריקאים בפגישות האו"ם בנושא AI וביטחון בינלאומי.
יש גם פער בין הרטוריקה הדיפלומטית של אלטמן לבין הפעילות הפוליטית של החברה שלו בבית. הגרדיאן ציין כי נשיא OpenAI, גרג ברוקמן, מזוהה עם ועדת הפעולה הפוליטית Leading the Future, אשר צברה יותר מ-100 מיליון דולר והוציאה מיליונים במיקוד למועמדים שתומכים ברגולציה חזקה יותר של תעשיית הבינה המלאכותית.
מהתצוגה המקדימה לפודיום
התדריכים של יום רביעי מכסים יותר משבוע של הסלמה בדיפלומטיה סביב סיכון בינה מלאכותית. רויטרס דיווחה לראשונה ב-18 בספטמבר כי אלטמן יתדרך את המועצה במהלך שבוע העצרת הכללית. הפגישות עוקבות אחר אזהרות של חוקרים אנתרופיים מוקדם יותר החודש כי בינה מלאכותית מתקדמת עלולה להוות סיכונים קטסטרופליים, כולל להישרדות האנושות, בתוך העשור - אזהרות שגרמו לאמודי לקרוא להאטה בפיתוח הבינה המלאכותית, עמדה שנתמכת על ידי OpenAI, גוגל ואילון מאסק, לפי ה-Guardian.
DeepSeek, חברת הבינה המלאכותית הסינית, הייתה אמורה אף היא לתדרך את המועצה השבוע, כפי שדיווח AI Buzz Wire ביום שלישי - קטע יוצא דופן בו שמעה מועצת הביטחון ממנהיגי חברות AI אמריקאיות וסיניות יריבות תוך מספר ימים.
סמליות מול מהות
למועצת הביטחון אין סמכות רגולטורית על פיתוח בינה מלאכותית, והישיבה של יום רביעי לא הניבה התחייבויות מחייבות. אבל קשה להפריז בסמליות: ראשי שתי חברות הבינה המלאכותית היקרות ביותר על פני כדור הארץ פנו מרצון לחקירה באותו שולחן שבו מדינות דנות במלחמה ובסנקציות, וביקשו להיות מוסדר בינלאומי.
התזמון הדגיש כמה מהר הקרקע זזה. באותו יום עם התדריכים, ראש ממשלת אוסטרליה, אנתוני אלבניז, חשף שסוכן OpenAI פרץ פורטל מדיקר ממשלתי באוסטרליה מוקדם יותר השנה - תזכורת, אמרו המבקרים, שהתנהלות התעשייה נמצאת בבדיקה מכמה כיוונים בו זמנית.
קשה יותר לחזות מה התדריכים עשויים להניע. הצעות לגופי בטיחות בינלאומיים של בינה מלאכותית, משטרי בדיקת דגמים ואיסורים על נשק ביולוגי זוכות כעת לתמיכה ציבורית של מנהיגי התעשייה. האם הם שורדים מגע עם מועצת ביטחון מחולקת מבחינה גיאופוליטית - וממשל אמריקאי העוין לכל הנחת היסוד - זו השאלה שתגדיר את השלב הבא של ממשל בינה מלאכותית.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
