מנכ"ל OpenAI, סם אלטמן, ינחה את מועצת הביטחון של האו"ם באופן אישי בשבוע הבא במהלך הכינוס השנתי של מנהיגי העולם בניו יורק לעצרת הכללית של האו"ם, דיווחה רויטרס ביום שישי, בציטוט דובר OpenAI.
התדרוך יתקיים בישיבת מועצת הביטחון הפתוחה בנושא בינה מלאכותית ואבטחה בינלאומית שתוכננה ליום רביעי, כאשר הגוף בן 15 החברים יתכנס במהלך השבוע הגבוה של העצרת הכללית. את המושב כינסה צרפת, המכהנת בראשות המועצה לחודש ספטמבר, ובראשה יעמוד השר הצרפתי לאירופה וחוץ ז'אן-נואל בארו. For more context on this story, see our ongoing latest AI developments.
"סם אלטמן יתדרך באופן אישי פגישה פתוחה של מועצת הביטחון של האו"ם בשבוע הבא", אמר דובר OpenAI לרויטרס.
מה אלטמן צפוי לומר
לפי רויטרס, דבריו של אלטמן צפויים להתמקד בצורך בתיאום בינלאומי ובתקני בטיחות משותפים, כמו גם בצעדים ש-OpenAI נוקטת כדי להבטיח שאנשים ברחבי העולם ייהנו מבינה מלאכותית.
ההופעה מציבה את מנהל הבינה המלאכותית הבולטת בעולם מול הגוף המופקד על שמירה על שלום וביטחון בינלאומיים, ברגע שבו ממשלות ממסגרות יותר ויותר בינה מלאכותית מתקדמת לא רק כהזדמנות כלכלית אלא כטכנולוגיה בעלת השלכות ישירות על הביטחון הלאומי והבינלאומי.
אנתרופי עשוי להיות גם בחדר
דיפלומטים אמרו לרויטרס שהם גם מצפים לנוכחות ברמה גבוהה בפגישה מאנתרופיק, אם כי ההשתתפות הזו לא אושרה. אנתרופיק לא הגיבה מיד לבקשת תגובה.
כל הופעה של Anthropic תישא תהודה מיוחדת בהתחשב בעמדה הגבוהה של החברה בנושא סיכון בינה מלאכותית בחודשים האחרונים, כולל קריאותיה להאטה מתואמת בפיתוח של מערכות יכולות יותר ויותר. ישיבת מועצת הביטחון מגיעה שבועות ספורים לאחר שכמה ממנהיגי תעשיית הבינה המלאכותית דחקו בהאטה מתואמת, והזהירו שבינה מלאכותית עשויה להשתפר בקרוב בעצמה ולחמוק מעבר לשליטה אנושית.
המקרה של צרפת לדחיפות
בהערת רעיון שהופצה לחברי המועצה ונראתה על ידי רויטרס, הדגישה צרפת את "הדחיפות של הפעולה לטפח פיתוח בטוח ואחראי של בינה מלאכותית לטובת הקהילה הבינלאומית כולה".
ההערה ציינה את הסיכון של שימוש לרעה בבינה מלאכותית למטרות זדוניות ואמרה שהפגישה נועדה לאפשר למשתתפים להציג את הניתוח שלהם לגבי סיכונים הקשורים לאובדן שליטה, או לשימוש במודלים העדכניים של בינה מלאכותית כדי לפתח, להקל ולבצע פעולות עם השפעה על השלום והביטחון הבינלאומיים.
מועצה חוזרת לנושא מוכר
מועצת הביטחון התייחסה ל-AI בעבר. היא נפגשה לראשונה על הסיכונים של בינה מלאכותית בשנת 2023, כאשר סין הזהירה כי הטכנולוגיה לא צריכה להפוך ל"סוס בורח" וארצות הברית הזהירה מפני השימוש בה כדי לצנזר או לדכא אנשים. הפגישה של יום רביעי מייצגת הסלמה משמעותית במעורבות זו: היכן שבישיבות קודמות נשמעו אזהרות כלליות, בשבוע הבא יכללו תדרוך חי ממנכ"ל החברה שמוצריה עומדים במרכז בום הבינה המלאכותית.
אלטמן, מצדו, הזהיר מפני סיכוני AI מתקדמים עוד הרבה לפני גל ההצלחה המסחרית הנוכחי. במאמר מ-2015 שכותרתו "מודיעין מכונה, חלק 1", הוא כתב כי "פיתוח אינטליגנציה של מכונות על-אנושיות הוא כנראה האיום הגדול ביותר על המשך קיומה של האנושות" - קו שקדם לעלייתה של OpenAI ואשר בהכרח יעלה מחדש כאשר הוא פונה למועצה.
למה זה חשוב
קשה להפריז בסמליות של התדריך. בכיר בחברת טכנולוגיה הפונה למועצת הביטחון מאותת עד כמה התקדמה בינה מלאכותית בסדר היום הביטחוני הבינלאומי, לצד הפצת נשק גרעיני ולוחמת סייבר. זה גם משקף שינוי בוויכוח עצמו: לאחר שנתיים שנשלטו על ידי ויכוחים על זכויות יוצרים, משרות ומידע מוטעה, כוח הכינוס של האו"ם מצביע על סיכון גבול - אובדן שליטה, שימוש זדוני והיעדר סטנדרטים בינלאומיים משותפים.
מה יוצא מזה זו שאלה אחרת. למועצת הביטחון אין סמכות רגולטורית על פיתוח בינה מלאכותית, והחלטותיה לגבי טכנולוגיה מתפתחת היו היסטורית לא מחייבות. אבל הפגישה נותנת לממשלות במה להציב עמדות - ונותנת לחברות בינה מלאכותית קהל של שרי חוץ וראשי מדינות ששום השקת מוצר לא יכולה להשתוות לו. עם צרפת דוחפת לדחיפות ושתי מעבדות הבינה המלאכותיות המובילות בארה"ב צפויות להיות מיוצגות, מושב יום רביעי עשוי בהחלט לסמן את הרגע שבו ממשל בינה מלאכותית הפכה לסעיף קבוע על סדר היום של דיפלומטיה ביטחונית עולמית.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
