סטארטאפ AI הסיני DeepSeek יהיה בין החברות שתדריך את מועצת הביטחון של האו"ם השבוע על הסיכונים הנשקפים מבינה מלאכותית, אמרו לרויטרס שני מקורות הבקיאים בעניין, בזמן שמנהיגי העולם מתכנסים בניו יורק לעצרת הכללית השנתית של האו"ם.

מועצת הביטחון המונה 15 חברים אמורה להיפגש ב-23 בספטמבר כדי לדון בבינה מלאכותית ובאבטחה בינלאומית - שבועות לאחר שכמה ממנהיגי תעשיית הבינה המלאכותית קראו להאטה מתואמת בפיתוחן של מערכות בינה מלאכותיות יותר ויותר חזקות, והזהירו שהן עשויות להשתפר בקרוב בעצמן ולחמוק מעבר לשליטה אנושית. להקשר נוסף על הסיפור הזה, עיין בסיקור תעשיית הבינה המלאכותית שלנו.

מי יהיה בחדר

מנכ"ל OpenAI, סם אלטמן, מתכנן לתדרך את הפגישה, שבה מצפים גם דיפלומטים להשתתפות מנציגים בכירים של Anthropic, כך דיווחה רויטרס בשבוע שעבר.

מהצד הסיני, DeepSeek וחברות AI סיניות אחרות, כולל Moonshot, הוזמנו להצהרות, אמר אחד המקורות. מייסד DeepSeek, ליאנג וונפנג, לא מתכוון להשתתף, הזהיר המקור, וציין כי התוכניות נותרות נזילות ועשויות להשתנות ברגע האחרון. DeepSeek ו-Monshot לא הגיבו מיד לבקשות להגיב.

המושב נוחת במהלך שבוע שבו ניו יורק כבר עמוסה בדיפלומטיה של בינה מלאכותית, כאשר מנהיגי העולם מתאספים לאסיפה הכללית השנתית של האו"ם ופגישות צד מתרבות סביבו. העיתוי הזה חותך לשני הכיוונים עבור DeepSeek: האותות הבלתי פוסקים של המועצה מאותתים שהמעבדות המובילות של סין מטופלות כעת כקולות הכרחיים לגבי סיכון גבול-AI, אפילו כשהעמדה הרשמית של בייג'ינג ממשיכה לדחות את רטוריקה ההאטה העולה מעמק הסיליקון.

ההרכב יוצא הדופן - מנהל הבינה המלאכותית הבולט ביותר באמריקה חולק סדר יום של מועצת הביטחון עם מעבדת המשקל הפתוח הידועה ביותר בסין - הופך את הפגישה ביום רביעי לפגישת הבינה המלאכותית החשובה ביותר שקיימה המועצה מאז שהתייחסה לנושא לראשונה.

מ'סוס בורח' ל-Rogue AI

מועצת הביטחון של האו"ם, המופקדת על שמירת השלום והביטחון הבינלאומיים, נפגשה לראשונה על הסיכונים של AI בשנת 2023. כבר אז, קווי השבר היו גלויים: סין הזהירה שהטכנולוגיה לא צריכה להפוך ל"סוס בורח", בעוד ארה"ב הזהירה מפני השימוש בה כדי לצנזר או לדכא אנשים.

שלוש שנים מאוחר יותר, הוויכוח עבר מהיפותטיות לדיווחי תקריות. מזכ"ל האו"ם, אנטוניו גוטרס, הזהיר בשבוע שעבר את מנהיגי העולם כי קידום מהיר של בינה מלאכותית מהווה סיכונים שאי אפשר להתעלם מהם, מה שמעמיד אותו בסתירה עם נשיא ארה"ב דונלד טראמפ, שטען שאמצעי ההגנה הקיימים מספיקים ושסין תרוויח מהפקפוק בפיתוח בינה מלאכותית.

השתיקה הציבורית של בייג'ינג בנושא סיכון קטסטרופלי

אחת התצפיות היותר נוקבות בדיווח של רויטרס נוגעת למה שמנהיגי המעבדות הסיניות לא אמרו. בניגוד לראשי מעבדות הגבול בארה"ב כמו OpenAI ו-Anthropic, מנהיגי מפתחי המודלים המובילים של סין רק לעתים רחוקות ביטאו בפומבי את האפשרות שמערכות בינה מלאכותיות שהולכות וגדלות יכולות להונות בני אדם, לחמוק משליטה או לגרום נזק קטסטרופלי - והם שמרו ברובם על שתיקה לגבי הסיכונים הללו מאז שהוויכוח התגבר בארצות הברית בספטמבר.

התקשורת הממלכתית הסינית, מצדה, דחתה את הקריאות להאטה בפיתוח הבינה המלאכותית כנובעות מ"ספר משחקי מלחמה קרה" - מאמץ, כדברי בייג'ינג, שמטרתו לשמר את הדומיננטיות של וושינגטון בטכנולוגיה מתקדמת ולהדיר את בייג'ינג לחלוטין ממערכת הממשל העולמית של AI.

להופעתה של DeepSeek במועצה יש אם כן משמעות כפולה: היא בו-זמנית העיסוק הגלוי ביותר של בייג'ינג עד כה בשיחת סיכון הבינה המלאכותית העולמית ומבחן האם מעבדות סיניות יעסקו בכלל במסגור הסיכון הקטסטרופלי.

שיחות לקראת טראמפ-שי

מושב מועצת הביטחון אינו עומד בפני עצמו. פקידים בכירים בארה"ב וסין הסכימו לקיים שיחות נוספות בנושא בטיחות בינה מלאכותית, אמר שר האוצר האמריקני סקוט בסן ב-21 בספטמבר, לאחר שנפגש לקראת השיחות המתוכננות של טראמפ עם נשיא סין שי ג'ינפינג בהמשך השבוע בוושינגטון.

הרצף הזה - פסגה עם סיכון גבוה בוושינגטון במקביל לדיון במועצת הביטחון בניו יורק - מדגיש עד כמה AI עברה באופן יסודי מקובץ מדיניות טכנית למרכז היחסים הדו-צדדיים.

במה לצפות

שלוש שאלות תלויות בפגישה ביום רביעי. האם ליאנג וונפנג משנה את דעתו ומשתתף. האם ההצהרה של DeepSeek כרוכה בסיכוני חפיסת הקלפים - הונאה, אובדן שליטה - שעמיתיה האמריקאים מדגישים, או נשארת על קרקע בטוחה יותר של גישה הוגנת וזכויות פיתוח. והאם המועצה יכולה לייצר משהו מעבר לתפקידים מוכרים.

הרקורד של המועצה בנושא AI דליל: פגישה ראשונה ב-2023, אזהרת מזכ"ל החודש, וללא מסגרת מחייבת. אבל כשלב לוויכוח המתהווה בין ארה"ב לסין על מי קובע את הכללים עבור AI גבול - ומי הפחדים שלו נלקחים ברצינות - יש לו מעט יריבים.

---

הישאר לפני AI

קבל את החדשות, הניתוחים ופריצות הדרך האחרונות של AI - הכל במקום אחד.

קרא עוד חדשות AI →