מזכ"ל האו"ם, אנטוניו גוטרס, פרסם השבוע את אחת האזהרות החזקות ביותר שלו עד כה לגבי בינה מלאכותית, והכריז כי העולם "לא יכול להרשות לעצמו מרוץ לתחתית בנושא בטיחות בינה מלאכותית" בזמן שממשלות מתכוננות להתכנס בניו יורק לשבוע הרמה הגבוה של העצרת הכללית של האו"ם. בשיחה עם עיתונאים לקראת המפגש השנתי של מנהיגי העולם, גוטרס הציב AI בורח לצד משבר האקלים והעמקת אי השוויון כשלושת האיומים הקיומיים העומדים בפני כדור הארץ.
ההערות, שדווחו על ידי רויטרס, חדשות האו"ם וערוצי רשתות ברחבי העולם, מגיעות ברגע טעון: האו"ם דוחף לתיאום בינלאומי מחייב על ממשל בינה מלאכותית בדיוק כשוושינגטון מסמנת מגע קל יותר, כאשר רויטרס מציינת שראש האו"ם הפעיל אזעקה לאחר שהנשיא טראמפ צמצם את הצורך ברגולציה מחמירה יותר של בינה מלאכותית.
"עידן של אי ודאות עמוקה"
בתדריך לעיתונות שישה ימים לפני שהמנהיגים מגיעים לניו יורק, אמר גוטרס כי העולם נכנס ל"עידן של אי ודאות עמוקה". הוא הכיר ב"פוטנציאל האדיר" של בינה מלאכותית בתחומים כמו בריאות, חינוך ומדעי האקלים, אך הזהיר כי הטכנולוגיה מתקדמת מהר יותר מאשר הבנת האדם את הסיכונים שלה.
"העולם לא יכול להרשות לעצמו מרוץ לתחתית בנושא בטיחות בינה מלאכותית", אמר, וטען שחוקים לאומיים לבדם לא יספיקו. "פעולה לאומית היא חיונית, אבל תיאום גלובלי הוא הכרחי".
המזכ"ל גם הביע ספקנות בכך שהפסקות וולונטריות בפיתוח AI גבוליות יכולות לעבוד כשהן מבודדות - מוגבלות לקומץ מדינות, בלתי ניתנות לאימות או מיושמות בצורה לא אחידה. עם התגברות החששות ממרוץ חימוש בינה מלאכותית בין ארה"ב לסין, הוא הודה שהפערים הגיאופוליטיים הופכים את התיאום לקשה יותר, לא פחות הכרחי. "אם אנו מאמינים שפיתוח בינה מלאכותית צריכה להאט כאשר הסיכונים הופכים גדולים מדי, אנו זקוקים ליותר מכוונות טובות", אמר.
מכונות ממשל הבינה המלאכותית של האו"ם
מאחורי הרטוריקה יושבת ארכיטקטורת משילות שהתגבשה בשקט בשנתיים האחרונות. ה-Global Digital Compact, שאומץ על ידי מדינות החברות באו"ם בשנת 2024 כחלק מהסכם לעתיד, קרא לשני מנגנונים חדשים: גוף מדעי להערכת הסיכונים וההזדמנויות של AI, ופורום שנתי שבו ממשלות יוכלו ליישר את גישותיהן. האסיפה הכללית הקימה את שניהם באופן רשמי באוגוסט 2025.
הראשון, הפאנל המדעי הבינלאומי העצמאי בנושא בינה מלאכותית, פרסם את הדו"ח המקדים שלו ב-1 ביולי. הוא הגיע למסקנה שיכולות הבינה המלאכותית מתקדמות במהירות - במיוחד בהיגיון, קידוד ומחקר מדעי - תוך סימון סיכונים הכוללים מידע מוטעה, אפליה, הפרות פרטיות, התקפות סייבר וצורות של "מודיעין-על שעלולים להפוך לקשים לשליטה".
השני, הדיאלוג הגלובלי על ממשל בינה מלאכותית, מתוכנן כצד התגובה של הצמד: הפאנל מספק ראיות, ומדינות מחליטות מה לעשות עם זה.
גוטרס הצביע על הפאנל כבסיס לקבלת החלטות גלובליות מושכלות וקרא לממשלות לבנות מעקות בטיחות ש"הופכים את הבינה המלאכותית לבטוחה, שקופה ואחראית, עם כבוד האדם במרכז". הוא גם דחף שתי יוזמות קונקרטיות: הבטחת בטיחות ילדים בינה מלאכותית וקרן גלובלית לבינה מלאכותית כדי לעזור למדינות מתפתחות לבנות תשתית וקיבולת בינה מלאכותית.
פיצול טרנס-אטלנטי הולך ומתרחב
התערבותו של ראש האו"ם נוחתת על רקע פיצול גלוי בין הדחיפה הרגולטורית של אירופה לתפנית הסרת הרגולציה של וושינגטון. בעוד שהאיחוד האירופי מיישם את חוק הבינה המלאכותית שלו וגופי האו"ם בונים מנגנוני הערכה, הממשל האמריקני שם דגש על חדשנות ותחרותיות, ורויטרס דיווחה כי הנשיא טראמפ צמצם את חששות הסיכון לבינה מלאכותית שגוטרס ובכירים אחרים ממשיכים להעלות.
כשנשאל באיזו מהירות האו"ם יכול לכנס פסגה שתוביל לרגולציה יעילה, אמר גוטרס שזה לא יכול לקרות במהלך האסיפה הכללית של השבוע הבא - אבל צריך לבוא בקרוב, עם "כולם על הסיפון" מהמגזר הציבורי, הפרטי, המדעי והחברה האזרחית.
הדחיפות בטון שלו משקפת רצף של אזהרות אחרונות מתוך התעשייה עצמה. מוקדם יותר החודש, חוקר לשעבר ב-Anthropic הזהיר בפומבי כי בינה מלאכותית מתקדמת עלולה להוות איום קיומי על האנושות, והערותיו של גוטרס עצמו הגדירו את מסלול הטכנולוגיה כשאלה שהקהילה הבינלאומית כבר לא יכולה לדחות.
מה קורה אחר כך
בינה מלאכותית תופיע באופן בולט כאשר יתחיל שבוע הרמה הגבוה של העצרת הכללית, לצד דיונים על המלחמות בעזה ובאוקראינה. האם הפאנל המדעי של האו"ם והדיאלוג העולמי יכולים להתפתח מחנויות דיבור למנגנונים בעלי השפעה אמיתית על המדיניות הלאומית נותרה השאלה הפתוחה המרכזית - וכזו שתבדוק אם מוסדות רב-צדדיים יכולים לנוע בכל דבר שקרוב למהירות הטכנולוגיה שהם מנסים לשלוט בהם.
לעת עתה, המסר של המזכ"ל למנהיגי העולם הוא חד משמעי: הסיכונים הם גלובליים, הממשל לא, והחלון לסגירת הפער הזה הולך ומצטמצם.
_הישאר לפני העקומה. עקבו אחר המאבק העולמי על חוקי AI והסיפורים הגדולים ביותר בתחום הבינה המלאכותית ב-AI Buzz Wire._
