המעצמות הצבאיות הגדולות, ארצות הברית ורוסיה, נראות להתנגד לדחיפה בפגישה עולמית בז'נבה השבוע לפתיחת משא ומתן על כללים מחייבים משפטית לנשק אוטונומי, במה שדיפלומטים וארגוני זכויות מצפים שיהיו שיחות קשות, דיווחה רויטרס ביום שני.

הפגישה בהנחיית האו"ם, שהחלה ביום שני בז'נבה, חייבת להחליט אם לפתוח במשא ומתן להסכם משפטי מחייב על איסורים ותקנות עבור מערכות נשק אוטונומיות קטלניות (LAWS) - מה שמכונה "רובוטים רוצחים" שמבקרים מזהירים שהם יכולים לבחור ולתקוף מטרות ללא מעורבות אנושית. עליית הבינה המלאכותית האיצה את הפיתוח של מל"טים, רובוטים, טנקים וצוללות המסוגלים להרוג ללא פקודות אנושיות ישירות, וכלי נשק חצי אוטונומיים, בסיוע בינה מלאכותית, כבר ראו קרב באוקראינה, סודן והמזרח התיכון - התפתחות אמיתית שמעקבת אחר סיקור תעשיית הבינה המלאכותית של ההגנה.news.

מה על השולחן בז'נבה

הפגישה היא ועידת הביקורת של האמנה בנושא נשק קונבנציונלי מסויים (CCW), המונה 128 מדינות כצדדים. בעוד שרוב המדינות הללו תומכות בפתיחת משא ומתן לקראת מכשיר מחייב על חוקים, מדינות צבאיות גדולות כולל ארה"ב, רוסיה וישראל מתנגדות למהלך, בטענה שהחוק ההומניטרי הבינלאומי הקיים כבר מספיק כדי לשלוט בנשק זה.

מספר הצעות מתחרות פועלות. יו"ר השיחות השבוע הציע מנדט לשנתיים לנהל משא ומתן על פרוטוקול מחייב משפטית. וושינגטון, לעומת זאת, מעדיפה הנחיות על פני כללים מחייבים והציעה מנדט לחמש שנים לשיחות לקראת הסכם לא מחייב. בריטניה, גרמניה וצרפת הציעו משא ומתן על מכשיר שמותיר פתוח אם הוא בסופו של דבר יהיה מחייב מבחינה משפטית, לפי Verity Coyle של Human Rights Watch, ששוחחה עם רויטרס.

דיפלומטים אמרו לרויטרס שהדיונים נראים מאתגרים, אך אמרו שמדינות יכולות לבנות גשרים לקראת הסכם פשרה עד סוף השבוע. כל האפשרויות נותרו על הפרק, החל מטקסטים מחייבים מבחינה משפטית ועד לטקסטים שאינם מחייבים מבחינה משפטית, כמו גם הסכם היברידי המשלב את שני המרכיבים.

מדוע ארה"ב ורוסיה מתנגדות

עמדתה של וושינגטון נשענת על הטיעון שהחוק הבינלאומי כבר מספק מסגרת לניהול לוחמה, מה שהופך אמנה חדשה למיותרת. רוסיה לא הצהירה בפומבי את עמדתה לקראת השיחות, אך התנגדה בעבר להצעות להסכם מחייב מבחינה משפטית - ומתכננת לחסום את האיחוד האירופי, משקיף לשיחות, מלהיכנס לדיון, אמר דיפלומט מערבי בכיר לרויטרס.

אנה הייר, ראש הממשל הצבאי בינה מלאכותית במכון Future of Life, אמרה לרויטרס כי ארה"ב ורוסיה כנראה יבקשו להפחית כל תוצאה, כפי שעשו בספטמבר עם טקסט של האו"ם על נשק אוטונומי ופוטנציאל הפגיעה שלהם. בעצרת הכללית של האו"ם בחודש שעבר אימצו 163 מדינות החלטה הקוראת לנהל משא ומתן על כללים המסדירים נשק אוטונומי, כאשר חמש מדינות הצביעו נגד - ארצות הברית, רוסיה, בלארוס, ישראל וצפון קוריאה - ותשע נמנעו, כולל איראן, ערב הסעודית וסין.

אזהרות מהאו"ם, הצלב האדום והאפיפיור

הדחיפה לרגולציה מגובה בקואליציה יוצאת דופן. מזכ"ל האו"ם אנטוניו גוטרש, הנהגת הוועד הבינלאומי של הצלב האדום והאפיפיור ליאו ה-14 הזהירו כולם מפני מסירת כוח החיים והמוות למכונות אוטונומיות לחלוטין. בשנת 2023, גוטרס ונשיא ה-ICRC, מיריאנה ספולארייק איגר, קראו במשותף למדינות להסיק איסור על נשק אוטונומי לפני 2026.

"הצורך להסדיר נשק אוטונומי קיבל דחיפות חדשה" עם התפתחויות בבינה מלאכותית, אמר לורן גיזל, ראש היחידה לנשק והתנהגות איבה ב-ICRC. הצלב האדום טוען שהמשפט ההומניטרי אינו מתייחס מספיק לסיכונים הספציפיים שנשק אוטונומי מציבים, וקורא לאסור על שתי קטגוריות: נשק אוטונומי בלתי צפוי וכאלה שנועדו או משמשים למטרות ישירה בבני אדם.

"לעולם אין לאפשר למכונות להחליט מי חי וימות בשדה קרב, אבל זו המציאות הדיסטופית שמתקרבת במהירות", אמרה וריטי קויל מ-Human Rights Watch, שקוראת לוועידת הביקורת לפעול בתקיפות והזהירה כי אזרחים יישארו "חשופים בצורה מסוכנת" אם הפגישה תיכשל.

כלי נשק אוטונומיים כבר נמצאים בשדה הקרב

תומכי כללים מחייבים טוענים שהדיון עבר מעבר להיפותטיות. לפי הדיווחים, רוסיה השתמשה ברחפנים אוטונומיים לחלוטין כדי להשפיע קטלנית במלחמתה באוקראינה, בעוד התעשייה הביטחונית של אוקראינה עצמה דוחפת לפתח נחילי מל"טים אוטונומיים. צפון קוריאה התגאתה בשבוע שעבר במערכת טורפדו חדשה המותאמת לבינה מלאכותית.

ההיר אמר לרויטרס כי החוקים אינם עוד מדע בדיוני, והצביע על דיווח בתקשורת על שימוש מוקדם במערכות אוטונומיות מלאות באוקראינה. קמפיינים מזהירים שהמערכות עלולות להתנהג בצורה בלתי צפויה, מה שמעלה את הסיכון לטעויות קטלניות גם כאשר צבאות מתכוונים לשמור על בני אדם בעניינים.

מה קורה אחר כך

בהתחשב בהתנגדות המעצמות הצבאיות המובילות, משקיפים אומרים כי לא נראה סביר שתושג הסכמה השבוע להתחיל במשא ומתן רשמי על כללים מחייבים. התוצאות הסבירות ביותר, מציעים דיפלומטים, הן מנדט פשרה - אולי מכשיר היברידי שדוחה את שאלת המחייבות המשפטית - או שנה נוספת של מבוי סתום.

כך או כך, מושב ז'נבה יבדוק האם בקרת נשק בינלאומית יכולה לעמוד בקצב פיתוח נשק מונע בינה מלאכותית, או שמא, כמו בטרנספורמציות קודמות בטכנולוגיה צבאית, אילוצים מחייבים יגיעו רק לאחר שהנשק כבר נמצא בשימוש נרחב.

הישאר לפני AI

עקוב אחר החלטות המדיניות שמעצבות את אופן השימוש בבינה מלאכותית ברחבי העולם. קרא עוד חדשות AI →