משא ומתן על כללים אפשריים לנשק אוטונומי קטלני - מה שמכונה "רובוטים רוצחים" - מתנהל באו"ם בז'נבה, בוועידה שתומכי בקרת נשק מתארים כהזדמנות המציאותית האחרונה להציב גבולות לפני שהטכנולוגיה תעלה על הדיפלומטיה לחלוטין. השיחות מתקיימות בוועידת האו"ם בנושא נשק קונבנציונלי מסויים (CCW), פורום שמתכנס ברמה זו רק אחת לחמש שנים.
הדחיפות אינה היפותטית. טכנולוגיית הלוחמה התקדמה במהירות בשנים האחרונות, וכמה מומחים מזהירים כעת שהעולם נמצא במרחק של חודשים ספורים מנשק שיכול לבחור מטרות ולקבל את ההחלטה להרוג ללא אדם במעגל. באוקראינה ובעזה כבר נעשה שימוש בנשק בסיוע בינה מלאכותית לפגיעה במטרות, כאשר אזרחים אוקראינים דיווחו כי "ניצודו" על ידי מל"טים בזמן קניות או הליכה לבית הספר. המערכות הללו עדיין נשלטות מרחוק על ידי מפעילים אנושיים - אבל המרחק בין שליטה מרחוק לאוטונומיה מלאה הולך ומצטמצם. לקוראים שעוקבים אחר מהירות התנועה של התחום הזה, סיקור הנשק והאתיקה של AI שלנו עוקב אחר כל התפתחות.
מדוע קמפיינים קוראים לזה 'ההזדמנות הטובה ביותר האחרונה'
תומכי הפיקוח על נשק אוטונומי טוענים כי פגישת CCW השבוע היא החלון האחרון להסכמה על כללים בעוד הטכנולוגיה נשארת בשלב האוטונומי למחצה שלה. ברגע שכלי נשק שבוחרים ומעורבים באופן עצמאי מטרות יוצגו בקנה מידה, הם טוענים, ניהול המשא ומתן הופך לקשה יותר באופן דרמטי - מדינות כבר שילבו את המערכות בארסנלים ובדוקטרינות שלהן.
המשקל המוסרי מאחורי השיחות הוא רחב בצורה יוצאת דופן. לקראת הפגישה, האו"ם, הוועד הבינלאומי של הצלב האדום והאפיפיור קראו כולם לכללים מחייבים מבחינה משפטית. מזכ"ל האו"ם, אנטוניו גוטרס, הזהיר כי מתן אפשרות להרוג נשק אוטונומי מלא יהיה "חציית קו אדום מוסרי".
המקרה ההומניטרי: האחריות חייבת להישאר אנושית
ארגונים הומניטריים טוענים כי ההחלטה להרוג - והאחריות לבחירה זו - חייבות להישאר בידיים אנושיות. הצלב האדום מודאג במיוחד מכך שמערכות אוטונומיות לא יכולות לכבד באופן מהימן את כללי המלחמה הקיימים, שתוקדו באמנות ז'נבה. המלחמה היא כאוטית ומהירה, והאמנות מגנות על חיילים שנפצעו או נכנעים באופן פעיל מפני מטרה.
"הסיכון הוא שבהתבסס על הטכנולוגיה שאנו רואים, הם לא מסוגלים להבין באותו האופן שאדם הוא האותות ההקשריים", אמרה ג'ורג'יה היינס, יועצת משפטית של הצלב האדום. "ולכן הסיכונים גבוהים להפליא שיהיה זיהוי שגוי של מטרה".
ארגוני זכויות אדם מוסיפים מימד כלכלי לסכנה: הטכנולוגיה מאחורי נשק בסיוע בינה מלאכותית הופכת לזולה וקלה לשימוש. ככל שאימוצו רחב יותר על ידי צבאות לאומיים, כך גדל הסיכון להתפשטות לקבוצות טרור או לרשויות אכיפת החוק במשטרי דיכוי. בתיאוריה, ניתן לתכנת נחיל של מל"טים אוטונומיים לתקוף כל מי שלובש צבע מסוים של לבוש או נושא כרזה ספציפית - אפליה בקנה מידה שחוקי המלחמה מעולם לא תוכננו להתמודד איתו.
חדר מפוצל: 50 פלוס מדינות מול שלושת הגדולים
לפחות 50 מדינות - כולל אירלנד, איטליה, ברזיל, מקסיקו, צרפת וגרמניה - קוראות ללוח זמנים קפדני כדי להסכים על כללים מחייבים המסדירים נשק אוטונומי. רבות מהמדינות הנפגשות כעת בז'נבה לוקחות ברצינות את החששות ההומניטריים ורוצות שהתהליך יעוגן במשפט הבינלאומי.
אבל בקרב המדינות שכבר מפתחות ופורסים נשק חצי אוטונומי, יש דחיפה תקיפה. ארצות הברית, רוסיה וישראל הודיעו כי יתנגדו לכללים מחייבים מבחינה משפטית. ההצעה הנגדית של וושינגטון: לוח זמנים של חמש שנים לנסח קווים מנחים לא מחייבים במקום זאת.
עמדת ארה"ב משקפת ספקנות רחבה יותר כלפי אמנות
העמדה האמריקנית עולה בקנה אחד עם דפוס ארוך: ארה"ב היא באופן מסורתי מאמצת מאוחרת של אמנות בינלאומיות. היא מעולם לא אישרה את אמנת אוטווה בנושא מוקשים, למרות שבמשך הזמן היא הפסיקה לפרוס אותם וצמצמה את מצבוריה. תחת הנשיא טראמפ, הספקות לגבי החוק הבינלאומי הלכו והתבהרו - וושינגטון הטילה סנקציות גורפות על בית הדין הפלילי הבינלאומי, ובסוף השבוע הזהיר מזכיר המדינה מרקו רוביו, בנאום מרכזי בפני החברה הפדרליסטית, מפני "ציטוט חוקים לגברים עם חרבות".
כללי קונצנזוס והיסטוריה של דרכים לעקיפת הבעיה
בעיה מבנית תלויה בשיחות ז'נבה: משא ומתן של האו"ם על הגבלת כלי נשק ספציפיים אמור להתנהל בקונצנזוס. המנגנון הזה יצר הסכם ציון דרך אחד - האיסור משנת 1995 על לייזרים מסנוורים - אבל רוב הניסיונות האחרים התבססו. עם מוקשים, מדינות המתוסכלות מתהליך האיטי של האו"ם לקחו בסופו של דבר משא ומתן מחוצה לו לחלוטין, והפיקו את אמנת אוטווה.
דיפלומטים מצפים פשרה אפשרית לשבוע זה: תקופת משא ומתן ארוכה יותר, או אפילו פתוחה, לפיתוח כללים שמדינות בודדות יוכלו לאמץ לאחר מכן כמחייבות או לא מחייבות. עבור התומכים, זו דרך להבטיח לפחות התקדמות מסוימת. עבור תועמלנים, זה נופל בהרבה - אחד השווה את הגישה לבעיטה בפחית מסוכנת מאוד במורד הכביש.
מה קורה אחר כך
אם הוועידה תסתיים במנדט פתוח, ההשפעה המעשית היא שהמגבלות המחייבות על כלי נשק אוטונומיים נסוגות יותר אל העתיד, בעוד שזמני הפריסה ממשיכים להידחס. ממשלות, צבאות וסטארט-אפים ביטחוניים יסתכלו השבוע על ז'נבה מקרוב - כי לא משנה באיזו דרך תנחת הקונצנזוס, הוא יגדיר את הנוף המשפטי לנשק אוטונומי לשנים הבאות.
---
הישאר לפני AIקבל את החדשות, הניתוחים ופריצות הדרך האחרונות של AI - הכל במקום אחד.
קרא עוד חדשות AI →