ועדה מרכזית של הסנאט של ארצות הברית התקרבה למעקות הבטיחות המוצעים של בינה מלאכותית צבאית צעד אחד לקראת הפיכתם לחוק, ואישרה חקיקה שתסדיר את האופן שבו הפנטגון מפתח, בודק ופריסה של מערכות בינה מלאכותית ונשק אוטונומי.
ועדת השירותים המזוינים של הסנאט אישרה את המסגרת החדשה בטיוטה של חוק הרשאות ההגנה הלאומית לשנת הכספים 2027, וסיימה את הסימון של הצעת החוק ב-10 ביוני. ההוראות מדגישות שיקול דעת אנושי ואחריות אנושית אולטימטיבית, תוך תמיכה במידה רבה באימוץ הטכנולוגיות האוטונומיות של הפנטגון, לפי איגוד בקרת הנשק, שדיווח על הפרטים ביולי 2026. For more context on this story, see our ongoing latest AI developments.
החקיקה המוצעת תחייב את משרד ההגנה להבטיח שאנשי הצוות יפעילו רמות מתאימות של שיקול דעת אנושי לגבי השימוש בנשק התומך בינה מלאכותית, וכי המערכות הרלוונטיות מתוכננות כך שהמפקדים והמפעילים ישמרו על האחריות האנושית הסופית לגבי השימוש בכוח.
קודיפיקציה של פיקוח אנושי
המסגרת מתבססת על עיקרון שכבר נקבע בהנחיית משרד ההגנה 3000.09, השולטת באוטונומיה במערכות נשק אך חסרה לה הגדרה ברורה של מהו שיפוט אנושי משמעותי. השפה החדשה מבקשת להרחיב את העיקרון הזה במונחים קונקרטיים.
על פי ההוראות המוצעות, מערכות אוטונומיות יידרשו לאפשר פיקוח על ידי מפעילים אנושיים, לכלול שיטות להתערבות או סיום, לשלב מנגנוני כשל בטוחים כדי לאפשר בקרה ידנית ולספק נתוני ניטור נאותים לבקרים. המערכות יצטרכו גם לשמור תיעוד של נתוני בחירת יעדים והיגיון, ולפעול בהתאם לחוק הבינלאומי, לחוק הסכסוך המזוין, לאמנות החלות ולמדיניות משרד ההגנה.
החקיקה תקבע את תהליך הבדיקה הקיים שנקבע על ידי הנחיית 2023 תוך הוספת קריטריונים לאימות, אימות, בדיקה והערכה. משרד המנהל, הבדיקה וההערכה התפעולית של הפנטגון, שהתקציב המוצע שלו קיצץ בשני שליש בבקשת התקציב הנוכחית, יוטל על הבטחת המערכות המכוסות לפעול כצפוי מול יריבים מסתגלים.
קו אדום גרעיני
אחת ההוראות המשמעותיות ביותר תאסור באופן מוחלט את השימוש ב-AI עבור כל החלטה ליזום שיגור או פיצוץ של נשק גרעיני. הגבלה זו התבקשה על בסיס דו-מפלגתי בשנת 2023 על ידי הסנאטור אד מארקי, הנציג טד לו, הנציג דון בייר והנציג קן באק.
עם זאת, הטקסט של ועדת הסנאט אינו כולל איסור על שימוש בבינה מלאכותית למטרות נשק גרעיני, צעד שהציעה הסנאטורית קירסטן גיליברנד מניו יורק בהצעת חוק עצמאית שהוצגה ב-2 ביוני. ההשמטה מדגישה את הגבולות של מה שהמחוקקים היו מוכנים להגביל, גם כשהם עברו להגביל את היכולות האוטונומיות הקיצוניות ביותר.
הוועדה גם תקים מאגר אירועים למעקב אחר נתונים על כשלים במערכת, התנהגות לא מכוונת ואירועי כמעט פספוס, צעד שמטרתו לשפר את האחריות ככל שהצבא משלב יותר בינה מלאכותית בפעולותיו.
קרן דו-מפלגתית
המסגרת עוקבת במידה רבה אחר הצעת חוק שהוצגה ב-8 ביוני על ידי ההנהגה הדמוקרטית, המיוצגת על ידי החבר המדורג ג'ק ריד מרוד איילנד והסנאטור כריס קונס מדלאוור, המשמש כדמוקרטי הבכיר בוועדת המשנה להקצאות הגנה של הסנאט. הטקסט, שהתקבל על ידי הרוב הרפובליקני בטיוטה הבסיסית של הצעת חוק המדיניות, משלב גם חלקים ניכרים מההצעה של הסנאטור מארק קלי מאריזונה והנציגה סוהאס סוברמניאם מווירג'יניה.
כמה סנאטורים דמוקרטיים אחרים הציגו הצעות מתחרות בשבועות שלפני הסימון, כולל צעדים של הסנאטור אדם שיף, הסנאטור אליסה סלוטקין והסנאטור קלי. שפת ועדת הסנאט המבוססת על הצעת חוק קונס-ריד היא פחות ספציפית בהגנות שלה מפני מעקב ביתי מאשר חלק מאותן חלופות.
במקום אחר בטיוטת הצעת החוק ממליצה הוועדה ליצור פיקוד רובוטיקה ומערכות אוטונומיות האחראי על יצירת כוח, אימונים משותפים, יכולת פעולה הדדית, פיתוח דוקטרינה ותעסוקה מבצעית באמצעות פיקודים לוחמים אחרים.
שקלול ההשפעה על לוחמי מלחמה
משקף דאגות דו-מפלגות לגבי ההשפעות של אימוץ AI מהיר, חלק נפרד בטיוטה משלב הצעת חוק שהוצעה על ידי הסנאטור קלי והסנאטור טום קוטון, רפובליקני בארקנסו, שתנחה את הפנטגון להעריך כיצד שימוש בבינה מלאכותית משפיע על התחזוקה והשמירה של כישורי לוחם חיוניים.
ההתקדמות מגיעה כאשר ארצות הברית דוהרת לשלב בינה מלאכותית בצבאה מהר יותר מאשר היריבים, בעוד מחוקקים מנסים להקים מעקות בטיחות שימנעו כישלונות קטסטרופליים מבלי להאט את הפריסה. הצעת החוק עדיין חייבת לעבור את הסנאט והבית המלא לפני שתגיע לשולחן הנשיא, וההוראות עשויות להשתנות במהלך המשא ומתן בין הלשכות.
ובכל זאת, אישור הוועדה מסמן את אחד הצעדים הקונקרטיים ביותר עד כה על ידי הקונגרס להצבת מגבלות משפטיות מחייבות על האופן שבו הצבא משתמש במערכות אוטונומיות, תוך קביעת פרמטרים שיכולים לעצב את עתיד הלוחמה לשנים הבאות.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
