משרד הפנטגון שהופקד על תיאום השימוש האחראי והאתי בבינה מלאכותית אינו מאויש באופן משמעותי, על פי כלב השמירה העליון של הממשל הפדרלי - מחסור שהפריע למסגרת האתיקה של AI הדגל של המחלקה גם כשהצבא דוחף להפוך לכוח לוחם "AI first".
מחסור בצוות במשרד הראשי של דיגיטלית ובינה מלאכותית מנע ממנו ליישם במלואו את יוזמת הבינה המלאכותית האחראית של הפנטגון, כך אמר משרד האחריות הממשלתית בדו"ח מ-14 באוקטובר ודווח ביום שלישי על ידי Stars and Stripes. הממצא נוחת ברגע שבו קבלת החלטות בינה מלאכותית בהגנה עברה מהמעבדה לשדה הקרב, מה שנותן לפער הצוות השלכות קונקרטיות.
שלושה מתוך עשר משרות מאוישות, והמשרות הפנויות עשויות להישאר פתוחות
בינה מלאכותית אחראית היא המסגרת האתית המשולבת של משרד ההגנה המסדירה את הפיתוח, הפריסה והתפעול של יכולות בינה מלאכותית על פני מערכות לחימה ולא קרבות כאחד. ה-CDAO הוא המשרד המוביל לאימוץ ואינטגרציה של בינה מלאכותית של המחלקה, כולל מסגרת הבינה המלאכותית האחראית - מה שהופך את רמת הצוות שלה למדד ישיר לכמה קיבולת יש לפונקציית הפיקוח בפועל.
ה-GAO מצא שרק שלושה מתוך 10 המשרות המורשות של המשרד אויושו נכון לפברואר. גורמי הגנה אמרו לכלב השמירה כי סביר להניח ששאר התפקידים לא יאוששו, הודאה שמעידה שהמחסור אינו פיגור זמני בגיוס, אלא תנאי מבני של מנדט הפיקוח של המשרד.
אסטרטגיית 'AI First' החורגת מאמצעי ההגנה שלה
חשיפת כוח האדם יושבת בצורה מביכה לצד הכיוון האסטרטגי של המחלקה. בינואר, שר ההגנה פיט הגסת' פרסם אסטרטגיית בינה מלאכותית שלפי דו"ח GAO הדגישה מחדש את האצת האינטגרציה והאימוץ של AI. האסטרטגיה, נכתב בדו"ח, "הדגישה בסיס בזמן מלחמה, וקראה ל-DOD להפוך לכוח לוחם 'בינה מלאכותית ראשונה' בכל המרכיבים".
הניגוד הוא בולט: מנדט מואץ לבינה מלאכותית במערכות לחימה, בפיקוח משרד הפועל ב-30 אחוז מהכוח המורשה שלו. פיתוח בינה מלאכותית מהירה אתגר את הגופים המנהלים ברחבי העולם כאשר הטכנולוגיה עולה על הפיקוח החקיקתי המסורתי והפיקוח האנושי - וכלב השמירה של הפנטגון עצמו מתעד כעת את הפער הזה בתוך הבירוקרטיה הצבאית הגדולה בעולם. לדיווח נוסף על מדיניות וממשל בינה מלאכותית, עיין בדף הבית של חדשות AI.
ההימור: מיקוד, מעקות בטיחות וסירוב שעיצב מחדש את המדיניות
ההשלכות של פיקוח דק אינן היפותטיות. בלומברג דיווח בחודש שעבר, ו-Stars and Stripes חזר והדגיש כי תוכנות התומכות בינה מלאכותית המשמשות לבחירת מטרות תרמה למתקפה של ארה"ב על בית ספר יסודי עם טיל טומהוק ב-28 בפברואר, היום הראשון של מלחמת איראן, בה נהרגו יותר מ-100 ילדים.
קרבות הממשל של AI של הצבא משכו גם את המגזר הפרטי. בפברואר, שר ההגנה פיט הגסת' והנשיא דונלד טראמפ לחצו על אנתרופיק להסיר מעקות בטיחות בדגם קלוד שקיבל חוזה ממשלתי, שמונעים מהמערכת לשמש לנשק אוטונומי מלא ולמעקב המוני. כאשר אנתרופיק סירב, הממשל הגדיר את החברה כסיכון ביטחוני לאומי ואסר על סוכנויות ממשלתיות להשתמש בקלוד - נקודת מבט AI Buzz Wire סיקרה בבתי המשפט, כולל פסיקת בית המשפט לערעורים שאישרה את הרשימה השחורה.
מה המשמעות של ריצה ב-30 אחוז בפועל
משרד פיקוח בשלושה מעשרת התפקידים המוסמכים שלו אינו בירוקרטיה עם צבר - זו מסגרת הפועלת בשבריר מהיכולת המיועדת לה. יוזמת הבינה המלאכותית האחראית תלויה ב-CDAO כדי לתרגם עקרונות אתיים לתהליכי ביקורת שתוכניות נשק ותקשורת ממשיות חייבות לעקוב אחריהם, וכל מושב לא מלא מייצג עבודה שמתבטלת או נופלת בידי הצוות הנותר שנמתח על פני תיקים.
מכיוון שפקידי ההגנה אמרו ל-GAO כי לא סביר שהמשרות הפנויות יתמלאו, האילוץ נראה עמיד ולא מחזורי. התוכניות ימשיכו לתחום יכולות בינה מלאכותית, והנטל המעשי של יישום המסגרת האתית ימשיך להתרכז בקבוצה קטנה יותר ויותר של אנשים.
אתיקה אנושית כקו ההגנה האחרון
עורכי דין צבאיים טוענים שהפער בכוח אדם משאיר את שיקול הדעת האנושי כבדיקה המשמעותית היחידה. "קבלת החלטות צבאית צריכה להתבסס על אתיקה אנושית, ורק להגיד למחשב לבצע משהו עשויה להיות דרך מהירה מאוד לעשות את זה, אבל אולי זו לא מתודולוגיה אתית, מוסרית או חוקית כדי להשיג כל מה שאנחנו מנסים שיקרה", אמר שון טימונס, עורך דין המתמחה במשפט צבאי במשרד, לפי טולי טלפון סטריפי, לפי טולי טלפון סטריפי.
כמה ממנהיגי תעשיית הבינה המלאכותית קראו להאט את קצב התקדמות הבינה המלאכותית, והזהירו כי אובדן שליטה על סוכני בינה מלאכותית אוטונומית עלול להוות איום קיומי - אזהרות שיש להן משקל מיוחד כשהן מיושמות על כלי נשק אוטונומיים. הממצא של ה-GAO מצביע על כך שלעת עתה, הרכיב הצומח ביותר של הכוח הצבאי של ארה"ב מוגדל לפני התשתית האנושית שנועדה לשלוט בו.
---
הישאר לפני AIקבל את החדשות, הניתוחים ופריצות הדרך האחרונות של AI - הכל במקום אחד.
קרא עוד חדשות AI →
