הפנטגון משיק תוכנית פיילוט שתשתמש בבינה מלאכותית כדי לנהל את האופן שבו הוא מסווג ומטפל במידע צבאי רגיש, על פי מזכר שהוציא סגן שר ההגנה סטיב פיינברג שנבדק על ידי DefenseScoop. ההנחיה מורה על פריסה ראשונית בקנה מידה קטן של יכולת סיווג אבטחה אוטומטי בתוך ששת החודשים הקרובים - מהלך הפתיחה במאמץ לשפץ תהליך שהמחלקה מתארת כמיושן בצורה מסוכנת.
בתוך תזכיר פיינברג For more context on this story, see our ongoing artificial intelligence updates.
התזכיר, שהוצא ביום שני, ממסגר את הליכי הסיווג והסרת הסיווג הקיימים של הפנטגון כמקור ל"חוסר תפקוד" שלדברי המחלקה "מסכן" את משימתו. לטענתה, נהלים מיושנים מאטים את "השחרור בזמן של מידע קריטי" ופוגעים באמון הציבור במחלקה.
"הפרעה בתפקוד הנגרמת על ידי נהלים אלה מובילה לסיווגים שגויים המכבידים על מערכות הביטחון הלאומיות שלנו, מעכבות יכולת פעולה הדדית ומאטות חדשנות על ידי לכידת נתונים חיוניים בצינורות התנור", נכתב בתזכיר, לפי DefenseScoop.
ACME: מערכת חיל האוויר במרכז
לצורך הניסוי, משרד ההגנה ישתמש במערכת מגובה בינה מלאכותית שפיתח לאחרונה חיל האוויר, הנקראת Automated Classification Management Environment, או ACME. התזכיר מייעד את הפקיד האזרחי הבכיר של חיל האוויר כסוכן ביצוע של הטייס, ודובר חיל האוויר אמר ל-DefenseScoop כי השירות "יעמוד בהנחיות בתזכיר".
ACME סומנה בפומבי באוגוסט, כאשר פקידים פרסמו בקשה למידע וביקשו מהתעשייה לסייע בבניית מערכת אקולוגית לניהול סיווג שתחליף את התהליך ה"ידני, עתיר האדם" שהצבא השתמש בו במשך עשרות שנים. הודעה זו תיארה מערכת בלחץ: מאות פקידים מחזיקים בסמכות לסיווג מידע, רבים משתמשים בתוכנות ארכאיות, מייצרים תיעוד מיושן, שיעורי שגיאות גבוהים, סיווג יתר תכוף ושלמות הנתונים פגועה. המחלקה נושאת גם צבר עותק מודפס של כ-140 מיליון דפים.
מטייס לעיון סמכותי יחיד
אם הפיילוט יצליח, התזכיר אומר שהמערכת האוטומטית תשמש בסופו של דבר כ"הפניה הסמכותית היחידה והדיגיטלית" לכל החלטות הסיווג המקוריות של המחלקה. אחריות זו הייתה שייכת היסטורית לפקידים אנושיים ייעודיים במיוחד, שקובעים כיצד מידע רגיש מסווג - כלומר, השקה מוצלחת תסמן את אחת ההעברות המשמעותיות ביותר של תפקיד ממשלתי מרכזי למערכות בינה מלאכותית עד כה.
מדוע גורמים רשמיים אומרים כי יש צורך בשינוי
המקרה לאוטומציה נשען על הנפח והמהירות העצומים של מידע צבאי מודרני. הבקשה של אוגוסט למידע כינתה את התהליך הידני "לא תואם" לנפח ומהירות המידע בעידן הדיגיטלי. סיווג יתר מרחיק מידע מיחידות ובעלות ברית שזקוקים לו; תת-סיווג מסתכן בחשיפת יכולות ותוכניות בפני יריבים. שגיאות בשני הכיוונים נושאות עלויות, ועם צבר של שבע ספרות של דפים מודפסים, המחלקה הגיעה למסקנה שתיקונים מצטברים אינם מספיקים.
ג'וש וולין, עמית בתוכנית ההגנה של המרכז לביטחון אמריקאי חדש, אמר ל-DefenseScoop שמידע לא מסווג יכול לחשוף יכולת או תוכנית ליריב, בעוד שחומר מסווג יתר יכול להיעצר או לעכב על ידי תהליך בדיקה מושהה - כלומר ייתכן שהוא לא יגיע לארגונים שזקוקים לו, "בסביבה קואליציונית שבה שיתוף מידע הוא קריטי לתיאום". הוא הוסיף כי, במקרים רבים, "הרוב המכריע של המידע אינו בהכרח כל כך רגיש שאתה מודאג מסיווג שגוי", וזו בדיוק הסיבה לכך שטיפול מהיר ועקבי יותר עשוי להניב דיבידנדים בכל המחלקה.
אנליסטים רואים רווחים - וסיכונים אמיתיים
וולין אמר כי אוטומציה יכולה לסייע בבעיות סיווג שגוי - כולל מידע שמוגן יתר על המידה, מוגן נמוך או מתויג שגוי על ידי בני אדם - ולהפחית את צנרת התנור, במיוחד מכיוון שעימותים מודרניים הראו שזרימת מידע מהירה יכולה להיות יתרון מכריע.
אבל וולין סימן גם סיכונים. סיווג שגוי עלול להתרחש בקנה מידה מהיר יותר במערכות מגובות בינה מלאכותית. שיתוף מהיר יותר עם בעלי ברית ושותפים מעלה שאלות לגבי פרוטוקולי אבטחת הסייבר של רשתות נמענות. ביטול סיווג מואץ יוצר אפקט "מצטבר", שבו יריב יכול לחבר תובנות רגישות מגילויים בלתי מזיקים בנפרד.
"יש חשש לסיווג שגוי", אמר וולין. "יש רק חשש מובנה שמידע מסוים יהיה רגיש. האם הוא יסווג בצורה שגויה וישותף, סוג של לא בכוונה, והאם מישהו לא יתפוס אותו?"
נותרו שאלות פיקוח
וולין גם הטיל ספק בקיצורו של הפיילוט וכיצד יעבוד הפיקוח האנושי כאשר בינה מלאכותית משמשת אסמכתא סופית לסמכות הסיווג המקורית. "איך [אתה מתכוון] לקיים בפועל פיקוח אנושי? זה יצטרך להימשך לנצח", אמר ל-DefenseScoop, וציין שהמערכת תתפתח עם הזמן ושאמון מוחלט לעולם אינו בר השגה.
הפנטגון לא ענה מיד על שאלות לגבי דגמי הבינה המלאכותית הבסיסית שיניעו את הטייס או האם למחלקה יש חששות לגבי השימוש בטכנולוגיה למטרה זו. ההנחיה נוחתת על רקע דיון רחב יותר בוושינגטון על פיקוח על בינה מלאכותית, אפילו כאשר גורמי הגנה טוענים כי בינה מלאכותית היא כלי רב עוצמה מכדי להדוף אותה בעוד יריבים פורסים אותה בצבאות שלהם. כיצד המחלקה מאזנת את שני הדחפים הללו - אימוץ אגרסיבי ושליטה אנושית משמעותית - תהיה השאלה המכרעת של הפיילוט בן שישה חודשים.
עבור חיל האוויר, המשימה היא גם הצבעת אמון. השירות בנה את ACME בזמן שהשיחה בכל המחלקה על רפורמת הסיווג עדיין הייתה תיאורטית, והמזכר מטיל עליו כעת אחריות על יכולת שאם היא תעבוד, תעצב מחדש את האופן שבו כל ענף צבאי מטפל בסודותיו. עבור שאר הממשל הפדרלי - שבו צפיפות סיווג ותלונות סיווג יתר הן כרוניות - טייס מוצלח של הפנטגון יספק את התבנית הגדולה הראשונה לטיפול במידע בעזרת בינה מלאכותית, ואחת שנצפתה מקרוב.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
