משרד ההגנה פרסם הנחיות חדשות לאנשי קבלן ותוכניות שנועדו להבטיח שמערכות הבינה המלאכותית שהפנטגון רוכש עומדות בעקרונות הרכש של "חיפוש האמת" ו"הנייטרליות האידיאולוגית" של ממשל טראמפ, כך דיווחה רשת החדשות הפדרלית ביום שני.
ההנחיה, שהונפקה על ידי ג'ון טנגליה, המנהל הראשי של הפנטגון למדיניות תמחור, חוזה ורכישה בהגנה, היא הצעד הקונקרטי ביותר של המחלקה עד כה ליישם את האג'נדה של הנשיא דונלד טראמפ ל"מניעת AI מתעורר" בממשלה הפדרלית. For more context on this story, see our ongoing more AI stories.
מהוראת ביצוע לשפת חוזה
ההנחיה זורמת ישירות מהצו הביצועי שטראמפ חתם ביולי, המחייב את הסוכנויות הפדרליות להבטיח שמודלים השפה הגדולים שהם רוכשים הם "כלים ניטרליים, לא מפלגתיים שאינם מתמרנים תגובות לטובת דוגמות אידיאולוגיות כמו [גיוון, שוויון והכלה]". לפי הסדר הזה, טראמפ הכריז שלסוכנויות פדרליות "מחויבות לא לרכוש מודלים שמקריבים אמת ודיוק לאג'נדות אידיאולוגיות".
המשרד לניהול ותקציב פרסם מאוחר יותר תזכיר המתייחס לשאלות שעלו לאחר פרסום הוראת הביצוע. המסמך החדש של הפנטגון מתרגם את אותם מנדטים ברמה גבוהה למנגנון הרכישה הביטחונית: תבניות המעבירות את הפקידים בשלבים שונים של רכישת מערכות בינה מלאכותית ומאמת עמידה של הקבלן בעקרונות "בינה מלאכותית" של המחלקה.
באופן ספציפי, התבניות כוללות תזכיר שיעזור לסוכנויות לבחור דרישות שקיפות ותיעוד מתאימות לרכש, שפת שידול סטנדרטית שאומרת לחברות איזה תיעוד עליהן לספק כדי להוכיח ציות, ושפת חוזה רשמית שניתן לשלב בהצהרת עבודה או ביצוע עבודה, על פי רשת החדשות הפדרלית.
הדרכה, לא מנדט - לעת עתה
טנאגליה הקפידה למסגר את משקלו המשפטי של המסמך. בעוד שציות לצו הביצוע הבסיסי ותזכיר OMB היא חובה, המסמך החדש נועד "כהנחיה בלבד", ומספק "גישה סטנדרטית לתיעוד, שידול ואכיפת עקרונות AI חסרי פניות", כתב.
"בהכרה בכך שרכישות AI משתנות מאוד במורכבות ובסיכון, לרכיבי DoD ולפעילויות הדורשות יש את הגמישות לשנות, להתאים או להשלים את השפה הזו לפי הצורך כדי להתאים לצרכים הספציפיים ולהקשר של הדרישות האישיות שלהם", כתבה Tenaglia במזכר.
הגמישות הזו עשויה להתגלות כתוצאתית. מדידת האם מודל AI הוא "חסר פניות" - ותיעוד הקביעה הזו עבור קובץ חוזה - היא משימה מבולגנת הרבה יותר מאשר בדיקת אישור אבטחת סייבר, וסביר שהספקים ידחקו בדרישות תיעוד הנוגעות לעיצוב המודל.
חלק מדחיפה גדולה יותר למסחר בינה מלאכותית של הגנה
ההנחיה מגיעה כששר ההגנה פיט הגסת' ממשיך בדחיפה שלו להכנסת בינה מלאכותית מסחרית למחלקה. מוקדם יותר השנה, הפנטגון הוציא אסטרטגיית בינה מלאכותית שמטרתה להפוך את המחלקה ל"כוח לוחם ראשון בינה מלאכותית", כאשר Hegseth אמר שהמחלקה תשקיע רבות בתשתית מחשוב בינה מלאכותית, ממרכזי נתונים ועד למערכות בקצה הטקטי.
המחוקקים נעים במקביל. הנציג ג'ימי פטרוניס (R-Fla.) מחפש להגדיר את הצו הביצועי של טראמפ לחוק. "הנשיא והצוות שלו העבירו צו ביצוע חכם המורה לסוכנויות הפדרליות למנף רק כלי בינה מלאכותית הדוברים אמת", אמר פטרוניס, וטען שיש "דוגמאות-לאחר-דוגמאות של כלי בינה מלאכותית יורדים מהפסים כי התכנות הבסיסיות נוטה שמאלה פוליטית".
מה זה אומר עבור ספקי בינה מלאכותית
עבור חברות בינה מלאכותית - כולל מעבדות החזית הדוהרות כעת לעבר הנפקות ציבוריות - ההנחיה מאותתת שתיעוד אידיאולוגי נייטרלי הופך לדרישה דה פקטו לשוק הביטחוני של ארה"ב, אחד מפלחי הלקוחות הצומחים ביותר עבור AI מסחרי. ספקים שיכולים לייצר מסלולי ביקורת להכשרתם והתנהגותם של המודלים שלהם עשויים למצוא את הדלת פתוחה; אלה שאינם יכולים למצוא את הרכש הפדרלי נסגר יותר ויותר.
ההשפעה המעשית היא ש"בינה מלאכותית בלתי משוחדת" עוברת את לימודיה מרטוריקה פוליטית לדרישת כתיבה בחוזים של רוכשי הטכנולוגיה הגדולים בעולם - וכל סוכנות אחרת צופה בביצועים של התבניות של הפנטגון.
מה הספקים יצטרכו לייצר בפועל
תחת התבניות, נטל ההוכחה עובר לכיוון הספק. חברות שמתמודדות על חוזים עתירי בינה מלאכותית יצטרכו לספק תיעוד המוכיח שהמודלים שלהן עומדים בעקרונות ה"בינה המלאכותית הבלתי משוחדת" - למעשה יוצרים קטגוריה חדשה של ניירת רכישה לצד הסמכות אבטחה ואישורי שרשרת אספקה. קציני קבלן, בתורם, מקבלים שפה סטנדרטית שהם יכולים להפנות לשידולים מבלי לנסח מאפס, שלדברי מומחי רכש היא בדרך כלל מה שהופך את המדיניות להלכה למעשה.
ההנחיה מגיעה גם כאשר הפנטגון מנרמל צ'אטבוטים מסחריים עבור כוח העבודה שלו, לאחר שהוציא גרסאות מותאמות ממשלתיות של עוזרי AI מסחריים לאנשי הגנה. הטמעת שפה אידיאולוגית-נייטרליות בחוזים הללו מרחיבה סטנדרט פוליטי לתוך מערכות המשמשות לכל דבר, החל מתכנון לוגיסטי ועד לעבודה אדמיניסטרטיבית שגרתית.
מקרה מבחן לשאר הממשלה
סוכנויות אחרות עומדות כעת בפני בחירה: לאמץ את התבניות של הפנטגון בסיטונאות, לכתוב משלהן או לחכות לקונגרס לפעול. הדחיפה של פטרוניס לקודקוד הצו הביצועי תפתור את העמימות הזו בחוק - ותקשה הרבה יותר על ביטול דרישות הנייטרליות לממשל עתידי.
מבקרי הסדר טוענים כי מדידת נייטרליות אידיאולוגית במודלים של שפה היא כרוכה מבחינה מדעית ועלולה לצנן התנהגות מודל לגיטימית, כולל תיאורים מדויקים של נושאים שנויים במחלוקת. התומכים מתנגדים לכך שתקני רכש כבר כופים באופן שגרתי דרישות תוכן על הספקים ושמפתחי מודלים נשארים חופשיים למכור במקומות אחרים.
כך או כך, כיוון הנסיעה ברור. רוכש הטכנולוגיה הגדול בממשלה העלה "בינה מלאכותית" על הכתב, ולקבלנים ביטחוניים שמקווים למכור מערכות בינה מלאכותית לפנטגון יש כעת רשימת בדיקה חדשה לסיפוק - כזו שמתחילה בתיעוד ומסתיימת, פוטנציאלית, בסכסוכי חוזים אם דגם שנפרס נכשל במבחן הנייטרליות.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
