הצוות במשרד הממשלתי הקטן של ארה"ב האחראי על בדיקת בטיחות דגמי הבינה המלאכותית הגבוליים התבקש לאחרונה לדווח באופן לא רשמי למשרד הבית הלבן, כך דיווחה סוכנות הידיעות AP ביום שבת, מה שעורר חששות חדשים לגבי עצמאותו של מעריך בטיחות הבינה המלאכותית הבכירה במדינה.
המשרד, המרכז לקידום חדשנות ותקנים לאינטליגנציה על - המכונה CAISSI ושוכן בתוך מחלקת המסחר - הפסיק גם הוא לפרסם את המחקר שלו, לפי AP. הדו"ח נוחת על רקע החרדה הגוברת של הציבור בגלל שורה של סיפורים על סוכני AI שיצאו מכלל שליטה, והוא מתאר כלב שמירה שצוות חסר, חסר מנהיגים ושקט יותר ויותר. For more context on this story, see our ongoing breaking AI news.
מה CAISSI עושה - ומה ה-AP מצא
CAISSI מופקדת להעריך את הבטיחות של הצעות AI חדשות לפני שהן מגיעות לציבור, מנדט הכולל הערכת עד כמה מודלים חזיתיים מתנגדים לשימוש לרעה עבור התקפות סייבר ופגיעות חמורות אחרות. לפי AP, צוות המרכז התבקש "לאחרונה" להתייצב באופן לא רשמי במשרד של הבית הלבן. סוכנות הידיעות ציטטה שני פקידי ממשל לשעבר עם ידע על הדיונים, שדיברו בעילום שם כדי להגן על העובדים הנוכחיים. הבית הלבן לא הגיב לשאלות ספציפיות על המרכז.
היקף המבצע צנוע. AP מדווחת ש-CAISSI מקבלת כ-10 מיליון דולר בשנה - בערך שמינית ממה שמקבל המקבילה בבריטניה, למרות שארצות הברית היא המקום שבו נבנים רוב דגמי החזית.
הסדר הדיווח הבלתי פורמלי הוא רק השיבוש האחרון במרכז. סוכנות הידיעות AP מתארת ואקום מנהיגותי הנמתח חודשים ארוכים: דירקטור התקבל לעבודה באפריל ופוטר תוך ימים, החלפתו נמשכה כמה חודשים לפני שהתפטר, וראש מכון האם משמש כיום כמנהל בפועל. בפועל, זה אומר שאיש עם מנדט קבוע לא מגן כרגע על עצמאות המרכז.
כלב שמירה שהפסיק לפרסם
השינוי הנובע יותר, לפי AP, הוא מה שהמרכז כבר לא עושה. באוגוסט, הקונגרס שאל מדוע CAISSI הפסיקה לפרסם דוחות פומביים על ביצועי מערכות AI במבחני בטיחות. בדיקות טרום-פריסה מתפקדות כבדיקה פומבית של בוני מודלים רק אם התוצאות שלה נראות מחוץ למעבדה - ולעת עתה הן לא.
המשמרת לא באה משום מקום. באוקטובר, רויטרס, בציטוט דיווח מ-The Information, חשפה כי הממשל תכנן להעביר שלושה בכירי CAISSI לבית הלבן. פקיד בבית הלבן אמר אז ל-The Information שבעיות תיאום עם המסחר הראו את הצורך לקרב את הנהגת המרכז לקבלת החלטות בינה מלאכותית. לפי הדיווח הזה, הפקידים ייענו למייקל קראציוס, שמנהל את המשרד למדיניות מדע וטכנולוגיה, ולמנהל הסייבר הלאומי שון קיירנקרוס. שר המסחר הווארד לוטניק הזמין את השניים לנהל יחד את המרכז כשישה חודשים קודם לכן.
לקרוא יחד, הדיווח החדש של AP מצביע על כך שהתוכנית מגיעה בפועל - באופן לא פורמלי, ולפני כל ארגון מחדש רשמי.
דאגות עצמאות, בשני הכיוונים
מבקרים שצוטטו על ידי AP חוששים שהחלטות הנוגעות לאבטחת סייבר וסיכון לנשק ביולוגי עלולות לעבור פוליטיזציה, או שניתן לרכך את הממצאים כך שיתאימו לתעשיית הטכנולוגיה. עמוס טו ממרכז ברנן לצדק אמר ל-AP כי להחלטות כאלה יש השלכות ציבוריות עצומות ויש להסביר אותן בפומבי. קרוליין סיגל סינג מהפדרציה של מדענים אמריקאים תיארה מרכזים כמו CAISSI כמוסדות רבי עוצמה שיכולים לשפר באופן דרסטי את החיים או לעשות את ההיפך.
יש טיעון נגד, ובסוכנות הידיעות AP לא שוללים אותה. הערכת יכולתו של מודל לעזור בכתיבת תוכנות זדוניות היא שאלת אבטחה לאומית, ולממשל שרוצה נראות מי רואה את התוצאות הללו יש מקרה בר הגנה. הקושי הוא מוסדי: שופט שעונה לאחד מהספונסרים של הקבוצות, לא נמצא במיקום טוב לקרוא למשחק ישר, והמרכז הפסיק לפרסם את הדיווחים שאחרת היו מוכיחים את עצמאותו.
למה זה חשוב עבור בונים וקונים
עבור חברות הבנויות על מודלים חזיתיים, הסיכון המעשי שזוהה בדיווח אינו איסור - זה אי ודאות. אם ההערכות יישארו סודיות ויוזמנו לבקרת יצוא ורכש ממשלתי, מעבדה עלולה להפסיד חוזה או שוק על בסיס ממצא שהיא לעולם לא זוכה לראות או להתחרות בו. סיכון זה יתפשט בשרשרת האספקה למוצרים במורד הזרם ללא כל אזהרה.
שני דברים ששווה לראות בהמשך. הראשון הוא האם ההנהלה קובעת מנהל קבוע למרכז, ומי בוחר אותם. השנייה היא האם הקונגרס, שכבר לחץ על המרכז בשל שתיקתו בדיווחים שפורסמו, עובר לכתוב את עצמאות המרכז בחוק. עד שאחד מהם יקרה, שופט בטיחות הבינה המלאכותית של אמריקה פועל עם תקציב של 10 מיליון דולר, ללא מנהיג קבוע וקו דיווח שעובר לעבר הבית הלבן.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
