מנכ"ל Google DeepMind, Demis Hassabis, הציע להקים גוף תקנים עצמאי בהובלת ארה"ב, לפי מודל של רשות הרגולציה של התעשייה הפיננסית (FINRA) כדי להעריך ולהסדיר דגמי AI גבוליים לפני פרסום פומבי, והזהירה כי לאנושות יש "חלון יקר" כדי להבטיח שבינה כללית מלאכותית מפותחת בבטחה.
במסמך מסגרת שכותרתו "A Framework for Frontier AI and the Dawning of a New Age", שפורסם ב-X ביום שלישי בבוקר, הציג חסביס הצעה מפורטת כיצד ארצות הברית תוכל להקים תשתית רגולטורית אמינה למערכות ה-AI החזקות ביותר. התוכנית קוראת לארגון חדש שיבדוק מודלים חזיתיים ויפתח שיטות עבודה מומלצות לפריסתם - ממומן על ידי תעשיית הבינה המלאכותית אך פועל ללא תלות בכל חברה בודדת.
לקבלת [חדשות הבינה המלאכותיות] האחרונות (https://aibuzzwire.news) וניתוח מדיניות מעמיק, AI Buzz Wire עוקב אחר ההתפתחויות שמעצבות את התעשייה.
כיצד יעבוד גוף התקנים המוצע
על פי הצעתו של חסביס, מעבדות בינה מלאכותית ישתפו מרצון את דגמי החזית שלהן עם גוף התקנים לבדיקה עד 30 יום לפני הפרסום לציבור. הערכת טרום-פריסה זו תעריך מודלים לבטיחות, אבטחה וסיכוני שימוש לרעה פוטנציאליים. לאחר שפרוטוקול ההערכה מוכח כיעיל וחזק, המסגרת צופה יצירת רשמיות של התהליך כך שמודלים חזיתיים יידרשו לעבור אותו לפני פריסה בשוק האמריקאי.
ההצעה מטפלת ישירות בפער שנחשף בביקורות ממשלתיות האחרונות על מערכות AI גבוליות. מוקדם יותר השנה, ממשלת ארה"ב ערכה סקירות בטיחות אד-הוק של מודל Mythos של Anthropic ושל מודל Sol של OpenAI לפני השחרור שלהם. ביקורות אלו זכו לביקורת משמעותית על היעדר עומק טכני ועל קבלת החלטות אטומה לגבי מתי דגם נחשב בטוח מספיק לפריסה ציבורית.
במסגרתו של חסביס, החלטות אלו יטופלו על ידי ארגון ייעודי המאויש במומחים טכניים, בגיבוי ממשלת ארה"ב אך מבודד מלחץ פוליטי. מעבדות יידרשו גם לעבוד עם גוף התקנים כדי לטפל בפרצות קריטיות שהתגלו לאחר השחרור.
'חלון יקר' לפני AGI
בראיונות עם Axios, CNBC ו-The Economist שליוו את פרסום המסגרת, הדגיש חסביס כי הרגע הנוכחי מייצג הזדמנות צרה לבסס מנגנוני ממשל לפני הגעת בינה כללית מלאכותית. הוא תיאר תקופה זו כ"חלון יקר" - מה שרומז שהחלון לא יישאר פתוח ללא הגבלת זמן.
חסאביס כבר זמן רב תומך בממשל יזום של AI. המסגרת שלו מגיעה על רקע ויכוח מתגבר בשאלה האם ארצות הברית צריכה ליצור רגולטור רשמי של AI, ואם כן, באיזו צורה הוא צריך ללבוש. מודל FINRA בולט מכיוון שהארגון הרגולטורי העצמי של התעשייה הפיננסית ממומן על ידי חברות חברות אך פועל תחת פיקוח ממשלתי, ומעניק לו מומחיות בתעשייה ואחריות ציבורית.
התנגדות של ממשל טראמפ
ההצעה עומדת בפני רוח נגד פוליטית משמעותית. ממשל טראמפ אותת על ספקנות עמוקה כלפי יצירת גופים רגולטוריים חדשים לבינה מלאכותית. יועץ הבינה המלאכותית של הבית הלבן והשותף הכללי של a16z, סריראם קרישנן - שעזב מאז את תפקידו - דחה בפומבי את הרעיון של רגולטור בינה מלאכותית בתוך הרשות המבצעת, והצהיר בבוטות ש"לא יהיה FDA ל-AI".
עמדה זו העמידה את פקידי הממשל בסתירה עם כמה מהמנהיגים הבולטים בתעשייה. בעוד שחברות כמו Anthropic ו-OpenAI תמכו באופן נרחב בבדיקות בטיחות לפני פריסה, המנגנון והסמכות לבדיקות כאלה נותרו שנוי במחלוקת. הצעתו של חסביס מנסה להשחיל את המחט הזו על ידי מיצוב גוף התקנים כממומן תעשייתי והתנדבותי בהתחלה, כשהפורמליזציה מגיעה רק לאחר שהתהליך מוכיח את ערכו.
בנייה על מאמצים קיימים
המסגרת לא מתחילה מאפס. זה מתבסס על ההתחייבויות הוולונטריות שכמה חברות בינה מלאכותית כבר עשו לגבי בדיקות בטיחות ושיתוף פעולה אדום. הוא מסתמך גם על מאמצים בינלאומיים, כולל מכון AI Safety Institute של בריטניה ותהליך AI של Hiroshima של G7, אשר הקימו מסגרות ראשוניות להערכת מודלים מתקדמים.
עם זאת, ההצעה של חסביס הולכת רחוק יותר בכך שהיא קוראת לארגון קבוע, בעל משאבים טובים, עם מנדט לבדוק כל מודל חזיתי לפני השחרור - רמת בדיקה שאף גוף נוכחי לא מספק. האנלוגיה של FINRA מציעה פעולה מוקטנת ומקצועית עם מאות מומחים טכניים, פאנל מייעץ לא קטן.
ההצעה מתייחסת גם לניטור לאחר הפריסה, המחייבת מעבדות לעבוד עם גוף התקנים על נקודות תורפה שהתגלו לאחר שמודל זמין לציבור. זה משקף הכרה גוברת בכך שסיכוני הבטיחות אינם מסתיימים עם ההשקה, כפי שהוכח על ידי פריצות לכלא ומקרי שימוש לרעה שהופיעו לאחר כמה דגמים בעלי פרופיל גבוה.
תגובת התעשייה והצעדים הבאים
המסגרת יצרה תשומת לב משמעותית בקהילת מדיניות הבינה המלאכותית. התומכים טוענים כי משטר בדיקות אמין לפני פריסה יכול לבנות אמון הציבור במודלים חזיתיים ולהפחית את הסיכון לשימוש לרעה קטסטרופלי. מבקרים, כולל כמה תומכי שוק חופשי, מזהירים שדרישת בדיקה חובה עלולה לבסס בעלי תפקידים גדולים על ידי יצירת חסמים רגולטוריים עבור חברות קטנות יותר ומפתחי קוד פתוח.
ההצעה של חסביס לא מפרטת אילו מודלים יזכו כ"גבולי" - שאלת סף שתקבע את היקפו של כל משטר רגולטורי עתידי. זה גם משאיר פתוח כיצד גוף התקנים יטפל ביישומים מסווגים או דו-שימושיים, במיוחד לאור החששות האחרונים לגבי מודלים של AI המשמשים לפיצוח מערכות מסווגות בארה"ב.
העיתוי של ההצעה הוא מכוון. מכיוון ש-AGI נראה יותר ויותר סביר במהלך השנים הקרובות, חסאביס דוחקת בתביעה שתשתית הממשל חייבת להיבנות כעת, לא לאחר שתופיע יכולת מסוכנת. אם וושינגטון תפעל בהתאם לקריאתו נותר לראות.
הישאר לפני AI
לסיקור מקיף של מדיניות AI, רגולציה והתפתחויות בתעשייה, בקר ב-AI Buzz Wire.
קרא עוד חדשות AI →
