נציג רו חאנה, דמוקרט מעמק הסיליקון, יציג חקיקה שתאסור על דגמי AI המסוגלים לשפר את עצמם באופן רקורסיבי עד שהממשלה הפדרלית תבנה מערכת רגולטורית המסוגלת לפקח עליהם - הצעת בטיחות AI הגורפת ביותר שעדיין נחתה בקונגרס.
הצעת החוק, שזכתה לכינוי ה- Human Control Over AI Act, חולקה באופן בלעדי עם CNBC בצורת סיכום לפני הצגתה. זה מגיע על רקע דאגות בטיחות מתגברות שכבר הניעו את המנכ"לים של OpenAI ו-Anthropic לקרוא להאט את פיתוח מודל החזית. For more context on this story, see our ongoing AI trends.
"יש למעשה סכנת הכחדה ציוויליזציונית", אמרה חאנה ביום שני בראיון ל-CNBC. "יש סיכון בטיחותי של אובדן שליטה, ואז יש סיכון של שימוש לרעה, ואנחנו צריכים לקחת את שניהם ברצינות".
מה ייאסר הצעת החוק
בבסיסו, חוק השליטה האנושית על בינה מלאכותית יאסור על מודלים של בינה מלאכותית המשפרים את עצמם באופן רקורסיבי או משנים באופן אוטונומי את מטרות הליבה, מנגנוני הבלימה או בקרות הכיבוי שלהם - אלא אם קיימים מעקות בטיחות פדרליים וסוכנות ממשלתית חדשה מאשרת את הפעילויות.
מבחינה מעשית, זה מכוון ליכולת שממנה חוששים חוקרי הבטיחות הכי הרבה: מערכות שיכולות לעצב את עצמן מחדש במחזוריות עצמית, מה שמותיר את בני האדם עם פיקוח הולך ופוחת בכל שלב. האיסור יישאר בתוקף עד שהרגולטורים יהיו מצוידים להעריך את הסיכונים.
סוכנות פדרלית חדשה עבור Frontier AI
הצעת החוק תיצור סוכנות פדרלית ייעודית המתמקדת בדגמי הבינה המלאכותית החזקים ביותר - אלה שפותחו על ידי OpenAI, Anthropic, Google DeepMind ו-xAI - שכן חברות אלו מוצאות את עצמן בבדיקה מעמיקה.
על פי הסיכום ששותף עם CNBC, הסוכנות תהיה אחראית על:
- כתיבת תקנות בטיחות למערכות AI חזיתיות
- הפעלת מערכת רישוי לאישור הדרכה ופריסה של מודלים
- ביצוע ביקורות של דגמי AI חזיתיים
- קביעת תקני אבטחה לבדיקות מתמשכות ובקרה אנושית יעילה
מבקרים בלתי תלויים יוטמעו בכל מעבדת גבול וידווחו ישירות לסוכנות - בדיקה מבנית שנועדה להבטיח שמעבדות לא יכולות פשוט לסמן את שיעורי הבית שלהן. הסוכנות גם תקבע סטנדרטים המכסים סביבות בדיקת ארגז חול, פערי אוויר המבודדים מערכות בדיקה מהאינטרנט, ביטול מתגים ובקרות שמונעות מדגמים לברוח מהגדרות מעבדה ולשוטט באינטרנט הפתוח.
במיוחד, החקיקה תרחיב את הפיקוח הפדרלי על השבבים המתקדמים שבהם משתמשות מעבדות גבול, כולל מנגנונים לניטור או שליטה על אופן פריסת המעבדים הללו.
עונשים פליליים וביטוח חובה
הצעת החוק הולכת רחוק יותר מכל הצעה קודמת בנושא עונשים. היא תפליל את מה שהיא מגדירה כ"פשעים נגד האנושות" עבור פריסת מודלים של בינה מלאכותית שגורמת להרס של אוכלוסיות אזרחיות.
עובדים של חברות בינה מלאכותית יעמדו בפני עונשים פליליים על השבתת אמצעי הגנה, מתגי הרג, רישום או מערכות בלימה - או על פריסת מערכת לא מורשית ביודעין. חברות בינה מלאכותית יידרשו גם לשאת בביטוח אחריות נרחב לפני שחרור הדגמים שלהן, מה שיעביר את הסיכון הפיננסי של כישלון לתעשייה ולא לציבור.
במישור הגיאופוליטי, הצעת החוק קוראת לממשל לחתור להסכמים הניתנים לאכיפה ובקרות ייצוא ממוקדות שנועדו להרתיע את סין ויריבים אחרים מלפתח מערכות בינה מלאכותית מסוכנות.
נבנה עם קהילת הבטיחות, לא המעבדות
חאנה היה מפורש לגבי מי הקלט שלו עיצב את הצעת החוק. במקום לנהל משא ומתן עם המנהלים של החברות שהוא יסדיר, הוא אמר שהחקיקה נוצרה על סמך שיחות עם ארגוני בטיחות בינה מלאכותית, כולל העמותות העצמאיות להערכת מודלים וחקר איומים, המכון לחקר מודיעין מכונה ומחקר Palisade.
"אני רוצה שזה יהיה מודל לתת קול לקהילת בטיחות הבינה המלאכותית", אמרה חאנה ל-CNBC. "אני מאמין שהם הודחו באופן לא הוגן כמדע בדיוני ולא נלקחו מספיק ברצינות. הם צריכים להניע את הדיון הזה, קהילת הבטיחות של AI, לא המנהלים של מעבדות גבול".
חאנה תיאר את האמצעי כחקיקת הבטיחות הבינה המלאכותית המקיפה ביותר שהוצעה עד כה.
סיכויים ארוכים בקונגרס מפוצל
חוק השליטה האנושית על AI מצטרף לשדה צפוף של הצעות בטיחות AI בגבעת הקפיטול. ביניהם ניתן למצוא את חוק FRONTIER הדו-מפלגתי מהנציגים ג'יי אוברנולטה, רפובליקני מקליפורניה, ולורי טראהאן, דמוקרטית ממסצ'וסטס, שיציב מבקרים עצמאיים במעבדות גבול ויעניק לממשלה סמכות לסגור מודלים הנחשבים להוות סיכון קטסטרופלי. הצעה נפרדת של סנדרס-קאסר לאסור בינה-על מלאכותית גררה גיבוי ציבורי מעשרה דמוקרטים בבית הנבחרים, כולל חאנה עצמו.
המציאות הפוליטית, לעומת זאת, מפוכחת. הצעות חוק של בית הנבחרים לא צפויות לקבל הצבעה עד לאחר בחירות אמצע הקדנציה, והסנאט צפוי לעזוב את וושינגטון ולא לחזור עד לאחר שהבוחרים ילכו לקלפיות.
ציר הזמן הזה אומר שחוק השליטה האנושית על בינה מלאכותית יתפקד, לפחות לעת עתה, כסמן: מתווה מפורט של מה שקהילת הבטיחות של הבינה המלאכותית הייתה בונה אם היא תחזיק בעט - הוצג בדיוק ברגע שבו האנשים שבונים בינה מלאכותית מתריעים, בפרוטוקול, שהטכנולוגיה חורגת מהשליטה שלה.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
