אזהרות הבטיחות של חוקרים אנתרופיים ששלטו השבוע בשיח בינה מלאכותית הביאו כעת משהו קונקרטי בוושינגטון: דחיפה של חקיקה. רויטרס דיווחה ביום חמישי כי מחוקקים בארה"ב קוראים לחוקי בינה מלאכותית חדשים בתגובה להצהרות החוקרים, בעוד שנציגת מסצ'וסטס, לורי טראהן, השתמשה בראיון ביום חמישי בבוקר כדי לפרט את חוק הגבול שלה, הצעת חוק שתטיל חובות מחייבות על מפתחי בינה מלאכותית בחזית, בפעם הראשונה.
בשיחה במהדורת הבוקר של WBUR, טראהן אמרה שהתגובה בגבעת הקפיטול לאירועי השבוע לא דומה לשום דבר שהיא ראתה מאז שהחלה לעבוד על רגולציית AI מוקדם יותר השנה. לסיקור יומי של מהלכי מדיניות בינה מלאכותית בוושינגטון, בריסל ומחוצה לה, עקוב אחר AI Buzz Wire, המקור שלך לחדשות AI ועדכוני רגולציה.
מה יעשה חוק הגבול
טראהן, שהיה שותף לכתיבת הצעת החוק הדו-מפלגתית, תיאר אותה כמערכת של "כללי דרך" עבור קומץ החברות שהדגמים שלהן עלולים לגרום לנזק קטסטרופלי. חוק הגבול יחייב ארבעה דברים, לדברי חברת הקונגרס: דרישות שקיפות למפתחי בינה מלאכותית, דיווח על תקריות, אימות עצמאי של תביעות בטיחות של מודל, ומה שהיא כינתה כפתור השהייה ממשלתי אם דגם מהווה סיכון מיידי לאסון.
"ברמה בסיסית, אנחנו צריכים לשים מעקות בטיחות על מעבדות הגבול," אמר טראהן, תוך שהוא מנסח את ההוראות הללו כ"יתד שולחן" בזמן שהקונגרס מגבש מדיניות עבור המגזרים הרבים האחרים שה-AI ייגע בהם.
'מערכת הכבוד': הטענה של טראהן לכללים מחייבים
עיקר הטיעון של טראהן הוא ששום דבר לא מחייב כרגע את מפתחי מערכות ה-AI החזקות ביותר. "היום, הדבר היחיד שיש לנו הוא שיטת הכבוד", אמרה. "הטכנולוגיה החזקה ביותר בהיסטוריה האנושית מוסדרת על ידי מפתחיה".
היא הכירה בספקנות בקרב עמיתים, ואמרה שיש הרואים באזהרות השבוע מעוררות פחד או קיצוניות מדי. אבל היא תיארה שינוי מהיר במצב הרוח של הלשכה: "הטלפון שלי לא הפסיק לצלצל מאז שג'ייקוב קוקסון שרק. אני חושבת שהקולגות שלי מפחדים. הם שומעים מהבוחרים שלהם שרוצים שנפעל... השבוע הזה הגיע לנקודת מפנה".
יש לציין, היא אמרה שהלחץ אינו מוגבל לגורם אחד. "זה לא רק הדמוקרטים", אמר טראהן, וציין כי "הרפובליקנים של MAGA קראו אתמול לפעולה דו-מפלגתית. הקרקע באמת השתנתה".
האזהרות שהתחילו את זה
התסיסה החקיקתית נובעת ישירות מהצהרות של שני חוקרים אנתרופיים. ג'ייקוב קוקסון עזב את החברה ביום שלישי, וכתב ברשתות החברתיות כי אנתרופיק "דוהרת ישר לשיפור עצמי של אינטליגנציה-על והימורים עם חיינו". עמית החוקר האנתרופי, אוון הובינגר, תמך בו בפומבי, וכתב: "ג'ייקוב צודק כאן... אנחנו באמת מאמינים שבינה מלאכותית יכולה להרוג את כל בני האדם! אני אישית חושב שזה יותר מ-10% בעשור הבא."
הסיפור עבר גרורות לאורך השבוע. ה-Hill דיווחו על מחוקקים שהשמיעו אזעקה על סכנות בינה מלאכותית לאחר האזהרות, ה-BBC ו-CBS סיקרו את הערכת ההסתברות של Hubinger, ו-NBC News דיווחו ביום חמישי על שני חוקרי בינה מלאכותית שעזבו את אנטרופיק וגוגל בגלל דאגות בטיחות, וציטוט אחד שאמר "אין מבוגרים בחדר". רויטרס דיווחה ביום חמישי כי מחוקקים קוראים כעת לחוקים חדשים, ודיווחים נפוצו גם לפיהם OpenAI חיפשה חוקים אמריקאים המסדירים מודלים חזקים של בינה מלאכותית.
מאזהרות לקובץ חיוב
מה שמייחד את השבוע הזה ממחלוקות בטיחות קודמות הוא מהירות תגובת המדיניות. הגילויים של אנתרופיק עצמו השבוע - דו"ח מודיעין איומים המפרט קמפיינים של שימוש לרעה, כולל ניסיונות אפשריים להשתמש בקלוד לפיתוח נשק ביולוגי - העניקו לאזהרות עמוד שדרה ראייתי שחסר לו הדיון הקודם, ונראה שהמחוקקים זזים כל עוד הרגע נמשך.
הדרך קדימה לחקיקת AI
הסיכויים לחוק הגבול נותרו לא ברורים. הקונגרס נאבק במשך שנים להעביר חקיקת AI מקיפה, וכל הצעת חוק הנוגעת לאימות חובה או רשות הפסקה פדרלית תעמוד בפני לובינג אינטנסיבי מהמעבדות שהוא יסדיר, לצד מאבקי שיפוט בין ועדות. בצד, המדינות לא מחכות: מושל קליפורניה, גאווין ניוסום, חתם השבוע על חבילת הצעות חוק בטיחות בינה מלאכותית, לפי הלוס אנג'לס טיימס, תוך שמירה על הלחץ למסגרת פדרלית שמקדימה טלאים של חוקי המדינה.
לעת עתה, הדינמיקה התהפכה. בפעם הראשונה בקונגרס הזה, האנשים שבונים מודלים חזיתיים דורשים בפומבי הגבלות על התעשייה שלהם - והמחוקקים מנסחים אותם.
אם יישור זה מייצר חוק או רק כותרות יהיה תלוי בחודשים הקרובים. אבל השבוע הוכיח משהו שלא המעבדות או המבקרים שלהם יכולים להתעלם מהם: בטיחות בינה מלאכותית עברה מחדר הסמינרים לספירת השוטים, והחברים שסופרים את הקולות אומרים שהבוחרים שלהם הם סוף סוף אלה שמבקשים מהם לפעול.
AI Buzz Wire ימשיך לעקוב אחר חוק הגבול בזמן שהוא עובר בקונגרס.
---
הישאר לפני AIקבל את החדשות, הניתוחים ופריצות הדרך האחרונות של AI - הכל במקום אחד.
קרא עוד חדשות AI →
