ג'פרי הינטון, חתן פרס נובל הידוע בכינויו "הסנדק של הבינה המלאכותית", מסר השבוע את אחת האזהרות החמורות ביותר שלו עד כה למחוקקים בארה"ב: לקונגרס יש בערך שנה לשים אמצעי הגנה משמעותיים על בינה מלאכותית לפני שהטכנולוגיה תעבור מעבר לשליטה אנושית. מדען המחשבים הבריטי-קנדי אמר את הדברים ב-16 בספטמבר בתדרוך של הסנאט בדלתיים סגורות בגבעת הקפיטול, לפי חדשות NBC.
"אולי שנה, אבל לא הרבה יותר משנה", אמר הינטון לחדר המחוקקים, לפי הדיווח של NBC על הפגישה. התדרוך כונס על ידי הסנאטור ברני סנדרס והציג גם את הפיזיקאי מ-MIT מקס טגמרק, מייסד שותף של Future of Life Institute, וחוקר בטיחות בינה מלאכותית Ajeya Cotra, על פי דיווחים מרובים של הפגישה.
ליבת האזהרה: בינה מלאכותית בינה מלאכותית
הטיעון של הינטון התרכז באבן דרך טכנית ספציפית ולא בהיפותטיות רחוקות. "AI הגיעה כעת לנקודה שבה בינה מלאכותית מעצבת בינה מלאכותית טובה יותר", אמר, על פי דיווחים מהתדריך. "זה נקרא שיפור עצמי רקורסיבי... זה הולך לצאת משליטה אלא אם כן נעשה משהו."
הוא גם אמר למחוקקים כי לוחות הזמנים של מומחים למודיעין-על קרסו בעשור האחרון. "אם אתה מסתכל על התחזיות מתי נקבל מודיעין-על, זה היה פעם אולי 30 שנה, אולי 50 שנה", אמר הינטון, ל-NBC News. "ואז זה הגיע ל-10 שנים, אולי 20 שנה. עכשיו אנשים אומרים, הרבה מהחוקרים אומרים רק כמה שנים".
הינטון, פרופסור אמריטוס באוניברסיטת טורונטו שחלק את פרס נובל לפיזיקה לשנת 2024 על עבודה בסיסית על רשתות עצביות, עזב את גוגל ב-2023 ומאז הפך למבקר הפנימי הבולט ביותר בתחום - והזהיר שהמערכות שהוא עזר ליצור עלולות בסופו של דבר להעלות על הדעת ולעקוף את יוצריהן.
ספקנות לגבי 'הרוג מתג'
אפילו כשהוא דחק ברגולציה מהירה, הינטון הביע ספק לגבי אחת ההצעות הנדונות ביותר: מנדט פדרלי שיאפשר לממשלה לסגור מערכות AI מסוכנות. הוא אמר למחוקקים ש"מתג הרג" כזה לא יחזיק מעמד בטווח הארוך, לפי CNN.
הספקנות שלו נחתה באותו שבוע שהסנאטור ראנד פול חסם הצעת חוק מתג הרג בינה מלאכותית בהנהגת רפובליקנים מלהיות במעקב מהיר בסנאט - פרק שממחיש עד כמה רחוקה אפילו חקיקת מעקה בטיחות מינימלית ממעבר. הסנאטור ג'ון קנדי מלואיזיאנה, שהשתתף בחלק מהתדריך, אמר ל"וושינגטון סאן" שהוא נהנה מהדיון אך לא ראה שום סימן שהסנאט יפעל, והוסיף כי הוא מצפה שהמהלך הבא יגיע מהבית הלבן, והצביע על דיווח ששר האוצר סקוט בסן דוחף למסגרת בטיחותית.
התצפית מעבר למעבר לא הייתה הרבה יותר שמש. הסנאטור ריק סקוט מפלורידה אמר בראיון ל-NewsNation שחברות צריכות להסדיר את עצמן: "אנחנו לא הולכים להיות חכמים מספיק כדי להסדיר אותן. אנחנו לא הולכים לעשות משהו כאן למעלה", אמר, כפי שדווח ב"וושינגטון סאן".
כמה דמוקרטים דחפו את הכיוון השני. הנציג יאסמין אנסארי מאריזונה, שהשתתף בתדריך, כתב ב-X כי בינה מלאכותית "יכולה ותמשיך ללכת מעבר לשליטה אנושית" וכי "החלון שלנו לוויסות זה נעלם במהירות. אנחנו חייבים לעצור עכשיו".
שבוע של צליפת שוט של AI Safety
התדריך חתם קטע סוער לדיון בנושא ממשל בינה מלאכותית. ימים קודם לכן, מנכ"ל אנתרופי, דריו אמודיי, פרסם מאמר הקורא למעבדות הגבול להאיץ את הפיתוח, והזהיר מפני סיכונים מאובדן שליטה לטרור ביולוגי - עמדה שנתמכת בפומבי על ידי מנהיגי מעבדות אחרים, על פי דיווחים נרחבים. באותו יום שבו פנה הינטון לסנטורים, חוקרי בינה מלאכותית בולטים, כולל אנדרו נג, דחו בפומבי את חששות ההכחדה כנפוצים, והדגישו תחום שמתווכח עם עצמו בפומבי.
בגבעת הקפיטול, הפעילות רועשת יותר מהפלט. הסנאטור קורי בוקר קרא לנשיא טראמפ לכנס מושב מיוחד של הקונגרס בנושא בינה מלאכותית, בעוד שוועדת פותרי בעיות דו-מפלגתית הכריזה השבוע על קבוצת עבודה חדשה בנושא AI וטכנולוגיות מתפתחות. אף אחד מהם עדיין לא יצר חוק פדרלי מחייב.
למה חשובה המסגור לשנה
אזהרות מונעות דד-ליין מחלוצי בינה מלאכותית הפכו לשגרה, אבל הספציפיות של ציר הזמן של הינטון - שנמסר ישירות לאנשים בעלי הסמכות לחוקק, בחדר שלא נכלל בבכירים בתעשייה - מסמנת שינוי בטון. אזהרות קודמות של חוקרים חזו בדרך כלל סיכון על אופקים של עשרות שנים; חלון של שנה מרמז על תגובות מדיניות המיועדות לקונגרס הנוכחי, לא לעתיד.
זה גם מחדד את הבעיה הפוליטית. כפי שמראים ספקנותו של הינטון עצמו עם מתג ההרוג והחסימה הפרוצדורלית של הסנאטור פול, אין הסכמה אפילו בקרב דמויות בטיחותיות לגבי התערבויות. הינטון טען שהמצב הבינלאומי - במיוחד התחרות עם סין - הופך את ההאטות החד צדדיות לשבריריות מבחינה פוליטית, מתח שעצר את ההצעות החמורות ביותר עד כה.
מה שקורה אחר כך הוא, לפי השעון של הינטון עצמו, עניין של חודשים. האם התדריך משנה את החשבון תלוי בסנאט שלפי חשבונות חבריו שלו, לא זז כרגע בכלל.
הישאר לפני AI
מדיניות ה-AI נעה במהירות - וכך גם כל שאר השטח. לעוד חדשות בינה מלאכותית, עדכוני רגולציה וניתוחים, קרא עוד חדשות AI →.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
