מייסד שותף של Anthropic אומר שממשלות אולי יצטרכו לאלץ חברות בינה מלאכותית להתקין "מתג הרג" - מנגנון לכיבוי מוחלט של מערכות בינה מלאכותית - וכי פקחים חיצוניים צריכים להיות מסוגלים לוודא שהוא אכן עובד.
ג'ק קלארק, אחד משבעת המייסדים של מעבדת הבינה המלאכותית של 965 מיליארד דולר, אמר ל-BBC כי בעוד שלרוב המעבדות המובילות יש כבר דרכים פנימיות "למשוך את התקע" במערכות מסוכנות, החברה "אולי תרצה בסופו של דבר להעביר כללים" מה שהופך מתגים כאלה לחובה וניתנים לביקורת עצמאית. לקוראים שעוקבים אחר דיון בנושא בטיחות בינה מלאכותית, ההתערבות שלו מסמנת את הצעת המדיניות הקונקרטית ביותר עד כה מתוך מעבדת גבול במהלך שבוע של אזהרות מתגברות.
"האם אתה צריך להורות לחברות בוודאות שיהיה להן מתג הרג? האם מתג הרג הזה ניתן לאימות על ידי צד שלישי?" קלארק אמר בראיון עם כתבת הטכנולוגיה קאלי הייס ועורך הכלכלה פייסל איסלאם. "אני חושב שזה מסוג הדברים שהחברה תרצה לדעת ואולי תרצה בסופו של דבר להעביר כללים".
'אנחנו מטילים קוביות עם סיכונים עצומים'
ההערה הבולטת ביותר של קלארק הייתה דחייה גורפת של הסטטוס קוו. כשנשאל על מסלול התעשייה, הוא אמר שלאפשר לבינה מלאכותית להמשיך כ"תעשייה לא מפוקחת לחלוטין" הוא רעיון רע.
"אנחנו מגלגלים קוביות עם סיכונים עצומים", אמר. "והנקודה היא שעלינו לשנות את מהלך התעשייה הזו".
בניגוד לכמה מעמיתיו, קלארק סירב לציין מספר על סכנת הכחדה אנושית. "אני לא חושב שהסטטיסטיקה הזו כל כך שימושית", הוא אמר - בניגוד בולט לחוקר האנתרופי אוון הובינגר, שאמר בשבוע שעבר שהוא מאמין באופן אישי שיש סיכוי של יותר מ-10% להכחדה של בני אדם מ-AI בעשור הקרוב, ועם חלוץ הבינה המלאכותית ג'פרי הינטון, שאמר ל-BBC ביום שישי כי אומדן של 10% הוא "לא סביר".
מה שקלארק לא חלק עליו הוא כיוון הנסיעה. בינה מלאכותית היא, כפי שניסח זאת באותו ראיון, "חזקה יותר מיום ליום" - והוא טען שהפרטים הספציפיים של כל דרישת כיבוי, כולל מי יאמת אותה וכיצד, שייכים ל"שיחת המדיניות הגדולה יותר" המתקיימת כעת סביב AI.
הצעה בעלת תנופה חקיקתית
ההצעה של קלארק לא נוחתת בחלל ריק. מחוקקים בארה"ב כבר הציגו חקיקה שזכתה לכינוי Kill Switch Act, שתחייב מפתחי בינה מלאכותית לבנות במערכות שלהם מנגנוני כיבוי - הצעת חוק ש-AI Buzz Wire כיסה בחודש שעבר, כאשר הדחיפות שלו גדלה בעקבות תקריות סוכנים נוכלים.
הרעיון גם מתמודד עם ספקנות גלויה. בבריטניה, שר העסקים ג'ונתן ריינולדס אמר ל-BBC שהוא לא מוצא את הרעיון מועיל, ואמר שהוא "לא ממש בטוח מה זה אומר בפועל", והזהיר כי רגולציה יתר עלולה להשאיר את המדינה מנותקת ממודלים שפותחו בחו"ל.
הרקע: מלחמת אזרחים בטיחותית - והנפקה
הערותיו של קלארק מגבלות על שבוע שבו בטיחות בינה מלאכותית עברה מנושא הסמינר לחדשות בעמוד הראשון. מנכ"ל אנתרופי, דריו אמודיי, קרא בסוף השבוע להאט את קצב התפתחות הגבולות ולפקח עליו יותר, תוך שהוא התעקש שכל הפסקה תבוא "מבלי לוותר על יתרון מסחרי". לאחר מכן הוא לקח את המקרה הזה לקהל אמריקאי מיינסטרים בראיון לאנדרסון קופר של CNN, כשקוקסון עצמו הופיע ברשת כדי להגיב עליו. הדברים הגיעו בעקבות פוסט התפטרות ויראלי של החוקר האנתרופי לשעבר ג'ייקוב קוקסון, שהזהיר מפני גורל האנושות, מה שגרם בתורו להערכת ההכחדה של הבינגר. ה"גרדיאן", מצדו, בדק מדוע אזהרת יום הדין הספציפית הזו פרצה במקום שבו התפוגגו קודמות.
האזעקות נתקלו בלעג גלוי מצד חלקים מתעשיית הטכנולוגיה. מנכ"ל חיבוק פייס, קלמנט דלאנג', לעג להחלטה להפוך את קוקסון לשופר לסיכון הכחדה, וכתב: "מצטער, אבל לשאול את ג'ייקוב על סכנת הכחדה של AI זה כמו לשאול את איש ה-AC שלך על שינויי אקלים". מנכ"ל Grindr, ג'ורג' אריסון, הרחיק לכת, וטען שהפחדים נובעים ממניעים מסחריים. "הדרך היחידה להצדיק את הערכות השווי האלה היא למעשה לטעון: 'אני הולך להשתלט על כל תעשייה ואני הולך להשתלט על כל עבודה, וה-AI שלי יעשה את כל העבודה הזו'", אמר.
יש גם כמות עצומה של כסף על תוצאות הדיון הזה. אנתרופיק מתכוננת להנפקה ראשונית לפי שווי של 965 מיליארד דולר, בעוד ש-OpenAI - לאחרונה מוערכת ב-852 מיליארד דולר - הייתה צפויה לצאת להנפקה לפני שהמנכ"ל סם אלטמן אמר ביום שישי כי הנפקה לא תתקיים השנה בשל מחלוקת הבטיחות. מבקרים כמו אריסון טוענים שרטוריקת האבדון וגובה הגיוס הם שני צדדים של אותו מטבע; תשובתו של קלארק היא שהענף חייב לשנות מסלול ללא קשר.
אם מתג הרג חובה וניתן לאימות יהפוך לחוק אי פעם יהיה תלוי במחוקקים שעד כה הראו תיאבון מועט להגביל תעשייה שמניעה את הכלכלה האמריקאית. אבל בפעם הראשונה, אחד מהמקורבים החזקים ביותר של הטכנולוגיה מזמין אותם בפירוש לנסות.
---
הישאר לפני AIקבל את החדשות, הניתוחים ופריצות הדרך האחרונות של AI - הכל במקום אחד.
קרא עוד חדשות AI →
