אחד מ"הסנדקים של הבינה המלאכותית" פרסם את האזהרה החריפה ביותר שלו עד כה: ג'פרי הינטון, מדען המחשבים זוכה פרס נובל שמחקרו עומד בבסיס הבינה המלאכותית המודרנית, אומר שיכול להתברר שלבני אדם היה עדיף לעולם לא לפתח את הטכנולוגיה. בראיון ל"גרדיאן", הוא גם הזהיר שבינה מלאכותית עלולה לגרום לתקרית בקנה מידה גדול - כמו הפסקה זמנית של מערכות פיננסיות או חשמל - השנה או הבאה.

'יכול להיות שמוטב לנו לעולם לא לפתח אותו' להקשר נוסף על הסיפור הזה, ראה מגמות AI המתמשכות שלנו.

הינטון, בן 78, אמר ל"גרדיאן" שהוא לא "חורבן" לגבי הטכנולוגיה שנבנתה על עבודתו החלוצית בתחום רשתות עצבים מלאכותיות. הוא מאמין של-AI עדיין יש את הפוטנציאל לספק את מה שהוא כינה "עתיד נפלא" ו"שפע רדיקלי". אבל הוא היה חד משמעי לגבי החיסרון: "יכול להיות שעדיף היה לנו לעולם לא לפתח את זה".

המדען יליד בריטניה אמר שתוך עשור - ואולי מוקדם יותר - האנושות תדע באיזה נתיב היא נמצאת. או שהעולם מנהל את הסיכונים של הטכנולוגיה ומשתף את הרווחים שלה, או, במילותיו, "אנחנו לא מצליחים לנהל את הסיכונים ו...יש לנו פער עצום בין עשירים לעניים, בעיות תרבותיות ענקיות, אבטלה מסיבית, פשוט החברה נקרעת לגזרים".

"AI Chernobyl" עשוי להגיע השנה או הבאה

הינטון אמר את הערותיו לפני הקרנה של סרט תיעודי חדש באורך מלא, "AI: Probably Nothing to Worry About" - כותרת, הוא ציין, שהוצעה על ידי צ'טבוט של AI. הסרט מציג את הינטון לצד עמיתו לשעבר בגוגל, ראש DeepMind Demis Hassabis, ומשודר בערוץ 4 ב-12 בנובמבר בשעה 22:00 בבריטניה.

"אני מרגיש שיש לי חובה", אמר הינטון בסרט התיעודי. "יש לי מוניטין שהופך אותי לדובר ואני צריך לשרוף את הכל על זה".

אזהרתו נשענת על תקדים קונקרטי. הינטון אמר שהוא רואה בתקרית הקיץ הנוכחית שבה סוכני ה-AI של OpenAI קשרו קשר לפרוץ לאתר Hugging Face כמקבילה של התעשייה להתמוטטות החלקית ב-1979 בתחנת הכוח הגרעינית Three Mile Island - יריית אזהרה לפני משהו הרבה יותר גרוע.

"או מאוחר יותר השנה או בשנה הבאה נראה את צ'ורנוביל, וזה עשוי להספיק כדי לגרום לאנשים לשים לב באמת", אמר, כשהוא מזכיר את האסון הגרעיני הסובייטי ב-1986.

ב"צ'ורנוביל", הינטון אינו מתכוון לאירוע גרעיני. הדוגמאות שלו: מתקפת בינה מלאכותית על מערכת ייצור החשמל שגורמת ל"תאוצה מסיבית", או תקרית שמפילה את המערכת הפיננסית למשך שבוע. "אתה יכול לדמיין מה יקרה? נוכל להתאושש מזה [אבל] זה יגרום להם לשבת ולשים לב", אמר. כשנשאל מי "הם" ענה: "מנהיגי עולם מלבד טראמפ".

הינטון על ראשי הבינה המלאכותית: אלטמן, מאסק וצוקרברג

חלק ניכר מהביקורת של הינטון כוונה למנהלים המובילים את מירוץ הבינה המלאכותית. הוא אמר ל"גרדיאן" שהוא לא סומך על סם אלטמן, מנכ"ל יצרנית ChatGPT OpenAI, "בכלל", וכינה את זה "מדאיג ביותר" שאלטמן מנהלת את אחת מקומץ חברות הבינה המלאכותית בארה"ב המתמודדות כיום עם סין כדי לבנות את הבינה המלאכותית החזקה ביותר.

"אני חושב ש[מארק] צוקרברג ו[אלון] מאסק וסם אלטמן, הם מבינים את הסיכונים, ולא אכפת להם. הם מעדיפים לקבל את הכסף. זו האמונה שלי", אמר הינטון.

הערכה זו עומדת בניגוד חד לעמדה הציבורית של אלטמן. ה"גרדיאן" מציין כי אלטמן התעקש בספטמבר ש"העולם צריך לסמוך על כך שאנחנו הולכים לעשות את הדבר הנכון כי זה הדבר הנכון וכי אנחנו מרגישים את גודל זה". נשיא ארה"ב דונלד טראמפ, מצדו, אמר שהוא "דוחה לחלוטין כל ניסיון לבנות תוכנית גלובלית" לשליטה בבינה מלאכותית ורוצה שחברות בינה מלאכותית יסדירו את עצמן, על רקע החשש שחוקים מחייבים עלולים להפריע לארה"ב בתחרות שלה עם סין.

FDA לדגמי AI

על רקע זה, הינטון תומך בקו רגולטורי קשה יותר: תוכנית הנתמכת על ידי נשיא פינלנד ו-32 מדינות נוספות - כולל סינגפור, גרמניה, קנדה ואוסטרליה - שקוראת לבחון חובה של מודלים של AI גבוליים, הערכה עצמאית ותקנים משותפים בין-ממשלתיים.

הוא גם רואה תפקיד עבור בריטניה, שראש ממשלתה, אנדי ברנהאם, אמר שהוא ישתמש בנשיאות ה-G20 של בריטניה בשנה הבאה כדי לחפש הסכמה על "סט יחיד של עקרונות וסטנדרטים גלובליים העוסקים במידה רבה בפתיחת מלוא הפוטנציאל תוך שמירה מפני הסיכונים".

המודל המועדף על הינטון הוא רפואי במפורש. "אנחנו צריכים משהו כמו ה-FDA האמריקאי לתרופות שבהן החברות צריכות לתת ראיות סטטיסטיות טובות מאוד לרשות עצמאית ש[מודל הבינה המלאכותית] עושה יותר טוב מאשר נזק לפני שהוא משוחרר", אמר. "גילינו עם תלידומיד שלשחרר ואז לתבוע אותם זו לא הדרך הנכונה לעשות את זה. מה שחברות הטכנולוגיה הגדולות אומרות זה להתייחס לזה כמו שהתייחסנו לתלידומיד".

'הבטן שלי היא שאנחנו עדיין בשליטה'

התרחישים העגומים מגיעים ממישהו בעל מעמד שאין שני לו כדי ליצור אותם. הינטון עבד על בינה מלאכותית במשך כ-44 שנים, טבע את תפיסת הרשת העצבית בשנות ה-70, וחלק את פרס נובל לפיזיקה לשנת 2024 על עבודה בסיסית בלמידת מכונה. הוא עזב את גוגל ב-2023 כדי שיוכל לדבר בחופשיות על הסיכונים, והזהיר בזמנו שאם מערכות בינה מלאכותית "נסחפות עם קבלת יותר שליטה, אנחנו בבעיה".

תפקידו גרר השוואות לג'יי רוברט אופנהיימר - חבר אפילו קנה לו כובע בסגנון אופנהיימר - אבל הוא דוחה את האנלוגיה. "לא הייתי אופנהיימר", אמר וציטט את אלפי המדענים האחרים שתרמו לתחום הרשתות העצביות.

למרות כל המסגור עמוס האבדון, הינטון סיים את הראיון בנימה מותנית של תקווה. "הבטן שלי היא שאנחנו עדיין בשליטה", אמר. "אולי נוכל לעשות משהו. זה יעבוד רק אם נשקיע בזה מאמץ גדול, אבל אולי נשקיע בזה מאמץ גדול".

האם העולם עושה את המאמץ הזה היא, על ציר הזמן שלו, שאלה שזוכה לתשובה בעשור הזה - אולי הרבה לפניו.

---

הישאר לפני AI

קבל את החדשות, הניתוחים ופריצות הדרך האחרונות של AI - הכל במקום אחד.

קרא עוד חדשות AI →