המלך צ'ארלס השלישי הוציא אזהרה חריפה על "הסכנות הקיומיות" של בינה מלאכותית ביום חמישי, ופנה למנהלים מ-Nvidia, Google DeepMind ו-OpenAI שהתכנסו באחוזתו של בית דמפריס בסקוטלנד לפסגה ברמה גבוהה על עתיד הטכנולוגיה.
המונרך אמר למנהיגי התעשייה הנאספים שיש דחיפות להתמודדות עם הסיכונים הנשקפים ממערכות AI חזקות יותר ויותר, במיוחד אם הטכנולוגיה נשלטת בסופו של דבר על ידי שחקנים זדוניים. For more context on this story, see our ongoing artificial intelligence updates.
"נראה שיש דחיפות בהתחשבות נאותה בסכנות הקיומיות של טכנולוגיות כאלה ליפול לידיים הלא נכונות, ולהשתמש בדרכים שעלולות להיות קטסטרופליות", אמר המלך למנהיגים שהתאספו באחוזת איירשייר, על פי דיווח של חדשות ABC ומספר רב של רשתות אחרות.
מסר כפול: הבטחה וסכנה
כתובתו של המלך לא הייתה דחייה גורפת של הטכנולוגיה. הוא הודה שבינה מלאכותית טומנת בחובה פוטנציאל עצום לטובה, והצביע במיוחד על מדעי החיים והרפואה, שבהם נעשה שימוש הולך וגובר בכלי בינה מלאכותית כדי להאיץ את המחקר ולשפר את תוצאות המטופלים.
אבל הוא שילב את האופטימיות הזו עם זהירות שיוצרי הטכנולוגיה עצמם הזהירו יותר ויותר שמערכות מתקדמות עלולות לפתח יכולות אפלות יותר, "אולי אפילו לקחת חיים", אמר, על פי דיווחו של השדרן על דבריו.
המלך קרא גם להפעיל אמצעי הגנה לפני שיהיה מאוחר מדי לשלוט במסלול הטכנולוגיה, והעלה את ההשפעה הסביבתית של פיתוח בינה מלאכותית, נושא שגרר בדיקה הולכת וגוברת כאשר מרכז הנתונים מתאמץ רשתות חשמל במספר מדינות.
מי השתתף בפסגה הסקוטית
רשימת האורחים נקראת כחתך רוחב של הדמויות החזקות ביותר בתעשיית הבינה המלאכותית. המשתתפים כללו את מייסד ומנכ"ל Nvidia Jensen Huang, מייסד Google DeepMind Demis Hassabis ומנהלת הכספים הראשית של OpenAI, שרה פריאר, לפי חדשות ABC. גם השרה הבריטית לבינה מלאכותית, קאנישקה נאראיאן, נכחה.
הואנג הוזמן להיפגש עם המלך כדי לדון במנגנוני בטיחות בתעשייה, על פי תמונות וכיתובים שהפיץ רויטרס. גם האב פאולו בננטי, יועץ האפיפיור שקרא לממשלות להאט את פיתוח הבינה המלאכותית, היה צפוי להשתתף בדיונים.
בחירת המקום והכינוס חשובה. המלוכה הבריטית אינה נושאת סמכות רגולטורית, אך למלך יש היסטוריה ארוכה של מעורבות ציבורית בסיכונים טכנולוגיים מתעוררים, והפסגה העניקה לדמויות הבכירות ביותר בתעשייה שולחן משותף ברגע שבו הקריאות לפיקוח מתעצמות משני צדי האוקיינוס האטלנטי.
דיון התחדש
המפגש מגיע על רקע חידוש הדיון הציבורי על סיכון AI. הדיון הוחזר אל אור הזרקורים לאחר ששני חוקרים אנתרופיים הזהירו כי הטכנולוגיה המתקדמת במהירות עלולה להוביל להכחדה אנושית בעתיד הלא רחוק, הערות שגררו סיקור נרחב וביקורת במידה שווה.
המנכ"ל האנתרופי דריו אמודי קרא בנפרד לחברות להאט את קצב פיתוח הבינה המלאכותית. האפיפיור ליאו ה-14 דחק בממשלות ברחבי העולם להאט את הפיתוח של מערכות בינה מלאכותית ולמתן את ההשפעות המפריעות שלהן, בעוד נשיא ארה"ב דונלד טראמפ התערב גם הוא בדיון, והפך את שאלת ממשל הבינה המלאכותית לנושא פוליטי גלובלי אמיתי ולא טכני גרידא.
על רקע זה, גובר החשש שמאמצי הבטיחות של בינה מלאכותית מפגרים מאחורי הפיתוח של מערכות יותר ויותר מסוגלות. בשבועות האחרונים התרכז הוויכוח בשאלה האם התעשייה יכולה וצריכה לווסת את עצמה, כשספקנים שואלים האם למנהלים שקוראים לנקוט זהירות עשויים להיות מניעים נסתרים, כמו עיצוב כללים המשמרים את ההובלה התחרותית של חברות מסוימות.
לא צפויים כללים מחייבים
המארגנים מעולם לא הגדירו את הפגישה הסקוטית כמשא ומתן. לפי חדשות ABC, הפגישה לא צפויה לייצר הסכמים מחייבים. מטרתו, לפחות נומינלית, היא חקרנית: האם קבוצה משותפת של עקרונות יכולה להנחות את אופן יישום הבינה המלאכותית על פני גבולות ותעשיות.
ארמון בקינגהאם אמר שהדיונים ישקלו האם ניתן להנחות את הבינה המלאכותית "לא רק כמניע של יכולת ויעילות, אלא ככלי המקיים את כבוד האדם ותורם לשגשוג של אנשים וכדור הארץ כאחד".
המסגור הזה משקף נושא שהמלך חזר אליו שוב ושוב: שהשאלה היא לא רק אם אפשר להפוך את הבינה המלאכותית לבטוחה, אלא בשביל מה זה צריך להיות. ההערות של יום חמישי חידדו את הנקודה הזו לאזהרה לגבי בעלות ושליטה, דגש שונה במיוחד מהפחדים הממוקדים ביכולות השולטים ברוב דיוני הסיכון של AI.
מה קורה אחר כך
לא סביר שהפסגה תייצר מדיניות בפני עצמה, אבל היא מוסיפה מומנטום לסדרה של מאמצים רשמיים שכבר החלו. בריטניה מיקמה את עצמה ככונסת בנושא בטיחות בינה מלאכותית מאז פסגות הבינה המלאכותית המוקדמות שלה, ונוכחותו של שר מסור לבינה מלאכותית מאותתת שהממשלה מתכוונת להישאר מעורבת עם מפתחי בינה מלאכותית הן בארה"ב והן בסין.
עבור החברות בחדר, החשבון עדין. Nvidia, DeepMind ו-OpenAI כולן מתמודדות עם לחץ מסחרי לשלוח מערכות בעלות יכולת הולכת וגוברת, אפילו כשהחוקרים שלהן מפרסמים אזהרות לגבי מה שמערכות אלו עשויות לעשות בסופו של דבר. זימון מלכותי אינו פותר את המתח הזה, אבל הוא כן מבטיח שהמתח יישאר גלוי.
המסר המרכזי של המלך, שאמצעי הגנה חייבים להגיע לפני שהטכנולוגיה תחמוק מיכולתו של מישהו לשלוט בה, נוחת בשבוע שבו שיח הבטיחות של התעשייה היה רועש בצורה יוצאת דופן, החל מהחשיפה של OpenAI על מספר אירועי בטיחות הכוללים מודלים משלה ועד למחלוקת ציבורית מתעצמת בין מנהיגות הבינה המלאכותית של מיקרוסופט לבין מנהיגות ה-AI האנתרופית.
האם ההתכנסות של יום חמישי תתורגם למשהו יותר קונקרטי נותר לראות. אבל כשהמנהיגים של יצרנית השבבים היקרה בעולם ומעבדות הבינה המלאכותית הבולטות ביותר יושבים בבית כפרי סקוטי, ומסכימים לכל הפחות שההימור הוא קיומי, השיחה על מי שולט בבינה מלאכותית ולטובת מי, עברה באופן מכריע לשטח פתוח.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
