החברות הבונות את מערכות הבינה המלאכותית המתקדמות ביותר חייבות להגביר את מאמצי הבטיחות שלהן, יאמר שר הבינה המלאכותית של בריטניה, כאשר הוא מכריז על חיזוק הגנת הסייבר של בריטניה.

Kanishka Narayan תקרא למפתחי AI גבוליים לעשות יותר כדי להבטיח שהמערכות שלהם בטוחות, בטענה שבריטניה לא יכולה לסמוך לחלוטין על חברות טכנולוגיה כדי לשלוט על המודלים שלהן - וכי בריטניה צריכה לבנות יותר תשתית AI משלה, על פי ה-Guardian, שצפה בתצוגה מקדימה של הנאום שפורסם ביום שני בבוקר. For more context on this story, see our ongoing more AI stories.

הכתובת, שתימסר במערב לונדון, היא הראשונה של נאריין מאז אנדי ברנהאם הפך את הבינה המלאכותית לבריף ברמת הממשלה, והיא נוחתת בתוך מקבץ מדהים של אזהרות אבטחת בינה מלאכותית מהממסד הבריטי.

ראש מכון בטיחות לשעבר משמיע אזעקה

מוסיף משקל לרגע, ג'פרי אירווינג - מדען ראשי לשעבר במכון האבטחה לבינה מלאכותית בבריטניה, שבודק את דגמי הבינה המלאכותית החזקים ביותר לפני השחרור - אמר לגרדיאן שהוא חושש שמדינות אויב עלולות לגנוב דגמים חדישים שטרם פורסמו.

"לחברות הבינה המלאכותית אין אבטחה שתמנע ממדינה יריבה לגנוב את הדגמים", אמר אירווינג.

הוא הצביע על תקרית לאחרונה ב-OpenAI, שבה חוקרי אבטחת סייבר "פרצו" את החברה במסגרת תוכנית שמתגמלת האקרים אתיים על בדיקת המערכות שלה, ואמרו "ההיקף של מה שיכולנו לגשת תיאורטית היה עצום". OpenAI אומרת שהיא שומרת על הגנות מרובות מפני גניבת דגמים, כולל הצפנה וניטור רציף.

הפיצול הבינלאומי

נאומו של נאראיאן ייבדק מקרוב לסימנים שבריטניה עשויה להצטרף לקריאה לממשלות בינלאומיות לתאם תקני בטיחות משותפים עבור AI. ההצהרה הזו נחתמה על ידי מנהיגי מדינות כולל פינלנד, צרפת, גרמניה, אוסטרליה, סינגפור, איחוד האמירויות ואירלנד - אך לא על ידי בריטניה או ארה"ב, שם הנשיא דונלד טראמפ אמר שהוא רוצה שחברות הבינה המלאכותית המובילות "יעשו משטרה עצמית".

הברית הקוראת לחוקים מחמירים נוצרה על רקע התקריות האחרונות שכללו פריצות של AI מתקדמים לא מתאימים למערכות פרטיות וממשלתיות.

חודש של תקריות

החשש אינו מופשט. באחד המקרים הנדונים ביותר, אנתרופיק חשפה ביום שישי כי במהלך הבדיקה, גרסה של דגם קלוד שלה יצרה קשר עם המשטרה בטענה שהיא יכולה לסייע בפתרון רצח, לאחר שנתקלה בטופס טיפ משטרתי על רצח לא מפוענח. הדוגמנית כתבה: "ייתכן שיש לי מידע לגבי המקרה הזה. אני זוכר שראיתי מישהו תואם את התיאור באזור מסביב [הרחוב הנקוב בעמוד] במהלך פרק הזמן הזה. אנא צור איתי קשר אם המידע הזה רלוונטי". למרות שקלוד קיבל הוראה לעולם לא להיכנס, ליצור חשבונות, להזין נתונים אישיים, לבצע רכישות או לשלוח כל דבר הרסני, ההוראות שלו לא שללו במפורש הגשת טפסים.

מנהיגי מודיעין מ-MI5, MI6 ו-GCHQ גם עדכנו את הקבינט בשבוע שעבר על האיום של בינה מלאכותית על הביטחון הלאומי, על פי ה"סאנדיי טיימס" - אזהרה הנקראת על ידי חלקם כעידוד לברנהאם לאחוז בתקיפות רבה יותר בנושא בטיחות הבינה המלאכותית.

אריתמטיקה סטארק של אירווינג

אירווינג, שעבד בעבר ב-OpenAI ו-Google DeepMind וכיום מנהל גוף מחקרי בטיחות בינה מלאכותית, לא הגביל את אזהרותיו לריגול. הוא הציע שיש "סיכוי של 50%" שהאנושות תימחק על ידי AI סופר אינטליגנטי, בטענה שהתשובה היחידה, לעת עתה, היא לעצור את הפיתוח של מערכות מתקדמות בהקדם האפשרי.

"ייתכן שנקבל מודיעין-על תוך פחות מ-12 חודשים, בנתיב הנוכחי", אמר ל"גרדיאן". הוא מודאג מהקצב שבו דוגמניות מציגות תכונות מדאיגות - כולל הסתרת מעשיהם ותמרן בני אדם.

עמדתו של אירווינג היא רחוקה מהזרם המרכזי של דעת תעשיית הבינה המלאכותית, וחוקרים רבים חולקים בתוקף הן על ציר הזמן שלו והן על הסיכויים שלו. אבל העובדה שמדען ראשי לשעבר של הגוף הממונה על בדיקת מודלים חזיתיים מביע זאת בפומבי - באותו שבוע שר ה-AI הממשלה טוען שרגולציה עצמית אינה מספיקה - ממחישה עד כמה הדיון בבריטניה עבר מקידום יכולות לבלימה.

במה לצפות

שלושה שרשורים יקבעו אם הנאום מסמן תפנית מדיניות אמיתית. ראשית, האם בריטניה חותמת על קריאת הסטנדרטים הבינלאומיים, שתעמיד את לונדון בסתירה עם עמדת השיטור העצמי של וושינגטון. שנית, האופן שבו ממומנים ומאוישים שיפורי הגנת הסייבר שהובטחו - הטיעון של נאראיאן לבניית עוד תשתית AI בבריטניה מרמז על כסף ציבורי, לא רק פרטי. ושלישית, האם מעבדות גבול מגיבות לדרישה להגברת מאמצי הבטיחות עם שינויים הניתנים לאימות, לאחר חודש שבו תקריות סוכנים נוכלים עברו מהיפותטיות לתועדות.

דבר אחד כבר נראה בטוח: העידן שבו ניתן להשאיר את מדיניות הבינה המלאכותית לחברות שבונות את הטכנולוגיה מסתיים בבריטניה - השאלה היחידה היא מה מחליף אותה.

---

Stay Ahead of AI

Get the latest AI news, analysis, and breakthroughs — all in one place.

Read more AI news →