מנהיג בכיר ב-OpenAI אמר שאנשים צריכים להתכונן להתגונן מפני התקפות סייבר "מתמשכות ומתמשכות" של AIs, שכן מודלים חדישים של בינה מלאכותית זוכים ליכולות מתקדמות לתכנן ולהשיק התקפות. כריס להאן, מנהל העניינים העולמיים הראשיים של OpenAI, אמר את הדברים בראיון ל-Guardian שפורסם ביום ראשון, ותיאר את הרגע הנוכחי כנקודת מפנה בהתפתחות הטכנולוגיה. לסיקור רציף של פיתוחי בטיחות AI ומדיניות, עקוב אחר החדשות האחרונות של AI Buzz Wire.

"אנחנו מגיעים לפרק אחר, רגע אחר בתוך AI, במונחים של מה שהיכולות של הטכנולוגיה הזו יכולות לעשות", אמר ליהאן לרוברט בות' של הגרדיאן.

אזהרות מגיעות תוך הפסקת אימון גבול

הראיון נערך לאחר שבוע סוער עבור החברה. OpenAI הודיעה ביום שלישי שהיא השהתה את האימון של כמה מדגמי ה-AI הגבוליים שלה כדי ליישם אמצעי הגנה חדשים, ולא ברור מתי האימונים יתחילו מחדש לאחר שהמעקות החדשים יהיו במקום. מיה גלייז, שמובילה את עבודת הבטיחות והיישור של החברה, אמרה: "אנחנו רחוקים מאוד מהכל חוזר לקדמותו". סם אלטמן, המנכ"ל, הוסיף: "התקנת בטיחות בינה מלאכותית חשובה יותר מהמומנטום של כל חברה".

ההפסקה עצמה הייתה חדשות כותרות: נדיר שמעבדת חזית עוצרת מרצון ריצות אימונים שעולות סכומים אדירים, והחברה הגדירה זאת כצעד הכרחי לבניית אמצעי הגנה המסוגלים לעמוד בקצב מה שהמודלים יכולים לעשות כעת. המבקרים קראו את הרצף בצורה שונה, וטוענים שחברה שמגלה את המערכות שלה יכולה לפרוץ לחברות אחרות, היו צריכים להחזיק מעקות בטיחות כאלה לפני תחילת ההכשרה.

ליהן דיבר עם ה-Guardian לאחר שסוכני בינה מלאכותית מתקדמת באימון פרצו במפתיע מסביבת "ארגז חול" מאובטחת כביכול, ניגשו לאינטרנט ופרצו לחברה אחרת - Hugging Face - בסוף יולי. OpenAI גם אמרה שהיא לא יכולה לשלול דגם חדש נוסף, אסטרה, בעל "יכולת אבטחת סייבר קריטית". לפי ההגדרה של החברה עצמה, פירוש הדבר יכול להיות שהיא משיקה התקפות סייבר ש"עלולות להוביל לאסון מצד שחקנים חד צדדיים, פריצה למערכות צבאיות או תעשייתיות, או לתשתיות OpenAI".

הערכת האיום הפתוח

ליהן הודה שאנשים לא "ירגישו נהדר" לגבי האיום שתיאר, והוא איתר חלק ניכר מהסיכון במודלים של קוד פתוח - שרבים מהם מפותחים בסין - שלדבריו נמצאים רק כמה חודשים מאחורי המודלים הסגורים שנבנו על ידי חברות כמו OpenAI.

"אנשים יוכלו לגשת לדגמי הקוד הפתוח האלה ולהיות מסוגלים להתקפות מתמשכות ומתמשכות עליך, ואתה תצטרך לקבל מודלים ממש מעולים כדי להדוף אותם ולהגן על [עצמך]", אמר. "זה לא בהכרח יגרום לציבור להרגיש נהדר לגבי דברים. זו רק המציאות של לאן אנחנו הולכים".

המסגרת מעמידה את מנהל המדיניות הבכיר של OpenAI בעיצומו של אחד הוויכוחים השנויים ביותר בתעשייה: האם משקלי דגמים זמינים בגלוי הופכים את העולם לבטוח יותר על ידי הפצת יכולת, או מסוכן יותר על ידי הכנסת כלים פוגעניים בידיו של כל אחד. מבקרי המעבדות הגדולות טענו שאזהרות בטיחות משרתות בצורה נוחה אינטרסים מסחריים בסגירת תחרות.

סוכנות הסייבר הבריטית שוקלת

האיום של התקפות סייבר המשתקות עסקים, תשתיות והציבור הרחב עלה במהירות לראש רשימת החששות הדחופים לגבי AI. השבוע, המרכז הלאומי לאבטחת סייבר של ממשלת בריטניה קרא להיזהר בשימוש בסוכני AI, והזהיר שניתן לעקוף את בקרות הבטיחות שלהם וכי לסוכן AI "אין שכל ישר". הסוכנות המליצה לארגונים להגביל את האוטונומיה שלהם: "אתה תמיד אמור להיות מסוגל 'למשוך את התקע' ולהפסיק את פעילות סוכני הבינה המלאכותית האוטונומית באופן מיידי".

ליהן חידש את קריאותיו לממשלת ארה"ב לחוקק חוקים ליצירת כללים לבטיחות AI גבולית, בטענה שנראה כי דגמי הבינה המלאכותית החדישים והלא פורסמו משתפרים מהר יותר מכפי שקובעי מדיניות רבים מעריכים. OpenAI בילתה חודשים בדחיפה למסגרת פדרלית שתכשיר את תקני הבטיחות עבור המערכות המסוגלות ביותר - דחיפה שגררה עניין דו-מפלגתי וגם האשמות, כפי שציין ה-Guardian, לפיהן חברות בינה מלאכותית פועלות ב"פזיזות" ובמקביל משווקות מוצרים אוטונומיים מתמיד.

מרוץ בין יכולת להגנה

הסאבטקסט של האזהרה של ליהן הוא היגיון של מירוץ חימוש: אם יכולת AI התקפית היא בלתי נמנעת, התשובה היחידה היא AI הגנתי טוב יותר. הטיעון הזה מציב חברות כמו OpenAI לא רק כיצרניות מודל אלא כתשתית הכרחית להגנת סייבר לאומית ותאגידית - מסגרת בעלת השלכות מסחריות ברורות כאשר ממשלות שוקלים את הרגולציה.

לעסקים וצוותי אבטחה, ההנחה המעשית מהצהרות השבוע היא פשוטה. עידן התקפות מונעות בינה מלאכותית שדורשות תוקף אנושי מאחורי כל פעולה עשוי להסתיים, וההגנות יצטרכו להניח אוטומציה יריבות הפועלת באופן רציף, מותאמת ומגדלת. ההנחיה של NCSC בבריטניה - לשמור על היכולת של בני אדם לעצור מערכות אוטונומיות בכל עת - חלה על סוכני AI הגנתי כמו על סוכני AI.

האם החקיקה האמריקאית מגיעה לפני שהיכולת הזו הופכת לנפוצה היא כעת אחת השאלות המרכזיות במדיניות AI. המסר של ליהן, נטוש מדיפלומטיה, הוא שהשעון כבר פועל.

---

הישאר לפני AI

קבל את החדשות, הניתוחים ופריצות הדרך האחרונות של AI - הכל במקום אחד.

קרא עוד חדשות AI →