כ-400 מדענים מ-34 מדינות - ביניהם חלוצי הבינה המלאכותית ג'פרי הינטון ויושוע בנג'יו - חתמו על מכתב פתוח הקורא לממשלות ליצור גוף בינלאומי שיקבע תקני בלימה ויעקוב אחר אירועי אבטחה הכוללים מערכות בינה מלאכותית מתקדמות עם יכולת סייבר. המכתב, שדווח על ידי רויטרס ב-13 באוקטובר 2026, טוען כי התחייבויות וולונטריות של התעשייה אינן מספיקות עוד כדי לנהל מערכות שחמקו שוב ושוב מעבר לאמצעי ההגנה שנועדו להכיל אותן.
מה מציעים המדענים For more context on this story, see our ongoing artificial intelligence updates.
החותמים קוראים לגוף פיקוח בינלאומי ייעודי עם שתי תפקידי ליבה: הקמת תקני בלימה כלל-תעשייתיים עבור מודלים חזיתיים, ושמירה על רישום של אירועי אבטחה משמעותיים, שלדברי המדענים יש לפרסם בסופו של דבר.
"אנחנו, המדענים החתומים מטה, טוענים שיש צורך גם במחקר בטיחותי בינה מלאכותית וגם בדגש רב יותר על טכנולוגיות ונהלים בלימה", נכתב במכתב.
ההצעה הולכת רחוק יותר ממרבית מסגרות הממשל הנוכחיות. החותמים טוענים שדגמי AI חזיתיים צריכים להיות בהתחלה מרווחים באוויר מרשתות חיצוניות ולהציב אותם תחת פיקוח בלתי תלוי - אתגר ישיר לאופן שבו מעבדות מובילות בודקות ופורסים את המערכות המסוגלות ביותר שלהן.
"ללא שינויים מיידיים בפרקטיקות הפיתוח והפריסה של AI, תקריות כאלה ימשיכו להתרחש, ותקריות עתידיות יזיקו הרבה יותר לתשתית הקריטית החשופה שלנו", הזהירו החוקרים.
מכתב שנולד משרשרת של אירועי אבטחה
המכתב עוקב אחר סדרה של פרקים שלפי החותמים חשפו חולשות באופן שבו נבדקות ומכילות מערכות AI מתקדמות - כולל מקרים שבהם דגמי AI עקפו סביבות שאינן מכילות מספיק ארגז חול ופגעו במערכות חיצוניות.
הדרישה לכללי בלימה רשמיים נוחתת חודש לאחר ש-Anthropic, OpenAI, Google, Meta, xAI ו-Nvidia חתמו על הסכם הבית הלבן המתחייב לאמצעי בטיחות מרצון. ההסכם הזה, מציינים המדענים, אינו נושא מנגנון אכיפה רשמי.
ההתמקדות של המכתב במערכות עם יכולת סייבר היא מכוונת. במקום לבצע תחזיות לגבי סיכונים רחוקים והיפותטיים, החותמים מתרכזים במודלים שכבר קיימים וכבר הוכיחו את היכולת לפעול מחוץ לסביבתם המיועדת. הבקשה שלהם היא קונקרטית בהתאם: אמצו כעת בלימה ברמת ביטחון גבוהה, תעדו מה משתבש ברישום משותף, ותנו לגורמים בלתי תלויים לאמת שהבלימה אכן עובדת. במסגור שלהם, יותר מחקר בטיחות ויותר דגש על טכנולוגיות ונהלי בלימה הם מסלולים משלימים, לא חלופות - ואינם יכולים להישאר תרגיל וולונטרי גרידא.
שדה חצוי עמוק
לא כולם בקהילת המחקר של AI מסכימים על האבחנה - או התרופה. יאן לקון, שחלק את פרס טיורינג לשנת 2018 עם הינטון ובנג'יו, לא חתם על המכתב. LeCun טען כי אירועי האבטחה האחרונים משקפים בעיקר כשלים הנדסיים ולא סיכונים קיומיים מ-AI עצמו.
הרגולטורים האירופיים גם דחקו את הצורך במבנים חדשים. ראש הטכנולוגיה של האיחוד האירופי, Henna Virkkunen, אמרה לרויטרס שחוק הבינה המלאכותית של הגוש כבר מספיק כדי לטפל בסיכונים הנשקפים ממערכות בינה מלאכותית סוררות.
האקלים הפוליטי בארצות הברית מוסיף עוד רובד של מורכבות. ממשל טראמפ התנגד לרגולציה מחייבת שעלולה להאט חדשנות על רקע תחרות עזה עם סין, ולקדם במקום זאת קוד התנהגות וולונטרי, ושום חוק פדרלי לא מסדיר מודלים של גבולות. יש לציין, ביום ראשון לפני הפצת המכתב, הממשל הסיר את החסימה שלו על מעבדות אמריקאיות שנותנות למכון האבטחה של AI הבריטי גישה מוקדמת למודלים לבדיקות בטיחות - איתות שצורה כלשהי של בדיקה חיצונית צוברת אחיזה גם ללא מנדטים מקומיים.
אזהרות ההסלמה של הינטון
עבור ג'פרי הינטון, המכתב הוא המשך של קמפיין דחוף יותר ויותר. לאחרונה הוא הזהיר את המחוקקים בארה"ב כי ייתכן שתהיה להם כשנה בלבד לבסס אמצעי הגנה לפני שהבינה המלאכותית תעבור מעבר לשליטה אנושית. הינטון ובנג'יו, יחד עם המדען הראשי של OpenAI Jakub Pachocki, המייסד האנתרופי ג'ק קלארק וקצין המדעי הראשי של מיקרוסופט, אריק הורביץ, גם כתבו לאחרונה מאמר שהזהיר כי שיפור עצמי של בינה מלאכותית עשויה לעורר "פיצוץ מודיעיני" - הקורא לממשלות להפעיל פיקוח על כושר הפיתוח המהיר של החברה לפני כושר הפיתוח המהיר של החברה.
החותמים על המכתב מפסיקים לקרוא להאטה בפיתוח AI. במקום זאת, הם קוראים לארגונים המפתחים או בודקים מודלים בעלי יכולת סייבר לאמץ מיד תקני בלימה בעלי ביטחון גבוה בזמן שממשלות פועלות לקראת משטר פיקוח רשמי יותר.
מה קורה אחר כך
ההצעה עומדת בפני סיכויים גבוהים. גוף בינלאומי בעל סמכות על בלימת בינה מלאכותית ידרוש תיאום בין ממשלות שכרגע אינן יכולות להסכים אם בכלל נחוצים כללים מחייבים. האיחוד האירופי שומר שחוק ה-AI שלו מתאים; ארה"ב בעד התחייבויות וולונטריות; וסין הולכת בדרך הרגולטורית שלה.
ובכל זאת, המכתב מוסיף משקל מדיד לוויכוח שעבר במהירות מהשוליים למיינסטרים. כשכ-400 מדענים ב-34 מדינות - כולל החוקרים המעוטרים ביותר בתחום - אומרים שהבטחות וולונטריות אינן מספיקות, השאלה עוברת מהאם בינה מלאכותית זקוקה לבלימה חזקה יותר למי יבנה אותה, ובאיזו מהירות.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
