ארגוני טרור, כולל דאעש, מנצלים באופן שיטתי כל צ'טבוט מרכזי בינה מלאכותית לתכנון תקיפה, פיתוח נשק ואבטחה תפעולית, על פי מחקר פורץ דרך מתכנית קיימברידג' בנושא מדע ומדיניות בינה מלאכותית (CASP). הממצאים, שפורסמו ב-11 ביולי 2026, מייצגים את העדויות האמפיריות המפורטות ביותר עד כה לקבוצות קיצוניות המנצלות כלי AI זמינים מסחרית. לסיקור שוטף של בטיחות בינה מלאכותית והתפתחויות בתעשייה, בקר ב-AI Buzz Wire.
בתוך מחקר קיימברידג'
החוקרת אנטוניה יוליך ערכה 57 ראיונות עם 27 חברים לשעבר בדאעש ושלוחותיו האזוריות כדי לתעד כיצד ארגוני טרור שילבו בינה מלאכותית בפעילותם. המחקר מצא שדאעש הקימה יחידות בינה מלאכותית ייעודיות בשתי הפלגים הגדולים שלה, תוך התייחסות למודלים של שפות גדולות כתשתית תפעולית מרכזית ולא כלים ניסיוניים.
על פי המחקר, דאעש מציע הכשרה מיידית של הנדסה ופריצת כלא לפעיליו מאז 2023 לפחות. הארגון גם הרחיב הכשרה זו לקבוצות בעלות הברית, כולל מפקדי בוקו חראם בניגריה, מלמד אותם כיצד לעקוף באופן שיטתי מסנני בטיחות בינה מלאכותית שנפרסו על ידי חברות טכנולוגיה גדולות.
כל צ'אטבוט מרכזי נפגע
המחקר מתעד כי פעילי טרור משתמשים באופן פעיל ב-ChatGPT, Claude, Gemini, Grok, Meta AI ו-DeepSeek בכל הפעולות שלהם. הקבוצות משתמשות בבינה מלאכותית עבור:
- תכנון תקיפה - יצירת תרחישים טקטיים וזיהוי נקודות תורפה בתשתית היעד
- בניית מכשירים נפיצים - יצירת מידע טכני לבניית מכשירים מאולתרים חזקים יותר
- תחזוקת נשק - איתור תקלות ותיקון כלי ירייה וציוד אחר
- אבטחה תפעולית - פיתוח אסטרטגיות תקשורת והצפנה מתוחכמות יותר
אולי הדבר המדאיג ביותר, המחקר מצא שמסנני בטיחות בינה מלאכותית שנפרסו על ידי ספקי הצ'אטבוט הגדולים לא הצליחו למנוע באופן מהימן שימוש לרעה זה. החוקרים ציינו כי הקבוצות פיתחו שיטות שיטתיות לעקוף את מעקות הבטיחות הללו, מה שהפך את אמצעי הבטיחות הרצוניים לבלתי יעילים במידה רבה מול יריבים נחושים.
תיאור מקרה קטלני
המחקר כולל דוגמה בולטת במיוחד מ-ISWAP (מחוז מערב אפריקה של דאעש). לפי דיווח שסיפק מפקד ISWAP לשעבר שזוהה כמונזיר, הקבוצה השתמשה בבינה מלאכותית כדי ללמוד כיצד לשחזר טכניקת קפיצה לאופנוע המתוארת בסרט, מתוך כוונה להשתמש בה כדי לפנות תעלות הגנה. תרגיל האימון הוכיח אסון: שמונה עשר לוחמים מתו בניסיון התמרון, בעוד שרק שמונה השלימו את הקפיצה בהצלחה.
אנקדוטה זו ממחישה הן את ההשלכות האמיתיות של שימוש בבינה מלאכותית של טרור והן את האופי הבלתי צפוי לפעמים של המידע שהמודלים הללו מספקים. בעוד שה-AI תיאר במדויק את הטכניקה, הביצוע הפיזי בסביבת לחימה הוביל לתוצאות קטסטרופליות.
יוליך כותב שחברים לשעבר תיארו "התלהבות חזקה" לכלי בינה מלאכותית בתוך הארגון, וחלקם ציינו כי הקבוצה שקלה בעבר לפתח נשק להרוגים המוני תוך שימוש במידע שמקורו בבינה מלאכותית. בעוד שהשימוש של Boko Haram ב-AI נותר עד כה קונבנציונלי, החוקר מזהיר שיש לקחת זאת כאינדיקטור מוקדם לאיום רחב יותר.
"זו צריכה להיות אזהרה לקחת ברצינות את הסיכון של טרוריסטים לרדוף אחר סיוע בינה מלאכותית לנשק כימי וביולוגי", מסכם המחקר.
מסנני בטיחות הוכחו כלא מתאימים
ממצאי המחקר על מסנני בטיחות בינה מלאכותית מדאיגים במיוחד את תעשיית הטכנולוגיה. למרות מיליארדי דולרים שהושקעו במתן תוכן, שיתוף פעולה אדום ומעקות בטיחות, המחקר מראה שמשתמשים נחושים יכולים לעקוף את ההגנות הללו באופן עקבי.
Anthropic עצמה כבר הודתה בעבר שפריצות לכלא - טכניקות לעקוף אמצעי בטיחות בינה מלאכותית - כנראה לעולם לא יבוטלו לחלוטין ממודלים של שפות גדולות. מחקר קיימברידג' מספק ראיות קונקרטיות התומכות בהערכה זו, המראה שאפילו שחקנים שאינם ממלכתיים בעלי מומחיות טכנית מוגבלת יכולים ללמוד להביס באופן שיטתי מסנני בטיחות באמצעות הכשרה משותפת וטכניקות הנדסה מיידיות.
עם זאת, החוקרים ציינו גם ניואנס חשוב. צ'אטבוטים למטרות כלליות כמו ChatGPT וקלוד, תוך שהם מקבלים את תשומת הלב הציבורית הגדולה ביותר, הופכים בעיקר את הידע הקיים לנגיש יותר במקום לייצר מידע מסוכן חדש באמת. החשש הגדול יותר לטווח ארוך, הם טוענים, טמון במערכות בינה מלאכותיות מיוחדות המפותחות עבור מדעי החיים ותחומים רגישים אחרים, שבהם בינה מלאכותית יכולה להאיץ את הגישה לאיומים חדשים באמת.
השלכות על מדיניות AI
ממצאי קיימברידג' מגיעים ברגע קריטי לממשל בינה מלאכותית. ממשלות ברחבי העולם מתלבטות כיצד להסדיר מודלים של AI גבוליים, כאשר חוק ה-AI של האיחוד האירופי כבר בתוקף וארצות הברית רודפת אחר התחייבויות בטיחות מרצון ממעבדות AI מובילות.
מהמחקר עולה כי הגישות הנוכחיות המתמקדות ברגולציה עצמית מרצון בתעשייה עשויות להיות לא מספיקות כדי למנוע שימוש זדוני בכלי AI. העובדה שדאעש הפעיל תוכניות הכשרה ייעודיות לבינה מלאכותית במשך שנים ללא זיהוי על ידי ספקי פלטפורמה מעלה שאלות קשות לגבי יעילותם של אמצעי הבטיחות הקיימים.
מומחי אבטחה מזהירים זה מכבר שמודלים של AI עלולים להפוך את הגישה לידע מסוכן לדמוקרטיה. המחקר של קיימברידג' מספק את הראיות האמפיריות המשכנעות ביותר עד כה לכך שהאיום הזה אינו תיאורטי אלא כבר מבצעי, כאשר ארגוני טרור משלבים AI באופן פעיל בפעילויות היומיומיות שלהם.
הממצאים גם מסבכים את הדיון המתמשך על מודלים של AI בקוד פתוח. בעוד שלדגמים קנייניים כמו ChatGPT וקלוד יש מסנני בטיחות שניתן לעדכן ולשפר, חלופות קוד פתוח כמו DeepSeek - שהמחקר מאשר שדאעש משתמש בה - אינן מציעות שליטה מרכזית כזו. לאחר שחרור דגם פתוח, לא ניתן לשנות את מאפייני הבטיחות שלו על ידי המפתח המקורי.
בעוד ממשלות וחברות בינה מלאכותית מתמודדות עם האתגרים הללו, מחקר קיימברידג' מבהיר דבר אחד: הפער בין יכולות הבטיחות לחדשנות יריבות הולך ומתרחב, וארגוני טרור מנצלים אותו באופן פעיל.
הישאר לפני AI
לסיקור נוסף של בטיחות, מדיניות והתפתחויות בתעשייה, בקר ב-AI Buzz Wire.
קרא עוד חדשות AI →
