האינטרפול אומר ש-126 חשודים בלוחמים זרים בטרור זוהו באמצעות מבצע מקוון שהשתמש בבינה מלאכותית כדי לעבד כמויות עצומות של חומר שפורסמו על ידי רשתות ג'יהאדיסטיות - אחת הדוגמאות המובהקות עד כה לסוכנות אכיפת חוק בינלאומית שהכניסה סוכני בינה מלאכותית לצינור מבצעי חי.
המבצע, שזכה לשם הקוד מבצע שמס, הוכרז על ידי האינטרפול ביום שישי. על פי הדיווח של הסוכנות, שבוצע על ידי רשתות כולל TVC News ו-The Whistler מניגריה, התוצאות כבר קופלו למאגרי המידע העולמיים של האינטרפול. למידע נוסף על האופן שבו בינה מלאכותית מעצבת מחדש את האבטחה והשיטור, עיין בכיסוי מדיניות AI המתמשך שלנו.
איך פעל מבצע שמס
במבצע השתתפו קצינים ומומחים מיוחדים מ-11 מדינות, שניתחו תוכן חזותי שקבוצות ג'יהאד פרסמו באינטרנט. הצוות שלף 108,076 תמונות פנים מהחומר הזה, לפי האינטרפול.
עבודת ה-AI הגיעה לאחר מכן. האינטרפול אומר כי השוטרים שלה השתמשו בסוכני AI ובסקריפטים מתקדמים כדי לאסוף מידע ולדחוס את מערך הנתונים עד ל-6,362 תמונות פנים ייחודיות, שעובדו לאחר מכן באמצעות מערכת זיהוי הפנים של האינטרפול. המשפך הזה - מיותר ממאה אלף תמונות גולמיות ועד כמה אלפי פרצופים ברורים - הוא המקום שבו האוטומציה הרוויחה את כוחה, והפכה שבועות של בדיקה ידנית למשימה הנמדדת בהרבה פחות זמן.
בני אדם נשארו בלולאה
האינטרפול אמר במפורש שה-AI לא פעל לבד. הסוכנות אמרה כי כל התוצאות שנוצרו על ידי AI נבדקו ואומתו על ידי קצינים ואנליסטים מאומנים, בהתאם לכללים שלה בנושא עיבוד נתונים - המסגרת השולטת כיצד ניתן לאסוף, לאחסן ולשתף מידע של המדינות החברות.
"מודיעין שנאסף על לוחמי הטרור הזרים שזוהו עד כה התווסף למאגרי המידע העולמיים של אינטרפול כדי להעשיר פרופילים קיימים של חשודים ולשבש תנועות טרור", מסרה הסוכנות, לפי TVC News.
האינטרפול הגדיר את המבצע כהדגמה לאופן שבו בינה מלאכותית יכולה לסייע לחוקרים בעיבוד כמויות גדולות של חומר מקוון תוך שמירה על אימות אנושי ואמצעי הגנה מבוססי עיבוד נתונים. המסגור הזה חשוב: הסוכנות מציגה למעשה תבנית לשיטור בסיוע בינה מלאכותית שבה למידת מכונה מצמצמת את ערימת השחת ובני אדם מאשרים את המחטים.
תבנית עבור AI בשיטור?
המבצע מציע הצצה לאן צועדות זרימות העבודה של אכיפת החוק. פלט תעמולה מקבוצות מיליטנטיות הכריע מזמן את יכולת הסקירה הידנית, והתאמת תמונות בקנה מידה של האינטרפול היא בדיוק סוג המשימה בנפח גבוה, מונעת דפוסים שבה כלי ה-AI הנוכחי מתפקדים בצורה הטובה ביותר. צמצום 108,076 תמונות ל-6,362 פרצופים ייחודיים לפני כל ריצת זיהוי פנים היא בעיית סינון, וזה סוג העבודה שסוכני AI נבנים עבורה יותר ויותר.
גם המבנה בן 11 המדינות בולט. פעולות מסוג זה תלויות בכך שהמדינות החברות תורמות קצינים ונתונים תחת כללים משותפים, מה שהופך את האינטרפול לאחד המקומות הבודדים שבהם נבדק שיטור בסיוע בינה מלאכותית על פני תחומי שיפוט ולא במסגרת חוקית לאומית אחת.
מאיפה התמונות מגיעות מעצב גם את פרופיל הסיכון. תעמולה שפורסמה על ידי קבוצות מיליטנטיות היא יריבות בעיצובה: המוציאים לאור שולטים במה שמוצג, ממסגרים אותו לצורך אפקט פסיכולוגי, והשתמשו זה מכבר בסרטוני פרסום ככלי גיוס ותעמולה. צינור זיהוי שנבנה על תוכן שאוצר יריב יורש את העיוותים הללו, וזו סיבה נוספת לכך ששכבת הביקורת האנושית אינה פורמליות אלא החלק הנושא את העומס של התהליך.
הוויכוח הרחב יותר על זיהוי פנים
ההודעה נוחתת בעיצומו של ויכוח לא פתור על זיהוי פנים במשטרה. קבוצות לחירויות האזרח הזהירו שוב ושוב שהטכנולוגיה מזהה אנשים באופן שגוי, משפיעה באופן לא פרופורציונלי על קהילות מסוימות ויכולה להפוך נוכחות ציבורית אנונימית לרשומה קבועה וניתנת לחיפוש. דרישת האימות האנושית של האינטרפול מתייחסת לחלק מהביקורת הזו - שום מעצר או כניסה למסד הנתונים לא התרחשו בפלט מכונה בלבד - אבל היא לא פותרת חששות לגבי קנה מידה, הסכמה או מקור התמונות הבסיסיות.
ישנה גם שאלת שיעורי השגיאות בטבע. האינטרפול לא פרסם פרטים על כמה מתוך 6,362 התמונות הייחודיות יצרו התאמות בטוחות, כמה התאמות נדחו במהלך סקירה אנושית, או מה קורה לתמונות שאינן מובילות לזיהוי. המספרים הללו יהיו חשובים מאוד להערכת האם מסגרת ההגנה פעלה כמתואר, והיעדרם מותיר מקום לספקנות מכל הצדדים.
מה שיבוא אחר כך
האינטרפול אומר שהמודיעין שנאסף עד כה התווסף למאגרי המידע הגלובליים שלו, וייתכנו זיהויים נוספים כאשר המדינות החברות מעבדות את החומר. הסוכנות לא אמרה אם מבצע שמס יהפוך לתוכנית חוזרת, אם כי המבנה - תקופתיים, רב-מדינות, בסיוע בינה מלאכותית של תוכן קיצוני מקוון - מתאים לכיוון הנסיעה לשיתוף פעולה משטרתי בינלאומי.
עבור תעשיית הבינה המלאכותית, הפעולה היא סמן היכן הביקוש מתמצק: לא בשיטור אוטונומי נוצץ, אלא בסינון לא זוהר בנפח גבוה עם סימון אנושי. עבור המבקרים, זוהי תזכורת לכך שהתשתית של ניתוח תמונות המוני כבר בנויה וכבר בשימוש. שני הדברים נכונים בבת אחת, ומבצע שמס הוא הדוגמה המובהקת ביותר לאחרונה לפשרה ביניהם.
---
הישאר לפני AIקבל את החדשות, הניתוחים ופריצות הדרך האחרונות של AI - הכל במקום אחד.
קרא עוד חדשות AI →
