ועדת עורכי הדין לזכויות האזרח על פי חוק הגישה תביעה ב-18 בנובמבר 2026, בשם ארבעה סטודנטים שחורים בהווה ולשעבר מבית הספר התיכון קנווד במחוז בולטימור, מרילנד, לאחר שמערכת זיהוי אקדח בינה מלאכותית חשבה שאחת משקיות השבבים שלהן היא כלי נשק ושוטרים חמושים עצרו וערכו חיפוש בבני הנוער בקמפוס.
התלונה, שהוגשה לבית המשפט המחוזי של מחוז בולטימור, מכנה את הנאשמים Omnilert, LLC - יצרנית מערכת Omnilert Gun Detect המשמשת בכל בתי הספר הציבוריים של מחוז בולטימור - יחד עם בתי הספר הציבוריים של מחוז בולטימור ואנשי הצוות, משטרת מחוז בולטימור וקצינים בודדים. היא טוענת להפרות של הזכויות החוקתיות הפדרליות והמדינתיות של התלמידים וכן רשלנות ורשלנות חמורה. For more context on this story, see our ongoing breaking AI news.
מה קרה באוקטובר 2025
לפי ועדת עורכי הדין, התקרית החלה כאשר Omnilert Gun Detect - מערכת מעקב בינה מלאכותית שנפרסה ברחבי בתי הספר של המחוז - יצרה התראה המסמנת שקית שבבים של נער כנשק חם עם סבירות של 90 אחוזים. המערכת טעתה בשקית של דוריטוס שנשא אחד התלמידים בתור אקדח.
התראת השווא עוררה תגובה שהסתיימה עם שוטרים מקומיים חמושים שרצים את בני הנוער בקמפוס, במרחק צעדים ספורים מהכניסה לבית הספר. הסטודנטים נצטוו לרדוף על ברכיהם, אזקו באזיקים וערכו חיפושים, אמר הארגון. הניו יורק טיימס, הגרדיאן, NBC News, CBS News ובולטימור סאן דיווחו כולם על התביעה והתקרית הבסיסית, שמשכה את תשומת הלב הלאומית לגילוי נשק מבוסס בינה מלאכותית בבתי ספר.
"המשטרה אמרה לבן שלי שזו הייתה יכולה להיות בעיה אמיתית. אף ילד במחוז בולטימור לא צריך להתמודד עם סוג כזה של סכנה בזמן שהוא ממתין מחוץ לבית הספר שלו לנסיעה הביתה מאמו", אמרה פריידה ווינפילד, שהייתה בדרכה לאסוף את בנה קית' ושאר התלמידים כשהם נעצרו, לפי ההודעה לעיתונות.
שרשרת של כשלים אנושיים
טענה מרכזית של התביעה היא שהטעות של הטכנולוגיה נוספה בכל שלב שלאחר מכן על ידי בני האדם שקיבלו אותה. ועדת עורכי הדין אומרת שכולם, מהצוות של Omnilert עצמו, למנהל בית הספר ועד לשוטרים במחוז בולטימור, החמיצו או התעלמו ממה שהיא מכנה ראיות ברורות לכך שלא היה אקדח.
התלונה גם טוענת שפקידי בית הספר ידעו שמערכת Omnilert מפיקה באופן קבוע התראות שווא לפני התקרית - טענה שאם תוגש לדין, תלך ללב האופן שבו המחוז שקל את מהימנות הטכנולוגיה מול פריסתה בהקשרים מול תלמידים.
"התלמידים האלה נכשלו לא רק על ידי טכנולוגיה שמועדת להתרעות שווא, אלא גם על ידי המבוגרים מאוד שנועדו לשמור על בטיחותם כשאנחנו שולחים אותם לבית הספר", אמר דיימון יואיט, נשיא ומנכ"ל ועדת עורכי הדין לזכויות האזרח על פי חוק. "במקום ההגנה הזו, הם נתקלו ברובים ועברו טראומה. וזה היה יכול להיות אפילו יותר גרוע".
מה מבקשת התביעה
מעבר לנזקים, ועדת עורכי הדין משתמשת בתיק כדי לדחוף לשינויים מבניים באופן שבו בתי ספר ומחלקות משטרה מטפלים בהתראות איתור בינה מלאכותית. הארגון אמר כי התביעה נועדה לכפות רפורמות המחייבות גורמים ציבוריים לאמת דיווחים מפלטפורמות זיהוי איומי בינה מלאכותית לפני שהם מגיבים, להעריך אם טכנולוגיית בינה מלאכותית כזו מתאימה לשימוש בבתי ספר בכלל, ולפתח מדיניות המבטיחה שהתרעות שווא לא יגרמו לתגובות משטרתיות חמושים.
הקבוצה גם קוראת ליותר הכשרה, פיקוח ושקיפות סביב שגיאות ותוצאות, בתוספת מידע מהקהילה לגבי אופן פריסת הטכנולוגיה.
"ל-AI לא מפוקח יש השלכות עמוקות, במיוחד כשמערבים אנשים צעירים. ככל שהטכנולוגיה הזו זוכה לאימוץ נרחב יותר, זה לא יכול לקרות על חשבון תקנות ברורות, מעקות בטיחות וציפיות למבוגרים שמתקשרים איתה", אמרה ליאה פרייז'ר, מנהלת יוזמת הצדק הדיגיטלי בוועדת עורכי הדין.
מקרה מבחן לאיתור נשק בינה מלאכותית בבתי ספר
המקרה מגיע כאשר מחוזות בתי הספר האמריקאיים מאמצים יותר ויותר זיהוי נשק מופעל בינה מלאכותית, מיקום מערכות ראייה ממוחשבת בכניסות ובעדכוני מעקב בשם מניעת ירי בבית ספר. ועדת עורכי הדין מסגרה במפורש את ההימור הרחב יותר, בטענה שהתקרית מעוררת חששות לגבי מהימנות טכנולוגיית הבינה המלאכותית במערכות בטיחות ציבוריות "בהן הדיוק חיוני במצבים של חיים ומוות" - וציינה כי נזקים ואי דיוקים ממערכות כאלה משפיעים באופן לא פרופורציונלי על קהילות שחורות.
משקיפים משפטיים יצפו במספר שאלות שהתלונה מעוררת. האם ניתן להטיל אחריות על ספק בינה מלאכותית לביצוע דגמי הזיהוי שלו, האם מחוזות בתי ספר שפורסים אותם חייבים בחובת אימות מוגברת, והאם הסתמכות המשטרה על התראה אוטומטית ללא אישור בלתי תלוי מפרה הגנות חוקתיות מפני תפיסה בלתי סבירה, הן כולן נושאים חיים שבית המשפט המחוזי של מחוז בולטימור יתבקש לשקול כעת.
עבור ארבעת התלמידים שעומדים במרכז התיק - שהיו ילדים כששוטרים שלפו עליהם נשק על חטיף - ההתדיינות היא גם אישית. עורכי הדין שלהם אומרים שהמטרה היא לוודא שאף סטודנט לא יעמוד שוב בפני משטרה חמושה בגלל אזעקת שווא שסקירה אנושית הייתה יכולה לתפוס תוך שניות.
התיק יתנהל בבית המשפט המחוזי במחוז בולטימור. לא דווחה תגובה פומבית של הנאשמים בעת כתיבת שורות אלה.
מקורות: הודעה לעיתונות של ועדת עורכי הדין לזכויות האזרח על פי חוק, הניו יורק טיימס, הגרדיאן, NBC News, CBS News, בולטימור סאן.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →