שופט בארצות הברית מסר את אחת מפסקי הדין המשפיעים ביותר עד כה בנוגע לשימוש בבינה מלאכותית באכיפת החוק, וקבע כי התיקון הרביעי אינו מתיר למשטרה לעצור אדם על סמך רק מסקנת AI לא מאומתת. ההחלטה, שהונפקה בתביעה אזרחית שהוגשה על ידי אלן ויזקיי אוסוריו ופורסמה באמצעות DocumentCloud, דוחה את ניסיונו של בלש לתבוע חסינות כשירה לאחר שעצר את אוסוריו על כך שהעביר לכאורה בדיקה גרועה המבוססת אך ורק על התאמה לזיהוי פנים - התאמה שבית המשפט מצא שגויה. פסקת הפתיחה של פסק הדין קובעת את העיקרון באופן חד משמעי: "התיקון הרביעי לחוקת ארצות הברית אינו מאפשר לבלש להאציל ל-AI את המשימה להעריך סיבה סבירה". לסיקור מתמשך של מדיניות ורגולציה של AI, AI Buzz Wire עוקב אחר הפנייה שרבים מצפים לעקוב אחריה.

בדיקה גרועה, צילום מסך במעגל סגור ומשחק בפייסבוק

המקרה החל בפשע לכאורה עם סיכון נמוך ועבודת משטרה במאמץ נמוך. אוסוריו הואשם בהעברת צ'ק גרוע בבנק מקומי, והתמונות היחידות של החשוד הגיעו מצילומי טלוויזיה במעגל סגור של הבנק. הבלש ריאן קילמר ממשטרת פירנצה, קנטקי צילם צילום מסך של פניו של החשוד והעביר אותו דרך תוכנית זיהוי הפנים של המחלקה. המערכת החזירה התאמה לפרופיל פייסבוק השייך למישהו הרשום כ"יוני סמית' נפולס קארון" - ובגלל מה שבית המשפט כינה ביובש "סיבה לא ידועה", קילמר הגיע למסקנה שהפרופיל שייך לאוסוריו.

התמונות סיפרו סיפור אחר. על פי ההחלטה, צילומי הטלוויזיה במעגל סגור ותמונת הפרופיל בפייסבוק "אינם דומים לתמונת ההזמנה של אוסוריו". בהתבסס על תמונת ההזמנה, ציין בית המשפט, הדבר היחיד שמשותף לאוסוריו עם החשוד הוא ששניהם היו גברים שחורים עם שיער פנים; התמונות הראו צורת ראש שונה, תספורת שונה, תווי פנים שונים ועור פנים שונה.

תצהירו של קילמר אמר לבית המשפט שהוא השתמש ב"כלי חקירה" כדי "להתאים" את אוסוריו לחשוד. במציאות, מצא השופט, הוא השתמש בכלי יחיד וקיבל את הפלט השגוי שלו - למרות שמדיניות PD של פלורנס קבעה במפורש שזיהוי פנים לבדו אינו מספיק כדי לקבוע סיבה סבירה. הבלש, מבהיר הפסיקה, התעלם הן מהכללים הכתובים של המחלקה שלו והן מהדרישה הבסיסית של החוקה שהסיבה הסבירה משקפת הערכה אנושית ממשית של הראיות.

מה בית המשפט קבע בפועל

לשון הליבה של ההחלטה חורגת מקביעה לפיה בלש זה התרשל. הוא מנסח כלל קטגורי: "התיקון הרביעי אינו מתיר מעצר של אדם על סמך לא יותר מאשר מסקנה לא מאומתת של AI שהאדם הנדון ביצע פשע. ואף בלש סביר בעמדת הנאשם לא יכול היה להסיק אחרת".

המשפט השני הזה עושה את המשימות הכבדות. בקביעה שאף קצין סביר לא יכול היה להאמין שהתאמה של בינה מלאכותית לא מאומתת מספיקה, בית המשפט הרס את הבסיס של הגנת החסינות המוסמכת, שבדרך כלל מגנה על פקידים מאחריות אזרחית, אלא אם כן הם הפרו זכויות ברורות. קילמר, קבע בית המשפט, אינו יכול להסתתר מאחורי הדוקטרינה - הן משום שהתיקון הרביעי עצמו אוסר על מה שעשה והן משום שמדיניות המחלקה שלו אמרה לו, בכתב, שזיהוי פנים לבדו אינו יכול לבסס סיבה סבירה.

ההשלכה המעשית היא שהבלש מתמודד עם התביעה באופן אישי, עמדה שגם מגבירה את הלחץ להסדר וגם גורמת לסבירות גבוהה יותר של בדיקת הערעור, שכן לקצין יש עתה חלק כספי ישיר בערעור על פסק הדין.

השלכות שמגיעות הרבה מעבר לבדיקה אחת גרועה

פרשנים משפטיים מציינים כי ההיגיון של ההחלטה מקרין כלפי חוץ על פני השוק הצומח במהירות של AI המשטרה. אותו נימוק - שהפלט של אלגוריתם אינו עדות לסיבה סבירה עד שאדם יאשר זאת באופן עצמאי - חל באותה עוצמה על:

  • חיפושי זיהוי פנים, כולל מערכות התואמות תמונות סטילס למעקב מול תמונות אינטרנט מגורדות, הדפוס הנדון במקרה זה.
  • תוכנת שיטור חזוי המכוונת סיורים ואינטראקציות ציבוריות על סמך תחזיות אלגוריתמיות.
  • דוחות משטרה שנוצרו על ידי AI, מתווספים כעת למצלמות גוף על ידי ספקים כמו Axon בהנחה שהשוטרים מעדיפים לא לכתוב אותם - מה שמעלה את השאלה האם נרטיב מנוסח במכונה של עצירה או שימוש בכוח יכול להוות את הרשומה הרשמית.

אם בית משפט אומר שאלגוריתם אינו יכול לקבוע את הסיבה הסבירה, כל מערכת במורד הזרם שמניחה בשקט שהאלגוריתם אכן קבע את הקביעה הזו יורשת את הבעיה. מחלקות שהתייחסו לתפוקות בינה מלאכותית כקיצורי חקירה עשויים להזדקק לתעד אישור אנושי אמיתי לפני המעצר, או להסתכן גם בהרחקת ראיות וגם באחריות אישית של השוטרים המעורבים.

מה שיבוא אחר כך

השאלה המיידית היא ערעור. מכיוון שהחסינות המוסמכת נשללה, לבלש יש מוטיבציה חזקה לקחת את התיק כלפי מעלה, והשאלה החוקתית - האם וכיצד כלי בינה מלאכותית יכולים להשתתף בהערכות סבירות - היא בדיוק מסוג הנושאים שבית המשפט לערעורים יצטרכו להסתפק בכך שכלל כזה רחב כדי להקשיח לתקדים. קבוצות זכויות האזרח צפויות להתערב בתמיכה בפסיקה; איגודי משטרה וספקי בינה מלאכותית צפויים לדחות לאחור, בטענה שההחלטה מבלבלת בין חקירה מרושלת לבעיית מדיניות טכנולוגית.

כך או כך, הפסיקה קובעת סמן שמחלקות המשטרה יכולות לקרוא היום, מבלי לחכות למחזור הערעור: פלט AI הוא מוביל, לא מסקנה. הבלש במקרה הזה נתן לאלגוריתם של התאמת פנים לעשות את החשיבה, התעלם מהכלל של המחלקה שלו נגד זה בדיוק, וכעת הוא מתמודד עם ההשלכות באופן אישי. כפי שמאותת ההחלטה עצמה, מעצבי החוקה לא חזו רשתות עצביות - אבל הדרישה שאדם יעריך את הסיבה הסבירה לפני שהמדינה תופסת אדם מסתבר שהיא מתרגמת ללא כל תיקון שנדרש.

עבור מחלקות שקונות כלי בינה מלאכותית, המסר ישיר באותה מידה: טענות של ספקים לגבי דיוק אינן מדיניות. כללים כתובים הדורשים אישור אנושי - כמו אלה של פלורנס PD, שהבלש התעלם מהם - הם כעת לא רק שיטות עבודה מומלצות אלא ההבדל בין מחלקה ששורדת תביעה משפטית לבין קצין שמשלם על כך באופן אישי.

---

הישאר לפני AI

קבל את החדשות, הניתוחים ופריצות הדרך האחרונות של AI - הכל במקום אחד.

קרא עוד חדשות AI →