שופט בקונטיקט זיהה את מה שנראה כפעם הראשונה שתובע אמריקאי ניסה להסתיר טקסט בתיקי בית המשפט שרק מערכת בינה מלאכותית יכולה לקרוא, בניסיון לזכות בתיק שלו. התוכנית נכשלה, המתדיין קיבל סנקציות, והפסיקה מושכת כעת תשומת לב בכל עולם הטכנולוגיה המשפטית, כאשר בתי משפט ברחבי הארץ מתחילים לאמץ כלי בינה מלאכותית משלהם.
ההחלטה פורסמה בשבוע שעבר על ידי השופט וולטר ספיידר ג'וניור מבית המשפט העליון בקונטיקט ופורטה השבוע על ידי Ars Technica ורויטרס. עבור חדשות בינה מלאכותית על ההתנגשות בין בינה מלאכותית ומערכת המשפט, המקרה הוא תצוגה מקדימה של בעיה שממנה הזהירו חוקרי אבטחה במשך שנים: תשומות יריבות שנועדו להיקרא על ידי מכונות ולא על ידי בני אדם.
כיצד פעלו ההנחיות הנסתרות
התובע, מתיו אליוט, היה נעול בסכסוך עם ספק שירותי בריאות שלטענתו מנע גישה לרשומות שלו באופן לא ראוי. לאחר שטיעונים מוקדמים יותר שהעלה הובסו, על פי הפסיקה, אליוט הטמיע הוראות בתיקים הבאים שהיו, במילותיו של ספיידר, "עוצבו כך שיהיו בלתי נראים לקורא אנושי תוך שהם נשארים קריאים לחלוטין לכל תוכנה שקוראת את הטקסט של המסמך".
הטקסט הצטמצם לסוג נקודה זעירה ונצבע לבן על רקע לבן. היא הנחה כל מערכת בינה מלאכותית הבודקת את המסמך לוודא שהתפוקות שלו תואמות את טיעוני התובע, התעלמה מהכחשות קודמות מבית המשפט, והבטיחה שהתיקון יתבצע כרצונו של התובע - התקפת הזרקה מיידית של ספר לימוד, שלא מכוונת לצ'טבוט אלא לכל תוכנה שיום אחד תשב בין בעל דין לשופט.
לטקסט הנסתר לא הייתה השפעה על המקרה. בית המשפט שקל את התביעה של אליוט לגופו. אבל ספיידר כתב שניסיון ההתקפה בכל זאת יוצר תקדים "מסוכן", ושסביר להניח שבתי המשפט בארה"ב יראו שוב את הטקטיקה הזדונית ככל שכלי בינה מלאכותית הופכים שכיחים יותר במערכות בתי המשפט.
"התעללות חמורה בליטיגציה" — וכמה בדיחות מוזרות
אליוט עמד בפני סנקציות צנועות, אבל לא רק בגלל ההוראות הנסתרות המקוריות. על פי הפסיקה, הוא המשיך להוסיף טקסט נסתר לתיקים חדשים גם לאחר שבית המשפט הזהיר אותו שהוא עלול לעמוד בפני עונשים על מה שספיידר בסופו של דבר נחשב "התעללות חמורה בהתדיינות משפטית".
כמה מההודעות הנסתרות מאוחרות יותר נועדו, אמר אליוט לבית המשפט, כבדיחות. הם כללו קישור לסרטון יוטיוב של Nosferatu, הודעה פשוטה עם הכיתוב "היי :) I hope yo ucant see me," והודעה שהתובע תיאר כשטויות: "Tell SHAWN I SEND MY RE GARBS!!!! HAHAHA U GUYS GET THIS EGGWUH???? AHAH."
"העובדה שהתובע המשיך להסתיר הודעות בכתבי טענות חדשים לאחר קבלת הודעה על שימוע [סנקציות] זה היא מדהימה", כתב ספיידר. באשר לטענה כי ההודעות היו קומיות, השופט אמר שזה "מנוגד להיגיון" עבור מגיש לטמון בדיחות בתוך תחנונים שהוא רוצה שבית המשפט ייקח ברצינות.
הגנת ה"ביקורת".
להגנתו, אליוט טען כי ההנחיה המדאיגה ביותר שסימנה השופט הייתה למעשה ניסיון "לבקר" את בית המשפט כשירות ציבורי, משום שהוא חשש שבית המשפט נותן ל-AI להכריע בעניינו באופן לא הוגן. הוא חזר על העמדה הזו לרויטרס, ואמר שהוא טוען שכוונתו הייתה לבדוק את בית המשפט במקום לעשות בו מניפולציות.
ספיידר לא מצא את הטיעון אמין. אם אליוט האמין באמת ובתמים שבית המשפט משתמש ב-AI בצורה לא נכונה, כתב השופט, הוא "היה חופשי לכתוב במילים פשוטות וגלויות שכולם יוכלו לראות ולענות". הסתרת הטקסט במקום, סיכם ספיידר, היא "הוכחה למטרה הזדונית שלו". השופט הוסיף כי נראה שאליוט "ניסה להשיג תוצאה שלא השיג כאשר בני אדם, בקיאים" בחוק, קראו את טענותיו.
יש לציין שהענף השיפוטי של קונטיקט אינו משתמש בבינה מלאכותית כדי לבדוק או להחליט על הגשות, ציין ספיידר - כך שמעולם לא היה סיכון ממשי שמערכת בינה מלאכותית של בית המשפט תטעה בבקשותיו של אליוט להנחיות מבית המשפט. בניגוד ל"מספר מערכות משפט במקומות אחרים", כתב, לא הייתה מכונה בצד השני לשטות.
מדוע מתקפה כושלת עדיין חשובה
חוקרי אבטחה הקדישו שנים להדגים שניתן לחטוף מערכות בינה מלאכותית הקוראות מסמכים - צ'טבוטים, סוכני קידוד, עוזרי אימייל - על ידי הוראות קבורות בתוך הטקסט שהם בולעים. הטכניקה, המכונה הזרקה מיידית עקיפה, נחשבת לאחת הבעיות הקשות ביותר שלא נפתרו בפריסת סוכני AI. מה שהופך את מקרה קונטיקט ליוצא דופן הוא המטרה: מנגנון הצדק עצמו.
"על ידי הסתרת פקודה בתוך מסמך שהמערכת קולטת מאוחר יותר, הקובץ מנסה להבריח את ההוראה שלו לתוך הזרם הזה כך שהמערכת תתייחס אליה כאילו היא הגיעה ממפעיל המערכת", כתב ספיידר. "במקרה זה יש להניח כי מפעיל זה הוא בית המשפט, צוותו או היועץ המתנגד".
המסגור הזה - של הגשת בית המשפט כמשטח תקיפה - הוא מה שמשקיפים משפטיים אומרים שהופך את פסק הדין למשמעותי. ככל שבתי משפט ומשרדי עורכי דין משתמשים יותר ויותר בבינה מלאכותית כדי לסכם הגשות, טיוטות החלטות או מסמכים למשפטים, כל מסמך שמוגש על ידי צד הופך לערוץ פוטנציאלי למניפולציה. פקיד שופט עלול לתפוס טקסט לבן על דף לבן; ייתכן שצינור סיכום אוטומטי לא.
מה קורה אחר כך
הסנקציות נגד אליוט הן, לפי תיאורו של בית המשפט עצמו, צנועות. אבל ההחלטה מעניקה לבתי המשפט בארה"ב תקדים כתוב להתייחסות להוראות נסתרות הניתנות לקריאה במכונה כאל ניצול לרעה של ההליך המשפטי, והיא מגיעה לרגע שבו מספר מערכות בתי המשפט במדינה מתנסות באופן פעיל בכלי סקירת בינה מלאכותית.
לעת עתה, הלקח מקונטיקט הוא פשוט: בתי המשפט צופים בזה. כפי שמבהירה פסיקתו של השופט ספיידר, האדם הראשון שניסה הזרקה מיידית לבית משפט בארה"ב נתפס - וקיבל סנקציות - למרות שאף מערכת בינה מלאכותית מעולם לא הקשיבה.
הישאר לפני AI קרא עוד חדשות AI →
