בית המשפט העליון של ניו מקסיקו הטיל סנקציות על עורך דין על הגשת ערעור על רצח שנבנה על עדים שמעולם לא היו קיימים - מפוברקת בסיטונאות על ידי ChatGPT - באחת הדוגמאות הבולטות ביותר של "הזיות" של בינה מלאכותית שהגיעו ללב מערכת המשפט האמריקאית.

על פי דיווח מרויטרס, בית המשפט העליון במדינה קנס את עורך הדין סנטה פה סטיבן אהרונס ב-5,000 דולר וביזה אותו על כך שלא "אימת את הטענות העובדתיות ואת הסמכות המשפטית בתסקיר שלו שנוצר בבינה מלאכותית". הכתבה, שהוגשה במסגרת ערעור על הרשעת מרשו ברצח, "הכילה עדות שקר של עדים מפוברקים לחלוטין", לצד טענות שווא לגבי לבוש היורה ומראהו. להקשר נוסף על הסיפור הזה, עיין בחדשות הבינה המלאכותית המתמשכות שלנו.

מה מצא בית המשפט

הגשת בית המשפט לא תיארה אי דיוקים קלים. הוא תיאר מסמך ערעור שהעלה אנשים יש מאין: עדות המיוחסת לעדים שאינם קיימים, והמציאו הצהרות המשטרה לגבי מה לבש היורה ואיך נראה היורה - בדיוק מסוג הפרטים העובדתיים שהרשעה ברצח יכולה להפעיל.

לפי The Verge, שדיווח על הגשת בית המשפט, הסנקציה הוטלה מכיוון שאהרונס לא הצליח "לאמת את הטענות העובדתיות ואת הסמכות המשפטית בתסקיר שנוצר על ידי AI" לפני שהגיש אותה לבית המשפט. במילים אחרות, הבעיה לא הייתה שעורך דין השתמש בכלי AI כדי לעזור בניסוח. זה היה שעורך הדין הגיש את הפלט מבלי לבדוק טענה מפוברקת אחת מול רישום המשפט בפועל.

"יועץ, האם אתה צופה בחדשות?"

האופי היוצא דופן של המקרה עלה בדיון באוגוסט, שבו אהרונס הודה שהשתמש ב-ChatGPT ואמר לבית המשפט שהוא מצפה שהצ'אטבוט יפיק "סיכום חסין כדורים" של המשפט. ציפייה זו גררה תגובה נוקבת מצד שופט בית המשפט העליון בניו מקסיקו סי שאנון בייקון.

"יועץ, אתה צופה בחדשות? אתה מקשיב לרדיו? אתה קורא משהו על מה שקורה בעולם?" שאל בייקון, לפי רויטרס. "בגלל שהבעיה עם עורכי דין המסתמכים על הזיות בינה מלאכותית היא סיפור שמעל לגג בכל יום".

התוכחה של השופט תפסה את המידה שבה ציטוטים ועדויות מיוצרות בינה מלאכותית עברו מבעיה טכנית נישה לאחריות מקצועית מיינסטרים - כזו שהשופטים מניחים כעת שכל עורך דין עוסק צריך לדעת עליה.

האחרון בשורת סנקציות בינה מלאכותית

המקרה בניו מקסיקו הוא האחרון ברשימה הגדלה במהירות של בתי משפט המענישים עורכי דין על שימוש בינה מלאכותית בלתי מבוקרת. בשנה שעברה, שופט הטיח בשתי משרדי עורכי דין על כך שהגישו תסקיר המכיל "מספר רב של ציטוטים משפטיים וציטוטים שגויים ומטעים", בעוד שעורכי דין המייצגים את מייסד MyPillow, מייק לינדל, נקנסו גם על הכללת ציטוטים שגויים שנוצרו על ידי בינה מלאכותית וציטוטים מזויפים בתביעה לבית המשפט, ציין The Verge.

מה שמייחד את הסנקציה בניו מקסיקו הוא החומר שיוצר. רוב המקרים הקודמים מעורבים המציאו ציטוטים משפטיים - תקדימים מזויפים, ציטוטים מזויפים ממקרים אמיתיים. כאן, ההמצאה הגיעה לעובדות עצמן: עדים, עדויות ותיאורי ראיות פיזיות בערעור פלילי. ההבחנה הזו חשובה, כי המצאת עובדות בתיק רצח פוגעת בבסיס מה שקיים ביקורת ערעור כדי להגן עליו.

אין לטעות בקו המגמה. כפי שציין The Verge, כאשר מספר עורכי הדין המשתמשים בכלי בינה מלאכותית בעבודתם גדל, כך גם המקרים שבהם בית משפט מגלה ציטוטים מומצאים - או הוזויים - על ידי בינה מלאכותית. מה שפעם התייחסו אליו כאל שגגה מביכה נענש יותר ויותר ככשל בכשירות מקצועית, עם קנסות, פסיקות זלזול וביקורת מצד רשויות המשמעת.

"אני מתחרט"

אהרונס, מצדו, אמר לרויטרס שהוא מקווה שהנפילה תיעצר ממשמעת מקצועית. "אני מתחרט אבל מקווה שוועדת המשמעת לוקחת בחשבון שזו הייתה טעות כנה", אמר בהצהרה.

אם ועדת המשמעת מתייחסת לזה כעל טעות כנה נותר לראות, אבל בית המשפט העליון במדינה כבר הבהיר את עמדתו שלו: קנס של 5,000 דולר וזלזול בתקציר שמעולם לא אומת מול המציאות.

למה זה חשוב

התיק נוחת כאשר בתי משפט ברחבי הארץ מקשיחים את עמדותיהם בנוגע לשימוש בבינה מלאכותית בליטיגציה. שופטים דרשו יותר ויותר מעורכי דין לאשר שהמסמכים שנוצרו על ידי AI אומתו, והסנקציות הפכו למנגנון האכיפה הגלוי. ההודעה מבית המשפט העליון של ניו מקסיקו צפויה לעבור הרבה מעבר לגבולותיה: חובת האימות היא אישית, בלתי ניתנת להאצלה, ואינה נעלמת מכיוון שצ'טבוט הפיק פרוזה בעלת צלילים בטוחים.

עבור מקצוע עריכת הדין, החישוב משתנה. כלי ניסוח בינה מלאכותית יכולים לחסוך שעות של עבודה, אבל עד מפוברק בודד בכתב תביעה שהוגש יכול כעת לעלות בקנס, פסיקת זלזול והפניה לרשויות משמעת - מקצוע שמעט מתרגלים ימצאו אטרקטיביים. עבור כל השאר, המקרה הוא תזכורת לכך שהאנשים שנועדו לבדוק את התפוקות של AI נמצאים תחת לחץ יותר מאי פעם לבדוק אותם בפועל.

ההימור הוא הגבוה ביותר בתיקים פליליים. סנקציות על ציטוטים מזויפים מבזבזים זמן שיפוטי; ראיות מפוברקות בערעור על רצח נוגעות למנגנון שקובע אם ההרשעה עומדת. בית משפט לערעורים יכול לשקול רק טענות המעוגנות לתיעוד האמיתי - ותקציר עם עדי רפאים מבקש מהשופטים להכריע באירועים שמעולם לא התרחשו.

---

הישאר לפני AI

קבל את החדשות, הניתוחים ופריצות הדרך האחרונות של AI - הכל במקום אחד.

קרא עוד חדשות AI →