נציגים מ-OpenAI ומ-Meta Platforms אמרו ביום חמישי לפאנל שיפוטי פדרלי כי זיופים עמוקים שנוצרו על ידי בינה מלאכותית הפכו כל כך מתקדמים שאימות האותנטיות של ראיות אודיו ווידאו בבית המשפט ילך ויתקשה, דיווחה רויטרס.
מומחי הטכנולוגיה הציגו את חששותיהם בפגישה בבוסטון של הוועדה המייעצת של ועידת השופטים של ארה"ב לכללי הראיות - הגוף האחראי להמליץ על שינויים בכללים הפדרליים המסדירים באילו ראיות בתי משפט יכולים להודות. הוועדה עובדת מאז 2023 כיצד לטפל בסיכונים של ראיות מפוברקות שנוצרו בבינה מלאכותית באולמות בית המשפט. For more context on this story, see our ongoing AI news.
מעבדות בינה מלאכותיות טוענות שלזיהוי אין עתיד מדעי
שירה אנדרסון, יועצת מדיניות ב-OpenAI, אמרה לוועדה שתמונות AI ממשיכות להשתפר באיכותן, ואמרה שהיא לא מאמינה שיטה מדעית לזהות אותן תתקיים בעתיד - הודאה בולטת של חברה שבונה את המערכות המייצרות את התוכן הזה.
דווין נורדר, מנהל ניהול מוצר ב-Meta, אמר לפאנל כי מדיה שנוצרה על ידי מודלים של AI עדכניים אינה ניתנת להבחין על ידי בני אדם מתוכן אותנטי, וכי יצירת מדיה כזו דורשת כעת עלות וזמן מינימליים.
שתי החברות פיתחו כלי מוצא ואימות לתוכן חזותי, וחוקים חדשים בקליפורניה ובאיחוד האירופי דורשים סימון מים של מדיה שנוצרת בינה מלאכותית. אבל אנדרסון הזהיר את הוועדה שכל חברה משתמשת במערכת משלה, כלומר לא קיימת שיטה אוניברסלית לזהות באופן אמין את כל סימני המים או לאמת את האותנטיות של תוכן חזותי ברחבי המערכת האקולוגית.
בתי משפט עדיין לא הרגישו את הגל
יו"ר הוועדה, השופט המחוזי בארה"ב, ג'סי פורמן ממנהטן, הציע משקל נגד לאזעקה: בעוד פרשנות אקדמית צופה שבתי משפט יטפלו בזיופים עמוקים, הנושא עדיין לא הופיע לעתים קרובות במקרים בפועל.
סקר שנערך על ידי המרכז המשפטי הפדרלי במרץ הדגיש את הפער הזה. רק 15 מתוך 931 שופטים שהגיבו נתקלו במקרה שבו צד ערער על ראיות בטענה שמדובר בזיוף עמוק.
הפער הזה בין חיזוי לפרקטיקה הוא הדילמה המרכזית של הוועדה. לפי כללי הראיות הפדרליים 901 ו-902, הסטנדרט הקיים לאימות ראיות הוא - כפי שניסח זאת הדו"ח של הוועדה עצמה - תקן מתון: צד צריך רק להמציא ראיות מספיקות כדי לתמוך בקביעה שהפריט הוא מה שהמציע טוען שהוא. Deepfakes בודקים את הסטנדרט הזה, מכיוון שהמסלולים המסורתיים לאימות הקלטות (עדות עדים, תיעוד מערכת) מניחים שזיוף בקנה מידה קשה, יקר וניתן לזיהוי.
הדיווח של הוועדה עצמה מסגר את הבעיה בבוטות יוצאת דופן. הדו"ח שלה מדצמבר 2025 בחן מה קורה כאשר סרטון וידאו או אודיו המוצעים בניסיון הם זיוף עמוק, והגיע למסקנה שהוא מהווה אתגר ישיר לדרישות האותנטיות לפי כללים 901 ו-902, בדיוק בגלל שסטנדרט האותנטיות הקיים הוא סטנדרט מתון. כיצד - והאם - להקשיח את הסטנדרט הזה היא השאלה שהוועדה סובבת מזה שלוש שנים, וזה הופך להיות דחוף יותר אם, כפי שהזהירו נציגי המעבדה, מדע האיתור לעולם לא ידביק את מדע הדור.
מה המתרגלים יכולים לעשות עכשיו
עד שהכללים ישתנו, הנטל המעשי מוטל על הליטיגטים והשופטים. כלי מקור - אישורי תוכן קריפטוגרפיים המוטמעים בזמן היצירה - מתפשטים באמצעות אפליקציות מצלמה ותוכנות יצירתיות, אם כי הם עוזרים רק עבור מדיה הנושאת אותם. חקירה נגדית בשבועה של האדם שתפס הקלטה, דרישות גילוי לקבצים מקוריים ומטא נתונים של הדור, ובדיקה מדוקדקת יותר של קליפים ללא מקור שמסתובבים בפלטפורמות חברתיות הן ההגנות הנוכחיות. המסר של הוועדה המייעצת השבוע היה למעשה שהפערים הללו יצטרכו בסיס רשמי ברמת הכללים, מכיוון שהבלתי פורמליים מניחים יכולת זיהוי ש-OpenAI ומטה טוענים שכבר אינם קיימים.
מדוע חשובה העדות של המעבדות
ראוי לציין כי החברות שמוצריהן יוצרים את הסיכון הן אלו שמזהירות את מערכת המשפט מפניו. ל-OpenAI ול-Meta יש אינטרסים מסחריים ומוניטין ישירים באופן שבו הכללים נוחתים: דרישות אימות קפדניות עלולות להטיל חיכוך על שימושים לגיטימיים במדיה בינה מלאכותית, בעוד ששימושים רופפים עלולים להפוך את הכלים שלהם לקוקטורים להונאה באולם בית המשפט. המסר שלהם לוועדה היה למעשה שתקני מקור - סימני מים, אישורי תוכן, תיעוד של שרשרת משמורת - הם הדרך הניתנת לביצוע, כי הגילוי לבדו לא יגדל.
סקירת שלוש השנים של הוועדה צפויה להודיע אם כללי הראיות הפדרליים זקוקים לתיקון עבור עידן הבינה המלאכותית. כל שינוי יעבור בתהליך קביעת החוקים של הוועידה השופטת, כולל הערות פומביות, לפני היציאה לקונגרס.
תמונת הרגולציה הרחבה יותר
הדיון נוחת על רקע פרץ של פעילות מדיניות הקשורה לזיוף עמוק. קליפורניה והאיחוד האירופי חוקקו מנדטים לסימון מים. דנמרק קידמה חקיקה האוסרת על שיתוף של זיופים עמוקים של בינה מלאכותית ללא הסכמה. בתי המשפט בארה"ב כבר ראו בדיונים שנוצרו על ידי בינה מלאכותית על פני מסמכים, ושופטים הטילו סנקציות על עורכי דין על הגשת ציטוטים מזויפים שנוצרו על ידי צ'טבוטים.
לעת עתה, מערכת המשפט הפדרלית בוחרת במחקר קפדני על פני שינויי כללים מהירים. אבל העדויות של החברות שבונות את הטכנולוגיה מצביעות על כך שהתעשייה עצמה לא מצפה שכלי הזיהוי יעמדו בקצב - מה שמעביר את הנטל לכיוון תקני מקור, אמצעי הגנה פרוצדורליים כמו דרישות עדות חיה, ובסופו של דבר שיקול דעתם של שופטים ומושבעים לגבי מה להאמין.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
