אישה שזוהתה בתביעות בבית המשפט כג'יין איילה 4 הצטרפה לתביעה נגד XAI של אילון מאסק על התפקיד שמילאה לכאורה צ'אטבוט של החברה, גרוק, ביצירת חומר של התעללות מינית בילדים, כך דיווח TechCrunch ביום שבת, בציטוט דיווח ב"וושינגטון פוסט".
האישה טענה כי אביה החורג השתמש בגרוק כדי לתפעל תמונה שצולמה כשהייתה בת 11 כדי ליצור יותר מ-7,000 תמונות מפורשות שלה, לפי הדיווח. היא גם אמרה שאביה החורג נמצא מת מהתאבדות יומיים לאחר שהתמונות נחשפו בפשיטה של רשויות החוק. For more context on this story, see our ongoing breaking AI news.
"גישה בלתי מוגבלת לכלים האלה מתפשטת כל כך מהר", אמרה האישה. "זה לוקח את חיי היומיום והופך אותם להתעללות מינית בילדים".
המקרה הוא אחת ההאשמות החמורות ביותר עד כה, הכוללת צ'אטבוט של AI מיינסטרים ויצירת דימויים מיניים של ילד אמיתי, והוא מסלים תביעה משפטית שהפכה למוקד בוויכוח על מעקות בטיחות ליצירת תמונות בינה מלאכותית.
טענות הליבה של התביעה
התביעה הוגשה במקור על ידי שלושה בני נוער מטנסי שהאשימו את xAI - שכעת היא חלק מ-SpaceX - באי נקיטת אמצעי זהירות בסיסיים כדי למנוע שימוש בגרוק ליצירת תמונות מפורשות של אנשים אמיתיים, כולל קטינים. התובעים מבקשים מעמד של תובענה ייצוגית, אשר יאפשר לאחרים הטוענים לנזק דומה להצטרף לתיק.
התיק של ג'יין דו 4 מוסיף קבוצה של פרטים מדאיגים: תצלום ילדות בודד, כלי בינה מלאכותית המשמש לכאורה ליצירת אלפי נגזרות פוגעניות, וטרגדיה משפחתית שהתגלתה תוך ימים מרגע גילוי החומר על ידי הרשויות.
TechCrunch אמר כי פנה אל xAI לתגובה. הטענות הן תביעות בליטיגציה אזרחית מתמשכת ולא הוכחו בבית המשפט. אם אתה או מישהו שאתה מכיר נמצא במשבר, ניתן להגיע ל-988 התאבדות ומשבר חיים בארצות הברית בטלפון או בהודעה בטלפון 988.
דפוס של לחץ על גרוק
התביעה נוחתת על רקע שנה של בדיקה גוברת של יכולות יצירת התמונות של גרוק. מוקדם יותר השנה, X הוצף במיליוני תמונות מיניות שנוצרו על ידי גרוק, פרק שגרר ביקורת רחבה על אמצעי ההגנה סביב הכלי. הפרק עזר לתדלק גל של חקיקה ברמת המדינה שמטרתה את מה שנקרא "העירום" ודימויים סינתטיים ללא הסכמה; האיסור של מינסוטה על כלים כאלה נכנס לתוקף לאחר ששופט דחה את בקשת xAI לצו מניעה לחסום את אכיפתו.
ההימור בתיק טנסי משתרע מעבר ל-xAI. התובעים טוענים שלחברות המפייסות כלים להפקת תמונות בקנה מידה יש חובה לבנות אמצעי הגנה טכניים המונעים מיניזציה של אנשים אמיתיים ומזוהים - ובמיוחד ילדים - לפני שהמוצרים מגיעים לציבור. טענה זו, אם תתקבל על ידי בית משפט, עשויה לקבוע סטנדרט משפטי שיגיע לכל ספק של מודלים ליצירת תמונות.
הבעיה הבלתי פתורה של התעשייה
עבור חברות בינה מלאכותית, מניעת שימוש לרעה במחוללי תמונות נגד אנשים אמיתיים הוכיחה את עצמה כקשה בעקשנות. כלי סימון מים וכלי מקור - כמו אלה שאנתרופ החלה להוסיף לתפוקות של קלוד כדי לעמוד בכללי השקיפות של האיחוד האירופי - יכולים לעזור לזהות תוכן סינתטי לאחר מעשה, אבל הם לא עוצרים את יצירת החומר הפוגעני מלכתחילה. מסנני קלט ופלט יכולים לחסום דפוסים ידועים, אך משתמשים נחושים מוצאים כל הזמן דרכים לעקיפת הבעיה, ודגמי תמונות בעלי משקל פתוח הפכו יכולות מסוימות לבלתי אפשריות להיזכר במלואן.
ההאשמות בתיק xAI מצביעות על הקצה החמור ביותר של הספקטרום הזה: הטענה שתצלום בודד של ילד יכול להפוך לאלפי תמונות מפורשות באמצעות כלי המופעל על ידי אחת מחברות הבינה המלאכותית הבולטות בעולם, המשווקת את גרוק למיליוני מנויים כמוצר צריכה.
מומחים משפטיים בעקבות המקרה אומרים כי הצעת התביעה הייצוגית תבחן האם בתי המשפט מתייחסים לכשלים במניעת שימוש לרעה כזה כפגם במוצר שחברות בינה מלאכותית אחראיות לו - או כשימוש לרעה על ידי משתמשים בודדים הנופל מחוץ לאחריות החברות.
מה מגיע אחר כך
המטרה המיידית של התובעים היא אישור מעמדי, אשר ירחיב באופן דרמטי את מאגר התובעים הפוטנציאליים נגד xAI. מצידה, xAI טענה בהתדיינות קשורה שהאחריות לשימוש לרעה מוטלת על המשתמשים, לא על הכלי. התוספת של ג'יין איילה 4, עם התיאור הנוקב שלה על פגיעה לכאורה בילד, מגבירה את הלחץ הציבורי והפוליטי סביב ההגנה הזו.
המקרה מתפתח כאשר הרגולטורים בארצות הברית ובאירופה דנים בחובות שקיפות ותקני בטיחות עבור AI גנרטיבי, וכאשר מצטברות ראיות לכך ששימוש לרעה ביצירת תמונות אינו מוגבל לכלים שוליים. בין אם התשובה מגיעה לבית המשפט, בחקיקה או בבחירות ההנדסיות של חברות בינה מלאכותית עצמן, השאלה המרכזית של התביעה - כמה מניעת נזקים חייבת להיות מובנית לפני שמוצר AI יישלח - נותרה הבעיה הפתוחה הכי לא נוחה בתעשייה.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
