xAI עומדת בפני תביעה ייצוגית המוצעת המאשימה לראשונה את החברה בהכשרת מודלים של גרוק על חומרי התעללות מינית בילדים, הן אמיתיות והן שנוצרו בבינה מלאכותית. התלונה, שהוגשה ביום רביעי ודווחה על ידי Ars Technica, מבקשת להשמיד כל חומר שכזה המאוחסן בשרתי החברה בצו בית משפט ושינויים גורפים באופן שבו גרוק מטפל בתוכן מיני.
הטענות נותרו טענות בלתי מוכחות שהועלו במסגרת ליטיגציה אזרחית. X, המחזיקה ב-xAI, לא הגיבה לבקשתה של Ars Technica להגיב על ההגשה. For more context on this story, see our ongoing artificial intelligence updates.
התובע והטענות
התובעת, המזוהה כג'יין דו, טוענת בתלונה כי היא הייתה קורבן בגיל הגן בתחילת שנות ה-2000 כאשר תמונות של התעללות בה נוצרו ונמכרו באינטרנט. תמונות אלו מקוטלגות זה מכבר ברשימות חשיש המתוחזקות על ידי המרכז הלאומי לילדים נעדרים ומנוצלים (NCMEC) והמרכז הקנדי להגנה על ילדים (CCCP), ארגונים העוקבים אחר חומר התעללות ידוע כדי לאפשר את איתור והסרה שלו.
לפי התלונה, ה-CCCP הודיעה ל-Dou שהיא זיהתה חומר התעללות שנוצר בינה מלאכותית המתאר אותה בפלטפורמה של xAI. עורכי הדין שלה מצהירים בהודעה לעיתונות שחומר התואם לרשומות ה-hash שלה ב-NCMEC "היה חלק ממערך הנתונים xAI ששימש לבניית יכולות יצירת התמונות והווידאו של גרוק". התלונה טוענת עוד שהודעות שנמצאו בפורומים מקוונים הראו עבריינים שדנו ביצירת תמונות התעללות שנוצרו בינה מלאכותית של איילה וקורבנות ידועים אחרים של חומר התעללות מדור קודם.
התיאוריה המשפטית: נתוני אימון, לא רק פלטים
מה שמבדיל את ההגשה הזו מהתדיינות קודמת נגד xAI היא ההתמקדות שלה במודל עצמו ולא במה שהמשתמשים הבודדים יצרו. התלונה טוענת שמכיוון שתנאי השירות של Grok מתייחסים לפוסטים ציבוריים ב-X ובתפוקות של Grok עצמו כנתוני אימון כברירת מחדל, כל דבר שמתפרסם בפומבי ניזון ישירות לצינור המשמש להכשרת ושיפור המודל.
ההגשה מכירה בכך ש-xAI מסננת תוכן אלים מתוך נתוני ההדרכה שלה, אך טוענת שתנאי החברה אינם מציינים אם חומרי התעללות מינית בילדים, תמונות אינטימיות ללא הסכמה או תוכן למבוגרים אחר נכנסים לקטגוריות שאינן נכללות. היא גם טוענת שאפילו כאשר תמונות פוגעניות מוסרות, השפעתה של דוגמה לאימון על דגם שכבר עבר הכשרה קשה מבחינה טכנית להסרה מלאה - וכי xAI לא טענה בפומבי שעשתה זאת.
מה מבקשת התביעה
אם הכיתה המוצעת תאושר, היא תייצג כל אדם שתמונות ילדותו שימשו לכאורה ליצירת חומר התעללות עם גרוק. התביעה מפעילה את חוקי פורנוגרפיית הילדים הפדרליים ואת חוק מאשה, המעניקים לניצולי חומר התעללות את הזכות לתבוע על ייצורו, החזקתו והפצתו.
"כל השלושה הם פשעים, ו-xAI עשה את שלושתם", אמרה מרגרט אי. מייבי, אחת מעורכי הדין של איילה, בהודעה לעיתונות שצוטטה על ידי Ars Technica.
מעבר לפיצויים הכספיים, Doe מבקשת מבית המשפט להורות ל-xAI להשמיד את כל חומרי ההתעללות שנוצרו על ידי גרוק שהיא עשויה לאחסן ולהשתמש בה לצורך אימון, ולמנוע מהמודל לייצר פלטים מיניים מכל סוג שהוא - דרישה שתבטל לא רק דימויים של התעללות אלא גם את התמונות האינטימיות והתוכן למבוגרים ללא הסכמה שאלון מאסק קידם בפומבי כתכונות.
"איילה חיה כמעט שני עשורים בידיעה שתמונות של הדבר הגרוע ביותר שאי פעם קרה לה מסתובבות בין טורפים ברשת, ושהן יכולות לצוץ מחדש בכל רגע", אמרה שרה לונדון, עורכת דין נוספת של איילה, בהודעה לעיתונות. "על xAI להיות אחראית להכשרת הדוגמניות שלה ביודעין על תמונות של ההתעללות הנוראה שהיא סבלה".
חשבון משפטי מתגבר
ההגשה היא החזית האחרונה במאבק משפטי מתרחב על יכולות התמונה והווידאו של גרוק. במקרה נפרד בטנסי, אישה שזוהתה כג'יין דו 4 הצטרפה לתביעה שטענה שתצלום ילדות בודד שימש עם גרוק כדי ליצור אלפי תמונות מפורשות שלה - האשמות ש-AI Buzz Wire סיקרה מוקדם יותר החודש. רגולטורים ובתי משפט בודקים עד כמה הבעיות מתרחבות, וכמה משתמשי גרוק נעצרו בגלל חומר שהם יצרו.
במקביל, xAI עברה עבירה נגד המשתמשים שלה. פוליטיקו דיווחה השבוע שהחברה תובעת חלק מהמשתמשים שלה גם כשתביעות נפגעות מתגברות, אסטרטגיה שבודקת האם פלטפורמות או האנשים המניעים אותם נושאים באחריות משפטית למה שמודל AI מייצר.
התלונה החדשה מציבה את שאלת נתוני האימון במרכז המאבק הזה. אם בתי המשפט יקבלו את הטיעון שמערך ההדרכה של מודל יכול ליצור אחריות למה שהוא מאפשר למשתמשים לייצר, ההשלכות יגיעו הרבה מעבר ל-xAI - נוגע בכל חברת תדמית ווידאו יצירתית שתנאיה מחזירים את תוכן המשתמשים לאימון. לעת עתה, הטענות הן בדיוק כך: הטענות בהגשה xAI טרם נענו בבית המשפט.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
