xAI با یک اقدام گروهی پیشنهادی روبرو است که برای اولین بار این شرکت را متهم به آموزش مدل های Grok خود در مورد مواد سوء استفاده جنسی از کودکان، چه واقعی و چه تولید شده توسط هوش مصنوعی، می کند. این شکایت که روز چهارشنبه ثبت شد و توسط Ars Technica گزارش شد، به دنبال تخریب هر گونه مطالب ذخیره شده در سرورهای شرکت به دستور دادگاه و تغییرات گسترده در نحوه مدیریت Grok با محتوای جنسی است.

این ادعاها همچنان ادعاهای اثبات نشده ای هستند که در دعاوی مدنی مطرح شده اند. X که صاحب xAI است، به درخواست Ars Technica برای اظهار نظر در مورد پرونده پاسخ نداد. For more context on this story, see our ongoing artificial intelligence updates.

شاکی و ادعاها

شاکی که جین دو نام دارد، در شکایت ادعا می کند که در اوایل دهه 2000 زمانی که تصاویر سوء استفاده از او ایجاد و به صورت آنلاین فروخته شد، قربانی سنین پیش دبستانی بوده است. این تصاویر مدت‌هاست که در فهرست‌های هش نگهداری شده توسط مرکز ملی کودکان گمشده و مورد بهره‌کشی (NCMEC) و مرکز کانادایی حفاظت از کودکان (CCCP)، سازمان‌هایی که مواد سوء استفاده شناخته شده را برای شناسایی و حذف آن ردیابی می‌کنند، فهرست‌بندی شده‌اند.

بر اساس این شکایت، CCCP به Doe اطلاع داده است که مواد سوء استفاده از هوش مصنوعی را شناسایی کرده است که او را در پلتفرم xAI به تصویر می‌کشد. وکلای او در یک بیانیه مطبوعاتی بیان می‌کنند که موادی که با ورودی‌های فهرست هش NCMEC او مطابقت دارد، «بخشی از مجموعه داده‌های xAI است که برای ایجاد قابلیت‌های تولید تصویر و ویدیو Grok استفاده می‌شود.» این شکایت همچنین ادعا می‌کند که پیام‌های یافت شده در انجمن‌های آنلاین نشان می‌دهد که متخلفان درباره ایجاد تصاویر سوءاستفاده‌ای ایجاد شده توسط هوش مصنوعی از Doe و سایر قربانیان شناخته‌شده مطالب سوءاستفاده‌های قدیمی بحث می‌کنند.

نظریه حقوقی: داده های آموزشی، نه فقط خروجی ها

چیزی که این پرونده را از دعوای قضایی قبلی علیه xAI متمایز می کند، تمرکز آن بر روی خود مدل است نه بر آنچه که کاربران ایجاد کرده اند. این شکایت استدلال می‌کند که چون شرایط خدمات Grok پست‌های عمومی در X و خروجی‌های خود Grok را به‌طور پیش‌فرض به عنوان داده‌های آموزشی تلقی می‌کند، هر چیزی که به صورت عمومی ارسال می‌شود مستقیماً به خط لوله مورد استفاده برای آموزش و بهبود مدل وارد می‌شود.

این پرونده تأیید می‌کند که xAI محتوای خشونت‌آمیز را از داده‌های آموزشی خود فیلتر می‌کند، اما استدلال می‌کند که شرایط شرکت مشخص نمی‌کند که آیا مواد سوء استفاده جنسی از کودکان، تصاویر صمیمی غیر توافقی، یا سایر محتوای بزرگسالان در دسته‌های مستثنی قرار می‌گیرند یا خیر. همچنین استدلال می‌کند که حتی در جایی که تصاویر توهین‌آمیز حذف می‌شوند، از نظر فنی حذف کامل تأثیر یک نمونه آموزشی بر روی یک مدل آموزش‌دیده شده دشوار است - و xAI علناً ادعا نکرده است که این کار را انجام داده است.

آنچه که دعوا به دنبال آن است

اگر کلاس پیشنهادی تأیید شود، نشان دهنده هر فردی است که تصاویر دوران کودکی‌اش برای تولید مطالب سوءاستفاده با Grok استفاده شده است. این شکایت به قوانین فدرال پورنوگرافی کودکان و قانون ماشا استناد می کند که به بازماندگان مواد سوء استفاده شده حق شکایت در مورد تولید، داشتن و توزیع آن را می دهد.

مارگارت ای. مابی، یکی از وکلای Doe، در بیانیه مطبوعاتی به نقل از Ars Technica گفت: "هر سه جنایت هستند و xAI هر سه را انجام داد."

علاوه بر خسارات پولی، دو از دادگاه می‌خواهد که به xAI دستور دهد تمام مطالب سوءاستفاده‌ای که توسط Grok ممکن است ذخیره می‌شود و برای آموزش استفاده می‌کند، نابود کند، و از ایجاد خروجی‌های جنسی از هر نوع توسط مدل جلوگیری کند - خواسته‌ای که نه تنها تصاویر سوء استفاده‌کننده، بلکه تصاویر صمیمی و محتوای غیرقابل توافق را که الون ماسک به‌عنوان ویژگی‌های عمومی برای بزرگسالان تبلیغ می‌کند، سلب می‌کند.

سارا لندن، یکی دیگر از وکلای دو، در بیانیه مطبوعاتی گفت: "دو برای نزدیک به دو دهه زندگی کرده است و می داند که تصاویر بدترین اتفاقی که تا به حال برای او رخ داده است در میان شکارچیان آنلاین در حال پخش است و هر لحظه می توانند دوباره ظاهر شوند." xAI باید مسئول آموزش آگاهانه مدل های خود در مورد تصاویر سوء استفاده وحشتناکی باشد که از او متحمل شده است.

یک محاسبه قانونی در حال افزایش

این پرونده آخرین جبهه در یک نبرد حقوقی گسترده بر سر قابلیت های تصویر و ویدیوی Grok است. در یک پرونده جداگانه در تنسی، زنی به نام جین دو 4 به دادخواستی پیوست که ادعا می‌کرد از یک عکس دوران کودکی با گروک برای تولید هزاران تصویر صریح از او استفاده شده است - ادعاهایی که AI Buzz Wire در اوایل این ماه پوشش داد. قانون‌گذاران و دادگاه‌ها در حال بررسی هستند که مشکلات تا چه حد گسترش می‌یابد و برخی از کاربران Grok به دلیل مطالبی که تولید کرده‌اند دستگیر شده‌اند.

در همان زمان، xAI به کاربران خود توهین کرده است. Politico در این هفته گزارش داد که این شرکت از برخی از کاربران خود حتی با افزایش شکایت قربانیان شکایت می کند، استراتژی که آزمایش می کند آیا پلتفرم ها یا افرادی که آنها را وادار می کنند مسئولیت قانونی تولید یک مدل هوش مصنوعی را دارند یا خیر.

شکایت جدید پرسش داده های آموزشی را در مرکز آن مبارزه قرار می دهد. اگر دادگاه‌ها این استدلال را بپذیرند که مجموعه آموزشی یک مدل می‌تواند مسئولیتی را در قبال آنچه که کاربران را قادر می‌سازد ایجاد کند، ایجاد کند، پیامدهای آن بسیار فراتر از xAI خواهد بود - هر شرکت تولیدکننده تصویر و ویدیو را تحت تأثیر قرار می‌دهد که شرایط آنها محتوای کاربر را به آموزش باز می‌گرداند. در حال حاضر، اتهامات فقط همین است: اتهامات موجود در پرونده xAI هنوز در دادگاه پاسخی نداده است.

---

Stay Ahead of AI

Get the latest AI news, analysis, and breakthroughs — all in one place.

Read more AI news →