TechCrunch روز شنبه با استناد به گزارشی در واشنگتن پست گزارش داد، زنی که در پرونده های دادگاه به عنوان جین دو 4 شناخته می شود، به شکایتی علیه xAI ایلان ماسک به دلیل نقشی که گروک چت ربات این شرکت در ایجاد مطالب سوء استفاده جنسی از کودکان ایفا کرده است، پیوسته است.

بر اساس این گزارش، این زن مدعی شد که ناپدری اش از گروک برای دستکاری عکسی که در 11 سالگی گرفته شده بود استفاده کرده تا بیش از 7000 تصویر واضح از او ایجاد کند. او همچنین گفت که جسد ناپدری اش دو روز پس از کشف این تصاویر در یک یورش مجریان قانون بر اثر خودکشی پیدا شد. For more context on this story, see our ongoing latest AI developments.

این زن گفت: «دسترسی نامحدود به این ابزارها به سرعت در حال گسترش است. این زندگی روزمره را می گیرد و آن را به آزار جنسی کودکان تبدیل می کند.»

این پرونده یکی از جدی‌ترین اتهامات تا به امروز است که مربوط به یک چت ربات اصلی هوش مصنوعی و ایجاد تصاویر جنسی از یک کودک واقعی است، و شکایتی را تشدید می‌کند که به نقطه کانونی بحث در مورد نرده‌های محافظ برای تولید تصویر هوش مصنوعی تبدیل شده است.

دعاوی اصلی دعوی

این شکایت در ابتدا توسط سه نوجوان تنسی مطرح شد که xAI - که اکنون بخشی از SpaceX است - را متهم کردند که اقدامات احتیاطی اولیه برای جلوگیری از استفاده از Grok برای ایجاد تصاویر واضح از افراد واقعی، از جمله خردسالان را انجام نداده است. شاکیان به دنبال وضعیت دعوای دسته جمعی هستند که به سایرینی که ادعا می کنند آسیب مشابهی دارند اجازه می دهد به پرونده بپیوندند.

پرونده Jane Doe 4 مجموعه‌ای از مشخصات دلخراش را اضافه می‌کند: یک عکس از دوران کودکی، یک ابزار هوش مصنوعی که گفته می‌شود برای تولید هزاران مشتق توهین‌آمیز استفاده می‌شود، و یک تراژدی خانوادگی که ظرف چند روز پس از کشف این ماده توسط مقامات فاش شد.

TechCrunch گفت که برای اظهار نظر با xAI تماس گرفته است. این ادعاها در دعاوی مدنی جاری است و در دادگاه ثابت نشده است. اگر شما یا کسی که می‌شناسید در بحران هستید، می‌توانید از طریق تماس یا پیامک با شماره 988 با خط زندگی خودکشی و بحران 988 در ایالات متحده تماس بگیرید.

الگوی فشار بر گروک

این دعوی در بحبوحه یک سال بررسی های فزاینده در مورد قابلیت های تولید تصویر Grok آغاز شد. در اوایل سال جاری، X با میلیون‌ها تصویر جنسی تولید شده توسط Grok پر شد، اپیزودی که انتقادات گسترده‌ای را نسبت به اقدامات حفاظتی پیرامون این ابزار به دنبال داشت. این اپیزود به موجی از قوانین در سطح ایالتی کمک کرد که برنامه‌های کاربردی به اصطلاح «برهنه‌سازی» و تصاویر مصنوعی غیر توافقی را هدف قرار می‌داد. ممنوعیت مینه سوتا از چنین ابزارهایی پس از رد درخواست xAI برای جلوگیری از اجرای آن توسط قاضی اجرا شد.

خطرات پرونده تنسی فراتر از xAI است. شاکیان استدلال می‌کنند که شرکت‌هایی که ابزارهای تولید تصویر را در مقیاس به کار می‌برند، وظیفه دارند پیش از رسیدن محصولات به عموم، حفاظت‌های فنی را ایجاد کنند که از جنسیت افراد واقعی و قابل شناسایی - به ویژه کودکان - جلوگیری کند. این استدلال، اگر توسط دادگاه پذیرفته شود، می تواند یک استاندارد قانونی ایجاد کند که به هر ارائه دهنده مدل های تولید تصویر برسد.

مشکل حل نشده صنعت

برای شرکت‌های هوش مصنوعی، جلوگیری از سوء استفاده از مولدهای تصویر علیه افراد واقعی، سرسختانه دشوار بوده است. ابزارهای واترمارک و منشأ - مانند آن‌هایی که Anthropic شروع به افزودن به خروجی‌های کلود کرد تا با قوانین شفافیت اتحادیه اروپا مطابقت داشته باشد - می‌توانند به شناسایی محتوای مصنوعی بعد از این واقعیت کمک کنند، اما در وهله اول جلوی تولید مطالب توهین‌آمیز را نمی‌گیرند. فیلترهای ورودی و خروجی می‌توانند الگوهای شناخته شده را مسدود کنند، اما کاربران مصمم به طور مداوم راه‌حل‌هایی را پیدا می‌کنند و مدل‌های تصویر با وزن باز، برخی از قابلیت‌ها را به طور کامل غیرممکن کرده‌اند.

اتهامات موجود در پرونده xAI به شدیدترین انتهای این طیف اشاره می کند: این ادعا که یک عکس از یک کودک می تواند با استفاده از ابزاری که توسط یکی از برجسته ترین شرکت های هوش مصنوعی در جهان اداره می شود، به هزاران تصویر واضح تبدیل شود، که Grok را به میلیون ها مشترک به عنوان یک محصول مصرفی عرضه می کند.

کارشناسان حقوقی که این پرونده را دنبال می‌کنند می‌گویند که مناقصه دعوای دسته جمعی آزمایش خواهد کرد که آیا دادگاه‌ها عدم موفقیت در جلوگیری از این سوءاستفاده را به عنوان نقص محصولی که شرکت‌های هوش مصنوعی مسئول آن هستند تلقی می‌کنند یا به عنوان سوء استفاده توسط کاربران فردی که خارج از مسئولیت شرکت‌ها است.

بعدی چه می شود

هدف فوری شاکیان صدور گواهینامه کلاس است که به طور چشمگیری مجموعه مدعیان بالقوه را در برابر xAI گسترش می دهد. به نوبه خود، xAI در دعاوی مربوطه استدلال کرده است که مسئولیت سوء استفاده بر عهده کاربران است نه ابزار. اضافه شدن جین دو 4، با شرح واضح آن از آسیب ادعایی به یک کودک، فشار عمومی و سیاسی پیرامون آن دفاع را افزایش می‌دهد.

این پرونده زمانی آشکار می شود که تنظیم کننده ها در ایالات متحده و اروپا در مورد تعهدات شفافیت و استانداردهای ایمنی برای هوش مصنوعی مولد بحث می کنند و شواهدی جمع آوری می شود که سوء استفاده از تولید تصویر به ابزارهای حاشیه ای محدود نمی شود. چه پاسخ در دادگاه برسد، چه در قانون، یا در انتخاب مهندسی خود شرکت‌های هوش مصنوعی، سوال اصلی این دعوی - تا چه حد باید پیشگیری از آسیب قبل از ارسال محصول هوش مصنوعی ایجاد شود - ناراحت‌کننده‌ترین مشکل باز صنعت باقی مانده است.

---

Stay Ahead of AI

Get the latest AI news, analysis, and breakthroughs — all in one place.

Read more AI news →