انضمت امرأة تم تحديدها في ملفات المحكمة باسم Jane Doe 4 إلى دعوى قضائية ضد XAI الخاص بـ Elon Musk بشأن الدور الذي يُزعم أن برنامج chatbot الخاص بالشركة Grok لعبه في إنشاء مواد الاعتداء الجنسي على الأطفال، حسبما أفاد موقع TechCrunch يوم السبت نقلاً عن تقرير في صحيفة واشنطن بوست.

وزعمت المرأة أن زوج والدتها استخدم جروك للتلاعب بصورة التقطتها عندما كانت في الحادية عشرة من عمرها لإنشاء أكثر من 7000 صورة صريحة لها، وفقًا للتقرير. وقالت أيضًا إن زوج والدتها عُثر عليه ميتًا منتحرًا بعد يومين من اكتشاف الصور في مداهمة لإنفاذ القانون. لمزيد من السياق حول هذه القصة، راجع تغطية صناعة الذكاء الاصطناعي.

وقالت المرأة: "إن الوصول غير المحدود إلى هذه الأدوات ينتشر بسرعة كبيرة". "إنها تأخذ الحياة اليومية وتحولها إلى اعتداء جنسي على الأطفال."

تعد هذه القضية واحدة من أخطر الادعاءات حتى الآن والتي تتضمن روبوت دردشة رئيسي يعمل بالذكاء الاصطناعي وإنشاء صور جنسية لطفل حقيقي، كما أنها تؤدي إلى تصعيد الدعوى القضائية التي أصبحت نقطة محورية في الجدل الدائر حول حواجز الحماية لتوليد صور الذكاء الاصطناعي.

المطالبات الأساسية للدعوى

تم رفع الدعوى في الأصل من قبل ثلاثة مراهقين من ولاية تينيسي اتهموا شركة xAI - التي أصبحت الآن جزءًا من SpaceX - بالفشل في اتخاذ الاحتياطات الأساسية لمنع استخدام Grok لإنشاء صور صريحة لأشخاص حقيقيين، بما في ذلك القُصَّر. ويسعى المدعون إلى رفع دعوى جماعية، مما يسمح للآخرين الذين يزعمون تعرضهم لأضرار مماثلة بالانضمام إلى القضية.

يضيف ملف Jane Doe 4 مجموعة محددة من التفاصيل المروعة: صورة واحدة لطفولة، وأداة ذكاء اصطناعي يُزعم أنها تُستخدم لتوليد آلاف المشتقات المسيئة، ومأساة عائلية تكشفت في غضون أيام من اكتشاف السلطات للمادة.

وقالت TechCrunch إنها تواصلت مع xAI للتعليق. وهذه الادعاءات هي مطالبات في دعوى مدنية جارية ولم يتم إثباتها في المحكمة. إذا كنت أنت أو أي شخص تعرفه في أزمة، فيمكن الوصول إلى خط الحياة للانتحار والأزمات 988 في الولايات المتحدة عن طريق الاتصال أو إرسال رسالة نصية على الرقم 988.

##نمط الضغط على جروك

تقع الدعوى القضائية وسط عام من التدقيق المتزايد لقدرات Grok في توليد الصور. في وقت سابق من هذا العام، غمرت X بملايين الصور الجنسية التي تم إنشاؤها بواسطة Grok، وهي الحادثة التي أثارت انتقادات واسعة النطاق للضمانات المتعلقة بالأداة. ساعدت هذه الحادثة في تغذية موجة من التشريعات على مستوى الولاية التي تستهدف ما يسمى بتطبيقات "التعري" والصور الاصطناعية غير التوافقية؛ دخل الحظر الذي فرضته ولاية مينيسوتا على مثل هذه الأدوات حيز التنفيذ بعد أن رفض أحد القضاة طلب شركة xAI بإصدار أمر قضائي لمنع تنفيذه.

تمتد مخاطر قضية تينيسي إلى ما هو أبعد من XAI. يجادل المدعون بأن الشركات التي تنشر أدوات توليد الصور على نطاق واسع يقع عليها واجب بناء ضمانات تقنية تمنع إضفاء الطابع الجنسي على أشخاص حقيقيين يمكن التعرف عليهم - وخاصة الأطفال - قبل أن تصل المنتجات إلى الجمهور. وهذه الحجة، إذا قبلتها المحكمة، يمكن أن ترسي معيارًا قانونيًا يصل إلى كل مزود لنماذج توليد الصور.

مشكلة الصناعة التي لم يتم حلها

بالنسبة لشركات الذكاء الاصطناعي، ثبت أن منع إساءة استخدام مولدات الصور ضد أشخاص حقيقيين أمر صعب للغاية. يمكن أن تساعد أدوات العلامات المائية والمصدر - مثل تلك التي بدأت Anthropic في إضافتها إلى مخرجات كلود للامتثال لقواعد الشفافية في الاتحاد الأوروبي - في تحديد المحتوى الاصطناعي بعد وقوعه، لكنها لا توقف توليد المواد المسيئة في المقام الأول. يمكن لمرشحات الإدخال والإخراج حظر الأنماط المعروفة، لكن المستخدمين المصممين يجدون باستمرار حلولاً بديلة، وقد جعلت نماذج الصور ذات الوزن المفتوح بعض الإمكانات من المستحيل تذكرها بالكامل.

تشير الادعاءات في قضية xAI إلى الطرف الأكثر خطورة من هذا الطيف: الادعاء بأن صورة واحدة لطفل يمكن تحويلها إلى آلاف الصور الواضحة باستخدام أداة تديرها إحدى أبرز شركات الذكاء الاصطناعي في العالم، والتي تقوم بتسويق Grok لملايين المشتركين كمنتج استهلاكي.

يقول الخبراء القانونيون الذين يتابعون القضية إن عرض الدعوى الجماعية سيختبر ما إذا كانت المحاكم تتعامل مع الإخفاقات في منع سوء الاستخدام على أنه عيب في المنتج تتحمل شركات الذكاء الاصطناعي المسؤولية عنه - أو على أنه سوء استخدام من قبل مستخدمين أفراد يقع خارج مسؤولية الشركات.

ماذا سيأتي بعد ذلك

الهدف المباشر للمدعين هو شهادة الفئة، الأمر الذي من شأنه أن يوسع بشكل كبير مجموعة المطالبين المحتملين ضد XAI. من جانبها، جادلت شركة xAI في الدعاوى القضائية ذات الصلة بأن مسؤولية إساءة الاستخدام تقع على عاتق المستخدمين، وليس على الأداة. إن إضافة جين دو 4، مع روايتها الصارخة عن الأذى المزعوم لطفل، يزيد من الضغط العام والسياسي المحيط بهذا الدفاع.

تتكشف هذه القضية بينما يناقش المنظمون في الولايات المتحدة وأوروبا التزامات الشفافية ومعايير السلامة للذكاء الاصطناعي التوليدي، ومع تراكم الأدلة على أن إساءة استخدام توليد الصور لا تقتصر على الأدوات الهامشية. سواء وصلت الإجابة إلى المحكمة، أو في التشريع، أو في الاختيارات الهندسية لشركات الذكاء الاصطناعي نفسها، فإن السؤال المركزي للدعوى القضائية - ما هو مقدار منع الضرر الذي يجب تضمينه قبل شحن منتج الذكاء الاصطناعي - يظل المشكلة المفتوحة الأكثر إزعاجًا في الصناعة.

---

ابق على اطلاع بأخبار الذكاء الاصطناعي

آخر أخبار وتحليلات وإنجازات الذكاء الاصطناعي — في مكان واحد.

اقرأ المزيد من أخبار الذكاء الاصطناعي →