أمر محامي مدينة سان فرانسيسكو شركتي آبل وجوجل بإزالة تطبيقات الذكاء الاصطناعي للتعري من متاجر التطبيقات الخاصة بهما، محذرًا من أن المنصات تنتهك قوانين ولاية كاليفورنيا التي تحظر الخدمات التي تنشئ مواد إباحية مزيفة للغاية. يؤدي هذا الطلب إلى تصعيد المواجهة المتزايدة حول أدوات الذكاء الاصطناعي (https://aibuzzwire.news) التي تحول الصور العادية لأشخاص حقيقيين إلى صور صريحة، وهي الأزمة التي أوقعت النساء والأطفال ضحايا بشكل غير متناسب.
حجم المشكلة
تستخدم تطبيقات التعري الذكاء الاصطناعي التوليدي لتسهيل تجريد الملابس من صور الأشخاص الحقيقيين، وتغيير ملامحهم، ووضعهم في أوضاع جنسية، ومبادلة الوجوه بأجساد أشخاص آخرين عارية. لقد انتشرت التكنولوجيا بسرعة عبر متاجر تطبيقات الأجهزة المحمولة، ويتم استخدام النتائج للتنمر على الضحايا وإذلالهم وتهديدهم بعواقب مدمرة.
قال ديفيد تشيو، محامي مدينة سان فرانسيسكو، لمجلة Wired إن مكتبه كان مرعوبًا تمامًا من مدى انتشار تقنية التعري في كل مكان، مما أدى إلى استهداف النساء والأطفال في الغالب على نطاق ينذر بالخطر مع غمر المزيد من الأدوات في السوق. وقال إن الصور تُستخدم لتدمير السمعة، والإضرار بالصحة العقلية، وتجريد الضحايا من الاستقلالية، مع تحول بعض الأهداف إلى انتحارية.
ما تطلبه الحروف
أرسل مكتب تشيو رسائل رسمية إلى الشركتين يحذرهما من أن متاجر التطبيقات الخاصة بهما تنتهك قوانين كاليفورنيا التي تحظر خدمات الدعم التي تنشئ مواد إباحية مزيفة، وفقًا لـ Wired. وطلب من جوجل إزالة خمسة تطبيقات ومن أبل إزالة ثمانية. لم يتم ذكر التطبيقات المحددة في التقارير العامة لتجنب دفع الناس نحوها، لكن Wired أشارت إلى أن أحد التطبيقات التي تم الإبلاغ عنها قد جمع أكثر من مليون عملية تنزيل وميزات معلن عنها علنًا لإضفاء طابع جنسي على صور النساء أو إنتاج مقاطع فيديو مجانية وغير خاضعة للرقابة.
وقدر مكتب تشيو أن شركتي Apple وGoogle قد كسبتا على الأرجح رسومًا بملايين الدولارات من خلال السماح للتطبيقات الضارة بالبقاء في متاجرهما بدلاً من اتخاذ إجراءات أقوى أو تطوير أنظمة كشف أفضل. ووصف محامي المدينة الوضع بأنه استغلال للإزعاج العام، بحجة أن السماح لأي من هذه التطبيقات بالبقاء متاحًا أمر غير مقبول.
جوجل تستجيب، وآبل تلتزم الصمت
وفي بيان لـ Ars Technica، أكد المتحدث باسم Google، دان جاكسون، أن التطبيقات الخمسة التي أبلغ عنها Chiu قد تم تعليقها من متجر Google Play لانتهاكها السياسات المتعلقة بالمحتوى الضار. وقال جاكسون إن Google Play لا يسمح بالتطبيقات التي تحتوي على محتوى جنسي وأن الشركة تتخذ باستمرار خطوات استباقية لاكتشاف وإزالة التطبيقات ذات المحتوى الضار. وقال جاكسون إنه عندما يتم الإبلاغ عن الانتهاكات، تقوم جوجل بالتحقيق وتتخذ إجراءات سريعة، والتي تضمنت تعليق مئات التطبيقات المخالفة وتقييد مصطلحات البحث ذات الصلة مثل nudify في متجرها.
وكانت استجابة أبل مختلفة بشكل ملحوظ. على الرغم من أن الشركة قامت بإزالة بعض التطبيقات التي أبلغ عنها الباحثون في الماضي، إلا أنها ظلت صامتة بشكل ملحوظ وسط الدعوات لتطبيقات التعري التي تطالب بها الشرطة بشكل أكثر قوة في متجر التطبيقات الخاص بها. ولم يقدم صانع iPhone على الفور ردًا عامًا مفصلاً على مطالب محامي المدينة.
لعبة القط والفأر في الكشف
ويتفاقم التحدي المتمثل في مراقبة هذه التطبيقات بسبب تكتيكاتها المتطورة. ذكرت Wired أن الباحثين حذروا مؤخرًا من أن بعض التطبيقات الضارة أصبحت أفضل في التهرب من عمليات إزالة متجر التطبيقات من خلال الإعلان عن ميزات تبديل الوجه فقط مع إخفاء قدراتها على التعري. في ورقة ما قبل الطباعة لشهر مايو، حدد الباحثون 420 تطبيقًا تم تسويقها كأدوات عامة لتبديل الوجه واختبروا 155 منها. وفي أكثر من 70% من الحالات، يمكن استخدام التطبيقات لإضفاء طابع جنسي على الصور، مما يوضح مدى سهولة إخفاء الوظائف الضارة خلف التسويق غير الضار.
وتعني فجوة الاكتشاف هذه أنه حتى عندما تبحث متاجر التطبيقات بشكل استباقي عن أدوات التعري، فإن العديد منها يتسلل من خلال تقديم نفسها على أنها برامج ترفيهية أو برامج لتحرير الصور غير ضارة. تشير النتائج التي توصل إليها الباحثون إلى أن العدد الحقيقي للتطبيقات الإشكالية المتداولة من المرجح أن يكون أعلى بكثير من التطبيقات الثلاثة عشر التي حددها مكتب تشيو.
سابقة جروك
تتقاطع حملة تطبيق nudify أيضًا مع نقاش أوسع حول المحتوى الضار الناتج عن الذكاء الاصطناعي. رفعت شركة xAI هذا الأسبوع دعوى قضائية تؤكد أنها عثرت على أمثلة لمواد الاعتداء الجنسي على الأطفال التي أنشأها Grok وصور حميمة غير توافقية تستهدف البالغين. ولمعالجة سوء الاستخدام، رفعت شركة xAI دعوى قضائية ضد المستخدم بزعم أنها مسؤولة عن مطالبة Grok بإنشاء محتوى غير قانوني.
تثير قضية Grok سؤالا شائكا بالنسبة لمتاجر التطبيقات: ما إذا كانت روبوتات الدردشة التي تعمل بالذكاء الاصطناعي والتي يمكن مطالبتها بإنتاج محتوى غير قانوني يجب أن تكون في حد ذاتها عرضة للإزالة. وبحسب ما ورد أبلغت شركة آبل أعضاء مجلس الشيوخ في أبريل أنها هددت بشكل خاص بإزالة Grok من متجر التطبيقات، وفقًا لـ NBC News، لكن تطبيق xAI لا يزال متاحًا حتى اليوم. وطالما أنه من الممكن استخدام Grok لإنشاء محتوى غير قانوني، فمن المرجح أن تستمر متاجر التطبيقات في مواجهة الضغط لاتخاذ إجراء، تمامًا كما طالب تشيو بتطبيقات التعري المستقلة.
نقطة تحول في مساءلة المنصة
يمثل أمر سان فرانسيسكو أحد التدخلات الحكومية الأكثر عدوانية حتى الآن والتي تستهدف متاجر التطبيقات بشأن المحتوى الضار الناتج عن الذكاء الاصطناعي. من خلال التذرع بقوانين المواد الإباحية العميقة في كاليفورنيا، يختبر تشيو ما إذا كانت قوانين الولاية يمكن أن تجبر مشغلي المنصات على تحمل المسؤولية عن أدوات الذكاء الاصطناعي الموزعة من خلال أسواقهم.
يمكن أن تشكل النتيجة سابقة لكيفية تعامل الولايات القضائية الأخرى مع المشكلة، وما إذا كان عبء مراقبة الصور غير التوافقية التي ينشئها الذكاء الاصطناعي يقع على عاتق المطورين، أو مشغلي المنصات، أو كليهما. وبالنسبة للملايين من الناس، وأغلبهم من النساء والفتيات، الذين استهدفتهم هذه الأدوات، فإن المخاطر تمتد إلى ما هو أبعد من النظرية التنظيمية.
ابق في صدارة الذكاء الاصطناعي
للحصول على تغطية مستمرة لأخلاقيات الذكاء الاصطناعي، ومساءلة المنصة، والمعارك التنظيمية حول الوسائط الاصطناعية الضارة، تابع AI Buzz Wire للإبلاغ عن القضايا التي تشكل تأثير الذكاء الاصطناعي على المجتمع.
اقرأ المزيد من أخبار أخلاقيات الذكاء الاصطناعي →
