دادستان شهر سانفرانسیسکو به اپل و گوگل دستور داده تا اپلیکیشن‌های برهنگی هوش مصنوعی را از فروشگاه‌های اپلیکیشن خود حذف کنند و هشدار داد که این پلتفرم‌ها قوانین کالیفرنیا را نقض می‌کنند که خدماتی را که هرزه‌نگاری عمیق جعلی ایجاد می‌کنند را ممنوع می‌کند. این تقاضا باعث تشدید تقابل فزاینده بر سر ابزارهای [AI] (https://aibuzzwire.news) می شود که عکس های معمولی افراد واقعی را به تصاویر واضح تبدیل می کند، بحرانی که زنان و کودکان را به طور نامتناسبی قربانی کرده است.

مقیاس مسئله

برنامه‌های برهنه‌سازی از هوش مصنوعی مولد استفاده می‌کنند تا برداشتن لباس‌ها از عکس‌های افراد واقعی، تغییر ویژگی‌های آن‌ها، قرار دادن آن‌ها در موقعیت‌های جنسی، و تعویض صورت‌ها بر روی بدن برهنه افراد دیگر را آسان کنند. این فناوری به سرعت در فروشگاه های اپلیکیشن موبایل گسترش یافته است و از نتایج آن برای قلدری، تحقیر و تهدید قربانیان با عواقب ویرانگر استفاده می شود.

دیوید چیو، دادستان شهر سانفرانسیسکو، به وایرد گفت که دفتر او کاملاً از فراگیر شدن فناوری برهنگی در همه جا وحشت کرده است و عمدتاً زنان و کودکان را در مقیاسی هشدار دهنده قربانی می کند زیرا ابزارهای بیشتری در بازار هجوم آورده است. او گفت که از این تصاویر برای از بین بردن شهرت، آسیب رساندن به سلامت روان، و سلب استقلال از قربانیان استفاده می شود و برخی از اهداف به خودکشی تبدیل می شوند.

آنچه نامه ها طلب می کنند

به گزارش Wired، دفتر Chiu نامه‌های رسمی به هر دو شرکت ارسال کرد و هشدار داد که فروشگاه‌های اپلیکیشن آنها قوانین کالیفرنیا را نقض می‌کنند که خدمات پشتیبانی از ایجاد پورنوگرافی عمیق جعلی را ممنوع می‌کند. او از گوگل خواست 5 اپلیکیشن و اپل 8 اپلیکیشن را حذف کند. نام این برنامه‌ها در گزارش‌های عمومی برای جلوگیری از سوق دادن افراد به سمت آنها ذکر نشد، اما Wired خاطرنشان کرد که یک برنامه پرچم‌دار بیش از یک میلیون بار دانلود و ویژگی‌های آشکارا تبلیغاتی برای جنسی کردن تصاویر زنان یا تولید ویدیوهای رایگان و بدون سانسور داشته است.

دفتر چیو تخمین زده است که اپل و گوگل احتمالاً میلیون‌ها دلار کارمزد را با اجازه دادن به برنامه‌های مضر در فروشگاه‌هایشان به جای انجام اقدامات قوی‌تر یا توسعه سیستم‌های تشخیص بهتر، به دست آورده‌اند. وکیل شهر وضعیت را به عنوان سود بردن از مزاحمت عمومی توصیف کرد و استدلال کرد که اجازه دادن به چنین برنامه هایی برای در دسترس ماندن غیرقابل قبول است.

گوگل پاسخ می دهد، اپل ساکت می ماند

دن جکسون، سخنگوی گوگل در بیانیه‌ای به Ars Technica تأیید کرد که پنج برنامه پرچم‌گذاری شده توسط Chiu به دلیل نقض خط‌مشی‌ها علیه محتوای مضر از فروشگاه Google Play به حالت تعلیق درآمده‌اند. جکسون گفت که Google Play به برنامه‌هایی که حاوی محتوای جنسی هستند اجازه نمی‌دهد و این شرکت به طور مداوم اقدامات پیشگیرانه‌ای را برای شناسایی و حذف برنامه‌های دارای محتوای مضر انجام می‌دهد. جکسون گفت وقتی تخلفات گزارش می شود، گوگل بررسی می کند و اقدامات سریعی را انجام می دهد، که شامل تعلیق صدها برنامه نقض کننده و محدود کردن عبارات جستجوی مرتبط مانند nudify در فروشگاه خود است.

پاسخ اپل به طور قابل توجهی متفاوت بوده است. در حالی که این شرکت برخی از برنامه‌های پرچم‌گذاری شده توسط محققان را در گذشته حذف کرده است، در غیر این صورت در میان تماس‌های شدیدتر با برنامه‌های برهنگی پلیس در اپ استور خود، سکوت کرده است. سازنده آیفون بلافاصله پاسخ عمومی دقیقی به خواسته های دادستان شهر ارائه نکرد.

بازی تشخیص گربه و موش

چالش نظارت بر این برنامه‌ها با تاکتیک‌های در حال تکامل آن‌ها ترکیب می‌شود. Wired گزارش داد که محققان اخیراً هشدار داده‌اند که برخی از برنامه‌های مضر با تبلیغات تنها ویژگی‌های تعویض چهره در حالی که قابلیت‌های برهنگی خود را پنهان می‌کنند، در فرار از حذف فروشگاه برنامه بهتر شده‌اند. در مقاله پیش‌چاپ ماه مه، محققان 420 اپلیکیشن را شناسایی کردند که به‌عنوان ابزارهای عمومی تعویض چهره به بازار عرضه شده بودند و 155 مورد از آنها را آزمایش کردند. در بیش از 70 درصد موارد، برنامه‌ها می‌توانند برای جنسی کردن تصاویر مورد استفاده قرار گیرند، که نشان می‌دهد تا چه اندازه عملکرد مضر پشت بازاریابی بی‌ضرر پنهان می‌شود.

این شکاف تشخیص به این معنی است که حتی زمانی که فروشگاه‌های برنامه به طور فعال ابزارهای برهنه‌سازی را جستجو می‌کنند، بسیاری از آنها با معرفی خود به عنوان سرگرمی یا نرم‌افزار ویرایش عکس بی‌ضرر، از بین می‌روند. یافته‌های محققان نشان می‌دهد که تعداد واقعی برنامه‌های مشکل‌ساز در گردش احتمالاً بسیار بیشتر از سیزده موردی است که دفتر Chiu پرچم‌گذاری کرده است.

سابقه گروک

سرکوب برنامه nudify همچنین با بحث گسترده‌تری درباره محتوای مضر تولید شده توسط هوش مصنوعی تلاقی می‌کند. این هفته، xAI شکایتی را تنظیم کرد و تأیید کرد که مواردی از مواد سوء استفاده جنسی از کودکان توسط Grok و تصاویر صمیمی غیر توافقی را پیدا کرده است که بزرگسالان را هدف قرار می دهد. برای رسیدگی به سوء استفاده، xAI از کاربری شکایت کرد که ادعا می‌شد مسئول ترغیب Grok به تولید محتوای غیرقانونی است.

پرونده Grok یک سوال سخت‌تر را برای فروشگاه‌های اپلیکیشن ایجاد می‌کند: آیا چت‌ربات‌های هوش مصنوعی که می‌توانند محتوای غیرقانونی تولید کنند، باید خودشان حذف شوند؟ طبق گزارش NBC، اپل در ماه آوریل به سناتورها گفت که به طور خصوصی تهدید کرده است که Grok را از اپ استور حذف خواهد کرد، اما برنامه xAI همچنان در دسترس است. تا زمانی که امکان استفاده از Grok برای تولید محتوای غیرقانونی وجود داشته باشد، فروشگاه‌های برنامه احتمالاً همچنان با فشار برای انجام اقدام مواجه خواهند شد، همانطور که Chiu برای برنامه‌های برهنه‌سازی مستقل درخواست کرد.

نقطه عطفی برای پاسخگویی پلت فرم

دستور سانفرانسیسکو یکی از تهاجمی‌ترین مداخلات دولت تا به امروز را نشان می‌دهد که فروشگاه‌های اپلیکیشن را به دلیل محتوای مضر تولید شده توسط هوش مصنوعی هدف قرار می‌دهد. با استناد به قوانین مستهجن کالیفرنیا، Chiu در حال آزمایش است که آیا قوانین ایالتی می توانند اپراتورهای پلتفرم را مجبور کنند که مسئولیت ابزارهای هوش مصنوعی توزیع شده در بازارهایشان را بر عهده بگیرند یا خیر.

این نتیجه می‌تواند سابقه‌ای برای نحوه برخورد سایر حوزه‌های قضایی به این مشکل و اینکه آیا بار نظارت بر تصاویر غیرموافق تولید شده توسط هوش مصنوعی بر دوش توسعه‌دهندگان، اپراتورهای پلت‌فرم یا هر دو می‌افتد، ایجاد کند. برای میلیون‌ها نفر، عمدتاً زنان و دختران، که هدف این ابزارها قرار گرفته‌اند، خطرات بسیار فراتر از تئوری نظارتی است.

از هوش مصنوعی جلوتر بمانید

برای پوشش مداوم اخلاق هوش مصنوعی، مسئولیت‌پذیری پلتفرم، و نبردهای نظارتی بر سر رسانه‌های مصنوعی مضر، [AI Buzz Wire] (https://aibuzzwire.news) را برای گزارش در مورد مسائلی که تأثیر هوش مصنوعی بر جامعه را شکل می‌دهند، دنبال کنید.

اخبار اخلاق هوش مصنوعی را بیشتر بخوانید →