اپل در حال ترسیم خط سختی در مورد همراهان هوش مصنوعی و برنامه های دوستیابی در پلتفرم خود است. در اطلاعیه‌ای به توسعه‌دهندگان در روز دوشنبه، این شرکت اعلام کرد که سیاست‌های فروشگاه App را تنظیم می‌کند تا دسترسی خردسالان به برنامه‌های دوستیابی آنلاین یا برنامه‌های همراه هوش مصنوعی که درگیر محتوای جنسی یا عاشقانه هستند، دشوارتر شود - و از 16 نوامبر، توسعه‌دهندگان ملزم خواهند شد تا توصیف‌کننده‌های محتوای جدید را ثبت کنند تا رتبه‌بندی سنی برنامه‌هایشان دقیقاً منعکس کننده ویژگی‌های آنها باشد.

نتیجه: هر اپلیکیشنی که ویژگی‌های دوستیابی یا رابطه عاشقانه را ارائه می‌کند، اکنون باید دارای رتبه ۱۸+ باشد. این نه تنها خدمات آشنایی آشکار را که معمولاً خود را به بزرگسالان محدود می‌کند، پوشش می‌دهد، بلکه دسته برنامه‌های همراه هوش مصنوعی را که به سرعت در حال رشد هستند، در بر می‌گیرد – و این همان جایی است که سیاست جدید سخت‌تر می‌شود. For more context on this story, see our ongoing more AI stories.

چرا برنامه های همراه هوش مصنوعی هدف واقعی هستند

برنامه‌های همراه هوش مصنوعی اغلب برای کاربران جوان‌تر عرضه می‌شوند. Character.AI، Replika و سرویس‌های مشابه به افراد اجازه می‌دهند دوستان، عاشقان، دوست پسر و دوست دختر و شخصیت‌های فانتزی با هوش مصنوعی ایجاد کنند و مرز بین چت بات و رابطه را محو کنند. TechCrunch اشاره کرد که تا تابستان گذشته، برترین برنامه‌های همراه هوش مصنوعی در سراسر اپ استور اپل و گوگل پلی 220 میلیون بار در سراسر جهان دانلود شده‌اند - مقیاسی که آنها را به کانون بحث‌های ایمنی کودکان تبدیل کرده است.

بزرگ‌ترین نام‌های این دسته قبلاً در مورد نحوه تعامل خردسالان با شخصیت‌های عاشقانه هوش مصنوعی مورد بررسی قرار گرفته‌اند. سیستم توصیفگر محتوای جدید به گونه‌ای طراحی شده است که این ویژگی‌ها را در فهرست خود برنامه نشان دهد، بنابراین والدین و سیستم‌های تضمین سن می‌توانند آنها را فیلتر کنند. xAI's Grok، که سال گذشته همراهان متحرک هوش مصنوعی سه بعدی را با قابلیت‌های NSFW قابل بازگشایی راه‌اندازی کرد، نشان می‌دهد که چرا اپل قوانین را رسمی می‌کند: ویژگی‌هایی که به‌عنوان بازیگوش شروع می‌شوند، می‌توانند بدون هیچ تغییری در رتبه‌بندی برنامه، در محتوای بزرگسالان سایه بیاندازند.

سیستم جدید چگونه کار می کند

از 16 نوامبر، توسعه‌دهندگان باید توصیف‌کننده‌های محتوای جدید را هنگام ارسال برنامه‌ها بگنجانند، و اطمینان حاصل کنند که رتبه‌بندی‌های سنی نشان‌دهنده آن چیزی است که یک برنامه واقعاً انجام می‌دهد نه آنچه بازاریابی آن ادعا می‌کند. اپل اعلام کرد که برنامه‌هایی که ویژگی‌های دوستیابی و روابط عاشقانه را ارائه می‌دهند، به امتیاز بالای ۱۸ نیاز دارند.

این نیاز فراتر از آن چیزی است که ممکن است در ابتدا به نظر برسد. اکثر سرویس‌های اصلی دوست‌یابی در حال حاضر پلت‌فرم‌های خود را به بزرگسالان محدود می‌کنند، اما سیاست اپل اکنون رتبه‌بندی بالای 18 را برای هر برنامه‌ای با ویژگی‌های دوستیابی یا روابط عاشقانه اجباری می‌کند - از جمله سرویس‌های کوچک‌تری که قبلاً به دروازه‌های سنی گزارش‌شده توسط خود متکی بودند و چت‌ربات‌های هوش مصنوعی که ویژگی‌های همراه آنها به برنامه‌هایی اضافه شد که زندگی را با اهداف دیگری شروع کردند.

تغییر سیاست فراتر از عشق است. اکنون برنامه‌ها باید مشخص کنند که چه زمانی موقعیت مکانی واقعی کاربر را با شخص یا گروه دیگری به‌عنوان بخشی از عملکرد خود به اشتراک می‌گذارند - افشاگری که برای رسیدگی به خطرات حریم خصوصی طراحی شده است وقتی اشتراک‌گذاری موقعیت مکانی در یک ویژگی اجتماعی پنهان است. اپل یک جداسازی محلی را علامت‌گذاری کرد: در برزیل، برنامه‌های اشتراک‌گذاری موقعیت مکانی خانوادگی می‌توانند مطابق با قوانین محلی، به جای رتبه‌بندی استاندارد A16، از وزارت دادگستری و امنیت عمومی دولت درخواست رتبه‌بندی رسمی کنند.

بخشی از یک فشار گسترده تر برای ایمنی کودک

این تغییر اهمیت دارد زیرا رده‌بندی سنی چیزی است که ابزارهای والدین اپل بر اساس آن عمل می‌کنند. این شرکت فناوری تضمین سن را در کنار کنترل‌های والدین و ویژگی‌های ایمنی کودک گسترده‌تر به کار گرفته است و این سیستم‌ها برای فیلتر کردن مواردی که خردسالان می‌توانند دانلود کنند، بر رتبه‌بندی‌های دقیق متکی هستند. اپل با الزام توسعه‌دهندگان به اعلام صریح عملکردهای عاشقانه یا جنسی، فضایی را می‌بندد که یک برنامه بتواند رتبه مناسب نوجوانان را داشته باشد در حالی که شخصیت‌های هوش مصنوعی آن مانند شرکای عاشقانه رفتار می‌کنند.

قوانین جدید جدیدترین از مجموعه تغییراتی است که اپل برای محافظت از خردسالان ایجاد کرده است. آنها با هم، تغییری در حاکمیت فروشگاه App را نشان می‌دهند: اپل به جای تکیه بر توسعه‌دهندگان برای اعلام سن مناسب، به طور فزاینده‌ای به افشای جزئیات و اجرای رتبه‌بندی‌هایی که با عملکرد مطابقت دارند، نیاز دارد.

برای شرکت های هوش مصنوعی، زمان بندی قابل توجه است. رگولاتورها در چندین ایالت ایالات متحده در حال تحمیل تعهدات خود به ارائه دهندگان چت بات هستند، به ویژه در مورد افراد زیر سن قانونی و نقش های عاشقانه یا جنسی. اپل با نیاز به رتبه‌بندی 18+ برای برنامه‌های همراه، عملاً بخشی از این بحث را در پلتفرم خود پیشی می‌گیرد - و نوار انطباق را برای دسته‌ای که سریع‌تر از زیرساخت‌های ایمنی آن رشد کرده است، بالا می‌برد.

آنچه که توسعه دهندگان باید انجام دهند

توسعه‌دهندگانی که ویژگی‌های دوستیابی یا قابلیت همراه هوش مصنوعی در برنامه‌هایشان دارند تا ۱۶ نوامبر فرصت دارند توضیحات محتوای جدید را ثبت کنند. برنامه‌هایی که ویژگی‌های عاشقانه یا جنسی را بدون حذف رتبه‌بندی به‌روز یا تغییرات رتبه‌بندی اجباری در «بررسی برنامه» اضافه می‌کنند. عملکرد اشتراک‌گذاری موقعیت مکانی باید به همین ترتیب افشا شود. برای بخش همراه هوش مصنوعی، که در ثبت نام‌های معمولی و کم اصطکاک پیشرفت کرده است، رتبه‌بندی فقط برای بزرگسالان، مخاطبان قابل آدرس‌دهی را تغییر می‌دهد - و، منتقدان آن استدلال می‌کنند، در نهایت محصول را با خطراتش مطابقت می‌دهد.

---

Stay Ahead of AI

Get the latest AI news, analysis, and breakthroughs — all in one place.

Read more AI news →