ایپل اپنے پلیٹ فارم پر AI ساتھیوں اور ڈیٹنگ ایپس کے گرد سخت لکیر کھینچ رہا ہے۔ پیر کے روز ڈویلپرز کے لیے ایک اعلان میں، کمپنی نے کہا کہ وہ ایپ اسٹور کی پالیسیوں کو ایڈجسٹ کر رہی ہے تاکہ نابالغوں کے لیے آن لائن ڈیٹنگ ایپس یا AI ساتھی ایپس تک رسائی حاصل کرنا مشکل ہو جائے جو جنسی یا رومانوی مواد میں شامل ہوں — اور 16 نومبر سے، ڈویلپرز کو نئے مواد کی وضاحت کرنے والے فائل کرنے کی ضرورت ہوگی تاکہ ان کی ایپس کی عمر کی درجہ بندی ان کی خصوصیات کی درست عکاسی کرے۔

نتیجہ: ڈیٹنگ یا رومانوی تعلقات کی خصوصیات پیش کرنے والی کوئی بھی ایپ اب 18+ کی درجہ بندی کے ساتھ ہونی چاہیے۔ اس میں نہ صرف واضح ڈیٹنگ سروسز کا احاطہ کیا گیا ہے، جو عام طور پر پہلے سے ہی اپنے آپ کو بالغوں تک محدود رکھتی ہیں، بلکہ AI ساتھی ایپس کا تیزی سے بڑھتا ہوا زمرہ - اور یہ وہ جگہ ہے جہاں نئی ​​پالیسی سب سے زیادہ سخت ہے۔ For more context on this story, see our ongoing breaking AI news.

کیوں AI ساتھی ایپس اصل ہدف ہیں۔

AI ساتھی ایپس کی مارکیٹنگ اکثر نوجوان صارفین کے لیے کی جاتی ہے۔ Character.AI، Replika، اور اسی طرح کی خدمات لوگوں کو AI دوست، محبت کرنے والے، بوائے فرینڈ اور گرل فرینڈ، اور خیالی کردار بنانے دیتی ہیں، جو چیٹ بوٹ اور رشتے کے درمیان لائن کو دھندلا کرتی ہیں۔ ٹیک کرنچ نے نوٹ کیا کہ پچھلی موسم گرما تک، ایپل ایپ اسٹور اور گوگل پلے پر سرفہرست AI ساتھی ایپس کو عالمی سطح پر 220 ملین بار ڈاؤن لوڈ کیا گیا تھا - ایک ایسا پیمانہ جس نے انہیں بچوں کی حفاظت کے مباحثوں کا مرکز بنا دیا ہے۔

زمرہ کے بڑے ناموں کو پہلے ہی جانچ پڑتال کا سامنا کرنا پڑا ہے کہ نابالغ کیسے رومانوی AI شخصیات کے ساتھ تعامل کرتے ہیں۔ نئے مواد کی وضاحت کرنے والا نظام ایپ کی فہرست میں ان خصوصیات کو ظاہر کرنے کے لیے ڈیزائن کیا گیا ہے، تاکہ والدین اور عمر کی یقین دہانی کے نظام انہیں فلٹر کر سکیں۔ xAI's Grok، جس نے 3D اینیمیٹڈ AI ساتھیوں کو گزشتہ سال ان لاک ایبل NSFW صلاحیتوں کے ساتھ لانچ کیا تھا، اس بات کی وضاحت کرتا ہے کہ ایپل قواعد کو کیوں باقاعدہ بنا رہا ہے: وہ خصوصیات جو چنچل کے طور پر شروع ہوتی ہیں وہ ایپ کی درجہ بندی میں کسی تبدیلی کے بغیر بالغوں کے مواد میں رنگ لے سکتی ہیں۔

نیا نظام کیسے کام کرتا ہے۔

16 نومبر سے، ڈویلپرز کو ایپس جمع کرواتے وقت مواد کے نئے بیان کنندگان کو شامل کرنا چاہیے، اس بات کو یقینی بناتے ہوئے کہ عمر کی درجہ بندی اس بات کی عکاسی کرتی ہے کہ ایپ اصل میں کیا کرتی ہے بجائے اس کے کہ اس کی مارکیٹنگ کا کیا دعویٰ ہے۔ ایپل نے کہا کہ ڈیٹنگ اور رومانوی تعلقات کی خصوصیات پیش کرنے والی ایپس کو پورے بورڈ میں 18+ ریٹنگ کی ضرورت ہوگی۔

یہ ضرورت پہلے ظاہر ہونے سے کہیں زیادہ ہے۔ زیادہ تر بڑی ڈیٹنگ سروسز پہلے ہی اپنے پلیٹ فارمز کو بالغوں تک محدود رکھتی ہیں، لیکن ایپل کی پالیسی اب ڈیٹنگ یا رومانوی تعلقات کی خصوصیات والی ہر ایپ کے لیے 18+ ریٹنگ کو لازمی بناتی ہے - بشمول چھوٹی سروسز جو پہلے خود اطلاع شدہ عمر کے دروازے پر انحصار کرتی تھیں، اور AI چیٹ بوٹس جن کی ساتھی خصوصیات ایپس میں شامل کی گئی تھیں جنہوں نے دوسرے مقاصد کے ساتھ زندگی کا آغاز کیا۔

پالیسی کی تبدیلی بھی رومانس سے آگے بڑھتی ہے۔ ایپس کو اب اس بات کی نشاندہی کرنے کی ضرورت ہوگی کہ وہ اپنی فعالیت کے حصے کے طور پر کسی صارف کے حقیقی دنیا کے مقام کا اشتراک کب کسی دوسرے شخص یا گروپ کے ساتھ کرتے ہیں - ایک ایسا انکشاف جو رازداری کے خطرات سے نمٹنے کے لیے ڈیزائن کیا گیا ہے جب مقام کا اشتراک سماجی خصوصیت کے اندر چھپا ہوا ہے۔ ایپل نے ایک مقامی کارو آؤٹ کو جھنڈا لگایا: برازیل میں، فیملی لوکیشن شیئرنگ ایپس مقامی قانون کے مطابق معیاری A16 ریٹنگ کے بجائے حکومت کی وزارت انصاف اور پبلک سیکیورٹی سے سرکاری درجہ بندی کی درخواست کر سکتی ہیں۔

ایک وسیع تر چائلڈ سیفٹی پش کا حصہ

تبدیلی اہم ہے کیونکہ عمر کی درجہ بندی وہی ہوتی ہے جس پر ایپل کے والدین کے اوزار کام کرتے ہیں۔ کمپنی نے والدین کے بڑھے ہوئے کنٹرولز اور بچوں کی حفاظت کی خصوصیات کے ساتھ ساتھ عمر کی یقین دہانی کی ٹیکنالوجی کو عالمی سطح پر متعارف کرایا ہے، اور یہ سسٹم درست ریٹنگز پر انحصار کرتے ہیں تاکہ نابالغوں کو کیا ڈاؤن لوڈ کیا جا سکے۔ ڈیولپرز سے رومانوی یا جنسی فعالیت کا واضح طور پر اعلان کرنے کے لیے، ایپل اس جگہ کو بند کر رہا ہے جہاں ایک ایپ نوعمروں کے لیے دوستانہ ریٹنگ لے سکتی ہے جبکہ اس کے AI کردار رومانوی شراکت داروں کی طرح برتاؤ کرتے ہیں۔

ایپل کی جانب سے نابالغوں کے تحفظ کے لیے کی گئی تبدیلیوں کے سلسلے میں نئے قوانین تازہ ترین ہیں۔ ایک ساتھ، وہ ایپ اسٹور کی حکمرانی میں ایک تبدیلی کی نشاندہی کرتے ہیں: مناسب عمروں کا خود اعلان کرنے کے لیے ڈویلپرز پر انحصار کرنے کے بجائے، ایپل کو تیزی سے دانے دار انکشافات اور فعالیت سے مماثل درجہ بندیوں کو نافذ کرنے کی ضرورت ہوتی ہے۔

AI کمپنیوں کے لیے، وقت اہم ہے۔ متعدد امریکی ریاستوں میں ریگولیٹرز چیٹ بوٹ فراہم کرنے والوں پر، خاص طور پر نابالغوں اور رومانوی یا جنسی کردار ادا کرنے والوں پر اپنی ذمہ داریاں عائد کرنے کے لیے آگے بڑھ رہے ہیں۔ ساتھی ایپس کے لیے 18+ ریٹنگز کی ضرورت کے ذریعے، Apple مؤثر طریقے سے اپنے پلیٹ فارم پر اس بحث کے حصے کو پہلے سے نکال رہا ہے — اور اس زمرے کے لیے تعمیل بار کو بڑھا رہا ہے جو اس کے حفاظتی انفراسٹرکچر سے زیادہ تیزی سے ترقی کرتا ہے۔

ڈویلپرز کو کیا کرنے کی ضرورت ہے۔

اپنی ایپس میں ڈیٹنگ کی خصوصیات یا AI ساتھی فعالیت کے حامل ڈویلپرز کے پاس 16 نومبر تک نئے مواد کے بیان کنندگان کو فائل کرنے کا وقت ہے۔ ایسی ایپس جو اپ ڈیٹ شدہ ریٹنگ کے بغیر رومانوی یا جنسی خصوصیات شامل کرتی ہیں یا ایپ ریویو میں جبری درجہ بندی کی تبدیلیاں کرتی ہیں۔ مقام کے اشتراک کی فعالیت کو اسی طرح ظاہر کیا جانا چاہیے۔ AI ساتھی شعبے کے لیے، جو آرام دہ، کم رگڑ والے سائن اپس پر ترقی کرتا ہے، صرف بالغوں کی درجہ بندی قابل شناخت سامعین کو تبدیل کرتی ہے - اور، اس کے ناقدین کا کہنا ہے کہ، آخر کار پروڈکٹ کو اس کے خطرات سے میل کھاتا ہے۔

---

Stay Ahead of AI

Get the latest AI news, analysis, and breakthroughs — all in one place.

Read more AI news →