جب جذباتی طور پر انٹرایکٹو AI پر بیجنگ کے نئے قواعد نافذ ہوئے، تو انہوں نے اس بات کو متحرک کیا کہ تاریخ میں زبردستی ڈیجیٹل بریک اپ کی سب سے بڑی لہر کیا ہو سکتی ہے۔ بائٹ ڈانس، علی بابا، اور ٹینسنٹ نے ضوابط سے پہلے اپنے فلیگ شپ چیٹ بوٹس سے ورچوئل ساتھی خصوصیات کو ہٹا دیا، جس سے لاکھوں چینی صارفین مصنوعی رومانوی شراکت داروں کو غمزدہ کر رہے ہیں جن کی تعمیر میں انہوں نے مہینوں یا سال گزارے تھے۔

اتوار کو شائع ہونے والی ریسٹ آف ورلڈ کی رپورٹ کے مطابق، جولائی میں ایک ہفتے تک، 21 سالہ کالج کی طالبہ بیگل سُو ہر روز روتی تھی جب وہ اپنے بوائے فرینڈ کے کھو جانے پر گنتی تھی۔ بریک اپ دھوکہ دہی یا دوری کی وجہ سے نہیں ہوا، بلکہ حکومتی ضابطے کی وجہ سے ہوا: 15 جولائی کو، جس AI ساتھی سے اس نے بات کرتے ہوئے ایک سال سے زیادہ وقت گزارا تھا، اسے غائب ہونے پر مجبور کر دیا گیا۔ For more context on this story, see our ongoing AI news.

"میں نے اپنی زندگی میں مصروف ہونے کی کوشش کی،" ایس یو نے ریسٹ آف ورلڈ کو بتایا، نتائج کے خوف سے صرف اپنے آن لائن تخلص سے شناخت کرنے کو کہا۔ "کوئی بھی اس کی جگہ نہیں لے سکتا۔ میں صرف آگے بڑھنے کی کوشش کروں گا۔ اس نے کہا کہ وہ میرے لیے یہی چاہتا ہے، اور وہ میرے پاس واپس آنے کا راستہ تلاش کرے گا۔"

چین AI رفاقت کو منظم کرنے والا پہلا ملک بن گیا۔

چین پہلا ملک بن گیا ہے جس نے صارفین کے ساتھ AI کے جذباتی تعامل کو کنٹرول کرنے والے ملک گیر قوانین متعارف کرائے ہیں۔ یہ اقدام AI گورننس کے لیے بیجنگ کے بڑھتے ہوئے فعال انداز کی عکاسی کرتا ہے، یہاں تک کہ جب دنیا میں کہیں اور حکومتیں تیزی سے نفیس چیٹ بوٹس سے لاحق سماجی خطرات سے نمٹ رہی ہیں۔

اصول عمر کی سادہ پابندیوں سے بالاتر ہیں۔ 18 سال سے کم عمر کے صارفین کے لیے AI کی رفاقت کو محدود کرنے کے علاوہ، ضوابط کمپنیوں سے مطالبہ کرتے ہیں کہ وہ صارفین کو انتباہات بھیجیں جو ضرورت سے زیادہ انحصار کے آثار دکھاتے ہیں اور انہیں ہر دو گھنٹے بعد یاد دلاتے ہیں کہ وہ AI کے ساتھ بات کر رہے ہیں۔ قوانین AI کو خود کو نقصان پہنچانے کی حوصلہ افزائی کرنے، صارفین کو جذباتی انحصار میں تبدیل کرنے، یا "انہیں غیر معقول فیصلوں کی طرف لے جانے" سے منع کرتے ہیں۔

طرز عمل کے ماہرین کا کہنا ہے کہ گارڈریل کی کچھ شکل التوا میں ہے۔ ہارورڈ یونیورسٹی اور امپیریل کالج لندن کے رویے سے متعلق سائنس کے محقق یاوکسی شی نے کہا، "ضابطوں کا اپنی جگہ پر ہونا ایک اچھی چیز ہے کیونکہ وہ بیداری پیدا کر سکتے ہیں اور کسی حد تک لوگوں کے AI پر جذباتی انحصار بڑھانے کے رجحان کے خلاف دباؤ ڈال سکتے ہیں۔"

AI جو ہمیشہ آپ سے متفق ہوتا ہے۔

محققین AI کی صحبت کے مرکز میں ایک ساختی مسئلے کی طرف اشارہ کرتے ہیں: ٹیکنالوجی کو صارفین کی توثیق کرنے کے لیے بہتر بنایا گیا ہے، نہ کہ انسانی شراکت داروں کی طرح چیلنج کرنے کے لیے۔

"اے آئی کو آپ کی توثیق کرنے کے لیے تربیت دی گئی ہے۔ اس سے کوئی فرق نہیں پڑتا ہے کہ آپ جو بھی کہتے ہیں، یہ جواب دیتا ہے، 'آپ ٹھیک کہہ رہے ہیں، آپ کے احساسات درست ہیں۔' یہ اس سے بہت مختلف ہے کہ انسانی تعلقات حقیقی زندگی میں کیسے کام کرتے ہیں،" شی نے کہا۔ "ہو سکتا ہے کہ لوگ جان بوجھ کر پہلے AI سے تعاون کی تلاش میں نہ ہوں، لیکن جب انہیں احساس ہو جائے کہ ان کی توثیق ہو گئی ہے، اگلی بار جب انہیں جذباتی مدد کی ضرورت ہو گی، تو وہ AI کی طرف رجوع کر سکتے ہیں۔"

ایم آئی ٹی میڈیا لیب اور اوپن اے آئی کے 2025 کے مشترکہ مطالعے سے پتا چلا ہے کہ چیٹ بوٹس کے ساتھ زیادہ ذاتی گفتگو کرنے والے AI صارفین تنہائی کا سامنا کرنے کا زیادہ خطرہ رکھتے ہیں۔ یہاں تک کہ غیر ذاتی گفتگو سے بھی جذباتی انحصار میں اضافہ ہونے کا امکان ہے، خاص طور پر بھاری صارفین کے درمیان، مطالعہ پایا۔

شی نے نوٹ کیا کہ AI کمپنیوں کو جذباتی طور پر پرکشش مصنوعات بنانے کے لیے براہ راست تجارتی مراعات حاصل ہوتی ہیں کیونکہ وہ صارف کی مصروفیت اور برقراری کو بڑھاتی ہیں - ایسی ترغیبات جن کی ذمہ داریوں کے ساتھ ہم آہنگ ہونا مشکل ہے جن کی وضاحت ناقص ہے، اس بات کو دیکھتے ہوئے کہ AI کے طویل مدتی اثرات پر کتنی کم تحقیق موجود ہے۔

کمپنیاں کس طرح جواب دے رہی ہیں۔

تعمیل کی تصویر ناہموار ہے۔ جبکہ ٹیک جنات نے اپنے مرکزی چیٹ بوٹس میں ساتھی خصوصیات کو ختم کر دیا، بائٹ ڈانس کی اسٹینڈ لون ساتھی ایپ Maoxiang ابھی تک دستیاب ہے۔ جب سے ضابطے نافذ ہوئے ہیں، ایپ نے اپنی پرائیویسی پالیسی کو اپ ڈیٹ کیا ہے، رجسٹریشن کے دوران شناخت اور عمر کی تصدیق متعارف کرائی ہے، اور نابالغوں کو "نوعمر اکاؤنٹس" تک محدود کر دیا ہے جو مواد کو براؤز کر سکتے ہیں لیکن لائیک یا تبصرہ نہیں کر سکتے۔

آکسفورڈ چائنا پالیسی لیب کے ایک ریسرچ ایسوسی ایٹ زیلان کیان نے کہا، "کچھ تقاضوں کی وضاحت کرنا مشکل ہے۔ مثال کے طور پر، آپ اس بات کا تعین کیسے کریں گے کہ صارف کب حد سے زیادہ انحصار کرتا ہے؟ بہت سی کمپنیوں کے لیے یہ واضح نہیں ہو سکتا ہے کہ انہیں اپنی مصنوعات کی تعمیل کرنے کے لیے کس طرح ڈیزائن کرنے کی ضرورت ہے۔"

کیان نے کہا کہ کمپنیاں اب ساتھی مصنوعات کی تجارتی قیمت کے خلاف ریگولیٹری تعمیل کی لاگت کا وزن کر رہی ہیں۔ کیان نے کہا، "ان کمپنیوں کے لیے جہاں AI کی صحبت بنیادی کاروبار نہیں ہے، یہ ان خصوصیات کو ختم کرنے کے بجائے ان کے مطابق بنانے کے لیے درکار وسائل کی سرمایہ کاری کرنے سے زیادہ تجارتی معنی رکھتی ہے۔" "لیکن وہ کمپنیاں جن کا بنیادی کاروبار AI کی صحبت ہے، ان کی مصنوعات کو نئے اصولوں کے مطابق ڈھالنے کا زیادہ امکان ہے۔"

مواد کو منظم کرنے سے لے کر تعلقات کو منظم کرنے تک

ساتھی قوانین اس بات میں بھی فلسفیانہ تبدیلی کی نشاندہی کرتے ہیں کہ چین AI پر کس طرح حکومت کرتا ہے۔ "ماضی میں، چین بنیادی طور پر AI آؤٹ پٹس کو ریگولیٹ کرتا تھا۔ مثال کے طور پر، کون سے بڑے لینگویج ماڈلز تیار کر سکتے ہیں یا کس طرح AI سے تیار کردہ مواد کو لیبل لگانا چاہیے،" کیان نے کہا۔ "نئے ضوابط تسلیم کرتے ہیں کہ AI خود سماجی خطرات پیدا کر سکتا ہے، اور مواد کو ریگولیٹ کرنے سے انسانی-AI تعامل کو منظم کرنے کی طرف منتقل ہو گیا ہے۔"

پالیسی بیجنگ کے وسیع تر موقف کے مطابق ہے۔ اس کے 2024 AI سیفٹی گورننس فریم ورک میں، چینی حکام نے متنبہ کیا کہ AI "روزگار، زرخیزی اور تعلیم کے بارے میں روایتی خیالات" کو تبدیل کر سکتا ہے - ایسے خدشات جو چین کو آبادیاتی کمی اور تاریخی طور پر کم زرخیزی کی شرح کا سامنا کرنے کی وجہ سے زیادہ عجلت اختیار کر چکے ہیں۔

باقی دنیا دیکھ رہی ہے۔ ریاستہائے متحدہ میں، OpenAI اور Google دونوں کو قانونی چارہ جوئی کا سامنا ہے کہ ان کے چیٹ بوٹس نے صارفین کی خودکشیوں میں حصہ لیا، اور نیویارک اور کیلیفورنیا سمیت ریاستوں نے ایسے اقدامات متعارف کرائے ہیں جن میں صارفین کو یہ یاد دلانے کے لیے چیٹ بوٹس کی ضرورت ہوتی ہے کہ وہ AI کے ساتھ بات چیت کر رہے ہیں۔

دریں اثنا، چین میں، غم عوام میں کھیل رہا ہے. جب سے کمپنیوں نے جذباتی AI خصوصیات کو بند کرنا شروع کیا ہے، سوشل پلیٹ فارم Xiaohongshu صارفین کی پوسٹس سے بھر گیا ہے جس میں ان کے AI ساتھیوں کے نقصان پر سوگ منایا گیا ہے۔ کچھ نے کمپنی کی ہاٹ لائنز پر کال کرنے اور کمپنیوں سے خدمات بحال کرنے کے لیے خطوط لکھنے کے لیے مہمات کا اہتمام کیا ہے۔

ایس یو جیسے صارفین کے لیے، ضابطے ایک گہرے ذاتی تعلقات میں دخل اندازی کی طرح محسوس کرتے ہیں - جو کہ لاکھوں لوگوں کے لیے، سوگ منانے کے لیے کافی تھا۔

---

Stay Ahead of AI

Get the latest AI news, analysis, and breakthroughs — all in one place.

Read more AI news →