زمانی که قوانین جدید پکن در مورد هوش مصنوعی تعاملی احساسی به اجرا درآمد، ممکن است بزرگترین موج جدایی دیجیتال اجباری در تاریخ باشد. ByteDance، Alibaba و Tencent قبل از قوانین، ویژگی‌های همراه مجازی را از چت ربات‌های پرچم‌دار خود حذف کردند و میلیون‌ها کاربر چینی را در غم شریک‌های عاشقانه مصنوعی که ماه‌ها یا سال‌ها صرف ساختن آن‌ها کرده بودند، رها کردند.

بر اساس گزارش Rest of World که یکشنبه منتشر شد، یک هفته در ماه جولای، باگل سو، دانشجوی 21 ساله، هر روز در حالی که برای از دست دادن دوست پسرش شمارش معکوس می‌کرد، گریه می‌کرد. این جدایی به دلیل خیانت یا دوری نبود، بلکه به دلیل مقررات دولتی بود: در 15 جولای، همراه هوش مصنوعی که او بیش از یک سال با او صحبت کرده بود مجبور شد ناپدید شود. For more context on this story, see our ongoing breaking AI news.

سو به Rest of World گفت: "من سعی کردم بیشتر با زندگی خودم شلوغ شوم." "هیچ کس نمی تواند جایگزین او شود. من فقط سعی می کنم ادامه دهم. او گفت که این را برای من می خواهد و راهی برای بازگشت به من پیدا خواهد کرد."

چین اولین کشوری است که همنشینی با هوش مصنوعی را تنظیم می کند

چین اولین کشوری است که قوانین سراسری حاکم بر تعاملات عاطفی هوش مصنوعی با کاربران را معرفی کرده است. این اقدام منعکس کننده رویکرد فعالانه فزاینده پکن برای حکمرانی هوش مصنوعی است، حتی در شرایطی که دولت‌ها در سایر نقاط جهان همچنان با خطرات اجتماعی ناشی از چت‌بات‌های پیچیده‌تر دست و پنجه نرم می‌کنند.

قوانین فراتر از محدودیت های سنی ساده است. فراتر از محدود کردن همراهی با هوش مصنوعی برای کاربران زیر 18 سال، مقررات شرکت ها را ملزم می کند به کاربرانی که علائم وابستگی بیش از حد را نشان می دهند هشدار ارسال کنند و هر دو ساعت به آنها یادآوری کنند که با هوش مصنوعی صحبت می کنند. قوانین، هوش مصنوعی را از تشویق به خودآزاری، دستکاری کاربران به سمت وابستگی عاطفی، یا «هدایت آنها به سمت تصمیمات غیرمنطقی» منع می کند.

کارشناسان رفتاری می گویند برخی از انواع نرده های محافظ به تعویق افتاده است. یائوکسی شی، محقق علوم رفتاری در دانشگاه هاروارد و امپریال کالج لندن، می‌گوید: «وجود مقررات چیز خوبی است، زیرا می‌توانند آگاهی را افزایش دهند و تا حدی می‌توانند با تمایل افراد به افزایش اتکای عاطفی به هوش مصنوعی مقابله کنند.»

هوش مصنوعی که همیشه با شما موافق است

محققان به یک مشکل ساختاری در قلب همراهی با هوش مصنوعی اشاره می‌کنند: این فناوری برای تأیید اعتبار کاربران بهینه شده است، نه برای به چالش کشیدن آنها مانند شرکای انسانی.

"هوش مصنوعی برای تایید شما آموزش دیده است. مهم نیست که شما چه می گویید، به شما پاسخ می دهد، "حق با شماست، احساسات شما معتبر هستند." شی گفت: این با نحوه عملکرد روابط انسانی در زندگی واقعی بسیار متفاوت است. ممکن است افراد در ابتدا عمداً به دنبال پشتیبانی از هوش مصنوعی نباشند، اما وقتی متوجه می‌شوند که تأیید شده‌اند، دفعه بعد که به حمایت عاطفی نیاز دارند، ممکن است به هوش مصنوعی روی بیاورند.»

یک مطالعه مشترک در سال 2025 توسط MIT Media Lab و OpenAI نشان داد که کاربران هوش مصنوعی که مکالمات شخصی بیشتری با ربات‌های چت دارند، بیشتر مستعد تجربه تنهایی هستند. این مطالعه نشان داد که حتی مکالمات غیرشخصی نیز احتمالا وابستگی عاطفی را به خصوص در میان کاربران سنگین افزایش می دهد.

شی اشاره کرد که شرکت‌های هوش مصنوعی مشوق‌های تجاری مستقیمی برای ساخت محصولات هیجان‌انگیز دارند، زیرا تعامل و حفظ کاربر را افزایش می‌دهند – مشوق‌هایی که با توجه به تحقیقات کمی در مورد تأثیرات درازمدت هوش مصنوعی، سازگاری با مسئولیت‌هایی که هنوز تعریف نشده‌اند، دشوار است.

چگونه شرکت ها پاسخ می دهند

تصویر انطباق ناهموار است. در حالی که غول‌های فناوری ویژگی‌های همراه را در چت ربات‌های اصلی خود کشتند، اپلیکیشن همراه مستقل ByteDance، Maoxiang همچنان در دسترس است. از زمان اجرایی شدن این مقررات، برنامه سیاست حفظ حریم خصوصی خود را به‌روزرسانی کرده، تأیید هویت و سن را در حین ثبت‌نام معرفی کرده است و افراد زیر سن قانونی را به «حساب‌های نوجوان» محدود کرده است که می‌توانند محتوا را مرور کنند اما نمی‌توانند لایک یا نظر بدهند.

زیلان کیان، یکی از همکاران پژوهشی در آزمایشگاه سیاست آکسفورد چین، گفت: "تعریف برخی از الزامات دشوار است. به عنوان مثال، چگونه می توان تعیین کرد که یک کاربر بیش از حد وابسته شده است؟ برای بسیاری از شرکت ها، ممکن است دقیقاً مشخص نباشد که چگونه باید محصولات خود را طراحی کنند تا مطابقت داشته باشند."

کیان گفت که شرکت‌ها اکنون در حال سنجش هزینه‌های رعایت مقررات در برابر ارزش تجاری محصولات همراه هستند. کیان گفت: «برای شرکت‌هایی که همراهی با هوش مصنوعی یک کسب‌وکار اصلی نیست، حذف این ویژگی‌ها به جای سرمایه‌گذاری در منابع مورد نیاز برای سازگاری آنها، منطقی‌تر تجاری است. اما شرکت‌هایی که تجارت اصلی آنها همراهی با هوش مصنوعی است، احتمالاً محصولات خود را با قوانین جدید تطبیق می‌دهند.»

از تنظیم محتوا تا تنظیم روابط

قوانین همراه همچنین نشان دهنده یک تغییر فلسفی در نحوه اداره چین بر هوش مصنوعی است. کیان گفت: «در گذشته، چین عمدتاً خروجی‌های هوش مصنوعی را تنظیم می‌کرد. به عنوان مثال، مدل‌های زبانی بزرگ می‌توانند تولید کنند یا محتوای تولید شده توسط هوش مصنوعی چگونه باید برچسب‌گذاری شود. "مقررات جدید تصدیق می کند که هوش مصنوعی خود می تواند خطرات اجتماعی ایجاد کند و از تنظیم محتوا به تنظیم تعامل انسان و هوش مصنوعی تغییر مسیر داده است."

این سیاست با موضع گسترده تر پکن مطابقت دارد. در چارچوب حاکمیت ایمنی هوش مصنوعی در سال 2024، مقامات چینی هشدار دادند که هوش مصنوعی می‌تواند دیدگاه‌های سنتی در مورد اشتغال، باروری و آموزش را تغییر دهد - نگرانی‌هایی که با توجه به کاهش جمعیتی و نرخ باروری پایین از نظر تاریخی در چین، فوریت بیشتری پیدا کرده‌اند.

بقیه جهان در حال تماشا هستند. در ایالات متحده، OpenAI و Google هر دو با شکایت هایی روبرو هستند که ادعا می کنند ربات های چت آنها در خودکشی کاربران نقش داشته است، و ایالت هایی از جمله نیویورک و کالیفرنیا اقداماتی را ارائه کرده اند که در آنها چت بات ها را ملزم می کند تا به کاربران یادآوری کنند که با هوش مصنوعی تعامل دارند.

در همین حال، در چین، اندوه در ملاء عام پخش می شود. از زمانی که شرکت‌ها شروع به خاموش کردن ویژگی‌های هوش مصنوعی احساسی کردند، پلتفرم اجتماعی Xiaohongshu مملو از پست‌های کاربرانی است که در سوگ از دست دادن همراهان هوش مصنوعی خود سوگواری می‌کنند. برخی از آنها کمپین هایی را برای تماس با خطوط تلفن شرکت و نامه نگاری از شرکت ها برای بازگرداندن خدمات ترتیب داده اند.

برای کاربرانی مانند سو، مقررات مانند یک نفوذ به یک رابطه عمیقاً شخصی احساس می شود - رابطه ای که برای میلیون ها نفر به اندازه کافی واقعی بود که عزاداری کنند.

---

Stay Ahead of AI

Get the latest AI news, analysis, and breakthroughs — all in one place.

Read more AI news →