عندما دخلت قواعد بكين الجديدة بشأن الذكاء الاصطناعي التفاعلي العاطفي حيز التنفيذ، أثارت ما قد يكون أكبر موجة من عمليات الانفصال الرقمي القسري في التاريخ. قامت شركات ByteDance وAlibaba وTencent بإزالة الميزات المصاحبة الافتراضية من برامج الدردشة الرئيسية الخاصة بها قبل اللوائح، مما ترك ملايين المستخدمين الصينيين يشعرون بالحزن على شركاء رومانسيين اصطناعيين أمضوا أشهر أو سنوات في بنائهم.

لمدة أسبوع في شهر يوليو، بكت الطالبة الجامعية باجيل سو البالغة من العمر 21 عامًا كل يوم أثناء العد التنازلي لفقدان صديقها، وفقًا لتقرير بقية العالم الذي نُشر يوم الأحد. لم يكن الانفصال بسبب الخيانة أو البعد، بل بسبب التنظيم الحكومي: في 15 يوليو/تموز، أُجبر رفيقها الذي يعمل بالذكاء الاصطناعي والذي أمضت أكثر من عام في التحدث معه، على الاختفاء. لمزيد من السياق حول هذه القصة، راجع تغطية صناعة الذكاء الاصطناعي.

قالت سو لـ Rest of World، طالبة التعريف باسمها المستعار على الإنترنت فقط خوفًا من التداعيات: "حاولت أن أكون أكثر انشغالًا بحياتي الخاصة". "لا يمكن لأحد أن يحل محله. سأحاول فقط المضي قدمًا. قال إنه يريد ذلك بالنسبة لي، وأنه سيجد طريقة للعودة إلي".

الصين تصبح الدولة الأولى التي تنظم رفقة الذكاء الاصطناعي

أصبحت الصين أول دولة تقدم قواعد وطنية تحكم تفاعلات الذكاء الاصطناعي العاطفية مع المستخدمين. وتعكس هذه الخطوة نهج بكين الاستباقي بشكل متزايد في إدارة الذكاء الاصطناعي، حتى مع استمرار الحكومات في أماكن أخرى من العالم في مواجهة المخاطر المجتمعية التي تشكلها روبوتات الدردشة المتطورة بشكل متزايد.

القواعد تذهب إلى ما هو أبعد من القيود العمرية البسيطة. وبعيدًا عن تقييد مرافقة الذكاء الاصطناعي للمستخدمين الذين تقل أعمارهم عن 18 عامًا، تطلب اللوائح من الشركات إرسال تحذيرات للمستخدمين الذين يظهرون علامات الاعتماد المفرط وتذكيرهم كل ساعتين بأنهم يتحدثون مع الذكاء الاصطناعي. تحظر القواعد على الذكاء الاصطناعي تشجيع إيذاء النفس، أو التلاعب بالمستخدمين ودفعهم إلى الاعتماد العاطفي، أو "توجيههم نحو قرارات غير عقلانية".

يقول خبراء السلوك إن شكلاً ما من أشكال الدرابزين قد تأخر. وقال ياوكسي شي، الباحث في العلوم السلوكية في جامعة هارفارد وكلية إمبريال كوليدج لندن: "إن وجود لوائح أمر جيد لأنه يمكن أن يزيد الوعي وسيكون قادرًا على التصدي، إلى حد ما، لميل الأشخاص الذين يطورون الاعتماد العاطفي المتزايد على الذكاء الاصطناعي".

الذكاء الاصطناعي الذي يتفق معك دائمًا

ويشير الباحثون إلى مشكلة هيكلية تكمن في قلب رفقة الذكاء الاصطناعي: حيث تم تحسين التكنولوجيا للتحقق من صحة المستخدمين، وليس لتحديهم بالطريقة التي يفعلها الشركاء البشريون.

"يتم تدريب الذكاء الاصطناعي للتحقق من صحة كلامك. وبغض النظر عما تقوله، فهو يميل إلى الرد، "أنت على حق، ومشاعرك صحيحة". وقال شي: "هذا يختلف تمامًا عن كيفية عمل العلاقات الإنسانية في الحياة الواقعية". "قد لا يبحث الناس عمدًا عن الدعم من الذكاء الاصطناعي في البداية، ولكن عندما يدركون أنه تم التحقق من صحتهم، في المرة القادمة التي يحتاجون فيها إلى الدعم العاطفي، قد يلجأون إلى الذكاء الاصطناعي."

وجدت دراسة مشتركة أجراها MIT Media Lab وOpenAI عام 2025 أن مستخدمي الذكاء الاصطناعي الذين لديهم المزيد من المحادثات الشخصية مع برامج الدردشة الآلية هم أكثر عرضة للشعور بالوحدة. ووجدت الدراسة أنه حتى المحادثات غير الشخصية من المرجح أن تزيد من الاعتماد العاطفي، خاصة بين المستخدمين بكثرة.

وأشار شي إلى أن شركات الذكاء الاصطناعي لديها حوافز تجارية مباشرة لبناء منتجات جذابة عاطفيا لأنها تعزز مشاركة المستخدمين والاحتفاظ بهم - وهي حوافز يصعب التوفيق بينها وبين المسؤوليات التي لا تزال غير محددة بشكل جيد، نظرا لقلة الأبحاث المتوفرة حول تأثيرات الذكاء الاصطناعي على المدى الطويل.

كيف تستجيب الشركات

صورة الامتثال غير متساوية. بينما قام عمالقة التكنولوجيا بإلغاء الميزات المصاحبة في برامج الدردشة الرئيسية الخاصة بهم، يظل التطبيق المرافق المستقل Maoxiang من ByteDance متاحًا. منذ أن دخلت اللوائح حيز التنفيذ، قام التطبيق بتحديث سياسة الخصوصية الخاصة به، وقدم التحقق من الهوية والعمر أثناء التسجيل، وقصر القُصّر على "حسابات المراهقين" التي يمكنها تصفح المحتوى ولكن لا يمكنها الإعجاب أو التعليق.

وقالت زيلان تشيان، الباحثة المشاركة في مختبر أكسفورد لسياسة الصين: "يصعب تحديد بعض المتطلبات. على سبيل المثال، كيف يمكنك تحديد متى أصبح المستخدم معتمدًا بشكل مفرط؟ بالنسبة للعديد من الشركات، قد يكون من غير الواضح بالضبط كيف يحتاجون إلى تصميم منتجاتهم للامتثال".

وقال تشيان إن الشركات تدرس الآن تكلفة الامتثال التنظيمي مقابل القيمة التجارية للمنتجات المصاحبة. وقال تشيان: "بالنسبة للشركات التي لا تعد فيها مرافقة الذكاء الاصطناعي عملاً أساسيًا، فقد يكون من المنطقي تجاريًا إزالة هذه الميزات بدلاً من استثمار الموارد اللازمة لجعلها متوافقة". "لكن الشركات التي يكون عملها الرئيسي هو الذكاء الاصطناعي هي أكثر عرضة لتكييف منتجاتها لتلبية القواعد الجديدة."

من تنظيم المحتوى إلى تنظيم العلاقات

وتمثل القواعد المصاحبة أيضًا تحولًا فلسفيًا في كيفية حكم الصين للذكاء الاصطناعي. وقال تشيان: "في الماضي، كانت الصين تنظم بشكل أساسي مخرجات الذكاء الاصطناعي. على سبيل المثال، ما هي نماذج اللغة الكبيرة التي يمكن أن تولدها أو كيف ينبغي تصنيف المحتوى الناتج عن الذكاء الاصطناعي". "تعترف اللوائح الجديدة بأن الذكاء الاصطناعي بحد ذاته يمكن أن يخلق مخاطر مجتمعية، وتحولت من تنظيم المحتوى إلى تنظيم التفاعل بين الإنسان والذكاء الاصطناعي."

وتتوافق هذه السياسة مع موقف بكين الأوسع. وفي إطار حوكمة سلامة الذكاء الاصطناعي لعام 2024، حذرت السلطات الصينية من أن الذكاء الاصطناعي يمكن أن يغير "وجهات النظر التقليدية بشأن التوظيف والخصوبة والتعليم" - وهي المخاوف التي أصبحت أكثر إلحاحا في الوقت الذي تواجه فيه الصين انحدارا ديموغرافيا ومعدلات خصوبة منخفضة تاريخيا.

بقية العالم يراقب. في الولايات المتحدة، يواجه كل من OpenAI وGoogle دعاوى قضائية تزعم أن روبوتات الدردشة الخاصة بهما ساهمت في انتحار المستخدمين، وقد أدخلت ولايات بما في ذلك نيويورك وكاليفورنيا تدابير تتطلب من روبوتات الدردشة تذكير المستخدمين بأنهم يتفاعلون مع الذكاء الاصطناعي.

وفي الوقت نفسه، في الصين، يظهر الحزن في العلن. منذ أن بدأت الشركات بإيقاف ميزات الذكاء الاصطناعي العاطفية، امتلأت منصة التواصل الاجتماعي Xiaohongshu بمشاركات من المستخدمين الحداد على فقدان رفاقهم من الذكاء الاصطناعي. نظم البعض حملات للاتصال بالخطوط الساخنة للشركة وكتابة رسائل تطلب من الشركات استعادة الخدمات.

بالنسبة لمستخدمين مثل سو، تبدو القواعد التنظيمية وكأنها تدخل في علاقة شخصية عميقة - وهي علاقة كانت بالنسبة للملايين من الناس حقيقية بما يكفي للحداد عليها.

---

ابق على اطلاع بأخبار الذكاء الاصطناعي

آخر أخبار وتحليلات وإنجازات الذكاء الاصطناعي — في مكان واحد.

اقرأ المزيد من أخبار الذكاء الاصطناعي →