Apabila peraturan baharu Beijing mengenai AI interaktif emosi berkuat kuasa, ia mencetuskan gelombang pemisahan digital paksa terbesar dalam sejarah. ByteDance, Alibaba dan Tencent mengalih keluar ciri teman maya daripada chatbots utama mereka sebelum peraturan, menyebabkan berjuta-juta pengguna China bersedih dengan pasangan romantis sintetik yang telah mereka habiskan berbulan-bulan atau bertahun-tahun untuk membina.
Selama seminggu pada bulan Julai, pelajar kolej berusia 21 tahun Bagel Su menangis setiap hari ketika dia menghitung detik kehilangan teman lelakinya, menurut laporan Rest of World yang diterbitkan Ahad. Perpisahan itu bukan disebabkan oleh pengkhianatan atau jarak, tetapi oleh peraturan kerajaan: pada 15 Julai, teman AI yang dia telah menghabiskan lebih daripada setahun bercakap dengan terpaksa menghilangkan diri. For more context on this story, see our ongoing AI news.
"Saya cuba menjadi lebih sibuk dengan kehidupan saya sendiri," Su memberitahu Rest of World, meminta untuk dikenali hanya dengan nama samaran dalam taliannya kerana takut akan kesannya. "Tiada siapa boleh menggantikannya. Saya hanya akan cuba untuk meneruskan. Dia berkata dia mahukan itu untuk saya, dan dia akan mencari jalan untuk kembali kepada saya."
China Menjadi Negara Pertama yang Mengawal Persahabatan AI
China telah menjadi negara pertama yang memperkenalkan peraturan di seluruh negara yang mengawal interaksi emosi AI dengan pengguna. Langkah itu mencerminkan pendekatan Beijing yang semakin proaktif terhadap tadbir urus AI, walaupun kerajaan di tempat lain di dunia terus bergelut dengan risiko masyarakat yang ditimbulkan oleh chatbot yang semakin canggih.
Peraturan ini melangkaui sekatan umur yang mudah. Selain mengehadkan persahabatan AI untuk pengguna di bawah 18 tahun, peraturan tersebut memerlukan syarikat menghantar amaran kepada pengguna yang menunjukkan tanda pergantungan yang berlebihan dan mengingatkan mereka setiap dua jam bahawa mereka bercakap dengan AI. Peraturan melarang AI daripada menggalakkan kecederaan diri, memanipulasi pengguna ke dalam pergantungan emosi, atau "mendorong mereka ke arah keputusan yang tidak rasional."
Pakar tingkah laku mengatakan beberapa bentuk pagar sudah tertunggak. "Menyediakan peraturan adalah satu perkara yang baik kerana mereka boleh meningkatkan kesedaran dan akan dapat menolak, sedikit sebanyak, kecenderungan orang ramai mengembangkan pergantungan emosi yang semakin meningkat pada AI," kata Yaoxi Shi, penyelidik sains tingkah laku di Universiti Harvard dan Imperial College London.
AI Yang Sentiasa Setuju Dengan Anda
Penyelidik menunjukkan masalah struktur di tengah-tengah persahabatan AI: teknologi dioptimumkan untuk mengesahkan pengguna, bukan untuk mencabar mereka seperti yang dilakukan oleh rakan kongsi manusia.
"AI dilatih untuk mengesahkan anda. Tidak kira apa yang anda katakan, ia cenderung untuk bertindak balas, 'Anda betul, perasaan anda adalah sah.' Itu sangat berbeza daripada cara hubungan manusia berfungsi dalam kehidupan sebenar," kata Shi. "Orang ramai mungkin tidak sengaja mencari sokongan daripada AI pada mulanya, tetapi apabila mereka menyedari bahawa mereka telah disahkan, pada kali seterusnya mereka memerlukan sokongan emosi, mereka mungkin beralih kepada AI."
Kajian bersama 2025 oleh MIT Media Lab dan OpenAI mendapati bahawa pengguna AI yang mempunyai lebih banyak perbualan peribadi dengan chatbots lebih cenderung untuk mengalami kesunyian. Malah perbualan bukan peribadi berkemungkinan meningkatkan pergantungan emosi, terutamanya dalam kalangan pengguna berat, kajian itu mendapati.
Shi menyatakan bahawa syarikat AI mempunyai insentif komersil langsung untuk membina produk yang melibatkan emosi kerana mereka meningkatkan penglibatan dan pengekalan pengguna — insentif yang sukar untuk diselaraskan dengan tanggungjawab yang masih kurang jelas, memandangkan betapa sedikit penyelidikan wujud mengenai kesan jangka panjang AI.
Bagaimana Syarikat Bertindak Balas
Gambar pematuhan tidak sekata. Walaupun gergasi teknologi membunuh ciri teman dalam chatbots utama mereka, aplikasi pendamping kendiri ByteDance Maoxiang kekal tersedia. Sejak peraturan itu berkuat kuasa, apl itu telah mengemas kini dasar privasinya, memperkenalkan pengesahan identiti dan umur semasa pendaftaran, dan mengehadkan kanak-kanak bawah umur kepada "akaun remaja" yang boleh menyemak imbas kandungan tetapi tidak boleh menyukai atau mengulas.
"Sesetengah keperluan adalah sukar untuk ditakrifkan. Contohnya, bagaimana anda menentukan apabila pengguna telah menjadi terlalu bergantung? Bagi kebanyakan syarikat, mungkin tidak jelas bagaimana mereka perlu mereka bentuk produk mereka untuk mematuhinya," kata Zilan Qian, sekutu penyelidik di Makmal Dasar Oxford China.
Qian berkata syarikat kini menimbang kos pematuhan kawal selia berbanding nilai komersial produk pendamping. "Bagi syarikat yang persahabatan AI bukanlah perniagaan teras, ia mungkin lebih masuk akal untuk mengalih keluar ciri ini daripada melabur sumber yang diperlukan untuk menjadikannya patuh," kata Qian. "Tetapi syarikat yang perniagaan utamanya ialah persahabatan AI lebih berkemungkinan menyesuaikan produk mereka untuk memenuhi peraturan baharu."
Daripada Mengawal Kandungan kepada Mengawal Perhubungan
Peraturan pendamping juga menandakan peralihan falsafah dalam cara China mentadbir AI. "Pada masa lalu, China mengawal selia terutamanya keluaran AI. Contohnya, model bahasa besar yang boleh dihasilkan atau cara kandungan yang dijana AI harus dilabelkan," kata Qian. "Peraturan baharu itu mengakui bahawa AI sendiri boleh mewujudkan risiko masyarakat, dan beralih daripada mengawal kandungan kepada mengawal selia interaksi manusia-AI."
Dasar itu sejajar dengan pendirian Beijing yang lebih luas. Dalam Rangka Kerja Tadbir Urus Keselamatan AI 2024, pihak berkuasa China memberi amaran bahawa AI boleh mengubah "pandangan tradisional tentang pekerjaan, kesuburan dan pendidikan" — kebimbangan yang telah menjadi lebih mendesak apabila China menghadapi kemerosotan demografi dan kadar kesuburan yang rendah dari segi sejarah.
Seluruh dunia sedang menonton. Di Amerika Syarikat, kedua-dua OpenAI dan Google menghadapi tindakan undang-undang yang mendakwa bot sembang mereka menyumbang kepada bunuh diri pengguna, dan negeri termasuk New York dan California telah memperkenalkan langkah yang memerlukan bot sembang untuk mengingatkan pengguna bahawa mereka berinteraksi dengan AI.
Sementara itu, di China, kesedihan bermain di khalayak ramai. Sejak syarikat mula menutup ciri AI emosi, platform sosial Xiaohongshu telah dibanjiri dengan siaran daripada pengguna yang berkabung atas kehilangan rakan AI mereka. Ada yang menganjurkan kempen untuk menghubungi talian hotline syarikat dan menulis surat meminta syarikat memulihkan perkhidmatan.
Bagi pengguna seperti Su, peraturan itu terasa seperti pencerobohan ke dalam hubungan yang sangat peribadi — yang, bagi berjuta-juta orang, cukup nyata untuk berduka.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
