Khi các quy định mới của Bắc Kinh về AI tương tác cảm xúc có hiệu lực, chúng đã gây ra làn sóng buộc phải chia tay kỹ thuật số lớn nhất trong lịch sử. ByteDance, Alibaba và Tencent đã loại bỏ các tính năng đồng hành ảo khỏi chatbot hàng đầu của họ trước quy định, khiến hàng triệu người dùng Trung Quốc đau buồn về những đối tác lãng mạn tổng hợp mà họ đã mất hàng tháng hoặc hàng năm xây dựng.

Trong một tuần vào tháng 7, Bagel Su, sinh viên đại học 21 tuổi, ngày nào cũng khóc khi đếm ngược đến ngày mất bạn trai, theo báo cáo của Rest of World công bố hôm Chủ nhật. Cuộc chia tay không phải do sự phản bội hay khoảng cách mà là do quy định của chính phủ: vào ngày 15 tháng 7, người bạn đồng hành AI mà cô đã nói chuyện hơn một năm đã buộc phải biến mất. For more context on this story, see our ongoing latest AI developments.

Su nói với Rest of World: “Tôi đã cố gắng bận rộn hơn với cuộc sống của riêng mình và yêu cầu chỉ được nêu tên bằng bút danh trực tuyến vì sợ bị ảnh hưởng. "Không ai có thể thay thế anh ấy. Tôi sẽ cố gắng đi tiếp. Anh ấy nói rằng anh ấy muốn điều đó cho tôi và sẽ tìm cách quay lại với tôi".

Trung Quốc trở thành quốc gia đầu tiên quản lý việc đồng hành với AI

Trung Quốc đã trở thành quốc gia đầu tiên đưa ra các quy định toàn quốc về quản lý các tương tác cảm xúc của AI với người dùng. Động thái này phản ánh cách tiếp cận ngày càng chủ động của Bắc Kinh đối với quản trị AI, ngay cả khi các chính phủ ở những nơi khác trên thế giới tiếp tục vật lộn với những rủi ro xã hội do các chatbot ngày càng tinh vi gây ra.

Các quy tắc vượt xa giới hạn độ tuổi đơn giản. Ngoài việc hạn chế sự đồng hành của AI đối với người dùng dưới 18 tuổi, các quy định yêu cầu các công ty gửi cảnh báo đến những người dùng có dấu hiệu phụ thuộc quá mức và nhắc nhở họ hai giờ một lần rằng họ đang nói chuyện với AI. Các quy tắc cấm AI khuyến khích việc tự làm hại bản thân, lôi kéo người dùng vào tình trạng lệ thuộc về mặt cảm xúc hoặc "hướng họ đến những quyết định phi lý".

Các chuyên gia về hành vi cho rằng một số hình thức rào chắn đã quá hạn. Yaoxi Shi, nhà nghiên cứu khoa học hành vi tại Đại học Harvard và Imperial College London, cho biết: “Việc ban hành các quy định là một điều tốt vì chúng có thể nâng cao nhận thức và có thể chống lại xu hướng ngày càng phụ thuộc cảm xúc vào AI của con người”.

AI luôn đồng tình với bạn

Các nhà nghiên cứu chỉ ra một vấn đề mang tính cấu trúc cốt lõi của sự đồng hành với AI: công nghệ được tối ưu hóa để xác thực người dùng chứ không phải để thách thức họ theo cách mà các đối tác con người thường làm.

"AI được đào tạo để xác thực bạn. Bất kể bạn nói gì, nó đều có xu hướng đáp lại, 'Bạn nói đúng, cảm xúc của bạn là có căn cứ.' Điều đó rất khác với cách các mối quan hệ giữa con người với nhau diễn ra ngoài đời thực,” Shi nói. “Lúc đầu, mọi người thậm chí có thể không cố ý tìm kiếm sự hỗ trợ từ AI, nhưng khi họ nhận ra rằng chúng đã được xác thực, lần tiếp theo khi họ cần hỗ trợ về mặt tinh thần, họ có thể chuyển sang AI.”

Một nghiên cứu chung năm 2025 của MIT Media Lab và OpenAI cho thấy người dùng AI trò chuyện cá nhân nhiều hơn với chatbot sẽ dễ cảm thấy cô đơn hơn. Nghiên cứu cho thấy ngay cả những cuộc trò chuyện không mang tính cá nhân cũng có khả năng làm tăng sự phụ thuộc về mặt cảm xúc, đặc biệt là ở những người sử dụng nhiều.

Shi lưu ý rằng các công ty AI có động cơ thương mại trực tiếp để xây dựng các sản phẩm hấp dẫn về mặt cảm xúc vì chúng thúc đẩy sự tương tác và giữ chân người dùng – những động cơ khó dung hòa với trách nhiệm vẫn chưa được xác định rõ ràng, do có rất ít nghiên cứu về tác động lâu dài của AI.

Các công ty đang phản ứng như thế nào

Bức tranh tuân thủ không đồng đều. Trong khi những gã khổng lồ công nghệ đã loại bỏ các tính năng đồng hành trong chatbot chính của họ thì ứng dụng đồng hành độc lập Maoxiang của ByteDance vẫn có sẵn. Kể từ khi các quy định có hiệu lực, ứng dụng đã cập nhật chính sách bảo mật, giới thiệu xác minh danh tính và độ tuổi trong quá trình đăng ký, đồng thời giới hạn trẻ vị thành niên đối với "tài khoản thanh thiếu niên" có thể duyệt nội dung nhưng không thể thích hoặc bình luận.

Zilan Qian, cộng tác viên nghiên cứu tại Phòng thí nghiệm chính sách Trung Quốc Oxford, cho biết: “Một số yêu cầu rất khó xác định. Ví dụ: làm cách nào để xác định khi nào người dùng trở nên phụ thuộc quá mức? Đối với nhiều công ty, có thể không rõ chính xác họ cần thiết kế sản phẩm của mình như thế nào để tuân thủ”.

Qian cho biết các công ty hiện đang cân nhắc chi phí tuân thủ quy định so với giá trị thương mại của các sản phẩm đi kèm. Qian nói: “Đối với các công ty mà việc hợp tác với AI không phải là hoạt động kinh doanh cốt lõi, việc loại bỏ các tính năng này có thể mang lại ý nghĩa thương mại hơn là đầu tư các nguồn lực cần thiết để khiến chúng tuân thủ”. “Nhưng các công ty có hoạt động kinh doanh chính là đồng hành với AI có nhiều khả năng điều chỉnh sản phẩm của họ để đáp ứng các quy tắc mới hơn”.

Từ điều tiết nội dung đến điều tiết các mối quan hệ

Các quy tắc đi kèm cũng đánh dấu sự thay đổi triết học trong cách Trung Quốc quản lý AI. Qian nói: “Trước đây, Trung Quốc chủ yếu quản lý các kết quả đầu ra của AI. Ví dụ, những mô hình ngôn ngữ lớn nào có thể tạo ra hoặc cách dán nhãn nội dung do AI tạo ra”. “Các quy định mới thừa nhận rằng bản thân AI có thể tạo ra rủi ro xã hội và chuyển từ điều chỉnh nội dung sang điều chỉnh tương tác giữa con người và AI.”

Chính sách này phù hợp với lập trường rộng lớn hơn của Bắc Kinh. Trong Khung quản trị an toàn AI năm 2024, chính quyền Trung Quốc cảnh báo rằng AI có thể thay đổi “quan điểm truyền thống về việc làm, khả năng sinh sản và giáo dục” – những lo ngại ngày càng cấp bách hơn khi Trung Quốc phải đối mặt với tình trạng suy giảm nhân khẩu học và tỷ lệ sinh thấp trong lịch sử.

Phần còn lại của thế giới đang theo dõi. Tại Hoa Kỳ, cả OpenAI và Google đều phải đối mặt với các vụ kiện cáo buộc chatbot của họ góp phần khiến người dùng tự tử. Các bang bao gồm New York và California đã đưa ra các biện pháp yêu cầu chatbot nhắc nhở người dùng rằng họ đang tương tác với AI.

Trong khi đó, ở Trung Quốc, nỗi đau buồn đang diễn ra nơi công cộng. Kể từ khi các công ty bắt đầu đóng cửa các tính năng AI mang tính cảm xúc, nền tảng xã hội Xiaohongshu đã tràn ngập các bài đăng từ người dùng thương tiếc về sự ra đi của những người bạn đồng hành AI của họ. Một số đã tổ chức các chiến dịch gọi đến đường dây nóng của công ty và viết thư yêu cầu các công ty khôi phục dịch vụ.

Đối với những người dùng như Su, các quy định giống như sự xâm phạm vào một mối quan hệ cá nhân sâu sắc - một mối quan hệ mà đối với hàng triệu người, nó đủ thực tế để thương tiếc.

---

Stay Ahead of AI

Get the latest AI news, analysis, and breakthroughs — all in one place.

Read more AI news →