เมื่อกฎใหม่ของปักกิ่งเกี่ยวกับ AI แบบโต้ตอบทางอารมณ์มีผลบังคับใช้ กฎเกณฑ์ดังกล่าวได้ก่อให้เกิดคลื่นลูกใหญ่ของการบังคับให้เลิกราทางดิจิทัลครั้งใหญ่ที่สุดในประวัติศาสตร์ ByteDance, Alibaba และ Tencent ลบฟีเจอร์คู่หูเสมือนจริงออกจากแชทบอทหลักของตนก่อนกฎระเบียบ ส่งผลให้ผู้ใช้ชาวจีนหลายล้านคนโศกเศร้ากับคู่รักสังเคราะห์ที่พวกเขาใช้เวลาหลายเดือนหรือหลายปีในการสร้าง

เป็นเวลาหนึ่งสัปดาห์ในเดือนกรกฎาคม เบเกิล ซู นักศึกษาวิทยาลัยวัย 21 ปี ร้องไห้ทุกวันในขณะที่เธอนับถอยหลังสู่การสูญเสียแฟนหนุ่มของเธอ ตามรายงานของ Rest of World ที่เผยแพร่เมื่อวันอาทิตย์ การเลิกราไม่ได้เกิดจากการทรยศหรือระยะทาง แต่โดยกฎระเบียบของรัฐบาล ในวันที่ 15 กรกฎาคม สหาย AI ที่เธอใช้เวลาพูดคุยด้วยมากกว่าหนึ่งปีถูกบังคับให้หายตัวไป For more context on this story, see our ongoing AI news.

“ฉันพยายามยุ่งกับชีวิตของตัวเองมากขึ้น” ซูบอกกับ Rest of World โดยขอให้ระบุตัวตนด้วยนามแฝงทางออนไลน์ของเธอเท่านั้น เพราะกลัวผลสะท้อนกลับ “ไม่มีใครสามารถแทนที่เขาได้ ฉันจะพยายามเดินหน้าต่อไป เขาบอกว่าเขาต้องการสิ่งนั้นสำหรับฉัน และเขาจะหาทางกลับมาหาฉัน”

จีนกลายเป็นประเทศแรกที่ควบคุมความเป็นเพื่อนด้าน AI

จีนกลายเป็นประเทศแรกที่แนะนำกฎทั่วประเทศที่ควบคุมปฏิสัมพันธ์ทางอารมณ์ของ AI กับผู้ใช้ ความเคลื่อนไหวดังกล่าวสะท้อนให้เห็นถึงแนวทางเชิงรุกของปักกิ่งในการกำกับดูแลด้าน AI แม้ว่ารัฐบาลอื่นๆ ในโลกยังคงต่อสู้กับความเสี่ยงทางสังคมที่เกิดจากแชทบอทที่มีความซับซ้อนมากขึ้นเรื่อยๆ

กฎเกณฑ์มีมากกว่าข้อจำกัดด้านอายุทั่วไป นอกเหนือจากการจำกัดมิตรภาพ AI สำหรับผู้ใช้ที่มีอายุต่ำกว่า 18 ปีแล้ว กฎระเบียบยังกำหนดให้บริษัทต่างๆ ส่งคำเตือนไปยังผู้ใช้ที่แสดงสัญญาณของการพึ่งพามากเกินไป และเตือนพวกเขาทุก ๆ สองชั่วโมงว่าพวกเขากำลังพูดกับ AI กฎดังกล่าวห้ามไม่ให้ AI ส่งเสริมการทำร้ายตัวเอง ชักจูงผู้ใช้ให้ต้องพึ่งพาทางอารมณ์ หรือ "ชี้นำพวกเขาไปสู่การตัดสินใจที่ไร้เหตุผล"

ผู้เชี่ยวชาญด้านพฤติกรรมกล่าวว่ารั้วกั้นบางรูปแบบเกินกำหนดชำระ “การมีกฎระเบียบเป็นสิ่งที่ดี เพราะพวกเขาสามารถสร้างความตระหนักรู้ และจะสามารถผลักดันแนวโน้มของผู้คนที่พัฒนาความเชื่อมั่นทางอารมณ์ต่อ AI ในระดับหนึ่ง” Yaoxi Shi นักวิจัยด้านพฤติกรรมศาสตร์จาก Harvard University และ Imperial College London กล่าว

AI ที่เห็นด้วยกับคุณเสมอ

นักวิจัยชี้ให้เห็นถึงปัญหาเชิงโครงสร้างที่เป็นหัวใจสำคัญของมิตรภาพ AI: เทคโนโลยีนี้ได้รับการปรับให้เหมาะสมเพื่อตรวจสอบความถูกต้องของผู้ใช้ ไม่ใช่เพื่อท้าทายพวกเขาในแบบที่พันธมิตรของมนุษย์ทำ

"AI ได้รับการฝึกฝนมาเพื่อตรวจสอบความถูกต้องของคุณ ไม่ว่าคุณจะพูดอะไร มันก็มักจะตอบว่า 'คุณพูดถูก ความรู้สึกของคุณถูกต้อง' นั่นแตกต่างอย่างมากจากความสัมพันธ์ระหว่างมนุษย์ในชีวิตจริง” ชิกล่าว “ผู้คนอาจไม่ได้ตั้งใจมองหาการสนับสนุนจาก AI ในตอนแรก แต่เมื่อพวกเขาตระหนักว่าพวกเขาได้รับการตรวจสอบแล้ว ครั้งต่อไปที่พวกเขาต้องการการสนับสนุนทางอารมณ์ พวกเขาอาจหันไปหา AI”

การศึกษาร่วมกันในปี 2025 โดย MIT Media Lab และ OpenAI พบว่าผู้ใช้ AI ที่มีการสนทนาส่วนตัวกับแชทบอทมากกว่ามีแนวโน้มที่จะประสบกับความเหงามากกว่า การศึกษาพบว่าแม้แต่การสนทนาที่ไม่ใช่ส่วนตัวก็มีแนวโน้มที่จะเพิ่มการพึ่งพาทางอารมณ์ โดยเฉพาะในหมู่ผู้ใช้จำนวนมาก

Shi ตั้งข้อสังเกตว่าบริษัท AI มีแรงจูงใจทางการค้าโดยตรงในการสร้างผลิตภัณฑ์ที่น่าดึงดูดทางอารมณ์ เนื่องจากพวกเขาเพิ่มการมีส่วนร่วมและการรักษาผู้ใช้ ซึ่งเป็นสิ่งจูงใจที่ยากต่อการกระทบยอดกับความรับผิดชอบที่ยังไม่ชัดเจน เมื่อพิจารณาว่ามีงานวิจัยเพียงเล็กน้อยเกี่ยวกับผลกระทบระยะยาวของ AI

บริษัทต่างๆ ตอบสนองอย่างไร

ภาพการปฏิบัติตามข้อกำหนดไม่สม่ำเสมอ ในขณะที่ยักษ์ใหญ่ด้านเทคโนโลยีได้ปิดฟีเจอร์สหายในแชทบอทหลักของตน แต่แอปสหาย Maoxiang แบบสแตนด์อโลนของ ByteDance ก็ยังคงใช้งานได้ เนื่องจากกฎระเบียบมีผลบังคับใช้ แอปได้อัปเดตนโยบายความเป็นส่วนตัว แนะนำการยืนยันตัวตนและอายุในระหว่างการลงทะเบียน และจำกัดผู้เยาว์ไว้เฉพาะ "บัญชีวัยรุ่น" ที่สามารถเรียกดูเนื้อหาได้ แต่ไม่สามารถถูกใจหรือแสดงความคิดเห็นได้

“ข้อกำหนดบางประการเป็นเรื่องยากที่จะกำหนด ตัวอย่างเช่น คุณจะทราบได้อย่างไรว่าเมื่อใดที่ผู้ใช้พึ่งพาตนเองมากเกินไป สำหรับหลายๆ บริษัท อาจไม่ชัดเจนว่าพวกเขาจำเป็นต้องออกแบบผลิตภัณฑ์ของตนอย่างไรให้สอดคล้องกัน” Zilan Qian ผู้ร่วมวิจัยจาก Oxford China Policy Lab กล่าว

Qian กล่าวว่าขณะนี้บริษัทต่างๆ กำลังชั่งน้ำหนักต้นทุนการปฏิบัติตามกฎระเบียบกับมูลค่าทางการค้าของผลิตภัณฑ์ที่ใช้ร่วมกัน “สำหรับบริษัทที่ AI เป็นเพื่อนไม่ใช่ธุรกิจหลัก การลบฟีเจอร์เหล่านี้ออกอาจสมเหตุสมผลมากกว่าการลงทุนทรัพยากรที่จำเป็นเพื่อให้เป็นไปตามข้อกำหนด” Qian กล่าว “แต่บริษัทที่ธุรกิจหลักคือมิตรภาพด้าน AI มีแนวโน้มที่จะปรับผลิตภัณฑ์ของตนให้สอดคล้องกับกฎใหม่มากกว่า”

จากการควบคุมเนื้อหาไปจนถึงการควบคุมความสัมพันธ์

กฎที่ใช้ร่วมกันยังถือเป็นการเปลี่ยนแปลงทางปรัชญาในวิธีที่จีนควบคุม AI “ในอดีต จีนควบคุมเอาท์พุต AI เป็นหลัก ตัวอย่างเช่น โมเดลภาษาขนาดใหญ่ใดที่สามารถสร้างได้ หรือวิธีตั้งชื่อเนื้อหาที่สร้างโดย AI” Qian กล่าว “กฎระเบียบใหม่รับทราบว่า AI สามารถสร้างความเสี่ยงทางสังคมได้ และเปลี่ยนจากการควบคุมเนื้อหาไปเป็นการควบคุมปฏิสัมพันธ์ระหว่างมนุษย์กับ AI”

นโยบายดังกล่าวสอดคล้องกับจุดยืนที่กว้างขึ้นของปักกิ่ง ในกรอบการกำกับดูแลความปลอดภัยของ AI ปี 2024 ทางการจีนเตือนว่า AI อาจเปลี่ยนแปลง "มุมมองดั้งเดิมเกี่ยวกับการจ้างงาน ภาวะเจริญพันธุ์ และการศึกษา" ซึ่งเป็นข้อกังวลที่มีความจำเป็นเร่งด่วนมากขึ้น เนื่องจากจีนเผชิญกับการลดลงของจำนวนประชากรและอัตราการเจริญพันธุ์ที่ต่ำเป็นประวัติการณ์

ส่วนที่เหลือของโลกกำลังเฝ้าดู ในสหรัฐอเมริกา ทั้ง OpenAI และ Google เผชิญกับการฟ้องร้องโดยกล่าวหาว่าแชทบอทมีส่วนทำให้ผู้ใช้ฆ่าตัวตาย และรัฐต่างๆ รวมถึงนิวยอร์กและแคลิฟอร์เนียได้ออกมาตรการที่กำหนดให้แชทบอทเตือนผู้ใช้ว่าพวกเขากำลังโต้ตอบกับ AI

ในขณะเดียวกัน ในประเทศจีน ความโศกเศร้าก็แสดงออกมาในที่สาธารณะ นับตั้งแต่บริษัทต่างๆ เริ่มปิดฟีเจอร์ AI ทางอารมณ์ แพลตฟอร์มโซเชียล Xiaohongshu ก็เต็มไปด้วยโพสต์จากผู้ใช้ที่ไว้อาลัยให้กับการสูญเสียสหาย AI ของพวกเขา บางคนได้จัดแคมเปญเพื่อโทรติดต่อสายด่วนของบริษัทและเขียนจดหมายขอให้บริษัทกลับมาให้บริการอีกครั้ง

สำหรับผู้ใช้เช่น Su กฎระเบียบรู้สึกเหมือนเป็นการบุกรุกความสัมพันธ์ส่วนตัวที่ลึกซึ้ง ซึ่งสำหรับคนหลายล้านคนก็เพียงพอแล้วที่จะไว้ทุกข์

---

Stay Ahead of AI

Get the latest AI news, analysis, and breakthroughs — all in one place.

Read more AI news →