Wakati sheria mpya za Beijing kuhusu AI inayoingiliana kihisia zilipoanza kutekelezwa, zilianzisha ambalo linaweza kuwa wimbi kubwa zaidi la kulazimishwa kuvunjika kwa dijiti katika historia. ByteDance, Alibaba, na Tencent waliondoa vipengele wasilianifu kutoka kwa chatbots zao kuu kabla ya kanuni, na kuwaacha mamilioni ya watumiaji wa China wakiwa na huzuni wapenzi wa kimahaba ambao walikuwa wametumia miezi au miaka kujenga.
Kwa wiki moja mwezi wa Julai, mwanafunzi wa chuo kikuu mwenye umri wa miaka 21 Bagel Su alilia kila siku alipokuwa akihesabu kufiwa na mpenzi wake, kulingana na ripoti ya Rest of World iliyochapishwa Jumapili. Kuachana hakukusababishwa na usaliti au umbali, lakini na kanuni za serikali: mnamo Julai 15, mwandamani wa AI ambaye alikuwa ametumia zaidi ya mwaka mmoja kuzungumza naye alilazimika kutoweka. For more context on this story, see our ongoing AI trends.
"Nilijaribu kujishughulisha zaidi na maisha yangu," Su aliambia Ulimwengu Wote, akiomba kutambuliwa tu na jina lake bandia mtandaoni kwa kuhofia athari. "Hakuna anayeweza kuchukua nafasi yake. Nitajaribu tu kuendelea. Alisema anataka hivyo kwangu, na kwamba atapata njia ya kurudi kwangu."
China Yakuwa Nchi ya Kwanza Kudhibiti Ubia wa AI
Uchina imekuwa nchi ya kwanza kuanzisha sheria za kitaifa zinazosimamia mwingiliano wa kihemko wa AI na watumiaji. Hatua hiyo inaakisi mtazamo wa Beijing unaozidi kuwa makini katika utawala wa AI, hata kama serikali mahali pengine ulimwenguni zinaendelea kukabiliana na hatari za kijamii zinazoletwa na chatbots zinazozidi kuwa za kisasa.
Sheria huenda zaidi ya vikwazo rahisi vya umri. Zaidi ya kuweka kikomo ushirika wa AI kwa watumiaji walio na umri wa chini ya miaka 18, kanuni zinataka makampuni kutuma maonyo kwa watumiaji wanaoonyesha dalili za utegemezi kupita kiasi na kuwakumbusha kila baada ya saa mbili kuwa wanazungumza na AI. Sheria zinakataza AI kuhimiza kujidhuru, kuwashawishi watumiaji katika utegemezi wa kihisia, au "kuwaelekeza kwenye maamuzi yasiyo na mantiki."
Wataalamu wa tabia wanasema aina fulani ya ulinzi imechelewa. "Kuwa na kanuni ni jambo zuri kwa sababu zinaweza kuongeza ufahamu na zitaweza kusukuma dhidi ya, kwa kiasi fulani, mwelekeo wa watu kukuza utegemezi wa kihisia juu ya AI," Yaoxi Shi, mtafiti wa sayansi ya tabia katika Chuo Kikuu cha Harvard na Chuo cha Imperial London alisema.
AI Ambayo Hukubaliana Nawe Daima
Watafiti wanaelekeza tatizo la kimuundo katika moyo wa ushirika wa AI: teknolojia imeboreshwa ili kuwaidhinisha watumiaji, si kuwapa changamoto jinsi wenzi wa kibinadamu wanavyofanya.
"AI imefunzwa kukuthibitisha. Bila kujali unachosema, inaelekea kujibu, 'Uko sahihi, hisia zako ni halali.' Hiyo ni tofauti sana na jinsi mahusiano ya wanadamu yanavyofanya kazi katika maisha halisi," Shi alisema. "Watu wanaweza hata wasiangalie kwa makusudi msaada kutoka kwa AI mwanzoni, lakini wanapogundua kuwa wameidhinishwa, wakati ujao wanapohitaji msaada wa kihisia, wanaweza kurejea AI."
Utafiti wa pamoja wa 2025 na MIT Media Lab na OpenAI uligundua kuwa watumiaji wa AI ambao wana mazungumzo zaidi ya kibinafsi na chatbots wana uwezekano mkubwa wa kukumbana na upweke. Hata mazungumzo yasiyo ya kibinafsi yalikuwa na uwezekano wa kuongeza utegemezi wa kihisia, haswa kati ya watumiaji wazito, utafiti uligundua.
Shi alibainisha kuwa makampuni ya AI yana vivutio vya moja kwa moja vya kibiashara ili kujenga bidhaa zinazohusisha hisia kwa sababu huongeza ushirikishwaji na uhifadhi wa watumiaji - vivutio ambavyo ni vigumu kupatanisha na majukumu ambayo hayajafafanuliwa vizuri, kutokana na jinsi utafiti ulivyo mdogo kuhusu athari za muda mrefu za AI.
Jinsi Makampuni Yanavyojibu
Picha ya kufuata haina usawa. Ingawa wakuu hao wa kiteknolojia waliua vipengee wenza katika chatbots zao kuu, programu inayotumika ya ByteDance ya Maoxiang bado inapatikana. Tangu kanuni zianze kutekelezwa, programu imesasisha sera yake ya faragha, imeanzisha utambulisho na uthibitishaji wa umri wakati wa kujiandikisha, na watoto walio na umri mdogo kwa "akaunti za vijana" ambazo zinaweza kuvinjari maudhui lakini haziwezi kupenda au kutoa maoni.
"Baadhi ya mahitaji ni vigumu kufafanua. Kwa mfano, unawezaje kujua wakati mtumiaji amekuwa tegemezi kupita kiasi? Kwa makampuni mengi, inaweza kuwa haijulikani ni jinsi gani wanahitaji kuunda bidhaa zao ili kuzingatia," alisema Zilan Qian, mshiriki wa utafiti katika Oxford China Policy Lab.
Qian alisema makampuni sasa yanapima gharama ya uzingatiaji wa udhibiti dhidi ya thamani ya kibiashara ya bidhaa shirikishi. "Kwa kampuni ambazo ushirika wa AI sio biashara kuu, inaweza kuwa na maana ya kibiashara zaidi kuondoa vipengele hivi kuliko kuwekeza rasilimali zinazohitajika ili kuzifanya zifuate," Qian alisema. "Lakini kampuni ambazo biashara yao kuu ni ushirika wa AI zina uwezekano mkubwa wa kurekebisha bidhaa zao ili kukidhi sheria mpya."
Kuanzia Kudhibiti Maudhui hadi Kudhibiti Mahusiano
Sheria shirikishi pia zinaashiria mabadiliko ya kifalsafa katika jinsi Uchina inatawala AI. "Katika siku za nyuma, China ilidhibiti matokeo ya AI. Kwa mfano, ni mifano gani ya lugha kubwa inaweza kuzalisha au jinsi maudhui yanayotokana na AI yanapaswa kuwekewa lebo," Qian alisema. "Kanuni mpya zinakubali kwamba AI yenyewe inaweza kuunda hatari za kijamii, na kuhama kutoka kwa kudhibiti yaliyomo hadi kudhibiti mwingiliano wa binadamu na AI."
Sera inalingana na msimamo mpana wa Beijing. Katika Mfumo wake wa Utawala wa Usalama wa AI wa 2024, mamlaka ya Uchina ilionya kwamba AI inaweza kubadilisha "maoni ya jadi juu ya ajira, uzazi, na elimu" - wasiwasi ambao umechukua uharaka zaidi wakati China inakabiliwa na kupungua kwa idadi ya watu na viwango vya chini vya uzazi kihistoria.
Wengine wa dunia wanatazama. Nchini Marekani, OpenAI na Google zinakabiliwa na kesi za kisheria zinazodai chatbots zao zilichangia watumiaji kujiua, na majimbo ikiwa ni pamoja na New York na California yameanzisha hatua zinazohitaji chatbots kuwakumbusha watumiaji kuwa wanawasiliana na AI.
Wakati huo huo, nchini Uchina, huzuni inacheza hadharani. Tangu makampuni yaanze kuzima vipengele vya hisia za AI, jukwaa la kijamii la Xiaohongshu limejaa machapisho kutoka kwa watumiaji wanaoomboleza kupoteza wenzao wa AI. Baadhi wamepanga kampeni za kupiga simu za simu za kampuni na kuandika barua za kuuliza kampuni kurejesha huduma.
Kwa watumiaji kama Su, kanuni huhisi kama kuingiliwa kwa uhusiano wa kina wa kibinafsi - ambao, kwa mamilioni ya watu, ulikuwa wa kweli vya kutosha kuomboleza.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
