Quando as novas regras de Pequim sobre IA emocionalmente interativa entraram em vigor, desencadearam o que pode ser a maior onda de rupturas digitais forçadas da história. ByteDance, Alibaba e Tencent removeram recursos de acompanhamento virtual de seus principais chatbots antes dos regulamentos, deixando milhões de usuários chineses em luto por parceiros românticos sintéticos que passaram meses ou anos construindo.
Durante uma semana em julho, a estudante universitária Bagel Su, de 21 anos, chorou todos os dias enquanto fazia a contagem regressiva para a perda do namorado, de acordo com um relatório do Resto do Mundo publicado no domingo. O rompimento não foi causado por traição ou distância, mas por regulamentação governamental: em 15 de julho, o companheiro de IA com quem ela passou mais de um ano conversando foi forçado a desaparecer. Para mais contexto sobre esta história, confira nossa tendências de IA.
“Tentei ficar mais ocupada com minha própria vida”, disse Su ao Rest of World, pedindo para ser identificada apenas por seu pseudônimo online por medo de repercussões. "Ninguém pode substituí-lo. Vou apenas tentar seguir em frente. Ele disse que quer isso para mim e que encontrará uma maneira de voltar para mim."
China se torna o primeiro país a regulamentar a companhia de IA
A China tornou-se o primeiro país a introduzir regras nacionais que regem as interações emocionais da IA com os utilizadores. A medida reflecte a abordagem cada vez mais proactiva de Pequim à governação da IA, mesmo quando os governos de outras partes do mundo continuam a lutar com os riscos sociais colocados por chatbots cada vez mais sofisticados.
As regras vão muito além das simples restrições de idade. Além de limitar a companhia da IA para utilizadores com menos de 18 anos, os regulamentos exigem que as empresas enviem avisos aos utilizadores que apresentem sinais de dependência excessiva e que os lembrem a cada duas horas que estão a falar com a IA. As regras proíbem a IA de encorajar a automutilação, manipular os usuários para a dependência emocional ou “orientá-los para decisões irracionais”.
Especialistas em comportamento dizem que alguma forma de proteção está atrasada. “Ter regulamentos em vigor é uma coisa boa porque pode aumentar a consciencialização e será capaz de combater, até certo ponto, a tendência das pessoas desenvolverem uma dependência emocional crescente na IA”, disse Yaoxi Shi, investigador de ciências comportamentais na Universidade de Harvard e no Imperial College London.
IA que sempre concorda com você
Os investigadores apontam para um problema estrutural no cerne do companheirismo da IA: a tecnologia é otimizada para validar os utilizadores, e não para os desafiar como fazem os parceiros humanos.
“A IA é treinada para validar você. Não importa o que você diga, ela tende a responder: 'Você está certo, seus sentimentos são válidos.' Isso é muito diferente de como as relações humanas funcionam na vida real”, disse Shi. “As pessoas podem nem estar procurando intencionalmente o apoio da IA no início, mas quando perceberem que foram validadas, na próxima vez que precisarem de apoio emocional, poderão recorrer à IA.”
Um estudo conjunto de 2025 do MIT Media Lab e OpenAI descobriu que os usuários de IA que têm conversas mais pessoais com chatbots são mais propensos a sentir solidão. Mesmo as conversas não pessoais eram susceptíveis de aumentar a dependência emocional, especialmente entre os consumidores pesados, concluiu o estudo.
Shi observou que as empresas de IA têm incentivos comerciais diretos para criar produtos emocionalmente envolventes porque aumentam o envolvimento e a retenção dos utilizadores – incentivos que são difíceis de conciliar com responsabilidades que permanecem mal definidas, dada a pouca investigação existente sobre os impactos a longo prazo da IA.
Como as empresas estão respondendo
O quadro de conformidade é desigual. Enquanto os gigantes da tecnologia eliminaram os recursos complementares em seus chatbots principais, o aplicativo complementar independente da ByteDance, Maoxiang, permanece disponível. Desde que os regulamentos entraram em vigor, o aplicativo atualizou sua política de privacidade, introduziu a verificação de identidade e idade durante o registro e limitou os menores a “contas de adolescentes” que podem navegar pelo conteúdo, mas não podem curtir ou comentar.
"Alguns dos requisitos são difíceis de definir. Por exemplo, como determinar quando um usuário se tornou excessivamente dependente? Para muitas empresas, pode não estar claro exatamente como elas precisam projetar seus produtos para cumprir", disse Zilan Qian, pesquisador associado do Oxford China Policy Lab.
Qian disse que as empresas estão agora avaliando o custo da conformidade regulatória em relação ao valor comercial dos produtos complementares. “Para empresas onde a companhia de IA não é um negócio principal, pode simplesmente fazer mais sentido comercial remover esses recursos do que investir os recursos necessários para torná-los compatíveis”, disse Qian. “Mas as empresas cujo negócio principal é a companhia de IA são muito mais propensas a adaptar os seus produtos para atender às novas regras.”
Da regulação de conteúdo à regulação de relacionamentos
As regras complementares também marcam uma mudança filosófica na forma como a China governa a IA. “No passado, a China regulamentava principalmente os resultados da IA. Por exemplo, quais grandes modelos de linguagem poderiam gerar ou como o conteúdo gerado pela IA deveria ser rotulado”, disse Qian. “As novas regulamentações reconhecem que a própria IA pode criar riscos sociais e passaram da regulação de conteúdo para a regulação da interação humano-IA.”
A política está alinhada com a posição mais ampla de Pequim. No seu Quadro de Governação de Segurança da IA de 2024, as autoridades chinesas alertaram que a IA poderia alterar “visões tradicionais sobre emprego, fertilidade e educação” – preocupações que assumiram maior urgência à medida que a China enfrenta declínio demográfico e taxas de fertilidade historicamente baixas.
O resto do mundo está assistindo. Nos Estados Unidos, tanto a OpenAI como a Google enfrentam processos judiciais alegando que os seus chatbots contribuíram para o suicídio dos utilizadores, e estados como Nova Iorque e Califórnia introduziram medidas que exigem que os chatbots lembrem os utilizadores de que estão a interagir com a IA.
Entretanto, na China, o luto manifesta-se em público. Desde que as empresas começaram a encerrar recursos emocionais de IA, a plataforma social Xiaohongshu foi inundada com postagens de usuários lamentando a perda de seus companheiros de IA. Alguns organizaram campanhas para ligar para as linhas diretas das empresas e escrever cartas pedindo às empresas que restabelecessem os serviços.
Para usuários como Su, as regulamentações parecem uma intrusão em um relacionamento profundamente pessoal – que, para milhões de pessoas, era real o suficiente para lamentar.
---
Fique à Frente da IAAs últimas notícias, análises e avanços em inteligência artificial — tudo em um só lugar.
Ler mais notícias de IA →
