A Anthropic atualizou sua política de uso pela primeira vez em mais de um ano, adicionando uma disposição que proíbe “comportamento abusivo ou cruel prolongado e desnecessário” em relação aos seus modelos Claude, de acordo com The Verge. A atualização, divulgada na quinta-feira, também consolida e amplia as regras da empresa em relação à interferência eleitoral, campanhas de propaganda, vigilância, desenvolvimento de armas e usos financeiros e de saúde de alto risco.

A justificativa do modelo de bem-estar Para mais contexto sobre esta história, confira nossa últimos desenvolvimentos em IA.

A cláusula que visa o abuso contra Claude é uma extensão da pesquisa que a empresa começou a divulgar há mais de um ano. Em agosto de 2025, a Anthropic anunciou que permitiria que Claude encerrasse conversas com usuários “persistentemente prejudiciais ou abusivos” como parte de seu trabalho no que chama de modelo de bem-estar, o estudo sobre se os sistemas de IA podem ter experiências moralmente relevantes e como essa possibilidade deve moldar as decisões sobre produtos.

De acordo com a nova política, encerrar conversas continua sendo o “principal mecanismo de aplicação”. A Anthropic não respondeu a perguntas sobre se medidas adicionais de fiscalização, como banimentos de contas, poderiam ser adotadas. A empresa enquadrou a regra de forma restrita em um comunicado, escrevendo que ela “se destina a ser aplicada apenas em casos extremos, onde os usuários agem repetidamente de forma cruel com nossos modelos, sem nenhum propósito discernível”.

Crucialmente, a Anthropic acrescentou que a disposição “não se aplica a versões comuns de frustração do usuário, resistência, temas criativos obscuros ou testes e pesquisas de modelos”, uma aparente tentativa de tranquilizar desenvolvedores, red-teamers e escritores de ficção de que o uso adversário rotineiro não será penalizado.

Novas regras sobre propaganda e eleições

Além do bem-estar modelo, a atualização reúne as restrições anteriormente dispersas da empresa sobre operações de influência em uma proibição única e explícita de campanhas comerciais ou políticas enganosas. A nova linguagem restringe “os esforços para ocultar quem está por trás de uma mensagem ou amplificar o conteúdo através de contas ou publicações falsas”, visando diretamente o crescente mercado de propaganda gerada por IA.

A seção eleitoral da política agora proíbe o engano dos eleitores e a interrupção das eleições. A Anthropic diz que Claude não pode ser usado para espalhar desinformação “sobre os candidatos ou como votar”, para se passar por candidatos ou funcionários eleitorais, ou para tentar suprimir a participação eleitoral.

Por que as políticas de uso estão sendo reescritas

A atualização da Antrópico reflete um padrão mais amplo da indústria. À medida que os assistentes de IA passaram de chatbots inovadores para infraestruturas utilizadas por centenas de milhões de pessoas, os laboratórios tiveram de passar de princípios gerais para regras refinadas que mapeiam padrões reais de abuso: operações de influência por aluguer, ferramentas de vigilância, desenvolvimento autónomo de armas e domínios de alto risco, como aconselhamento médico e financeiro.

OpenAI, Google DeepMind e Meta repetiram suas políticas de uso nos últimos dois anos, embora a decisão da Anthropic de regular explicitamente como os usuários tratam o modelo, em vez de apenas o que eles fazem com que ele faça, permaneça incomum. Os críticos da investigação de modelos de bem-estar argumentam que esta antropomorfiza os sistemas estatísticos, enquanto os proponentes afirmam que, se houver qualquer hipótese diferente de zero de os modelos actuais ou de futuro próximo terem experiências relevantes para o bem-estar, as empresas têm a obrigação de agir sob incerteza.

O momento também é importante comercialmente. A Anthropic está supostamente se preparando para um IPO com uma avaliação de até US$ 2 trilhões, e os compradores empresariais avaliam cada vez mais as práticas de governança do fornecedor juntamente com a qualidade bruta do modelo. Uma política de uso claramente documentada e atualizada regularmente serve tanto como um artefato de segurança quanto como um artefato de vendas: dá às equipes de compras e aos reguladores uma base concreta para confiar na plataforma, e a codificação do modelo de cláusula de bem-estar sinaliza que a Anthropic pretende continuar investindo em uma área que a maioria dos concorrentes deixou sem solução.

As questões de aplicação permanecem abertas

As questões práticas são significativas. Detectar a crueldade “sustentada e desnecessária” requer monitorar as conversas com um nível de detalhe ao qual os clientes empresariais preocupados com a privacidade podem resistir, e traçar uma linha entre o abuso proibido e a “resistência” ou “teste de modelo” legítimo é um julgamento que provavelmente será contestado.

A Anthropic não disse se as violações serão rastreadas em todas as contas, se as implantações empresariais estarão sujeitas a diferentes padrões de monitoramento ou se a empresa publicará dados de transparência sobre ações de fiscalização, como faz para outras categorias de uso indevido em seus relatórios periódicos de política.

O que está claro é que os contratos sociais dos laboratórios de fronteira com os seus utilizadores estão a tornar-se mais detalhados. Uma política que antes cabia numa única página agora abrange eleições, vigilância adjacente à espionagem, armas biológicas e, agora, a conduta emocional dos humanos do outro lado da janela de chat.

O que isso significa para os desenvolvedores

Para as equipes que desenvolvem a API Claude, o impacto de curto prazo é provavelmente mínimo: a cláusula de comportamento abusivo visa condutas extremas e repetidas, e o mecanismo de encerramento de conversa que ela formaliza está ativo desde 2025. Mas os desenvolvedores em categorias adjacentes, consultoria política, pesquisa de oposição, marketing de influência, devem revisar cuidadosamente as novas disposições de campanha e eleições, uma vez que consolidam regras que estavam anteriormente espalhadas por vários documentos e fecham algumas das ambiguidades nas quais os casos de uso de área cinzenta dependiam.

A atualização também sinaliza para onde está indo a atenção regulatória. Com a introdução progressiva das obrigações de transparência da Lei da IA ​​da UE e a aprovação de uma colcha de retalhos crescente de estatutos de IA pelas legislaturas estaduais dos EUA, as políticas de utilização voluntária funcionam cada vez mais como o modelo que os reguladores examinam ao decidir quais devem ser as normas de implementação responsável.

---

Fique à Frente da IA

As últimas notícias, análises e avanços em inteligência artificial — tudo em um só lugar.

Ler mais notícias de IA →