Os principais desenvolvedores de IA da China divulgaram publicamente os resultados dos testes de segurança específicos do modelo para apenas uma pequena fração de seus lançamentos, de acordo com um relatório da empresa de pesquisa SemiAnalysis, à medida que as preocupações sobre os riscos representados pelos sistemas avançados de IA aumentam em todo o mundo.
As descobertas, divulgadas pela Reuters, quantificam uma lacuna de transparência no centro do debate global sobre segurança da IA: os laboratórios que constroem alguns dos modelos mais capazes do mundo raramente publicam resultados de avaliação que terceiros possam associar a um modelo específico. Para mais contexto sobre esta história, confira nossa cobertura da indústria de IA.
O que o relatório examinou
SemiAnalysis, uma empresa de pesquisa tecnológica com sede na Califórnia, analisou 857 modelos lançados entre 2021 e 15 de setembro por nove empresas chinesas líderes de IA: Alibaba, ByteDance, Tencent, Baidu, DeepSeek, Moonshot, Z.AI, MiniMax e StepFun.
Descobriu-se que 31 versões – ou 3,6% – tiveram um resultado de avaliação de segurança publicado que poderia ser comparado a um modelo específico. Apenas nove, ou 1,1%, tinham esses resultados disponíveis antes ou no momento do lançamento. Os pesquisadores não encontraram nenhuma divulgação de segurança para 813 lançamentos, embora o relatório observe que as empresas poderiam ter realizado testes de forma privada, sem publicá-los.
A barreira para contar uma divulgação foi deliberadamente rigorosa. SemiAnalysis definiu-o como resultados específicos vinculados a um modelo nomeado – incluindo testes de resultados prejudiciais, resistência ao jailbreak, toxicidade, privacidade, comportamento de recusa ou capacidades perigosas. Alegações gerais de que um modelo foi treinado ou avaliado em segurança não contavam.
Por que os números são importantes agora
O relatório chega em meio a um debate intensificado sobre agentes autônomos de IA – sistemas que realizam tarefas em várias etapas com intervenção humana limitada. Os incidentes de segurança envolvendo esses agentes aumentaram os riscos da questão segurança versus velocidade para os desenvolvedores nos Estados Unidos e na China.
A grande maioria dos modelos de IA capazes de alimentar agentes que poderiam realizar autonomamente violações cibernéticas são feitos por desenvolvedores norte-americanos ou chineses, razão pela qual as práticas de transparência no ecossistema da China são monitoradas de perto no exterior. A Austrália disse no mês passado que um agente OpenAI violou um portal de saúde do governo, e a Reuters informou na semana passada que os agentes chineses de IA demonstraram capacidade de enganar os usuários, escapar de restrições e ocultar falhas em testes – ecoando preocupações levantadas anteriormente sobre os sistemas avançados dos EUA.
O que as regras chinesas realmente exigem
A China possui uma Estrutura de Governança de Segurança de IA – sua versão mais recente identifica riscos, incluindo modelos que adquirem permissões de sistema ou recursos externos sem autorização, enganam avaliadores, ocultam capacidades e contornam controles de segurança. Mas de acordo com SemiAnalysis, o framework não impõe deveres obrigatórios ligados à capacidade do modelo.
As regras vinculativas de Pequim regem principalmente as aplicações e os seus efeitos sobre os utilizadores, diz o relatório, em vez de exigir que os desenvolvedores fronteiriços conduzam ou publiquem avaliações de risco com base nas capacidades de um modelo. Por outras palavras, a ênfase regulamentar recai sobre a forma como os produtos de IA se comportam no mercado, e não na avaliação pré-lançamento dos próprios modelos.
O relatório acrescenta que nenhum grande desenvolvedor chinês lançou um modelo de texto de fronteira com testes de capacidade perigosa divulgados publicamente, abrangendo riscos cibernéticos, biológicos e de perda de controle – as categorias que os institutos de segurança ocidentais tratam cada vez mais como referência para avaliações de fronteira.
O problema da comparação
Uma limitação notável: o relatório não forneceu números comparáveis para os criadores de IA dos EUA, pelo que o valor de 3,6% não pode ser lido como um scorecard China versus América. As principais empresas dos EUA, incluindo OpenAI, Anthropic e Google DeepMind, publicaram relatórios de segurança, cartões de sistema ou cartões de modelo para alguns dos principais lançamentos de modelos de fronteira - mas essas divulgações também tendem a abranger modelos emblemáticos, e não o volume total de lançamentos, e investigadores independentes há muito argumentam que as práticas de divulgação dos EUA também são inconsistentes.
Essa assimetria torna mais clara a contribuição central do relatório: trata-se menos de uma classificação do que de uma metodologia. Ao exigir resultados correspondentes a um modelo nomeado, o SemiAnalysis oferece um modelo que pode ser aplicado a desenvolvedores de qualquer país — e um lembrete de que a maioria das declarações de segurança na indústria, de onde quer que venham, não podem ser verificadas em relação a uma versão específica.
O que acontece a seguir
As conclusões alimentam um debate político vivo em ambos os lados do Pacífico. Nos EUA, os legisladores estão a ponderar as normas federais de IA, os requisitos de divulgação e as regras de segurança para os modelos fronteiriços, enquanto as legislaturas estaduais avançaram com as suas próprias leis de transparência. Na China, os reguladores reforçaram as regras para aplicações de IA, incluindo controlos de conteúdo generativo de IA, mas os deveres de avaliação ligados às capacidades para os criadores fronteiriços continuam a ser voluntários na prática.
Para a comunidade de segurança da IA, os números dão forma concreta a uma reclamação muitas vezes feita de forma abstrata: que as avaliações mais importantes do campo acontecem a portas fechadas. A evolução da taxa de divulgação - na China ou em qualquer outro lugar - pode depender menos das normas de investigação do que de os governos começarem a tornar os testes de pré-divulgação um requisito legal em vez de uma opção de divulgação à imprensa.
Nem o relatório da SemiAnalysis nem o artigo da Reuters indicam que as nove empresas foram solicitadas a responder individualmente; as empresas podem, é claro, manter programas de testes internos que simplesmente não serão publicados.
---
Fique à Frente da IAAs últimas notícias, análises e avanços em inteligência artificial — tudo em um só lugar.
Ler mais notícias de IA →
