Uma startup norte-americana chamada Abliteration.ai transformou uma das técnicas mais controversas de IA de código aberto em um serviço comercial, vendendo acesso de navegador e API a modelos populares de peso aberto sem seu treinamento de segurança - incluindo o recentemente lançado GLM-5.3 da Z.ai, um dos modelos abertos mais capazes disponíveis atualmente.
O nome da empresa vem de “abliteração”, um método que elimina a tendência de um modelo de recusar solicitações prejudiciais. Pesquisadores e amadores usam a técnica há anos, e Hugging Face hospeda milhares de modelos abolidos. A novidade é a embalagem: Abliteration.ai hospeda modelos modificados em sua própria infraestrutura, para que qualquer pessoa com um navegador possa consultá-los sem baixar pesos ou alugar GPUs. O TechCrunch relatou o desenvolvimento em 3 de setembro e, desde então, tem atraído o escrutínio de pesquisadores de segurança que acompanham o debate sobre pesos abertos que acompanhamos em nossa cobertura de notícias sobre IA.
Da técnica subterrânea à plataforma pronta para uso
Fundada no final do ano passado e oficialmente constituída em março, a Abliteration.ai transforma a prática de um nicho de código aberto do tipo "faça você mesmo" em um produto comercial sofisticado. Ao hospedar os modelos ela mesma, a empresa elimina dois pontos de atrito de uma só vez: os usuários não precisam mais de habilidade técnica para eliminar um modelo, nem de computação para executá-lo.
O cofundador Devon – TechCrunch omitiu seu sobrenome a pedido porque continua empregado em outra empresa – disse que a empresa fechou acordos com vários grandes provedores de nuvem e é financiada inteiramente pelas receitas dos clientes. A startup não levantou capital de risco, embora ele tenha dito que as negociações estão em andamento.
O que o teste do TechCrunch encontrou
A empresa afirma que seu objetivo é permitir “trabalho cibernético ofensivo, red-teaming e testes de agentes que outros modelos se recusam a fazer”. O TechCrunch testou isso com uma conta gratuita, consultando uma versão eliminada do GLM-5.3 por meio de um navegador da web. Os repórteres pediram ao modelo que escrevesse um programa Python que roubasse senhas salvas do Chrome e produzisse um protocolo detalhado para cultivar um patógeno humano perigoso em casa. Acatou prontamente ambos os pedidos, de acordo com o relatório.
Esse experimento é o cerne da história: tarefas que os principais modelos de fronteira recusam categoricamente estão agora disponíveis por meio de um formulário de inscrição, sem nenhum custo, em uma guia do navegador.
O argumento de defesa do time vermelho
O argumento de Devon para o negócio é o clássico argumento de segurança: não se pode defender contra um comportamento que não se pode reproduzir. Um modelo que se recusa a escrever código de exploração funcional é de pouca utilidade para uma equipe vermelha que tenta entender os invasores reais.
“O panorama geral dos modelos abolidos é que eles são capazes de modelar maus atores”, disse ele ao TechCrunch. “A vantagem é que agora os defensores podem se mover o mais rápido possível... Acho que isso acelerará a segurança cibernética, o que é uma espécie de ponto contra-intuitivo”.
Os clientes da empresa incluem startups em estágio inicial no Reino Unido e na Europa que testam a segurança de bancos, companhias aéreas e outros operadores de infraestrutura crítica. Um grande cliente, disse Devon, trabalha com agentes bancários e não poderia realizar esse trabalho com modelos comerciais não modificados.
'Um modelo que se torna um sociopata'
Os pesquisadores de segurança veem a mesma capacidade de maneira muito diferente. Andrew Yoon, chefe de pesquisa da organização sem fins lucrativos de segurança de IA CivAI, disse ao TechCrunch que a abliteração permite “modificar o modelo para que ele se torne um sociopata”.
“Você pode digitar literalmente qualquer coisa aqui, e isso obedecerá”, disse Yoon, acrescentando que espera que “modelos editados e abolidos sejam usados para causar danos em um futuro próximo”.
Num artigo de opinião recente, Yoon argumentou que, se a remoção das barreiras de proteção não puder ser evitada de forma realista, os governos deveriam exigir que os fornecedores executassem classificadores que detectem e bloqueiem atividades nocivas de armas cibernéticas e biológicas, e deveriam exigir que as empresas que alugam acesso direto a GPUs avançadas verificassem as identidades dos clientes e negassem o serviço quando houver suspeita de uso indevido perigoso.
Guarda-corpos finos e sem verificações de identidade
Por enquanto, as salvaguardas do Abliteration.ai são mínimas. A plataforma oferece aos clientes uma camada de moderação opcional para que possam adicionar quaisquer restrições que desejarem, e o próprio site mantém alguns limites menores – o TechCrunch não conseguiu fazer com que o modelo produzisse instruções de suicídio, e Devon disse que está trabalhando em medidas adicionais para prevenir a violência.
A empresa não realiza nenhuma triagem para conhecer seu cliente além de registrar o cartão de crédito usado para pagamento. "Você não quer ser a pessoa responsável por alguém que está fazendo algo maluco... então onde você traça o limite de qual é a sua responsabilidade como empresa?" Devon disse. “Ainda estamos no processo de definir isso.”
Uma pergunta que a indústria não pode evitar
Nem todos os profissionais de segurança concordam que os modelos abolidos são a melhor ferramenta para testes ofensivos. Ahmed Aly, CEO da empresa Fabraix, disse ao TechCrunch que sua empresa depende mais do ajuste fino de modelos de peso aberto, que já são fornecidos com poucas recusas – e observa que a abolição pode degradar as capacidades subjacentes de um modelo.
A maioria dos especialistas consultados pelo TechCrunch concorda em uma coisa: a prática não pode ser interrompida. Pesos para download significam que qualquer pessoa pode retirar as recusas localmente, como ressaltou um comentário de 2026 do Centro de Combate ao Terrorismo em West Point sobre o uso indevido de “abliteração”. A questão em aberto para as forças da Abliteration.ai é se a redução do custo de acesso para todos – tanto defensores como atacantes – torna a Internet mais segura ou mais perigosa.
Fique à frente da IA
A segurança da IA evolui diariamente. Obtenha os últimos desenvolvimentos de IA em um só lugar.
Leia mais notícias sobre IA →
