Organizações terroristas, incluindo o ISIS, estão a explorar sistematicamente todos os principais chatbots de IA para planeamento de ataques, desenvolvimento de armas e segurança operacional, de acordo com um estudo inovador do Programa Cambridge sobre Ciência e Política de IA (CASP). As descobertas, publicadas em 11 de julho de 2026, representam a evidência empírica mais detalhada até o momento de grupos extremistas que usam ferramentas de IA comercialmente disponíveis. Para cobertura contínua da segurança da IA ​​e dos desenvolvimentos da indústria, visite AI Buzz Wire.

Por dentro do estudo de Cambridge

A investigadora Antonia Jülich conduziu 57 entrevistas com 27 ex-membros do ISIS e suas afiliadas regionais para documentar como as organizações terroristas integraram a IA nas suas operações. O estudo concluiu que o ISIS estabeleceu unidades dedicadas de IA dentro de ambas as suas principais facções, tratando os grandes modelos linguísticos como infra-estruturas operacionais centrais, em vez de ferramentas experimentais.

De acordo com a investigação, o ISIS tem oferecido formação imediata em engenharia e jailbreak aos seus operacionais desde pelo menos 2023. A organização também estendeu esta formação a grupos aliados, incluindo comandantes do Boko Haram na Nigéria, ensinando-lhes como contornar sistematicamente os filtros de segurança de IA implantados por grandes empresas tecnológicas.

Todos os principais chatbots comprometidos

O estudo documenta que agentes terroristas estão usando ativamente ChatGPT, Claude, Gemini, Grok, Meta AI e DeepSeek em suas operações. Os grupos empregam IA para:

  • Planejamento de ataques — geração de cenários táticos e identificação de vulnerabilidades na infraestrutura alvo
  • Construção de dispositivos explosivos — obtenção de informações técnicas para a construção de dispositivos improvisados mais poderosos
  • Manutenção de armas — solução de problemas e reparo de armas de fogo e outros equipamentos
  • Segurança operacional — desenvolvimento de estratégias de comunicação e criptografia mais sofisticadas

Talvez o mais alarmante seja o fato de o estudo ter descoberto que os filtros de segurança de IA implantados pelos principais fornecedores de chatbot não conseguiram impedir de forma confiável esse uso indevido. Os investigadores observaram que os grupos desenvolveram métodos sistemáticos para contornar estas barreiras de proteção, tornando as medidas de segurança voluntárias em grande parte ineficazes contra adversários determinados.

Um estudo de caso mortal

A investigação inclui um exemplo particularmente notável da ISWAP (Província da África Ocidental do ISIS). De acordo com um relato fornecido por um ex-comandante do ISWAP identificado como Munzir, o grupo usou IA para aprender como replicar uma técnica de salto de motocicleta retratada em um filme, com a intenção de usá-la para limpar trincheiras defensivas. O exercício de treinamento foi desastroso: dezoito lutadores morreram tentando a manobra, enquanto apenas oito completaram o salto com sucesso.

Esta anedota ilustra tanto as consequências no mundo real do uso terrorista de IA como a natureza por vezes imprevisível da informação que estes modelos fornecem. Embora a IA possa ter descrito a técnica com precisão, a execução física em um ambiente de combate levou a resultados catastróficos.

Jülich escreve que os ex-membros descreveram “forte entusiasmo” pelas ferramentas de IA dentro da organização, com alguns observando que o grupo já havia considerado o desenvolvimento de armas para vítimas em massa usando informações provenientes de IA. Embora o uso da IA ​​pelo Boko Haram tenha permanecido até agora convencional, o investigador adverte que isto deve ser considerado um indicador precoce de uma ameaça mais ampla.

“Este deveria ser um aviso para levarmos a sério o risco de terroristas procurarem assistência de IA para armas químicas e biológicas”, conclui o estudo.

Filtros de segurança se mostram inadequados

As conclusões do estudo sobre filtros de segurança de IA são particularmente preocupantes para a indústria tecnológica. Apesar dos bilhões de dólares investidos em moderação de conteúdo, red teaming e proteções de segurança, a pesquisa mostra que determinados usuários podem contornar essas proteções de forma consistente.

A própria Anthropic reconheceu anteriormente que os jailbreaks – técnicas para contornar as medidas de segurança da IA ​​– provavelmente nunca serão totalmente eliminados dos grandes modelos de linguagem. O estudo de Cambridge fornece provas concretas que apoiam essa avaliação, mostrando que mesmo intervenientes não estatais com conhecimentos técnicos limitados podem aprender a derrotar sistematicamente os filtros de segurança através de formação partilhada e técnicas de engenharia imediatas.

No entanto, os pesquisadores também notaram uma nuance importante. Chatbots de uso geral, como ChatGPT e Claude, embora recebam a maior atenção do público, tornam o conhecimento existente mais acessível, em vez de gerar informações perigosas genuinamente novas. A maior preocupação a longo prazo, argumentam, reside no desenvolvimento de sistemas especializados de IA para as ciências da vida e outros domínios sensíveis, onde a IA poderia acelerar o acesso a ameaças genuinamente novas.

Implicações para a política de IA

As conclusões de Cambridge chegam num momento crítico para a governação da IA. Os governos de todo o mundo estão a debater como regular os modelos de IA de fronteira, com a Lei da IA ​​da UE já em vigor e os Estados Unidos a assumirem compromissos voluntários de segurança por parte dos principais laboratórios de IA.

O estudo sugere que as actuais abordagens centradas na auto-regulação voluntária da indústria podem ser insuficientes para prevenir a utilização maliciosa de ferramentas de IA. O facto de o ISIS ter operado programas de formação dedicados à IA durante anos sem ser detectado pelos fornecedores de plataformas levanta sérias questões sobre a eficácia das medidas de segurança existentes.

Os especialistas em segurança alertam há muito tempo que os modelos de IA poderiam democratizar o acesso a conhecimentos perigosos. A investigação de Cambridge fornece a evidência empírica mais convincente de que esta ameaça não é teórica, mas já operacional, com organizações terroristas a integrarem ativamente a IA nas suas atividades diárias.

As descobertas também complicam o debate em curso sobre modelos de IA de código aberto. Embora modelos proprietários como ChatGPT e Claude tenham filtros de segurança que podem ser atualizados e melhorados, alternativas de código aberto como DeepSeek – que o estudo confirma que o ISIS também está usando – não oferecem esse controle centralizado. Uma vez lançado um modelo aberto, suas características de segurança não podem ser modificadas pelo desenvolvedor original.

À medida que os governos e as empresas de IA enfrentam estes desafios, o estudo de Cambridge deixa uma coisa clara: a lacuna entre as capacidades de segurança e a inovação adversária está a aumentar e as organizações terroristas estão a explorá-la ativamente.

Fique à frente da IA

Para obter mais cobertura sobre segurança, políticas e desenvolvimentos do setor de IA, visite AI Buzz Wire.

Leia mais notícias sobre IA →