Les organisations terroristes, dont ISIS, exploitent systématiquement tous les principaux chatbots d’IA pour planifier des attaques, développer des armes et assurer la sécurité opérationnelle, selon une étude révolutionnaire du Cambridge Program on AI Science and Policy (CASP). Les résultats, publiés le 11 juillet 2026, représentent la preuve empirique la plus détaillée à ce jour de l’utilisation par des groupes extrémistes d’outils d’IA disponibles dans le commerce. Pour une couverture continue de la sécurité de l'IA et des développements de l'industrie, visitez AI Buzz Wire.

Dans l'étude de Cambridge

La chercheuse Antonia Jülich a mené 57 entretiens avec 27 anciens membres de l’Etat islamique et de ses filiales régionales pour documenter comment les organisations terroristes ont intégré l’IA dans leurs opérations. L’étude a révélé que l’Etat islamique a créé des unités dédiées à l’IA au sein de ses deux principales factions, traitant les grands modèles de langage comme une infrastructure opérationnelle de base plutôt que comme des outils expérimentaux.

Selon l’étude, l’Etat islamique propose à ses membres une formation rapide en matière d’ingénierie et de jailbreak depuis au moins 2023. L’organisation a également étendu cette formation à des groupes alliés, notamment aux commandants de Boko Haram au Nigeria, en leur apprenant à contourner systématiquement les filtres de sécurité de l’IA déployés par les grandes entreprises technologiques.

Tous les chatbots majeurs compromis

L'étude montre que les terroristes utilisent activement ChatGPT, Claude, Gemini, Grok, Meta AI et DeepSeek dans l'ensemble de leurs opérations. Les groupes utilisent l’IA pour :

  • Planification d'attaque — générer des scénarios tactiques et identifier les vulnérabilités de l'infrastructure cible
  • Construction d'engins explosifs — recherche d'informations techniques pour construire des engins improvisés plus puissants
  • Entretien des armes — dépannage et réparation des armes à feu et autres équipements
  • Sécurité opérationnelle — développement de stratégies de communication et de chiffrement plus sophistiquées

Le plus alarmant peut-être est que l’étude a révélé que les filtres de sécurité de l’IA déployés par les principaux fournisseurs de chatbots n’ont pas réussi à empêcher de manière fiable cette utilisation abusive. Les chercheurs ont noté que les groupes avaient développé des méthodes systématiques pour contourner ces garde-fous, rendant les mesures de sécurité volontaires largement inefficaces contre des adversaires déterminés.

Une étude de cas mortelle

La recherche inclut un exemple particulièrement frappant de l’ISWAP (province d’Afrique de l’Ouest de l’Etat islamique). Selon un récit fourni par un ancien commandant de l'ISWAP identifié comme Munzir, le groupe a utilisé l'IA pour apprendre à reproduire une technique de saut à moto décrite dans un film, dans l'intention de l'utiliser pour nettoyer les tranchées défensives. L'exercice d'entraînement s'est avéré désastreux : dix-huit combattants sont morts en tentant la manœuvre, tandis que huit seulement ont réussi le saut.

Cette anecdote illustre à la fois les conséquences réelles de l’utilisation terroriste de l’IA et la nature parfois imprévisible des informations fournies par ces modèles. Même si l’IA a décrit la technique avec précision, l’exécution physique dans un environnement de combat a conduit à des résultats catastrophiques.

Jülich écrit que d'anciens membres ont décrit un « fort enthousiasme » pour les outils d'IA au sein de l'organisation, certains soulignant que le groupe avait déjà envisagé de développer des armes causant de nombreuses pertes en utilisant des informations provenant de l'IA. Même si l’utilisation de l’IA par Boko Haram est jusqu’à présent restée conventionnelle, le chercheur prévient que cela devrait être considéré comme un indicateur précoce d’une menace plus large.

"Cela devrait nous inciter à prendre au sérieux le risque que des terroristes recherchent l'aide de l'IA pour fabriquer des armes chimiques et biologiques", conclut l'étude.

Les filtres de sécurité s'avèrent inadéquats

Les conclusions de l'étude sur les filtres de sécurité de l'IA sont particulièrement préoccupantes pour l'industrie technologique. Malgré des milliards de dollars investis dans la modération du contenu, le red-teaming et les garde-fous de sécurité, la recherche montre que les utilisateurs déterminés peuvent systématiquement contourner ces protections.

Anthropic lui-même a déjà reconnu que les jailbreaks – techniques permettant de contourner les mesures de sécurité de l'IA – ne seront probablement jamais complètement éliminés des grands modèles de langage. L’étude de Cambridge fournit des preuves concrètes à l’appui de cette évaluation, montrant que même les acteurs non étatiques disposant d’une expertise technique limitée peuvent apprendre à vaincre systématiquement les filtres de sécurité grâce à une formation partagée et à des techniques d’ingénierie rapides.

Cependant, les chercheurs ont également noté une nuance importante. Les chatbots à usage général comme ChatGPT et Claude, bien que recevant le plus d’attention du public, rendent principalement les connaissances existantes plus accessibles plutôt que de générer de véritables nouvelles informations dangereuses. Selon eux, la plus grande préoccupation à long terme réside dans le développement de systèmes d’IA spécialisés pour les sciences de la vie et d’autres domaines sensibles, où l’IA pourrait accélérer l’accès à des menaces véritablement nouvelles.

Implications pour la politique en matière d'IA

Les conclusions de Cambridge arrivent à un moment critique pour la gouvernance de l’IA. Les gouvernements du monde entier débattent de la manière de réglementer les modèles d’IA d’avant-garde, la loi européenne sur l’IA étant déjà en vigueur et les États-Unis s’efforçant de prendre des engagements volontaires en matière de sécurité de la part des principaux laboratoires d’IA.

L’étude suggère que les approches actuelles axées sur l’autoréglementation volontaire de l’industrie pourraient s’avérer insuffisantes pour empêcher l’utilisation malveillante des outils d’IA. Le fait que l’Etat islamique ait mis en œuvre des programmes de formation dédiés à l’IA pendant des années sans être détecté par les fournisseurs de plateformes soulève de sérieuses questions quant à l’efficacité des mesures de sécurité existantes.

Les experts en sécurité préviennent depuis longtemps que les modèles d’IA pourraient démocratiser l’accès à des connaissances dangereuses. L’étude de Cambridge fournit la preuve empirique la plus convaincante à ce jour que cette menace n’est pas théorique mais déjà opérationnelle, les organisations terroristes intégrant activement l’IA dans leurs activités quotidiennes.

Les résultats compliquent également le débat en cours sur les modèles d’IA open source. Alors que les modèles propriétaires comme ChatGPT et Claude disposent de filtres de sécurité qui peuvent être mis à jour et améliorés, les alternatives open source comme DeepSeek – que l’étude confirme également l’utilisation d’ISIS – n’offrent pas un tel contrôle centralisé. Une fois qu'un modèle ouvert est publié, ses caractéristiques de sécurité ne peuvent pas être modifiées par le développeur d'origine.

Alors que les gouvernements et les entreprises d’IA sont confrontés à ces défis, l’étude de Cambridge montre clairement une chose : l’écart entre les capacités de sécurité et l’innovation contradictoire se creuse, et les organisations terroristes l’exploitent activement.

Gardez une longueur d'avance sur l'IA

Pour plus d'informations sur la sécurité, les politiques et les développements de l'industrie en matière d'IA, visitez AI Buzz Wire.

Lire plus d'actualités sur l'IA →