Une étude du ministère américain de la Défense a conclu que la dépendance excessive à l'intelligence artificielle a contribué à une frappe de missile en mars contre une école en Iran qui aurait tué environ 120 enfants, selon les conclusions de l'étude rapportées lundi par Bloomberg et résumées par Yahoo News et d'autres médias.

C’est la première fois que le Pentagone attribue officiellement un résultat de combat mortel en partie au recours à un système d’IA, et elle se situe au milieu d’un débat qui s’intensifie sur la part d’autorité de ciblage que l’armée américaine devrait déléguer au jugement automatique. Pour plus de reportages comme celui-ci, consultez notre Couverture de l'éthique de l'IA.

Que s'est-il passé en mars

La frappe a eu lieu début mars 2026, lorsqu'une analyse vidéo publiée par Bellingcat et vérifiée par NPR et la BBC montrait un missile de croisière américain Tomahawk frappant à côté d'une école de filles dans la ville iranienne de Lamerd. Quelques jours plus tard, le New York Times rapportait qu'une enquête préliminaire américaine avait établi que la frappe était le résultat d'un missile américain, et des sources iraniennes évaluaient le bilan à des dizaines de morts, pour la plupart des enfants.

La nouvelle étude du Pentagone, décrite dans une enquête de Bloomberg publiée lundi, va plus loin : elle aurait retracé l'échec jusqu'au ciblage et conclurait qu'une dépendance excessive à l'égard de l'IA a contribué à la frappe. Yahoo News a résumé l'étude comme liant un système de ciblage par IA à la frappe qui a tué 120 enfants iraniens ; plusieurs médias ont identifié le système en question comme étant un logiciel fourni par Palantir, bien que le Pentagone n'ait pas confirmé publiquement les détails du fournisseur.

À l'intérieur de la chaîne de mise à mort

Le Los Angeles Times, dans une enquête parallèle publiée lundi, a retracé ce qu'il a appelé la « chaîne de destruction » américaine qui a détruit l'école – la séquence de collecte de données, de désignation de cible assistée par machine et d'approbation humaine qui s'est terminée par un lancement de missile. Le reportage souligne une réalité inconfortable de la guerre de précision moderne : l’équipage qui tire avec un Tomahawk risque de ne jamais voir la cible du tout. Ils exécutent un ensemble de données cibles assemblé en amont, où les outils algorithmiques façonnent de plus en plus ce qui est nommé et le degré de confiance des analystes qui les soutiennent.

En d’autres termes, la conclusion centrale de l’étude – la confiance excessive – ne concerne pas un robot qui appuie sur une gâchette. Il s'agit d'humains qui font suffisamment confiance aux résultats d'une machine pour éviter le scepticisme que le processus a été conçu pour exiger.

Surveillance démantelée

Le contexte de l’échec a été signalé il y a des mois. Politico a révélé en mars que le chef du Pentagone avait réduit les bureaux qui ne contribuaient pas à ses objectifs de « létalité », y compris le Centre d'excellence de la protection civile, et que le personnel des équipes d'atténuation des dommages causés aux civils avait diminué d'environ 90 %, se réduisant à moins de 20 personnes au total. ProPublica a rapporté que l'équipe des victimes civiles du Commandement central était passée de dix à une.

Dans ce contexte, les conclusions de l’étude ressemblent moins à un bug logiciel qu’à une panne système : un outil d’IA dont les erreurs n’ont pas été contestées au sein d’un appareil de ciblage dont les filets de sécurité humaine ont été coupés jusqu’aux os.

Un modèle que le Pentagone connaissait déjà

La frappe iranienne n’est pas un quasi-accident isolé lié à l’IA dans l’armée américaine. Des reportages distincts de Gizmodo et Futurism ont documenté un incident au cours duquel l’armée a failli aborder – et potentiellement tirer sur – un navire chinois après qu’un système d’IA ait halluciné des matières nucléaires à bord, une erreur qui aurait pu déclencher une escalade de grande puissance. Dans ce cas, l’intervention humaine a évité la catastrophe. En Iran, aucune intervention de ce type n’a eu lieu.

Les chercheurs en IA et les spécialistes de l’éthique militaire avertissent depuis des années que les résultats des machines injectés dans des décisions à enjeux élevés créent un biais d’automatisation – la tendance humaine documentée à faire trop confiance à des systèmes fiables. La propre étude du Pentagone constitue désormais une reconnaissance officielle du fait que ce parti pris a contribué à l'un des bilans civils les plus meurtriers de la guerre.

Ce qui vient ensuite

L’examen est susceptible d’intensifier la pression à Washington en faveur des exigences statutaires en matière d’humain dans le ciblage activé par l’IA, au même moment où l’administration s’efforce d’accélérer l’adoption de l’IA militaire. Cela complique également l’argumentaire de vente des fournisseurs de technologies de défense dont les produits sont désormais impliqués dans une évaluation formelle des défauts – et cela donne au Congrès une étude de cas concrète et documentée à citer lors des audiences sur la politique en matière d’armes autonomes.

De nombreuses questions restent sans réponse. Les résumés de l'étude publiés jusqu'à présent ne précisent pas quelle version du modèle était utilisée, si la panne était une hallucination, une mauvaise classification du bâtiment ou des données d'entrée corrompues en amont – des distinctions qui comptent énormément pour la manière dont l'armée devrait réglementer les outils d'IA. Il n'est pas non plus clair si les résultats du système ont été examinés par un analyste avant que l'ensemble des objectifs ne soit finalisé.

L’opinion publique est déjà sceptique : un sondage Reuters/Ipsos publié cette semaine révèle que 73 % des Américains affirment que les entreprises d’IA n’en font pas assez pour éviter des conséquences catastrophiques, et que les inquiétudes concernant l’IA dans les systèmes d’armes sont systématiquement supérieures aux inquiétudes concernant l’IA grand public. Ce qui arrive aux recommandations de l'examen – et si quelqu'un est tenu responsable – indiquera si les conclusions changent la pratique ou deviennent un autre rapport d'incident déposé et oublié.
---

Gardez une longueur d'avance sur l'IA

Recevez les dernières actualités, analyses et avancées en matière d'IA, le tout en un seul endroit.

Lire plus d'actualités sur l'IA →