Le Pentagone lance un programme pilote qui utilisera l'intelligence artificielle pour gérer la façon dont il classe et traite les informations militaires sensibles, selon un mémorandum publié par le secrétaire adjoint à la Défense Steve Feinberg et examiné par DefenseScoop. La directive ordonne un premier déploiement à petite échelle d’une capacité automatisée de classification de sécurité au cours des six prochains mois – la première étape dans le but de réviser un processus que le ministère décrit comme dangereusement dépassé.
Dans le mémo Feinberg Pour plus de contexte sur cette histoire, consultez notre tendances IA.
Le mémo, publié lundi, présente les procédures de classification et de déclassification existantes du Pentagone comme une source de « dysfonctionnement » qui, selon le département, « met en danger » sa mission. Il fait valoir que des procédures obsolètes ralentissent la « publication en temps opportun d'informations critiques » et érodent la confiance du public dans le ministère.
"Le dysfonctionnement provoqué par ces procédures conduit à des classifications incorrectes qui pèsent sur nos systèmes de sécurité nationale, entravent l'interopérabilité et ralentissent l'innovation en piégeant les données vitales dans des cloisons", indique le mémo, selon DefenseScoop.
ACME : Le système de l'Armée de l'Air au centre
Pour l’essai, le ministère de la Défense utilisera un système basé sur l’IA que l’Air Force a récemment développé, appelé Automated Classification Management Environment, ou ACME. Le mémo désigne le plus haut responsable civil de l'Air Force comme agent exécutif du pilote, et un porte-parole de l'Air Force a déclaré à DefenseScoop que le service "se conformera aux instructions du mémo".
L'ACME a été signalée publiquement en août, lorsque des responsables ont publié une demande d'informations demandant à l'industrie d'aider à construire un écosystème de gestion de classification pour remplacer le processus « manuel et à forte intensité humaine » que l'armée utilise depuis des décennies. Cet avis décrivait un système sous pression : des centaines de fonctionnaires détiennent le pouvoir de classifier les informations, beaucoup utilisant des programmes archaïques, produisant une documentation obsolète, des taux d'erreur élevés, une surclassification fréquente et une intégrité des données dégradée. Le ministère accuse également un retard de production de documents papier d'environ 140 millions de pages.
Du pilote à la référence unique faisant autorité
Si le projet pilote réussit, la note indique que le système automatisé servira éventuellement de « référence numérique unique faisant autorité » pour toutes les décisions de classification originales du ministère. Cette responsabilité a toujours appartenu à des responsables humains spécialement désignés qui déterminent la manière dont les informations sensibles sont catégorisées – ce qui signifie qu’un déploiement réussi marquerait l’un des transferts les plus conséquents d’une fonction gouvernementale essentielle vers des systèmes d’IA à ce jour.
Pourquoi les responsables disent que le changement est nécessaire
Les arguments en faveur de l’automatisation reposent sur le volume et la rapidité des informations militaires modernes. La demande d'informations du mois d'août a qualifié le processus manuel d'"incompatible" avec le volume et la rapidité de l'information à l'ère numérique. La surclassification maintient les informations hors de portée des unités et des alliés qui en ont besoin ; une sous-classification risque d’exposer les capacités et les plans aux adversaires. Les erreurs dans les deux sens entraînent des coûts, et avec un arriéré de pages papier à sept chiffres, le ministère a conclu que les correctifs progressifs ne suffisent pas.
Josh Wallin, chercheur au programme de défense du Center for a New American Security, a déclaré à DefenseScoop que des informations sous-classifiées peuvent exposer une capacité ou un plan à un adversaire, tandis que des informations surclassifiées peuvent être retenues ou bloquées par un processus d'examen retardé - ce qui signifie qu'elles peuvent ne pas atteindre les organisations qui en ont besoin, "dans un environnement de coalition où le partage d'informations est essentiel à la coordination". Il a ajouté que, dans de nombreux cas, « la grande majorité des informations ne sont pas nécessairement si sensibles qu'on s'inquiète d'une mauvaise classification », ce qui explique précisément pourquoi un traitement plus rapide et plus cohérent pourrait rapporter des dividendes à l'échelle du ministère.
Les analystes constatent des gains – et des risques réels
Wallin a déclaré que l’automatisation pourrait contribuer à résoudre les problèmes de classification erronée – y compris les informations surprotégées, sous-protégées ou mal étiquetées par les humains – et à réduire les cloisonnements, d’autant plus que les conflits modernes ont montré qu’un flux rapide d’informations peut être un avantage décisif.
Mais Wallin a également signalé des risques. Des erreurs de classification pourraient se produire à une échelle plus rapide dans les systèmes basés sur l’IA. Un partage plus rapide avec les alliés et partenaires soulève des questions sur les protocoles de cybersécurité des réseaux destinataires. Et la déclassification accélérée crée un effet « global », dans lequel un adversaire peut rassembler des informations sensibles à partir de divulgations individuellement inoffensives.
"Il y a un problème de classification erronée", a déclaré Wallin. "Il y a juste une crainte inhérente que certaines informations soient sensibles. Seront-elles mal classées et partagées, en quelque sorte involontairement, et quelqu'un ne les récupérera-t-il pas ?"
Des questions de surveillance demeurent
Wallin a également remis en question la brièveté du projet pilote et la manière dont la surveillance humaine fonctionnera lorsque l'IA servira de référence définitive à l'autorité de classification d'origine. "Comment allez-vous réellement mettre en place une surveillance humaine ? Cela devra persister pour toujours", a-t-il déclaré à DefenseScoop, notant que le système évoluera avec le temps et qu'une confiance totale ne sera jamais réalisable.
Le Pentagone n’a pas immédiatement répondu aux questions sur les modèles d’IA sous-jacents qui alimenteraient le pilote ni sur les inquiétudes du ministère quant à l’utilisation de la technologie à cette fin. La directive intervient au milieu d’un débat plus large à Washington sur la surveillance de l’IA, alors même que les responsables de la défense soutiennent que l’IA est un outil trop puissant pour être mis de côté pendant que les adversaires la déploient dans leurs propres armées. La manière dont le département équilibrera ces deux impulsions – adoption agressive et contrôle humain significatif – sera la question déterminante du projet pilote de six mois.
Pour l’Armée de l’Air, cette mission est aussi un vote de confiance. Le service a construit l'ACME alors que les discussions à l'échelle du département sur la réforme de la classification étaient encore théoriques, et le mémo lui confie désormais la responsabilité d'une capacité qui, si elle fonctionne, remodèlera la façon dont chaque branche militaire gère ses secrets. Pour le reste du gouvernement fédéral – où les arriérés de classification et les plaintes de surclassification sont chroniques – un projet pilote réussi du Pentagone fournirait le premier modèle à grande échelle pour le traitement de l’information assisté par l’IA, et un modèle étroitement surveillé.
---
Restez à la Pointe de l'IALes dernières actualités, analyses et percées en IA — au même endroit.
Lire plus d'actualités IA →
