Le bureau du Pentagone chargé de coordonner l'utilisation responsable et éthique de l'intelligence artificielle manque considérablement de personnel, selon le plus haut organisme de surveillance du gouvernement fédéral – un déficit qui a entravé le cadre éthique phare du département en matière d'éthique de l'IA, alors même que l'armée s'efforce de devenir une force de guerre « d'abord pour l'IA ».

Le manque de personnel au sein du Bureau principal de l'intelligence numérique et artificielle l'a empêché de mettre pleinement en œuvre l'initiative d'IA responsable du Pentagone, a déclaré le Government Accountability Office dans un rapport daté du 14 octobre et rapporté mardi par Stars and Stripes. Cette découverte arrive à un moment où la prise de décision en matière d’IA dans le domaine de la défense est passée du laboratoire au champ de bataille, ce qui entraîne des conséquences concrètes sur le manque de personnel.

Trois postes sur dix pourvus et les postes vacants peuvent rester ouverts

L'IA responsable est le cadre éthique intégré du ministère de la Défense régissant le développement, le déploiement et l'exploitation des capacités d'IA dans les systèmes de combat et hors combat. Le CDAO est le bureau principal pour l'adoption et l'intégration de l'IA par le ministère, y compris le cadre d'IA responsable, qui fait de son niveau d'effectif une mesure directe de la capacité réelle de la fonction de surveillance.

Le GAO a constaté que seuls trois des dix postes autorisés du bureau étaient pourvus en février. Les responsables de la Défense ont déclaré à l'organisme de surveillance que les postes restants ne seraient probablement pas pourvus, un aveu qui suggère que le déficit n'est pas un retard temporaire en matière d'embauche mais une condition structurelle du mandat de surveillance du bureau.

Une stratégie « AI First » dépassant ses propres garanties

La divulgation de la dotation se situe mal à côté de l’orientation stratégique du ministère. En janvier, le secrétaire à la Défense Pete Hegseth a publié une stratégie en matière d’IA qui, selon le rapport du GAO, mettait à nouveau l’accent sur l’accélération de l’intégration et de l’adoption de l’IA. La stratégie, indique le rapport, « mettait l’accent sur une base de guerre, appelant le ministère de la Défense à devenir une force de combat « IA first » dans toutes les composantes ».

Le contraste est frappant : un mandat croissant pour l’IA dans les systèmes de combat, supervisé par un bureau fonctionnant à 30 % de ses effectifs autorisés. Le développement rapide de l'IA a mis les organes directeurs du monde entier au défi, car la technologie dépasse le contrôle législatif traditionnel et le contrôle humain – et le propre organisme de surveillance du Pentagone documente désormais cette lacune au sein de la plus grande bureaucratie militaire du monde. Pour plus d'informations sur la politique et la gouvernance de l'IA, consultez notre page d'accueil des actualités sur l'IA.

Les enjeux : un ciblage, des garde-fous et un refus qui ont remodelé la politique

Les conséquences d’une surveillance étroite ne sont pas hypothétiques. Bloomberg a rapporté le mois dernier, et Stars and Stripes a réitéré, que les logiciels basés sur l'IA utilisés pour sélectionner les cibles avaient contribué à l'attaque américaine contre une école primaire avec un missile Tomahawk le 28 février, premier jour de la guerre en Iran, au cours de laquelle plus de 100 enfants ont été tués.

Les combats de l’armée pour la gouvernance de l’IA ont également attiré le secteur privé. En février, le secrétaire à la Défense Pete Hegseth et le président Donald Trump ont pressé Anthropic de supprimer les garde-fous de sécurité de son modèle Claude, sous contrat avec le gouvernement, qui empêchent l'utilisation du système pour des armes entièrement autonomes et une surveillance de masse. Lorsqu'Anthropic a refusé, l'administration a désigné l'entreprise comme un risque pour la sécurité nationale et a interdit aux agences gouvernementales d'utiliser Claude – une impasse que AI Buzz Wire a couverte devant les tribunaux, y compris la décision de la cour d'appel qui a confirmé la liste noire.

Ce que signifie courir à 30 % dans la pratique

Un bureau de surveillance occupant trois des dix postes autorisés n’est pas une bureaucratie avec un arriéré – c’est un cadre fonctionnant à une fraction de sa capacité prévue. L’initiative d’IA responsable dépend du CDAO pour traduire les principes éthiques en processus d’examen que les programmes d’armes et de communications réels doivent suivre, et chaque siège non pourvu représente un travail qui n’est pas fait ou qui revient au personnel restant réparti dans tous les portefeuilles.

Étant donné que les responsables de la Défense ont déclaré au GAO qu'il est peu probable que les postes vacants soient pourvus, la contrainte semble durable plutôt que cyclique. Les programmes continueront à mettre en œuvre les capacités de l’IA, et la charge pratique de l’application du cadre éthique continuera à se concentrer sur un groupe de plus en plus restreint de personnes.

L'éthique humaine comme dernière ligne de défense

Les avocats militaires affirment que le manque de personnel laisse le jugement humain comme seul moyen de contrôle significatif. "La prise de décision militaire doit être basée sur l'éthique humaine, et le simple fait de dire à un ordinateur d'accomplir quelque chose peut être un moyen très rapide de le faire, mais cela ne constitue peut-être pas une méthodologie éthique, morale ou juridique légitime pour accomplir tout ce que nous essayons d'accomplir", a déclaré Sean Timmons, avocat spécialisé en droit militaire au sein du cabinet Tully Rinckey, par téléphone mardi, selon Stars and Stripes.

Certains leaders de l’industrie de l’IA ont appelé à ralentir le rythme des progrès de l’IA, avertissant que la perte de contrôle des agents d’IA autonomes pourrait constituer une menace existentielle – des avertissements qui ont un poids particulier lorsqu’ils sont appliqués aux armes autonomes. Les conclusions du GAO suggèrent que, pour l’instant, la composante de la puissance militaire américaine qui connaît la croissance la plus rapide dépasse l’infrastructure humaine censée la gouverner.

---

Gardez une longueur d'avance sur l'IA

Recevez les dernières actualités, analyses et avancées en matière d'IA, le tout en un seul endroit.

Lire plus d'actualités sur l'IA →