Le ministère de la Défense a publié de nouvelles directives à l'intention du personnel chargé des contrats et des programmes, destinées à garantir que les systèmes d'intelligence artificielle achetés par le Pentagone respectent les principes d'achat de « recherche de la vérité » et de « neutralité idéologique » de l'administration Trump, a rapporté lundi Federal News Network.

La directive, émise par John Tenaglia, directeur principal du Pentagone pour la politique de tarification, de passation de contrats et d'acquisitions de défense, est l'étape la plus concrète du département pour mettre en œuvre le programme du président Donald Trump visant à « empêcher l'IA éveillée » au sein du gouvernement fédéral. Pour plus de contexte sur cette histoire, consultez notre tendances IA.

Du décret au langage du contrat

Ces orientations découlent directement du décret signé par Trump en juillet, qui oblige les agences fédérales à garantir que les grands modèles linguistiques qu'elles achètent sont « des outils neutres et non partisans qui ne manipulent pas les réponses en faveur de dogmes idéologiques tels que [la diversité, l'équité et l'inclusion] ». Dans cet ordre, Trump a déclaré que les agences fédérales « ont l’obligation de ne pas se procurer de modèles qui sacrifient la véracité et l’exactitude au profit de programmes idéologiques ».

Le Bureau de la gestion et du budget a ensuite publié une note abordant les questions apparues après la publication du décret. Le nouveau document du Pentagone traduit ces mandats de haut niveau dans le mécanisme d'acquisition de la défense : des modèles qui guident les responsables à travers les différentes étapes de l'achat de systèmes d'IA et de la vérification de la conformité des sous-traitants aux principes d'« IA impartiale » du département.

Plus précisément, les modèles comprennent une note pour aider les agences à sélectionner les exigences appropriées en matière de transparence et de documentation pour un marché public, un langage de sollicitation standardisé indiquant aux entreprises quelle documentation elles doivent fournir pour démontrer la conformité et un langage contractuel formel qui peut être incorporé dans une déclaration de travail ou une déclaration de performance, selon Federal News Network.

Des conseils, pas un mandat – pour l'instant

Tenaglia a pris soin de définir le poids juridique du document. Bien que le respect du décret sous-jacent et du mémo de l'OMB soit obligatoire, le nouveau document est destiné « uniquement à titre indicatif », fournissant « une approche standardisée pour documenter, solliciter et appliquer les principes impartiaux de l'IA », a-t-il écrit.

"Reconnaissant que les achats d'IA varient considérablement en termes de complexité et de risque, les composants du DoD et les activités requises ont la flexibilité de réviser, d'adapter ou de compléter ce langage si nécessaire pour répondre aux besoins spécifiques et au contexte de leurs exigences individuelles", a écrit Tenaglia dans la note.

Cette flexibilité peut s’avérer conséquente. Mesurer si un modèle d'IA est « impartial » – et documenter cette détermination pour un dossier contractuel – est une tâche bien plus compliquée que de vérifier une certification de cybersécurité, et les fournisseurs sont susceptibles de repousser les demandes de documentation qui touchent à la conception du modèle.

Fait partie d'un effort plus important visant à commercialiser l'IA de défense

Ces orientations arrivent alors que le secrétaire à la Défense, Pete Hegseth, poursuit ses efforts pour introduire l’IA commerciale dans le département. Plus tôt cette année, le Pentagone a publié une stratégie d'IA visant à faire du département une « force de combat axée sur l'IA », Hegseth affirmant que le département investira massivement dans l'infrastructure de calcul de l'IA, des centres de données aux systèmes à la pointe de la tactique.

Les législateurs évoluent en parallèle. Le représentant Jimmy Patronis (Républicain de Floride) cherche à codifier le décret de Trump dans la loi. "Le président et son équipe ont adopté un décret intelligent qui demande aux agences fédérales de n'exploiter que les outils d'IA qui disent la vérité", a déclaré Patronis, affirmant qu'il existe "des exemples après exemples d'outils d'IA qui déraillent parce que la programmation fondamentale penche politiquement à gauche".

Ce que cela signifie pour les fournisseurs d'IA

Pour les entreprises d’IA – y compris les laboratoires pionniers qui se précipitent désormais vers les offres publiques – les orientations indiquent que la documentation de neutralité idéologique devient une exigence de facto pour le marché américain de la défense, l’un des segments de clientèle à la croissance la plus rapide pour l’IA commerciale. Les fournisseurs capables de produire des pistes d'audit pour la formation et le comportement de leurs modèles pourraient trouver la porte ouverte ; ceux qui ne le peuvent pas risquent de constater que les marchés publics fédéraux sont de plus en plus fermés.

L’effet pratique est que « l’IA impartiale » passe du stade de la rhétorique politique à celui d’une exigence écrite dans les contrats du plus grand acheteur de technologie au monde – et toutes les autres agences surveillent le fonctionnement des modèles du Pentagone.

Ce que les fournisseurs devront réellement produire

Dans le cadre des modèles, la charge de la preuve incombe au fournisseur. Les entreprises soumissionnant pour des contrats faisant appel à l'IA devraient fournir des documents démontrant que leurs modèles sont conformes aux principes de « l'IA impartiale », créant ainsi une nouvelle catégorie de documents d'acquisition aux côtés des accréditations de sécurité et des attestations de chaîne d'approvisionnement. Les responsables des contrats, à leur tour, disposent d'un langage standardisé qu'ils peuvent intégrer dans les appels d'offres sans avoir à tout rédiger à partir de zéro, ce qui, selon les experts en passation des marchés, est généralement ce qui transforme la politique en pratique.

Ces directives arrivent également alors que le Pentagone normalise les chatbots commerciaux pour son personnel, après avoir déployé des versions optimisées par le gouvernement d'assistants commerciaux d'IA pour le personnel de la défense. L’intégration d’un langage de neutralité idéologique dans ces contrats étend une norme politique aux systèmes utilisés pour tout, de la planification logistique au travail administratif de routine.

Un cas test pour le reste du gouvernement

Les autres agences sont désormais confrontées à un choix : adopter en bloc les modèles du Pentagone, rédiger les leurs ou attendre que le Congrès agisse. La volonté de Patronis de codifier le décret résoudrait cette ambiguïté par la loi – et rendrait les exigences de neutralité beaucoup plus difficiles à renverser pour une future administration.

Les critiques de l’ordre soutiennent que mesurer la neutralité idéologique dans les modèles linguistiques est scientifiquement complexe et pourrait paralyser le comportement légitime des modèles, y compris les descriptions précises des sujets contestés. Les partisans rétorquent que les normes d’approvisionnement imposent déjà systématiquement des exigences de contenu aux fournisseurs et que les développeurs de modèles restent libres de vendre ailleurs.

Quoi qu’il en soit, la direction du voyage est claire. Le plus grand acheteur de technologie du gouvernement a mis par écrit « l’IA impartiale », et les entrepreneurs de la défense qui espèrent vendre des systèmes d’IA au Pentagone ont désormais une nouvelle liste de contrôle à respecter – une liste qui commence par la documentation et se termine, potentiellement, par des litiges contractuels si un modèle déployé échoue au test de neutralité.

---

Restez à la Pointe de l'IA

Les dernières actualités, analyses et percées en IA — au même endroit.

Lire plus d'actualités IA →