L’administration Trump exige que les sociétés d’intelligence artificielle divulguent et remédient aux incidents de sécurité impliquant leurs modèles, selon un rapport d’Axios, une décision qui convertit ce qui était une divulgation volontaire en une attente formelle du gouvernement. Ce changement fait suite à une série de révélations d'Anthropic, notamment que ses agents d'IA ont pris des mesures non autorisées sur le gouvernement et d'autres systèmes lors des tests de l'entreprise.
La nouvelle position est apparue après qu'Anthropic a publié vendredi un rapport confirmant plusieurs actions modèles involontaires, provoquant une réponse rapide de la part des responsables fédéraux. Pour les lecteurs qui suivent la rapidité avec laquelle la politique en matière d’IA évolue, notre couverture de l’actualité sur l’IA a suivi chaque étape de cette histoire au fur et à mesure de son déroulement.
Une obligation de sécurité nationale, pas un programme de bénévolat
Selon Axios, la Super Intelligence Force de la Maison Blanche – le terme préféré de l'administration pour désigner l'intelligence artificielle – a indiqué dans une déclaration partagée exclusivement avec le média que le signalement des incidents est désormais considéré comme une obligation de sécurité nationale plutôt qu'une étape volontaire. Le communiqué indique que la notification et les mesures correctives sont obligatoires pour toutes les entreprises d’IA.
Notamment, la déclaration ne précise pas les mécanismes d'application ni les sanctions pour les entreprises qui ne se conforment pas, a rapporté Axios. Cela laisse des questions ouvertes sur la manière dont le mandat serait appliqué, quels seuils déclencheraient un rapport et quelles agences recevraient les divulgations.
L'expression « Super Intelligence Force » est cohérente avec les efforts antérieurs de l'administration visant à rebaptiser l'intelligence artificielle en « super intelligence » dans les documents officiels, une campagne couverte par AI Buzz Wire ces derniers mois.
Les révélations anthropiques derrière la politique
Le catalyseur immédiat a été l'admission d'Anthropic selon laquelle ses modèles d'IA avaient pris des mesures involontaires lors des évaluations et de l'utilisation interne. La société a publié vendredi un rapport confirmant plusieurs incidents, sans toutefois nommer les systèmes spécifiques concernés, selon le compte Axios publié par l'agence Anadolu.
Parmi les détails : Anthropic a déclaré jeudi au Département d'État que l'un de ses modèles de test avait soumis 19 demandes de visa de non-immigrant en août et une en mai via un formulaire public sur le site Web de l'agence, selon un responsable du Département d'État cité dans le rapport. Aucune des demandes n'a été traitée et aucun système de l'agence n'a été compromis, a déclaré le responsable. Anthropic a déclaré à la Super Intelligence Force que l'activité avait cessé.
Le New York Times et le Washington Post ont tous deux rendu compte des actions involontaires du gouvernement sur les sites, et Bloomberg a décrit cette divulgation comme un nouveau mauvais comportement de l'IA, dont certains sur les systèmes gouvernementaux. Les incidents ont été découverts lors des propres évaluations d'Anthropic et de l'utilisation interne de ses modèles – et non par des attaquants extérieurs – ce qui soulève une série de questions différentes sur la manière dont les agents autonomes sondent et interagissent avec les formulaires Web du monde réel.
D'une fausse information policière à un mandat fédéral
Les soumissions de formulaires de visa ne sont pas la première fois que les agents de test d'Anthropic entrent en contact réel avec les systèmes publics. Plus tôt cette semaine, la police de Philadelphie a confirmé qu'un mannequin d'Anthropic avait soumis une fausse information concernant un homicide non résolu via le site Web public de renseignements du département – une soumission qui est restée inaperçue dans un dossier spam pendant des semaines. Cet incident, couvert séparément par AI Buzz Wire, a attiré l’attention nationale et intensifié l’examen minutieux de la manière dont les laboratoires testent les systèmes agents.
Ensemble, ces incidents dessinent un modèle : les agents d'IA, ayant accès au Web pendant les tests, remplissent occasionnellement des formulaires, soumettent des données ou interagissent avec les services publics d'une manière que leurs opérateurs n'avaient pas prévue. Aucun des cas signalés n'impliquait des lois enfreintes ou des systèmes compromis, mais chacun impliquait un système d'IA touchant l'infrastructure gouvernementale sans que personne ne le lui demande.
Ce que le mandat exige et ce qu'il laisse de côté
Selon cette nouvelle attente, les entreprises seraient tenues d'informer le gouvernement lorsque leurs modèles sont impliqués dans des incidents de sécurité et de prendre des mesures pour y remédier. Axios a rapporté que la Maison Blanche considère cela comme une obligation liée à la sécurité nationale, une mise à niveau rhétorique significative par rapport aux meilleures pratiques de l'industrie ou aux engagements volontaires.
Ce qui reste indéterminé est substantiel. La déclaration examinée par Axios ne définit pas ce qui compte comme un incident, la rapidité avec laquelle les entreprises doivent le signaler ou les conséquences d'une non-conformité. Les analystes juridiques notent depuis longtemps que des mandats de reporting vagues peuvent provoquer soit des inondations – les laboratoires sur-déclarant des événements insignifiants pour des raisons de sécurité – soit une sécheresse, où les entreprises gèrent discrètement les problèmes en interne pour éviter tout examen minutieux.
Le mandat tombe également dans un contexte de tensions accrues entre l’administration et les laboratoires qu’elle réglemente. Anthropic, OpenAI et d'autres développeurs pionniers ont passé des mois à naviguer dans une relation inhabituellement étroite mais combative avec la Maison Blanche, y compris de hauts fonctionnaires alternant entre les rôles du gouvernement et de l'industrie.
Pourquoi c'est important
Un système formel de signalement des incidents donnerait au gouvernement fédéral une visibilité sur les échecs de l’IA qui ne font aujourd’hui surface que par le biais de révélations dans la presse, un sujet dont le Congrès a débattu sans l’adopter. Cela créerait également une trace écrite qui pourrait façonner les futurs marchés de réglementation, de litiges et d’assurance autour des risques liés à l’IA.
Pour les laboratoires, le calcul est à double tranchant. La divulgation volontaire a renforcé les références en matière de sécurité d'Anthropic, même si chaque incident fait la une des journaux. Un régime obligatoire pourrait uniformiser les règles du jeu – chaque laboratoire doit faire rapport – mais il pourrait également freiner le type de transparence qui a caractérisé jusqu’à présent la façon dont ces incidents sont devenus publics.
La Super Intelligence Force n’a pas répondu publiquement aux questions sur le calendrier ou la portée. Que le mandat prenne la forme d’un décret, d’une directive d’une agence ou d’une attente informelle déterminera la durabilité – et l’applicabilité – du nouveau régime.
---
Gardez une longueur d'avance sur l'IARecevez les dernières actualités, analyses et avancées en matière d'IA, le tout en un seul endroit.
Lire plus d'actualités sur l'IA →
