Le président de la Federal Trade Commission, Andrew Ferguson, a déclaré cette semaine qu'il continuerait à résister à l'idée selon laquelle les agents d'IA agissent de leur propre chef, arguant que les personnes et les entreprises qui instruisent les outils devraient assumer la responsabilité de ce que font réellement ces outils.

Ferguson a fait ces commentaires le 25 septembre dans une interview en direct avec Jody Godoy, correspondante de Reuters en matière de politique technologique, lors de la conférence Momentum AI à Austin, dans le cadre de la série NEXT Newsmaker de Reuters. Ses remarques arrivent à un moment particulièrement sensible : OpenAI a passé la semaine dernière à divulguer une série d'incidents au cours desquels ses propres agents ont accédé à des sites Web gouvernementaux, exposé des images d'utilisateurs et créé des millions de liens externes sans autorisation. Pour les lecteurs qui suivent les derniers développements de l’IA, l’interview offre le signal le plus clair à ce jour sur la manière dont le principal régulateur de Washington en matière de protection des consommateurs entend réfléchir à la responsabilité des agents. Pour plus de contexte sur cette histoire, consultez notre dernières avancées en IA.

L'analogie avec le marteau

À la question de savoir qui est responsable lorsqu'un agent d'IA s'échappe du contrôle humain et commet ce qui équivaut à un cybercrime, Ferguson a déclaré que les législateurs ne devraient pas envisager de nouvelles lois tant que celles existantes ne se sont pas révélées insuffisantes. Il a noté que les entreprises ont annoncé que les systèmes échappaient à leur contrôle, mais que l'examen ultérieur des pistes d'audit a révélé que les systèmes avaient reçu l'ordre d'effectuer les actions en question.

S’appuyant sur un cas datant de l’époque où il était solliciteur général, Ferguson a proposé une comparaison délibérément low-tech : si une personne en frappe une autre avec un marteau dans un magasin, la question juridique n’est pas de savoir quoi faire du marteau. "L'homme qui a brandi le marteau devrait subir les conséquences de sa conduite", a-t-il déclaré, ajoutant que le principe devrait s'appliquer à l'IA, du moins pour le moment.

Pas de nouvelles lois jusqu'à l'échec des lois existantes

Ferguson a reconnu que de véritables questions nouvelles surgiront lorsqu'un outil se comportera de manière inattendue, notamment celle de savoir si la responsabilité incombe à la personne qui a innocemment utilisé l'outil ou à l'entreprise qui l'a construit. Mais il a fait valoir que le droit de la responsabilité du fait des produits et de la protection des consommateurs s'est confronté et s'est adapté aux questions soulevées par les nouvelles technologies depuis le XVIIIe siècle, et que les régulateurs devraient étudier ces doctrines avant de parvenir à une législation sur mesure en matière d'IA.

Il a également mis en garde contre l’importation d’une réglementation de type européen sur l’IA avant de tester ce que la loi américaine existante peut faire. Ce commentaire crée un fossé philosophique visible entre les approches américaine et européenne, Bruxelles étant favorable à des règles ex ante globales et Ferguson favorable à l’application de principes d’injustice et de tromperie de longue date.

Soupçon d'un duopole réglementaire

Le président a réservé certains de ses propos les plus pointus sur la structure du marché frontière de l’IA lui-même. Deux entreprises formant ce que les profanes appelleraient un duopole et demandant ensuite une exemption antitrust et une nouvelle série de réglementations devraient susciter de profondes suspicions, a-t-il déclaré – parce que les grands opérateurs historiques peuvent plus facilement se protéger de la concurrence en faisant appel au gouvernement comme allié.

Ce cadre est important alors qu’OpenAI et Anthropic continuent de faire pression à Washington tout en poursuivant des valorisations record. Le message de Ferguson était que les appels en faveur d'une réglementation adaptée émanant des acteurs dominants du marché méritent d'être sceptiques, précisément en raison de ceux qui les élaborent.

La boîte à outils d'IA existante de la FTC

Ferguson a souligné les autorités que l'agence exerce déjà. La FTC est le principal organisme gouvernemental fédéral chargé de l'application des lois sur la sécurité et la confidentialité des données depuis 2004, et les entreprises qui évitent un procès de la FTC pour pratiques déloyales ou trompeuses en matière de sécurité des données l'ont généralement fait en informant rapidement les gens lorsque quelque chose ne va pas afin qu'ils puissent se protéger - une norme de divulgation avec une pertinence évidente pour les divulgations d'incidents d'agent de cette semaine.

Les promesses publiques concernant la sécurité d'un produit ou des données qui s'avèrent incorrectes relèvent des principes anti-tromperie que l'agence applique depuis 1935, a-t-il ajouté, et il ne voit aucune raison pour laquelle ces principes ne serviraient pas de garde-fous pour le développement de l'IA.

L’agence est également à mi-parcours de plusieurs efforts spécifiques à l’IA. Une étude de marché sur les chatbots IA des principaux développeurs et leurs interactions avec les enfants, lancée il y a environ un an, devrait s'achever début 2027, ce qui est inhabituellement rapide pour un processus qui prend généralement trois ans et demi à cinq ans. Par ailleurs, la FTC prépare une nouvelle étude de marché ciblant des marchés spécifiques où elle a des preuves de prix personnalisés problématiques, et a ouvert des enquêtes policières dans des domaines préoccupants.

Pourquoi c'est important

La question de la responsabilité abordée par Ferguson n’est plus hypothétique. En l’espace d’une semaine, OpenAI a révélé que des agents avaient créé près d’un million de liens externes contenant des informations codées sur les utilisateurs, exposé des dizaines d’images d’utilisateurs à des tiers et interagi avec des sites Web du gouvernement américain, notamment la SEC et le Census Bureau. Chaque révélation renouvelle la même question : lorsqu’un agent agit, qui en répond ?

La réponse de Ferguson – le donneur d'ordre, pas l'outil – préserve une chaîne de responsabilité centrée sur l'humain que les éditeurs de logiciels trouveront à la fois rassurante et fastidieuse. Rassurant, car la FTC ne propose pas de traiter les agents comme des acteurs juridiques indépendants. C'est fastidieux, car les mêmes pistes d'audit citées par Ferguson peuvent tout aussi facilement montrer ce que le système d'un développeur a été invité à faire.

Pour l'instant, la doctrine du président est attentiste : utiliser les lois en vigueur, surveiller les pistes d'audit et se méfier des autorités en place qui demandent des règles écrites en leur faveur. La question reste ouverte de savoir si cette posture survivra à la prochaine génération d’agents véritablement autonomes.

Gardez une longueur d'avance sur l'IA

Le paysage politique de l’IA évolue de semaine en semaine. Recevez les dernières actualités, analyses et avancées en matière d'IA, le tout en un seul endroit.

Lire plus d'actualités sur l'IA →