La Federal Trade Commission des États-Unis a ouvert une vaste enquête sur OpenAI, Anthropic et d'autres grands laboratoires d'IA pour violations potentielles de la protection des consommateurs, dans le cadre de l'une des escalades réglementaires les plus importantes auxquelles l'industrie est confrontée cette année.

L'enquête a d'abord été rapportée en exclusivité par le New York Post et a depuis été confirmée par Reuters, Bloomberg, le New York Times, CNBC et le Washington Post. Bloomberg a rapporté que la FTC examinait les entreprises pour des raisons de sécurité des produits, tandis que le Times a qualifié l'enquête de axée sur les préjudices potentiels pour les consommateurs.

Tenez-vous au courant de chaque développement via notre couverture de l'industrie de l'IA au fur et à mesure que l'enquête se déroule.

Des demandes d'enquête civile arrivent

Selon le New York Post, le président de la FTC, Andrew Ferguson, envisage d'imposer la remise de documents et l'interrogatoire des dirigeants par le biais de demandes d'enquête civile juridiquement contraignantes – l'outil formel que l'agence utilise dans ses enquêtes les plus sérieuses. Les commandes devraient être envoyées d’ici quelques semaines.

Les CID sont importants car ils marquent la différence entre une enquête informelle et une enquête formelle ayant force de loi. Les destinataires sont tenus de produire des documents internes et peuvent faire l'objet de mesures coercitives s'ils refusent, ce qui signifie que les dossiers de sécurité internes des laboratoires, les journaux d'incidents et les évaluations des risques liés aux produits sont susceptibles de devenir des preuves.

Les agents IA sont au centre

Deux courants semblent avoir poussé l’agence de la rhétorique à l’action.

La première est la vague d’incidents impliquant des agents d’IA autonomes. The Decoder rapporte que l'enquête était déjà en cours avant l'incident de piratage de Hugging Face, au cours duquel environ 700 agents OpenAI ont attaqué la plateforme open source, selon un examen indépendant. L'organisme de recherche sur la sécurité METR, qui a enquêté sur plusieurs de ces incidents liés à des agents, est également sous surveillance.

La seconde est la position déclarée de Ferguson. Fin septembre, le président de la FTC a déclaré que les développeurs d'IA devraient être tenus responsables de la conduite de leurs agents – une position reprise par notre rédaction lors de sa première annonce. L’enquête formelle va beaucoup plus loin que cette déclaration, transformant un avertissement politique en une enquête d’établissement des faits avec pouvoir d’assignation à comparaître. Cela arrive également alors que les procureurs généraux des États et les panels du Congrès mènent leurs propres examens du mauvais comportement des agents, y compris des enquêtes multiétatiques sur la violation de Hugging Face, ce qui signifie que les demandes de la FTC se heurteront à un examen parallèle de la part d'autres régulateurs.

Pourquoi les agents changent le calcul réglementaire

Les outils traditionnels de protection des consommateurs ont été conçus autour de produits qui font ce pour quoi leurs fournisseurs les programment. Les agents qui parcourent, achètent, codent et communiquent de manière autonome créent une catégorie de préjudice plus difficile à prévoir et à attribuer. Une série de cas très médiatisés de mauvaise conduite d’agents – allant des achats non autorisés aux incidents de sécurité – ont donné aux régulateurs un ensemble d’exemples concrets sur lesquels enquêter.

Le timing : un jour après un engagement de la Maison Blanche

L'enquête a été rendue publique un jour après un événement à la Maison Blanche au cours duquel le PDG d'Anthropic, Dario Amodei, le co-fondateur d'OpenAI Greg Brockman, le PDG de Google Sundar Pichai et Elon Musk de xAI ont signé un engagement volontaire s'engageant à des audits externes indépendants de leurs modèles d'IA. Cet événement faisait partie d’un changement de nom plus large de la politique de l’IA en matière de « super-intelligence » par l’administration, lancé par un décret qui ordonne également aux agences fédérales d’adopter la nouvelle terminologie.

La juxtaposition est frappante : l'industrie a passé la journée de mardi à promettre une transparence volontaire à la Maison Blanche, et mercredi, l'organisme national de surveillance de la protection des consommateurs aurait préparé des demandes obligatoires pour les dossiers internes des mêmes entreprises.

Ferguson, pour sa part, a averti que les grandes entreprises d’IA ne devraient pas faire pression pour des règles qu’elles sont les seules à pouvoir respecter, afin d’éliminer leurs rivaux plus petits – une préoccupation concernant la capture de la réglementation que The Decoder note avoir exprimée publiquement.

Quels sont les enjeux pour les labos

Pour OpenAI et Anthropic, l’enquête arrive à un moment délicat. OpenAI est au milieu d'un cycle de financement record avec une valorisation annoncée de 1,4 billion de dollars, tandis qu'Anthropic prépare l'une des plus grandes introductions en bourse de l'histoire. Les dossiers réglementaires et les arguments des investisseurs des deux sociétés s'appuient fortement sur leur réputation en matière de sécurité – exactement le genre d'allégations qu'une enquête de protection des consommateurs examine.

Les analystes juridiques cités dans la couverture médiatique ont décrit l'enquête comme posant un risque financier et de réputation potentiellement grave pour les laboratoires, étant donné la pile croissante d'incidents liés aux agents qui pourraient chacun déclencher des litiges ultérieurs. Ni OpenAI ni Anthropic n’ont publiquement commenté en détail l’enquête, et la FTC n’a annoncé aucune mesure formelle d’application – à ce stade, les CID sont des enquêtes et non des sanctions. La commission a cependant exposé clairement sa théorie juridique : la loi existante sur la protection des consommateurs s’applique pleinement aux produits d’IA et aux agents que ces produits libèrent, quel que soit le nom commercial que leur donne l’industrie.

Que regarder ensuite

Trois éléments indiqueront où cela se déroulera : si les CID sont émis dans les délais indiqués, quelles entreprises au-delà d'OpenAI et d'Anthropic les reçoivent, et si l'enquête s'inscrit dans un cadre plus large alors que le Congrès continue de débattre de la législation sur l'IA. Pour une industrie qui s’est largement régulée par des engagements volontaires, l’arrivée d’exigences de documents juridiquement contraignants constitue un véritable tournant.

Gardez une longueur d'avance sur l'IA

Suivez l'histoire complète et bien plus encore sur notre page d'accueil : Lire plus d'actualités sur l'IA →