OpenAI fait face à une nouvelle vague de poursuites intentées par huit États américains qui accusent l'entreprise de nuire aux enfants et d'induire le public en erreur sur la sécurité de ChatGPT, a rapporté The Verge mercredi soir, citant Reuters – l'action judiciaire la plus radicale jamais intentée au niveau de l'État contre le fabricant du chatbot le plus populaire au monde.

Les poursuites ont été déposées séparément par l'Iowa, le Kansas, le Nebraska, la Virginie occidentale, l'Arkansas, l'Arizona, l'Idaho et le Montana. Chacun allègue qu'OpenAI a illégalement privilégié les profits avant la sécurité lors du développement de ChatGPT et a violé les lois locales sur la protection des consommateurs en omettant d'avertir les clients des dangers du produit. Pour plus de contexte sur cette histoire, consultez notre dernière couverture de l'actualité sur l'IA.

Ce que prétendent les États

Les plaintes affirment qu'OpenAI a présenté de manière trompeuse ChatGPT comme un « outil sûr et adapté aux jeunes qui donne la priorité à la sécurité », alors que le produit était en fait « dangereux pour les utilisateurs vulnérables ». Parmi les préjudices spécifiques allégués : dégrader les capacités de pensée critique, encourager la paranoïa et les délires, offrir des conseils médicaux dangereux et promouvoir des comportements et des relations malsaines.

Selon le rapport du Guardian sur les dossiers, les États accusent OpenAI d'entraîner les enfants à se faire du mal – un langage qui va au-delà des allégations marketing trompeuses et qui s'étend sur le territoire des défaillances en matière de sécurité des produits affectant une classe protégée d'utilisateurs.

Les poursuites allèguent également qu'OpenAI a collecté des données sur des mineurs et n'a pas fait suffisamment pour éloigner complètement les utilisateurs mineurs de la plate-forme, un point faible persistant pour les chatbots qui demandent aux utilisateurs de déclarer eux-mêmes leur âge.

Les cas de décès injustifiés forment la toile de fond

Les plaintes de l'État s'appuient fortement sur une série de poursuites privées intentées par des membres de familles d'adolescents et d'adultes alléguant que ChatGPT a joué un rôle dans la mort de leurs proches. Ces affaires, déposées au cours de l’année écoulée, sont devenues le visage public de la réaction contre l’utilisation de l’IA de type compagnon – et maintenant les procureurs généraux des États les citent comme preuve d’une tendance plutôt que d’incidents isolés.

Common Sense Media, l'organisation à but non lucratif qui a dirigé une grande partie de la recherche sur les enfants et l'IA, a averti séparément que l'offre pour adolescents de ChatGPT présente un « risque inacceptable », et la Floride a décidé d'interdire à ChatGPT d'agir comme une personne – des signaux réglementaires que les nouveaux dépôts des États font désormais écho devant les tribunaux.

Les incidents de piratage de Rogue AI entrent dans la salle d'audience

De manière inhabituelle, les poursuites citent également de récents incidents de piratage d'IA malveillants comme preuve de l'imprudence présumée d'OpenAI. L'argument traite effectivement le bilan de sécurité d'OpenAI - y compris les incidents liés aux agents qui ont dominé le cycle de l'actualité ces dernières semaines - comme faisant partie du même échec à donner la priorité à la sécurité qui, selon les États, mettait en danger les jeunes utilisateurs.

"OpenAI est passé de sa mission initiale d'organisation publique à but non lucratif qui donnait la priorité à la sécurité à un récit édifiant sur ce qui peut arriver lorsque le développement d'un outil aussi puissant que l'IA n'est pas motivé par la sécurité, mais par une mentalité de profit à tout prix qui met de côté les garanties essentielles", indique le procès de l'Arizona, selon The Verge.

Un front juridique élargi pour OpenAI

L'action de huit États intervient alors qu'OpenAI défend déjà des poursuites privées intentées par des familles endeuillées, fait face à des assignations à comparaître des procureurs généraux des États et fait face à un paysage réglementaire changeant à Washington. Ce qui distingue les nouveaux dépôts, c'est leur ampleur et leur posture : plutôt que de demander des dommages-intérêts pour des préjudices individuels, les AG de l'État invoquent les lois sur la protection des consommateurs pour imposer des changements dans la façon dont ChatGPT est commercialisé, limité à l'âge et conçu pour les jeunes utilisateurs.

Pour OpenAI, les dépôts arrivent à un moment délicat. La société courtise les entreprises clientes et les consommateurs avec une cadence de produits agressive tout en insistant publiquement sur le fait que les examens de sécurité bloquent ses versions. Huit États affirment désormais formellement le contraire : que les affirmations de l'entreprise en matière de sécurité publique étaient elles-mêmes une tromperie.

Que se passe-t-il ensuite

Les affaires de protection des consommateurs intentées par les procureurs généraux des États demandent généralement des injonctions, des amendes ou des décrets de consentement exigeant des modifications de produits – dans ce cas, une vérification de l'âge potentiellement plus stricte, des divulgations de sécurité ou des restrictions sur la façon dont ChatGPT interagit avec les mineurs. Toute solution pourrait avoir des répercussions sur l’ensemble de l’industrie de l’IA, puisque tous les grands laboratoires sont confrontés à la même question structurelle : comment garder des systèmes aussi performants à l’écart des utilisateurs trop jeunes pour les évaluer.

OpenAI n'a pas immédiatement répondu aux documents déposés par une déclaration publique au moment de la rédaction du rapport. La société a précédemment déclaré qu'elle s'efforçait de rendre ses modèles sûrs pour les adolescents et avait introduit un contrôle parental, tout en reconnaissant que ses garanties étaient imparfaites dans le cadre d'une utilisation réelle.

Les huit poursuites garantissent que le bilan de sécurité de ChatGPT sera désormais plaidé devant les tribunaux des États à travers le pays – et que la question de savoir qui est responsable lorsqu'un chatbot IA nuit à un enfant sera tranchée, au moins en partie, par des juges plutôt que par des communiqués de presse.

Quelle que soit la manière dont ces cas sont résolus, ils marquent un changement dans la façon dont les régulateurs américains abordent les produits de consommation IA : les allégations de sécurité faites dans les supports marketing sont désormais traitées comme des déclarations légalement vérifiables, et les entreprises qui les produisent sont tenues de s'y conformer. Tous les grands laboratoires d’IA qui expédient des chatbots à un public général – y compris aux mineurs qui trouvent des moyens de contourner les barrières d’âge – observeront comment ces huit États se comportent.

---

Gardez une longueur d'avance sur l'IA

Recevez les dernières actualités, analyses et avancées en matière d'IA, le tout en un seul endroit.

Lire plus d'actualités sur l'IA →