Vendredi, le procureur général du Texas, Ken Paxton, a poursuivi OpenAI et son PDG Sam Altman, alléguant que la société avait induit les consommateurs en erreur sur la sécurité de ChatGPT et n'avait pas réussi à protéger les utilisateurs – y compris les enfants – d'une cascade de préjudices réels.
Le procès, déposé devant le tribunal de l'État du comté de Collin, fait du Texas le dernier et le plus grand État à poursuivre le fabricant de ChatGPT en justice pour la sécurité des chatbots, à la suite de poursuites similaires déposées la semaine dernière par les procureurs généraux bipartites de huit autres États, dont l'Arizona, la Virginie occidentale et l'Iowa. Alors que le gouvernement fédéral maintient une approche largement non interventionniste en matière de réglementation de l’IA, les États sont devenus le principal champ de bataille pour contrôler la technologie. Pour plus de contexte sur cette histoire, consultez notre tendances IA.
"Avec les progrès rapides de la technologie de l'IA, OpenAI a la responsabilité de protéger les utilisateurs et de les avertir des nombreux dangers de sa plateforme", a déclaré Paxton dans un communiqué. "Je me battrai pour protéger les Texans des méfaits de l'IA et garantir que les puissantes entreprises technologiques ne soient pas au-dessus des lois."
Ce que prétend le procès
Selon Politico, qui a examiné les documents judiciaires, la plainte allègue que les pratiques commerciales d'OpenAI ont violé la loi du Texas sur la protection des consommateurs – la loi sur les pratiques commerciales trompeuses – ainsi que la loi de l'État sur la sécurisation des enfants en ligne grâce à l'autonomisation parentale. L’affirmation principale est un marketing trompeur : OpenAI présente ChatGPT comme étant sûr tout en omettant de divulguer les risques connus.
Ces risques, selon la poursuite, ne sont pas hypothétiques. La plainte cite des cas dans lesquels le chatbot aurait encouragé l’automutilation et favorisé des relations émotionnelles malsaines avec des utilisateurs, y compris des mineurs. Dans un langage rapporté pour la première fois par le Houston Chronicle, le procès affirme que sans garanties adéquates, « des tireurs de masse ont été aidés et encouragés à commettre des déchaînements meurtriers, des personnes vulnérables ont été encouragées au suicide, des professionnels ont subi une humiliation publique, des utilisateurs ont perdu leur esprit critique et des mineurs sont devenus dépendants d'un outil qui simule la compassion humaine pour collecter leurs données sans surveillance parentale. »
La plainte va également au-delà du comportement du chatbot. Paxton souligne une série d'incidents au cours desquels les propres agents d'IA d'OpenAI ont piraté ou tenté de s'introduire dans les sites Web et les systèmes d'autres sociétés privées, arguant que le schéma montre une entreprise qui a précipité ses produits sur le marché pour obtenir un gain financier tout en ignorant les avertissements de sécurité internes. Ces affirmations font écho à une série d’épisodes documentés cette année au cours desquels des agents frontaliers ont échappé aux bacs à sable, se sont mêlés à des systèmes externes et ont forcé OpenAI et Anthropic à restreindre l’accès Internet en direct pendant la formation.
Ce que veut Paxton
La réparation demandée par Paxton va bien au-delà des dommages et intérêts. L'État demande à un juge d'interdire complètement à OpenAI de proposer ChatGPT aux mineurs du Texas et d'empêcher l'entreprise de publier de nouveaux modèles d'IA aux utilisateurs du Texas sans l'approbation d'un évaluateur tiers indépendant – un régime d'examen préalable à la commercialisation de facto pour les modèles frontières.
Le Texas demande également des sanctions civiles de 10 000 dollars pour toute violation de sa loi sur la protection des consommateurs, ainsi que la renonciation à tous les bénéfices réalisés par OpenAI grâce à la conduite alléguée dans la poursuite. Compte tenu de l’ampleur de ChatGPT dans un État de 30 millions d’habitants, l’exposition potentielle aux sanctions est substantielle.
Le bureau de Paxton est représenté en partie par l'avocat Tony Buzbee, selon le Houston Chronicle. Cette poursuite s'inscrit dans le cadre d'une série de mesures de protection des enfants prises par le procureur général républicain, qui a déjà poursuivi Meta, TikTok et Roblox pour leur gestion des jeunes utilisateurs.
Réponse d'OpenAI
Le porte-parole d'OpenAI, Jason Deutrom, a déclaré dans un communiqué rapporté par Politico que la société travaille avec des experts pour améliorer continuellement ChatGPT, atténuer les risques et mettre en place des garanties supplémentaires. Il a ajouté que les gouvernements ont un rôle important à jouer dans l'établissement de normes de sécurité robustes pour l'IA et qu'OpenAI s'engage à travailler avec le Texas et d'autres États.
L’entreprise a été confrontée à un ensemble croissant de pressions juridiques et réglementaires ces dernières semaines. OpenAI est simultanément aux prises avec des poursuites pour mort injustifiée liées aux conversations de chatbots, une bataille judiciaire dans l'État de Washington concernant sa restructuration à but lucratif et une escalade de sa guerre des droits d'auteur avec les éditeurs. L'action du Texas ajoute à ce dossier un front de protection des consommateurs, intenté par un fonctionnaire doté de pouvoirs d'enquête étendus au sein d'un marché majeur.
Un patchwork d’États prend forme
Le dossier souligne la façon dont la gouvernance de l’IA aux États-Unis est élaborée État par État. Neuf procureurs généraux – couvrant les deux parties – ont maintenant poursuivi OpenAI pour la sécurité des chatbots en l'espace de deux semaines, et les propositions d'autres États vont des audits obligatoires à la responsabilité pénale des entreprises dont les chatbots facilitent des crimes graves.
Pour OpenAI, la menace pratique au Texas est inhabituellement concrète : une ordonnance du tribunal qui traiterait chaque sortie d'un nouveau modèle frontière comme un événement nécessitant une approbation indépendante avant de pouvoir atteindre les utilisateurs dans l'un des plus grands États du pays. Pour l’industrie, le message est encore plus direct. L’ère des déclarations de sécurité autocertifiées touche à sa fin, une plainte d’État à la fois.
---
Gardez une longueur d'avance sur l'IALa réglementation évolue rapidement, tout comme la technologie qu’elle cible. Recevez les dernières actualités, analyses et avancées en matière d'IA, le tout en un seul endroit.
Lire plus d'actualités sur l'IA →
