Le procureur général de l'Oregon, Dan Rayfield, a poursuivi OpenAI mardi, réclamant au moins 2,035 milliards de dollars de dommages et intérêts et accusant la société d'avoir présenté à tort ChatGPT comme étant sûr pour les jeunes utilisateurs tout en autorisant sciemment des interactions dangereuses avec des adolescents, selon Oregon Public Broadcasting.
Le procès, divulgué par l'OPB et confirmé par plusieurs médias de l'Oregon, dont KGW, KATU et KOIN, fait de l'Oregon l'un des États les plus agressifs à ce jour dans la campagne judiciaire croissante contre les chatbots IA et les mineurs. Cela fait suite aux poursuites engagées par huit États américains en octobre, chacun affirmant que la technologie a une influence dangereuse sur les adolescents. Pour plus de contexte sur cette histoire, consultez notre plus d'articles sur l'IA.
Ce qu'allègue la plainte
La plainte de 53 pages de l'État accuse OpenAI d'avoir dénaturé ses produits en violation de la loi de l'Oregon sur les pratiques commerciales illégales et décrit la conduite de l'entreprise comme délibérée – un facteur aggravant en vertu de la loi – produisant ce que la plainte appelle un résultat injuste, choquant et inadmissible.
OpenAI permet aux utilisateurs dès l'âge de 13 ans d'utiliser ChatGPT, à condition qu'un parent ou un tuteur soit autorisé. Les responsables du ministère de la Justice de l'Oregon affirment que la société ne parvient souvent pas à confirmer qu'un parent a effectivement consenti aux utilisateurs mineurs. La plainte vise également ChatGPT for Teens, la version récemment publiée par la société, destinée aux jeunes, qui relie le compte d'un parent à celui d'un enfant. Selon l'État, les garanties prétendument plus strictes de cette version sont facilement contournées, et elle n'a pas alerté les parents lorsque les jeunes utilisateurs ont posé des questions sur le suicide, l'automutilation, les troubles de l'alimentation ou d'autres sujets de santé mentale.
La poursuite demande au tribunal d'obliger OpenAI à instituer des garanties plus strictes et à indemniser les habitants de l'Oregon d'au moins 2,035 milliards de dollars de dommages et intérêts.
Rayfield : Le produit « continue de causer des dommages »
Dans une interview avec OPB, Rayfield a déclaré qu'OpenAI était conscient des dangers que ses produits peuvent présenter. OpenAI continue de regarder les parents dans les yeux et de dire que ce produit est un produit sûr alors qu'il continue de nuire à nos communautés, a-t-il déclaré.
Le procureur général a déclaré à l'OPB qu'aucun incident spécifique dans l'Oregon n'avait déclenché le dépôt du dossier. Au lieu de cela, a-t-il déclaré, la poursuite découle d'incidents survenus à travers le pays et de la préoccupation de son bureau selon laquelle les progrès technologiques dépassent la protection des consommateurs. Les outils peuvent être incroyablement étonnants si leurs promesses se concrétisent, a-t-il déclaré, mais ce que nous voyons de l’autre côté, c’est une dévastation.
Le dossier intervient dans un contexte d’inquiétude accrue du public de l’Oregon concernant les adolescents et les plateformes en ligne. L'adolescent qui a tué par balle trois enfants et un enseignant de l'école primaire Silver Rail de Bend le mois dernier a été lié par plusieurs sources à des groupes extrémistes en ligne, et en septembre, le bureau du procureur du comté de Multnomah a imputé aux influences extrémistes en ligne la libération de produits chimiques toxiques par un élève du lycée de Benson dans son école. Rayfield a refusé de dire si les produits d'OpenAI étaient impliqués dans ces incidents, citant des enquêtes en cours – et le procès lui-même ne dépend pas d'un seul cas de l'Oregon.
Fait partie d'un calcul juridique plus large pour OpenAI
L’Oregon fait désormais partie d’un groupe croissant d’États qui font pression sur OpenAI devant les tribunaux pour la sécurité des jeunes. Huit États ont intenté des poursuites similaires en octobre, et les litiges qui s’accumulent représentent un défi croissant, État par État, quant à la manière dont l’industrie de l’IA autoréglemente l’accès mineur – un domaine dans lequel la réglementation fédérale reste mince.
Un porte-parole d'OpenAI, Drew Pusateri, a publié une déclaration après le dépôt du dossier, affirmant que l'entreprise s'engage à développer des politiques d'IA qui s'appliquent à l'ensemble du secteur de l'IA et pas seulement à une seule entreprise. La société a souligné les garanties qui, selon elle, existent aujourd'hui, notamment le contrôle parental, les rappels de pause et les protections de modèles adaptées à l'âge, et a déclaré qu'elle continuerait à travailler avec des experts pour mettre en place des garanties supplémentaires. L’entreprise a déjà insisté sur le fait que garantir la sécurité des communautés était une priorité absolue.
Que se passe-t-il ensuite
Le cas de l'Oregon mettra à l'épreuve une nouvelle théorie juridique : non pas que ChatGPT ait causé un préjudice spécifique, mais que le marketing de sécurité de l'entreprise lui-même - l'affirmation selon laquelle le produit est sans danger pour les adolescents - constitue une pratique commerciale déloyale lorsque les garanties peuvent être contournées. Si la théorie survit aux premières requêtes, elle pourrait ouvrir une voie moins coûteuse et plus rapide pour les procureurs généraux d’autres États que les litiges en responsabilité du fait des produits, qui nécessitent de prouver le lien de causalité des préjudices individuels.
Un angle de protection des consommateurs conçu pour la rapidité
Le choix du statut est important. La loi de l'Oregon sur les pratiques commerciales illégales est une loi de protection des consommateurs, et non un régime de responsabilité du fait des produits, et elle prévoit des délais plus courts et des exigences de preuve plus basses que celles qui prouvent qu'un échange de chatbot spécifique a causé une tragédie spécifique. Il autorise également des sanctions civiles en cas de violations délibérées – l’étiquette aggravante que la plainte applique explicitement. L'application de la protection des consommateurs contre les plateformes technologiques suite à des allégations trompeuses a une longue histoire devant les tribunaux de l'Oregon, et la loi est l'une des plus larges du pays.
Ce cadre façonne également le remède recherché par l’État. Plutôt que des dommages-intérêts pour la famille d'une seule victime, la plainte demande une compensation pour l'ensemble des habitants de l'Oregon – au moins 2,035 milliards de dollars – ainsi que des modifications ordonnées par le tribunal du produit lui-même : des garanties plus renforcées et une vérification du consentement parental. Une victoire donnerait à l'État une surveillance continue des fonctionnalités jeunesse de ChatGPT plutôt qu'un paiement unique.
Pour OpenAI, la plainte arrive à un moment délicat : la société défend déjà des droits d’auteur, fait face à un procès en Californie pour cyber-intrusions liées à l’IA et se prépare à un examen minutieux post-introduction en bourse. Il est peu probable qu’une demande de plusieurs milliards de dollars émanant d’un seul État remodèle ses finances, mais un tribunal estimant que ses déclarations en matière de sécurité des jeunes étaient trompeuses aurait des conséquences réglementaires bien au-delà de l’Oregon.
---
Restez à la Pointe de l'IALes dernières actualités, analyses et percées en IA — au même endroit.
Lire plus d'actualités IA →