xAI fait face à un recours collectif proposé qui accuse pour la première fois l'entreprise d'avoir formé ses modèles Grok sur du matériel d'abus sexuels sur des enfants, à la fois réels et générés par l'IA. La plainte, déposée mercredi et rapportée par Ars Technica, demande la destruction ordonnée par le tribunal de tout matériel de ce type stocké sur les serveurs de l'entreprise et des changements radicaux dans la façon dont Grok gère les contenus sexualisés.
Les allégations restent des affirmations non prouvées formulées dans le cadre d’un procès civil. X, propriétaire de xAI, n'a pas répondu à la demande de commentaires d'Ars Technica sur le dossier. Pour plus de contexte sur cette histoire, consultez notre couverture de l'industrie de l'IA.
Le demandeur et les allégations
La plaignante, identifiée comme Jane Doe, allègue dans la plainte qu'elle a été une victime d'âge préscolaire au début des années 2000 lorsque des images de ses abus ont été créées et vendues en ligne. Ces images sont depuis longtemps cataloguées dans des listes de hachage maintenues par le Centre national pour les enfants disparus et exploités (NCMEC) et le Centre canadien de protection de l'enfance (CCCP), des organisations qui suivent les contenus abusifs connus pour permettre leur détection et leur suppression.
Selon la plainte, le CCCP a informé Doe qu'il avait identifié du matériel abusif généré par AI la représentant sur la plate-forme xAI. Ses avocats déclarent dans un communiqué de presse que le matériel correspondant aux entrées de sa liste de hachage NCMEC "fait partie de l'ensemble de données xAI utilisé pour développer les capacités de génération d'images et de vidéos de Grok". La plainte allègue en outre que des messages trouvés sur des forums en ligne montraient des délinquants discutant de la création d'images d'abus générées par l'IA de Doe et d'autres victimes connues de matériel abusif hérité.
La théorie juridique : les données de formation, pas seulement les résultats
Ce qui distingue ce dépôt des litiges antérieurs contre xAI est qu'il se concentre sur le modèle lui-même plutôt que sur ce que les utilisateurs individuels ont généré. La plainte fait valoir que, étant donné que les conditions d'utilisation de Grok traitent par défaut les publications publiques sur X et les propres sorties de Grok comme des données de formation, tout ce qui est publié publiquement alimente directement le pipeline utilisé pour entraîner et améliorer le modèle.
Le dossier reconnaît que xAI filtre le contenu violent de ses données de formation, mais affirme que les conditions de l'entreprise ne précisent pas si le matériel d'abus sexuel sur des enfants, les images intimes non consensuelles ou tout autre contenu pour adultes entrent dans des catégories exclues. Il fait également valoir que même lorsque les images offensantes sont supprimées, l'influence d'un exemple de formation sur un modèle déjà formé est techniquement difficile à supprimer complètement – et que xAI n'a pas publiquement affirmé l'avoir fait.
Ce que recherche le procès
Si la classe proposée est certifiée, elle représenterait toutes les personnes dont les images d’enfance auraient été utilisées pour générer du matériel abusif avec Grok. La poursuite invoque les lois fédérales sur la pédopornographie et la loi Masha, qui donnent aux survivants de matériel abusif le droit de poursuivre en justice pour sa production, sa possession et sa distribution.
"Ces trois sont des crimes, et xAI a commis les trois", a déclaré Margaret E. Mabie, l'une des avocates de Doe, dans le communiqué de presse cité par Ars Technica.
Au-delà des dommages pécuniaires, Doe demande au tribunal d’ordonner à xAI de détruire tout le matériel abusif généré par Grok qu’il pourrait stocker et utiliser à des fins de formation, et d’empêcher le modèle de générer des résultats sexualisés de quelque nature que ce soit – une exigence qui exclurait non seulement les images abusives, mais également les images intimes non consensuelles et le contenu pour adultes qu’Elon Musk a publiquement promu en tant que fonctionnalités.
"Doe vit depuis près de deux décennies en sachant que des images de la pire chose qui lui soit jamais arrivée circulent parmi les prédateurs en ligne et qu'elles peuvent refaire surface à tout moment", a déclaré Sarah London, une autre avocate de Doe, dans le communiqué de presse. "xAI doit être tenue responsable d'avoir sciemment formé ses modèles sur les images des horribles abus qu'elle a subis."
Un bilan juridique croissant
Ce dépôt est le dernier front en date dans une bataille juridique de plus en plus large concernant les capacités d'image et de vidéo de Grok. Dans une autre affaire au Tennessee, une femme identifiée comme Jane Doe 4 s'est jointe à un procès alléguant qu'une seule photographie d'enfance avait été utilisée avec Grok pour générer des milliers d'images explicites d'elle – allégations couvertes par AI Buzz Wire plus tôt ce mois-ci. Les régulateurs et les tribunaux examinent jusqu'où s'étendent les problèmes, et certains utilisateurs de Grok ont été arrêtés pour le matériel qu'ils ont généré.
Dans le même temps, xAI s’en est pris à ses utilisateurs. Politico a rapporté cette semaine que l'entreprise poursuivait certains de ses propres utilisateurs alors même que les poursuites judiciaires se multipliaient, une stratégie qui teste si les plateformes ou les personnes qui les incitent assument la responsabilité légale de ce qu'un modèle d'IA produit.
La nouvelle plainte place la question des données de formation au centre de ce combat. Si les tribunaux acceptent l'argument selon lequel l'ensemble de formation d'un modèle peut créer une responsabilité pour ce qu'il permet aux utilisateurs de produire, les implications iraient bien au-delà de xAI - touchant toutes les sociétés d'images et de vidéos génératives dont les conditions réinjectent le contenu des utilisateurs dans la formation. Pour l’instant, les allégations ne sont que cela : les allégations contenues dans un dossier xAI n’ont pas encore répondu au tribunal.
---
Restez à la Pointe de l'IALes dernières actualités, analyses et percées en IA — au même endroit.
Lire plus d'actualités IA →
