La société d'intelligence artificielle d'Elon Musk, xAI, a affronté mercredi l'État du Minnesota devant un tribunal fédéral, arguant qu'une nouvelle loi interdisant les fausses images de nus générées par l'IA viole le premier amendement. L'audience au palais de justice fédéral de Saint-Paul, qui a débuté mercredi à 9h30, est la dernière ronde d'un différend qui est devenu un test national sur la mesure dans laquelle les États peuvent aller dans la réglementation des images de personnes réelles générées par l'IA.

L'enjeu est la loi du Minnesota sur la « nudification » de l'IA, entrée en vigueur le 1er août et qui interdit aux outils d'IA d'utiliser l'image d'une personne réelle pour créer de fausses images de nu. La loi donne également aux victimes le droit de porter plainte devant un tribunal civil et autorise une amende de 500 000 dollars pour chaque accès ou téléchargement illégal d’images modifiées par l’IA pour faire apparaître une personne nue – un chiffre qui reflète la sévérité avec laquelle les législateurs des États ont traité la question.

Une loi votée à la quasi-unanimité

Le contexte politique rend les affrontements judiciaires inhabituels. L'interdiction de la nudification a été proposée à l'Assemblée législative du Minnesota au cours de la dernière session et adoptée avec un soutien quasi total : 132-1 à la Chambre et 65-0 au Sénat, selon le KSTP. Cette marge est rare pour toute réglementation technologique et montre à quel point les images deepfake et non consensuelles politiquement chargées sont devenues au-delà des lignes de parti.

xAI a déposé sa plainte fédérale un jour avant l'entrée en vigueur de la loi et a simultanément demandé une ordonnance d'interdiction temporaire pour bloquer l'application. Le juge a rejeté cette demande, soulignant le retard du dépôt et suggérant que le préjudice causé à l'entreprise n'était pas immédiat, comme l'a rapporté CBS News. L'audience de mercredi a porté sur la demande plus large d'injonction préliminaire de xAI, et le soir, le juge réfléchissait encore aux arguments.

La collision du premier amendement

Selon xAI, l’interdiction restreint de manière inconstitutionnelle la liberté d’expression et les outils d’expression visuelle. Le procès de l'entreprise cible le mécanisme central de la loi : interdire aux systèmes d'IA de produire des représentations nues de personnes réelles qui n'y ont jamais consenti. Cette position place xAI dans la position inconfortable de défendre, pour des raisons constitutionnelles, une catégorie de production – la nudité synthétique non consensuelle – dont même l’entreprise reconnaît qu’elle est abusive lorsqu’elle est produite.

Le bureau du procureur général du Minnesota, Keith Ellison, a rétorqué que la loi est étroitement adaptée et qu'il est peu probable que xAI réussisse dans sa contestation constitutionnelle. Le rapport sur l'audience de Law Commentary a capturé l'argument le plus pointu de l'État : le Minnesota soutient que le générateur d'images Grok de xAI est un outil, et non une parole protégée, et que réglementer ce que fait un produit est différent de réglementer ce qu'une personne dit. L'État a également contesté la position de xAI, MLex rapportant que le bureau du procureur général affirme que xAI ne peut pas poursuivre le Minnesota au nom de ses utilisateurs.

La distinction compte bien au-delà du Minnesota. Si un modèle génératif est lui-même considéré comme une expression protégée, un large éventail de lois étatiques ciblant la pornographie deepfake, la fraude et la désinformation électorale pourraient être vulnérables au même argument. Si les tribunaux traitent plutôt les résultats des modèles comme des produits soumis à une réglementation ordinaire, les États bénéficieront d’un levier durable sur les médias synthétiques que la loi fédérale ne fournit actuellement pas.

Une toile de fond plus sombre

La lutte judiciaire autour de la doctrine constitutionnelle se déroule sur fond d’un dossier factuel plus sombre. Comme l'a rapporté un avocat du Minnesota, un procès fédéral distinct allègue que les outils de xAI ont permis la création de matériel d'abus sexuels sur des enfants généré par l'IA. Ce litige, combiné à des vagues documentées de nudifications non consensuelles visant des lycéens à travers le pays, a fortement retourné l'opinion publique contre la génération non réglementée d'images basées sur la ressemblance - et contribue à expliquer les votes 132-1 et 65-0.

Pour sa part, xAI a déjà déclaré qu'elle limitait les générations abusives, et l'argument juridique de l'entreprise n'est pas que de telles images devraient être licites dans tous les cas, mais qu'une interdiction radicale d'une catégorie d'outils n'est pas un bon instrument constitutionnel. Les avocats de l'État ont répondu mercredi que le Minnesota avait rédigé sa loi précisément pour cibler les cas d'utilisation abusive et que le défi revenait à une entreprise cherchant à invalider l'une des lois sur la confidentialité les plus populaires de la session.

Que se passe-t-il ensuite

La décision attendue du juge sur l'injonction préliminaire déterminera si le Minnesota peut continuer à appliquer l'interdiction pendant que le procès sous-jacent se poursuit – un processus qui pourrait prendre plusieurs mois et qui semble susceptible, à terme, d'impliquer des tribunaux supérieurs. Quelle que soit l’issue, l’affaire est suivie de près par les législatures des autres États. Des dizaines d'États ont adopté ou envisagé des mesures contre les deepfakes ces dernières années, et une décision selon laquelle l'approche du Minnesota influencerait la façon dont les autres écrivent la leur.

Le différend survient également à un moment où l’examen des pratiques de xAI s’intensifie. La société défend simultanément ses politiques de contenu dans d’autres forums tout en essayant de positionner Grok comme un outil créatif sans entrave – une combinaison qui a maintenant produit une collision constitutionnelle directe avec l’une des protections de la vie privée les plus bipartites jamais adoptées par un État. Pour les lecteurs qui suivent la réglementation des médias synthétiques, cette salle d'audience de St. Paul est actuellement le lieu où se déroule actuellement le combat le plus important de l'industrie pour la liberté d'expression.

---

Gardez une longueur d'avance sur l'IA

Recevez les dernières actualités, analyses et avancées en matière d'IA, le tout en un seul endroit.

Lire plus d'actualités sur l'IA →