La Cour suprême danoise déclare que les images d'abus d'enfants générées par l'IA sont illégales

La Cour suprême du Danemark a confirmé la condamnation d'un homme de 31 ans pour avoir créé et diffusé plus de 36 000 images générées par l'IA illustrant des abus sexuels sur des enfants, confirmant ainsi une peine de 18 mois de prison et résolvant une question qui a été débattue devant les tribunaux du monde entier : si les images d'abus générées artificiellement sont traitées comme criminelles de la même manière que les images impliquant de vraies victimes. La réponse du tribunal, annoncée cette semaine, est sans équivoque : le matériel d'exploitation sexuelle d'enfants généré par l'IA est aussi illégal et punissable que le matériel réel.

La décision, rapportée par des médias internationaux, dont Reuters, et publiée par les tribunaux danois, clôt l'un des premiers tests d'appel marquants sur la manière dont une loi séculaire sur la protection de l'enfance absorbe l'IA générative. L'accusé avait été condamné par un tribunal inférieur pour possession et distribution du matériel, et avait fait appel en arguant qu'aucun enfant réel n'était impliqué dans la production des images. La Cour suprême a rejeté entièrement ce raisonnement, estimant que le caractère fictif des représentations ne les faisait pas échapper au droit pénal. Pour les lecteurs qui suivent la manière dont les systèmes juridiques réagissent à la technologie générative, la décision figure parmi les entrées les plus importantes du AI news sur la réglementation de cette année.

Pourquoi l'affaire était importante

La question juridique au cœur de l'appel est d'une simplicité trompeuse : lorsqu'une image est générée plutôt que photographiée, s'agit-il réellement d'un « matériel d'abus sexuel sur des enfants » ? Les arguments de la défense dans des cas comme celui-ci s’appuient traditionnellement sur l’absence de victime identifiable : aucun enfant réel n’a été photographié, blessé ou même impliqué. Cet argument gagne en plausibilité à mesure que les générateurs d’images modernes peuvent produire des représentations photoréalistes d’enfants qui n’existent pas, avec des visages, des corps et des décors réalistes, sans aucune imagerie de référence d’une personne réelle.

La réponse de la Cour suprême danoise aligne la loi danoise sur l'intention protectrice de la Convention des Nations Unies relative aux droits de l'enfant, que la loi danoise de mise en œuvre est censée servir. Le tribunal a déterminé que la loi ne prévoit pas de refuge pour les représentations fictives et que le matériel généré par l’IA entre dans le champ d’application des interdictions existantes. La conséquence pratique est que la production, la possession ou la distribution de telles images entraînent les mêmes risques criminels que les contenus abusifs traditionnels – une peine de 18 mois dans ce cas, pour des contenus qui n'impliquent jamais de véritable photographie.

Une décision dont la portée va au-delà du Danemark

Bien que l'arrêt ne lie que les tribunaux danois, sa portée est internationale. Les procureurs d’Europe et d’Amérique du Nord sont confrontés à une recrudescence des images d’abus générées par l’IA, et les tribunaux de plusieurs juridictions sont parvenus à des conclusions similaires par différentes voies juridiques – certains s’appuyant sur des lois qui couvrent déjà les représentations, qu’un enfant réel ait ou non été utilisé, d’autres étendant les cadres existants en matière d’obscénité et de protection de l’enfance par interprétation. Ce que la décision danoise ajoute est une déclaration claire, en appel, d’une juridiction réputée pour son avant-gardisme technologique en droit, renforçant le consensus international émergent selon lequel l’absence de véritable victime dans le processus de production ne constitue pas un moyen de défense.

L’ampleur de l’affaire – plus de 36 000 images – illustre pourquoi le problème s’est aggravé si rapidement. Les outils génératifs ont réduit à presque zéro le coût de production d’images d’abus, et les statistiques de saisies effectuées par les forces de l’ordre de plusieurs pays ont montré que le matériel généré par l’IA apparaît dans une part croissante des enquêtes sur l’exploitation des enfants. Contrairement au matériel traditionnel, chaque image peut être générée, régénérée et variée à l’infini, ce qui multiplie à la fois le volume que les enquêteurs doivent trier et le risque que des contrefaçons réalistes soient utilisées pour toiletter, faire chanter ou désensibiliser de vrais enfants.

La répression plus large des abus génératifs au Danemark

La décision s’inscrit dans une position danoise nettement activiste sur les méfaits de l’IA générative. Le Danemark a fait progresser une législation visant à interdire le partage sans consentement de personnes réelles générées par l’IA, un projet de loi qui donnerait aux citoyens un contrôle semblable à celui du droit d’auteur sur leur propre image – une approche qui a attiré une large attention lorsqu’elle a été proposée. En matière de protection de l'enfance en particulier, les autorités danoises ont traité les contenus synthétiques abusifs comme une cible prioritaire de mise en œuvre plutôt que comme une zone grise juridique.

Cette combinaison – une législation agressive ciblant les deepfakes et maintenant un précédent de la Cour suprême sur les CSAM générés par l'IA – positionne le Danemark comme un point de référence pour les autres États membres de l'UE mettant en œuvre la loi du bloc sur l'IA et ses obligations connexes en matière de sécurité des enfants. Les plateformes et les fournisseurs de modèles opérant en Europe sont désormais confrontés à une situation plus claire : les obligations de filtrage, de détection et de signalement concernant les contenus synthétiques abusifs ne se limitent pas aux images dérivées de victimes réelles.

Ce que cela signifie pour les entreprises d'IA

Pour les entreprises qui créent des modèles génératifs d’images et de vidéos, des décisions comme celle-ci durcissent l’environnement juridique autour d’un domaine de conformité déjà impitoyable. Tous les grands laboratoires frontaliers disposent de filtres destinés à bloquer les représentations sexualisées de mineurs, et l'industrie a investi dans des normes de provenance telles que les informations d'identification du contenu pour distinguer les médias synthétiques. Le jugement danois ne modifie pas ces obligations d’ingénierie – il change les enjeux. Lorsque les cours d’appel affirment que les images générées à des fins abusives sont poursuivies de la même manière que le matériel photographique, l’argument en faveur du traitement des garanties contre les contenus abusifs comme une infrastructure de sécurité de base plutôt que comme une modération facultative devient presque sans réponse.

La décision offre également un modèle aux législateurs qui sont encore en train de rédiger leurs réponses. Plutôt que d’attendre que les parlements adoptent de nouvelles lois désignant spécifiquement le matériel généré par l’IA, les tribunaux démontrent que les cadres de protection de l’enfance existants peuvent absorber la technologie – mais un langage législatif clair éliminerait l’ambiguïté que les accusés dans les affaires futures continueront de tester.

La peine de 18 mois prononcée contre l'homme de 31 ans est désormais maintenue. Et la fiction juridique selon laquelle « aucun enfant réel n’a été blessé » a subi une défaite publique significative devant une Cour suprême européenne – un signal qui se répercutera dans les poursuites engagées contre les contenus abusifs générés par l’IA bien au-delà des frontières du Danemark.

Restez informé sur la réglementation de l'IA

Les tribunaux et les régulateurs se battent pour suivre le rythme de l’IA générative. Pour des rapports vérifiés sur la loi, la politique et l'application de l'IA, suivez AI Buzz Wire.

Lire plus d'actualités sur l'IA →