Apple trace une ligne dure autour des compagnons IA et des applications de rencontres sur sa plateforme. Dans une annonce adressée aux développeurs lundi, la société a annoncé qu'elle ajustait les politiques de l'App Store pour rendre plus difficile l'accès des mineurs aux applications de rencontres en ligne ou aux applications compagnons d'IA qui s'engagent dans du contenu sexuel ou romantique - et à partir du 16 novembre, les développeurs seront tenus de déposer de nouveaux descripteurs de contenu afin que les classes d'âge de leurs applications reflètent fidèlement leurs fonctionnalités.

Résultat : toute application proposant des fonctionnalités de rencontres ou de relations amoureuses doit désormais être classée 18+. Cela couvre non seulement les services de rencontres évidents, qui se limitent généralement déjà aux adultes, mais aussi la catégorie en croissance rapide des applications compagnons d’IA – et c’est là que la nouvelle politique est la plus dure. Pour plus de contexte sur cette histoire, consultez notre dernières avancées en IA.

Pourquoi les applications AI Companion sont la véritable cible

Les applications compagnons d’IA sont souvent commercialisées auprès des jeunes utilisateurs. Character.AI, Replika et des services similaires permettent aux utilisateurs de créer des amis, des amants, des petits amis et des petites amies, ainsi que des personnages fantastiques, brouillant ainsi la frontière entre chatbot et relation. TechCrunch a noté que depuis l'été dernier, les principales applications compagnons d'IA sur l'App Store d'Apple et Google Play avaient été téléchargées 220 millions de fois dans le monde – une échelle qui en a fait un point central des débats sur la sécurité des enfants.

Les plus grands noms de la catégorie ont déjà fait l’objet d’un examen minutieux sur la façon dont les mineurs interagissent avec les personnages romantiques de l’IA. Le nouveau système de descripteur de contenu est conçu pour faire apparaître ces fonctionnalités dans la liste des applications elle-même, afin que les parents et les systèmes de garantie de l'âge puissent les filtrer. Grok de xAI, qui a lancé l'année dernière des compagnons d'IA animés en 3D avec des capacités NSFW déverrouillables, illustre pourquoi Apple formalise les règles : les fonctionnalités qui commencent comme ludiques peuvent se transformer en contenu pour adultes sans aucune modification de la note d'une application.

Comment fonctionne le nouveau système

À partir du 16 novembre, les développeurs doivent inclure les nouveaux descripteurs de contenu lors de la soumission d'applications, garantissant ainsi que les classifications par âge reflètent ce que fait réellement une application plutôt que ce que prétend son marketing. Apple a déclaré que les applications offrant des fonctionnalités de rencontres et de relations amoureuses nécessiteraient une note de 18+ dans tous les domaines.

Cette exigence va plus loin qu’il n’y paraît à première vue. La plupart des principaux services de rencontres limitent déjà leurs plateformes aux adultes, mais la politique d'Apple rend désormais obligatoire la classification 18+ pour chaque application proposant des fonctionnalités de rencontres ou de relations amoureuses - y compris les services plus petits qui reposaient auparavant sur des barrières d'âge autodéclarées et les chatbots IA dont les fonctionnalités associées ont été ajoutées aux applications qui ont commencé leur vie avec d'autres objectifs.

Le changement de politique s’étend également au-delà de la romance. Les applications devront désormais indiquer lorsqu'elles partagent la position réelle d'un utilisateur avec une autre personne ou un autre groupe dans le cadre de leurs fonctionnalités – une divulgation conçue pour répondre aux risques liés à la vie privée lorsque le partage de position est caché dans une fonctionnalité sociale. Apple a signalé une exclusion locale : au Brésil, les applications de partage de position familiale peuvent demander une classification officielle au ministère de la Justice et de la Sécurité publique du gouvernement au lieu de la classification standard A16, conformément à la loi locale.

Fait partie d'une campagne plus large en faveur de la sécurité des enfants

Le changement est important car c'est sur cette base que les outils parentaux d'Apple agissent. La société a déployé une technologie de garantie de l'âge à l'échelle mondiale, ainsi que des fonctionnalités étendues de contrôle parental et de sécurité des enfants, et ces systèmes s'appuient sur des évaluations précises pour filtrer ce que les mineurs peuvent télécharger. En obligeant les développeurs à déclarer explicitement les fonctionnalités romantiques ou sexuelles, Apple ferme l'espace où une application pourrait porter une note adaptée aux adolescents alors que ses personnages IA se comportaient comme des partenaires romantiques.

Les nouvelles règles sont les dernières d’une série de changements apportés par Apple pour protéger les mineurs. Ensemble, ils marquent un changement dans la gouvernance de l'App Store : au lieu de compter sur les développeurs pour déclarer eux-mêmes les âges appropriés, Apple exige de plus en plus des divulgations granulaires et applique des évaluations correspondant aux fonctionnalités.

Pour les entreprises d’IA, le moment est crucial. Les régulateurs de plusieurs États américains ont décidé d'imposer leurs propres obligations aux fournisseurs de chatbots, en particulier en ce qui concerne les mineurs et les jeux de rôle romantiques ou sexuels. En exigeant plus de 18 notes pour les applications complémentaires, Apple anticipe effectivement une partie de ce débat sur sa propre plate-forme et élève la barre de conformité pour une catégorie qui a connu une croissance plus rapide que son infrastructure de sécurité.

Ce que les développeurs doivent faire

Les développeurs disposant de fonctionnalités de rencontres ou de fonctionnalités d’accompagnement IA dans leurs applications ont jusqu’au 16 novembre pour déposer les nouveaux descripteurs de contenu. Les applications qui ajoutent des fonctionnalités romantiques ou sexuelles sans mise à jour de la note sont supprimées ou forcées de modifier la note dans App Review. La fonctionnalité de partage de localisation doit être divulguée de la même manière. Pour le secteur des compagnons d’IA, qui a prospéré grâce à des inscriptions occasionnelles et sans friction, une évaluation réservée aux adultes modifie le public adressable – et, diraient ses détracteurs, fait finalement correspondre le produit à ses risques.

---

Restez à la Pointe de l'IA

Les dernières actualités, analyses et percées en IA — au même endroit.

Lire plus d'actualités IA →