Meta a supprimé sa fonctionnalité controversée Muse Image AI d'Instagram quelques jours seulement après son lancement, admettant que l'outil "a raté la cible" à la suite d'intenses réactions négatives de la part des syndicats hollywoodiens, des agences artistiques et des défenseurs de la vie privée à propos de sa conception d'adhésion automatique.

La fonctionnalité, qui utilisait les photos et le contenu des utilisateurs d'Instagram pour générer des images IA sans nécessiter de consentement explicite, a immédiatement attiré l'attention lors de son lancement plus tôt dans la semaine. Les utilisateurs ont découvert qu'ils avaient été automatiquement inscrits au programme, leurs photos personnelles devenant un support de formation pour le modèle de génération d'images de Meta.

SAG-AFTRA et CAA mènent la charge

La Screen Actors Guild-American Federation of Television and Radio Artists (SAG-AFTRA) figurait parmi les critiques les plus virulentes, exhortant ses membres et tous les utilisateurs d'Instagram à se désinscrire de cette fonctionnalité. Le syndicat a publié une déclaration appelant les gens à « prendre des mesures pour protéger leur image », reflétant les profondes inquiétudes de l'industrie du divertissement concernant les outils d'IA capables de reproduire et de manipuler les images des artistes sans compensation ni consentement.

La Creative Artists Agency (CAA), l'une des agences artistiques les plus puissantes d'Hollywood, a également condamné le long métrage. Selon Deadline, les deux organisations ont « saccagé l'outil » dans des déclarations publiques, intensifiant la pression sur Meta pour qu'elle reconsidère son déploiement.

La réaction des organisations de l’industrie du divertissement a un poids particulier pour Meta, qui s’efforce d’établir des relations avec les créateurs et les studios hollywoodiens pour ses initiatives de réalité mixte et d’IA.

La controverse sur l'opt-in

Le cœur de la controverse était centré sur la décision de Meta d'inscrire automatiquement les utilisateurs au programme de formation en IA plutôt que de leur demander de s'inscrire explicitement. Cela signifiait que des millions d'utilisateurs d'Instagram avaient leurs photos introduites dans le générateur d'images Muse à leur insu ou sans leur consentement affirmatif.

Axios a signalé que la fonctionnalité avait suscité des critiques spécifiquement sur la question du consentement, les critiques affirmant que l'approche de Meta violait les principes de base de l'autonomie des utilisateurs et de la protection des données. Les défenseurs de la vie privée ont noté que même si Meta fournissait un mécanisme de désinscription, il incombait entièrement aux utilisateurs de découvrir et de parcourir les paramètres.

Shacknews a rapporté que Meta avait suspendu la fonctionnalité d'image Instagram Muse AI après seulement trois jours de réactions négatives soutenues, ce qui en fait l'un des renversements de produits les plus rapides de l'entreprise de mémoire récente.

Réponse de Meta

Dans une déclaration reconnaissant le contrecoup, Meta a déclaré que la fonctionnalité avait « raté la cible », selon Deadline et TheWrap. La société a désactivé la fonctionnalité plutôt que de simplement modifier le mécanisme d'adhésion, ce qui suggère que la conception fondamentale était trop défectueuse pour être conservée sous sa forme actuelle.

Ce n'est pas la première fois que Meta est critiquée pour ses initiatives en matière d'IA. La société avait précédemment lancé son premier générateur d’images IA interne, Muse Image, sur Instagram et WhatsApp début juillet. Ce lancement initial a suscité un intérêt prudent, mais l'ajout ultérieur de l'inscription automatique des photos à des fins de formation a franchi une limite pour de nombreux utilisateurs et organisations industrielles.

Implications plus larges pour l'IA et le consentement

L'incident met en évidence une tension croissante dans l'industrie de l'IA entre la soif de données de formation des entreprises et le droit des utilisateurs à contrôler la manière dont leurs informations personnelles sont utilisées. Alors que les modèles d’IA générative nécessitent des ensembles de données toujours plus volumineux, les entreprises technologiques se tournent de plus en plus vers le contenu généré par les utilisateurs comme source de matériel de formation.

La réaction négative des groupes syndicaux comme SAG-AFTRA démontre que l’industrie du divertissement, qui a été à l’avant-garde des débats sur l’IA et le travail créatif, reste une force puissante dans la manière dont les entreprises d’IA abordent le consentement et la rémunération.

La controverse soulève également des questions sur le respect de la réglementation. Dans l'Union européenne, la loi sur l'IA et le règlement général sur la protection des données (RGPD) établissent des exigences strictes en matière de consentement et d'utilisation des données. L'approche d'adhésion automatique de Meta pourrait faire l'objet d'un examen minutieux de la part des régulateurs européens, qui se montrent de plus en plus stricts dans l'application des règles de protection des données contre les principales plateformes technologiques.

Le LA Times a noté que la suppression était intervenue spécifiquement à la suite de réactions négatives de la communauté créative, des acteurs et des artistes s'inquiétant de la possibilité que leurs portraits soient utilisés dans du contenu généré par l'IA sans leur autorisation.

Gardez une longueur d'avance sur l'IA

Pour poursuivre la couverture de l'industrie de l'IA et l'analyse des débats éthiques qui façonnent l'intelligence artificielle, suivez AI Buzz Wire.

Lire plus d'actualités sur l'IA → https://aibuzzwire.news