Meta removeu seu polêmico recurso Muse Image AI do Instagram poucos dias após o lançamento, admitindo que a ferramenta “errou o alvo” após intensa reação de sindicatos de Hollywood, agências de talentos e defensores da privacidade sobre seu design de aceitação automática.

O recurso, que usava fotos e conteúdo de usuários do Instagram para gerar imagens de IA sem exigir consentimento explícito, atraiu atenção imediata quando foi lançado no início da semana. Os usuários descobriram que foram automaticamente inscritos no programa, e suas fotos pessoais se tornaram material de treinamento para o modelo de geração de imagens do Meta.

SAG-AFTRA e CAA lideram o ataque

A Screen Actors Guild-American Federation of Television and Radio Artists (SAG-AFTRA) estava entre os críticos mais veementes, instando seus membros e todos os usuários do Instagram a cancelarem o recurso. O sindicato emitiu uma declaração apelando às pessoas para “tomar medidas para proteger a sua imagem”, reflectindo profundas preocupações na indústria do entretenimento sobre ferramentas de IA que podem replicar e manipular imagens de artistas sem compensação ou consentimento.

A Creative Artists Agency (CAA), uma das agências de talentos mais poderosas de Hollywood, também condenou o longa. De acordo com o Deadline, ambas as organizações “destruíram a ferramenta” em declarações públicas, intensificando a pressão sobre a Meta para reconsiderar o lançamento.

A reação das organizações da indústria do entretenimento tem um peso especial para a Meta, que tem trabalhado para construir relacionamentos com criadores e estúdios de Hollywood para suas iniciativas de realidade mista e IA.

A controvérsia da aceitação

O cerne da controvérsia centrou-se na decisão da Meta de inscrever automaticamente os usuários no programa de treinamento de IA, em vez de exigir que eles aceitassem explicitamente. Isso significava que milhões de usuários do Instagram tiveram suas fotos alimentadas no gerador de imagens do Muse sem seu conhecimento ou consentimento afirmativo.

Axios relatou que o recurso atraiu atenção especificamente sobre a questão do consentimento, com os críticos argumentando que a abordagem do Meta violava os princípios básicos de autonomia do usuário e proteção de dados. Os defensores da privacidade observaram que, embora o Meta fornecesse um mecanismo de exclusão, a responsabilidade recai inteiramente sobre os usuários para descobrir e navegar pelas configurações.

Shacknews relatou que Meta suspendeu o recurso de imagem Instagram Muse AI após apenas três dias de reação sustentada, tornando-se uma das reversões de produtos mais rápidas da empresa na memória recente.

Resposta do Meta

Em um comunicado reconhecendo a reação, Meta disse que o recurso “errou o alvo”, de acordo com Deadline e TheWrap. A empresa desativou o recurso em vez de simplesmente modificar o mecanismo de aceitação, sugerindo que o design fundamental era muito falho para ser salvo em sua forma atual.

Esta não é a primeira vez que a Meta enfrenta críticas por suas iniciativas de IA. A empresa lançou anteriormente seu primeiro gerador interno de imagens de IA, Muse Image, dentro do Instagram e do WhatsApp no ​​início de julho. Esse lançamento inicial foi recebido com interesse cauteloso, mas a adição subsequente do registro automático de fotos para fins de treinamento ultrapassou os limites para muitos usuários e organizações do setor.

Implicações mais amplas para IA e consentimento

O incidente destaca uma tensão crescente na indústria da IA entre a fome das empresas por dados de formação e os direitos dos utilizadores de controlar a forma como as suas informações pessoais são utilizadas. À medida que os modelos generativos de IA exigem conjuntos de dados cada vez maiores, as empresas tecnológicas recorrem cada vez mais a conteúdos gerados pelos utilizadores como fonte de material de formação.

A reação de grupos trabalhistas organizados como o SAG-AFTRA demonstra que a indústria do entretenimento, que tem estado na vanguarda dos debates sobre a IA e o trabalho criativo, continua a ser uma força poderosa na definição da forma como as empresas de IA abordam o consentimento e a compensação.

A controvérsia também levanta questões sobre a conformidade regulatória. Na União Europeia, a Lei de IA e o Regulamento Geral de Proteção de Dados (GDPR) estabelecem requisitos rigorosos para consentimento e uso de dados. A abordagem de adesão automática da Meta poderá enfrentar o escrutínio dos reguladores europeus, que têm sido cada vez mais assertivos na aplicação das regras de protecção de dados contra as principais plataformas tecnológicas.

O LA Times observou que a remoção ocorreu especificamente após a reação da comunidade criativa, com atores e artistas expressando alarme sobre o potencial de suas imagens serem usadas em conteúdo gerado por IA sem sua permissão.

Fique à frente da IA

Para continuar a cobertura da indústria de IA e a análise dos debates éticos que moldam a inteligência artificial, siga o AI Buzz Wire.

Leia mais notícias sobre IA → https://aibuzzwire.news