Um novo estudo realizado por cientistas da computação do MIT publicado na Nature Communications na terça-feira apresenta uma descoberta que pode remodelar o debate sobre os direitos de autor da IA: à medida que os modelos de difusão são treinados com mais dados, os seus resultados tornam-se cada vez mais impossíveis de rastrear até qualquer peça específica de material de formação. Os pesquisadores chamam o fenômeno de “decadência de atribuição”. Para os leitores que acompanham o mundo em rápida evolução da IA generativa, o artigo é um dos resultados de pesquisa mais importantes cobertos esta semana pelo AI Buzz Wire.
O artigo, intitulado "Os resultados dos modelos de difusão generativa são frequentemente inatribuíveis", foi de autoria de Zheng Dai e David K. Gifford, ambos afiliados ao Laboratório de Ciência da Computação e Inteligência Artificial do MIT (CSAIL). A questão central deles era aparentemente simples: quando um modelo generativo produz uma imagem, é possível localizar um item específico nos dados de treinamento que seja responsável por essa saída?
O que os pesquisadores descobriram
A resposta, cada vez mais, é não. Os pesquisadores mostram que a atribuição – definida como a tarefa de localizar parte dos dados de treinamento que pode ser responsabilizada por uma amostra gerada – “pode se tornar impossível se um modelo for treinado em um corpus de dados suficientemente grande”.
“Descobrimos que quanto mais dados um modelo é treinado, menos atribuíveis se tornam as amostras geradas, um fenômeno que doravante chamamos de decaimento de atribuição”, escrevem os autores.
Para testar isso, a equipe desenvolveu uma metodologia de “ablação” que permite que exemplos de treinamento específicos sejam removidos de um modelo já treinado sem um novo treinamento dispendioso. Eles então realizaram experimentos hipotéticos em grande escala: o que o modelo geraria se uma imagem específica, ou todo o trabalho de um criador, nunca tivesse estado no conjunto de treinamento?
Em alguns dos resultados mais surpreendentes do estudo, os investigadores descobriram que, para modelos treinados em conjuntos de dados suficientemente grandes, poderiam remover a Mona Lisa – ou mesmo todo o trabalho de Leonardo da Vinci – e o modelo ainda poderia reproduzir a imagem ou o estilo artístico. Nenhum item de treinamento foi causalmente responsável pelo resultado.
Por que é importante para litígios de direitos autorais
As descobertas caem no meio de um campo de batalha jurídico ativo. Modelos de difusão como Midjourney e Stable Diffusion atraíram ações judiciais de artistas que argumentam que cópias de seu trabalho em dados de treinamento permitem que os sistemas de IA reproduzam seu resultado e estilo.
Em um caso de direitos autorais em andamento de 2023, Andersen et al. v. Stability AI Ltd., os demandantes têm tentado forçar a Midjourney a divulgar os conjuntos de dados usados para treinar seus modelos. Eles alegam que a Midjourney construiu seus conjuntos de treinamento “reunindo imagens associadas a nomes de artistas específicos com o propósito expresso de permitir que seu modelo imitasse o conteúdo expressivo desses artistas”.
O estudo do MIT sugere que estabelecer tais ligações causais pode ser tecnicamente impossível em grande escala. Como observou o The Register, que primeiro relatou os detalhes do estudo, a pesquisa parece provavelmente tornar a regulamentação da IA mais difícil, em vez de mais fácil – o oposto do que os autores esperavam quando iniciaram o trabalho.
A questão do uso justo
No comunicado de imprensa do MIT, Gifford argumenta que as descobertas vão em ambos os sentidos. Se os resultados gerados não tiverem nada a ver com nenhum dado individual de treinamento, os modelos poderão ser genuinamente criativos, em vez de meras máquinas copiadoras.
“Isso levanta questões sobre o uso justo, sobre se os resultados são protegidos por direitos autorais como obras novas e sobre como os autores são compensados quando o que sai de um modelo não é atribuível a nada na Internet”, disse Gifford.
As implicações vão além dos geradores de imagens. Os modelos de difusão tornaram-se a arquitetura dominante para a geração de meios audiovisuais e são cada vez mais utilizados em aplicações científicas, incluindo modelagem de estruturas proteicas e descoberta terapêutica. Ferramentas de atribuição também foram propostas para desaprendizado de máquina, detecção de envenenamento de dados, interpretabilidade de modelos, auditorias de imparcialidade e conformidade com privacidade.
Um aviso para startups de atribuição
O estudo também alerta para a crescente indústria de ferramentas de proveniência de IA e verificação de conteúdo. Os pesquisadores descobriram que a atribuição baseada em similaridade – combinando resultados gerados com imagens de treinamento visualmente semelhantes – produz atribuições falsas em grandes regimes de dados de treinamento.
Em outras palavras, uma ferramenta que afirma que “esta imagem de IA veio do portfólio daquele artista” pode simplesmente estar errada quando os modelos são treinados em bilhões de imagens. Para plataformas, tribunais e reguladores que contam com atribuição técnica para resolver disputas de proveniência, os resultados do MIT sugerem que essa certeza pode estar fora do alcance de modelos à escala de fronteira.
O que vem a seguir
Espera-se que o artigo seja citado em litígios e debates políticos em andamento, incluindo discussões em torno dos requisitos de transparência da Lei de IA da UE e propostas para sistemas de compensação de artistas. Se a decadência da atribuição se mantiver para os maiores modelos de produção, os esquemas de compensação baseados no rastreio dos resultados para obras específicas poderão ter de ser redesenhados em torno do licenciamento colectivo, em vez do rastreio ao nível do item.
O estudo também levanta uma questão subtil para os criadores de IA: a imputabilidade pode, na verdade, fortalecer os argumentos de utilização justa para a formação em dados protegidos por direitos de autor, ao mesmo tempo que prejudica a capacidade dos artistas de provar danos específicos de resultados individuais. Ambos os lados da luta pelos direitos autorais encontrarão algo para usar nos dados.
Fique à frente da IA
Para obter mais pesquisas e análises inovadoras sobre IA, visite AI Buzz Wire para cobertura diária da indústria de IA.
Leia mais notícias sobre IA →
