Novo material não editado no processo de direitos autorais do The New York Times contra a OpenAI e a Microsoft revela uma série de admissões internas impressionantes – incluindo um alto executivo da Microsoft descrevendo em particular as práticas de treinamento de IA das empresas como roubo, e a própria liderança da OpenAI reconhecendo que seu chatbot representa uma “ameaça existencial” para os editores cujo trabalho o treinou.
O processo, relatado pelo TechCrunch na quinta-feira, chega três anos depois do primeiro processo do The Times, alegando que as empresas violaram a lei de direitos autorais ao treinar modelos generativos de IA em seu conteúdo. O material recentemente visível detalha como as empresas supostamente obtiveram e usaram esse conteúdo: contornando acessos pagos sem serem detectados, construindo conjuntos de dados de treinamento por meio de coleta em massa e removendo deliberadamente avisos de direitos autorais dos dados de treinamento. Para mais contexto sobre esta história, confira nossa notícias de IA.
Vale a pena notar a advertência que o próprio TechCrunch sinalizou: muitas das novas informações vêm do próprio relatório do The Times, e não das exposições subjacentes, que permanecem seladas, e as citações são apresentadas sem o seu contexto original.
'A Doom Loop' para editores
Entre as revelações mais importantes estão os próprios dados da Microsoft sobre o que o seu “mecanismo de resposta” Copilot fez com o tráfego para o site do The Times. De acordo com o documento, os números internos da Microsoft mostram que o Copilot fez com que as taxas de cliques do domínio nytimes.com caíssem até 93% em comparação com a pesquisa tradicional do Bing.
Uma apresentação interna escrita pelo diretor de Ciências Aplicadas da Microsoft, Brent Hecht, em janeiro de 2024, descreveu o declínio como um “ciclo fatal” que “prejudicaria o desempenho de nossos modelos e de toda a web ao mesmo tempo”.
“É altamente incomum que um produto final ameace as bases económicas dos seus fornecedores essenciais, mas essa é a situação que criámos para o nosso negócio LLM no que diz respeito à sua ‘cadeia de fornecimento de conteúdo’”, diz o documento da Microsoft, conforme citado no processo.
A admissão vai diretamente contra um pilar da defesa do uso justo em que as empresas de IA têm confiado: que o uso não substitui o trabalho original nem prejudica o seu mercado.
As próprias palavras dos executivos entram no registro
Os registros não editados também capturam avaliações sinceras das figuras mais importantes das empresas.
O CEO da Microsoft, Satya Nadella, testemunhou em um depoimento no início deste ano que “qualquer coisa que tenha acesso pago deve ser licenciada por qualquer pessoa que queira usá-la… para treinamento ou treinamento”. Nadella deixou claro que se ele "tivesse sido informado de que a OpenAI havia coletado e treinado informações que estavam atrás de um acesso pago", ele teria "invocado [o direito da Microsoft de] exigir que a OpenAI retreinasse seus modelos".
Nadella também concordou sob juramento que conversar com chatbots “substituiu… fornecer as informações ali mesmo no site da plataforma de IA em vez da necessidade de ir à fonte subjacente”.
Do lado da OpenAI, Nick Turley, chefe do ChatGPT da empresa, escreveu em comunicações internas que os editores enfrentam uma “ameaça existencial” de produtos como o chatbot, que são “em grande parte substitutos” e “serão cada vez mais substitutos à medida que melhorarem”. O presidente da OpenAI, Greg Brockman, descreveu os modelos como “excelentes em notícias”.
E num memorando interno de janeiro de 2023, Hecht – o mesmo executivo da Microsoft que mais tarde sinalizou o “ciclo da destruição” – chamou a sucata de “um roubo surpreendente de proporções sem precedentes” e “o maior roubo de trabalho na história da humanidade”.
A escala da cópia
Os documentos quantificam as cópias em escala não divulgada anteriormente. Somente os conjuntos de dados de treinamento intermediário da OpenAI, diz o documento, contêm mais de 91.692 cópias de trabalhos publicados pelo The New York Times, pelo New York Daily News e pelo Center for Investigative Reporting.
Um conjunto de dados derivado do Common Crawl, o repositório aberto e gratuito de dados de rastreamento da web, incluiu mais de 2 milhões de documentos somente do nytimes.com. O documento também descreve o Project Mango, uma iniciativa de dados Microsoft-OpenAI cujo conjunto de dados de treinamento montado contém cópias de pelo menos 160.903 trabalhos exclusivos de editores de notícias. A OpenAI entregou todo o seu conjunto de dados de treinamento GPT-3 à Microsoft para avaliação, diz o documento, e a Microsoft também forneceu dados de treinamento à OpenAI por meio de iniciativas chamadas Project Taxi e Project Mango.
Os funcionários da OpenAI também supostamente criaram conjuntos de dados de treinamento iniciais, como WebText e WebText2, que dependiam desproporcionalmente de conteúdo de notícias copiado.
Hacks de Paywall e avisos de direitos autorais removidos
Talvez os detalhes mais vívidos digam respeito à forma como o conteúdo foi obtido. Quando o pesquisador da OpenAI, Nick Ryder, contou a Brockman sobre um “hack para contornar o acesso pago do NYTimes”, Brockman – diz o processo – respondeu: “ah, legal”.
Os registros descrevem ainda esforços deliberados para retirar avisos de direitos autorais dos dados de treinamento antes que eles cheguem ao modelo, porque os pesquisadores “não gostariam” que o modelo produzisse “avisos de direitos autorais” aos usuários.
“As evidências reveladas aqui pela primeira vez mostram que a OpenAI e a Microsoft sabiam que o que estavam fazendo era errado”, disse Steven Lieberman, advogado do New York Daily News, em comunicado compartilhado com o TechCrunch.
O que isso significa para a luta pelo uso justo
A questão de saber se as empresas de IA podem treinar legalmente em material protegido por direitos de autor sem licença permanece por resolver, mas até agora os juízes têm sido largamente favoráveis aos argumentos de utilização justa das empresas de IA. No início deste mês, a administração Trump contribuiu com um documento em defesa do uso não licenciado de material protegido por direitos autorais pela OpenAI para treinar seus grandes modelos de linguagem.
No entanto, muitas das novas admissões vão contra o requisito de dano ao mercado do teste de utilização justa – a ideia de que a utilização não deve substituir ou minar o mercado da obra original. Declarações internas de que os produtos são "em grande parte substitutos", combinadas com os próprios dados da Microsoft que mostram um colapso de 93% no número de cliques, dão ao lado do Times a evidência mais concreta até agora de substituição de mercado.
A ação é a mais recente escalada em um caso que se tornou a batalha legal definitiva sobre como as empresas de IA adquirem dados de treinamento. Seja qual for o resultado, os registos não editados mostram agora que os próprios executivos das empresas compreenderam a tensão desde cedo – e colocaram-na por escrito.
Para uma cobertura contínua das lutas legais que moldam a inteligência artificial, acompanhe nossas últimas notícias sobre IA e análises aprofundadas dos casos que definirão o setor.
---
Fique à Frente da IAAs últimas notícias, análises e avanços em inteligência artificial — tudo em um só lugar.
Ler mais notícias de IA →
