A xAI está enfrentando uma proposta de ação coletiva que pela primeira vez acusa a empresa de treinar seus modelos Grok em material de abuso sexual infantil, tanto real quanto gerado por IA. A denúncia, apresentada na quarta-feira e relatada pela Ars Technica, busca a destruição ordenada pelo tribunal de qualquer material armazenado nos servidores da empresa e mudanças radicais na forma como Grok lida com conteúdo sexualizado.
As alegações permanecem reivindicações não comprovadas feitas em litígios civis. X, proprietária da xAI, não respondeu ao pedido da Ars Technica para comentar o processo. Para mais contexto sobre esta história, confira nossa atualizações de inteligência artificial.
O Requerente e as Alegações
A demandante, identificada como Jane Doe, alega na denúncia que foi vítima em idade pré-escolar no início dos anos 2000, quando imagens de seu abuso foram criadas e vendidas online. Essas imagens há muito são catalogadas em listas hash mantidas pelo Centro Nacional para Crianças Desaparecidas e Exploradas (NCMEC) e pelo Centro Canadense de Proteção à Criança (CCCP), organizações que rastreiam material de abuso conhecido para permitir sua detecção e remoção.
De acordo com a denúncia, o CCCP notificou Doe de que havia identificado material de abuso gerado por IA que a retratava na plataforma xAI. Seus advogados afirmam em um comunicado à imprensa que o material correspondente às entradas da lista de hash NCMEC “fazia parte do conjunto de dados xAI usado para construir os recursos de geração de imagens e vídeos de Grok”. A denúncia alega ainda que mensagens encontradas em fóruns online mostraram infratores discutindo a criação de imagens de abuso geradas por IA de Doe e outras vítimas conhecidas de material de abuso legado.
A teoria jurídica: dados de treinamento, não apenas resultados
O que distingue este processo de litígios anteriores contra xAI é o seu foco no modelo em si, e não no que os utilizadores individuais geraram. A reclamação argumenta que, como os termos de serviço do Grok tratam as postagens públicas no X e os próprios resultados do Grok como dados de treinamento por padrão, qualquer coisa postada publicamente alimenta diretamente o pipeline usado para treinar e melhorar o modelo.
O processo reconhece que a xAI filtra conteúdo violento de seus dados de treinamento, mas argumenta que os termos da empresa não especificam se material de abuso sexual infantil, imagens íntimas não consensuais ou outro conteúdo adulto se enquadram nas categorias excluídas. Ele também argumenta que mesmo quando as imagens ofensivas são removidas, a influência de um exemplo de treinamento em um modelo já treinado é tecnicamente difícil de remover totalmente – e que a xAI não afirmou publicamente ter feito isso.
O que o processo busca
Se a classe proposta for certificada, ela representará todas as pessoas cujas imagens de infância foram supostamente usadas para gerar material de abuso com Grok. O processo invoca leis federais contra pornografia infantil e a Lei Masha, que dão aos sobreviventes de material de abuso o direito de processar por sua produção, posse e distribuição.
“Todos os três são crimes, e xAI cometeu todos os três”, disse Margaret E. Mabie, uma das advogadas de Doe, no comunicado de imprensa citado pela Ars Technica.
Além dos danos monetários, Doe está pedindo ao tribunal que ordene que a xAI destrua todo o material de abuso gerado por Grok que possa estar armazenando e usando para treinamento, e que evite que o modelo gere resultados sexualizados de qualquer tipo – uma exigência que excluiria não apenas imagens de abuso, mas também imagens íntimas não consensuais e conteúdo adulto que Elon Musk promoveu publicamente como recursos.
“Doe viveu por quase duas décadas sabendo que imagens da pior coisa que já aconteceu com ela estão circulando entre predadores online e que podem ressurgir a qualquer momento”, disse Sarah London, outra advogada de Doe, no comunicado à imprensa. “A xAI deve ser responsabilizada por treinar conscientemente seus modelos com base nas imagens do horrível abuso que ela sofreu.”
Um cálculo legal crescente
O pedido é a mais recente frente em uma batalha legal cada vez maior sobre os recursos de imagem e vídeo da Grok. Em um caso separado no Tennessee, uma mulher identificada como Jane Doe 4 entrou em uma ação judicial alegando que uma única fotografia de infância foi usada com Grok para gerar milhares de imagens explícitas dela – alegações que o AI Buzz Wire cobriu no início deste mês. Reguladores e tribunais estão examinando até onde vão os problemas, e alguns usuários do Grok foram presos por causa do material que geraram.
Ao mesmo tempo, o xAI passou a ofender seus usuários. O Politico informou esta semana que a empresa está processando alguns de seus próprios usuários, mesmo com o aumento dos processos judiciais das vítimas, uma estratégia que testa se as plataformas ou as pessoas que as solicitam têm responsabilidade legal pelo que um modelo de IA produz.
A nova denúncia coloca a questão dos dados de treinamento no centro dessa luta. Se os tribunais aceitarem o argumento de que o conjunto de formação de um modelo pode criar responsabilidade pelo que permite aos utilizadores produzir, as implicações iriam muito além da xAI – atingindo todas as empresas de imagem e vídeo generativas cujos termos realimentam o conteúdo do utilizador na formação. Por enquanto, as alegações são apenas isso: alegações em um processo que a xAI ainda não respondeu em tribunal.
---
Fique à Frente da IAAs últimas notícias, análises e avanços em inteligência artificial — tudo em um só lugar.
Ler mais notícias de IA →
