À medida que a mídia gerada por IA inunda a Internet, a tecnologia de marca d’água SynthID do Google emergiu como uma das ferramentas mais proeminentes para distinguir conteúdo autêntico de imagens sintéticas. Um novo e rigoroso teste de resistência confirma que a marca de água invisível é notavelmente durável, sobrevivendo a centenas de rondas de compressão, redimensionamento e até capturas de ecrã, mas os resultados também sublinham uma verdade mais dura: é pouco provável que os rótulos técnicos por si só resolvam a crescente crise de desinformação da IA. Para relatórios contínuos sobre os últimos desenvolvimentos de IA, as descobertas marcam um ponto de verificação importante no debate sobre a proveniência do conteúdo.

A escala do problema é difícil de exagerar. O Starling Lab, uma colaboração de investigação entre a Universidade de Stanford e a Universidade do Sul da Califórnia, estima que demorou até 1975, 149 anos após a invenção da câmara, para a humanidade produzir 1,5 mil milhões de imagens. A IA generativa igualou esse resultado em apenas 18 meses. Na sua conferência I/O deste ano, o Google anunciou que só as suas ferramentas foram usadas para criar mais de 100 mil milhões de imagens e vídeos de IA em alguns anos.

Como funciona o SynthID

Atualmente, existem duas abordagens principais para rotular conteúdo gerado por IA: marcas d'água invisíveis, como SynthID, e esquemas de metadados, como o padrão Coalition for Content Provenance and Authenticity (C2PA). O Google usa ambos. O C2PA é criptograficamente seguro e não pode ser falsificado, mas é trivialmente fácil de remover. Simplesmente editar e salvar uma imagem ou fazer uma captura de tela pode remover totalmente os metadados C2PA.

SynthID adota uma abordagem diferente. Em vez de depender de metadados que ficam ao lado de um arquivo, a marca d'água é codificada diretamente nos pixels de uma imagem ou vídeo, ou na forma de onda de um clipe de áudio. Como o sinal está integrado no próprio conteúdo, o Google argumentou que ele deveria sobreviver às transformações, compactação, corte e recodificação que acontecem naturalmente à medida que a mídia passa pela Internet.

Um teste de estresse para o sinal em nível de pixel

A Ars Technica testou essas afirmações usando um script Python criado na biblioteca de imagens Pillow. O script simulou a perda de dados devido ao compartilhamento e download repetidos em uma taxa muito acelerada, aplicando compactação aleatória e redimensionando valores a uma imagem de teste e alimentando cada saída como base para a próxima iteração. Duas imagens geradas por IA do modelo Nano Banana Pro do Google, uma criada inteiramente do zero e uma foto original editada por IA, serviram como cobaias.

Após 300 gerações de compartilhamento simulado, durante as quais os originais nítidos foram degradados em manchas quase irreconhecíveis, a marca d’água SynthID ainda estava registrada em ambas as imagens. A marca d'água sobreviveu até mesmo às capturas de tela completas, porque os pixels do marcador especial são transferidos para o novo arquivo. A cada 50 gerações, o testador também produzia versões cortadas para enfraquecer ainda mais a detecção.

Onde o SynthID finalmente quebra

Os limites da tecnologia só surgiram em condições extremas. Após 300 ciclos de compactação, a remoção de alguns pixels da borda das imagens de teste degradadas finalmente quebrou o SynthID nas imagens totalmente geradas e nas imagens editadas por IA. Como o sinal da marca d'água é distribuído pelos pixels, ele resiste ao corte casual, mas uma vez acumulada degradação suficiente, o detector pode ser derrotado.

O cientista do Google DeepMind, Pushmeet Kohli, disse a Ars que a equipe projetou o sistema esperando que ele fosse atacado. “Ao longo de todo o processo de desenvolvimento, presumimos que uma tecnologia como esta seria atacada”, disse Kohli. "Portanto, fizemos muitas pesquisas para tornar o SynthID robusto para diferentes tipos de transformações. Quer as pessoas estivessem adicionando algum tipo de filtro ou cortando a imagem, usamos essas transformações e garantimos que o detector fosse robusto contra elas."

Marcas d'água se expandem em todo o setor

O teste chega no momento em que a adoção do SynthID vai além dos próprios produtos do Google. A empresa fechou parcerias para expandir o uso da marca d'água, com OpenAI, Runway e Nvidia entre aqueles que começam a integrar a tecnologia em suas ferramentas generativas. O Google tem sido relutante em divulgar muitos detalhes técnicos além do artigo de pesquisa original, e é por isso que testes independentes do tipo que Ars conduziu são importantes à medida que a marca d’água prolifera em todo o cenário de IA.

Rótulos por si só não são suficientes

A tensão central que a experiência expõe é que mesmo uma marca d'água robusta é tão útil quanto a disposição das plataformas e das pessoas para verificá-la. A detecção do SynthID ainda não está amplamente incorporada nas redes sociais e aplicativos de mensagens onde a maioria das mídias manipuladas realmente se espalha. Uma marca d'água que sobrevive a 300 ciclos de compactação oferece pouca proteção se ninguém na extremidade receptora estiver procurando por ela.

Os resultados de durabilidade são genuinamente encorajadores para o campo da autenticidade de conteúdo. Eles sugerem que marcas d'água invisíveis em nível de pixel podem servir como uma base técnica confiável para a proveniência. Mas a questão mais ampla, se a sociedade pode criar normas, infra-estruturas e incentivos para realmente agir de acordo com esses sinais, permanece por resolver. À medida que o volume de meios de comunicação sintéticos continua a ultrapassar a marca dos 100 mil milhões de imagens, a lacuna entre o que a tecnologia pode marcar e o que as plataformas irão moderar está a tornar-se o desafio definitivo.

Fique à frente da IA

Acompanhe as notícias de última hora sobre IA que moldam políticas, pesquisas e plataformas que remodelam a Internet.

Leia mais notícias sobre IA