A medida que los medios generados por IA inundan Internet, la tecnología de marca de agua SynthID de Google se ha convertido en una de las herramientas más destacadas para distinguir el contenido auténtico de las imágenes sintéticas. Una nueva y rigurosa prueba de estrés confirma que la marca de agua invisible es notablemente duradera y sobrevive a cientos de rondas de compresión, cambio de tamaño e incluso capturas de pantalla, pero los resultados también subrayan una verdad más dura: es poco probable que las etiquetas técnicas por sí solas resuelvan la creciente crisis de desinformación de la IA. Para los informes continuos sobre los últimos desarrollos de IA, los hallazgos marcan un punto de control importante en el debate sobre la procedencia del contenido.

Es difícil exagerar la magnitud del problema. Starling Lab, una colaboración de investigación entre la Universidad de Stanford y la Universidad del Sur de California, estima que fue necesario hasta 1975, 149 años después de la invención de la cámara, para que la humanidad produjera 1.500 millones de imágenes. La IA generativa igualó esa producción en solo 18 meses. En su conferencia I/O de este año, Google anunció que sólo sus herramientas se habían utilizado para crear más de 100 mil millones de imágenes y vídeos de IA en un par de años.

Cómo funciona SynthID

Actualmente existen dos enfoques principales para etiquetar contenido generado por IA: marcas de agua invisibles como SynthID y esquemas de metadatos como el estándar de la Coalición para la procedencia y autenticidad del contenido (C2PA). Google usa ambos. C2PA es criptográficamente seguro y no se puede falsificar, pero es trivialmente fácil de eliminar. Simplemente editar y guardar una imagen, o tomar una captura de pantalla, puede eliminar los metadatos de C2PA por completo.

SynthID adopta un enfoque diferente. En lugar de depender de los metadatos que se encuentran junto a un archivo, la marca de agua se codifica directamente en los píxeles de una imagen o vídeo, o en la forma de onda de un clip de audio. Debido a que la señal está entretejida en el contenido mismo, Google ha argumentado que debería sobrevivir a las transformaciones, compresión, recorte y recodificación que ocurren naturalmente a medida que los medios circulan por Internet.

Una prueba de estrés para la señal a nivel de píxel

Ars Technica puso a prueba esas afirmaciones utilizando un script de Python creado en la biblioteca de imágenes Pillow. El script simuló la pérdida de datos al compartir y descargar repetidamente a un ritmo muy acelerado, aplicando compresión aleatoria y cambiando valores de tamaño a una imagen de prueba y alimentando cada salida como base para la siguiente iteración. Dos imágenes generadas por IA del modelo Nano Banana Pro de Google, una creada completamente desde cero y una foto original editada por IA, sirvieron como sujetos de prueba.

Después de 300 generaciones de intercambio simulado, durante las cuales los originales nítidos se degradaron en manchas apenas reconocibles, la marca de agua SynthID aún se registró en ambas imágenes. La marca de agua incluso sobrevivió a las capturas de pantalla completas, porque los píxeles del marcador especial se transfieren al nuevo archivo. Cada 50 generaciones, el evaluador también produjo versiones recortadas para debilitar aún más la detección.

Donde finalmente se rompe SynthID

Los límites de la tecnología sólo surgieron en condiciones extremas. Después de 300 ciclos de compresión, la eliminación de un puñado de píxeles del borde de las imágenes de prueba degradadas finalmente rompió SynthID tanto en las imágenes completamente generadas como en las editadas con IA. Debido a que la señal de la marca de agua se distribuye a lo largo de los píxeles, resiste el recorte casual, pero una vez que se acumula suficiente degradación, el detector puede ser derrotado.

El científico de Google DeepMind, Pushmeet Kohli, le dijo a Ars que el equipo diseñó el sistema esperando que fuera atacado. "Durante todo el proceso de desarrollo, asumimos que una tecnología como esta sería atacada", dijo Kohli. "Así que investigamos mucho para hacer que SynthID sea resistente a diferentes tipos de transformaciones. Ya sea que las personas agreguen algún tipo de filtro o recorten la imagen, utilizamos estas transformaciones y nos aseguramos de que el detector fuera resistente a ellas".

Las marcas de agua se expanden en toda la industria

La prueba llega cuando la adopción de SynthID se está ampliando más allá de los propios productos de Google. La compañía se ha asociado para ampliar el uso de la marca de agua, con OpenAI, Runway y Nvidia entre los que comienzan a integrar la tecnología en sus herramientas generativas. Google se ha mostrado reacio a publicar muchos detalles técnicos más allá del artículo de investigación original, razón por la cual las pruebas independientes como las que realizó Ars son importantes a medida que la marca de agua prolifera en el panorama de la IA.

Las etiquetas por sí solas no son suficientes

La tensión central que expone el experimento es que incluso una marca de agua robusta es tan útil como la voluntad de las plataformas y las personas de verificarla. La detección de SynthID aún no está ampliamente integrada en las redes sociales y aplicaciones de mensajería donde realmente se difunden la mayoría de los medios manipulados. Una marca de agua que sobrevive a 300 ciclos de compresión ofrece poca protección si nadie en el lado receptor la está escaneando.

Los resultados de durabilidad son realmente alentadores para el campo de la autenticidad del contenido. Sugieren que las marcas de agua invisibles a nivel de píxeles pueden servir como una columna técnica confiable para determinar la procedencia. Pero la cuestión más amplia de si la sociedad puede crear las normas, la infraestructura y los incentivos para actuar realmente en función de esas señales sigue sin resolverse. A medida que el volumen de medios sintéticos continúa superando el hito de los 100 mil millones de imágenes, la brecha entre lo que la tecnología puede marcar y lo que las plataformas moderarán se está convirtiendo en el desafío definitorio.

Manténgase por delante de la IA

Manténgase al día con las últimas noticias sobre IA que dan forma a las políticas, las investigaciones y las plataformas que están remodelando Internet.

Leer más noticias sobre IA