Más de 250 anuncios adicionales que contenían material de abuso sexual infantil aparecieron en las plataformas de Meta en las semanas posteriores a que la compañía implementara nuevas herramientas de inteligencia artificial diseñadas para detectar y bloquear exactamente ese tipo de contenido, según una investigación de la organización sin fines de lucro Tech Transparency Project compartida con WIRED y publicada el martes. El hallazgo socava la afirmación de la compañía de que su análisis de anuncios impulsado por inteligencia artificial había cerrado en gran medida la brecha, y se produce cuando los legisladores dicen que planean investigar.
Las nuevas cifras amplían una divulgación anterior. El mes pasado, Meta eliminó aproximadamente 50 anuncios publicados en Facebook, Instagram y Threads que incluían directamente material de abuso sexual infantil, luego de informes anteriores de WIRED. En ese momento, la compañía dijo que la mayoría de los anuncios abusivos se habían publicado antes de implementar las nuevas herramientas de detección de IA. En lugar de la disminución esperada, los investigadores dicen que encontraron cientos de anuncios más en las últimas semanas, incluidos algunos idénticos a los que Meta acababa de eliminar. Para obtener cobertura continua sobre la seguridad de la plataforma y las últimas noticias sobre IA, siga AI Buzz Wire.
La escala del fracaso
En total, los investigadores del Tech Transparency Project han documentado más de 350 anuncios de vídeo abusivos que se han publicado en las plataformas de Meta desde finales del año pasado, abarcando Facebook, Instagram, Messenger, Threads y la red publicitaria más amplia de Meta. A diferencia del conjunto inicial de 53 anuncios que identificó el grupo, el lote más nuevo incluía imágenes de niños reales en lugar de imágenes puramente sintéticas. WIRED confirmó que una imagen fuente procedía del sitio web oficial de una familia real europea; Los investigadores dicen que una fotografía publicada oficialmente de un miembro menor de la familia fue manipulada para convertirla en un video que representa un acto sexual. Los investigadores no nombran a la realeza para proteger a la víctima y dicen que se comunicaron con funcionarios del país correspondiente.
Katie Paul, directora del grupo, dijo a WIRED que el problema no se limita a las imágenes generadas por IA. "De lo que estamos hablando aquí no es simplemente de material de abuso sexual infantil generado por IA", dijo, señalando que muchas imágenes parecen haber sido tomadas de la web abierta antes de ser utilizadas en los anuncios. "Hay muchos daños que pueden surgir de esto mientras Meta está ganando dinero en el proceso". Los investigadores identificaron las identidades reales de cuatro menores cuyas imágenes se utilizaron en los anuncios.
Un embudo hacia las aplicaciones de nudificación
Los anuncios siguen un patrón constante, según el informe. Muchos abren con una imagen inofensiva de una niña preadolescente o adolescente (los investigadores encontraron solo una en la que aparecía un niño) superpuesta con un texto que declara que la imagen "no es sólo una foto" y que "no hay restricciones" sobre lo que se puede hacer con ella. Cuando se reproduce el vídeo corto, la cara del niño se transforma en un vídeo explícito. Al hacer clic, se accede a aplicaciones de inteligencia artificial para intercambiar rostros y "nudificación" disponibles en las tiendas de aplicaciones de Apple y Google, muchas de ellas vinculadas a desarrolladores chinos. WIRED identificó por separado cientos de anuncios de nudificación relacionados que representan a adultos en las plataformas de Meta.
Revisiones lentas y divulgaciones faltantes
Las políticas de Meta establecen que la compañía revisa todos los anuncios que se publican en sus plataformas y que los anuncios violaron sus reglas sobre explotación infantil, explotación de adultos y desnudez. En la práctica, informaron los investigadores, a veces Meta tardaba hasta una semana en revisar los anuncios en vivo que habían sido reportados a través de las propias herramientas de la compañía, durante las cuales los anuncios acumularon cientos de vistas adicionales, según capturas de pantalla revisadas por WIRED. Cuando se eliminaron algunos de los anuncios, sus registros de eliminación inicialmente no indicaban que violaran las políticas de abuso sexual infantil de la compañía; Esos detalles aparecieron solo después de que WIRED le preguntó a Meta sobre la discrepancia.
Los investigadores informaron de todos los anuncios que encontraron al CyberTipline del Centro Nacional para Niños Desaparecidos y Explotados y a través de las herramientas de informes de Meta. La propia biblioteca de anuncios de Meta muestra que los anuncios se mostraron colectivamente en más de 29.000 cuentas en los países de la Unión Europea y alrededor de 7.000 cuentas en el Reino Unido, con más de 250 apareciendo en los Estados Unidos, 120 en Australia y 80 en la India, cifras que probablemente subestiman el alcance total, ya que algunos países carecen de datos granulares sobre el rendimiento de los anuncios.
Meta responde
Meta rechazó la importancia de los hallazgos. "No toleramos aplicaciones de nudificación ni ningún tipo de explotación infantil, ya sea real o generada por IA", dijo a WIRED la portavoz de la compañía, Tracy Clayton, y agregó que la compañía ha eliminado previamente cientos de miles de anuncios por violar sus políticas de nudificación. Meta dijo que muchos de los anuncios que encontraron los investigadores ya habían sido eliminados, que la mayoría recibió menos de 200 impresiones y que recaudó menos de $5,000 en pagos de publicidad. La compañía también dijo que los videos generados por IA mostraban a adultos, mientras que los clips que involucraban a menores eran breves o borrosos, lo que dificultaba la detección, y que informa el contenido de explotación infantil al NCMEC.
Legisladores y reguladores se mueven
Varios legisladores y reguladores ahora dicen que están investigando los anuncios posteriores a los informes de WIRED. El senador de Virginia Mark Warner, quien envió una carta al director ejecutivo de Meta, Mark Zuckerberg, después del informe anterior, dijo que es "decepcionante que Meta continúe publicando anuncios con material de abuso sexual infantil e imágenes íntimas no consensuadas después de que les llamaron la atención". El fiscal general de Michigan dijo que la oficina está "investigando activamente el asunto", el fiscal general de Florida publicó que su oficina está investigando y el regulador eSafety de Australia dijo que está "muy preocupado" y ha solicitado información a Meta a nivel superior.
El escrutinio añade presión a una empresa que ya paga hasta 16.700 millones de dólares para resolver demandas que alegan que sus redes sociales dañan a niños y apela una decisión judicial de Nuevo México que le exigiría mejorar sus procesos de presentación de informes CSAM. La pregunta más amplia para la industria de la IA es si la moderación automatizada puede seguir el ritmo del abuso que en sí mismo está cada vez más asistido por la IA, y la evidencia de que un sistema de detección no pudo detectar cientos de anuncios infractores semanas después de haber sido citado como solución alimentará directamente esos debates.
Manténgase a la vanguardia de la IA
Siga los últimos desarrollos de IA y las últimas noticias sobre inteligencia artificial mientras los reguladores y las plataformas luchan contra los daños causados por la IA.
Leer más noticias sobre IA →
