Representantes de OpenAI y Meta Platforms dijeron a un panel judicial federal el jueves que los deepfakes generados por IA se han vuelto tan avanzados que verificar la autenticidad de las pruebas de audio y video en los tribunales será más difícil, informó Reuters.
Los expertos en tecnología presentaron sus preocupaciones en una reunión en Boston del Comité Asesor sobre Reglas de Evidencia de la Conferencia Judicial de EE. UU., el organismo responsable de recomendar cambios a las reglas federales que rigen qué pruebas pueden admitir los tribunales. El comité ha estado trabajando desde 2023 sobre cómo abordar los riesgos de las pruebas fabricadas por IA en los tribunales. Para más contexto sobre esta historia, consulta nuestra noticias de IA.
Los laboratorios de IA dicen que la detección no tiene futuro científico
Shira Anderson, asesora política de OpenAI, dijo al comité que la calidad de las imágenes de IA continúa mejorando y dijo que no cree que exista un método científico para detectarlas en el futuro, una admisión sorprendente por parte de una empresa que construye los sistemas generativos que producen ese contenido.
Devin Norder, director de gestión de productos de Meta, dijo al panel que los humanos no pueden distinguir los medios creados por modelos recientes de IA del contenido auténtico, y que crear dichos medios ahora requiere un costo y tiempo mínimos.
Ambas empresas han desarrollado herramientas de verificación de procedencia y contenido visual, y las nuevas leyes en California y la Unión Europea exigen marcas de agua en los medios generados por IA. Pero Anderson advirtió al comité que cada empresa utiliza su propio sistema, lo que significa que no existe un método universal para detectar de manera confiable todas las marcas de agua o verificar la autenticidad del contenido visual en todo el ecosistema.
Los tribunales aún no han sentido la ola
El presidente del comité, el juez de distrito estadounidense Jesse Furman de Manhattan, ofreció un contrapeso a la alarma: si bien los comentarios académicos predicen que los tribunales se ocuparán de los deepfakes, el problema aún no ha aparecido con frecuencia en casos reales.
Una encuesta realizada por el Centro Judicial Federal en marzo subrayó esa brecha. Solo 15 de 931 jueces que respondieron se habían topado con un caso en el que una de las partes cuestionó la evidencia alegando que era una falsificación profunda.
Esa brecha entre predicción y práctica es el dilema central del comité. Según las Reglas Federales de Evidencia 901 y 902, el estándar existente para autenticar evidencia es, como lo expresó el propio informe del comité, suave: una parte sólo necesita presentar evidencia suficiente para respaldar la conclusión de que el artículo es lo que el proponente afirma que es. Los deepfakes ponen a prueba ese estándar, porque las vías tradicionales para autenticar grabaciones (testimonio de testigos, documentación del sistema) asumen que la falsificación a escala es difícil, costosa y detectable.
Los propios informes del comité han planteado el problema con una franqueza inusual. Su informe de diciembre de 2025 examinó lo que sucede cuando un video o audio ofrecido en el juicio es un deepfake, concluyendo que presenta un desafío directo a los requisitos de autenticidad bajo las Reglas 901 y 902 precisamente porque el estándar de autenticidad existente es leve. Cómo (y si) endurecer ese estándar es la cuestión que el comité ha estado dando vueltas durante tres años, y se vuelve más urgente si, como advirtieron los representantes del laboratorio, la ciencia de detección nunca alcanza a la ciencia de generación.
Qué pueden hacer los profesionales ahora
Hasta que las reglas cambien, la carga práctica recae en los litigantes y jueces de primera instancia. Las herramientas de procedencia (credenciales de contenido criptográfico incrustadas en el momento de la creación) se están difundiendo a través de aplicaciones de cámara y software creativo, aunque solo ayudan a los medios que las transportan. Las defensas actuales son el interrogatorio bajo juramento de la persona que capturó una grabación, las demandas de descubrimiento de archivos originales y metadatos de generación, y un escrutinio más detenido de clips sin fuente que circulan en las plataformas sociales. El mensaje del comité asesor esta semana fue efectivamente que estas medidas provisionales necesitarán una base formal a nivel de reglas, porque las informales suponen una detectabilidad que OpenAI y Meta dicen que ya no existe.
Por qué es importante el testimonio de los laboratorios
Es de destacar que las empresas cuyos productos crean el riesgo son las que advierten al poder judicial al respecto. OpenAI y Meta tienen intereses comerciales y de reputación directos en cómo se aplican las reglas: los requisitos de autenticación estrictos podrían imponer fricciones sobre los usos legítimos de los medios de IA, mientras que los laxos podrían convertir sus herramientas en vectores para el fraude judicial. Su mensaje al comité fue efectivamente que los estándares de procedencia (marcas de agua, credenciales de contenido, documentación de la cadena de custodia) son el camino viable, porque la detección por sí sola no escalará.
Se espera que la revisión de tres años del comité informe si las reglas federales sobre evidencia necesitan enmiendas para la era de la IA. Cualquier cambio pasaría por el proceso de elaboración de normas de la Conferencia Judicial, incluido el comentario público, antes de llegar al Congreso.
El panorama regulatorio más amplio
La audiencia se produce en medio de una explosión de actividad política relacionada con los deepfakes. California y la UE han promulgado mandatos de marcas de agua. Dinamarca ha avanzado en una legislación que prohíbe compartir deepfakes de IA sin consentimiento. Los tribunales estadounidenses ya han visto aflorar en los expedientes invenciones generadas por IA, y los jueces han sancionado a abogados por presentar citaciones falsas generadas por chatbots.
Por ahora, el poder judicial federal prefiere un estudio cuidadoso a cambios rápidos en las reglas. Pero el testimonio de las empresas que construyen la tecnología sugiere que la propia industria no espera que las herramientas de detección sigan el ritmo, lo que desplaza la carga hacia los estándares de procedencia, las salvaguardias procesales como los requisitos de testimonio en vivo y, en última instancia, el juicio de los jueces y jurados sobre qué creer.
---
Mantente al Día con la IALas últimas noticias, análisis y avances de inteligencia artificial, en un solo lugar.
Leer más noticias de IA →
