OpenAI dijo el jueves que ha prohibido dos operaciones de influencia encubiertas, una originada en Rusia y otra en Irán, que utilizaban ChatGPT para ejecutar entidades sofisticadas de "fachada falsa" diseñadas para lavar propaganda geopolítica en medios de comunicación reales. La compañía dijo que la campaña de origen ruso es la operación de influencia de mayor alcance que ha interrumpido desde que comenzó a publicar informes de amenazas hace dos años y medio.
La divulgación, publicada en el sitio web de OpenAI, es la última entrada de una serie de informes sobre cómo los actores alineados con el estado hacen mal uso de los modelos comerciales de IA. También subraya, como señalamos en nuestro último resumen de últimas noticias sobre IA, un patrón que OpenAI ha observado en las 30 operaciones encubiertas que ha expuesto desde principios de 2024: las campañas que logran colocar su contenido en publicaciones genuinas llegan a audiencias mucho más amplias que aquellas que dependen de cuentas falsas de redes sociales.
Una categoría 5 primero: Operación "Dark Clark"
La operación rusa, que OpenAI apodó "Dark Clark", se centró en una supuesta organización de investigación en América Latina llamada Centro de Investigación Social (SRC). Según OpenAI, los operadores controlaban el think tank a través de una persona inventada llamada "Mia Clark", mientras que los empleados locales en América Latina realizaban entrevistas y redactaban trabajos de investigación sin saber que estaban trabajando para un grupo ruso.
Utilizando la escala de ruptura, una medida de 1 a 6 del alcance potencial de una operación de influencia desarrollada en Brookings, OpenAI evaluó a Dark Clark en la Categoría 5, la calificación más alta que ha asignado a cualquier operación desde que comenzaron sus informes. La campaña de origen iraní alcanzó la categoría 4.
Gran parte del uso de ChatGPT por parte de los operadores se destinó a informes internos dirigidos a un administrador desconocido, dijo OpenAI, describiendo campañas para denigrar a Ucrania, socavar el reclutamiento para las fuerzas armadas de Ucrania e interferir en la política interna de Argentina y Bolivia. La mayoría de los operadores solicitaban información en ruso y dependían de VPN para acceder al servicio, que bloquea el tráfico desde Rusia.
Los investigadores de OpenAI corroboraron varias de las supuestas campañas de la operación a través de fuentes abiertas. Uno de ellos involucraba correos electrónicos falsos que supuestamente provenían de la dirección regional de educación de Lima, instruyendo a las escuelas de la capital peruana a realizar eventos en honor a Stepan Bandera, la controvertida figura nacionalista ucraniana, en un día nacional de la diversidad. Los medios peruanos y polacos cubrieron la controversia que siguió, y en la cobertura se citó a un miembro polaco del Parlamento Europeo. En Ecuador, los operadores utilizaron una dirección de correo electrónico falsa para engañar a las escuelas para que hicieran un juramento de lealtad al presidente Daniel Noboa y al ex director de Blackwater, Erik Prince; El truco atrajo la cobertura de los medios y una refutación pública del Ministro de Educación de Ecuador.
La operación también difundió grabaciones de audio inventadas, incluida una atribuida a un trabajador de la empresa estatal de agua de Bolivia, EPSAS, afirmando que el gobierno cortaría el suministro a La Paz, y otra atribuida al cónsul de Ucrania en Ecuador. Los verificadores de datos de ambos países desacreditaron las afirmaciones. Investigadores de código abierto han vinculado previamente actividades similares con "Politología" o "La Compañía", entidades descritas como sucesoras de la operación del difunto Yevgeniy Prigozhin, y los propios informes de los operadores afirmaban campañas dirigidas al presidente de Argentina, Javier Milei, que coinciden con esos informes públicos.
Siete periodistas falsos: Operación "Bogus Bylines"
La operación iraní tomó una ruta diferente hacia el ecosistema de los medios. Sus operadores, que impulsaron ChatGPT en persa, utilizaron el modelo para perfeccionar artículos extensos en inglés sobre el conflicto entre Estados Unidos e Irán y luego los presentaron a editores de medios en línea pequeños y medianos utilizando siete personajes periodísticos inventados: Ervin B. Hoskins, Noah Lamington, Sophia González, Michael Harrison, Ericka Feusier, Jenny Williams y Alice Johnson.
OpenAI identificó casi 100 artículos publicados o distribuidos bajo esas firmas en aproximadamente una docena de medios en todo el mundo, la mayoría centrados en asuntos internacionales y Medio Oriente. La operación también generó lotes de comentarios en las redes sociales, aunque OpenAI dijo que estos generaron poca participación real y señaló que los operadores utilizaron un cálculo engañoso en sus informes internos para inflar su aparente impacto en las redes sociales. La compañía dijo que la actividad parecía consistente con un actor comercial que ejecutaba una campaña de influencia a sueldo y que había compartido información con las autoridades pertinentes.
Antiguo oficio, nuevas herramientas
Lo que más sorprende a los investigadores, escribió OpenAI, es lo mucho que ambas operaciones se parecían a las campañas de influencia de la era anterior a la IA. Los personajes de periodistas falsos tienen un parecido familiar con "Alice Donovan", una reportera ficticia al frente de la inteligencia militar rusa cuyos artículos de opinión aparecieron en medios occidentales en 2016 y 2017. El personal local involuntario del SRC se hace eco de "PeaceData", el sitio de noticias falsas que cooptó a periodistas reales en 2020.
La IA no inventó estas técnicas: las hizo más baratas, más rápidas y más fluidas. Los operadores utilizaron modelos para adaptar las falsificaciones al vocabulario local y al estilo institucional, traducir guiones a variantes regionales en español y producir correos electrónicos pulidos para los editores. Pero OpenAI argumentó que la naturaleza encubierta, de persona a persona, de las operaciones de fachada falsa también las hace vulnerables a la exposición: tanto Alice Donovan como PeaceData cerraron después de ser nombrados públicamente.
Leer la evidencia con atención
OpenAI tuvo cuidado de advertir sus propios hallazgos. Los operadores habitualmente reclamaban crédito por eventos con los que no tenían nada que ver, y algunas falsificaciones que informaron que habían plantado no se pudieron encontrar en fuentes abiertas. Lo que OpenAI pudo verificar (a través de verificaciones de hechos, desmentidos oficiales y artículos publicados que coinciden con las descripciones de los operadores) sugiere una penetración genuina de los medios y el discurso político en al menos cuatro países.
Para la industria de la IA, el informe es un recordatorio de que los usos más efectivos de los modelos en la desinformación son a menudo los menos visibles: redactar informes internos, refinar las propuestas, pulir las traducciones. Las entidades mejor posicionadas para detectar estas campañas, como lo demostraron los casos anteriores de OpenAI, son frecuentemente las plataformas cuyas propias herramientas se utilizan para ejecutarlas.
---
Manténgase a la vanguardia de la IAObtenga las últimas noticias, análisis y avances en IA, todo en un solo lugar.
Leer más noticias sobre IA →
