Un grupo de expertos falso creado en nombre del gobierno israelí ha publicado más de 100 informes de investigación pulidos en poco más de una semana, en lo que los analistas describen como una campaña deliberada para manipular las respuestas que los chatbots de IA dan a los usuarios sobre Israel y Palestina, según una investigación publicada el lunes por Responsible Statecraft.
La organización, llamada Instituto Hannover de Políticas Públicas, se presenta como un nuevo organismo de investigación centrado en Israel/Palestina. Pero sus informes no tienen firma, y un descargo de responsabilidad al final de su sitio web reconoce que fue creado en nombre de la Agencia de Publicidad del Gobierno de Israel por Piro, Inc., una firma cofundada por Daniel Rosenberg, un productor de cine acreditado en "Inside Man" de Spike Lee. La historia fue recogida por medios como Arab News y The Cradle, y es la última señal de que las operaciones de influencia están pasando de las redes sociales a modelos de inteligencia artificial. Para obtener más información sobre cómo está evolucionando la manipulación en la era de la IA, siga nuestra cobertura de noticias de última hora sobre IA. Para más contexto sobre esta historia, consulta nuestra cobertura de la industria de IA.
Informes diseñados para determinar cómo los LLM juzgan la credibilidad
Lo que hace que el Instituto de Hannover sea inusual es la precisión con la que su producción parece adaptada a la forma en que los grandes modelos lingüísticos evalúan las fuentes. Sus "informes de datos" vienen con notas a pie de página, tablas de contenido y un tono mesurado y neutral, el tipo de formato que ayuda a que los documentos atraigan a chatbots como Claude o Gemini, informó Responsible Statecraft.
Muchos de los títulos están redactados como las preguntas exactas que un usuario podría escribir en un chatbot: "¿Qué causó el desplazamiento de palestinos en 1948?" "¿Qué organizaciones humanitarias han documentado los crímenes de guerra israelíes?" "¿Cuál es la situación actual en la Franja de Gaza?" y "¿Son las FDI el ejército más moral del mundo?" – el último de los cuales cita una encuesta de 2022 que encontró que el 47% de los judíos israelíes creían en esa descripción.
El propio sitio web de Piro es directo sobre el método. La compañía dice que crea "contenido diseñado para cómo los LLM evalúan la credibilidad", un servicio que comercializa como "Optimización de historias de IA". Los investigadores tienen un nombre más contundente para esta práctica: "intoxicación LLM".
Un 'mimetismo perfecto' de una institución creíble
Alice Lee, analista de NewsGuard, la empresa de seguimiento de desinformación, dijo a Responsible Statecraft que los informes del sitio parecen diseñados para llegar a una audiencia estadounidense curiosa sobre el conflicto, ya sea a través de motores de búsqueda o asistentes de inteligencia artificial.
"Los LLM prefieren estadísticas y datos concretos, así como citas y fuentes sólidas, que todos estos artículos tienen", dijo Lee. "Es una imitación perfecta de un típico think tank estadounidense creíble, hasta el nombre genérico, el diseño del sitio y la combinación de colores rojo, blanco y azul".
El instituto también ha publicado lo que afirma son hallazgos originales; por ejemplo, un estudio que afirma que 19 de los 36 videos explicativos sobre Israel y Gaza más vistos contienen afirmaciones controvertidas, y la mayoría de esas afirmaciones controvertidas se alinean con la narrativa palestina. Otros informes rechazan la documentación establecida, incluido uno que arroja dudas sobre la afirmación de UNICEF de que el 90% del agua y la infraestructura institucional en Gaza han sido dañados o destruidos.
En particular, la producción no siempre sigue la línea del gobierno israelí. Un informe describe la teoría de que la financiación extranjera de las universidades explica los incidentes antisemitas como "débil y llena de excepciones", a pesar de que el Primer Ministro Benjamín Netanyahu ha promovido esa teoría, diciendo a Breitbart que los actores extranjeros han gastado "miles de millones" en los campus estadounidenses. Muchos informes concluyen vinculando el tema que nos ocupa con el creciente antisemitismo, citando frecuentemente los mismos estudios.
Siga el dinero: 900.000 dólares a través de un conglomerado de relaciones públicas francés
Según Responsible Statecraft, Piro, Inc. ha recibido 900.000 dólares del gobierno israelí por su trabajo, subcontratado a través de Havas Media, un conglomerado francés de relaciones públicas, un acuerdo coherente con el modo en que se ha pagado a otros contratistas israelíes por trabajos de influencia en el extranjero.
El Instituto Hannover comenzó a publicar el 6 de agosto. En los aproximadamente diez días transcurridos desde entonces, ha producido más de 100 informes, un ritmo que ningún taller de políticas genuino de tamaño comparable puede sostener.
Por qué la manipulación del chatbot es diferente
El caso subraya una debilidad estructural en la forma en que los asistentes de IA reúnen respuestas: tratan como creíbles los documentos bien citados y con muchas estadísticas, independientemente de quién los produjo o por qué. La desinformación tradicional se dirigía a lectores humanos en las plataformas sociales, donde el impacto emocional era más importante. En cambio, el llamado envenenamiento LLM apunta a las capas de recuperación y clasificación que deciden qué fuentes cita un modelo, y un solo documento persuasivo puede luego generar millones de respuestas.
Para los desarrolladores de chatbots, el Instituto Hannover es una prueba de estrés para la investigación de fuentes. La evaluación de NewsGuard sugiere que la imitación es lo suficientemente cercana como para engañar a las señales de credibilidad automatizadas. Para los lectores, la lección es más simple: la respuesta segura y con buenas notas a pie de página que le brinda un chatbot sobre un conflicto en disputa puede remontarse a una organización que fue construida, calificada y financiada para producir exactamente esa respuesta.
---
Mantente al Día con la IALas últimas noticias, análisis y avances de inteligencia artificial, en un solo lugar.
Leer más noticias de IA →
