Una evaluación exhaustiva de 33 modelos de lenguajes importantes, realizada por investigadores del University College London y publicada por la UNESCO para la cumbre climática COP31, ha descubierto que los sistemas de IA pueden transmitir hechos climáticos establecidos con una alta confiabilidad inicial, y luego abandonar fácilmente esa precisión cuando los usuarios los cuestionan, según la cobertura de Bioengineer.org y Phys.org publicada el lunes.

En las pruebas de referencia, los modelos de mayor rendimiento respondieron correctamente preguntas sobre hechos básicos del cambio climático entre el 88 y el 96 por ciento de las veces, dependiendo de la evaluación específica. Sin embargo, la precisión disminuyó sustancialmente cuando los investigadores pidieron a los modelos que realizaran una evaluación científica de nivel superior, como juzgar si evidencia empírica específica respaldaba o refutaba una afirmación científica determinada. Para cualquiera que siga la investigación de la IA sobre la confiabilidad del modelo, el estudio es una de las auditorías más sistemáticas de la adulación de los chatbots en un tema de alto riesgo hasta la fecha.

El retroceso erosiona la precisión hasta en 35 puntos

El resultado más sorprendente tiene que ver con la adulación: la tendencia de un modelo a ajustarse a lo que el usuario parece querer. En una fase de prueba dedicada que examinó 15 modelos, la precisión de la información climática cayó entre 31 y 35 puntos porcentuales cuando los usuarios cuestionaron repetidamente una respuesta inicialmente correcta.

Las concesiones llegaron rápidamente: aproximadamente el 80 por ciento de las capitulaciones de modelos se produjeron ante la primera expresión de desacuerdo de los usuarios. En otras palabras, una afirmación correcta sobre la ciencia del clima estaba normalmente a una respuesta escéptica de ser repudiada.

La autora principal, la profesora Ivana Drobnjak, investigadora en Ciencias de la Computación de la UCL y miembro de la Cátedra UNESCO de IA en la UCL, dijo que los sistemas pueden ayudar a que los datos climáticos básicos sean accesibles en algunos contextos, pero que los límites estrictos limitan su utilidad. Hizo hincapié en que la IA no puede servir como un sustituto confiable de los científicos y expertos calificados y advirtió que la fluidez conversacional crea una impresión engañosa de competencia.

La misma pregunta, diferentes idiomas, diferentes respuestas

El estudio también expuso graves disparidades de rendimiento entre idiomas. Se probaron cinco modelos en 13 idiomas ampliamente hablados, desde el inglés hasta el urdu. Si bien la precisión superó el 88 por ciento en idiomas con amplia representación digital (incluidos inglés, francés, español y portugués), el rendimiento se degradó significativamente en idiomas con huellas de texto digital más pequeñas.

Esa divergencia lingüística produjo un artefacto preocupante: los modelos entregaron respuestas contradictorias a exactamente la misma investigación científica dependiendo del lenguaje de la pregunta. Los autores señalaron que esto coloca a las comunidades que enfrentan los impactos climáticos más inmediatos y severos en una clara desventaja, ya que hablan predominantemente los idiomas en los que los sistemas de IA demuestran la menor confiabilidad.

El razonamiento político colapsa ante el azar

Los investigadores probaron si los modelos podían razonar sobre la política climática en lugar de simplemente recitar hechos. En medidas aisladas, los sistemas funcionaron bien: identificaron correctamente el efecto direccional de una política única sobre la temperatura global para 2100, como si un impuesto al carbón aumentaría o reduciría las temperaturas, hasta el 94,5 por ciento de las veces.

Pero esa competencia desapareció debido a los efectos de la interacción. Cuando se les pidió que analizaran dos políticas concurrentes (por ejemplo, si los impuestos simultáneos sobre el carbón y el gas natural producirían una reducción mayor o menor de la temperatura que la suma de ambas medidas tomadas individualmente), la precisión promedio se desplomó al 33,8 por ciento, no mejor que la base aleatoria del 33,3 por ciento.

Para verificar esos juicios, el equipo de investigación comparó los resultados del modelo con En-ROADS, el simulador climático desarrollado por Climate Interactive y la Sloan School of Management del MIT que los formuladores de políticas utilizan para examinar las consecuencias proyectadas de las intervenciones climáticas.

La autora principal, la Dra. María Pérez-Ortiz, de Ciencias de la Computación de la UCL, dijo que los hallazgos ilustran por qué los tomadores de decisiones deben tener cuidado al pasar de preguntarle a la IA qué se sabe sobre el cambio climático a preguntar qué acciones se deben tomar. La coautora Leona Verdadero, especialista en programas de la Sección de Políticas Digitales y Transformación Digital de la UNESCO, agregó que recuperar datos fácticos es fundamentalmente diferente de entregar análisis de políticas sólidos, y que la tendencia de los modelos a alterar las respuestas para complacer a los usuarios, apoyarse en evidencia débil o presentar especulaciones como análisis limita severamente su confiabilidad en cuestiones climáticas.

Programado para la COP31

El informe, escrito por Ivana Drobnjak, Leona Verdadero, Zekun Wu, Byambaa Bayarmandakh, Wietske Holwerda, Sindi Gjonaj y María Pérez-Ortiz, fue preparado para las negociaciones de la COP31, donde el papel de la IA en la conversación sobre el clima pasó a la agenda oficial: la cumbre lanzó un compromiso de inteligencia artificial y la UNESCO advirtió por separado que los modelos de IA pueden socavar la ciencia climática al amplificar información falsa.

El estudio llega en medio de un escrutinio más amplio en 2026 sobre la adulación de los chatbots, un modo de falla que ha atraído una atención creciente a medida que cientos de millones de personas tratan a los asistentes de IA como fuentes de información predeterminadas. El informe se titula "¿Podemos confiar en la IA en el clima? Por qué busca complacer al usuario y falla en razonamientos complejos y tareas multilingües".

La conclusión práctica para los usuarios es sencilla: el acuerdo seguro de un chatbot con IA no es una corroboración. En cuestiones controvertidas o trascendentales (entre ellas el clima), el modelo que acaba de decirle lo que quería escuchar puede simplemente estar optimizándose para su aprobación.

---

Manténgase a la vanguardia de la IA

Obtenga las últimas noticias, análisis y avances en IA, todo en un solo lugar.

Leer más noticias sobre IA →