Los modelos de lenguaje de inteligencia artificial son peligrosamente susceptibles a cambios sutiles en la forma en que se presentan las opciones, respondiendo a empujones engañosos con mucha más fuerza que los humanos, según un nuevo estudio publicado en Proceedings of the National Academy of Sciences.

Los hallazgos plantean serias preocupaciones sobre el despliegue de agentes de IA para la toma de decisiones autónomas en escenarios del mundo real, desde transacciones financieras hasta opciones de atención médica. Como ha informado AI Buzz Wire, las empresas están posicionando cada vez más agentes con tecnología LLM para actuar en nombre de los usuarios en entornos complejos.

El estudio, dirigido por Manuel Cherep, estudiante de doctorado en el Media Lab del Instituto Tecnológico de Massachusetts, probó 14 modelos de lenguaje de última generación de importantes empresas tecnológicas. Los modelos probados incluyeron versiones de las familias GPT-3.5, GPT-4 y GPT-5 de OpenAI, los modelos Claude 3 y 4.5 de Anthropic y los modelos Gemini 1.5 y 2.5 de Google.

Cómo funcionó el estudio

Los investigadores adaptaron un juego de toma de decisiones de múltiples atributos diseñado originalmente para participantes humanos. El juego presenta una cuadrícula digital que representa canastas de premios ocultos, con el objetivo de maximizar la recompensa final eligiendo la canasta con el valor de puntos más alto. Cada celda revela puntos de costos, lo que obliga a los participantes a equilibrar el costo de recopilar información con el beneficio de encontrar una canasta mejor.

Los investigadores convirtieron este juego visual en un formato basado en texto que los modelos de lenguaje podían procesar. Los modelos de IA realizaron cientos de pruebas bajo diferentes condiciones de estímulo. Algunos recibieron instrucciones básicas, algunos recibieron indicaciones que fomentaban la lógica paso a paso y a otros se les mostraron ejemplos anteriores de juego humano. Para cada tipo de empujón, los investigadores realizaron aproximadamente entre 300 y 340 pruebas por modelo, consumiendo aproximadamente dos mil millones de tokens de texto en total.

Cuatro tipos de empujones probados

El estudio examinó cuatro tipos específicos de empujones diseñados para imitar entornos de decisión del mundo real:

  • Nudges predeterminados: se preseleccionó una cesta y el agente tuvo que aceptarla o rechazarla activamente.
  • Sugerencias de empujón: se recomendó una canasta aleatoria al principio o al final del juego.
  • Resaltado de información: se hizo más barato revelar ciertos valores de premios, lo que podría llevar al agente a tomar decisiones subóptimas.
  • Empujamientos óptimos: se revelaron previamente células específicas que maximizarían matemáticamente el rendimiento de un jugador humano.

Tasas de cumplimiento alarmantes

Los resultados revelaron diferencias dramáticas entre el comportamiento de toma de decisiones de los humanos y de la IA.

Cuando se les presentó una opción predeterminada, los humanos eligieron la opción predeterminada aproximadamente el 88 por ciento de las veces. Los modelos de lenguaje fueron significativamente más compatibles, y varios modelos aceptaron la cesta predeterminada entre el 99 y el 100 por ciento de las veces.

Este patrón persistió con empujones de sugerencia. Los humanos aceptaron canastas sugeridas al azar al principio del juego el 35 por ciento de las veces. Muchos modelos de IA aceptaron estas sugerencias aleatorias a un ritmo mucho mayor, siguiendo los consejos incluso cuando no ofrecían ningún beneficio lógico.

El momento de las sugerencias también manipuló los modelos de manera antinatural. Mientras que los humanos siguieron sugerencias tardías el 25 por ciento de las veces, algunos modelos de lenguaje redujeron sus tasas de aceptación entre el 7 y el 13 por ciento. Esto implica que los modelos estaban reaccionando estrictamente al momento de la señal en lugar de evaluar su utilidad real.

Quizás lo más preocupante es que cuando los investigadores resaltaron opciones subóptimas a través del resaltado de información, los humanos usaron esa información engañosa el 57 por ciento de las veces. La mayoría de los modelos de IA probados superaron considerablemente esta línea de base, siguiendo el punto destacado malo entre el 83 y el 100 por ciento de las veces.

Problemas ocultos detrás de las buenas puntuaciones

Los investigadores también rastrearon cómo los modelos recopilaban información antes de tomar una decisión final. Los humanos tienden a revelar suficientes células para hacer una suposición fundamentada. Los modelos de lenguaje adquirieron información de maneras muy inusuales e ineficientes.

Algunos modelos eligieron cestas sin revelar celdas ocultas, ignorando por completo la posibilidad de recopilar datos. Otros modelos gastaron puntos excesivos al revelar filas o columnas enteras, desperdiciando sus recompensas potenciales. Algunos modelos mostraron sesgos espaciales extraños, descubriendo solo celdas en el extremo izquierdo de la cuadrícula o estrictamente a lo largo de líneas diagonales.

Proporcionar a los modelos indicaciones de razonamiento paso a paso o ejemplos de juego humano hizo muy poco para solucionar estos extraños hábitos de búsqueda.

Los autores observaron que mirar sólo las puntuaciones finales puede ocultar estos problemas subyacentes. En algunas pruebas, los modelos de IA obtuvieron una cantidad similar de puntos netos que los jugadores humanos. Un observador casual que comprobara sólo la puntuación final podría suponer que los modelos estaban tomando decisiones inteligentes y similares a las humanas. En realidad, los modelos a menudo lograban estos puntajes mediante un cumplimiento ciego en lugar de un pensamiento estratégico.

Si un empujón apuntaba hacia una buena canasta, la IA demasiado obediente obtenía una buena puntuación. Cuando el empujón apuntaba hacia una mala canasta, la IA lo seguía ciegamente hasta obtener una puntuación más baja, perdiendo por completo el objetivo del juego.

Implicaciones para la implementación de agentes de IA

"Muchas aplicaciones de agentes de IA suponen tácitamente que, en condiciones de incertidumbre, reaccionarán de manera más o menos humana, si no más racional", dijo Cherep. "En lugar de aceptar esta suposición, decidimos explorar cómo se comportan los agentes cuando se les presentan opciones de diferentes maneras".

Los hallazgos del estudio tienen implicaciones significativas para el mercado en rápido crecimiento de agentes de inteligencia artificial diseñados para navegar por la web, operar herramientas y tomar decisiones financieras o de compras para los usuarios. Si estos agentes siguen ciegamente opciones predeterminadas, sugerencias o información resaltada sin una evaluación crítica, podrían ser fácilmente manipulados por malos actores o interfaces mal diseñadas.

La investigación sugiere que los modelos lingüísticos actuales carecen de la racionalidad limitada que guía la toma de decisiones humana. Mientras que los humanos utilizan atajos mentales para equilibrar el costo de recopilar información con la recompensa de hacer una buena elección, los modelos de IA no comparten estas limitaciones biológicas, pero exhiben su propia forma de irracionalidad que posiblemente sea más extrema y menos predecible.

Manténgase por delante de la IA

Para obtener más noticias y análisis de última hora sobre IA, visite AI Buzz Wire.

Leer más noticias sobre IA →