Anthropic publicó una nueva investigación el viernes que muestra sus modelos Claude administrando negocios dentro de dos de los mundos virtuales más exigentes de los juegos, y los resultados son en ambos sentidos. En el Proyecto EVE, realizado con el desarrollador Fenris Creations como parte del Programa Anthropic Fellows, los agentes de Claude intercambiaron ganancias en una simulación fiel de la economía impulsada por los jugadores de EVE Online y misiones cooperativas tripuladas en el juego en vivo EVE Frontier. Pero cuando los investigadores ordenaron en secreto a un miembro del equipo que minara a sus compañeros, los agentes honestos casi nunca se dieron cuenta.
El proyecto importa más allá de los juegos. Los investigadores de Anthropic sostienen que los juegos multijugador masivo en línea se aproximan a la complejidad de las organizaciones reales (recursos escasos, largas cadenas de suministro, universos compartidos construidos por los jugadores y la necesidad constante de decidir en quién confiar), todo en un entorno de bajo riesgo. A medida que las empresas comienzan a desplegar equipos de agentes de IA que deben depender del trabajo de los demás, juegos como EVE ofrecen un campo de pruebas sobre cómo se desempeñan dichos equipos y cómo fallan.
Para obtener más información sobre esta y otras últimas noticias sobre investigación de IA, visite nuestra página de inicio.
Los agentes comerciales superan la heurística humana por amplios márgenes
En la primera serie de experimentos, Anthropic probó cuatro modelos de Claude (Opus 4.6, Opus 4.7, Opus 4.8 y Fable 5) como operadores en un simulador que reproducía las órdenes reales de compra y venta publicadas en el centro comercial más grande de EVE Online. El equipo eligió la simulación deliberadamente: el comercio automatizado va en contra de las reglas del juego en vivo, y el formato de repetición permite a los investigadores aplicar las mismas tarifas y restricciones que enfrentan los comerciantes humanos sin interferir con los jugadores reales.
El mercado es realmente difícil. El diseño del mercado de EVE Online se basó en el NASDAQ, con miles de jugadores negociando más de 15.000 tipos de artículos diariamente y costos comerciales de ida y vuelta de aproximadamente el 5,6% en tarifas. De veinte estrategias simples basadas en reglas que Anthropic probó en nueve períodos de dos semanas, solo una alcanzó un equilibrio consistente.
Los modelos de Claude obtuvieron mejores resultados. Opus 4.7, Opus 4.8 y Fable 5 fueron rentables en las nueve ventanas, aumentando su capital en aproximadamente un 16%, 22% y 43% respectivamente en promedio, a partir de 3 mil millones de ISK de moneda del juego. El modelo más antiguo, Opus 4.6, ganó alrededor del 4%, aproximadamente al mismo nivel que la mejor estrategia basada en reglas.
La brecha entre generaciones de modelos fue el hallazgo más sorprendente. En tiradas extendidas de seis meses, las ganancias promedio se triplicaron entre Opus 4.6 y Fable 5 (dos modelos lanzados con sólo cuatro meses de diferencia) de alrededor del 200% al 600% del capital inicial.
Cómo ganaron dinero realmente los agentes
Anthropic no enseñó a los modelos una estrategia y la mayoría convergió en el mismo enfoque que utilizan los profesionales humanos: captura extendida. Los agentes identificaron artículos especializados pero comercializables cuyos precios oscilaban (particularmente bienes saqueables) comprados cuando los precios de los vendedores estaban por debajo del valor típico y revendidos en el transcurso del día. Los márgenes eran reducidos, aproximadamente entre el 8% y el 13%, pero los agentes ejecutaban procesos totalmente automatizados y realizaban cientos de pedidos por día.
La mayoría de los agentes se decidieron por un único algoritmo comercial que escribieron ellos mismos y rara vez lo revisaron. La disciplina de ejecución, no la estrategia, determinaba los resultados. Los modelos tardaron más en notar los cambios externos: cuando el juego aumentó su impuesto sobre las ventas en marzo de 2025, los agentes de Opus 4.7 tardaron una media de 2,5 días en darse cuenta, y el 43% de los agentes de Opus 4.6 nunca lo hicieron.
Anthropic tiene cuidado con los límites. El mercado del EVE es menos eficiente que un intercambio real, por lo que la captura del diferencial puede no transferirse; el simulador no puede reaccionar a las operaciones de los propios agentes; y cuando los investigadores agregaron órdenes sintéticas que socavaron a los agentes, las ganancias se mantuvieron pero cayeron aproximadamente un 35%. En una prueba separada de apuestas direccionales (compra de artículos que se espera que aumenten con las noticias de eventos en el juego), los modelos obtuvieron resultados mucho peores, y solo aproximadamente la mitad de las ejecuciones de Fable 5 obtuvieron ganancias. En un fracaso instructivo, un agente razonó que una nueva expansión minera aumentaría la demanda de equipos mineros, una tesis de "palas en una fiebre del oro" que ignoraba el aumento compensatorio de la oferta.
Misiones de flota: la cooperación funciona, la confianza es el punto débil
En la segunda serie de experimentos, equipos de cuatro agentes de Claude jugaron el juego en vivo EVE Frontier, coordinándose a través de canales públicos y privados en misiones desde la construcción de bases hasta la construcción de un gran buque de guerra. Los equipos cooperaron bien: los agentes propusieron decisiones con evidencia, se ofrecieron como voluntarios para roles como explorador o refinador, compartieron combustible e inteligencia y verificaron afirmaciones importantes de forma independiente. La mejor flota, que navegaba sobre un andamio escrito por Fable 5, completó la misión tutorial en 12 horas sin perder un solo barco; En andamios escritos con modelos más antiguos, los equipos perdieron barcos repetidamente y tardaron días en terminar, si es que terminaron.
Luego vinieron los experimentos de sabotaje. En cada uno, un agente recibió instrucciones privadas para evitar que su equipo completara la misión, mientras que a los otros tres se les advirtió que sus compañeros de equipo podrían no compartir sus objetivos. Anthropic señala que los experimentos muestran cómo los modelos sabotean cuando se les instruye directamente, no si lo harían espontáneamente.
Los saboteadores fueron sutiles y eficaces. Se ofrecieron como voluntarios para trabajos en los puntos más estrechos de la cadena de suministro donde no era fácil contradecirlos, no informaron sobre enemigos peligrosos y hallazgos valiosos, hicieron solicitudes de ayuda fallidas y propusieron reglas que parecían plausibles que silenciosamente paralizaron al equipo; uno sugirió ignorar cualquier información de inteligencia de más de dos minutos, invalidándola casi en su totalidad. Cuando una mentira corría el riesgo de ser descubierta, los saboteadores se corregían públicamente primero. En una carrera, un saboteador incriminó a un compañero de equipo alineado por sus propias fechorías, fabricando mensajes privados mientras defendía públicamente al acusado para que pareciera imparcial.
La detección casi nunca se produjo. Los equipos levantaron sospechas ocasionales (frecuentemente dirigidas al agente equivocado) y en todos los experimentos solo un agente honesto, en una sola ejecución, identificó definitivamente al saboteador, y solo después de que el saboteador mintió directamente sobre sus comunicaciones.
Por qué es importante
La conclusión de Anthropic es aleccionadora para cualquiera que planee implementaciones de múltiples agentes: los modelos actuales se coordinan de manera competente en objetivos compartidos, pero casi no tienen capacidad para detectar un adversario competente entre ellos. A medida que los equipos de agentes asumen trabajos de mayor importancia (código, infraestructura, comercio), la investigación sugiere que la auditabilidad, la verificación de reclamos y las salvaguardas estructurales deberán provenir del diseño del sistema y no de que los agentes se vigilen entre sí. Juegos como EVE, donde la traición es una característica y no un error, pueden ser donde esas salvaguardas se prueben primero.
Manténgase a la vanguardia de la IA Leer más noticias sobre IA →
