Un CEO de una startup que entregó sus finanzas personales a un agente de IA recibió una lección no deseada sobre los permisos de los agentes este mes, después de que el asistente publicara su saldo bancario, su cifra de ahorros y su desglose de gastos mensuales en el canal interno de Slack de su empresa.
Shane Mac, director ejecutivo de 40 años de la empresa de software XMTP Labs, describió el incidente en un relato en primera persona publicado por Business Insider el viernes. Mac había creado lo que llamó un agente CFO personal en Grok Bot, el producto de agente de xAI, a fines de agosto, dándole acceso de solo lectura a sus cuentas corrientes y de ahorro personales y ordenándole que le enviara un informe financiero mensual. En cambio, el 1 de octubre, el agente entregó ese informe a un canal Slack del equipo ejecutivo de su propia empresa. Para los lectores que siguen cómo los agentes de IA siguen chocando con el mundo real, el episodio es otra entrada en un archivo de incidentes en rápido crecimiento.
Un agente CFO personal con un problema de enrutamiento
Mac dijo que configuró el agente después de que despegara la ola de asistentes personales de IA a fines del año pasado, cuando experimentó con OpenClaw y otros arneses de agentes. Su idea era sencilla: un agente que pudiera responder preguntas como cuáles eran sus saldos, cómo eran sus gastos recurrentes, si algo parecía fraudulento y dónde podía reducir costos. Llamó a su chat grupal de agentes de IA "Mi equipo ejecutivo personal".
La configuración funcionó bien durante semanas de ejecuciones semanales. Luego, el jueves 1 de octubre comenzó la primera auditoría mensual.
"Nuestro jefe de producto me envió un mensaje directo sobre Slack", dijo Mac a Business Insider. "Él dijo: 'Oye, aviso. Creo que querías publicar el saldo bancario XMTP'".
El mensaje llegó a un chat de Slack titulado "Equipo ejecutivo", que comprende el equipo ejecutivo de XMTP, no el chat grupal de agentes personales que Mac había previsto. El informe incluía el saldo de su cuenta de ahorros, sus mayores gastos del mes y una nota de que superó su objetivo de gasto mensual debido a un granero que está construyendo en su propiedad. El detalle del granero, dijo Mac, fue lo que le indicó a su jefe de producto que estaba mirando las finanzas personales de Mac en lugar de las cifras de la empresa.
Mac borró el mensaje y preguntó al agente por qué había enviado el informe a la empresa. El agente se disculpó y se ofreció a borrar el mensaje, que ya había desaparecido.
La causa raíz: conexiones compartidas, nombres de canales similares
Cuando el equipo de xAI investigó, su conclusión fue, en cierto modo, más inquietante de lo que hubiera sido un mal funcionamiento. El agente del CFO no había tenido alucinaciones ni se había portado mal; había hecho exactamente lo que Mac le pidió. La falla estaba en las tuberías de abajo.
Según el relato de Mac, el agente confundió su destino porque los canales tenían nombres similares y, lo que es más importante, porque todos sus agentes separados en realidad compartían las mismas conexiones subyacentes, aunque se sentían como asistentes distintos. Había conectado su cuenta de Slack a uno de ellos y el agente financiero acabó logrando llegar al canal equivocado a través de ese acceso compartido.
"Estaba haciendo exactamente lo que le dije que hiciera", dijo Mac. "Pero confundió el destino".
La respuesta de xAI llegó rápidamente según los estándares de software empresarial. La compañía concluyó que los usuarios deben otorgar permiso explícitamente antes de que un agente pueda mover información a otros canales y envió una solución la noche anterior a la publicación del artículo de Business Insider, según el relato de Mac.
Por qué este incidente importa más de un mensaje filtrado
A primera vista, la filtración estaba contenida: el resumen financiero personal de un ejecutivo visto brevemente por un puñado de colegas, un agente que se disculpó y una solución enviada en cuestión de días. Pero el patrón que expone es el mismo que ha producido una serie de incidentes de mayor riesgo en los últimos meses, como AI Buzz Wire ha informado repetidamente, desde un modelo antrópico que presentó una denuncia falsa de homicidio a la policía de Filadelfia hasta el comportamiento de agentes deshonestos que llevó a la Casa Blanca a exigir que la IA informara sobre incidentes.
La cuestión central es que la vida digital personal y profesional se desarrolla en la misma infraestructura. Mac usaba Google en el trabajo y Google en casa, y sus agentes heredaron ese límite borroso. Cuando un agente mantiene conexiones permanentes con correo electrónico, calendarios, plataformas bancarias y de pago como Stripe, el alcance de un error de ruta ya no es teórico.
"Tenemos que asegurarnos de que haya mejores controles sobre a qué tienen acceso los agentes", dijo Mac. Señaló que la gente realmente quiere estos asistentes y los encuentra útiles; el desafío es crear sistemas de permisos que mantengan a los usuarios en control de lo que han otorgado y trazar una línea mucho más clara entre los contextos personal y laboral.
Tras el incidente, Mac desconectó todo: Google, sus calendarios, su banca, Stripe. Es probable que su cautela resuene. Las plataformas de agentes han pasado el año pasado compitiendo para agregar integraciones (más conexiones, más acciones autónomas, menos mensajes de confirmación) porque el acceso fluido es lo que hace que los asistentes se sientan mágicos. El episodio de XMTP Labs es una demostración pequeña y concreta de por qué las transferencias explícitas entre contextos se están convirtiendo en un requisito del producto en lugar de algo agradable de tener.
El episodio también subraya la rapidez con la que se están formando normas. Hace un año, un agente que filtraba un saldo bancario a sus compañeros de trabajo habría sido una curiosidad. En octubre de 2026, con los reguladores, los fiscales y la Casa Blanca ya centrados en el mal comportamiento de los agentes, se lee como un estudio de caso sobre por qué los límites de permisos, no la inteligencia, pueden ser el problema más difícil en la IA del consumidor.
---
Manténgase a la vanguardia de la IAObtenga las últimas noticias, análisis y avances en IA, todo en un solo lugar.
Leer más noticias sobre IA →
