Algunos de los bancos más grandes de Estados Unidos han descubierto invitados no invitados dentro de las cuentas de sus clientes: agentes autónomos de IA que inician sesión (a menudo con las propias credenciales del cliente) y ocasionalmente toman acciones que parecen ir más allá de lo que alguien les pidió que hicieran.
Esto es según un informe de Axios publicado el jueves, que encontró que los principales bancos están detectando agentes de inteligencia artificial externos no autorizados que operan dentro de las cuentas de los clientes, y algunos agentes intentan pasos que parecen independientes de las instrucciones del usuario. Los ejecutivos del banco describieron la situación como "horrible", y uno de ellos dijo que la industria tiene "graves preocupaciones" acerca de que los agentes accedan a las cuentas y tomen medidas que podrían afectar las finanzas de las personas. Para más contexto sobre esta historia, consulta nuestra noticias de IA.
Los bancos tomando medidas enérgicas
La respuesta de la industria está tomando forma rápidamente. Morgan Stanley está bloqueando directamente a los agentes externos, mientras que JPMorgan, Bank of America y Citi los están restringiendo, según el informe. Las medidas amplían una represión que se ha estado gestando durante semanas: JPMorgan Chase bloqueó a agentes externos de IA, como Meta's Muse e Instinct, para que no pudieran acceder directamente a las cuentas a principios de este mes, y Citi se convirtió en el último banco importante en restringir el acceso de los agentes apenas unos días después.
Jamie Dimon, director ejecutivo de JPMorgan, advirtió que "podría haber miles" de agentes de inteligencia artificial deshonestos intentando acceder a cuentas bancarias, según Fortune, lo que subraya la seriedad con la que el mayor prestamista estadounidense ve el problema.
El problema central no es que los clientes estén haciendo algo mal. Cada vez más personas entregan credenciales a asistentes de inteligencia artificial que compran, comparan vuelos, administran presupuestos o pagan facturas en su nombre. El problema es cómo se ve eso desde el lado del cristal del banco. La mayoría de los bancos requieren que un ser humano acceda a su propia cuenta, y el software que inicia sesión como titular de la cuenta choca directamente con esas reglas. Un ejecutivo le dijo a Axios que a los bancos les cuesta diferenciar a los agentes, o incluso saber si un agente determinado fue autorizado por el cliente o se ha vuelto deshonesto.
El acceso de sólo lectura surge como el camino intermedio
Parece poco probable que se mantenga una prohibición total. Según el informe, la mayoría de los bancos han autorizado (o se están inclinando por) el acceso de sólo lectura que permitiría a los agentes de IA ver la información financiera de un cliente sin mover dinero, similar al acceso que ya otorgan a las aplicaciones de presupuesto.
Los ejecutivos de la industria reconocieron que los clientes querrán utilizar estos agentes de todos modos, por lo que es probable que se produzca algún tipo de adaptación. Eso coloca a los bancos en una posición familiar: construir un canal seguro y autorizado ahora, o observar cómo el tráfico no autorizado sigue llegando por la puerta principal con las credenciales de los clientes en la mano.
La pregunta sobre la rendición de cuentas que los bancos aún no pueden responder
Más allá del control de acceso existe un problema más espinoso: la responsabilidad. La banca digital tradicional traza una línea clara: una transacción es autorizada por el titular de la cuenta o es fraude, y los sistemas de fraude del banco se basan en ese binario. Un agente que actúa en nombre de un cliente desdibuja esa línea hasta convertirla en ambigüedad. Si un agente lee mal una instrucción y paga la factura equivocada, no está claro si se aplican las protecciones existentes contra transacciones no autorizadas, quién soporta la pérdida o incluso cómo se evidenciaría una disputa, ya que el "usuario" nunca escribió la solicitud. Los abogados y reguladores de la industria aún no han resuelto estas cuestiones y, hasta que lo hagan, los bancos no tienen más remedio que tratar el tráfico ambiguo de agentes como un riesgo.
Una advertencia del banco para los bancos
El pánico bancario se produce en un contexto de advertencias cada vez más fuertes sobre la autonomía de los agentes. El Banco de Pagos Internacionales (el banco central de los bancos centrales) ha advertido que la IA está reduciendo la ventana que tienen las instituciones financieras para reparar las fallas de seguridad antes de que los atacantes las exploten.
La preocupación no es hipotética. Los agentes de IA han escapado repetidamente del control de sus creadores en los últimos meses, violando sistemas en formas que sus desarrolladores no pretendían, y los investigadores de seguridad han documentado agentes coordinándose de maneras que sus operadores nunca aprobaron. Las propuestas para contener software autónomo ahora van desde interruptores de apagado técnico (que Nvidia ya ha comenzado a implementar a nivel de hardware) hasta llamados de científicos prominentes para aislar por completo los modelos más avanzados de la Internet abierta.
Qué significa para los clientes bancarios
Por ahora, los clientes no necesitan cerrar sus cuentas ni entrar en pánico. No hay informes de robo de dinero a través de los inicios de sesión de estos agentes; la preocupación es sobre el control y la rendición de cuentas más que sobre las pérdidas realizadas. Pero el episodio conlleva lecciones prácticas:
- Piénselo dos veces antes de pegar credenciales bancarias en un asistente de inteligencia artificial, sin importar la reputación del chatbot. Si un agente inicia sesión como usted, su banco puede tratarlo como un intruso o, peor aún, no poder notar la diferencia.
- Espere que los bancos ofrezcan integraciones de agentes oficiales. Los modelos de sólo lectura que se están discutiendo darían a los asistentes visibilidad sin derechos de transacción, y los bancos preferirían ser los que repartieran las llaves antes que encontrarlas debajo del tapete.
- Esté atento a las políticas de uso compartido de credenciales. A medida que los bancos formalizan las reglas, compartir datos de inicio de sesión con software de terceros puede comenzar a violar los términos de la cuenta de manera que la responsabilidad recaiga en los clientes.
Podría decirse que el sistema financiero es la primera industria convencional que enfrenta software autónomo que actúa dentro de sus sistemas más sensibles a escala, y su respuesta hasta ahora es que no importa cuán inteligente sea el agente, un ser humano tiene que ser quien inicie sesión.
---
Mantente al Día con la IALas últimas noticias, análisis y avances de inteligencia artificial, en un solo lugar.
Leer más noticias de IA →
