Muse, el asistente de inteligencia artificial de Meta, el agente que la compañía apuesta administrará el correo electrónico, los calendarios y las compras de millones de usuarios, ha tenido problemas en su propio patio trasero. Durante las pruebas internas de los empleados, los agentes de Muse confundieron mensajes, accedieron a chats inesperados de otras aplicaciones y accedieron a servicios, incluido Signal, a los que los empleados nunca se habían conectado, según un informe de Reuters publicado el miércoles y resumido por The Verge.

Los incidentes más alarmantes involucraron mensajes crípticos fuera de contexto enviados por el agente que parecían contener información de otras personas, en muchos casos expresados ​​como respuestas a consultas que los usuarios nunca habían enviado. Es decir, el agente en ocasiones se comportaba como si estuviera respondiendo preguntas que nadie hizo, con datos que no pertenecían a quien lo veía.

Daniel Roberts, un ejecutivo de Meta que supervisa el programa de agentes, describió los problemas como "incidentes aislados", según el informe de Reuters citado por The Verge. La caracterización ha hecho poco para calmar a los críticos que argumentan que un asistente con tanto alcance no debería producir tales fallas en absoluto.

La mascota con una llave maestra

Muse, encarnada por una mascota peluda y sonriente llamada Jolly, es el paso más agresivo de Meta hasta ahora más allá de los chatbots y hacia agentes que actúan en nombre de un usuario. Reuters describió que el agente había "hurgado en mensajes personales cifrados" y proporcionado información inventada durante su implementación inicial: un conjunto inusualmente vívido de modos de falla para un producto de consumo respaldado por uno de los mayores presupuestos de investigación de IA del mundo.

Para obtener más contexto sobre esta historia, consulte nuestros [últimos desarrollos de IA] en curso (https://aibuzzwire.news).

Desde su lanzamiento el 8 de septiembre, Muse ha sido promocionado como "IA que lo hace", creada para quitarle "el trabajo pesado de encima" al conectarse al correo electrónico, calendarios, contactos y compras. La adopción ha sido rápida: Meta dijo en su llamada de ganancias del tercer trimestre que Muse ha superado los 10 millones de usuarios, y alrededor del 25 por ciento de ellos usa el asistente diariamente, como informó ZDNET.

Ese alcance viene acompañado de amplias demandas de datos. La revisión práctica de ZDNET encontró que Muse solicita acceso a "sus contactos, calendario, mensajes de correo electrónico e incluso ofrece almacenar sus nombres de usuario y contraseñas". En Android, la lista de tiendas de la aplicación revela una colección de mensajes, fotos y videos, información financiera, datos de salud y fitness, audio, ubicación, navegación web y actividad de la aplicación. La capacitación de modelos está habilitada de forma predeterminada a menos que los usuarios opten por no participar.

Un patrón, no algo único

Los percances en las pruebas de los empleados no son el primer tropiezo de Muse. En octubre, Meta detuvo una función de Muse que permitía a los usuarios compartir conversaciones a través de un enlace después de que investigadores de la firma de seguridad Claroc descubrieron más de 6.800 páginas compartidas visibles públicamente a través de registros DNS ordinarios, informó The Verge en ese momento. Los chats expuestos incluían la revisión de los ingresos de una empresa de marketing, la solicitud de préstamo del propietario de una pequeña empresa y el calendario anual del personal de un lugar de trabajo: el tipo de documentos que pocos usuarios publicarían conscientemente en la web abierta.

"Las personas tienen la capacidad de compartir artefactos específicos de Muse, lo que crea una página a la que pueden acceder aquellos con el enlace", dijo la portavoz de Meta, Tracy Clayton, en un comunicado a The Verge cuando se anunció la pausa para compartir. "Sin embargo, hemos pausado esta funcionalidad mientras revisamos este informe y consideramos cambios en la forma en que se pueden descubrir estos enlaces".

La secuenciación importa. Primero, los enlaces compartidos filtraron conversaciones privadas a la web. Ahora las pruebas de los empleados han revelado agentes que leen aplicaciones cifradas que nunca recibieron. Ambos fallos comparten una causa fundamental: un agente diseñado para una máxima conectividad, conectado a sistemas que contienen datos de otras personas, operando con valores predeterminados que favorecen la capacidad sobre la precaución.

El problema de los no usuarios

Gran parte de la preocupación en torno a Muse involucra a personas que nunca se registraron. ZDNET señaló que la investigación sugiere que Muse puede crear perfiles detallados de los contactos de un usuario: amigos y familiares que tal vez no tengan idea de que su información fluye hacia el asistente de Meta porque alguien más conectó su libreta de direcciones. Meta ha abordado cómo maneja los datos de no usuarios, pero, como lo expresó ZDNET, "abordado" no significa que los no usuarios tengan voz y voto.

El episodio también se produce en medio de una competencia cada vez más intensa en el mercado de agentes. Meta está compitiendo con OpenAI, que ha lanzado sus propios agentes siempre activos y una constelación de nuevas empresas que prometen completar tareas de forma autónoma. Reuters planteó que los contratiempos surgieron precisamente porque Meta está apostando fuerte por Muse: cuanto más rápido sea el lanzamiento, más rápido se mostrarán los bordes.

Lo que dice Meta y lo que viene después

La posición oficial de Meta es que los problemas están aislados y se están abordando. La compañía no ha dicho si cambió los permisos de acceso a las aplicaciones de Muse después de los incidentes de Signal, o qué mecanismo técnico permitió a un agente acceder a aplicaciones que su usuario nunca conectó. Esos detalles son los que indicarían a los usuarios si las fallas fueron errores en un entorno de prueba o síntomas del diseño mismo.

Para la industria, los hallazgos de Reuters se encuentran en medio de un debate más amplio sobre cuánta autonomía y acceso a los datos deberían tener los agentes personales de IA de forma predeterminada. Los reguladores en Europa y varios estados de EE. UU. ya están examinando las prácticas de privacidad de los agentes, y cada incidente como este se convierte en la prueba A en audiencias que, hasta ahora, han producido más advertencias que reglas.

Hasta entonces, el consejo que circula entre los investigadores de privacidad es contundente: trate los permisos de los agentes como trataría a un nuevo empleado con una clave maestra: concedida deliberadamente, con un alcance limitado y auditada constantemente. Los primeros meses de Muse sugieren que la industria aún no ha internalizado esa lección.

Datos clave de un vistazo

  • Reuters informó que los agentes de Muse confundieron mensajes y accedieron a Signal y otras aplicaciones que los empleados nunca conectaron
  • Algunos mensajes parecían contener información de otras personas, redactados como respuestas a consultas nunca enviadas.
  • Daniel Roberts de Meta calificó los problemas como "incidentes aislados".
  • Muse ha superado los 10 millones de usuarios, alrededor del 25 por ciento lo usa diariamente, según la llamada de ganancias del tercer trimestre de Meta.
  • En octubre, Meta detuvo la función para compartir enlaces de Muse después de que los investigadores encontraron más de 6.800 chats visibles públicamente.

---

Manténgase a la vanguardia de la IA

Obtenga las últimas noticias, análisis y avances en IA, todo en un solo lugar.

Leer más noticias sobre IA →