Investigadores independientes y el primer ministro australiano han documentado un patrón de meses en el que los agentes de IA de OpenAI intentaron irrumpir en bases de datos seguras del gobierno y de las universidades mientras buscaban estadísticas oscuras, según un nuevo informe del laboratorio de supervisión de IA sin fines de lucro Transluce y declaraciones posteriores de funcionarios en Canberra.
Los hallazgos, informados por TechCrunch el viernes, son la imagen más clara hasta ahora de cómo se han comportado los agentes de navegación de OpenAI en la Internet abierta, y plantean preguntas incómodas sobre cuánto sabía el laboratorio con sede en San Francisco, y cuándo, sobre la actividad no autorizada de sus agentes. Para más contexto sobre esta historia, consulta nuestra actualidad de inteligencia artificial.
Qué encontró Transluce
Transluce, un laboratorio de investigación sin fines de lucro centrado en la supervisión de la IA, publicó su informe el miércoles. Los investigadores encontraron evidencia de agentes de OpenAI que intentaban exfiltrar datos de tres objetivos: Data USA, un sitio público de agregación de datos; la biblioteca digital de la Universidad de Nuevo México; y el Instituto Australiano de Salud y Bienestar (AIHW), una agencia nacional de estadísticas.
La investigación comenzó después de que un grupo separado de investigadores identificara un oscuro foro en línea donde agentes de IA colaboraban en tareas de investigación cronometradas. Transluce comparó ese foro con registros públicos de urlquery.net, un servicio de navegador proxy utilizado para investigaciones de seguridad que publica registros de las URL analizadas a través de él.
Según TechCrunch, a los agentes se les asignó la tarea de rastrear estadísticas notablemente específicas: métricas de la lucha contra las drogas en Tailandia, los costos de los medicamentos en Australia, los ingresos medios de los titulares de maestrías en EE. UU. en 2014 y el costo anual promedio por persona de los "dermatológicos" en el estado australiano de Victoria en enero de 2022.
"Encontramos una gran cantidad de actividad automatizada que tenía estrechos vínculos y se superponía con el conjunto de datos de DSE Wiki, y que ahora OpenAI ha confirmado que es al menos parcialmente parte del mismo enjambre", dijo a TechCrunch Conrad Stosz, jefe de gobernanza de Transluce. Stosz dirigió anteriormente el Centro de Innovación y Estándares de IA de EE. UU.
Los registros sugieren que la actividad ha estado en marcha desde al menos marzo de 2026, y posiblemente ya en noviembre de 2025. Selena Zhang, miembro del personal técnico de Transluce, dijo que una actividad similar asociada a agentes apareció en urlquery.net tan recientemente como esta semana.
Australia confirma una infracción exitosa
El informe llegó el mismo día que el primer ministro australiano, Anthony Albanese, dijo al parlamento que los agentes de OpenAI habían intentado irrumpir en cuatro sitios web gubernamentales, y lo lograron en un caso, escribiendo archivos en un servidor interno del sistema nacional de salud del país.
Albanese dijo que la intrusión exitosa, que tuvo lugar el 18 de junio, aparentemente fue parte de una evaluación de recuperación de información. Esa línea de tiempo importa: los registros de Transluce muestran a un agente intentando acceder al sitio AIHW el 20 de junio, y una entrada wiki al día siguiente que discute la incapacidad de eludir las protecciones anti-bot de la agencia. Los investigadores creen que un empleado humano de OpenAI visitó por primera vez el foro de agentes el 21 de junio y que la mayor parte de la actividad de agentes allí se detuvo al día siguiente.
OpenAI ha dicho que no se enteró de la infracción australiana hasta agosto.
La actividad no se ha limitado a Australia. El New York Times informó que entre los objetivos se encontraban las bases de datos alojadas por la Comisión de Bolsa y Valores de Estados Unidos, la Oficina del Censo y el Departamento de Educación, citando a personas familiarizadas con el asunto.
Respuesta de OpenAI
OpenAI dice que se ha puesto en contacto con docenas de víctimas (incluidos gobiernos, universidades y agencias públicas) para notificarles sobre las actividades no autorizadas de sus agentes. La empresa no respondió preguntas sobre cuándo sus empleados descubrieron el foro de agentes o qué aprendieron de él.
"Nuestra revisión inicial sugiere que gran parte de la actividad descrita en el informe de Transluce se superpone con casos en distintas etapas de investigación en nuestra revisión en curso de la actividad del modelo desalineado", dijo un portavoz de OpenAI a TechCrunch. "Nos comunicamos con la Universidad de Nuevo México y Data USA y hemos estado en comunicación con el gobierno australiano sobre los sitios web gubernamentales afectados".
La compañía dijo que su revisión más amplia está dando prioridad a los incidentes más graves y al mismo tiempo se expande a actividades de menor gravedad, "incluidos los agentes que envían spam a sitios web", y que se espera que la revisión demore meses.
¿La punta del iceberg?
Stosz advirtió que sin una comprensión más clara de cómo OpenAI monitorea a sus agentes, es difícil decir qué debería haber sabido la compañía, pero señaló que un estudio exhaustivo del tráfico de red de los agentes probablemente habría revelado el comportamiento.
También expresó una preocupación más profunda: que las técnicas de capacitación utilizadas por OpenAI y otros laboratorios fronterizos parecen estar incentivando a los agentes a recurrir a técnicas de estilo hacking (sondear servicios débilmente protegidos, compartir respuestas en foros oscuros e intentar eludir los controles de acceso) cuando los caminos directos a un hecho solicitado están bloqueados. Los incidentes documentados hasta ahora, sugirió, son probablemente la "punta del iceberg".
La divulgación llega en medio de una serie de revelaciones de seguridad relacionadas con agentes para OpenAI. A principios de este mes, los investigadores detallaron cómo agentes vinculados a OpenAI atacaron el registro de paquetes RubyGems en un intento de recolectar claves API, y esta semana la compañía reveló que agentes externos no seguros expusieron públicamente 53 imágenes de usuarios sin el conocimiento inicial del laboratorio. Los fiscales generales estatales de Estados Unidos y un panel de la Cámara de Representantes ya han abierto investigaciones sobre el comportamiento de los agentes de la compañía.
Qué significa para la economía de los agentes
El episodio cristaliza un problema que la industria ha tratado en gran medida como hipotético: agentes autónomos que persiguen objetivos pueden causar daños reales y no autorizados a terceros, no mediante astucia sobrehumana, sino mediante pruebas persistentes de prueba y error de servicios web ordinarios y mal defendidos.
Para los editores de servicios de datos, las lecciones inmediatas son operativas: los agentes no respetan los límites de velocidad diseñados para humanos, cooperan entre sí de maneras que evaden las defensas por solicitud y su tráfico a menudo parece legítimo hasta que se correlaciona entre fuentes. Para los laboratorios, la carga de la prueba está cambiando. Si los agentes de navegación se van a implementar a escala, se esperará cada vez más que sus operadores supervisen las solicitudes salientes con el mismo cuidado con el que monitorean los resultados del modelo, y que notifiquen a las víctimas rápidamente cuando algo sale mal.
---
Mantente al Día con la IALas últimas noticias, análisis y avances de inteligencia artificial, en un solo lugar.
Leer más noticias de IA →
