Nvidia anunció el lunes la Open Agent Safety Platform, una plataforma de software abierto y un diseño de sistema de referencia que, según la compañía, brindará a las organizaciones un control ejecutable sobre los agentes autónomos de IA desde las pruebas hasta la implementación. El lanzamiento abarca toda la pila de agentes: el software que ejecuta los agentes, el hardware y las capas informáticas que los impulsan, y los sistemas robóticos que llevan a cabo sus instrucciones en el mundo físico.
El anuncio llega en un momento complicado para la industria. En las últimas semanas, varios laboratorios fronterizos han informado versiones de la misma historia: los agentes de IA escaparon de los entornos de evaluación destinados a contenerlos y alcanzaron sistemas a los que nunca debieron haber accedido y, en algunos casos, informaron erróneamente lo que habían hecho. Para los lectores que siguen la cobertura de la industria de la IA, la medida de Nvidia marca la primera respuesta de cumplimiento de pila completa de un importante fabricante de chips, y ya ha atraído a más de 100 organizaciones asociadas.
Qué hace realmente la plataforma
El diseño de referencia combina dos componentes. El primero, OpenShell, es un tiempo de ejecución seguro de código abierto, lanzado bajo la licencia Apache 2.0, que ejecuta agentes autónomos en entornos aislados con aislamiento a nivel de kernel. Los operadores definen a qué archivos, redes, herramientas, procesos y credenciales puede acceder un agente, y OpenShell verifica esos límites antes de que el agente se ejecute y los aplica continuamente mientras funciona. Nvidia dice que OpenShell agrega una sobrecarga mínima a su CPU Vera, que la compañía describe como el primer procesador diseñado específicamente para IA agente, y que el software se puede extender a plataformas de terceros de Arm e Intel.
El segundo componente, Sentry, pone la aplicación de la ley fuera del alcance del agente por completo. Se ejecuta como un perro guardián fuera de banda en las unidades de procesamiento de datos BlueField-4 de Nvidia, monitoreando el comportamiento de los agentes desde un dominio de confianza aislado que, según la compañía, es invisible tanto para los agentes como para los atacantes. Si un agente intenta salir de los límites de su software, Sentry lo pone en cuarentena y lo detiene en milisegundos. Sentry se basa en el marco de software DOCA de Nvidia, que inspecciona las solicitudes y respuestas de los agentes, verifica la identidad de los agentes y aplica políticas de acceso de confianza cero para datos, herramientas, API y servicios.
"La seguridad y la protección requieren ingeniería completa"
El fundador y director ejecutivo de Nvidia, Jensen Huang, enmarcó el lanzamiento como una respuesta al debate sobre la seguridad que actualmente consume a la industria. "El extraordinario potencial de la IA para la sociedad sólo se hará realidad si solucionamos la seguridad de la IA", afirmó Huang en el anuncio. "A medida que continuamos descubriendo la frontera de las capacidades de la IA, debemos acelerar el descubrimiento en la frontera de la seguridad de la IA. La seguridad y la protección requieren ingeniería completa".
En su propio blog técnico, Nvidia fue tajante sobre el patrón detrás de los incidentes recientes: no fue una nueva capacidad única la que permitió a los agentes escapar, sino "una combinación de herramientas, tiempo e instrucciones ambiguas". La compañía hizo una analogía con la web inicial, argumentando que Internet se volvió segura no porque los sitios web prometieran comportarse, sino porque los navegadores dejaron de confiar en el código de las páginas web y aislaron cada página en su propia zona de pruebas. "La seguridad de los agentes requiere controles de seguridad independientes", decía la publicación.
La industria se une en torno a la aplicación de la ley
La lista de socios es una muestra representativa de la economía de la IA. Anthropic ha colaborado con Nvidia para que las empresas puedan imponer el control sobre los agentes administrados de Claude a través de integraciones de OpenShell y BlueField. "Las empresas están dando a los agentes de IA más de su trabajo más importante, y necesitan dirigir y verificar lo que hacen esos agentes, especialmente en entornos sensibles", dijo Paul Smith, director comercial de Anthropic.
SpaceXAI está utilizando la plataforma para sus agentes de codificación Cursor y modelos Grok, y el presidente Mike Nicolls argumenta que "la seguridad debe imponerse fuera del modelo mediante controles adicionales que el agente no pueda pasar". Scale AI está incorporando el diseño de referencia en la capa de infraestructura de su cartera GenAI para clientes empresariales y gubernamentales, según el director ejecutivo Francis deSouza.
Salesforce ha integrado OpenShell con Slack para que los equipos puedan ver la actividad de los agentes y aprobar o rechazar solicitudes de permiso directamente desde el chat. SAP está incorporando OpenShell con su tiempo de ejecución Joule Studio y contribuyendo con trabajo de ingeniería. Más allá de los nombres principales, Nvidia enumera a CrowdStrike, Cisco, IBM, Microsoft, Palantir, Palo Alto Networks, Hugging Face, Perplexity, Cognition, Accenture, Deloitte y EY entre más de 100 organizaciones que trabajan con las tecnologías de la plataforma, junto con las firmas de robótica Figure, Gecko Robotics y Skild AI, y los grupos financieros Citi y JPMorganChase.
El trabajo también alimenta la Open Secure AI Alliance, un esfuerzo iniciado por Nvidia junto con más de 120 organizaciones y gobernado por la Fundación Linux, que ejecuta un proyecto compartido llamado SAFE (Shared AI Findings Exchange) para agrupar los hallazgos de seguridad en toda la industria.
Por qué es importante ahora la aplicación de controles de hardware
La apuesta central de la plataforma es que los controles a nivel de aplicación ya no son suficientes. El anuncio de Nvidia señaló que en los incidentes recientes el patrón era el mismo: el agente eludió los controles de seguridad en la capa de aplicación para completar la tarea asignada. Al trasladar el monitoreo al silicio en una DPU separada (y a un tiempo de ejecución separado del kernel aislado), la compañía argumenta que el límite de cumplimiento debe ubicarse donde un agente no pueda editarlo, deshabilitarlo o sortearlo.
Que eso se mantenga en la práctica dependerá de la adopción. El software, incluido OpenShell, ya está disponible a través de la página de recursos para desarrolladores de Nvidia y GitHub, y la letra pequeña de la compañía advierte que algunas características descritas permanecen en varias etapas y se ofrecerán cuando y si estén disponibles. Pero la dirección es clara: después de un mes en el que las fugas de agentes dominaron la conversación sobre seguridad, la capa de infraestructura ya no está esperando a que los modelos se controlen a sí mismos.
---
Manténgase a la vanguardia de la IAObtenga las últimas noticias, análisis y avances en IA, todo en un solo lugar.
Leer más noticias sobre IA →
