NVIDIA introduce Open Agent Safety Platform, una arquitectura abierta que lleva la seguridad de los agentes de inteligencia artificial más allá del modelo y de la aplicación que los ejecuta. La solución combina OpenShell, un entorno de tiempo de ejecución de código abierto que aplica políticas durante la ejecución, con Sentry, un sistema de supervisión que utiliza las DPU BlueField-4 para monitorizar la actividad de los agentes desde una capa independiente.
Resumen rápido: claves para agentes de IA seguros en 30 segundos
- NVIDIA integra OpenShell y Sentry para gestionar agentes desde el software hasta la infraestructura que realiza sus tareas.
- OpenShell establece entornos aislados y aplica políticas sobre qué puede hacer cada agente, independientemente del modelo que utilice.
- Sentry supervisa fuera de banda mediante BlueField-4, detectando y poniendo en cuarentena a agentes que salgan de sus límites establecidos.
- La plataforma ya cuenta con la colaboración de más de 100 organizaciones, incluyendo Anthropic, Microsoft, Cisco, CrowdStrike, SAP, Salesforce, Red Hat y Palo Alto Networks.
- OpenShell es de código abierto y puede extenderse a plataformas de terceros, incluyendo soluciones basadas en Arm e Intel.
Este movimiento responde a una realidad cada vez más evidente: un agente de IA no se limita a generar respuestas. Puede acceder a archivos, utilizar herramientas, ejecutar código, consultar servicios, manejar credenciales e interactuar con sistemas empresariales. Cuando recibe autonomía durante horas o días, una seguridad basada únicamente en instrucciones dentro del modelo deja de ser suficiente.
NVIDIA propone una arquitectura diferente: el agente puede decidir qué hacer, pero la infraestructura debe determinar qué está permitido. Este control se sitúa fuera del modelo y, con Sentry, también fuera del entorno de ejecución.
OpenShell: el sandbox como primera línea de defensa
OpenShell es un runtime de código abierto diseñado para ejecutar agentes autónomos en entornos aislados.
Su función principal es crear una frontera entre el agente y los recursos del sistema, permitiendo que las políticas controlen aspectos como el acceso a archivos, conexiones de red o procesos que el agente puede lanzar. Estas restricciones no dependen únicamente del prompt o de las instrucciones que recibe el modelo.
Esta es una diferencia clave: un agente puede recibir la orden de no acceder a ciertas credenciales, pero esa instrucción queda en el mismo entorno lógico del modelo. OpenShell busca trasladar esa restricción a una capa externa, difícil de modificar simplemente cambiando el comportamiento del agente.
NVIDIA ya integraba OpenShell en su estrategia de software para agentes y ahora lo incorpora en una plataforma de seguridad más amplia. El proyecto es de código abierto y puede usarse con modelos abiertos o propietarios.
Además, la compañía destaca su integración con NVIDIA Vera, su CPU diseñada para cargas de trabajo de IA basada en agentes. Sin embargo, OpenShell no está limitado a ese hardware, ya que puede extenderse a plataformas de terceros, incluidas aquellas en arquitecturas Arm e Intel.
Esto ayuda a distinguir dos conceptos que a menudo se confunden: usar OpenShell y usar hardware NVIDIA. El primero es software abierto, mientras que el segundo forma parte de la infraestructura que NVIDIA propone.
Sentry: supervisión a nivel de infraestructura
Lo más innovador de esta propuesta es Sentry.
Sentry es un sistema de supervisión fuera de banda basado en las NVIDIA BlueField-4 DPU. Una DPU, o Data Processing Unit, es un procesador especializado que descarga tareas de infraestructura, principalmente relacionadas con redes, almacenamiento y seguridad.
NVIDIA usa esta posición para crear una capa de supervisión independiente.
Sentry puede inspeccionar solicitudes y respuestas de los agentes, verificar su identidad, generar telemetría y aplicar políticas de acceso a datos, herramientas, API y servicios. Esta tecnología aprovecha NVIDIA DOCA, la plataforma de software de la compañía para sus DPU.
Se afirma que Sentry puede poner en cuarentena y detener un agente en milisegundos si intenta salirse de los límites definidos. No obstante, esto es una capacidad propuesta dentro de la arquitectura de referencia, no una garantía de bloqueo automático de comportamientos maliciosos en todos los despliegues.
Lo que diferencia a esta solución de sistemas tradicionales es el lugar donde se realiza el control. Sentry supervisa en un dominio separado del agente, por lo que el propio agente no tiene acceso directo a los mecanismos de vigilancia.
La arquitectura queda así dividida en dos capas:
| Capa | Tecnología | Función |
|---|---|---|
| Ejecución | OpenShell | Crear entornos aislados y aplicar políticas |
| Hardware | BlueField-4 + Sentry | Supervisar y aplicar controles fuera de banda |
| Infraestructura | DOCA | Programar las funciones de seguridad de la DPU |
| Cómputo | NVIDIA Vera | Ejecutar cargas de trabajo de agentes |
| Modelos | Abiertos o propietarios | Proveer capacidades de IA |
El objetivo es que la seguridad permanezca incluso si cambia el modelo que respalda al agente.
NVIDIA busca convertir esto en una capa común para todos los agentes
El anuncio se acompaña de una extensa lista de socios. NVIDIA asegura que más de 100 organizaciones ya trabajan con la Open Agent Safety Platform, entre ellas Anthropic, Cisco, CrowdStrike, Dell Technologies, HPE, Hugging Face, Microsoft, Palantir, Palo Alto Networks, Perplexity, Red Hat, Salesforce, SAP, Scale AI y ServiceNow.
La colaboración con Anthropic es especialmente significativa, pues vincula esta arquitectura con Claude Managed Agents. En este esquema, el ciclo del agente se ejecuta en un servidor separado de los entornos de sandbox donde realiza sus tareas. OpenShell y BlueField incorporan controles adicionales sobre el acceso a estos entornos.
Salesforce está integrando OpenShell en Slack. La integración permite consultar actividades y eventos de auditoría, además de gestionar desde la plataforma las solicitudes de permisos adicionales para los agentes.
SAP, por su parte, incorpora OpenShell en Joule Studio Runtime dentro de SAP Business AI Platform, mientras que Red Hat trabaja con OpenShell y DOCA en su infraestructura de IA empresarial.
El proyectos también llega a sistemas físicos. NVIDIA cita a Figure, Gecko Robotics y Skild AI como empresas de robótica que están implementando OpenShell para añadir controles de seguridad a sistemas que actúan en el mundo real. En el sector financiero, destacan Citi y JPMorganChase, junto con varias compañías energéticas estadounidenses que colaboran en estas tecnologías.
Un elemento adicional de interés es que NVIDIA busca que esta propuesta no quede aislada de otras iniciativas de seguridad en IA. La plataforma se enmarca en la Open Secure AI Alliance, creada junto a más de 120 organizaciones y bajo la gobernanza de la Linux Foundation. Su objetivo es promover la colaboración en investigación, herramientas y prácticas para mejorar la seguridad de los agentes.
El desafío: controlar agentes con permisos cada vez mayores
NVIDIA intenta resolver una problemática que no está vinculada a un modelo específico. Un agente empresarial puede estar conectado a repositorios de código, sistemas internos, bases de datos, herramientas de productividad, servicios externos y APIs.
Mientras más sistemas puede utilizar, mayor es la superficie que la infraestructura debe supervisar.
OpenShell establece un primer nivel de protección en el entorno de ejecución, mientras que Sentry añade otra en la capa inferior, siendo independiente del agente. Esta separación asegura que las políticas de seguridad no dependan exclusivamente de que el modelo interprete correctamente una instrucción de seguridad.
Por qué NVIDIA busca extender esta propuesta a empresas de software, proveedores de infraestructura, fabricantes de robots y organizaciones financieras. Si los agentes se convierten en una capa habitual de interacción con aplicaciones y máquinas, los controles deben acompañarlos pase lo que pase, sin importar el modelo que utilicen.
La plataforma ya está disponible en los recursos para desarrolladores de NVIDIA y OpenShell puede consultarse en GitHub como un proyecto de código abierto.
Este enfoque posiciona a NVIDIA más allá de la simple provisión de GPU, ya que pretende definir también la infraestructura sobre la cual los agentes operarán, y los límites que se impondrán cuando los modelos dejen de ser meramente generadores de texto y comiencen a interactuar con sistemas reales.
Preguntas frecuentes
¿Qué es NVIDIA Open Agent Safety Platform?
Es una plataforma abierta de NVIDIA que garantiza la seguridad de los agentes de IA desde su ejecución hasta la infraestructura, compuesta por OpenShell y Sentry.
¿Para qué sirve OpenShell?
OpenShell crea entornos de ejecución con límites y políticas, permitiendo controlar cómo los agentes acceden a recursos del sistema. Es compatible con modelos abiertos y propietarios.
¿Qué aporta Sentry?
Sentry supervisa fuera de banda mediante las DPU NVIDIA BlueField-4, detectando intentos de que un agente supere sus límites y poniéndolo en cuarentena si es necesario.
¿OpenShell depende de una GPU NVIDIA?
No, OpenShell es de código abierto y puede extenderse a plataformas de terceros, incluyendo arquitecturas Arm e Intel.