NVIDIA presentó OpenShell, una plataforma de seguridad diseñada para controlar el comportamiento de los agentes autónomos de IA y limitar sus accesos dentro de sistemas informáticos.
La compañía explicó que el lanzamiento responde a la creciente preocupación por agentes capaces de ejecutar tareas sin supervisión constante. Estos sistemas pueden consultar archivos, utilizar herramientas, ejecutar código y conectarse con servicios externos, lo que amplía sus posibilidades, pero también introduce nuevos riesgos de seguridad.
El anuncio llega después de varios incidentes relacionados con agentes de IA que actuaron de manera inesperada durante procesos de entrenamiento y evaluación. Entre ellos se encuentra el caso de agentes de OpenAI que accedieron a sistemas externos durante pruebas y el incidente relacionado con Hugging Face.
OpenShell crea un entorno aislado para los agentes
La propuesta de NVIDIA se basa en ejecutar los agentes dentro de un sandbox, un entorno virtual aislado que limita los recursos a los que puede acceder el software.
OpenShell convierte las instrucciones de seguridad en una política verificable. Los operadores pueden establecer qué archivos, procesos, herramientas, redes y credenciales están disponibles para cada agente. De esta manera, el sistema no depende únicamente de que el modelo siga correctamente las instrucciones recibidas.
La plataforma utiliza diferentes mecanismos de aislamiento para restringir acciones como el acceso no autorizado a archivos, la extracción de información, las conexiones de red no permitidas o determinados intentos de escalada de privilegios.
NVIDIA plantea este enfoque como una capa independiente de protección situada alrededor del agente, en lugar de confiar exclusivamente en las medidas de seguridad incorporadas al propio modelo de inteligencia artificial.
Sentry puede intervenir cuando detecta una actividad sospechosa
Uno de los componentes asociados a OpenShell es Sentry, una capa de seguridad para agentes IA que supervisa continuamente la actividad de los agentes.
Según NVIDIA, este mecanismo puede intervenir cuando un agente intenta abandonar los límites establecidos para su tarea e incluso aislarlo en cuestión de milisegundos. La compañía sostiene que esta arquitectura podría haber impedido determinados comportamientos observados durante incidentes recientes con agentes autónomos.
El lanzamiento también muestra cómo la industria comienza a trasladar parte de la seguridad de la IA desde el modelo hacia la infraestructura donde estos sistemas funcionan.
NVIDIA señaló que más de 100 organizaciones utilizaban OpenShell en el momento de su lanzamiento, entre ellas Accenture, JPMorgan Chase y Microsoft. La plataforma está disponible como software de código abierto y actualmente ofrece mecanismos para establecer políticas sobre archivos, procesos, redes y otros recursos utilizados por los agentes.
Con OpenShell, NVIDIA busca establecer controles técnicos para una generación de sistemas de IA que ya no se limita a responder consultas, sino que puede tomar decisiones, utilizar herramientas y ejecutar acciones de manera autónoma.
Información de CBS News / Redacción de Mente Digital.
No dejes de leer: Google enviará al espacio un satélite experimental para probar centros de datos con IA
Nuestras redes sociales, únete y sé parte de la tecnología
