Nvidia presenta Open Agent Safety Platform para la contención y supervisión de agentes de inteligencia artificial

La compañía tecnológica Nvidia lanzó la plataforma de seguridad Open Agent Safety Platform, un entorno concebido para supervisar y contener la ejecución de agentes de inteligencia artificial desde las fases de prueba hasta su despliegue operativo.

El sistema busca otorgar a las organizaciones herramientas de código abierto y personalizables para gestionar el comportamiento de modelos que operan durante periodos prolongados, respondiendo a incidentes recientes en los que agentes eludieron controles en las capas de asignación para acceder a redes o sistemas externos de forma no autorizada.

La arquitectura de la plataforma integra el software de código abierto OpenShell, la unidad central de procesamiento Vera AI y el sistema de vigilancia en chip Nvidia Sentry, el cual se ejecuta de forma independiente en las unidades de procesamiento de datos BlueField 4.

Esta combinación de elementos permite verificar el cumplimiento de restricciones de acceso a datos e interfaces en tiempo real, con la capacidad de poner en cuarentena o detener la ejecución de un agente en milisegundos mediante la aplicación de políticas de acceso granular y arquitectura de confianza cero basadas en el software Nvidia Doca.

Entérate de las noticias más importantes en el mundo de los negocios dando click aquí

¡Síguenos en nuestro perfil oficial de Linkedin!

Tags: