OpenShell aplica políticas de acceso durante la ejecución de tareas, mientras Sentry añade una capa de vigilancia independiente sobre BlueField-4. La propuesta busca contener acciones fuera de los límites autorizados.
Nvidia presentó una plataforma abierta destinada a imponer límites técnicos a los agentes de inteligencia artificial durante las etapas de prueba y operación. De acuerdo con el anuncio de la compañía, Open Agent Safety Platform combina controles de software con un sistema de supervisión separado que funciona desde la infraestructura de cómputo.
Dos capas para delimitar las acciones
El primer componente, OpenShell, proporciona un entorno de ejecución en el que las organizaciones pueden definir los recursos, datos, herramientas y servicios disponibles para cada agente. El software registra las acciones y aplica las políticas mientras se ejecutan las tareas. Nvidia lo distribuye como código abierto y señala que puede adaptarse a plataformas de terceros, incluidas las basadas en tecnologías de Arm e Intel.
La segunda capa es Sentry, un diseño de referencia que opera en unidades de procesamiento de datos BlueField 4. Según Nvidia, este componente vigila el comportamiento desde un dominio separado y puede aislar en milisegundos a un agente que intente salir de los límites establecidos. La separación busca evitar que el propio agente pueda modificar o eludir el mecanismo encargado de supervisarlo.
La empresa informó que más de un centenar de organizaciones trabajan con tecnologías de la plataforma. Entre las compañías mencionadas se encuentran Anthropic, Microsoft, Cisco, CrowdStrike, Salesforce, SAP, Red Hat, JPMorganChase y Palo Alto Networks. El software y los recursos iniciales ya están disponibles para desarrolladores.
Una barrera técnica, no una solución completa
La propuesta depende de que cada organización establezca políticas adecuadas y conceda a los agentes los permisos necesarios sin abrir accesos excesivos. Un análisis de Associated Press advierte que la plataforma no evita por sí sola errores, respuestas engañosas o decisiones defectuosas de los modelos. Su función principal es contener las consecuencias cuando un agente intenta actuar fuera del entorno autorizado.
Una autorización de recompra por 150.000 millones de dólares
En un anuncio financiero separado, el consejo de Nvidia autorizó una ampliación de 150.000 millones de dólares para su programa de recompra de acciones. El comunicado corporativo indica que el monto total restante autorizado asciende ahora a 235.000 millones de dólares y que la compañía prevé ejecutar el programa durante su año fiscal 2028.
La autorización no equivale a una compra inmediata de todo el monto. Habilita a Nvidia para realizar recompras dentro del programa y el calendario comunicado. La cobertura original de The Guardian reunió este anuncio financiero con la presentación de la nueva arquitectura de seguridad para agentes.
Fuentes
- The Guardian
- Nvidia, Open Agent Safety Platform
- Nvidia, autorización de recompra de acciones
- Associated Press
Ilustración: captura del sitio de Nvidia
📬 Newsletter gratuito
