Check Point y NVIDIA atacan un creciente punto ciego en la seguridad de la IA

Check Point® Software Technologies Ltd., pionero y líder global en soluciones de ciberseguridad, y NVIDIA anunciaron una nueva integración que combina la supervisión de seguridad basada en IA de Check Point con la plataforma Open Agent Safety y el entorno de ejecución OpenShell de NVIDIA. En conjunto, estas tecnologías permiten evaluar las acciones de un agente antes de que se ejecuten, ayudando a las organizaciones a identificar y detener comportamientos potencialmente dañinos en tiempo real.

Un límite fuera del alcance del agente

La plataforma NVIDIA Open Agent Safety Platform integra esta barrera en la infraestructura. Su núcleo es NVIDIA OpenShell, un entorno de ejecución abierto y seguro que controla cómo se ejecuta un agente, qué puede ver y hacer, y adónde va su inferencia. Por defecto, no se permite nada, se registra cada permiso y denegación, y la aplicación de las políticas se ejecuta fuera del proceso del agente, por lo que se mantiene incluso si este se ve comprometido. La plataforma también incluye NVIDIA Sentry, que se ejecuta en NVIDIA BlueField-4 y utiliza NVIDIA DOCA para la monitorización fuera de banda y la aplicación de políticas de seguridad. Este sistema de vigilancia, aislado del hardware e independiente del host, sigue aplicando las políticas incluso si el propio host se ve comprometido. Si bien está optimizada para ejecutarse en sistemas basados en CPU NVIDIA Vera y DPU BlueField, la plataforma también es compatible con otros sistemas de hardware.

Un límite determina si una acción está permitida. Si la acción sigue teniendo sentido para la tarea es una cuestión aparte, y a menudo es ahí donde residen los verdaderos problemas. Leer facturas, consultar la base de datos de proveedores e iniciar un flujo de trabajo de pago aprobado forman parte del trabajo del agente de facturación. Si luego comienza a listar credenciales, abrir archivos no relacionados con ninguna factura y prepararse para enviar datos a un nuevo destino, cada acción podría pasar una verificación por sí sola. En conjunto, describen a un agente que ha dejado de funcionar correctamente, un patrón que solo se manifiesta al analizar el comportamiento a lo largo del tiempo.

Las medidas de seguridad que inspeccionan una sola solicitud o respuesta siguen siendo esenciales y constituyen una parte fundamental de la seguridad de la IA de Check Point Software, pero los problemas que se desarrollan a lo largo de veinte pasos requieren una monitorización semántica. Esta monitorización sigue al agente mientras trabaja y relaciona cada acción con lo que se le pidió que hiciera, utilizando sus señales de razonamiento, llamadas a herramientas y acciones anteriores. En cada paso, vuelve a la misma pregunta: ¿Esto sigue siendo adecuado para la tarea que se le asignó al agente?, el motor de supervisión semántica de Check Point puede tomar dichas decisiones en menos de 100 milisegundos.

Lo que creamos con NVIDIA OpenShell

Saber que un agente se está desviando solo importa si se puede actuar sobre él, por lo que el límite y el juicio van de la mano. Hemos implementado la monitorización semántica de Check Point con NVIDIA OpenShell a través del middleware de seguridad del entorno de ejecución. OpenShell ve cada acción antes de que llegue al host, nuestro monitor la compara con la tarea y el historial del agente, y OpenShell nos permite aplicar el resultado. Los agentes son útiles en parte porque encuentran soluciones que nadie previó, por lo que la respuesta es proporcional, desde registrar una acción o retenerla para su aprobación hasta detener al agente.

Estas señales resultan más útiles en el contexto que ya ofrece la ciberseguridad. Una llamada a una herramienta inusual puede no significar mucho por sí sola. Pero si proviene de un agente con altos privilegios que ha abandonado su tarea y se dirige a un sistema de producción vulnerable, significa algo completamente distinto. Los agentes actúan sobre las mismas identidades, redes y datos que los equipos de seguridad ya protegen, y su protección no puede ser una disciplina independiente.

Es importante que OpenShell sea de código abierto. Trabajamos con la comunidad de OpenShell, donde muchos colaboradores prueban ideas de seguridad públicamente, y esta colaboración nos brinda una vía directa para aportar nuestro propio trabajo. Ahora, lo que lo rodea es un entorno de ejecución que no puede eludir mediante la comunicación, un sistema de supervisión integrado en el silicio y un monitor que verifica constantemente si su ruta sigue siendo la correcta. A medida que los agentes asumen tareas más largas y autónomas en lo que NVIDIA denomina la fábrica de IA, esta combinación permite que la seguridad se adapte a su comportamiento.

«Asignar un objetivo a un agente de IA no garantiza que este siga una ruta aceptable para alcanzarlo. Ese es el problema de seguridad que debemos resolver ahora. Nuestra colaboración con NVIDIA combina la capacidad de Check Point para comprender el comportamiento de los agentes con la capacidad de NVIDIA para aplicar medidas de seguridad allí donde dichos agentes realmente operan. Comprender la intención y el comportamiento, y actuar en consecuencia en tiempo real, es fundamental para el enfoque que consideramos necesario a la hora de proteger la IA autónoma«, dijo Steve Giguere, Principal AI Security Advocate de Check Point Software Technologies.

También puede leer: