El nuevo punto de control de seguridad: gobernar agentes de IA dentro del ciclo de ejecución

A medida que las organizaciones adoptan agentes de IA para desarrollar software, los equipos de seguridad enfrentan un nuevo desafío: los riesgos ya no surgen únicamente del código que se produce. Aparecen continuamente a través de las herramientas que usan los agentes, las acciones que realizan y el código que generan. Este es el problema que Evo Agentic Development Security (ADS) fue diseñado para resolver.

ADS protege las tres capas del sistema de desarrollo agéntico: lo que usan los agentes, lo que hacen y lo que generan. Este artículo se centra en la segunda capa: gobernar el comportamiento de los agentes dentro del ciclo de ejecución, donde toman decisiones, invocan herramientas, acceden a sistemas y actúan en nombre de los usuarios.

La gobernanza del comportamiento de los agentes está disponible hoy en Open Preview como parte de Evo Agentic Development Security (ADS). Las organizaciones interesadas en evaluar esta capacidad pueden programar una demostración con el equipo.

Por qué los agentes de IA necesitan un nuevo punto de control de seguridad

Durante años, la seguridad de las aplicaciones se ha centrado en los resultados del desarrollo de software: el código que se escribe, las dependencias que se incorporan y la infraestructura que finalmente se ejecuta en producción.

Los agentes de IA plantean un desafío diferente: no solo generan artefactos, sino que también toman decisiones. Cada vez que un agente selecciona una herramienta, accede a un sistema, invoca una API, ejecuta un comando o recupera datos, toma una decisión en nombre de un usuario. A medida que los agentes se vuelven cada vez más autónomos, el volumen y la velocidad de sus decisiones superan rápidamente las formas tradicionales de supervisión.

Esto cambia la naturaleza del problema de seguridad, ya que los riesgos ya no surgen únicamente de los artefactos que produce el software. También surgen de las acciones que realizan los agentes mientras crean software. La pregunta también cambia: ya no se trata de saber si el código resultante es seguro, sino de determinar si las decisiones tomadas durante el proceso fueron apropiadas, autorizadas y acordes con las políticas de la organización. Si las decisiones de seguridad más importantes ahora se toman antes de ejecutar una acción, la seguridad debe acercarse al punto donde se toman esas decisiones.

Dentro del ciclo de ejecución del agente

Para entender cómo se puede gobernar el comportamiento de los agentes, primero es necesario comprender cómo funcionan. A pesar de la sofisticación de los agentes de IA modernos, la mayoría sigue un patrón similar. Reciben un objetivo, determinan cómo alcanzarlo, seleccionan las herramientas que necesitan, ejecutan acciones, evalúan los resultados y repiten el proceso hasta completar el objetivo.

Lo que para un usuario parece una sola tarea —«investigar este problema», «corregir esta vulnerabilidad» o «implementar esta aplicación»— suele ser una secuencia de decenas, o incluso cientos, de decisiones y acciones individuales que ocurren en segundo plano.

Un agente puede decidir consultar un repositorio, inspeccionar un archivo de configuración, invocar una herramienta externa, ejecutar un comando, recuperar datos de una API o modificar un recurso. Cada acción genera información nueva que influye en la siguiente decisión del agente. Este ciclo continuo de razonamiento, selección de herramientas, ejecución de acciones y retroalimentación es lo que llamamos ciclo de ejecución del agente.

Y lo más importante: aquí es donde ocurre realmente la autonomía.

El ciclo de ejecución es donde los agentes convierten la intención en acción: deciden a qué recursos acceder, en qué herramientas confiar, qué comandos ejecutar y qué información compartir. Toda acción significativa que realiza un agente pasa por este proceso.

Esto hace que el ciclo de ejecución sea fundamentalmente diferente de los puntos de control de seguridad tradicionales. Históricamente, la seguridad se ha centrado en las entradas que ingresan a un sistema o los artefactos que salen de él. El ciclo de ejecución abre una nueva oportunidad: comprender y evaluar el comportamiento mientras se toman decisiones. En lugar de preguntar «¿Qué sucedió?» después de que se complete una acción, las organizaciones pueden empezar a plantearse otras preguntas:

• ¿Qué intenta lograr el agente?

• ¿Qué acción está por realizar?

• ¿Qué sistemas, herramientas o datos están involucrados?

• ¿Esto está alineado con las políticas de la organización?

• ¿Se debe permitir, modificar o impedir la acción por completo?

Estas preguntas acercan la seguridad a la decisión misma. Y eso es lo que convierte al ciclo de ejecución en un punto de control de seguridad tan importante en la era de los agentes de IA.

Cómo Evo ADS gobierna el comportamiento de los agentes

Entender el desafío es solo el primer paso. Las organizaciones también necesitan una forma práctica de observar, evaluar y gobernar el comportamiento de los agentes a medida que ocurre. Este es el enfoque detrás de la nueva capacidad de gobernanza del comportamiento de los agentes de Evo ADS, disponible hoy en Open Preview.

Observar el comportamiento de los agentes

A primera vista, gobernar el comportamiento de los agentes parece sencillo: observar una acción, compararla con una política y decidir si se debe permitir. En la práctica, es mucho más complejo, porque los agentes no realizan acciones aisladas, sino secuencias de acciones que se construyen unas sobre otras. Para abordar este desafío, ADS opera directamente dentro del ciclo de ejecución del agente.

Al integrarse con los entornos de ejecución de agentes mediante las API PreToolUse y PostToolUse, ADS puede observar las acciones antes y después de que ocurran, lo que permite ver las decisiones que toman los agentes mientras ejecutan tareas. Esta visibilidad abarca una amplia gama de actividades, como ejecutar comandos de shell, leer y escribir archivos, realizar solicitudes de red, invocar herramientas MCP e interactuar con API externas.

Y, lo que es más importante, ADS tiene en cuenta la sesión. En lugar de evaluar acciones individuales de forma aislada, observa el comportamiento durante todo el flujo de trabajo. Comprende la solicitud original del usuario, el objetivo del agente, la secuencia de acciones realizadas y el contexto que rodea cada decisión.

Considera un agente que está solucionando un problema de una aplicación. Puede inspeccionar el código fuente, consultar recursos en la nube, acceder a archivos de configuración y recopilar datos operativos antes de tomar medidas correctivas. Vistas en conjunto, estas acciones ofrecen una comprensión mucho más completa de lo que el agente intenta lograr.

Esta distinción es fundamental porque muchos riesgos no surgen de una sola acción, sino de un patrón de acciones. Por ejemplo, leer un archivo confidencial o realizar una solicitud de red puede ser legítimo, pero si ambas acciones ocurren dentro del mismo flujo de trabajo, podrían indicar un intento de exponer información confidencial.

Por eso, una gobernanza eficaz requiere más que supervisar la actividad. Requiere contexto y una imagen más completa de la intención del agente. Para determinar si una acción es apropiada, las organizaciones necesitan visibilidad de lo siguiente:

• La solicitud original del usuario

• El objetivo declarado por el agente

• Las acciones anteriores realizadas durante la sesión

• Las herramientas y los recursos a los que se accede

• Los puntos de conexión a los que accede el agente

• Los comandos que ejecuta el agente

• Los datos que se recuperan o transmiten

• La secuencia de decisiones que conduce a la acción actual

El objetivo no es simplemente saber qué hace un agente, sino entender por qué lo hace. Solo con ese nivel de conocimiento las organizaciones pueden ir más allá de supervisar el comportamiento y empezar a gobernarlo de manera significativa.

Detectar comportamientos riesgosos

Observar el comportamiento de los agentes dentro del ciclo de ejecución permite identificar riesgos que los controles de seguridad tradicionales suelen pasar por alto. Como parte de la capacidad de gobernanza del comportamiento de los agentes, las organizaciones pueden supervisar continuamente la actividad de los agentes para detectar un conjunto cada vez más amplio de riesgos de comportamiento que surgen durante la ejecución.

A diferencia de los hallazgos tradicionales de seguridad de aplicaciones, muchos de estos riesgos no están relacionados con una vulnerabilidad específica ni con un artefacto de software. Surgen de las interacciones entre agentes, herramientas, sistemas y datos. Estas detecciones funcionan continuamente dentro del ciclo de ejecución, lo que permite identificar riesgos a medida que se desarrollan los flujos de trabajo de los agentes, en lugar de hacerlo después de que se crean los artefactos.

Aplicar la gobernanza en tiempo real

Como parte de la capacidad de gobernanza del comportamiento de los agentes, las organizaciones pueden aplicar distintas medidas de gobernanza según el tipo de hallazgo, el nivel de riesgo y las políticas de la organización.

Como Evo ADS opera directamente dentro del ciclo de ejecución del agente, las decisiones de gobernanza pueden aplicarse antes de que se ejecuten las acciones, en lugar de hacerlo después. En vez de depender de registros, alertas o tráfico de red para reconstruir el comportamiento a posteriori, ADS evalúa las acciones propuestas en el contexto del flujo de trabajo general, lo que permite gobernar el comportamiento de los agentes en el momento en que se toman las decisiones.

Para familiarizarse con los escáneres, se pueden registrar los hallazgos, lo que permite ver el comportamiento de los agentes sin interrumpir los flujos de trabajo. También es una buena forma de vigilar las operaciones de bajo riesgo de los agentes. Cuando un agente infringe las políticas de la organización o representa un nivel de riesgo inaceptable, su acción se puede bloquear de forma confiable.

ADS está explorando activamente mecanismos de gobernanza alternativos que permitan establecer límites para los agentes sin afectar la productividad de los desarrolladores. Las organizaciones pueden orientar el comportamiento proporcionando instrucciones de seguridad directamente en el flujo de trabajo. En lugar de interrumpir al agente, este recibe una instrucción en forma de prompt la próxima vez que la gobernanza del comportamiento de los agentes se comunica con el arnés, para alentarlo a tomar decisiones más seguras sin dejar de ser productivo.

En el caso de las acciones que requieren supervisión adicional, se puede instruir a los agentes para que soliciten la aprobación explícita del usuario antes de continuar. Esto establece un punto de control humano para las operaciones que pueden ser confidenciales, inusuales o de gran impacto.

La respuesta adecuada variará según la tolerancia al riesgo de la organización, los sistemas involucrados y la naturaleza de la tarea. Lo importante es que las organizaciones ya no tienen que elegir entre una autonomía sin restricciones y controles restrictivos. En cambio, pueden aplicar el nivel de gobernanza adecuado a cada situación y permitir que los agentes avancen con rapidez dentro de límites confiables. Esto crea un modelo más práctico para adoptar la IA: uno en el que la seguridad se adapta al flujo de trabajo, en lugar de obligar al flujo de trabajo a adaptarse a la seguridad.

Proteger todo el sistema que crea software

A medida que las organizaciones amplían la adopción de la IA, una realidad se vuelve cada vez más evidente: la revisión humana no puede escalar al ritmo de la actividad de los agentes. El desafío no es decidir si los agentes deben ser autónomos, sino cómo garantizar que operen de manera segura a escala.

La gobernanza del comportamiento de los agentes aborda una parte fundamental de ese desafío al incorporar la seguridad directamente en el ciclo de ejecución del agente y dar a las organizaciones visibilidad y control en el punto donde se toman las decisiones. Pero el comportamiento de los agentes es solo una parte del modelo de seguridad general. Las organizaciones también deben entender las herramientas de las que dependen los agentes y garantizar que se pueda confiar en el código que generan desde el principio.

Por eso Evo ADS protege los tres puntos donde surgen riesgos en el desarrollo agéntico: lo que usan los agentes, lo que hacen y lo que generan. En conjunto, estas capacidades ayudan a las organizaciones a adoptar el desarrollo impulsado por IA con la visibilidad, la gobernanza y la confianza necesarias para avanzar con rapidez sin perder el control.

La gobernanza del comportamiento de los agentes está disponible hoy en Open Preview como parte de Evo Agentic Development Security (ADS). Para obtener más información, regístrate en nuestro próximo seminario web sobre Agentic Development Security o programa una demostración con el equipo de Snyk.