Cómo construir seguridad de IA junto con nuestros clientes: 5 lecciones del programa de socios de diseño de Evo

En 2025, emprendimos un nuevo camino para proteger la transformación tecnológica más importante de esta década: la IA generativa.

Nuestra visión es ayudar a las empresas a proteger rápidamente su IA para que puedan innovar a la vanguardia y poner en producción casos de uso de IA y agentes. Para lograrlo, creamos Evo, el primer orquestador agéntico para la seguridad de la IA del mundo.

Las necesidades de los clientes son la base de cualquier producto. Acudimos a nuestros 5000 clientes y seleccionamos un grupo de socios de diseño para que nos ayudaran a entender y priorizar los desafíos de mayor impacto que buscaban resolver. Estas son algunas de las principales conclusiones que obtuvimos durante los últimos 12 meses de desarrollo de Evo.

Conclusiones clave

1. No puedes proteger lo que no puedes ver: la proliferación de IA y la IA en la sombra son mucho más grandes de lo que la mayoría de los equipos cree; el descubrimiento es la clave.

2. La IA personalizada es el futuro: la detección debe ir más allá de las bibliotecas estándar para comprender cómo crean los equipos.

3. Las hojas de cálculo no escalan: el seguimiento estático crea puntos ciegos y una falsa sensación de control.

4. Los equipos necesitan un punto de partida para la gobernanza: las políticas listas para usar y de aplicación continua son fundamentales para pasar del caos al control.

5. La inteligencia de riesgos es la capa que falta: sin señales de riesgo claras y prácticas, los equipos no pueden priorizar ni actuar.

1. La visibilidad es clave para detectar la proliferación de IA a la velocidad de la IA

La IA en la sombra es más grande de lo que creen los CISO, y la visibilidad es la clave. La mayoría de los clientes no tiene idea de cuántos modelos, servicios o agentes de IA están en uso hasta que lo ve por sí misma.

Con Discovery Agent de Evo AI-SPM, el momento de revelación llega en los primeros cinco minutos. Un gran minorista analizó más de 16 mil repositorios, detectó más de 500 modelos y descubrió que un solo equipo ejecutaba 8 versiones distintas de GPT-3. «Sabían que era un problema, pero hasta ahora no tenían visibilidad».

Antes de Evo, crear un inventario completo de IA tomaba entre 4 y 5 semanas, requería de 10 a 12 partes interesadas y coordinación entre equipos. Muchos probaban con hojas de cálculo: simples, conocidas, pero estáticas. A medida que crece la adopción de IA, las hojas de cálculo dejan de funcionar: no detectan la IA en la sombra, las dependencias ocultas ni el comportamiento en tiempo real, lo que da una falsa sensación de control y deja brechas en la gobernanza, el riesgo y el cumplimiento.

El descubrimiento no es un requisito básico: es el producto que el mercado necesita en esta etapa. Evo detecta automáticamente llmlite, las habilidades de los agentes y las capacidades de IA emergentes en tiempo real, para ofrecerte visibilidad y control desde el primer día.

2. Para cerrar la brecha, se necesita un descubrimiento personalizado

A medida que las organizaciones dejan atrás la IA comercial y comienzan a crear agentes personalizados propios para diferenciar sus productos, dependen cada vez más de capas internas alrededor de modelos, herramientas y servidores MCP para controlar el comportamiento, integrar datos exclusivos y aplicar la lógica empresarial. Este cambio es fundamental: los sistemas de IA personalizados se están convirtiendo en el futuro de la competencia entre empresas.

Pero también deja al descubierto una brecha crítica: los enfoques de detección estándar, que se basan en bibliotecas y firmas conocidas, no pueden detectar estas implementaciones personalizadas. Varios socios de diseño señalaron esta limitación difícil de prever: habían creado sus propias capas y bibliotecas personalizadas, por lo que las herramientas de detección estándar no podían verlas.

Este hallazgo llevó al equipo a crear Custom Discovery, una capacidad que aprende de la base de código de cada cliente para identificar patrones específicos, con un puntaje de confianza que permite a los usuarios aprobar o rechazar las detecciones sugeridas.

Nuestros socios de diseño fueron fundamentales en este proceso, ya que la función utiliza código de los clientes (aunque se aísle por cada inquilino). Este aprendizaje dio forma directamente a una de las capacidades de AI-SPM más diferenciadas.

3. Los CISO necesitan un punto de partida escalable para las políticas.

Una sola empresa puede tener docenas de modelos en uso, cada uno con distintos perfiles de riesgo que abarcan vulnerabilidades de código, sesgos, seguridad y exposición de datos, pero carece de una forma escalable de evaluarlos de manera uniforme. Como dijo un CISO: «Siento que estoy volando un avión mientras todavía construimos los instrumentos de la cabina». Los equipos deben elegir entre revisiones manuales y lentas o saltarse la evaluación por completo, lo que genera puntos ciegos en la gobernanza.

Para abordar esto, creamos Snyk Generated Policies: un conjunto de políticas listas para usar que evalúan automáticamente cada modelo frente a los riesgos de seguridad más importantes. En lugar de depender de metadatos estáticos o afirmaciones de proveedores, estas políticas se basan en pruebas continuas en entornos reales y un índice de riesgo estandarizado, lo que permite a las organizaciones identificar sistemáticamente qué modelos requieren atención.

Un vicepresidente de Seguridad nos dijo que las políticas listas para usar le servirían como punto de partida, mientras que una empresa de IA enfocada en el cumplimiento, recién salida de su primera reunión de comité de gobernanza de IA, buscaba activamente un enfoque gradual para establecer controles.

El resultado es pasar de revisiones improvisadas y reactivas a la priorización uniforme y escalable de los riesgos de IA, en línea con la forma en que las empresas modernas implementan la IA. Esto impulsó la inversión para la disponibilidad general de políticas predeterminadas y la evaluación continua o casi en tiempo real de políticas, convirtiendo documentos de gobernanza estáticos en controles aplicables.

4. La inteligencia de riesgos permite la gobernanza de la IA.

Entre los primeros usuarios surgió un patrón claro: una vez que los equipos superan el momento de «¡guau, puedo ver todos mis activos de IA!», la siguiente pregunta siempre es: «¿qué riesgos representan realmente?»

El desafío es novedoso. A diferencia de SCA o SAST, no existe un equivalente de CVE/CVSS para los modelos de IA. Esto llevó a crear Risk Intelligence Agent: investigación de seguridad original sobre las vulnerabilidades de los modelos de IA, los agentes, los servidores MCP y otros elementos, desarrollada desde cero.

Para lograrlo, se necesitó coordinar varios frentes de trabajo. Debíamos analizar informes de vulnerabilidades de código abierto y convertirlos en pruebas reproducibles y comparables para modelos.

También debíamos revisar los benchmarks existentes y clasificarlos en categorías de riesgo diferenciadas. Además, se requiere un importante trabajo de ciencia de datos para convertir los puntajes sin procesar en índices de riesgo prácticos —de los que realmente se puedan derivar políticas— y una canalización de ingeniería de datos para mantenerlos actualizados a medida que evoluciona el ecosistema de modelos.

Luego está la implementación de todo esto como un agente autónomo capaz de evaluar riesgos.

Los socios de diseño reafirmaron la urgencia desde otra perspectiva. Tenían componentes de IA en sus repositorios, pero no encontraban metadatos útiles para ellos y, sin una señal de riesgo lista para usar que pudieran atender, ni siquiera podían empezar a crear políticas. Risk Intelligence Agent fue la respuesta.

5. La seguridad operativa también abarca agentes, MCP y cumplimiento.

A medida que mejoramos Discovery Agent junto con los socios de diseño, va tomando forma una visión de visibilidad continua sobre la intención de los agentes, los repositorios, los endpoints y las canalizaciones de ML. Un vicepresidente de Ingeniería de una empresa de pagos incluida en Fortune 500 señaló que la escala y la uniformidad eran el problema central: administrar más de 10.000 laptops y 80.000 repositorios sin un plano de control de IA centralizado; un problema de escala que Evo sabe resolver muy bien.

Los socios de diseño recurren a Risk Intelligence Agent para evaluar una lista de amenazas que no deja de crecer. Todos los CISO y líderes sénior de seguridad consideran que MCP representa una nueva superficie de ataque importante. La IA en la sombra está más extendida de lo que la mayoría de los líderes cree: modelos no autorizados, servidores MCP en herramientas como Cursor y Claude Desktop, y cargas de trabajo ocultas en la nube.

Por último, Policy Agent debe gobernar la IA, no solo crear incidencias. El bloqueo de canalizaciones de CI/CD por parte de Policy Agent está en producción desde la disponibilidad general de AI-SPM. Los socios de diseño están estableciendo estructuras formales de gobernanza de IA y buscan ayuda de los proveedores para ponerlas en práctica. Un vicepresidente de una empresa de servicios financieros describió las herramientas heredadas como «ruidosas hasta el extremo»; le importan menos los recuentos totales de incidencias y más identificar riesgos críticos y prácticos que realmente afecten al negocio. Ese es el estándar que Policy Agent debe alcanzar.

Lo que aprendimos de nuestros socios de diseño es claro

La seguridad de IA apenas comienza, y la mayoría de las organizaciones está construyendo el avión mientras lo vuela. La visibilidad es lo primero, pero no basta. A medida que los equipos avanzan hacia sistemas de IA personalizados y propios, los enfoques tradicionales de descubrimiento, evaluación de riesgos y gobernanza dejan de funcionar.

El futuro de la seguridad de IA estará definido por el descubrimiento continuo, la inteligencia de riesgos en tiempo real y políticas que no solo se redacten, sino que también se apliquen. Esa es la base sobre la que se construyó Evo. La seguridad de IA es un desafío completamente nuevo, y la única forma de resolverlo es trabajar junto con los clientes que lo están definiendo en tiempo real.

¿Te entusiasma dar forma al futuro de la seguridad de IA? Conviértete hoy en socio de diseño.