De las ideas al impacto: cómo el Área de la Bahía está dando forma al futuro de la IA segura

La IA generativa está transformando la manera de crear, proteger y escalar software. En el evento Lighthouse de Snyk en Silicon Valley, líderes de los equipos de ingeniería, seguridad y plataformas se reunieron para explorar una gran pregunta: ¿cómo podemos crear sistemas impulsados por IA que avancen rápido sin perder la confianza?

Para muchos, ese futuro ya llegó: el 60 % de las organizaciones presentes en la cumbre informó que está creando aplicaciones agénticas internamente.

Las respuestas no fueron solo técnicas. También tuvieron que ver con la cultura, la organización y la estrategia.

Desde las aplicaciones agénticas hasta el modelado de riesgos en tiempo real, hubo algunos temas constantes en los talleres, paneles y demostraciones del día: la visibilidad es poder. Los controles no son obstáculos. Y la confianza no es una etapa futura: es la base.

El nuevo ciclo de desarrollo: pensar → crear → proteger → repetir

La velocidad y la seguridad no están reñidas: son interdependientes. Y la IA cambió la forma en que interactúan. El modelo tradicional del ciclo de vida del desarrollo de software (SDLC) no encaja en un entorno donde los agentes generan, razonan y actúan continuamente.

Las sesiones de Lighthouse exploraron cómo deben evolucionar los flujos de trabajo de desarrollo para la IA agéntica. Menos aprobaciones estáticas y más comentarios dinámicos y contextuales. Remediación en tiempo real, promotores de seguridad que conocen la IA y desarrolladores que no solo crean sus propios asistentes de IA, sino que también los protegen.

Uno de los momentos más destacados fue una demostración en vivo de Cursor y Snyk. Sin escribir una sola línea de código, Randall Degges, director sénior de relaciones con desarrolladores de Snyk, recorrió un flujo de trabajo real que analizó, probó, corrigió y publicó código. Mientras tanto, el servidor MCP de Snyk validaba vulnerabilidades, señalaba patrones riesgosos y enviaba actualizaciones seguras a través de los pipelines de CI/CD.

¿El impacto? Las correcciones de seguridad que antes tomaban horas se redujeron a minutos, sin comprometer la calidad ni el control.

Seguridad desde el diseño significa seguridad entre todos

La responsabilidad compartida fue un tema central del día. La IA está borrando los límites entre los equipos de desarrollo, plataformas y seguridad; ahora, todos participan.

Un ponente lo dijo claramente: «Si alguien pega una instrucción en ChatGPT para crear un flujo de trabajo, es desarrollador de aplicaciones. Y ahora, cualquier desarrollador puede ser ingeniero de IA».

Esto cambia la manera en que definimos la preparación.

El marco de preparación para la IA de Snyk, presentado durante el evento, destacó cinco pilares: visibilidad, responsabilidad, diseño seguro, impulso cultural y garantía continua. Los asistentes analizaron casos de uso reales para evaluar la madurez en cada área e identificar brechas y oportunidades.

Puntos clave:

• La seguridad de la IA no es una especialidad: es un trabajo en equipo. Los mejores ingenieros de seguridad de IA suelen ser antiguos desarrolladores de aplicaciones que comprenden todo el contexto.

• Controles, no barreras. El objetivo no es ralentizar la adopción de la IA, sino hacerla más segura y rápida.

• La gobernanza importa. Desde los agentes no autorizados hasta las funciones de SaaS activadas automáticamente, los equipos de seguridad deben participar desde el principio.

Un asistente lo resumió a la perfección: «Nuestro mayor riesgo de seguridad no es la IA generativa. Es tratarla como si fuera software tradicional».

La confianza en la IA va más allá del cumplimiento

Aunque marcos como el Marco de Gestión de Riesgos de IA (AI RMF) del NIST ofrecen una perspectiva general, los asistentes del Área de la Bahía buscaban algo más que teoría: querían estrategias prácticas y proactivas.

La conversación pasó rápidamente a temas como:

• Descubrimiento y validación de MCP: ¿Qué modelos se ejecutan y dónde? ¿Quién los entrenó? ¿Qué datos se usaron? ¿Filtran información confidencial o se comportan de forma impredecible en producción?

• Pruebas de red team del comportamiento de los agentes: Más allá de la inyección de instrucciones y las pruebas de fuzzing de las salidas, ¿cómo podemos simular interacciones adversarias en tiempo real?

• Seguridad desde la generación: Una nueva frontera para desplazar la seguridad hacia la izquierda e integrar contexto seguro justo en el momento de generar, no después de la implementación.

Lo más destacado no fue solo la innovación, sino también la apertura. Los relatos sinceros sobre errores, incidentes evitados por poco y brechas de visibilidad inesperadas dejaron claro lo rápido que evoluciona este ámbito y por qué la seguridad de la IA debe desarrollarse en paralelo con la propia IA.

Capacitar a las personas para proteger las máquinas

Si la IA es responsabilidad de todos, ¿cómo capacitamos a cada persona para que actúe en consecuencia?

Esa pregunta dio pie a uno de los debates más animados del día: el futuro de la capacitación y certificación en seguridad de IA.

Varias empresas compartieron cómo están adaptando sus programas de promotores de seguridad para incluir flujos de trabajo y responsabilidades específicas de IA. Otras hablaron sobre la creación de consejos de gobernanza de IA con representantes de seguridad, asuntos legales, cumplimiento e incluso marketing.

¿Un tema recurrente? La cultura es el multiplicador. La capacitación de los equipos solo funciona si la organización la adopta. Como comentó un líder: «La concientización sobre seguridad no puede limitarse a hacer cumplir políticas. Debe diseñar elecciones: cómo motivamos a las personas a tomar mejores decisiones todos los días».

Lo que ocurre ahora y lo que viene

El evento del Área de la Bahía no se centró en promesas sobre el futuro, sino en la transformación actual.

Sí, los asistentes vieron un adelanto de las próximas funciones de Snyk. Pero el contenido más valioso surgió de las conversaciones entre colegas, las demostraciones prácticas y la comprensión de que:

• Los sistemas agénticos ya están en producción. Ya sean internos o externos, las empresas apuestan por la IA para mejorar el NPS, automatizar operaciones y personalizar servicios a gran escala.

• La seguridad no puede seguir intentando ponerse al día. Desde brechas de visibilidad en las integraciones de SaaS hasta agentes desconocidos en la pila tecnológica, la superficie de ataque está creciendo rápidamente.

• La innovación necesita controles desde ahora. Como dijo un asistente de la industria de tecnología médica: «No puedes esperar a que algo esté publicado para preguntar por las alucinaciones. Necesitas incorporar trazabilidad y controles desde el principio».

La conclusión final: la IA es el futuro del software. La seguridad debe escalar al mismo ritmo.

En las palabras de cierre, Manoj Nair, director de Innovación de Snyk, reunió todas las ideas.

La seguridad no consiste en decirle «no» a la IA. Se trata de acelerar su adopción de manera responsable: capacitar a los desarrolladores, empoderar a los equipos de plataformas y generar confianza en cada etapa del SDLC de IA.

«Hoy lo vimos», dijo. «Sistemas reales de IA que programan, prueban y corrigen vulnerabilidades por sí solos. Pero nada de esto funciona sin visibilidad, cultura y controles inteligentes».

El futuro no es DevSecOps 2.0. Es algo más grande: impulsado por desarrolladores, potenciado por IA y centrado en la confianza. Y Snyk está creando la plataforma para hacerlo realidad.