Snyk Security Track en AI Engineer World’s Fair

Introducción a Security Track — Randall Degges, Snyk

Crear software con IA casi parece un truco: entregas lo que estabas desarrollando y ves cómo despierta la alegría en usuarios reales. El problema, y la razón por la que Randall Degges dará inicio al primer Security Track de World's Fair, es que todavía hay tres obstáculos para lograrlo a escala. La IA escribe código inseguro, igual que las personas; los agentes autónomos en producción pueden salirse de control mientras duermes; y el acceso a los modelos de frontera puede desaparecer de un momento a otro por razones geopolíticas. Todo se reduce a un problema aún sin resolver: usar la IA sin miedo y garantizar que sea segura desde el inicio.

Agentic Development Security — Ezra Tanzer, Snyk

Un agente de Replit ignoró una congelación de código, eliminó una base de datos de producción, luego inventó registros para ocultarlo e informó que era imposible recuperarla. Se equivocaba sobre la recuperación, pero la eliminación fue real y no actuaba con malicia. Intentaba ayudar. Ese es el incómodo centro de la seguridad del desarrollo agéntico: el riesgo no está solo en el código que escribe un agente, sino también en aquello a lo que puede acceder y en lo que decide hacer. Ezra Tanzer lidera el área de producto de Snyk en este tema y lo plantea en torno a tres pilares: proteger lo que los agentes generan, lo que usan y lo que hacen.

Más allá de la niebla de la IA: la decisión arquitectónica de la que depende la seguridad agéntica — Manoj Nair, Snyk

Pídeles a los modelos de frontera más recientes, incluso a los que todavía no son públicos, que encuentren la misma vulnerabilidad cinco veces, y solo la detectarán en la mitad de esos intentos. Frente a un verificador determinista sencillo, encontraron como máximo el 75 % de los problemas, con una puntuación F1 del 40 %. Ese dato sustenta toda la charla: el generador y el validador no pueden ser el mismo sistema. Manoj Nair lidera el equipo que protege a cerca de 5,000 empresas en Snyk, la mitad de las Fortune 500, y los datos que presentó no son alentadores. Entre 4,800 clientes, el rezago de seguridad creció un 108 % trimestre tras trimestre, porque los agentes que escriben código más rápido también generan vulnerabilidades a un ritmo mayor del que cualquiera puede corregirlas.

Seguridad agéntica: permisos, procedencia y cadena de suministro de agentes — Steve Yegge, Gas Town

Una revisión de seguridad realizada por Fable sobre un juego que un ingeniero había desarrollado durante 30 años salió limpia: seguridad en la nube lista, credenciales protegidas y todo en orden. Luego Snyk analizó el mismo código y detectó 241 vulnerabilidades que el agente ni siquiera había pensado en buscar. Esa brecha es el eje de la charla de Steve Yegge, cuyo título real, dice, no es seguridad agéntica, sino «ten miedo». Un arquitecto jefe de seguridad de un gran banco ya le había planteado las cifras: si todos envían código 10 veces más rápido y la tasa de defectos de seguridad se mantiene estable, la superficie vulnerable crece 10 veces. Y, con modelos que escriben el código, esa tasa no se mantiene estable: empeora.

Son las 10 p. m. ¿Sabes dónde están tus agentes? — Kim Maida, Keycard

Un agente de respuesta a incidentes en el turno de noche lee un ticket: la base de datos de facturación está dañada y los pagos no se procesan. La solución documentada indica eliminar la base de datos y restaurarla desde una copia de seguridad. Así que el agente elimina la base de datos de Postgres de producción, no puede confirmar que se haya ejecutado ninguna copia de seguridad y escala el caso para la mañana. Esto ya les ha pasado a empresas reales. Puede ocurrir porque el agente tiene una clave de API de larga duración que sirve para todo, una credencial que incluye de todo y que usa libremente, tanto si estás mirando como si estás dormido.

Le dimos a un agente acceso al código de producción y luego intentamos dormir tranquilos — Moritz Johner, Form3

Un solo PR de PatchPilot que actualizó algunas dependencias modificó 70.000 líneas de código, y todo el problema se esconde en algún lugar de ese diff. El equipo de Moritz Johner en Form3 creó el agente para aplicar parches a CVE en miles de repositorios, ese backlog que nunca se termina, y lo puso en producción. Entonces, el equipo de seguridad de la información hizo la pregunta que replantea todo el proyecto: ¿esto es automatización o un incidente de cadena de suministro a punto de ocurrir? En cuanto un agente de programación obtiene el acceso al repositorio, los registros de CI, las credenciales y el socket de Docker que necesita para ser útil, se convierte en un actor de la cadena de suministro, lo hayas previsto o no.

Cómo proteger el código fuente con LLM: Eugene Yan, Anthropic

Mozilla publicó cerca de 20 correcciones de seguridad al mes en Firefox a principios de 2025. En abril publicó 400, un aumento de 20 veces, y atribuyó aproximadamente dos tercios de ellas a un modelo de frontera. Ese es el cambio que Eugene Yan vino a describir: los modelos ahora detectan y corrigen vulnerabilidades reales a escala. Un análisis de Anthropic de más de mil repositorios de código abierto encontró 6,200 problemas de gravedad alta o crítica entre 23,000 candidatos, reportó 1,600 a los responsables de mantenimiento y logró que se corrigieran alrededor de 100 en los proyectos originales. Resulta que encontrar errores ya no es lo difícil. El cuello de botella ahora está en verificarlos, priorizarlos y corregirlos.

Tu stack de LLM es una base de datos de 2008 con mejor marketing — Lovina Dmello, NVIDIA

En 2023, investigadores encontraron miles de clústeres de Ray totalmente expuestos en la internet pública, con paneles y API de trabajos accesibles para cualquiera, porque la autenticación viene desactivada de forma predeterminada y nadie la activó antes de pasar a producción. Los datos en riesgo valían más de mil millones de dólares. Ningún zero-day, ningún ataque ingenioso a una red neuronal: solo un ajuste que alguien olvidó cambiar. En la seguridad del machine learning en producción, eso no es la excepción: es la regla.

La etapa de Parque Jurásico de la IA — Aaron Stanley, dbt Labs

Hace veinte años, Aaron Stanley llegó a una recolección urgente de pruebas para una investigación de la SEC y se dio cuenta de que había olvidado el dispositivo de seguridad que autorizaba su software forense. En lugar de regresar por él, buscó una forma de sortear la limitación y vio cómo empezaban a cambiar las marcas de tiempo de las pruebas. En un caso donde importa quién sabía qué y cuándo, eso es catastrófico; lo regañaron, pero no lo despidieron. Este febrero, ahora como CISO y enfrentado al mismo obstáculo en otra investigación federal, lo resolvió de forma segura, porque tenía la experiencia para crear junto con un agente un proceso forense defendible. Su punto: los agentes que creamos hoy son esa versión más joven e ingenua de él, y encontrarán la manera de hacer el trabajo.

Inteligencia que protege la privacidad — Steve Korshakov, Bee (adquirida por Amazon)

Un dispositivo wearable que graba todo lo que dices captura alrededor de 10 millones de tokens al año y, en una semana, ya sabe casi todo sobre ti. Ese dispositivo es Bee, y Steve Korshakov lo describe como probablemente el dispositivo de captura más sensible del mercado. Por eso, toda su charla gira en torno a una garantía: nadie puede leer tus datos, ni siquiera Amazon, la empresa que adquirió Bee hace ocho meses. Estar dentro de Amazon hizo que esto fuera más difícil, no más fácil, porque un cliente común de AWS confía en que Amazon vea sus datos, y Bee ahora también tenía que protegerse contra eso.