Fundamentos y certificación para ingenieros de seguridad de IA

Obtén una comprensión práctica de los principales riesgos de seguridad que introducen las aplicaciones de IA agéntica. Este módulo explica cómo cambia el riesgo cuando los sistemas de IA pueden razonar, planificar, usar herramientas, acceder a la memoria, interactuar con otros agentes y realizar acciones en los flujos de trabajo empresariales.

Al finalizar este módulo, podrás:

• Explicar por qué existe OWASP Top 10 for Agentic Applications y en qué se diferencia de OWASP Top 10 for Web Applications y OWASP Top 10 for LLM Applications.

• Describir cómo la IA agéntica cambia el modelo de seguridad mediante objetivos, herramientas, memoria, identidad, permisos, orquestación y acciones posteriores.

• Definir los diez riesgos agénticos: secuestro de objetivos del agente, uso indebido de herramientas, abuso de identidad y privilegios, vulnerabilidades de la cadena de suministro agéntica, ejecución inesperada de código, envenenamiento de la memoria y el contexto, comunicación insegura entre agentes, fallos en cascada, explotación de la confianza entre humanos y agentes, y agentes rebeldes.

• Distinguir entre riesgos a nivel de modelo, riesgos a nivel de aplicación, riesgos de la capa de herramientas, riesgos de identidad, riesgos de memoria y contexto, y riesgos de los sistemas posteriores.

• Asociar cada riesgo con controles prácticos, como el principio de privilegio mínimo, identidades con alcance limitado, listas de herramientas permitidas, puntos de aprobación, aislamiento de la memoria, validación del contexto, revisión de la cadena de suministro, supervisión en tiempo de ejecución y registro de auditoría.

• Explicar cómo una debilidad agéntica puede escalar hasta convertirse en una cadena de ataque mayor, como cuando el secuestro de objetivos conduce al uso indebido de herramientas, al abuso de privilegios, a la exposición de datos o a una automatización insegura.

• Diferenciar entre los sistemas de IA que solo recomiendan acciones y los sistemas agénticos que pueden ejecutar acciones, y explicar por qué la ejecución cambia la gobernanza y la rendición de cuentas.

• Usar OWASP Top 10 for Agentic Applications como una taxonomía compartida para el modelado de amenazas, los ejercicios de red team, la revisión de la arquitectura, el diseño seguro, la asignación de controles y la planificación de la respuesta a incidentes.

• Evaluar si un agente opera dentro de límites seguros: qué puede hacer, bajo la autoridad de quién actúa, a qué datos puede acceder, qué herramientas puede invocar y cómo se registran y aprueban sus acciones.

Ponte en la piel de un ingeniero de seguridad de IA para abordar las «cosas inesperadas» que salen a la luz al analizar en profundidad tu postura de IA.

• Descubre cómo comienza su labor un ingeniero de seguridad de IA y cómo trabaja en la intersección de la seguridad de plataformas, la ingeniería de ML y la inteligencia sobre amenazas.

• Conoce las herramientas necesarias para detectar la «IA en la sombra» y descubre cómo están cambiando las conversaciones sobre seguridad dentro de las organizaciones.

• Aprende a proporcionar inteligencia y aplicar políticas a la IA autónoma sin ralentizar la innovación.

Al final de este módulo, podrás:

• Definir la IA en la sombra y explicar las características que la distinguen de la TI en la sombra.

• Citar los principales datos de 2025–2026 sobre la prevalencia y el costo de la IA en la sombra.

• Reconocer las cuatro propiedades que hacen que la IA en la sombra sea estructuralmente más difícil de gobernar que sus predecesoras.

• Identificar los cuatro escenarios de riesgo de IA en la sombra más comunes en entornos empresariales.

• Definir un AIBOM y describir las tres funciones que desempeña en un programa de gobernanza de IA.

• Comparar AIBOM y SBOM en cuanto a alcance, comportamiento, clases de riesgo, frecuencia de actualización, estándares y cadena de suministro.

• Identificar los cuatro antipatrones más comunes en los programas de IA en la sombra y explicar por qué falla cada uno.

• Generar un AIBOM para un proyecto de ejemplo mediante la CLI de Snyk e inspeccionar el resultado dentro de la plataforma Evo.

Este módulo te presenta el modelado de amenazas de IA: la práctica estructurada de identificar, analizar, priorizar y mitigar las amenazas específicas de los sistemas basados en IA. A partir de los fundamentos tradicionales del modelado de amenazas (STRIDE, DREAD, árboles de ataque), el módulo explora por qué los enfoques convencionales no son suficientes al aplicarse a sistemas de IA probabilísticos y no deterministas, y explica paso a paso un flujo de trabajo práctico para modelar amenazas a lo largo del ciclo de vida de la IA/ML, desde la ingesta de datos hasta la inferencia y la invocación de herramientas por agentes.

Al finalizar este módulo, podrás:

• Definir el modelado de amenazas y explicar su función en un pipeline moderno de DevSecOps.

• Aplicar marcos tradicionales de modelado de amenazas (STRIDE, DREAD, árboles de ataque) a la arquitectura del sistema.

• Identificar la superficie de amenazas única que introducen los sistemas de IA/ML, incluida la IA agéntica.

• Reconocer nuevas clases de activos y límites de confianza específicos de los sistemas de IA.

• Ejecutar un flujo de trabajo práctico de modelado de amenazas de IA que abarque el descubrimiento, la enumeración, la priorización y la mitigación.

• Integrar el modelado de amenazas de IA en un pipeline de DevSecOps continuo y adaptativo.

Cómo SKILL.md introdujo malware

La primera parte de esta sesión profundizará en la investigación «ToxicSkills», donde analizaremos las primeras amenazas importantes de la cadena de suministro dirigidas a los ecosistemas de agentes de IA.

En la segunda parte de esta sesión, demostraremos técnicas de explotación activa contra implementaciones de MCP: cómo una única descripción de herramienta maliciosa puede exfiltrar credenciales y cómo los atacantes aprovechan servidores MCP inseguros para ejecutar código arbitrario.

Al finalizar este módulo, podrás:

• Explicar qué es el Model Context Protocol, por qué se volvió necesario y qué es fundamentalmente un servidor MCP desde el punto de vista de la seguridad.

• Articular las tres razones estructurales por las que la seguridad de MCP es urgente en 2026: la escala de descargas de los SDK, la adopción de IDE agénticos y la ubicación de MCP en el contexto con más privilegios del desarrollador.

• Definir el envenenamiento de herramientas y reconocer cómo las instrucciones ocultas en las descripciones de herramientas pueden inducir a un agente a realizar acciones inseguras.

• Distinguir entre dos modos de fallo de MCP categóricamente diferentes: los servidores MCP maliciosos (la capa de protocolo) y el código de servidor MCP vulnerable (la capa de implementación), e identificar qué control defensivo aborda cada uno.

• Reconocer los patrones de ataque canónicos de MCP —envenenamiento de herramientas, inyección de comandos y recorrido de rutas— por su estructura de código, y aplicar los patrones de corrección estándar a cada uno.

• Ejecutar MCP-Scan contra una configuración local de MCP e interpretar sus resultados, incluidas las advertencias de descripción de herramientas W001/E001 y las alertas de flujo tóxico TF001/TF002.

• Ejecutar Snyk Code contra el código fuente de un servidor MCP e interpretar sus resultados, incluidos los CWE de inyección de comandos y recorrido de rutas con correcciones generadas por IA.

• Articular la justificación de una defensa en profundidad para ejecutar tanto MCP-Scan como Snyk Code en un programa maduro de seguridad de MCP.

En esta sesión, analizaremos las implicaciones de seguridad del Vibe Coding y compartiremos estrategias prácticas para proteger código generado por IA a escala.

• Descubre cómo el Vibe Coding está transformando el desarrollo y los riesgos que conlleva

• Obtén estrategias prácticas para proteger código generado por IA a escala

• Descubre cómo Snyk protege tu SDLC impulsado por IA, desde el código hasta la implementación, mediante Snyk Studio

Al final de este módulo, podrás:

• Definir el Vibe Coding y explicar sus orígenes

• Describir el "Lobster Ecosystem", la constelación de herramientas de IA agéntica, registros de habilidades de agentes y marcos de automatización de código abierto, y explicar la superficie de ataque de la cadena de suministro que introduce, haciendo referencia al envenenamiento de habilidades de agentes y al slopsquatting.

• Aplicar el Secure-by-Design Playbook de cinco capas a un proyecto desarrollado con Vibe Coding

• Identificar los patrones de vulnerabilidad más comunes en el código generado por IA: seguridad a nivel de fila deshabilitada, secretos codificados directamente, autenticación ausente, lógica de seguridad del lado del cliente, slop-squatting y envenenamiento de archivos de reglas, y relacionar cada uno con el OWASP Top 10 para aplicaciones de LLM

• Distinguir el Vibe Coding del vibe hacking

Obtén una comprensión práctica de cómo evaluar aplicaciones impulsadas por IA y aplicaciones agénticas para detectar vulnerabilidades de seguridad. Este módulo explica cómo las pruebas de penetración de IA van más allá de las pruebas web y de API tradicionales al examinar los prompts, el comportamiento del modelo, la gestión del contexto, el acceso a herramientas, la memoria, los permisos y las acciones posteriores.

Al finalizar este módulo, los participantes podrán:

• Explicar en qué se diferencian las pruebas de penetración de IA de las pruebas tradicionales de aplicaciones, API e infraestructura.

• Identificar superficies de ataque específicas de la IA, como prompts, instrucciones del sistema, canalizaciones RAG, embeddings, herramientas, agentes, memoria, plugins y servicios conectados mediante MCP.

• Evaluar vulnerabilidades comunes de seguridad en IA, como la inyección de prompts, la divulgación de información confidencial, la filtración del prompt del sistema, la agencia excesiva, el manejo inseguro de resultados, el envenenamiento del contexto y el uso indebido de herramientas.

• Crear casos de prueba seguros y repetibles para aplicaciones de IA sin depender de técnicas dañinas, descontroladas o que afecten a la producción.

• Evaluar si un sistema de IA separa correctamente las instrucciones confiables de las entradas no confiables de usuarios, el contenido recuperado, los documentos, los tickets, los registros o las páginas web.

• Evaluar cómo un agente de IA selecciona herramientas, transmite argumentos, gestiona permisos y evita acciones inseguras o no autorizadas.

• Evaluar si los datos confidenciales pueden filtrarse a través de las respuestas del modelo, registros, trazas, memoria, búsquedas vectoriales, resultados de herramientas o flujos de trabajo encadenados de agentes.

• Relacionar los hallazgos de las pruebas de penetración de IA con medidas prácticas de corrección, como la validación de entradas y salidas, las listas de permitidos para herramientas, los tokens con alcance limitado, los puntos de aprobación humana, el aislamiento de la memoria, el filtrado del contexto y el registro de auditoría.

• Combinar las pruebas específicas de IA con pruebas de seguridad estándar para API, autenticación, autorización, SSRF, inyección, control de acceso, riesgos de dependencias y configuración insegura.

• Mejor comprensión de Evo COS (Evo Continuous Offensive Security)