El auge del AI Security Engineer: una nueva disciplina para un mundo nativo de IA

Estamos presenciando el nacimiento de una nueva profesión, en la intersección de la ingeniería de seguridad y las operaciones de seguridad: una disciplina que no existía hace cinco años porque los sistemas que protege tampoco existían entonces. A medida que la inteligencia artificial pasa de ser experimental a esencial y los sistemas agénticos comienzan a percibir, razonar, actuar y aprender de forma autónoma, necesitamos defensores capaces de operar a la misma velocidad.

Me refiero al ingeniero de seguridad de IA.

En el primer AI Security Summit de Snyk en San Francisco, celebrado en octubre pasado, me dirigí a 400 innovadores de IA y profesionales de seguridad e hice una predicción: en un plazo de tres años, todas las empresas de Fortune 500 tendrán AI Security Engineers en su equipo. No como un lujo, sino como un imperativo de supervivencia. La respuesta de los asistentes me hizo pensar que quizá estaba siendo demasiado conservador.

El cambio fundamental en la ingeniería de IA

Las aplicaciones tradicionales son deterministas: ante la misma entrada, producen la misma salida, y puedes probarlas, auditarlas y protegerlas con metodologías establecidas. Los sistemas de IA agéntica son diferentes porque, por diseño, no son deterministas. En otras palabras, razonan, se adaptan y actúan en el mundo.

Una aplicación basada en un LLM podría generar resultados distintos cada vez que se ejecuta, y un agente autónomo podría realizar una secuencia de acciones que ningún ser humano programó explícitamente. Este dinamismo es precisamente lo que hace que la IA sea tan potente y lo que rompe nuestros modelos de seguridad tradicionales.

Considera lo siguiente: Sam Altman reconoció recientemente que los modelos de IA son "tan buenos en seguridad informática que están empezando a encontrar vulnerabilidades críticas." Si la IA puede encontrar vulnerabilidades a velocidad de máquina, los adversarios las explotarán a velocidad de máquina. Nuestras defensas ya no pueden avanzar con lentitud ni quedarse atrás. Deben operar al mismo ritmo.

La superficie de ataque se ha expandido en dimensiones que todavía estamos tratando de mapear. Inyección de prompts. Explotación de la memoria. Envenenamiento de modelos. Secuestro de agentes. Ataques a la cadena de suministro de los datos de entrenamiento. Robo de modelos mediante consultas de inferencia. No son situaciones hipotéticas: están ocurriendo ahora, y la mayoría de las organizaciones ni siquiera tiene la visibilidad necesaria para detectarlas. En Snyk, hemos reconocido este cambio tectónico y presentamos Evo como el siguiente salto evolutivo en la seguridad del software nativo de IA.

La seguridad de aplicaciones tradicional es lo mínimo indispensable, pero la IA exige más

Tras décadas en el campo de la ciberseguridad, seré directo: nuestros marcos actuales no se diseñaron para esto. Por ejemplo, los equipos tradicionales de seguridad de aplicaciones están capacitados para encontrar vulnerabilidades en el código, no entradas adversarias que manipulan el comportamiento de los modelos. Los equipos de seguridad de redes monitorean patrones de tráfico, no la sutil exfiltración de datos que pueden posibilitar prompts cuidadosamente elaborados. Incluso nuestros modelos de amenazas más sofisticados presuponen un nivel de determinismo que los sistemas de IA no tienen.

El desafío no es que nuestros profesionales de seguridad carezcan de habilidades. De hecho, son extraordinarios. El desafío es que los sistemas nativos de IA presentan vectores de ataque que no existen en ninguna otra parte de nuestra pila tecnológica:

• Entradas adversarias: A diferencia de la inyección SQL, que aprovecha fallas del código, la inyección de prompts explota el comportamiento previsto del modelo. La vulnerabilidad no es un error: es la forma en que funciona el sistema.

• Ataques a los datos y la memoria: Los sistemas agénticos con memoria persistente pueden envenenarse con el tiempo, mediante instrucciones maliciosas incrustadas en interacciones aparentemente inofensivas. RAG y la inyección indirecta de prompts explotan estas infraestructuras subyacentes.

• Riesgos en la cadena de suministro de modelos: Cuando integras un modelo de código abierto, un modelo remoto habilitado para API de entidades no confiables y no gobernables, o un servidor MCP de terceros, heredas riesgos que no puedes inspeccionar con el análisis tradicional de código.

• Imprevisibilidad del comportamiento: Un agente puede "aprender" cosas equivocadas. Para detectar cuándo un sistema de IA ha sido comprometido sutilmente, es necesario comprender no solo su código, sino también su comportamiento a lo largo del tiempo.

Por eso necesitamos especialistas: profesionales de seguridad cuya misión principal sea proteger estos sistemas centrados en la IA y nativos de IA.

Definición del ingeniero de seguridad de IA

Entonces, ¿cómo es este rol? A partir de lo que hemos aprendido al crear las capacidades de seguridad de IA de Snyk y de las conversaciones con cientos de organizaciones en primera línea, esta es mi visión del perfil esencial.

El AI Security Engineer trabaja en la intersección de tres disciplinas que tradicionalmente se han mantenido separadas: seguridad de plataformas, ingeniería de IA/ML e inteligencia de amenazas. Se siente igual de cómodo hablando de ataques basados en gradientes con investigadores de ML que explicando los riesgos de los modelos ante la junta directiva.

El AI Security Engineer es un agente adaptable. Se desenvuelve bien en la ambigüedad, aprende de cada incidente de seguridad y parte de la premisa de que los adversarios avanzarán más rápido de lo que pueden seguir el ritmo los controles estáticos. Representa lo que llamamos el ciclo OODA agéntico: observar, razonar, actuar y aprender. Esto implica un proceso continuo, automatizado siempre que sea posible y supervisado por personas cuando sea necesario.

Los profesionales que desempeñan el rol de AI Security Engineer son tanto creadores como defensores. Diseñan arquitecturas seguras por defecto y luego analizan de forma adversaria cómo podrían fallar. Instrumentan los canales de detección para identificar anomalías de comportamiento en los sistemas de IA. Crean herramientas que aún no existen porque, en un campo nuevo, todavía no se han desarrollado.

Y, lo más importante, entienden que la seguridad de la IA no es solo técnica: se trata de confianza, alineación y de garantizar que los sistemas que construimos cumplan los fines previstos, sin que actores maliciosos los manipulen ni que deriven hacia comportamientos dañinos.

Una propuesta de definición del rol de AI Security Engineer

Para las organizaciones que buscan formalizar esta función, aquí tienes una descripción resumida del puesto:

El imperativo estratégico de la seguridad de la IA

Considera lo que está en juego. Los sistemas de IA se están implementando para detectar fraudes, apoyar decisiones clínicas, realizar operaciones autónomas, interactuar con clientes y generar código. Son sistemas de producción con impacto en el mundo real. Un sistema de IA comprometido no solo filtra datos: toma decisiones equivocadas a gran escala, potencialmente durante mucho tiempo antes de que alguien lo note.

El entorno regulatorio evoluciona con rapidez: la Ley de IA de la UE, los lineamientos específicos de cada industria y los marcos de responsabilidad emergentes. Las organizaciones necesitan profesionales capaces de traducir estos requisitos en controles técnicos y demostrar el cumplimiento ante organismos reguladores y auditores.

Y luego está la dimensión de la confianza. Tus clientes, socios y empleados necesitan saber que los sistemas de IA con los que interactúan son confiables. Que no han sido envenenados, manipulados ni comprometidos. Generar y mantener esa confianza requiere conocimientos especializados.

Por eso, en Snyk, hemos convertido la seguridad de la IA en una prioridad estratégica. Nuestra plataforma Evo está diseñada específicamente para ayudar a los AI Security Engineers: les proporciona la visibilidad, la automatización de políticas y la orquestación de seguridad agéntica que necesitan para proteger aplicaciones nativas de IA durante todo el ciclo de vida del desarrollo. Pero las herramientas por sí solas no bastan; la industria necesita desarrollar la capacidad humana para aprovecharlas.

¿Vas a asistir a RSA Conference en marzo de 2026? Te invitamos a participar en nuestra capacitación Masterclass para AI Security Engineers y obtener un certificado de finalización por los distintos módulos sobre AI-BOM, Red Teaming, seguridad de MCP, seguridad de Agent Skills, entre otros laboratorios:

Recomendaciones para la adopción de IA en las organizaciones

Si eres CISO, CTO o líder de ingeniería, estas son mis recomendaciones para desarrollar capacidades de seguridad de IA:

• Empieza ahora, aunque sea a pequeña escala. No esperes a tener 50 aplicaciones de IA en producción. Identifica a uno o dos ingenieros con las aptitudes adecuadas y empieza a desarrollar la práctica. La curva de aprendizaje es pronunciada, y empezar temprano permite acumular conocimientos institucionales.

• Invierte en capacitación. Por eso, Snyk lanzó el programa de certificación AI Security Engineer junto con nuestro AI Security Summit. Hoy, la mayoría de los programas de seguridad e ingeniería no incluyen las habilidades necesarias. Es fundamental ofrecer capacitación práctica sobre cómo proteger código generado por IA, realizar pruebas adversarias, proteger MCP y aplicar OWASP Top 10 for GenAI.

• Define un área responsable dentro de la organización. La seguridad de la IA no puede quedar en tierra de nadie entre los equipos de seguridad y de ingeniería de IA. Define con claridad las responsabilidades, las líneas de reporte y los puntos de integración entre funciones. Las organizaciones más exitosas que he visto tratan la seguridad de la IA como una disciplina fundamental, con un mandato y métricas propios.

• Adopta la seguridad agéntica. Así como tus sistemas de IA se vuelven agénticos, tus sistemas de seguridad también deben hacerlo. Las revisiones manuales y las reglas estáticas no pueden seguir el ritmo del dinamismo de las aplicaciones de IA. Invierte en plataformas que ofrezcan una orquestación de seguridad adaptable y automatizada, capaz de observar, razonar, actuar y aprender junto con los sistemas que protege.

• Mide lo que importa. El tiempo medio para detectar y corregir incidentes relacionados con la IA. La cobertura de los sistemas de IA según una postura de seguridad definida (una pista: empieza con AI-SPM). El nivel de automatización. Y, algo fundamental: ¿tu sistema de seguridad está aprendiendo? ¿Disminuye la cantidad de incidentes recurrentes con el tiempo?

Una mirada al futuro

Creo que estamos en los primeros capítulos de una transformación que durará décadas. Los sistemas de IA serán más capaces, más autónomos y estarán más integrados en infraestructuras críticas, mientras que la superficie de ataque se expandirá de maneras que hoy no podemos predecir por completo. Los adversarios —actores estatales, organizaciones criminales y, sí, otros sistemas de IA— serán cada vez más sofisticados. En este futuro, los AI Security Engineers no serán una especialidad de nicho. Serán tan comunes e indispensables como lo son hoy los ingenieros de seguridad de aplicaciones y de la nube. Todas las organizaciones que desarrollen o implementen IA los necesitarán, y todos los equipos de seguridad deberán integrar esta experiencia.

La buena noticia es que estamos viendo una energía extraordinaria en este ámbito. El AI Security Summit, que agotó sus entradas, me mostró una comunidad con muchas ganas de aprender, compartir y crear. Los profesionales que se incorporan a este campo aportan creatividad y capacidad de adaptación, y eso me llena de optimismo. La profesión se está inventando ahora mismo, se están redactando los modelos de amenazas, se están creando las herramientas y están surgiendo los marcos de trabajo. Si eres profesional de seguridad y te preguntas si deberías especializarte en seguridad de IA, o si eres ingeniero de IA y te interesa conocer las implicaciones de seguridad de lo que estás creando, mi mensaje es sencillo: aquí es donde está la acción. Esta es la nueva frontera.

En Snyk, nos comprometemos a ser tu socio en este recorrido. Desde la AI Security Platform de Snyk y la capacitación gratuita y accesible que ofrecemos en Snyk Learn, hasta la comunidad AI Security Engineer que estamos impulsando, nuestra misión es ayudarte a proteger el futuro nativo de IA. Porque ese futuro ya está aquí. La pregunta es si lo defenderás.

Descubre por qué la seguridad tradicional no puede seguir el ritmo del desarrollo moderno y qué debes hacer para proteger tu software a velocidad de máquina. Descarga "El fin de la seguridad a velocidad humana" para descubrir cómo pasar a defensas automatizadas y continuas que protejan a tus equipos y tu código a medida que evolucionan los sistemas.