A ascensão do AI Security Engineer: uma nova disciplina para um mundo nativo em IA

Estamos testemunhando o nascimento de uma nova profissão, na interseção entre engenharia de segurança e operações de segurança — uma disciplina que não existia há cinco anos porque os sistemas que ela protege também não existiam. À medida que a inteligência artificial deixa de ser experimental para se tornar essencial e os sistemas agentivos começam a perceber, raciocinar, agir e aprender de forma autônoma, precisamos de profissionais de defesa capazes de operar no mesmo ritmo.

Estou falando do AI Security Engineer.

No primeiro AI Security Summit da Snyk, em São Francisco, em outubro passado, falei diante de 400 inovadores em IA e profissionais de segurança e fiz uma previsão: em três anos, todas as empresas da Fortune 500 terão AI Security Engineers em suas equipes. Não como algo desejável, mas como uma necessidade para sobreviver. A reação da plateia me fez pensar que talvez eu esteja sendo conservador.

A mudança fundamental na engenharia de IA

Aplicações tradicionais são determinísticas: diante da mesma entrada, produzem a mesma saída, e você pode testá-las, auditá-las e protegê-las usando metodologias já estabelecidas. Os sistemas de IA agentiva são diferentes porque, por definição, não são determinísticos. Em outras palavras, eles raciocinam, se adaptam e agem no mundo.

Uma aplicação baseada em LLM pode gerar saídas diferentes a cada execução, e um agente autônomo pode realizar uma sequência de ações que nenhum ser humano programou explicitamente. É justamente esse dinamismo que torna a IA tão poderosa — e que rompe nossos modelos tradicionais de segurança.

Pense nisto: Sam Altman reconheceu recentemente que os modelos de IA estão "ficando tão bons em segurança de computadores que já começam a encontrar vulnerabilidades críticas." Se a IA consegue encontrar vulnerabilidades na velocidade das máquinas, os adversários vão explorá-las nesse mesmo ritmo. Nossas defesas não podem mais ficar andando em círculos nem perder tempo. Elas precisam operar no mesmo ritmo.

A superfície de ataque se expandiu em dimensões que ainda estamos mapeando. Injeção de prompt. Exploração de memória. Envenenamento de modelos. Sequestro de agentes. Ataques à cadeia de suprimentos de dados de treinamento. Roubo de modelos por meio de consultas de inferência. Isso não é teoria: está acontecendo agora, e a maioria das organizações nem sequer tem visibilidade para detectar essas ameaças. Na Snyk, reconhecemos essa mudança tectônica e apresentamos o Evo como o próximo salto evolutivo na segurança de softwares nativos em IA.

AppSec tradicional é o mínimo necessário, mas a IA exige mais

Depois de décadas trabalhando com cibersegurança, vou ser direto: nossos frameworks atuais não foram criados para isso. Por exemplo, equipes tradicionais de AppSec são treinadas para encontrar vulnerabilidades no código, não entradas adversariais que manipulam o comportamento dos modelos. Equipes de segurança de redes monitoram padrões de tráfego, não a sutil exfiltração de dados possível por meio de prompts cuidadosamente elaborados. Até mesmo nossos modelos de ameaças mais sofisticados pressupõem um nível de determinismo que os sistemas de IA simplesmente não têm.

O desafio não é a falta de habilidade dos profissionais de segurança. Pelo contrário, eles são extraordinários. O desafio é que os sistemas nativos em IA apresentam vetores de ataque que não existem em nenhuma outra parte da nossa pilha tecnológica:

• Entradas adversariais: ao contrário da injeção de SQL, que explora falhas no código, a injeção de prompt explora o comportamento esperado do modelo. A vulnerabilidade não é um bug: é a forma como o sistema funciona.

• Ataques a dados e memória: sistemas agentivos com memória persistente podem ser envenenados ao longo do tempo, com instruções maliciosas inseridas em interações aparentemente inofensivas. RAG e injeção indireta de prompt exploram essas infraestruturas subjacentes.

• Riscos na cadeia de suprimentos de modelos: ao integrar um modelo de código aberto, um modelo remoto com API de terceiros não confiáveis e sem governança, ou um servidor MCP de terceiros, você assume riscos que não consegue identificar com a análise de código tradicional.

• Imprevisibilidade comportamental: um agente pode "aprender" coisas erradas. Para detectar quando um sistema de IA foi comprometido de forma sutil, é preciso entender não apenas seu código, mas também seu comportamento ao longo do tempo.

É por isso que precisamos de especialistas: profissionais de segurança cuja missão principal seja proteger esses sistemas que priorizam a IA e são nativos em IA.

Definindo o papel do AI Security Engineer

Então, como é esse papel? Com base no que aprendemos ao estruturar os recursos de segurança de IA da própria Snyk e nas conversas com centenas de organizações na linha de frente, esta é a minha visão do perfil essencial.

O AI Security Engineer atua na interseção de três disciplinas tradicionalmente separadas: segurança de plataformas, engenharia de IA/ML e inteligência de ameaças. Essa pessoa se sente tão à vontade para discutir ataques baseados em gradientes com pesquisadores de ML quanto para explicar os riscos dos modelos ao conselho.

O AI Security Engineer é um profissional adaptável. Ele prospera em meio à ambiguidade, aprende com cada incidente de segurança e parte do princípio de que os adversários vão agir mais rápido do que os controles estáticos conseguem acompanhar. Esse profissional incorpora o que chamamos de ciclo OODA agentivo: Observar, Raciocinar, Agir, Aprender. Isso significa atuar de forma contínua, automatizada sempre que possível e supervisionada por pessoas quando necessário.

Os profissionais que atuam como AI Security Engineers são tanto construtores quanto defensores. O AI Security Engineer projeta arquiteturas seguras por padrão e, em seguida, pensa como um adversário para imaginar como elas podem falhar. Ele instrumenta pipelines de detecção capazes de identificar anomalias comportamentais em sistemas de IA. Também cria ferramentas que ainda não existem, porque, em um campo novo, as ferramentas ainda precisam ser desenvolvidas.

Acima de tudo, esse profissional entende que a segurança de IA não é apenas técnica: trata-se de confiança, alinhamento e de garantir que os sistemas que estamos criando cumpram os propósitos pretendidos, sem serem comprometidos por agentes maliciosos nem se desviarem para comportamentos prejudiciais.

Uma proposta de definição do papel do AI Security Engineer

Para organizações que querem formalizar essa função, aqui está uma descrição resumida do cargo:

A importância estratégica da segurança de IA

Pense no que está em jogo. Os sistemas de IA estão sendo implementados para detectar fraudes, apoiar decisões clínicas, operar de forma autônoma, interagir com clientes e gerar código. São sistemas em produção, com impacto no mundo real. Um sistema de IA comprometido não apenas vaza dados: ele toma decisões erradas em grande escala, possivelmente por muito tempo antes que alguém perceba.

O cenário regulatório está mudando rapidamente: o AI Act da UE, diretrizes específicas de cada setor e novos regimes de responsabilidade. As organizações precisam de profissionais capazes de traduzir esses requisitos em controles técnicos e demonstrar conformidade a reguladores e auditores.

E há também a dimensão da confiança. Seus clientes, parceiros e funcionários precisam saber que os sistemas de IA com os quais interagem são confiáveis. Que não foram envenenados, manipulados nem comprometidos. Construir e manter essa confiança exige conhecimento especializado.

É por isso que, na Snyk, fizemos da segurança de IA uma prioridade estratégica. Nossa plataforma Evo foi desenvolvida para capacitar AI Security Engineers, oferecendo a visibilidade, a automação de políticas e a orquestração agentiva de segurança de que precisam para proteger aplicações nativas em IA durante todo o ciclo de vida do desenvolvimento. Mas as ferramentas, por si só, não bastam: o setor precisa desenvolver a capacidade humana para usá-las.

Você vai participar da RSA Conference em março de 2026? Convidamos você a participar do nosso treinamento Masterclass para AI Security Engineers e receber um certificado de conclusão de módulos sobre AI-BOM, Red Teaming, segurança de MCP, segurança de Agent Skills e outros laboratórios:

Recomendações para a adoção de IA nas organizações

Se você é CISO, CTO ou líder de engenharia, veja minhas recomendações para desenvolver recursos de segurança de IA:

• Comece agora, mesmo que em pequena escala. Não espere ter 50 aplicações de IA em produção. Identifique um ou dois engenheiros com o perfil adequado e comece a desenvolver essa prática. A curva de aprendizado é íngreme, e começar cedo ajuda a construir conhecimento institucional.

• Invista em treinamento. Foi por isso que a Snyk lançou o programa de certificação AI Security Engineer junto com o AI Security Summit. Hoje, a maioria dos currículos de segurança e engenharia não ensina as habilidades necessárias. É essencial oferecer treinamento prático sobre como proteger código gerado por IA, testes adversariais, segurança de MCP e o OWASP Top 10 para GenAI.

• Defina uma estrutura organizacional. A segurança de IA não pode ficar sem responsável entre as equipes de segurança e engenharia de IA. Defina claramente a responsabilidade, as linhas de reporte e os pontos de integração entre as áreas. As organizações mais bem-sucedidas que conheço tratam a segurança de IA como uma disciplina prioritária, com mandato e métricas próprios.

• Adote a segurança agentiva. Assim como seus sistemas de IA estão se tornando agentivos, seus sistemas de segurança também precisam evoluir. Revisões manuais e regras estáticas não conseguem acompanhar o dinamismo das aplicações de IA. Invista em plataformas que ofereçam orquestração de segurança adaptável e automatizada, capaz de observar, raciocinar, agir e aprender junto com os sistemas que protege.

• Meça o que importa. Tempo médio para detectar e corrigir incidentes relacionados à IA. Cobertura dos sistemas de IA por uma postura de segurança definida (dica: comece com AI-SPM). Índice de automação. E, acima de tudo: seu sistema de segurança está aprendendo? Você está observando menos incidentes recorrentes com o passar do tempo?

O que vem pela frente

Acredito que estamos nos primeiros capítulos de uma transformação que vai durar décadas. Os sistemas de IA se tornarão mais capazes e autônomos, estarão cada vez mais integrados à infraestrutura crítica, e a superfície de ataque vai se expandir de maneiras que hoje não conseguimos prever completamente. Os adversários — agentes estatais, organizações criminosas e, sim, outros sistemas de IA — também ficarão mais sofisticados. Nesse futuro, AI Security Engineers não serão uma especialidade de nicho. Serão tão comuns e essenciais quanto os engenheiros de segurança de aplicações e de nuvem são hoje. Toda organização que desenvolver ou implementar IA precisará deles, e todas as equipes de segurança precisarão incorporar essa expertise.

A boa notícia é que estamos vendo uma energia extraordinária nessa área. O AI Security Summit, com ingressos esgotados, me mostrou uma comunidade ávida por aprender, compartilhar e construir. Os profissionais que estão ingressando nessa área trazem criatividade e capacidade de adaptação que me deixam genuinamente otimista. A profissão está sendo criada agora, os modelos de ameaças estão sendo escritos, as ferramentas estão sendo desenvolvidas e os frameworks estão surgindo. Se você é um profissional de segurança pensando em se especializar em segurança de IA, ou um engenheiro de IA interessado nas implicações de segurança do que está desenvolvendo, minha mensagem é simples: é aqui que tudo acontece. Esta é a nova fronteira.

Na Snyk, estamos comprometidos em ser sua parceira nessa jornada. Da AI Security Platform da Snyk aos treinamentos gratuitos e acessíveis oferecidos pela Snyk Learn e à comunidade AI Security Engineers que estamos formando, nossa missão é ajudar você a proteger o futuro nativo em IA. Porque esse futuro já chegou. A questão é: você vai defendê-lo?

Descubra por que a segurança tradicional não consegue acompanhar o desenvolvimento moderno — e o que você precisa fazer para proteger seu software na velocidade das máquinas. Baixe "O fim da segurança na velocidade humana" para saber como adotar defesas automatizadas e contínuas que mantêm suas equipes e seu código seguros à medida que os sistemas evoluem.