Fundamentos e Certificação de Engenheiro de Segurança de IA

Obtenha uma compreensão prática dos principais riscos de segurança introduzidos por aplicações de IA agêntica. Este módulo explica como o risco muda quando os sistemas de IA podem raciocinar, planejar, usar ferramentas, acessar memória, interagir com outros agentes e executar ações em fluxos de trabalho empresariais.

Ao final deste módulo, você será capaz de:

• Explicar por que existe o OWASP Top 10 for Agentic Applications e como ele difere do OWASP Top 10 for Web Applications e do OWASP Top 10 for LLM Applications.

• Descrever como a IA agentiva muda o modelo de segurança por meio de objetivos, ferramentas, memória, identidade, permissões, orquestração e ações em sistemas downstream.

• Definir os dez riscos agênticos: sequestro de objetivos do agente, uso indevido de ferramentas, abuso de identidade e privilégios, vulnerabilidades na cadeia de fornecimento agêntica, execução inesperada de código, envenenamento de memória e contexto, comunicação insegura entre agentes, falhas em cascata, exploração da confiança entre humanos e agentes e agentes desonestos.

• Distinguir entre riscos no nível do modelo, riscos no nível da aplicação, riscos na camada de ferramentas, riscos de identidade, riscos de memória e contexto e riscos em sistemas downstream.

• Mapear cada risco para controles práticos, como privilégio mínimo, identidades com escopo definido, listas de permissões de ferramentas, etapas de aprovação, isolamento de memória, validação de contexto, análise da cadeia de fornecimento, monitoramento em tempo de execução e registro de auditoria.

• Explicar como uma única vulnerabilidade em sistemas agentivos pode evoluir para uma cadeia de ataque maior, como o sequestro de objetivos levar ao uso indevido de ferramentas, abuso de privilégios, exposição de dados ou automação insegura.

• Diferenciar sistemas de IA que apenas recomendam ações de sistemas agênticos capazes de executar ações e explicar por que a execução muda a governança e a responsabilização.

• Usar o OWASP Top 10 for Agentic Applications como uma taxonomia compartilhada para modelagem de ameaças, red teaming, revisão de arquitetura, design seguro, mapeamento de controles e planejamento de resposta a incidentes.

• Avaliar se um agente está operando dentro de limites seguros: o que ele pode fazer, de quem ele utiliza a autoridade, quais dados pode acessar, quais ferramentas pode chamar e como suas ações são registradas e aprovadas.

Assuma o papel de Engenheiro de Segurança de IA para lidar com as “situações inesperadas” que surgem quando você examina os bastidores da sua postura de IA.

• Entenda como um Engenheiro de Segurança de IA começa a atuar na interseção entre segurança de plataformas, engenharia de ML e inteligência contra ameaças.

• Conheça as ferramentas necessárias para identificar a “IA invisível” e como as conversas sobre segurança estão mudando dentro das organizações.

• Aprenda a fornecer inteligência e aplicar políticas para IA autônoma sem desacelerar a inovação.

Ao final deste módulo, você será capaz de:

• Definir IA invisível e explicar as características que a distinguem da TI invisível.

• Citar os principais dados de 2025–2026 sobre a prevalência e o custo da IA invisível.

• Reconhecer as quatro propriedades que tornam a IA invisível estruturalmente mais difícil de governar do que suas antecessoras.

• Identificar os quatro cenários de risco mais comuns da IA invisível em ambientes corporativos.

• Definir uma AIBOM e descrever as três funções que ela desempenha em um programa de governança de IA.

• Comparar AIBOM e SBOM quanto a escopo, comportamento, classes de risco, frequência de atualização, padrões e cadeia de suprimentos.

• Identificar os quatro antipadrões mais comumente observados em programas de IA invisível e explicar por que cada um falha.

• Gerar uma AIBOM para um projeto de exemplo usando a CLI do Snyk e inspecionar o resultado na plataforma Evo.

Este módulo apresenta a você Modelagem de Ameaças de IA: a prática estruturada de identificar, analisar, priorizar e mitigar ameaças específicas de sistemas alimentados por IA. Com base nos fundamentos tradicionais de modelagem de ameaças (STRIDE, DREAD, árvores de ataque), o módulo explora por que as abordagens convencionais são insuficientes quando aplicadas a sistemas de IA probabilísticos e não determinísticos, e apresenta um fluxo de trabalho prático para modelar ameaças em todo o ciclo de vida de IA/ML, desde a ingestão de dados até a inferência e a invocação de ferramentas por agentes.

Ao final deste módulo, você será capaz de:

• Definir modelagem de ameaças e explicar seu papel em um pipeline moderno de DevSecOps.

• Aplicar frameworks tradicionais de modelagem de ameaças (STRIDE, DREAD, árvores de ataque) à arquitetura de sistemas.

• Identificar a superfície de ameaças exclusiva introduzida por sistemas de IA/ML, incluindo IA agentiva.

• Reconhecer novas classes de ativos e limites de confiança específicos de sistemas de IA.

• Executar um fluxo de trabalho prático de modelagem de ameaças de IA, abrangendo descoberta, enumeração, priorização e mitigação.

• Integrar a modelagem de ameaças de IA a um pipeline contínuo e adaptativo de DevSecOps.

Como o SKILL.md introduziu malware

A primeira parte desta sessão abordará a pesquisa "ToxicSkills", na qual analisaremos as primeiras grandes ameaças à cadeia de suprimentos direcionadas aos ecossistemas de agentes de IA.

Na segunda parte desta sessão, demonstraremos técnicas de exploração ativa contra implantações de MCP: como uma única descrição de ferramenta maliciosa pode exfiltrar credenciais e como invasores exploram MCP Servers inseguros para executar código arbitrário.

Ao final deste módulo, você será capaz de:

• Explicar o que é o Model Context Protocol, por que ele se tornou necessário e o que um servidor MCP é fundamentalmente do ponto de vista da segurança.

• Explicar as três razões estruturais pelas quais a segurança do MCP é urgente em 2026: a escala de downloads do SDK, a adoção de IDEs agentivos e a posição do MCP no contexto mais privilegiado do desenvolvedor.

• Definir envenenamento de ferramentas e reconhecer como instruções ocultas nas descrições de ferramentas podem conduzir um agente a ações inseguras.

• Distinguir entre dois modos de falha do MCP categoricamente diferentes, servidores MCP maliciosos (a camada de protocolo) e código de servidor MCP vulnerável (a camada de implementação), e identificar qual controle defensivo aborda cada um deles.

• Reconhecer os padrões de ataque canônicos do MCP — envenenamento de ferramentas, injeção de comandos e travessia de caminhos — pela estrutura do código e aplicar os padrões de correção padrão a cada um deles.

• Executar o MCP-Scan em uma configuração local do MCP e interpretar seus resultados, incluindo os avisos de descrição de ferramentas W001/E001 e os alertas de fluxo tóxico TF001/TF002.

• Executar o Snyk Code no código-fonte de um servidor MCP e interpretar seus resultados, incluindo CWEs de injeção de comandos e travessia de caminhos com correções geradas por IA.

• Articular o argumento de defesa em profundidade para executar o MCP-Scan e o Snyk Code em um programa maduro de segurança do MCP.

Nesta sessão, analisamos as implicações de segurança do Vibe Coding e compartilhamos estratégias práticas para proteger código gerado por IA em grande escala.

• Saiba como o Vibe Coding está transformando o desenvolvimento e conheça os riscos associados

• Conheça estratégias práticas para proteger código gerado por IA em grande escala

• Veja como a Snyk protege seu SDLC baseado em IA, do código à implantação, usando o Snyk Studio

Ao final deste módulo, você será capaz de:

• Definir o que é vibe coding e explicar suas origens

• Descrever o "Lobster Ecosystem", a constelação de ferramentas de IA agêntica, registros de habilidades de agentes e frameworks de automação de código aberto, e explicar a superfície de ataque da cadeia de suprimentos que ele introduz, com referência ao envenenamento de habilidades de agentes e ao slopsquatting.

• Aplicar o Secure-by-Design Playbook de cinco camadas a um projeto desenvolvido com vibe coding

• Identificar os padrões de vulnerabilidade mais comuns em código gerado por IA — segurança em nível de linha desativada, segredos codificados diretamente, autenticação ausente, lógica de segurança no lado do cliente, slop-squatting e envenenamento de arquivos de regras — e relacionar cada um deles ao OWASP Top 10 for LLM Applications

• Distinguir vibe coding de vibe hacking

Obtenha uma compreensão prática de como testar aplicações com tecnologia de IA e aplicações agentic em busca de vulnerabilidades de segurança. Este módulo explica como o teste de penetração de IA vai além dos testes tradicionais de web e APIs, examinando prompts, comportamento do modelo, gerenciamento de contexto, acesso a ferramentas, memória, permissões e ações subsequentes.

Ao final deste módulo, os participantes serão capazes de:

• Explicar como os testes de penetração de IA diferem dos testes tradicionais de aplicações, APIs e infraestrutura.

• Identificar superfícies de ataque específicas de IA, como prompts, instruções do sistema, pipelines de RAG, embeddings, ferramentas, agentes, memória, plugins e serviços conectados ao MCP.

• Testar vulnerabilidades comuns de segurança em IA, incluindo injeção de prompt, divulgação de informações confidenciais, vazamento do prompt do sistema, agência excessiva, tratamento inseguro de saídas, envenenamento de contexto e uso indevido de ferramentas.

• Criar casos de teste seguros e reproduzíveis para aplicações de IA sem depender de técnicas prejudiciais, não controladas ou que afetem a produção.

• Avaliar se um sistema de IA separa adequadamente instruções confiáveis de entradas não confiáveis de usuários, conteúdo recuperado, documentos, chamados, logs ou páginas da web.

• Avaliar como um agente de IA seleciona ferramentas, transmite argumentos, gerencia permissões e impede ações inseguras ou não autorizadas.

• Testar se dados confidenciais podem vazar por meio de respostas do modelo, logs, rastreamentos, memória, busca vetorial, saídas de ferramentas ou fluxos de trabalho encadeados de agentes.

• Relacionar as descobertas dos testes de penetração de IA a etapas práticas de correção, como validação de entradas e saídas, allowlisting de ferramentas, tokens com escopo limitado, etapas de aprovação humana, isolamento de memória, filtragem de contexto e registro de auditoria.

• Combinar testes específicos de IA com testes de segurança padrão para APIs, autenticação, autorização, SSRF, injeção, controle de acesso, riscos de dependências e configurações inseguras.

• Melhor compreensão de Evo COS (Evo Continuous Offensive Security)