Construindo a segurança de IA com nossos clientes: 5 lições do programa de parceiros de design do Evo

Em 2025, iniciamos uma nova jornada para proteger a transformação tecnológica mais importante desta década: a IA generativa.

Nossa visão é ajudar as empresas a proteger sua IA com rapidez, para que possam inovar na vanguarda e colocar em produção casos de uso de IA e agentes. Para isso, criamos o Evo, o primeiro orquestrador agentivo para segurança de IA do mundo.

Todo produto começa pelas necessidades dos clientes. Recorremos aos nossos 5.000 clientes e selecionamos um grupo de parceiros de design para nos ajudar a entender e priorizar os desafios de maior impacto que eles buscavam resolver. Estas são algumas das principais lições que aprendemos com eles nos últimos 12 meses de desenvolvimento do Evo.

Principais aprendizados

1. Não dá para proteger o que você não consegue ver: a proliferação de IA e a IA não autorizada são muito maiores do que a maioria das equipes imagina; a descoberta é o primeiro passo para resolver isso.

2. A IA personalizada é o futuro: a detecção precisa ir além das bibliotecas padrão para entender como as equipes desenvolvem.

3. Planilhas não acompanham o crescimento: o monitoramento estático cria pontos cegos e uma falsa sensação de controle.

4. As equipes precisam de um ponto de partida para a governança: políticas prontas para uso e aplicadas continuamente são essenciais para passar do caos ao controle.

5. A inteligência de risco é a camada que falta: sem sinais de risco claros e acionáveis, as equipes não conseguem priorizar nem agir.

1. A visibilidade é essencial para descobrir a proliferação de IA na velocidade da IA

A IA não autorizada é muito mais disseminada do que os CISOs imaginam, e a visibilidade é o primeiro passo para resolver isso. A maioria dos clientes não faz ideia de quantos modelos, serviços ou agentes de IA estão em uso até ver por conta própria.

Com o Agente de Descoberta do Evo AI-SPM, o momento de “agora entendi” chega nos primeiros cinco minutos. Uma grande rede varejista analisou mais de 16 mil repositórios, identificou mais de 500 modelos e descobriu uma única equipe usando oito versões diferentes do GPT-3. Eles “sabiam que era um problema, mas não tinham visibilidade até agora”.

Antes do Evo, criar um inventário completo de IA levava de quatro a cinco semanas, envolvia de 10 a 12 partes interessadas e exigia coordenação entre equipes. Muitas tentaram usar planilhas: simples, conhecidas, mas estáticas. Com o crescimento da adoção de IA, as planilhas deixam de funcionar: não detectam a IA não autorizada, dependências ocultas nem comportamentos em tempo real, criando uma falsa sensação de controle e deixando lacunas na governança, na gestão de riscos e na conformidade.

A descoberta não é apenas um requisito básico: nesta fase do mercado, ela é o próprio produto. O Evo identifica automaticamente llmlite, competências de agentes e recursos emergentes de IA em tempo real, oferecendo visibilidade e controle desde o primeiro dia.

2. Para fechar a lacuna, é preciso personalizar a descoberta

À medida que as organizações deixam de lado a IA pronta para uso e começam a criar agentes próprios, personalizados e de primeira parte para diferenciar seus produtos, elas dependem cada vez mais de camadas internas sobre modelos, ferramentas e servidores MCP para controlar o comportamento, integrar dados proprietários e aplicar a lógica de negócios. Essa mudança é fundamental: os sistemas de IA personalizados estão se tornando o futuro da competitividade empresarial.

Mas isso também expõe uma lacuna crítica: abordagens de detecção padrão, que dependem de bibliotecas e assinaturas conhecidas, não identificam essas implementações personalizadas. Vários parceiros de design apontaram essa limitação difícil de prever: eles tinham criado suas próprias camadas e bibliotecas personalizadas, que ficavam invisíveis para as ferramentas de detecção padrão.

Essa descoberta levou a equipe a criar o Custom Discovery, um recurso que aprende com a base de código do cliente para identificar padrões específicos, com uma pontuação de confiança que permite aos usuários aprovar ou rejeitar as detecções sugeridas.

Nossos parceiros de design foram fundamentais nesse processo, já que o recurso usa código dos clientes, mesmo que isolado por locatário. Esse aprendizado contribuiu diretamente para uma das capacidades mais diferenciadas do AI-SPM.

3. Os CISOs precisam de um ponto de partida escalável para as políticas.

Uma única empresa pode ter dezenas de modelos em uso, cada um com diferentes perfis de risco relacionados a vulnerabilidades no código, viés, segurança e exposição de dados. Ainda assim, falta uma forma escalável de avaliá-los de maneira consistente. Como disse um CISO: “Sinto que estou pilotando um avião enquanto ainda estamos construindo os instrumentos do cockpit”. As equipes precisam escolher entre análises manuais e demoradas ou deixar de fazer avaliações, criando pontos cegos na governança.

Para resolver isso, criamos as Snyk Generated Policies: um conjunto de políticas prontas para uso que avaliam automaticamente cada modelo de acordo com os riscos de segurança mais importantes. Em vez de depender de metadados estáticos ou declarações de fornecedores, essas políticas se baseiam em testes contínuos em situações reais e em um Índice de Risco padronizado, permitindo que as organizações identifiquem sistematicamente quais modelos exigem atenção.

Um vice-presidente de Segurança nos disse que políticas prontas para uso seriam úteis simplesmente por oferecerem um ponto de partida. Já uma empresa de IA focada em conformidade, recém-saída de sua primeira reunião do conselho de governança de IA, buscava ativamente uma abordagem gradual para estabelecer controles: “engatinhar, andar, correr”.

O resultado é a transição de análises pontuais e reativas para a priorização consistente e escalável dos riscos de IA, alinhada à forma como as empresas modernas realmente implementam IA. Isso impulsionou o investimento na disponibilidade geral das políticas padrão e na avaliação contínua — ou quase em tempo real — das políticas, transformando documentos estáticos de governança em controles aplicados.

4. A inteligência de risco viabiliza a governança de IA.

Entre os primeiros a adotar a solução, surgiu um padrão claro: depois do momento de “uau, consigo ver todos os meus ativos de IA”, a pergunta imediata é sempre: “o que realmente representa um risco neles?”

Esse é um desafio novo. Ao contrário do SCA ou do SAST, não existe um equivalente a CVE/CVSS para modelos de IA. Isso levou à criação do Risk Intelligence Agent: uma iniciativa original de pesquisa de segurança sobre as vulnerabilidades de modelos e agentes de IA, servidores MCP e muito mais, desenvolvida do zero.

Para entregar isso, foi necessário coordenar várias frentes de trabalho. Precisávamos analisar relatórios de vulnerabilidades de código aberto e transformá-los em testes reproduzíveis e passíveis de comparação para modelos.

Também precisávamos mapear os benchmarks existentes e classificá-los em categorias de risco distintas. Além disso, era necessário um grande esforço de ciência de dados para converter pontuações brutas em índices de risco acionáveis — que permitam, de fato, definir políticas — e um pipeline de engenharia de dados para mantê-los atualizados à medida que o ecossistema de modelos evolui.

Por fim, era preciso implementar tudo isso como um agente autônomo capaz de avaliar riscos.

Os parceiros de design reforçaram a urgência por outro ângulo. Eles tinham componentes de IA em seus repositórios, mas não conseguiam encontrar metadados relevantes sobre eles. Sem um sinal de risco pronto para uso que pudessem analisar, nem sequer conseguiam começar a criar políticas. O Risk Intelligence Agent foi a resposta.

5. A segurança operacional também abrange agentes, MCPs e aplicação de políticas.

À medida que aprimoramos o Discovery Agent com os parceiros de design, a visão que começa a tomar forma é a de visibilidade contínua sobre a intenção dos agentes, os repositórios, os endpoints e os pipelines de ML. Um vice-presidente de Engenharia de uma empresa de pagamentos da Fortune 500 apontou a escala e a consistência como o principal desafio: gerenciar mais de 10 mil notebooks e 80 mil repositórios sem um plano de controle centralizado para IA — um problema de escala que o Evo sabe resolver muito bem.

Os parceiros de design recorrem ao Risk Intelligence Agent para avaliar uma lista de ameaças que não para de crescer. Todos os CISOs e líderes seniores de segurança consideram o MCP uma nova superfície de ataque significativa. A IA não autorizada é mais comum do que a maioria dos líderes imagina: modelos não aprovados, servidores MCP em ferramentas como Cursor e Claude Desktop e cargas de trabalho ocultas na nuvem.

Por fim, o Policy Agent precisa governar a IA, não apenas criar problemas. O bloqueio de pipelines de CI/CD pelo Policy Agent está em produção desde a disponibilidade geral do AI-SPM. Os parceiros de design estão estabelecendo estruturas formais de governança de IA e buscando a ajuda dos fornecedores para colocá-las em prática. Um vice-presidente de uma empresa de serviços financeiros descreveu as ferramentas antigas como “absurdamente barulhentas”: ele se preocupa menos com o total de problemas e mais em identificar riscos críticos e acionáveis que realmente afetam os negócios. Esse é o nível que o Policy Agent precisa alcançar.

O que aprendemos com nossos parceiros de design é claro

A segurança de IA ainda está no começo, e a maioria das organizações está construindo o avião enquanto o pilota. A visibilidade vem primeiro, mas não basta. À medida que as equipes avançam para sistemas de IA personalizados e de primeira parte, as abordagens tradicionais de descoberta, avaliação de riscos e governança deixam de funcionar.

O futuro da segurança de IA será definido pela descoberta contínua, pela inteligência de risco em tempo real e por políticas que não sejam apenas documentadas, mas também aplicadas. Essa é a base sobre a qual o Evo foi criado. A segurança de IA é um desafio totalmente novo, e a única forma de resolvê-lo é construir junto com os clientes que estão definindo esse campo em tempo real.

Quer ajudar a definir o futuro da segurança de IA? Seja um parceiro de design hoje mesmo.