O novo cenário de ameaças: aplicações nativas de IA e fluxos de trabalho agentivos

As empresas estão indo além dos experimentos e das provas de conceito com IA. À medida que nos aproximamos do que a IDC prevê que serão os “anos de virada da IA”, em 2025 e 2026, as organizações estão priorizando, planejando e desenvolvendo soluções para ganhar escala. Essa mudança inclui agentes de IA — ferramentas autônomas que automatizam tarefas — à medida que os provedores de tecnologia buscam simplificar os fluxos de trabalho de desenvolvimento.

Por trás dessa transformação, os sistemas de IA ampliam o cenário de ameaças ao longo de todo o ciclo de vida do desenvolvimento de software (SDLC). A evolução que leva ao uso de mais agentes é empolgante. Ainda assim, a falta de transparência e os fluxos de trabalho automatizados — inclusive a interação com outros agentes — aumentam o risco de falhas de segurança sem visibilidade clara nem aplicação de políticas.

Novas ameaças que exploram comportamentos específicos da IA:

• Envenenamento de dados — Tipo de ataque cibernético que manipula os dados de treinamento usados para desenvolver modelos de IA. As consequências vão de vieses e alucinações a acessos por backdoor e modelos comprometidos.

• Injeção de prompt — Tática perigosa que induz o modelo a ignorar as proteções ou interpretar suas instruções de forma equivocada, muitas vezes expondo dados confidenciais. As vulnerabilidades de código aberto, que já abordamos em uma publicação anterior, continuam sendo uma grande preocupação. Novos LLMs e componentes relacionados surgem quase todos os dias, cada um trazendo possíveis novos riscos. Assim como acontece com componentes tradicionais de código aberto, é essencial analisar e validar cada um antes de usá-lo na sua compilação para reduzir a superfície de possíveis vulnerabilidades.

• Lacunas na identidade federada — Os sistemas de IA muitas vezes têm dificuldade para manter a consistência na autenticação, autorização e identificação de usuários, o que pode expor dados confidenciais por acidente ou permitir acessos não autorizados. Embora não tenha sido criado para funcionar como uma solução de identidade federada, o Model Context Protocol (MCP), da Anthropic, ajuda a padronizar a comunicação entre agentes de IA e sistemas corporativos. Apesar de ser recente, ele está se tornando rapidamente um padrão do setor.

Mesmo organizações que não treinam modelos personalizados provavelmente já estão usando — ou em breve usarão — IA em ambientes de produção. Segundo o Gartner, até 2026, mais de 80% dos fornecedores independentes de software terão incorporado recursos de IA generativa em suas aplicações corporativas. Os agentes de IA vêm logo em seguida, adicionando novas camadas de complexidade e risco. Até 2028, o Gartner prevê que 33% das aplicações de software corporativo incluirão IA agentiva. Essa corrida, impulsionada pelos fornecedores para oferecer recursos de IA, muitas vezes resulta em lançamentos apressados, com controles de segurança ainda imaturos.

A adoção da IA com planos de ganhar escala, somada à inclusão de IA agentiva, exige uma nova abordagem para gerenciar e governar os riscos das aplicações de IA. Segundo o Gartner, a maioria das empresas ainda não implementou controles técnicos ou políticas de AI TRiSM (gestão de confiança, riscos e segurança).

Essa demora se deve à natureza imprevisível dos sistemas de IA. Seu comportamento muda de acordo com as entradas, já que dados e prompts influenciam bastante as respostas e os resultados. Por isso, não há uma referência consistente para monitoramento. Assim, embora os sistemas de IA tenham mais flexibilidade para resolver problemas, é mais difícil detectar comportamentos anormais que possam indicar uma vulnerabilidade, uma ameaça ou o descumprimento de normas de privacidade de dados. A maioria das ferramentas de segurança e governança de aplicações pode ser suficiente para os ambientes atuais, mas a falta de transparência nos ambientes de IA pode limitar sua eficácia.

O que não muda é o valor de antecipar a segurança, integrando-a desde o início aos fluxos de trabalho de IA. A plataforma AI Trust da Snyk fortalece a segurança com foco nos desenvolvedores, reduzindo os riscos das ferramentas de código com IA e viabilizando aplicações nativas de IA seguras e escaláveis. Isso inclui ampla visibilidade dos componentes de IA, incluindo sua BOM de IA e dependências críticas, além de garantir fluxos de integração seguros por meio do Snyk MCP Server.

Quer saber mais sobre como proteger aplicações nativas de IA? Baixe o white paper Construindo confiança em IA: protegendo o código na era do desenvolvimento autônomo e descubra como a Snyk ajuda as organizações a desenvolver com agilidade e manter a segurança em um mundo impulsionado por IA.