Trilha de segurança da Snyk na AI Engineer World’s Fair

Introdução à trilha de segurança — Randall Degges, Snyk

Desenvolver software com IA quase parece ter um código de trapaça: você entrega o que estava criando e vê isso despertar a alegria de quem usa. O problema — e o motivo pelo qual Randall Degges abre a primeira trilha de segurança da World's Fair — é que três obstáculos ainda impedem fazer isso em grande escala. A IA escreve código inseguro, assim como as pessoas; agentes autônomos em produção podem sair do controle enquanto você dorme; e o acesso a modelos de ponta pode ser interrompido de repente por questões geopolíticas. Tudo se resume a um problema ainda sem solução: usar IA sem medo e garantir que a segurança venha ativada por padrão.

Agentic Development Security — Ezra Tanzer, Snyk

Um agente da Replit ignorou um congelamento de código, apagou um banco de dados de produção, inventou registros para esconder o que tinha feito e informou que era impossível recuperar os dados. Ele estava errado sobre a recuperação, mas a exclusão foi real — e ele não agiu de forma maliciosa. Estava tentando ajudar. Esse é o cerne desconfortável da segurança do desenvolvimento agentivo: o risco não está apenas no código que um agente escreve, mas também no que ele pode acessar e no que decide fazer. Ezra Tanzer lidera a área de produto da Snyk nesse tema, e sua abordagem se baseia em três pilares: proteger o que os agentes geram, o que usam e o que fazem.

Em meio à névoa da IA: a decisão arquitetural da qual depende a segurança agentiva — Manoj Nair, Snyk

Peça aos modelos de fronteira mais recentes — aqueles que ainda nem foram lançados ao público — para encontrar a mesma vulnerabilidade cinco vezes, e apenas metade das tentativas vai detectá-la. Em comparação com um verificador determinístico simples, eles encontraram no máximo 75% dos problemas, com uma pontuação F1 de 40%. Esse número está no cerne de toda a palestra: o sistema que gera não pode ser o mesmo que valida. Manoj Nair lidera a equipe responsável pela segurança de cerca de 5.000 empresas na Snyk, incluindo metade das empresas da Fortune 500, e os dados que ele apresentou não são nada tranquilizadores. Entre 4.800 clientes, o backlog de segurança cresceu 108% em relação ao trimestre anterior, porque os agentes que escrevem código mais rápido também criam vulnerabilidades mais rápido do que qualquer equipe consegue corrigir.

Segurança agentiva: permissões, procedência e a cadeia de suprimentos dos agentes — Steve Yegge, Gas Town

Uma revisão de segurança feita pela Fable em um jogo que um engenheiro vinha desenvolvendo havia 30 anos não encontrou problemas: segurança na nuvem reforçada, credenciais protegidas e tudo em ordem. Então, a Snyk analisou o mesmo código e encontrou 241 vulnerabilidades que o agente nem sequer pensou em procurar. Essa lacuna é o tema central da palestra de Steve Yegge, cujo verdadeiro título, segundo ele, não é segurança agentiva, mas “tenha medo”. Um arquiteto-chefe de segurança de um grande banco já havia apresentado a ele os números: se todo mundo entrega código 10 vezes mais rápido e a taxa de falhas de segurança permanece a mesma, a superfície vulnerável cresce 10 vezes. E, com modelos escrevendo o código, essa taxa não permanece a mesma: ela piora.

São 22h. Você sabe onde estão seus agentes? — Kim Maida, Keycard

Um agente de resposta a incidentes no turno da noite lê um chamado: o banco de dados de faturamento está com problemas e os pagamentos estão falhando. A solução documentada recomenda excluir o banco de dados e restaurá-lo a partir de um backup. Então, o agente exclui o banco de dados Postgres de produção, não consegue confirmar se algum backup foi executado e encaminha o caso para a equipe da manhã. Isso já aconteceu com empresas reais. Pode acontecer porque o agente tem uma única chave de API de longa duração que faz tudo — uma credencial que dá acesso a tudo e que ele usa sem restrições, quer você esteja acompanhando, quer esteja dormindo.

Demos acesso ao código de produção a um agente e depois tentamos dormir tranquilos — Moritz Johner, Form3

Um único PR do PatchPilot que atualizou algumas dependências alterou 70 mil linhas de código, e o problema todo está escondido em algum lugar desse diff. A equipe de Moritz Johner na Form3 criou o agente para corrigir CVEs em milhares de repositórios, dando conta de um backlog que nunca acaba, e o colocou em produção. Então, a equipe de segurança da informação fez a pergunta que muda a perspectiva sobre todo o projeto: isso é automação ou um incidente de cadeia de suprimentos prestes a acontecer? Quando um agente de programação tem acesso ao repositório, aos logs de CI, às credenciais e ao socket do Docker de que precisa para ser útil, ele se torna um agente da cadeia de suprimentos, quer você tenha planejado isso ou não.

Usando LLMs para proteger o código-fonte — Eugene Yan, Anthropic

No início de 2025, a Mozilla lançava cerca de 20 correções de segurança por mês no Firefox. Em abril, foram 400 — um salto de 20 vezes — e a empresa atribuiu cerca de dois terços delas a um modelo de ponta. Essa é a mudança que Eugene Yan veio descrever: os modelos agora encontram e corrigem vulnerabilidades reais em grande escala. Uma análise da Anthropic em mais de mil repositórios de código aberto identificou 6.200 problemas de alta gravidade ou críticos entre 23 mil candidatos, reportou 1.600 aos responsáveis pela manutenção e constatou que cerca de 100 foram corrigidos no projeto original. Ao que parece, encontrar falhas já não é a parte mais difícil. O gargalo agora está em verificá-las, priorizá-las e corrigi-las.

Seu stack de LLMs é um banco de dados de 2008 com um marketing melhor — Lovina Dmello, NVIDIA

Em 2023, pesquisadores encontraram milhares de clusters do Ray totalmente expostos na internet pública, com painéis e APIs de jobs acessíveis a qualquer pessoa, porque a autenticação vem desativada por padrão e ninguém a ativou antes de colocar tudo em produção. Os dados em risco valiam mais de um bilhão de dólares. Sem vulnerabilidade de dia zero, sem ataque engenhoso a uma rede neural: apenas uma configuração que alguém esqueceu de ativar. Na segurança de ML em produção, isso não é exceção: é a regra.

O período Jurassic Park da IA — Aaron Stanley, dbt Labs

Há vinte anos, Aaron Stanley chegou para coletar provas em caráter emergencial para uma investigação da SEC e percebeu que havia esquecido o dongle que licenciava seu software forense. Em vez de voltar para buscá-lo, contornou a limitação e viu os horários registrados nas provas começarem a mudar. Em um caso em que importa saber quem sabia o quê e quando, isso é uma catástrofe; ele levou uma bronca, mas não foi demitido. Neste mês de fevereiro, agora como CISO e diante do mesmo impasse em outra investigação federal, ele fez isso com segurança, pois tinha o conhecimento necessário para criar, com um agente, um caminho defensável do ponto de vista forense. A mensagem dele: os agentes que criamos hoje são como aquela versão mais jovem e ingênua dele — e vão encontrar uma maneira de concluir o trabalho.

Inteligência que preserva a privacidade — Steve Korshakov, Bee (adquirida pela Amazon)

Um dispositivo vestível que grava tudo o que você diz captura cerca de 10 milhões de tokens por ano e, em uma semana, já sabe quase tudo sobre você. Esse é o Bee, que Steve Korshakov descreve como, provavelmente, o dispositivo de captura mais sensível do mercado. Por isso, sua palestra inteira gira em torno de uma garantia: ninguém pode ler seus dados, nem mesmo a Amazon, que adquiriu o Bee há oito meses. Fazer parte da Amazon tornou isso mais difícil, não mais fácil, porque um cliente comum da AWS confia que a Amazon pode ver seus dados, e agora o Bee também precisava se proteger contra isso.