Das ideias ao impacto: como a região da baía de São Francisco está moldando o futuro da IA segura

A IA generativa está transformando a forma como o software é desenvolvido, protegido e escalado. No evento Lighthouse da Snyk no Vale do Silício, líderes de engenharia, segurança e plataformas se reuniram para explorar uma grande questão: como criar sistemas com IA que avancem rápido sem comprometer a confiança?

Para muitos, esse futuro já chegou: 60% das organizações presentes no Summit afirmaram estar desenvolvendo aplicações agentivas internamente.

As respostas não eram apenas técnicas. Eram culturais. Organizacionais. Estratégicas.

De aplicações agentivas à modelagem de riscos em tempo real, alguns temas se destacaram nas oficinas, nos painéis e nas demonstrações do dia: visibilidade é poder. Barreiras de proteção não são obstáculos. E a confiança não é uma etapa futura. É a base.

O novo ciclo de desenvolvimento: pensar → desenvolver → proteger → repetir

Velocidade e segurança não são opostas: são interdependentes. E a IA mudou a forma como elas interagem. O modelo tradicional de SDLC não se encaixa em um ambiente em que agentes geram, raciocinam e agem continuamente.

As sessões do Lighthouse exploraram como os fluxos de desenvolvimento precisam evoluir para a IA agentiva. Menos aprovações estáticas e mais feedback dinâmico e contextual. Remediação em tempo real, pessoas defensoras da segurança que entendem de IA e desenvolvedores que não apenas criam, mas também protegem, seus próprios assistentes de IA.

Um dos momentos de destaque foi uma demonstração ao vivo do Cursor e da Snyk. Sem escrever uma linha de código, Randall Degges, diretor sênior de relações com desenvolvedores da Snyk, apresentou um fluxo de trabalho real que analisou, testou, corrigiu e entregou código. Enquanto isso, o servidor MCP da Snyk validava vulnerabilidades, identificava padrões arriscados e enviava atualizações seguras pelos pipelines de CI/CD.

O resultado? Correções de segurança que levariam horas foram feitas em minutos, sem comprometer a qualidade nem o controle.

Segurança desde o projeto significa segurança feita por todos

A responsabilidade compartilhada foi um tema central do dia. A IA está dissolvendo as fronteiras entre as equipes de desenvolvimento, plataforma e segurança — agora, todo mundo participa.

Como disse um dos palestrantes: “Se alguém cola um prompt no ChatGPT para criar um fluxo de trabalho, essa pessoa é desenvolvedora de aplicações. E todo desenvolvedor agora pode ser um engenheiro de IA.”

Isso muda a forma como definimos a prontidão.

O Framework de prontidão para IA da Snyk, apresentado durante o evento, destacou cinco pilares: visibilidade, responsabilidade, segurança desde o projeto, capacitação cultural e garantia contínua. Os participantes analisaram casos de uso reais para avaliar a maturidade em cada área e identificar lacunas e oportunidades.

Principais aprendizados:

• Segurança de IA não é uma especialidade: é um trabalho em equipe. Os melhores engenheiros de segurança de IA muitas vezes são ex-desenvolvedores de aplicações que entendem o contexto por inteiro.

• Barreiras de proteção, não bloqueios. O objetivo não é desacelerar a adoção da IA, e sim torná-la mais segura e rápida.

• Governança importa. De agentes não autorizados a recursos de SaaS ativados automaticamente, as equipes de segurança precisam participar desde o início.

Uma pessoa presente resumiu perfeitamente: “Nosso maior risco de segurança não é a IA generativa. É tratar a IA generativa como se fosse um software tradicional.”

Confiança em IA significa ir além da conformidade

Embora frameworks como o AI RMF do NIST ofereçam uma visão geral, o público da região da baía de São Francisco queria mais do que teoria. Buscava estratégias práticas e proativas.

A conversa logo avançou para temas como:

• Descoberta e validação de MCP: Quais modelos estão sendo executados e onde? Quem os treinou? Quais dados foram usados? Eles estão vazando informações confidenciais ou se comportando de forma imprevisível em produção?

• Red team do comportamento dos agentes: Além de injeção de prompt e fuzzing de saída, como podemos simular interações adversariais em tempo real?

• Segurança desde a geração: Uma nova fronteira para antecipar a segurança — integrando contexto seguro no momento exato da geração, e não depois da implantação.

O que chamou a atenção não foi apenas a inovação, mas também a abertura. Relatos francos sobre erros, incidentes evitados por pouco e lacunas inesperadas de visibilidade mostraram como esse cenário evolui rápido. E por que a segurança de IA precisa ser desenvolvida em paralelo com a própria IA.

Preparar pessoas para proteger as máquinas

Se a IA é responsabilidade de todos, como capacitar cada pessoa para assumir esse papel?

Essa pergunta deu início a uma das discussões mais animadas do dia: o futuro da capacitação e da certificação em segurança de IA.

Várias empresas compartilharam como estão evoluindo seus programas de pessoas defensoras da segurança para incluir fluxos de trabalho e responsabilidades específicos de IA. Outras falaram sobre a criação de conselhos de governança de IA com representantes de segurança, jurídico, conformidade e até marketing.

Um tema recorrente? A cultura é o que multiplica os resultados. Capacitar equipes só funciona se a organização abraçar essa mudança. Como explicou uma liderança: “A conscientização sobre segurança não pode se limitar à aplicação de políticas. É preciso projetar escolhas: ajudar as pessoas a tomar decisões melhores todos os dias.”

O que já está acontecendo e o que vem pela frente

O evento da região da baía de São Francisco não tratou de promessas sobre o futuro. O foco foi a transformação que já está acontecendo.

Sim, os participantes viram uma prévia dos próximos recursos da Snyk. Mas o conteúdo mais valioso veio das conversas entre colegas, das demonstrações práticas e da percepção de que:

• Sistemas agentivos já estão em produção. Internamente ou voltadas ao público, as empresas apostam na IA para melhorar o NPS, automatizar operações e personalizar serviços em grande escala.

• A segurança não pode continuar correndo atrás. De lacunas de visibilidade nas integrações de SaaS a agentes desconhecidos na stack, a superfície de ataque está crescendo rapidamente.

• A inovação precisa de barreiras de proteção agora. Como disse uma pessoa do setor de tecnologia médica: “Não dá para esperar algo ser lançado para só então perguntar sobre alucinações. É preciso incorporar rastreabilidade e controles desde o início.”

A conclusão: a IA é o futuro do software. A segurança precisa acompanhar essa escala.

No encerramento, Manoj Nair, diretor de inovação da Snyk, reuniu todas as ideias.

Segurança não significa dizer “não” à IA. Significa acelerar sua adoção com responsabilidade: capacitar desenvolvedores, fortalecer equipes de plataforma e construir confiança em cada etapa do SDLC de IA.

“Vimos isso hoje”, afirmou. “Sistemas de IA reais programando, testando e corrigindo vulnerabilidades por conta própria. Mas nada disso funciona sem visibilidade, cultura e barreiras de proteção inteligentes.”

O futuro não é o DevSecOps 2.0. É algo maior: impulsionado por desenvolvedores, potencializado por IA e centrado na confiança. E a Snyk está desenvolvendo a plataforma para tornar isso realidade.