Governança de segurança na era dos sinais infinitos: da descoberta ao controle

A Anthropic acaba de disponibilizar em código aberto a descoberta de vulnerabilidades em escala. E agora?

Há algumas semanas, a Anthropic lançou o Glasswing, uma iniciativa de US$ 100 milhões para usar IA na identificação de vulnerabilidades em escala. Na mesma época, apresentou o Claude Mythos, um sistema capaz de descobrir e explorar falhas de software de forma autônoma.

Escrevi sobre essa trajetória na minha análise anterior: a IA acelera a descoberta, mas a confiança corporativa ainda depende de validação determinística, automação da correção e governança em escala. Tudo o que aconteceu desde então reforçou essa tese e tornou o próximo passo ainda mais urgente: precisamos passar da detecção ao controle.

O System Card: Claude Mythos Preview (PDF) da Anthropic é explícito: essa categoria de sistema ainda não está pronta para ser amplamente disponibilizada. O avanço e o risco chegam ao mesmo tempo, e essa tensão define a nova era da segurança de IA corporativa.

Mais capacidade não significa mais segurança

Sempre que surge algo assim, a conversa se divide em dois lados. A IA é boa para a segurança ou traz novos riscos? A resposta é mais importante do que qualquer um dos lados gostaria de admitir: é as duas coisas. Sistemas como o Mythos podem revelar vulnerabilidades que passaram despercebidas por décadas, raciocinar em ambientes complexos e operar a uma velocidade que nenhuma equipe humana consegue acompanhar.

Mas, ao mesmo tempo, o código está sendo gerado mais rápido do que pode ser revisado, o comportamento fica menos previsível, as superfícies de ataque se expandem e sistemas autônomos começam a agir de verdade em ambientes de produção.

Descobrir sem controlar cria riscos

Líderes experientes de segurança reagiram rapidamente a esses anúncios e trouxeram um contexto útil. Como disse um ex-CISO de uma grande empresa: "Quando falta a métrica que todo profissional quer saber, a contagem de vulnerabilidades começa a parecer um prospecto de investimento."

Líderes de segurança de instituições financeiras sistemicamente importantes já estão pensando dessa forma e reconhecem que, à medida que as cadeias de suprimentos de software aceleram, a governança — não a descoberta — se torna o fator limitante na gestão de riscos sistêmicos.

Na prática, isso significa que detecção sem validação gera ruído, descoberta sem priorização gera acúmulo de pendências e capacidade sem governança gera riscos. A segurança é definida pelo que você consegue controlar, não apenas pelo que consegue encontrar.

Seu sistema de IA agora faz parte do seu modelo de ameaças

O sinal mais importante aqui não é apenas o que esses sistemas conseguem fazer. É o que seus criadores estão nos dizendo sobre eles.

Na documentação de prévia, a própria Anthropic descreve modelos que escaparam de ambientes restritos, acessaram sistemas externos, recuperaram credenciais confidenciais que estavam intencionalmente fora do escopo, modificaram processos em execução e vazaram artefatos internos. Em alguns casos, esses sistemas demonstraram indícios de ocultar comportamentos e manipular mecanismos de avaliação.

Pense nisso por um instante. A empresa que está desenvolvendo esses sistemas afirma publicamente: "Este é o maior risco de alinhamento de tudo o que já lançamos, e você não deve implantá-lo em ambientes onde suas ações possam causar danos irreversíveis."

Os acontecimentos recentes tornam isso ainda mais concreto. Quando os mecanismos internos das ferramentas de desenvolvimento de IA são expostos (como no vazamento do Claude Code), fica muito mais fácil encontrar e explorar suas fragilidades. O que era opaco se torna analisável e, portanto, vulnerável a ataques.

Como apontou a IDC, o setor tem se concentrado bastante em proteger o código produzido pela IA, mas muito menos em proteger as próprias ferramentas na cadeia de suprimentos de software.

Pense no que isso significa. Os mesmos sistemas que geram código pronto para produção, descobrem vulnerabilidades e coordenam fluxos de trabalho complexos também podem ultrapassar os limites estabelecidos, acessar sistemas confidenciais e tomar decisões difíceis de prever ou auditar.

Quanto mais capazes os sistemas se tornam, menos determinísticos e mais difíceis de governar eles ficam. Se as organizações que desenvolvem esses sistemas estão nos alertando explicitamente sobre o comportamento deles, a pergunta para toda empresa é direta: quem é responsável por governá-los quando estiverem no seu ambiente?

3 grandes mudanças de categoria na era da IA

1: Mais sinais aumentam os riscos sem controle

Durante anos, o setor de segurança operou sob uma limitação: não conseguíamos encontrar riscos suficientes. Essa limitação deixou de existir. Agora vivemos em um mundo onde a detecção é praticamente infinita, a geração de código está acelerando e a IA participa diretamente do processo de desenvolvimento.

Quanto mais riscos você consegue encontrar, mais difícil fica gerenciá-los. Esse é o paradoxo da IA na segurança: o gargalo já não é a descoberta, e sim o controle.

Essa é uma mudança fundamental no modelo operacional. Agora, os líderes de segurança precisam responder a outras perguntas:

• O que importa nesse contexto?

• Quais comportamentos são permitidos?

• Como os riscos são priorizados?

• Como a correção é aplicada?

• Como manter a governança entre desenvolvedores humanos e sistemas de IA?

2: A IA consegue raciocinar sobre riscos, mas não consegue aplicá-los

A IA consegue encontrar e corrigir, mas não pode ser considerada confiável para fazer cumprir regras. Os sistemas de IA estão se tornando muito bons em raciocinar: identificam vulnerabilidades, sugerem correções e simulam caminhos de ataque. Mas a segurança corporativa não funciona com base em raciocínio. Ela depende da aplicação de controles.

Você pode pedir a uma IA que analise os riscos. Não pode pedir que ela garanta a conformidade. Isso significa que:

• As políticas precisam ser aplicadas de forma consistente.

• Os controles precisam funcionar de maneira previsível.

• A correção precisa ser verificada.

• Os riscos precisam ser auditáveis.

3: A segurança passou da descoberta ao controle

À medida que a detecção se torna mais comum, uma nova camada passa a ser essencial: um plano de controle que transforma sinais em contexto, aplica políticas de forma consistente, prioriza o que importa, coordena a correção e aplica a governança a agentes humanos e máquinas.

A descoberta se torna insumo. O controle se torna o sistema. A governança se torna o resultado. Segurança já não é encontrar riscos. É controlá-los.

Mas há algo que precisa ser dito com todas as letras, porque costuma ser ignorado nessa conversa: não é possível controlar tudo, e não é realista esperar que você consiga.

Os controles são fundamentais, ponto. Mas acreditar que uma estrutura de controles suficientemente robusta vai impedir todas as violações e detectar todas as formas de ataque? Isso é uma fantasia. O cenário de ameaças muda rápido demais, os sistemas são complexos demais e a IA está introduzindo modos de falha que ainda não conseguimos mapear por completo.

Então a pergunta não é apenas "como podemos impedir isso?". Também é: com que rapidez podemos detectar e responder quando algo inevitavelmente passar despercebido?

A resposta a incidentes não é um plano B. É uma competência essencial, e sua importância só vai crescer ano após ano. As equipes que se destacarão não terão apenas os controles mais rigorosos. Serão aquelas capazes de conter, responder e se recuperar mais rápido do que um invasor consegue escalar o ataque. À medida que os sistemas de IA se tornam mais autônomos e o impacto de cada falha aumenta, essa capacidade de resposta se torna uma verdadeira vantagem competitiva.

E prevenção e resposta, juntas, ainda não contam toda a história. Você precisa de especialistas em segurança de excelência, que aprimorem continuamente sua postura, pessoas que entendam não apenas a tecnologia, mas também o adversário. Isso significa implementar os melhores modelos de IA (no plural, não apenas um, porque modelos diferentes têm pontos fortes diferentes e depender de um único modelo cria um ponto único de falha), os melhores conjuntos de regras determinísticas e as técnicas de análise mais avançadas, além de especialistas experientes em segurança, que usam intuição e discernimento humanos para preencher as lacunas que a automação, sozinha, não consegue cobrir.

Essa combinação de IA de ponta, controles determinísticos e conhecimento humano especializado é exatamente o que estamos desenvolvendo na Snyk. Não porque uma única camada seja suficiente, mas porque o cenário de ameaças está evoluindo rápido demais para que qualquer abordagem isolada consiga acompanhar. Estamos implementando as melhores ferramentas disponíveis em cada camada, trabalhando em conjunto como uma pilha de segurança completa, capaz de evoluir junto com as ameaças que foi criada para enfrentar.

Enquanto isso, a IA já está em produção, mas a governança ainda não. As organizações estão colocando em produção código gerado por IA, incorporando modelos a fluxos de trabalho críticos e permitindo que sistemas autônomos ajam em seu nome.

Sem uma camada de controle, isso leva a uma exposição sem limites, correções inconsistentes, visibilidade limitada e pressão regulatória crescente. Com o modelo certo, os riscos se tornam mensuráveis, a correção ganha escala, a IA pode ser governada e a segurança se torna uma verdadeira vantagem estratégica.

O controle vai definir a próxima era da segurança

Os anúncios da Anthropic apontam para algo fundamental: o futuro da segurança não será definido pela quantidade de riscos que conseguimos descobrir. Será definido pela nossa capacidade de controlá-los.

Em um mundo de sinais infinitos, espera-se que a detecção seja constante, e o ruído se torna perigoso. O controle importa. A velocidade de resposta importa. A melhoria contínua baseada em conhecimento especializado real importa. As organizações que investirem igualmente nessas três frentes estarão preparadas para a realidade da segurança na era da IA.

É nessa direção que as melhores plataformas estão evoluindo: transformando sinais brutos em políticas aplicáveis, correções verificadas e uma governança que acompanha o desenvolvimento impulsionado por IA.

A realidade da sala do conselho

Em resumo: a IA está mudando a natureza dos riscos, não apenas a forma como os encontramos. Os sistemas que desenvolvem seu software hoje podem agir com mais rapidez, inteligência e imprevisibilidade do que nunca. Isso deixa conselhos de administração, CISOs e a alta liderança diante de uma pergunta direta: quem responde quando a IA se comporta mal e quem a governa antes de ela entrar em produção?

As organizações que acertarem não vão correr atrás de cada vulnerabilidade. Vão controlar os riscos em escala, aplicar a governança em tempo real e transformar sinais infinitos em decisões práticas e auditáveis. E, quando algo inevitavelmente der errado, vão responder rápido o bastante para evitar uma catástrofe.

É nessa direção que as melhores plataformas estão evoluindo: transformando sinais brutos em políticas aplicáveis, correções verificadas e uma governança que acompanha o desenvolvimento impulsionado por IA. É esse o caminho que estamos construindo ativamente na Snyk.

Na era da IA, o controle não é opcional. É o único caminho para a confiança.