Por que líderes de tecnologia da ANZ estão repensando a relação entre IA, velocidade e segurança

A mudança tecnológica sempre acontece em ritmo acelerado, mas, com a IA por toda parte, tudo entrou em overdrive. Na Austrália e na Nova Zelândia, as empresas planejam investir pesado em IA generativa — cerca de US$ 15 milhões, em média, acima da média global. Isso coloca uma pressão enorme sobre líderes de tecnologia, segurança e engenharia. Eles precisam inovar rapidamente, mas também enfrentam riscos complexos relacionados à IA. Isso os leva a repensar como velocidade e segurança podem caminhar juntas.

As organizações da Austrália e da Nova Zelândia avançam com ambição e cautela. Embora a IA traga novas possibilidades, também traz desafios claros de segurança. Líderes enfrentam dilemas concretos: querem aproveitar a IA sem ampliar as brechas de segurança. Entre os desafios locais estão:

• Grande escassez de profissionais (36% das ocupações na Austrália estão em falta).

• Mudanças nas regulamentações.

• Gestão de ambientes nativos da nuvem.

Para completar, há um profundo ceticismo em relação à segurança da IA. Na Austrália, 74% apontam falhas de segurança como sua principal preocupação, um percentual muito superior à média global.

À medida que tentam equilibrar inovação e segurança, os líderes enfrentam pressões importantes:

1. Adoção segura da IA

A ideia de usar IA para criar código e impulsionar o desenvolvimento de software é empolgante, mas o código gerado por IA costuma ter vulnerabilidades. À medida que ampliam o uso da IA e de código aberto, as organizações precisam gerenciar os riscos com cuidado. A IA deve contar com segurança e transparência desde o início. Os líderes precisam garantir que a adoção da IA não introduza novos riscos na cadeia de suprimentos. Também enfrentam um desafio de confiança: os australianos são céticos em relação à IA.

2. Mais velocidade sem aumentar os riscos

Ferramentas de IA como GitHub Copilot, Google Gemini e Cursor prometem acelerar a programação. Testes iniciais no ANZ Bank mostraram que os engenheiros foram até 55% mais rápidos. Mas essa velocidade pode resultar em código menos seguro. O código gerado por IA pode ser arriscado, e os desenvolvedores talvez confiem demais nele. Estudos mostram que grande parte do código gerado por IA é vulnerável. Os líderes precisam incorporar verificações de segurança diretamente ao desenvolvimento — no mesmo ritmo da IA. Auditorias periódicas não bastam e deixam brechas significativas.

Este gráfico mostra como as vulnerabilidades relacionadas à IA (CVEs) dispararam de 2020 a 2024.

3. Visibilidade e priorização de riscos

Os aplicativos modernos, especialmente os que usam IA, são complexos e criam novas superfícies de ataque. Com tantas ferramentas de segurança, os líderes recebem descobertas demais e enfrentam pontos cegos ocultos. Eles precisam ter uma visão clara dos riscos, inclusive dos elementos gerados por IA. Também precisam filtrar o ruído e se concentrar nas ameaças reais. Para isso, é preciso considerar fatores como a possibilidade de exploração do risco, o ambiente em que ele é executado, sua criticidade e os dados envolvidos. O uso de IA não autorizada (ferramentas de IA usadas sem aprovação) aumenta o desafio. O AI Security Posture Management (AI-SPM) ajuda a gerenciar os riscos em implantações de IA.

4. Fluxos de trabalho de segurança mais simples

As equipes de plataforma já precisam lidar com muitas ferramentas. A segurança não pode atrasá-las. Ela deve ser simples e se integrar naturalmente aos fluxos de trabalho dos desenvolvedores. Deve ficar “invisível até ser necessária”. Automatizar tarefas de segurança e oferecer feedback e correções em tempo real é fundamental.

5. Consolidação de ferramentas

Muitas organizações usam ferramentas de segurança demais, o que cria silos de dados e aumenta a sobrecarga. Os líderes querem reunir a segurança em uma única plataforma. Essa visão unificada ajuda as equipes a trabalhar melhor e a fechar brechas de segurança durante o desenvolvimento e a implantação.

Exemplos práticos: IA para segurança e segurança para IA

É preciso adotar uma abordagem dupla:

• Usar IA para reforçar a segurança.

• Proteger os próprios sistemas de IA.

IA para segurança:

A IA está sendo usada para impulsionar plataformas de segurança. Ela ajuda a encontrar, correlacionar e eliminar duplicidades entre problemas. Também classifica dados e identifica se funções vulneráveis podem ser alcançadas. A IA pode até gerar correções para acelerar a aplicação de patches. Além do desenvolvimento, ela acelera a detecção de ameaças e a resposta a incidentes ao analisar dados em tempo real. Também ajuda a traduzir as descobertas de segurança para uma linguagem simples para as equipes.

Segurança para IA:

Os sistemas de IA e os aplicativos que eles viabilizam precisam de proteção. Isso inclui proteger o código de IA e os aplicativos. Entre as principais áreas estão:

• Injeção de prompt: Os invasores enganam sistemas de IA com prompts criados para esse fim. Segundo a OWASP, esse é o principal risco para aplicativos de LLMs.

• OWASP Top 10 para LLMs: Uma estrutura que identifica os principais riscos de segurança em aplicativos de IA.

• Modelagem de ameaças: Entender e reduzir os riscos ao longo do ciclo de vida da IA.

• Red Teaming de LLMs: Hackers éticos testam a IA em busca de pontos fracos.

• AI-SPM: Analisa ambientes de IA em busca de vulnerabilidades.

• Model Context Protocol (MCP): Conecta fluxos de trabalho de IA em LLMs, mas pode ampliar os riscos.

• AI-BOM (lista de materiais de IA): Lista componentes, bibliotecas e dados de IA para gerenciar riscos na cadeia de suprimentos.

Novos vetores de ataque no desenvolvimento nativo de IA: OWASP Top 10 for Large Language Model Applications

Construindo a confiança em IA na ANZ

Os líderes da ANZ sabem que, para prosperar no desenvolvimento impulsionado por IA, precisam promover a confiança na IA. Isso significa agir com rapidez e manter a segurança em um mundo com IA. É reduzir o esforço humano e, ao mesmo tempo, reforçar a segurança e a governança.

A confiança na IA tem três pilares fundamentais:

• Visibilidade completa dos riscos.

• Priorização inteligente das ameaças reais.

• Aplicação de políticas em escala para corrigir e prevenir problemas.

Para a ANZ, isso significa soluções que entendam a escassez local de profissionais, as regulamentações e as pressões do mercado. Significa oferecer aos desenvolvedores ferramentas que analisem e corrijam código gerado por IA no mesmo ritmo em que ele é criado. Também exige plataformas que ofereçam às equipes de segurança uma visão única e clara dos aplicativos tradicionais e nativos de IA, com foco nos riscos reais para os negócios. E significa aplicar proteções em escala sem desacelerar o desenvolvimento.

Os desafios são grandes. Mas, ao reconhecer essas tensões e adotar as estratégias certas, os líderes da ANZ podem construir confiança neste novo mundo da IA.