IA sombria: explorando os lados obscuros da inteligência artificial

O que é IA sombria?

IA sombria é o uso malicioso da inteligência artificial para desenvolver ciberataques, cometer fraudes ou realizar outras atividades ilícitas. E esse uso está crescendo. A IA generativa (GenAI) reduziu as barreiras de entrada, facilitando para os cibercriminosos planejar e lançar ataques. 

Ao mesmo tempo, a rápida adoção de tecnologias empresariais, incluindo a IA, ampliou a superfície de ataque digital das organizações, expondo vulnerabilidades que agentes maliciosos podem explorar. 

Até 2025, a previsão é que o cibercrime custe US$ 10,5 trilhões por ano, e uma parcela cada vez maior desse valor será impulsionada pela IA sombria.

Definindo a IA sombria 

IA sombria não é uma tecnologia específica: é um conjunto de táticas e comportamentos que exploram os recursos da IA para causar danos. Entre suas principais características estão:

• Anonimato: Os atacantes atuam em espaços online ocultos e, muitas vezes, usam criptografia, indicações e criptomoedas para evitar a detecção. 

• Autonomia: Os sistemas de IA sombria costumam operar automaticamente, com pouca intervenção humana, permitindo que atacantes lancem ataques em larga escala contra várias vítimas ao mesmo tempo. 

• Adaptabilidade: Os adversários adotam continuamente as inovações mais recentes em IA e ajustam seus métodos para escapar dos novos sistemas de detecção.

• Comportamento semelhante ao humano: De deepfakes à engenharia social persuasiva, a IA sombria imita interações humanas reais para enganar e manipular.  

Enquanto a IA tradicional é desenvolvida para aumentar a produtividade, melhorar a tomada de decisões ou a qualidade de vida, a IA sombria é criada para se infiltrar, enganar e causar danos. Ela explora a confiança e oculta suas intenções, muitas vezes com consequências devastadoras.

Desafios da IA sombria e ameaças à cibersegurança 

A ascensão da IA tornou mais rápido e fácil para os atacantes lançar ciberataques sofisticados. O que antes exigia profundo conhecimento técnico agora está ao alcance de um número muito maior de agentes de ameaças, e muitos usam a IA para aprimorar suas táticas e superar as defesas tradicionais. Entender como a IA sombria acelera os riscos pode ajudar as equipes a se anteciparem às ameaças e manterem a resiliência:

• Ciberataques com IA: Kits de ferramentas prontos para uso disponíveis na dark web facilitam o lançamento de campanhas de phishing, malware e ransomware. Como resultado, o volume e a escala dos ataques dispararam. 

• Capacidade de evasão: Modelos de machine learning ajudam os cibercriminosos a se adaptar aos sistemas de segurança em tempo real, dificultando a detecção. Os padrões de ataque podem mudar automaticamente para evitar as defesas conhecidas.  

• Velocidade dos ataques: A IA encurta o ciclo de vida de um ataque. As invasões acontecem mais rápido, e os atacantes podem se movimentar entre sistemas antes mesmo que as equipes de segurança percebam a intrusão.

Um relatório recente da Microsoft revelou um aumento alarmante: o número de agentes de ameaças ligados a Estados-nação e motivados financeiramente monitorados pela empresa saltou de 300 para 1.500. Enquanto isso, os ataques a senhas passaram de 579 por segundo em 2021 para mais de 7.000 por segundo em 2024. Em muitos casos, atacantes que usam IA conseguem acessar sistemas corporativos pouco mais de uma hora após alguém clicar em um link malicioso.

A IA possibilita estratégias de ataque avançadas

Além de criar novas ameaças, a IA torna estratégias de ataque conhecidas mais perigosas e difíceis de detectar. Os cibercriminosos podem usar a IA para otimizar táticas antigas e aumentar suas chances de sucesso contra uma variedade maior de alvos: 

• Geração de malware: A IA pode ajudar atacantes a criar malwares que evoluem com o tempo, aprendendo a contornar controles de segurança e tornando algumas ferramentas antivírus tradicionais muito menos eficazes. 

• Automação de phishing: Ferramentas de IA generativa permitem que adversários criem e-mails, mensagens de texto e áudios de phishing convincentes, personalizando campanhas a partir de modelos.

• Distribuição otimizada de ransomware: A IA sombria pode personalizar ataques de ransomware, automatizar etapas e otimizar ataques para sistemas específicos. 

• Engenharia social: Ao analisar o comportamento online e os padrões de comunicação de uma vítima, a IA ajuda os atacantes a adaptar táticas de engenharia social para parecerem mais autênticas, dificultando a identificação de atividades suspeitas pelos usuários. 

Ferramentas de IA sombria em ação

Hoje, agentes de ameaças têm acesso a ferramentas pré-configuradas que facilitam o lançamento de ciberataques sofisticados. Algumas foram criadas especificamente para o cibercrime; outras são ferramentas de código aberto reaproveitadas para fins maliciosos. Entre elas estão: 

• FraudGPT: Uma ferramenta de IA generativa de baixo custo e por assinatura que automatiza a criação de código malicioso, malware e e-mails de phishing, ajudando atacantes a encontrar vulnerabilidades e sites comprometidos. 

• DarkBART e DarkBERT: O DarkBART é baseado no Google Bard e pode criar ataques direcionados. O DarkBERT está disponível em duas versões: uma se baseia em uma ferramenta legítima de cibercrime, enquanto a outra usa dados da dark web para treinamento e exploração de vulnerabilidades. 

• Ferramentas de código aberto: Agentes maliciosos usam Nmap, Shodan, Metasploit, SQLMap e outras ferramentas de código aberto para fazer reconhecimento, explorar vulnerabilidades e criar novas campanhas de malware e phishing. 

Exemplos reais de ataques com IA sombria 

As organizações já enfrentam as consequências reais da IA sombria, de violações de dados direcionadas a fraudes financeiras. Veja alguns exemplos recentes de como os atacantes usam a IA para alcançar seus objetivos:

• Fraude com deepfake: Em um caso notável, um atacante usou tecnologia de deepfake para se passar pelo diretor financeiro de uma empresa de serviços financeiros. Ele convenceu um funcionário a transferir US$ 25 milhões para contas fraudulentas.

• Ataque de phishing contra a Activision: Uma tentativa de phishing por SMS teve como alvo um usuário privilegiado da Activision, com o objetivo de roubar informações internas confidenciais. Embora a empresa tenha negado qualquer violação significativa, pesquisadores de segurança destacaram que os ataques de engenharia social aprimorados por IA estão cada vez mais difíceis de detectar e impedir. 

• Espionagem contra a T-Mobile: Um grupo patrocinado por um Estado explorou vulnerabilidades na infraestrutura da T-Mobile e acessou registros de chamadas, mensagens sem criptografia e comunicações de áudio de pessoas específicas. 

Privacidade dos dados em risco 

A IA sombria ameaça os próprios fundamentos da privacidade dos dados. Com ataques sofisticados, agentes de ameaças podem acessar dados pessoais e confidenciais, como números de cartão de crédito, prontuários médicos e comunicações privadas. Depois, esses dados são usados como arma em ataques secundários, como roubo de identidade, extorsão e fraude financeira. 

Os atacantes também se esforçam para permanecer ocultos, usando táticas como falsificação de endereços IP, VPNs e redes proxy para evitar a detecção. Esses métodos podem dificultar até mesmo a aplicação das estruturas mais rigorosas de proteção de dados, como GDPR, HIPAA e PCI-DSS.

Adotar medidas sólidas e proativas de proteção de dados, como criptografia, controles de acesso e monitoramento em tempo real, é essencial para minimizar os danos caso os atacantes consigam invadir os sistemas. 

Exploração de plataformas sociais e de comunicação 

As redes sociais e as plataformas de comunicação estão sendo cada vez mais usadas como porta de entrada para golpes com IA. Atacantes se passam por executivos no LinkedIn e no Twitter, coletam dados pessoais em perfis do Facebook e Instagram e até manipulam o debate público com deepfakes e atividade de bots de IA.

Ao criar mensagens mais convincentes e coletar dados mais personalizados, a IA ajuda os atacantes a tornar os golpes mais difíceis de detectar e aumenta a importância de proteger a confiança na marca e a privacidade dos usuários. A conscientização contínua dos funcionários, processos mais rigorosos de verificação de identidade e o monitoramento inteligente de canais públicos podem ajudar as organizações a reduzir os riscos da engenharia social com IA. 

Implicações mais amplas da IA sombria 

Os impactos da IA sombria vão muito além das empresas. À medida que as comunicações geradas por IA ficam mais difíceis de detectar e os ataques se tornam mais pessoais e direcionados, seus efeitos mais amplos sobre a confiança, a comunicação e a tomada de decisões ficam cada vez mais evidentes. Além de proteger seus próprios sistemas, as organizações que combatem a IA sombria contribuem para manter a confiança em setores inteiros e comunidades. Entre os riscos mais amplos da IA sombria estão: 

• Falsificação da identidade de figuras de autoridade: Adversários podem se passar por líderes da empresa ou colegas, gerando confusão e desconfiança dentro das organizações. 

• Erosão da verdade: Com a popularização de conteúdos gerados por IA, fica cada vez mais difícil distinguir materiais legítimos de materiais maliciosos. 

• Perda da confiança pública: As organizações podem perder a confiança de clientes, parceiros e do público se forem envolvidas em golpes com IA ou violações de dados. 

Como se proteger contra a IA sombria 

Para se proteger da IA sombria e de outras ameaças cibernéticas emergentes, é preciso incorporar práticas de segurança proativas e resilientes a todas as camadas da organização. Combinando tecnologia inteligente, aprendizado contínuo e uma base sólida de segurança, as equipes podem reduzir os riscos sem comprometer a inovação. Veja algumas dicas para se antecipar às ameaças: 

Acompanhe as ameaças emergentes 

Mantenha-se informado sobre novos métodos, ferramentas e táticas de ataque com IA. Feeds de inteligência de ameaças, atualizações da comunidade e relatórios do setor podem ajudar suas equipes a prever como os atacantes podem usar novas tecnologias.

Capacite os funcionários 

Prepare suas equipes para reconhecer e responder a tentativas de phishing aprimoradas por IA, deepfakes e ataques de engenharia social. Treinamentos regulares promovem uma cultura de conscientização sobre segurança e podem transformar os funcionários em uma primeira linha de defesa eficaz. 

Reforce a segurança com IA 

Embora traga novos perigos, a IA também pode ser uma força para o bem. Use ferramentas avançadas de detecção capazes de identificar anomalias, detectar ameaças de dia zero e automatizar respostas. Soluções de segurança como a Snyk também podem ajudar você a adotar a segurança desde o início do desenvolvimento, incorporando-a aos fluxos de trabalho para que as vulnerabilidades sejam encontradas e corrigidas o quanto antes.

Red teaming com IA

Para combater essas ameaças sofisticadas, as equipes de segurança podem pensar como os adversários. O red teaming com IA é uma medida proativa de segurança na qual hackers éticos usam IA para simular ataques realistas aos sistemas, aplicativos e dados de uma organização. Essa abordagem vai além do red teaming tradicional ao usar ferramentas de IA para automatizar o reconhecimento, explorar vulnerabilidades e navegar por redes complexas, reproduzindo as táticas dos atacantes modernos.

Ao usar IA para investigar pontos fracos, as organizações podem identificar e corrigir vulnerabilidades antes que agentes maliciosos as explorem. Os insights obtidos com essas simulações são essenciais para criar defesas mais resilientes e garantir uma postura de “segurança desde a concepção”. Esse é um passo importante para se preparar para um futuro em que ataques com IA serão comuns.

Como a Snyk pode ajudar 

À medida que os atacantes usam IA sombria para agir mais rápido, as organizações precisam acompanhar esse ritmo com práticas de segurança proativas e centradas nos desenvolvedores. É aí que a Snyk entra. Ao ajudar as equipes a incorporar a segurança desde o início do ciclo de desenvolvimento, a Snyk facilita a detecção de vulnerabilidades, independentemente de como foram introduzidas. 

Com Snyk Code, baseado em DeepCode AI, os desenvolvedores podem encontrar, corrigir e priorizar vulnerabilidades automaticamente, muito mais rápido do que em revisões manuais. Criada para os fluxos de trabalho do desenvolvimento moderno, a Snyk ajuda as equipes a trabalhar com agilidade sem abrir mão da segurança.

Com a ascensão da IA sombria, os atacantes não estão apenas mais rápidos: estão mais inteligentes. Quer saber como o red teaming com IA pode ajudar você a se antecipar ao próximo ataque? Saiba mais sobre como fazer red teaming com seus agentes de LLM.