IA oscura: explorando las sombras de la inteligencia artificial

¿Qué es la IA oscura?

La IA oscura es el uso malicioso de la inteligencia artificial para desarrollar ciberataques, cometer fraudes o realizar otras actividades ilícitas. Además, está en auge. La IA generativa (GenAI) ha reducido las barreras de entrada, por lo que es más fácil para los ciberdelincuentes diseñar y lanzar ataques.

Al mismo tiempo, la rápida adopción de tecnologías empresariales, incluida la IA, ha ampliado la superficie de ataque digital de las organizaciones y ha introducido vulnerabilidades que los actores de amenazas pueden explotar.

Se prevé que, para 2025, el ciberdelito cueste 10.5 billones de dólares al año, y que una proporción cada vez mayor de ese costo se deba a la IA oscura.

Definición de la IA oscura

La IA oscura no es una tecnología específica; es un conjunto de tácticas y comportamientos que aprovechan las capacidades de la IA con fines dañinos. Entre sus características principales se incluyen:

• Anonimato: Los atacantes operan en espacios ocultos de internet y suelen usar cifrado, sistemas de referidos y criptomonedas para evitar ser detectados.

• Autonomía: Los sistemas de IA oscura suelen funcionar en piloto automático, con poca intervención humana, lo que permite a los atacantes lanzar ataques a gran escala contra varias víctimas al mismo tiempo.

• Adaptabilidad: Los adversarios adoptan continuamente las últimas innovaciones en IA y ajustan sus métodos para evadir los nuevos sistemas de detección.

• Comportamiento similar al humano: Desde los deepfakes hasta la ingeniería social persuasiva, la IA oscura imita interacciones humanas reales para engañar y manipular.

Mientras que la IA tradicional está diseñada para mejorar la productividad, la toma de decisiones o la calidad de vida, la IA oscura se crea para infiltrarse, engañar y causar daño. Se aprovecha de la confianza y oculta sus intenciones, a menudo con consecuencias devastadoras.

Desafíos de la IA oscura y amenazas a la ciberseguridad

El auge de la IA ha permitido a los atacantes lanzar ciberataques sofisticados con mayor rapidez y facilidad. Lo que antes requería profundos conocimientos técnicos ahora está al alcance de muchos más actores de amenazas, y muchos usan la IA para perfeccionar sus tácticas y superar las defensas tradicionales. Comprender cómo la IA oscura acelera los riesgos puede ayudar a los equipos a mantener una actitud proactiva y resiliente:

• Ciberataques impulsados por IA: Los kits de herramientas listos para usar disponibles en la dark web facilitan que los atacantes lancen campañas de phishing, malware y ransomware. Como resultado, el volumen y la escala de los ataques han aumentado considerablemente.

• Capacidades de evasión: Los modelos de aprendizaje automático ayudan a los ciberdelincuentes a adaptarse a los sistemas de seguridad en tiempo real, lo que dificulta su detección. Los patrones de ataque pueden cambiar automáticamente para evadir las defensas conocidas.

• Velocidad de los ataques: La IA comprime el ciclo de vida de un ataque. Las brechas ocurren más rápido y los atacantes pueden desplazarse entre sistemas antes de que los equipos de seguridad siquiera detecten la intrusión.

Un informe reciente de Microsoft reveló un aumento alarmante: la cantidad de actores de amenazas patrocinados por Estados y motivados por intereses financieros que la empresa sigue pasó de 300 a 1,500. Mientras tanto, los ataques a contraseñas aumentaron de 579 por segundo en 2021 a más de 7,000 por segundo en 2024. En muchos casos, los atacantes que usan IA pueden acceder a los sistemas empresariales poco más de una hora después de que alguien hace clic en un enlace malicioso.

La IA permite estrategias de ataque avanzadas

Además de crear nuevas amenazas, la IA vuelve más peligrosas y difíciles de detectar las estrategias de ataque conocidas. Los ciberdelincuentes pueden usarla para agilizar tácticas antiguas y aumentar sus tasas de éxito ante una gama más amplia de objetivos:

• Generación de malware: La IA puede ayudar a los atacantes a crear malware que evoluciona con el tiempo, aprende a evadir los controles de seguridad y reduce considerablemente la eficacia de algunas herramientas antivirus tradicionales.

• Automatización del phishing: Las herramientas de IA generativa permiten a los adversarios crear correos, mensajes de texto y mensajes de voz de phishing convincentes, y personalizar campañas a partir de plantillas.

• Distribución optimizada de ransomware: La IA oscura puede personalizar los ataques de ransomware, automatizar pasos y optimizar los ataques para sistemas específicos.

• Ingeniería social: Al analizar el comportamiento en línea y los patrones de comunicación de una víctima, la IA ayuda a los atacantes a adaptar sus tácticas de ingeniería social para que parezcan más auténticas, lo que dificulta que los usuarios detecten actividades sospechosas.

Herramientas de IA oscura en acción

Actualmente, los actores de amenazas tienen acceso a herramientas preconfiguradas que facilitan el lanzamiento de ciberataques sofisticados. Algunas se crearon específicamente para el ciberdelito, mientras que otras son herramientas de código abierto reutilizadas con fines maliciosos. Entre ellas se incluyen:

• FraudGPT: Una herramienta de IA generativa de bajo costo, basada en suscripción, que automatiza la creación de código malicioso, malware y correos electrónicos de phishing, y ayuda a los atacantes a encontrar vulnerabilidades y sitios comprometidos.

• DarkBART y DarkBERT: DarkBART se basa en Google Bard y puede crear ataques dirigidos. DarkBERT viene en dos versiones: una se basa en una herramienta legítima de ciberdelito, mientras que la otra aprovecha la dark web como datos de entrenamiento para explotar vulnerabilidades.

• Herramientas de código abierto: Los actores maliciosos usan Nmap, Shodan, Metasploit, SQLMap y otras herramientas de código abierto para realizar reconocimiento, explotar vulnerabilidades y crear nuevas campañas de malware y phishing.

Ejemplos reales de ataques con IA oscura

Las organizaciones ya están viendo las consecuencias reales de la IA oscura, desde brechas de datos dirigidas hasta fraudes financieros. Estos son algunos ejemplos recientes que muestran cómo los atacantes usan la IA para llevar a cabo sus planes:

• Fraude con deepfake: En un caso destacado, un atacante usó tecnología deepfake para suplantar al director financiero de una empresa de servicios financieros. Convenció a un empleado para que transfiriera 25 millones de dólares a cuentas fraudulentas.

• Ataque de phishing a Activision: Un intento de phishing por SMS tuvo como objetivo a un usuario con privilegios en Activision y buscaba robar información interna confidencial. Aunque la empresa negó que hubiera ocurrido una brecha significativa, los investigadores de seguridad destacaron que los ataques de ingeniería social potenciados por IA son cada vez más difíciles de detectar y prevenir.

• Espionaje a T-Mobile: Un grupo patrocinado por un Estado explotó vulnerabilidades en la infraestructura de T-Mobile y accedió a registros de llamadas, mensajes sin cifrar y comunicaciones de audio de personas seleccionadas como objetivo.

La privacidad de los datos, en riesgo

La IA oscura amenaza los fundamentos mismos de la privacidad de los datos. Mediante ataques sofisticados, los actores de amenazas pueden acceder a datos personales y confidenciales (por ejemplo, números de tarjetas de crédito, registros médicos y comunicaciones privadas). Luego, usan estos datos como arma en ataques secundarios, como el robo de identidad, la extorsión y el fraude financiero.

Los atacantes también se esfuerzan por permanecer ocultos y usan tácticas como direcciones IP falsificadas, VPN y redes proxy para evitar ser detectados. Estos métodos pueden dificultar la aplicación incluso de los marcos de protección de datos más estrictos, como GDPR, HIPAA y PCI-DSS.

Implementar medidas sólidas y proactivas de protección de datos, como el cifrado, los controles de acceso y la supervisión en tiempo real, es fundamental para minimizar el impacto si los atacantes logran entrar.

Explotación de plataformas sociales y de comunicación

Las redes sociales y las plataformas de comunicación se usan cada vez más como puntos de entrada para estafas impulsadas por IA. Los atacantes suplantan a ejecutivos en LinkedIn y Twitter, recopilan datos personales de perfiles de Facebook e Instagram e incluso manipulan el discurso público mediante deepfakes y la actividad de bots de IA.

Al crear mensajes más convincentes y recopilar datos más personalizados, la IA ayuda a los atacantes a hacer que las estafas sean más difíciles de detectar, y vuelve aún más importante proteger la confianza en la marca y la privacidad de los usuarios. La capacitación continua de los empleados, procesos más sólidos de verificación de identidad y una supervisión inteligente de los canales públicos pueden ayudar a las organizaciones a reducir los riesgos asociados con la ingeniería social impulsada por IA.

Implicaciones más amplias de la IA oscura

El impacto de la IA oscura va mucho más allá de las empresas individuales. A medida que las comunicaciones generadas por IA se vuelven más difíciles de detectar y los ataques más personales y dirigidos, sus efectos más amplios en la confianza, la comunicación y la toma de decisiones son cada vez más evidentes. Además de proteger sus propios sistemas, las organizaciones que combaten la IA oscura contribuyen a mantener la confianza en industrias y comunidades enteras. Entre los riesgos más amplios de la IA oscura se incluyen:

• Suplantación de figuras de autoridad: Los adversarios pueden suplantar a líderes de la empresa o colegas, lo que genera confusión y desconfianza dentro de las organizaciones.

• Erosión de la verdad: El auge de los medios generados por IA hace cada vez más difícil distinguir el contenido legítimo del material malicioso.

• Pérdida de la confianza pública: Las organizaciones pueden perder la confianza de sus clientes, socios y del público si se ven involucradas en estafas o brechas de datos impulsadas por IA.

Cómo protegerte de la IA oscura

Para protegerte de la IA oscura y otras ciberamenazas emergentes, debes integrar prácticas de seguridad proactivas y resilientes en cada nivel de tu organización. Al combinar tecnología inteligente, capacitación continua y una base sólida de seguridad, los equipos pueden reducir los riesgos sin frenar la innovación. Aquí tienes algunos consejos para mantenerte a la vanguardia:

Da seguimiento a las amenazas emergentes

Mantente al tanto de los nuevos métodos, herramientas y tácticas de ataque impulsados por IA. Los canales de inteligencia sobre amenazas, las novedades de la comunidad y los informes del sector pueden ayudar a tus equipos a anticipar cómo podrían usar los atacantes las nuevas tecnologías.

Capacita a los empleados

Ayuda a tus equipos a reconocer y responder a los intentos de phishing mejorados con IA, los deepfakes y la ingeniería social. La capacitación periódica crea una cultura de conciencia sobre la seguridad y puede convertir a los empleados en una primera línea de defensa eficaz.

Refuerza la seguridad con IA

Aunque la IA introduce nuevos peligros, también puede usarse para hacer el bien. Usa herramientas avanzadas de detección que identifiquen anomalías y amenazas de día cero, y automaticen las acciones de respuesta. Las soluciones de seguridad como Snyk también pueden ayudarte a adoptar un enfoque de seguridad desde el inicio al integrarla en los flujos de trabajo de desarrollo, para detectar y corregir vulnerabilidades lo antes posible.

Red teaming con IA

Para contrarrestar estas amenazas sofisticadas, los equipos de seguridad pueden pensar como sus adversarios. El red teaming con IA es una medida de seguridad proactiva en la que hackers éticos usan IA para simular ataques realistas contra los sistemas, las aplicaciones y los datos de una organización. Va más allá del red teaming tradicional, ya que aprovecha herramientas de IA para automatizar el reconocimiento, explotar vulnerabilidades y recorrer redes complejas, imitando las tácticas de los atacantes actuales.

Al usar IA para buscar puntos débiles, las organizaciones pueden identificar y corregir vulnerabilidades antes de que los actores maliciosos las exploten. Los conocimientos obtenidos de estas simulaciones son fundamentales para crear defensas más resilientes y garantizar una postura de «seguridad desde el diseño». Es un paso para prepararse para un futuro en el que los ataques impulsados por IA serán la norma.

Cómo puede ayudar Snyk

A medida que los atacantes usan la IA oscura para actuar más rápido, las organizaciones deben igualar esa velocidad con prácticas de seguridad proactivas y centradas en los desarrolladores. Ahí es donde entra Snyk. Al ayudar a los equipos a integrar la seguridad desde las primeras etapas del ciclo de desarrollo, Snyk facilita la detección de vulnerabilidades, sin importar cómo se hayan introducido.

Con Snyk Code, impulsado por DeepCode AI, los desarrolladores pueden encontrar, corregir y priorizar vulnerabilidades automáticamente y con una rapidez exponencialmente mayor que en las revisiones manuales. Snyk está diseñado para los flujos de trabajo de desarrollo modernos y ayuda a los equipos a avanzar rápido sin sacrificar la seguridad.

El auge de la IA oscura significa que los atacantes no solo son más rápidos, sino también más inteligentes. ¿Quieres ver cómo el red teaming con IA puede ayudarte a anticiparte al próximo ataque? Lee más sobre cómo hacer red teaming a tus agentes de LLM.