Por qué los líderes tecnológicos de ANZ están replanteando la relación entre IA, velocidad y seguridad

El cambio tecnológico siempre avanza rápido, pero con la IA en todas partes, el ritmo se ha acelerado aún más. En Australia y Nueva Zelanda, las empresas planean invertir mucho en IA generativa: unos 15 millones de dólares en promedio, más que el promedio mundial. Esto ejerce una enorme presión sobre los líderes de tecnología, seguridad e ingeniería. Deben innovar rápidamente, pero también enfrentan riesgos complejos relacionados con la IA. Esto los obliga a replantearse cómo pueden trabajar en conjunto la velocidad y la seguridad.

Las organizaciones de Australia y Nueva Zelanda avanzan con ambición y cautela. Aunque la IA ofrece nuevas posibilidades, también plantea desafíos de seguridad evidentes. Los líderes se enfrentan a dilemas concretos. Quieren aprovechar la IA sin ampliar las brechas de seguridad. Entre los desafíos locales están:

• La grave escasez de talento (el 36 % de las ocupaciones en Australia tienen puestos sin cubrir).

• La evolución de las regulaciones.

• La gestión de entornos nativos de la nube.

A esto se suma un profundo escepticismo sobre la seguridad de la IA. En Australia, el 74 % considera que las fallas de seguridad son su principal preocupación, una cifra muy superior al promedio mundial.

A medida que los líderes buscan equilibrar la innovación y la seguridad, surgen varias presiones clave:

1. Adoptar la IA de forma segura

La posibilidad de que la IA escriba código y potencie el software es emocionante, pero el código generado por IA suele tener vulnerabilidades. A medida que las organizaciones amplían el uso de la IA y del código abierto, deben gestionar cuidadosamente los riesgos. La IA necesita medidas de seguridad y transparencia integradas. Los líderes deben asegurarse de que su adopción no introduzca nuevos riesgos en la cadena de suministro. También enfrentan un desafío de confianza: los australianos desconfían de la IA.

2. Más velocidad sin aumentar los riesgos

Herramientas de IA como GitHub Copilot, Google Gemini y Cursor prometen acelerar la programación. Las primeras pruebas en ANZ Bank mostraron que los ingenieros podían trabajar hasta un 55 % más rápido. Pero esta velocidad puede dar lugar a código menos seguro. El código generado por IA puede ser riesgoso y los desarrolladores podrían confiar demasiado en él. Los estudios muestran que gran parte del código generado por IA es vulnerable. Los líderes deben integrar las verificaciones de seguridad directamente en el desarrollo, al mismo ritmo que la IA. Las auditorías periódicas no bastan y dejan brechas importantes.

Este gráfico muestra cómo las vulnerabilidades relacionadas con la IA (CVE) aumentaron drásticamente entre 2020 y 2024.

3. Visibilidad y priorización de riesgos

Las aplicaciones modernas, sobre todo las que usan IA, son complejas. Incorporan nuevas superficies de ataque. Con tantas herramientas de seguridad, los líderes reciben demasiados hallazgos y quedan puntos ciegos. Necesitan una visión clara de los riesgos, incluidos los elementos generados por IA. También deben filtrar el ruido y centrarse en las amenazas reales. Para ello, deben considerar factores como la posibilidad de llegar al riesgo, el entorno en el que se ejecuta, su nivel de criticidad y los datos involucrados. La IA en la sombra (el uso de herramientas de IA no autorizadas) agrava el desafío. AI Security Posture Management (AI-SPM) ayuda a gestionar los riesgos en las implementaciones de IA.

4. Flujos de trabajo de seguridad más simples

Los equipos de plataforma ya gestionan muchas herramientas. La seguridad no puede ralentizarlos. Debe ser sencilla e integrarse de forma natural en los flujos de trabajo de los desarrolladores. Debe ser «invisible hasta que se necesita». Es fundamental automatizar las tareas de seguridad y ofrecer comentarios y correcciones en tiempo real.

5. Consolidación de herramientas

Muchas organizaciones usan demasiadas herramientas de seguridad, lo que crea silos de datos y una carga de trabajo adicional. Los líderes quieren centralizar la seguridad en una sola plataforma. Esta visión unificada ayuda a los equipos a trabajar mejor y a cerrar brechas de seguridad durante el desarrollo y la implementación.

Ejemplos prácticos: IA para la seguridad y seguridad para la IA

Se necesita un enfoque doble:

• Usar la IA para reforzar la seguridad.

• Proteger los propios sistemas de IA.

IA para la seguridad:

La IA se usa para potenciar las plataformas de seguridad. Ayuda a encontrar, correlacionar y eliminar hallazgos duplicados. Clasifica los datos y determina si se puede acceder a funciones vulnerables. Incluso puede escribir correcciones para acelerar la aplicación de parches. Más allá del desarrollo, la IA agiliza la detección de amenazas y la respuesta a incidentes mediante el análisis de datos en tiempo real. También ayuda a explicar los hallazgos de seguridad en un lenguaje claro para los equipos.

Seguridad para la IA:

Es necesario proteger los sistemas de IA y las aplicaciones que estos potencian. Esto implica proteger el código y las aplicaciones de IA. Estas son algunas áreas clave:

• Inyección de prompts: Los atacantes engañan a los sistemas de IA con prompts diseñados para manipularlos. Según OWASP, es el principal riesgo para las aplicaciones de LLM.

• OWASP Top 10 for LLMs: Marco que identifica los principales riesgos de seguridad en las aplicaciones de IA.

• Modelado de amenazas: Comprender y reducir los riesgos a lo largo del ciclo de vida de la IA.

• Red teaming de LLM: Hackers éticos ponen a prueba la IA para detectar debilidades.

• AI-SPM: Analiza los entornos de IA para detectar vulnerabilidades.

• Model Context Protocol (MCP): Conecta flujos de trabajo de IA dentro de los LLM, pero puede ampliar los riesgos.

• AI-BOM (lista de materiales de IA): Enumera los componentes, las bibliotecas y los datos de IA para gestionar los riesgos de la cadena de suministro.

Nuevos vectores de ataque en el desarrollo nativo de IA: OWASP Top 10 for Large Language Model Applications

Generar confianza en la IA en ANZ

Los líderes de ANZ saben que, para prosperar en el desarrollo impulsado por IA, deben fomentar la confianza en la IA. Esto significa avanzar rápido sin dejar de protegerse en un mundo con IA. Se trata de reducir el esfuerzo humano y, al mismo tiempo, reforzar la seguridad y la gobernanza.

La confianza en la IA se basa en tres pilares:

• Visibilidad completa de los riesgos.

• Priorización inteligente de las amenazas reales.

• Aplicación de políticas escalable para corregir y prevenir problemas.

Para ANZ, esto significa contar con soluciones que comprendan la escasez de talento, las regulaciones y las presiones locales. También implica ofrecer a los desarrolladores herramientas que analicen y corrijan el código generado por IA a la misma velocidad con la que se crea. Se necesitan plataformas que ofrezcan a los equipos de seguridad una visión única y clara de las aplicaciones tradicionales y nativas de IA, con un enfoque en los riesgos reales para el negocio. Además, significa aplicar controles que puedan escalar sin ralentizar el desarrollo.

Los desafíos son grandes. Pero, si reconocen estas tensiones y aplican las estrategias adecuadas, los líderes de ANZ pueden generar confianza en este nuevo mundo de la IA.