Investigación de Snyk revela que la carrera por la GenAI crea una brecha en la percepción de la preparación para la IA, mientras muchas empresas pasan por alto las mejores prácticas de adopción

Nuevo informe revela que es entre 2 y 5 veces menos probable que la alta dirección reconozca las preocupaciones de seguridad relacionadas con la IA que los líderes de AppSec

BOSTON, MA — 4 de junio de 2024 — Snyk, líder en seguridad para desarrolladores, publicó hoy los resultados de un informe sobre preparación para la IA: «Adopción segura en la era de la GenAI». Aunque muchas empresas de todo el mundo ya adoptaron herramientas de generación de código con IA generativa (GenAI) para acelerar el desarrollo de aplicaciones, los resultados del informe indican que, en muchos casos, se apresuraron o ignoraron las mejores prácticas de adopción en su afán por sumarse a la carrera por la GenAI cuanto antes. Los resultados también muestran una clara brecha de percepción en torno a las preocupaciones de seguridad asociadas con la creación de código mediante GenAI: los líderes de la alta dirección muestran más entusiasmo y confianza que los líderes de seguridad de aplicaciones (AppSec) y, en algunos casos, incluso que los desarrolladores.

En particular, el informe encontró lo siguiente:

• Solo el 20 % de las organizaciones realizó una prueba de concepto (POC) antes de introducir opciones de programación con IA, a pesar de que el 58 % señaló que la seguridad era su principal obstáculo para la adopción;

• Menos de la mitad (44 %) de las organizaciones capacitó a sus desarrolladores en el uso de herramientas de programación con IA; y

• Los CTO y los CISO tenían 5 veces más probabilidades que los desarrolladores de creer que las herramientas de programación con IA no presentan riesgos, y 2 veces más probabilidades de creer que están «muy preparados» para adoptarlas.

«La era de la GenAI ya llegó y no hay forma de “volver a meter al genio en la botella”. Creemos que ahora es responsabilidad de la industria de la ciberseguridad recomendar lineamientos claros que nos permitan aprovechar este aumento de productividad sin sacrificar la seguridad», afirmó Danny Allan, director de tecnología de Snyk. «Esta investigación también demuestra claramente que la expansión del uso de herramientas de programación con IA debe ser un esfuerzo colaborativo. Los CTO deben procurar trabajar codo a codo y confiar en los líderes de sus equipos de DevSecOps para que, juntos, podamos aprovechar de forma segura todos los beneficios de la GenAI a largo plazo».

Cuanto más cerca del código, mayores son las preocupaciones 

La seguridad del código generado por IA no era una preocupación importante para la mayoría de las organizaciones encuestadas. Casi dos tercios (63,3 %) de los participantes calificaron la seguridad como «excelente» o «buena», y solo el 5,9 % la calificó como mala. Sin embargo, un análisis más detallado de estas cifras revela que quienes están «más cerca del código» no expresan la misma confianza que muchos de sus colegas.

Casi 4 de cada 10 personas de AppSec (38,3 %) dijeron que las herramientas de programación con IA eran «muy riesgosas». Los participantes de AppSec también cuestionaron las políticas de seguridad de sus organizaciones con respecto a estas herramientas. Casi un tercio (30,1 %) de los integrantes de los equipos de AppSec dijo que las políticas de seguridad de IA de su organización eran insuficientes, frente al 11 % de los participantes de la alta dirección y el 19 % de los desarrolladores e ingenieros. 

Casi 1 de cada 5 participantes de la alta dirección (19 %) dijo que las herramientas de programación con IA «no eran riesgosas en absoluto», mientras que solo el 4,1 % de los participantes de AppSec estuvo de acuerdo.

Las mejores prácticas son clave mientras sigue creciendo la adopción de la GenAI

Los datos muestran que los principales responsables de tomar decisiones tecnológicas —los CISO y los CTO— creen que sus organizaciones ya están preparadas para las herramientas de programación con IA. De hecho, el 32 % de los participantes de la alta dirección describió como fundamental la rápida adopción de estas herramientas, el doble que entre los participantes de AppSec. 

Esto significa que, independientemente de las preocupaciones de AppSec o de los desarrolladores, la adopción de estas herramientas seguirá avanzando y, en muchos casos, ya está en marcha. A medida que continúan por este camino, estas organizaciones deben implementar con urgencia las medidas de seguridad adecuadas para poder seguir ampliando rápidamente el uso de estas herramientas. 

Entre las acciones inmediatas recomendadas se incluyen:

1. Establecer un proceso formal de POC para adoptar toda nueva tecnología de IA;

2. Valorar y priorizar los comentarios del equipo de AppSec sobre las preocupaciones de seguridad relacionadas con la GenAI;

3. Documentar y auditar todos los casos de uso de herramientas de generación de código con IA;

4. Invertir en tecnología de seguridad que proporcione «barreras de protección para la IA» durante la adopción de herramientas asistidas por IA a largo plazo; y

5. Mejorar y seguir ampliando la capacitación sobre IA en toda la empresa.

Para conocer más detalles sobre los resultados del informe, visita aquí.