Bases de la confianza: proteger el futuro del código generado por IA

La inteligencia artificial generativa (GenAI) ya se convirtió en la tecnología que define la década de 2020. Sus usuarios la aprovechan para todo, desde diseñar itinerarios de viaje hasta crear música. Hoy, los desarrolladores de software usan GenAI a gran escala para escribir código, reducir su carga de trabajo y recuperar tiempo valioso. Sin embargo, es importante que tengan en cuenta los posibles riesgos de seguridad que pueden introducir las herramientas de programación con GenAI.

Como líder en seguridad para desarrolladores, Snyk cree que el desarrollo impulsado por GenAI debe ser rápido y seguro. Por eso, hoy nos complace anunciar que Codieum, Tabnine, TabbyML y Qodo son miembros de acceso anticipado de nuestro creciente GenAI Program, una iniciativa para ser socios de las principales soluciones de generación de código de la industria y proteger juntos la tecnología que impulsa la era de GenAI. Nuestro objetivo es aumentar la confianza en el desarrollo de software asistido por IA mediante la integración de las capacidades de seguridad de Snyk en estas herramientas de programación con IA líderes en su categoría.

Los desarrolladores apuestan de lleno por GenAI

Los desarrolladores siempre buscan formas de trabajar más rápido y con mayor eficiencia, lo que explica la rápida y amplia adopción de la programación con GenAI. Según GitHub, el 92 % de los desarrolladores de Estados Unidos usa herramientas de programación con IA, como Gemini Code Assist de Google, GitHub Copilot y Amazon CodeWhisperer, tanto en el trabajo como fuera de él.

No sorprende que estas herramientas sean tan populares entre los desarrolladores, quienes afirman que los asistentes de programación con GenAI ayudan a mejorar la calidad del código, generar mejores casos de prueba y acelerar la adopción de lenguajes de programación. Sin embargo, muchos desarrolladores que se sumaron a la revolución de GenAI siguen haciéndose una pregunta incómoda: ¿qué tan seguro es el código que generan estas herramientas?

Problemas de seguridad comunes en el código generado por IA

En nuestro Informe de seguridad del código con IA de 2023, descubrimos que más de la mitad (56,4 %) de los desarrolladores encuentra con frecuencia problemas de seguridad en el código generado por IA. Esto se debe a que estos modelos suelen entrenarse con datos de código abierto que pueden contener imprecisiones o vulnerabilidades. Tampoco ayuda que el 80 % de los desarrolladores evite las políticas de seguridad para código con IA, lo que representa un problema para los equipos de AppSec, que a menudo tienen dificultades para seguir el ritmo del desarrollo asistido por IA.

Se estima que hay 35 millones de desarrolladores en todo el mundo, pero solo unos cuatro millones de profesionales de seguridad y alrededor de tres millones de puestos vacantes. Esta asimetría significa que los equipos de seguridad simplemente no cuentan con suficiente personal para seguir el ritmo del enorme volumen de código que producen los desarrolladores. Como resultado, el código generado por GenAI puede presentar numerosos desafíos de seguridad, entre ellos:

• Imprecisiones: código que no funciona como se espera o contiene errores.

• Alucinaciones: código sin sentido o que no tiene relación con la entrada.

• Vulnerabilidades: fallas de seguridad en el código que los hackers pueden aprovechar para atacar.

• Envenenamiento de datos: datos de entrenamiento de IA manipulados intencionalmente por actores maliciosos.

• Inyecciones de prompts: prompts manipulados que obligan a la IA a generar resultados no deseados o dañinos.

La misión de Snyk es proteger TODO el código, ya sea que lo escriba un desarrollador o una herramienta basada en IA. Guiados por nuestra filosofía de «shift left», creemos que la mejor forma de lograrlo es dar herramientas a los desarrolladores durante todo el SDLC, protegiendo las aplicaciones de forma proactiva y sin fricciones.

Snyk integra la seguridad en el código generado por IA

El estado actual de GenAI en el mundo del desarrollo de software recuerda un poco al Viejo Oeste, con pocas regulaciones o requisitos de cumplimiento de la industria para proteger los flujos de trabajo de programación basados en IA. Al mismo tiempo, los desarrolladores no van a renunciar a los asistentes de programación con IA por motivos de seguridad, ¡y no deberían tener que hacerlo!

A través de nuestro próximo GenAI Partner Program, Snyk colaborará con los principales asistentes de programación con GenAI para integrar nuestros controles de pruebas de seguridad y corrección directamente en las soluciones de nuestros socios y sus extensiones para IDE. Esta integración permitirá a los desarrolladores crear código sin preocuparse por la seguridad, ya que Snyk podrá proteger el código generado por IA en tiempo real, a medida que se produce. Si se detecta algún problema de seguridad en el código generado por IA, Snyk podrá corregirlo rápidamente antes de que se convierta en una amenaza real.

En nuestro informe Estado de la seguridad del código abierto 2023, descubrimos que al 59 % de los encuestados le preocupa que las herramientas de IA introduzcan vulnerabilidades de seguridad en su código, y al 50 % le preocupa que la IA introduzca infracciones de licencias. Este escepticismo hacia los asistentes de programación reduce su eficiencia, ya que obliga a los desarrolladores a dedicar más tiempo a revisar manualmente el código generado por IA para detectar riesgos. Eso está por cambiar.

Snyk ayuda a los desarrolladores a innovar y ser más productivos al reforzar sus flujos de trabajo de desarrollo con GenAI mediante controles integrados en tiempo real de pruebas estáticas de seguridad de aplicaciones (SAST). Pueden usar la IA con confianza para probar cosas nuevas, ser más creativos y acelerar sus flujos de trabajo sin perder el sueño por los riesgos de seguridad. El resultado: una experiencia laboral más satisfactoria y desarrolladores más felices.

Proteger el futuro de los asistentes de programación con GenAI

Proteger el código generado por IA es clave para que los desarrolladores aprovechen el poder de GenAI sin poner en riesgo la seguridad. A medida que aumenta la adopción de herramientas de IA, integrar controles de seguridad sólidos será fundamental para los flujos de trabajo modernos de desarrollo de software y las cadenas de suministro de software impulsadas por GenAI que generan.

Mira nuestro panel de DevSecCon, donde Snyk y nuestros socios de acceso anticipado analizan las mejores prácticas para usar GenAI y crear software seguro a gran escala.