Informe de Snyk sobre la preparación organizacional para la IA

Según el Informe de Snyk sobre seguridad del código con IA de 2023, el 96 % de los desarrolladores usa herramientas de IA generativa en sus flujos de trabajo. Las organizaciones que desarrollan software saben que deben adoptar estas herramientas para seguir el ritmo de la competencia y atraer y retener talento. Incorporar herramientas de programación con IA al ciclo de vida del desarrollo de software plantea diversos desafíos de seguridad y operativos. ¿Qué tan preparados están los líderes tecnológicos y sus equipos para la nueva era de las herramientas de programación con IA? ¿Y cómo se preparan para este cambio significativo en la forma de escribir software? 

Snyk hizo una serie de preguntas a más de 400 profesionales de tecnología para evaluar qué tan preparadas están sus organizaciones para la IA y conocer su percepción sobre las herramientas de programación con IA. La encuesta abarcó tres grupos: ejecutivos de tecnología de nivel C, equipos de seguridad de aplicaciones y desarrolladores e ingenieros. Estos grupos tenían opiniones distintas sobre la seguridad de las herramientas de programación con IA y del código, la eficacia de las políticas de seguridad del código con IA y la preparación de las organizaciones para programar con IA. En este informe, presentamos los hallazgos más destacados de la investigación.

En general, las organizaciones confían en estar listas y preparadas para adoptar la IA. Ante preguntas que cuestionan directa o indirectamente su preparación para la IA, la mayoría avanza rápidamente en su adopción, incluso omite los análisis estándar de casos de uso y las pruebas de productos antes de implementarlos. Por su parte, los encuestados de la alta dirección están más convencidos de que sus organizaciones están preparadas para adoptar la IA y de que sus herramientas de IA son seguras.

En los tres grupos de roles, la mayoría de las personas encuestadas afirmó que su organización estaba «extremadamente preparada» o «muy preparada» para adoptar herramientas de programación con IA. Menos del 4 % indicó que su organización no estaba preparada. Sin embargo, quienes ocupan cargos ejecutivos tienen más confianza que los demás grupos en que su organización está lista para implementar y adoptar herramientas de programación con IA. El 40,3 % de ese grupo calificó a su organización como «extremadamente preparada», frente a solo el 26 % de los integrantes de equipos de AppSec y el 22,4 % de los desarrolladores.

No hubo diferencias significativas entre los CISO y los CTO, lo que parece contraintuitivo dado el enfoque de los CISO en la seguridad y los riesgos. Esto podría deberse a la intensa presión que enfrenta el liderazgo tecnológico para implementar rápidamente herramientas de programación con IA y acelerar los procesos de desarrollo de software. Es probable que las reservas de otros grupos reflejen inquietudes concretas sobre aspectos de preparación relacionados con la seguridad, la capacitación, la calidad del código y otros detalles de implementación.

A pesar de las respuestas muy positivas sobre la preparación de las organizaciones, las políticas de seguridad, la calidad del código generado por IA y los riesgos, los encuestados siguen señalando la seguridad como la mayor barrera para adoptar herramientas de programación con IA. Aunque parezca contradictorio, tampoco están tomando medidas básicas para minimizar los riesgos y preparar a sus organizaciones, como realizar pruebas de concepto y capacitar a los desarrolladores en el uso de herramientas de programación con IA.

¿Están listas o no? En general, los encuestados tienen una opinión positiva sobre qué tan preparadas están sus organizaciones para usar herramientas de programación con IA. En general, consideran que sus políticas de seguridad son suficientes y que el código generado por IA es seguro. En términos generales, creen que están listas para adoptar la IA. Sin embargo, siguen teniendo opiniones divididas sobre la seguridad de las herramientas de programación con IA. En todos los puestos, se percibe que los temores relacionados con la seguridad son la principal barrera para adoptar estas herramientas. En cuanto a los procesos prácticos de preparación, menos de una quinta parte de los encuestados afirmó que sus organizaciones habían realizado pruebas de concepto (PoC), un paso básico y fundamental para adoptar nuevas tecnologías. Además, menos de la mitad dijo que la mayoría de sus desarrolladores había recibido capacitación sobre herramientas de programación con IA. Estas contradicciones pueden indicar una falta de planificación y estrategia, así como de estructura para adoptar la IA.

Al profundizar en el tema, las respuestas mostraron una diferencia constante según el puesto en las percepciones sobre la calidad del código, la seguridad de las herramientas y el nivel general de preparación de la organización. Los directivos de alto nivel tenían una opinión más positiva sobre las herramientas de programación con IA y el nivel de preparación que quienes trabajan más cerca del código o de los procesos y las políticas de seguridad. En particular, los miembros de los equipos de seguridad tenían una opinión menos favorable sobre la seguridad de estas herramientas, lo que sugiere que este grupo influyente está más expuesto a los problemas que genera la programación con IA y reacciona en consecuencia.

Las contradicciones anteriores sugieren que la planificación y la estrategia para adoptar herramientas de programación con IA son insuficientes y poco cohesionadas. También apuntan a una falta de estructura para determinar y cumplir los requisitos previos necesarios, posiblemente debido a la falta de visibilidad constante en toda la organización. Esto podría deberse a que, como sucedió con los teléfonos inteligentes y algunos productos de software para consumidores, la adopción fue rápida y descontrolada al principio, antes de que los equipos de TI la institucionalizaran. En ese sentido, es posible que los despliegues iniciales hayan sido caóticos y que después haya sido difícil controlarlos. Sin embargo, la conclusión es que las organizaciones deberían considerar un enfoque más estructurado para adoptar y proteger las herramientas de programación con IA, similar a los procesos que utilizan para adoptar otros tipos de software empresarial. Este enfoque también debería disipar los temores sobre la seguridad y atender las preocupaciones desproporcionadas de los desarrolladores y los equipos de seguridad. Para ello, establecería mejores controles y contrapesos, y ofrecería un enfoque más integral, metódico y programático para implementar un cambio fundamental en el proceso de desarrollo de software.

Para este informe, encuestamos a 406 profesionales de TI de todo el mundo. Snyk limitó la encuesta a las personas que describieron sus funciones como «CTO», «CISO», «desarrollador», «ingeniero», «seguridad» o «seguridad de aplicaciones». Snyk tiene previsto seguir recopilando datos para esta encuesta en eventos en línea y presenciales durante 2024, con el fin de ofrecer una perspectiva aún más amplia sobre la preparación de las empresas para la IA y las diferencias en las percepciones de los riesgos, la preparación y los desafíos relacionados con la IA.