Del entusiasmo a la confianza: cómo construir las bases para un desarrollo de IA seguro

La IA generativa y la IA agéntica están cambiando todo, desde quién escribe software hasta cómo definimos una arquitectura segura. En el reciente evento Lighthouse de Snyk en Nueva York, líderes de equipos de la nube, seguridad y desarrollo se reunieron para responder una pregunta esencial: ¿cómo avanzar rápido con la IA sin perder la confianza? ¿La respuesta? Empieza por tener visibilidad, incorpora la seguridad desde el diseño y nunca pierdas de vista a las personas detrás del código.

El verdadero cambio: la IA no es solo un conjunto de herramientas. Es un modelo de negocio.

Este encuentro exclusivo por invitación se realizó en las oficinas de Accenture en Manhattan, con un horizonte tan imponente como la conversación. Se sintió menos como un evento tecnológico y más como una cumbre de liderazgo. Voces de distintos sectores, incluidos CISOs, ingenieros de plataformas y destacados desarrolladores, compartieron cómo la IA está transformando no solo sus entornos tecnológicos, sino también sus estructuras organizativas, flujos de trabajo y conversaciones en la sala de juntas.

Hubo una idea que quedó clara: la seguridad de la IA no es opcional. Es fundamental.

Manoj Nair, director de Innovación de Snyk, describió algunos de los desafíos del código generado por IA: los asistentes de código con IA, entrenados con bases de código existentes, pueden perpetuar malas prácticas e introducir vulnerabilidades. Un cliente reportó que las vulnerabilidades se duplicaron en un grupo que usaba Copilot.

Como señaló John Delmare, director ejecutivo de Accenture: «La IA debe abordarse como una transformación empresarial. Una que incluya la seguridad desde el principio». Y si tu organización no está integrando la confianza en sus operaciones hoy, pronto tendrá que ponerse al día.

Confianza en la IA: el nuevo estándar para una innovación segura

Olvídate del código estático y los motores basados en reglas. Las aplicaciones nativas de IA ya están aquí y no se comportan como el software al que estamos acostumbrados. Generan, razonan, reaccionan e interactúan con los usuarios en tiempo real.

En pocas palabras: no puede haber confianza en la IA sin seguridad de la IA. Y no puede haber seguridad de la IA sin preparación para la IA.

Esa preparación comienza con un cambio de enfoque hacia la izquierda y la derecha, que abarque desde los ejercicios de red team para LLM y las listas de materiales de IA (AI-BOM) hasta las pruebas fuzzing en tiempo de ejecución de agentes autónomos.

Aquí es donde entra en juego la preparación para la IA. No como una lista de verificación que se completa una sola vez, sino como un cambio continuo de enfoque hacia la visibilidad, la responsabilidad y las protecciones permanentes.

Pero la conversación no fue solo técnica.

Ahora cualquiera puede crear una aplicación. Eso lo cambia todo.

Si alguien pega una instrucción en ChatGPT para generar la lógica de un flujo de trabajo, ¿adivina qué? Esa persona está creando una aplicación.

En el evento Lighthouse de Nueva York, la sala vibró con conversaciones sobre este cambio. Exploramos distintas facetas de cómo la democratización de la creación de software exige democratizar también la responsabilidad por la seguridad.

Eso significa que el modelado de amenazas ya no es solo para ingenieros. Los equipos legales, los líderes de producto y, sí, los profesionales de seguridad deben coordinarse para abordar los riesgos particulares de los sistemas agénticos, las respuestas probabilísticas y las cadenas de herramientas ocultas.

Esto no es DevSecOps 2.0. Es seguridad nativa de IA. Esta es la nueva realidad.

Potencia DevSecOps con protecciones, no obstáculos

Por supuesto, la ola de la IA no solo implica riesgos: también es un motor de aceleración. Los equipos compartieron cómo usan la IA generativa para agilizar la generación de código, ampliar la documentación e incluso sugerir soluciones para vulnerabilidades. Pero todos coincidieron en algo.

La velocidad solo es una ventaja si es segura.

Por eso, integrar la confianza en la IA en las operaciones implica mucho más que realizar verificaciones estáticas. Significa crear protecciones que abarquen todo el ciclo de vida de desarrollo de software de IA (AI SDLC). Significa entender dónde se ejecutan los modelos, con qué interactúan y cómo evoluciona su comportamiento en producción.

Porque ningún equipo quiere descubrir que su chatbot está ofreciendo descuentos enormes en vuelos o regalos sin autorización.

La cultura es el multiplicador oculto

Durante todo el día, hubo una palabra que volvió a surgir: cultura.

Sí, necesitas análisis. Sí, necesitas observabilidad. Pero, sobre todo, necesitas que la responsabilidad sea compartida en toda la organización: entre los equipos de desarrollo, plataformas, seguridad y negocio.

Los equipos de seguridad deben ser educadores, facilitadores y diseñadores de políticas para una nueva ola de innovación nativa de IA.

La confianza en la IA no funciona sin confianza en el equipo.

Y quizá eso fue lo que hizo tan especial esta conversación de Lighthouse: no solo las ideas compartidas, sino también la apertura. La disposición a explorar, reconocer la incertidumbre y colaborar para lograr algo mejor.

¿Qué sigue? De Nueva York a Silicon Valley

El evento de Nueva York fue solo el comienzo. Lo siguiente es Lighthouse Silicon Valley, donde seguiremos explorando cómo el desarrollo seguro de IA genera valor real para el negocio. Desde la arquitectura hasta la cultura, está claro que el futuro del software es nativo de IA y se construye sobre la confianza.

Si estás avanzando hacia ese futuro, nos encantaría saber de ti. Acompáñanos en el Área de la Bahía la próxima semana.

En resumen: la confianza en la IA comienza con Snyk

Nos fuimos de Nueva York con una convicción compartida: proteger la IA no es una misión secundaria. Es el evento principal.

Ya sea que estés integrando LLM en tu entorno tecnológico o replanteando los flujos de trabajo de tus agentes, hay algo claro: la confianza no se puede agregar después. Debe incorporarse desde el principio.

Por eso, en Snyk estamos creando la plataforma de confianza en la IA:

• Para darles a los equipos visibilidad de los activos de IA

• Para pasar de las crisis de último minuto a la prevención

• Para ampliar la seguridad al mismo ritmo que la velocidad

Porque cuando el software piensa por sí mismo, la seguridad debe anticiparse.