La guía esencial sobre las listas de materiales de IA (AIBOM)

James Govenor afirma que el enfoque You Only Live Once (YOLO) detrás de la herramienta ChatGPT de OpenAI «no les dará a los usuarios finales la confianza que necesitan para adoptar modelos de IA en iniciativas estratégicas».

En otras palabras: si quieres que tu herramienta basada en IA sea confiable, respáldala con una lista de materiales de IA (AIBOM).

La IA y el aprendizaje automático (ML) se usan hoy en muchos casos prácticos, como asistentes de voz, asistentes de programación, chatbots de atención al cliente, herramientas de escritura, etc.; todos diseñados para simplificar la vida cotidiana. Sin embargo, esta adopción generalizada se da en gran medida sin medidas de protección. La necesidad de mejorar la seguridad, la transparencia y la trazabilidad de la IA es precisamente la razón por la que es crucial desarrollar AIBOM.

En esta guía, aprenderás qué es una AIBOM y cuáles son los beneficios de contar con una. Además, encontrarás ocho consejos prácticos para crear una AIBOM que proteja tu modelo ante futuros cambios normativos.

¿Qué es una AIBOM?

Una AIBOM es una lista completa que muestra todos los modelos, las herramientas y los datos de IA que se usan en una aplicación de software, a fin de facilitar la gobernanza y la adopción responsable de la IA. Puede incluir los canales de datos, los modelos, los procedimientos de entrenamiento y el rendimiento operativo de un sistema de IA.

Las AIBOM mejoran la transparencia, la rendición de cuentas y la gobernanza de los sistemas de IA al crear un inventario detallado de sus componentes y desarrollo.

Piensa en una AIBOM como un mapa o esquema que registra todos los componentes individuales que conforman tu sistema de IA. Estos componentes pueden incluir:

• La arquitectura en torno a los datos de entrenamiento de tu modelo

• Los tipos de entradas y salidas permitidos

• Los usos previstos del modelo y las posibles áreas de riesgo o uso indebido

• Las implicaciones ambientales o éticas del modelo

• El nombre, la versión, el tipo y el creador del modelo

Además, una AIBOM debe incluir una nota de autenticidad del creador del modelo.

AIBOM frente a SBOM

Es lógico que te preguntes si una AIBOM no se parece mucho a una lista de materiales de software (SBOM).

Ambas siguen el mismo concepto, pero las SBOM se enfocan en el software, mientras que las AIBOM se enfocan en los modelos de IA. Así que, aunque las SBOM abordan los motivos y principios generales detrás del software, el esquema de una SBOM es similar al de una AIBOM. En algunos casos, un esquema de SBOM puede servir de guía para crear una AIBOM.

Beneficios de las AIBOM

En esencia, una AIBOM permite que el público en general tome decisiones informadas sobre los sistemas de IA.

• Transparencia. Las AIBOM aclaran cuáles son las fuentes de datos, las herramientas, los métodos logísticos, el hardware y los demás elementos que permiten que un sistema de IA funcione correctamente.

• Reproducibilidad. Como cualquier otra lista de materiales, una AIBOM debe ofrecer suficiente información para que otras personas puedan recrear el sistema de IA y obtener resultados similares.

• Rendición de cuentas. Una AIBOM ofrece transparencia para que otras personas puedan conocer el origen y las métricas de tu sistema de IA.

IA responsable. La información de una AIBOM también aborda posibles inquietudes éticas e incluye datos sobre el entrenamiento que permiten evaluar de forma responsable los sesgos y las limitaciones.

AIBOM para la seguridad y la confianza

Una AIBOM es fundamental para proteger los datos de los usuarios y ayudar a las industrias reguladas a cumplir con la legislación en áreas como la ciberseguridad, la privacidad de los datos y los derechos de autor.

En sus primeras etapas, el público en general consideraba que la IA generativa era una novedad y, en gran medida, todavía se usa sin regulación. Como resultado, los organismos reguladores se apresuran a abordar adecuadamente las inquietudes sobre privacidad y seguridad.

Los gobiernos de todo el mundo también empiezan a darse cuenta de que la IA llegó para quedarse y que las regulaciones deben mantenerse al día con la creciente demanda. En octubre de 2023, el presidente de EE. UU., Joe Biden, emitió una amplia orden ejecutiva (EO) para que los modelos de IA de vanguardia rindan más cuentas.

En su EO, el presidente Biden exige que las agencias del gobierno de EE. UU. desarrollen áreas específicas de regulación durante el próximo año. Aunque la orden no es jurídicamente vinculante, definirá las prioridades de los reguladores y servirá de guía para futuras leyes relacionadas con la IA.

El espectro de las AIBOM

Dada la amplitud de los algoritmos de IA y la rapidez con que cambian, hay algunos desafíos que debes tener en cuenta antes de crear una AIBOM:

• Alcance: según la complejidad de tu modelo de IA, considera las necesidades de tu inventario: puedes optar por compartir uno básico o por ofrecer documentación más completa.

• Necesidades de privacidad y seguridad: considera las implicaciones éticas de tu modelo de IA y sopesa la necesidad de ser transparente frente a la protección de tu propiedad intelectual.

• Licencias: sopesa la necesidad de que tu modelo de IA aproveche el código abierto frente a las licencias propietarias, para facilitar la optimización del modelo y documentar los cambios.

Estandarización: al crear cualquier lista de materiales, el objetivo es ofrecer un esquema fácil de seguir. Las AIBOM son un concepto relativamente nuevo, así que tu trabajo actual puede ayudar a definir la estandarización de futuros modelos de AIBOM.

Ocho consejos prácticos para crear una AIBOM

Una AIBOM bien elaborada es clave para mitigar riesgos, cumplir con las normativas y ofrecer transparencia sobre la composición de tu aplicación de IA. Si estás listo para crear tu propia AIBOM, aquí tienes ocho consejos para empezar:

1. Empieza con un inventario. El primer paso para crear cualquier lista de materiales es elaborar un inventario básico que incluya los componentes esenciales de tus sistemas de IA. Estos componentes pueden incluir:

   1. Datos de entrenamiento

   2. Fuentes de datos

   3. Modelos

   4. Marcos de software como PyTorch o TensorFlow

   5. Hardware

   6. Dependencias

   7. Administradores de paquetes como LangChain

2. Identifica los riesgos y las limitaciones. La transparencia es fundamental. Por eso es crucial documentar los problemas conocidos, los sesgos, las consideraciones éticas y cualquier otro factor que limite los datos o el diseño de tus sistemas de IA.

3. Formaliza el linaje del modelo. A medida que evoluciona tu modelo, debes mantener registros claros. Así, otras personas podrán rastrear el origen y la evolución de tus modelos de IA, y registrar las versiones, el reentrenamiento y cualquier modificación.

4. Evalúa los marcos de trabajo. Las AIBOM son un campo relativamente nuevo. Cuando sea posible, considera revisar AIBOM existentes antes de crear la tuya. Esto te ayudará a determinar si algún marco de AIBOM actual se ajusta a tus necesidades. Una vez que crees la tuya, también contribuirás a desarrollar estándares para otras personas.

5. Automatiza la recopilación. Integra la generación de AIBOM en los canales de creación e implementación de tus modelos para aumentar la eficiencia.

6. Adopta de forma selectiva. Identifica los modelos de mayor prioridad o riesgo en los que enfocar los esfuerzos iniciales de AIBOM, para lograr el mayor impacto en tu herramienta basada en IA.

7. Alinea la AIBOM con las regulaciones. En esencia, una AIBOM está diseñada para facilitar el cumplimiento normativo. Las reglas, leyes y regulaciones relacionadas con la IA cambian constantemente. Debes hacer la debida diligencia y comprender los requisitos normativos aplicables a los sistemas de IA de tu sector. También debes tener en cuenta la ubicación geográfica de cada parte del sistema de IA para garantizar el cumplimiento de todas las regulaciones pertinentes en cada región; esto incluye dónde se obtienen los datos de entrenamiento, dónde se encuentra la infraestructura y dónde está disponible el modelo para su uso.

8. Mejora la reproducibilidad. Proporciona los scripts, los pesos del modelo y los detalles de configuración que otras personas puedan necesitar para reconstruir tus modelos y obtener resultados similares.

Cómo ayuda Snyk con las listas de materiales

Es fundamental tener en cuenta las implicaciones éticas, ambientales y sociales de cualquier avance tecnológico, incluida la IA. Las AIBOM bien elaboradas permiten adoptar la IA con mayor información.

Snyk ha respaldado sistemáticamente los principios de las SBOM, que son similares a los de las AIBOM: transparencia, mayor cumplimiento y seguridad. Para generar una SBOM con Snyk, empieza desde la línea de comandos de Snyk Open Source o usa nuestra API. Snyk puede analizar toda tu aplicación y proporcionar SBOM en los formatos CycloneDX y SPDX para facilitar el uso de los datos.

En Snyk, entendemos la importancia de la seguridad, la gobernanza y la confianza. Crea una cuenta gratuita de Snyk y da el primer paso para integrar protocolos de seguridad directamente en tu proceso de desarrollo de software. O bien, agenda una demostración en vivo para descubrir cómo adaptar Snyk a tus necesidades.