Le guide essentiel des nomenclatures de composants IA (AIBOM)

Selon James Govenor, l’approche You Only Live Once (YOLO) qui sous-tend l’outil ChatGPT d’OpenAI « ne permettra pas aux utilisateurs finaux d’avoir la confiance nécessaire pour adopter des modèles d’IA dans le cadre d’initiatives stratégiques ». 

En clair : pour qu’un outil basé sur l’IA soit digne de confiance, appuyez-vous sur une nomenclature de composants IA (AIBOM).  

L’IA et l’apprentissage automatique (ML) répondent aujourd’hui à de nombreux besoins pratiques : assistants vocaux, assistants de programmation, chatbots de service client, outils de rédaction, etc. Tous ont pour objectif de simplifier le quotidien. Pourtant, leur adoption généralisée s’accompagne rarement de garde-fous. Le besoin de renforcer la sécurité, la transparence et la traçabilité de l’IA explique précisément l’importance des AIBOM.  

Dans ce guide, vous découvrirez ce qu’est une AIBOM et quels sont les avantages d’en disposer. Vous trouverez également huit conseils pratiques pour créer une AIBOM et protéger votre modèle face aux évolutions réglementaires à venir.

Qu’est-ce qu’une AIBOM ?

Une AIBOM est une liste exhaustive des modèles d’IA, des outils et des données utilisés dans une application logicielle. Elle favorise ainsi la gouvernance et l’adoption responsable de l’IA. Elle peut inclure les pipelines de données, les modèles, les procédures d’entraînement et les performances opérationnelles d’un système d’IA.

Les AIBOM améliorent la transparence, la responsabilité et la gouvernance des systèmes d’IA en dressant un inventaire détaillé de leurs composants et de leur développement.

Voyez l’AIBOM comme une carte ou un schéma qui recense chacun des composants de votre système d’IA, notamment : 

• L’architecture associée aux données d’entraînement de votre modèle

• Les types d’entrées et de sorties autorisés

• Les utilisations prévues du modèle et les risques ou détournements potentiels

• Les conséquences environnementales ou éthiques du modèle

• Le nom, la version, le type et le créateur du modèle

Une AIBOM doit également comporter une attestation d’authenticité du créateur du modèle. 

AIBOM et SBOM

Vous avez raison de vous demander si une AIBOM ne ressemble pas beaucoup à une nomenclature logicielle (SBOM). 

Les deux reposent sur le même principe, mais les SBOM concernent les logiciels tandis que les AIBOM portent sur les modèles d’IA. Ainsi, si les SBOM décrivent les objectifs et les principes généraux du logiciel, le schéma d’une SBOM est similaire à celui d’une AIBOM. Dans certains cas, un schéma SBOM peut servir de base à la création d’une AIBOM. 

Les avantages d’une AIBOM

Essentiellement, une AIBOM permet au grand public de prendre des décisions éclairées sur les systèmes d’IA.

• Transparence. Les AIBOM précisent les sources de données, les outils, les méthodes logistiques, le matériel et tout autre élément nécessaires au bon fonctionnement d’un système d’IA.  

• Reproductibilité. Comme toute autre nomenclature, une AIBOM doit fournir suffisamment d’informations pour permettre à d’autres de recréer le système d’IA et d’obtenir des résultats similaires. 

• Responsabilité. Une AIBOM garantit la transparence : d’autres peuvent ainsi se renseigner sur les origines et les indicateurs de votre système d’IA.

IA responsable. Les informations fournies dans une AIBOM abordent également les enjeux éthiques potentiels, notamment en documentant les données d’entraînement afin d’évaluer de manière responsable les biais et les limites.

AIBOM : sécurité et confiance

Une AIBOM est essentielle pour protéger les données des utilisateurs. Elle aide également les secteurs réglementés à respecter leurs obligations légales dans des domaines tels que la cybersécurité, la confidentialité des données et le droit d’auteur. 

À ses débuts, l’IA générative était perçue par le grand public comme une nouveauté et, aujourd’hui encore, elle est largement utilisée sans réglementation. Les organismes de réglementation s’efforcent donc de répondre de manière adéquate aux préoccupations en matière de confidentialité et de sécurité.

Partout dans le monde, les gouvernements commencent aussi à comprendre que l’IA est là pour durer et que la réglementation doit suivre une demande croissante. En octobre 2023, le président américain Joe Biden a publié un vaste décret présidentiel pour renforcer la responsabilité des modèles d’IA de pointe. 

Dans son décret, le président Biden demande aux agences gouvernementales américaines de définir des domaines de réglementation précis au cours de l’année suivante. Bien qu’il ne soit pas juridiquement contraignant, ce décret orientera les priorités des organismes de réglementation et contribuera à façonner les futures lois sur l’IA. 

Les différents niveaux d’une AIBOM

Compte tenu de la diversité des algorithmes d’IA et de leur évolution rapide, voici quelques difficultés à prendre en compte avant de créer une AIBOM :

• Étendue : selon la complexité de votre modèle d’IA, déterminez les besoins de votre inventaire : souhaitez-vous partager une liste de base ou une documentation plus complète ?  

• Besoins en matière de confidentialité et de sécurité : tenez compte des conséquences éthiques de votre modèle d’IA et trouvez le juste équilibre entre transparence et protection de votre propriété intellectuelle. 

• Licences : évaluez la pertinence de recourir à l’open source plutôt qu’à des licences propriétaires afin d’optimiser facilement votre modèle et de documenter les modifications.

Standardisation : toute nomenclature doit s’appuyer sur un schéma facile à suivre. Les AIBOM étant un concept récent, vos travaux d’aujourd’hui pourraient contribuer à la standardisation des futurs modèles d’AIBOM.    

Huit conseils pratiques pour créer une AIBOM

Une AIBOM bien conçue est essentielle pour atténuer les risques, respecter les exigences de conformité et assurer la transparence sur la composition de votre application d’IA. Vous souhaitez créer votre propre AIBOM ? Voici huit conseils pour vous lancer : 

1. Commencez par établir un inventaire. La première étape de toute nomenclature consiste à dresser un inventaire de base des composants essentiels de vos systèmes d’IA. Il peut notamment inclure : 

   1. Les données d’entraînement

   2. Les sources de données

   3. Les modèles

   4. Les frameworks logiciels comme PyTorch ou TensorFlow

   5. Le matériel

   6. Les dépendances

   7. Les gestionnaires de packages comme LangChain

2. Identifiez les risques et les limites. La transparence est essentielle. Il est donc indispensable de documenter les problèmes connus, les biais, les considérations éthiques et tout autre facteur limitant lié aux données ou à la conception de vos systèmes d’IA.

3. Formalisez la traçabilité du modèle. À mesure que votre modèle évolue, vous devez tenir des registres clairs. Cela permet aux autres de retracer les origines et l’évolution de vos modèles d’IA, ainsi que de consigner les versions, les réentraînements et les modifications.

4. Évaluez les frameworks. Les AIBOM sont encore relativement nouvelles. Dans la mesure du possible, examinez les AIBOM existantes avant de créer la vôtre. Vous pourrez ainsi déterminer si un framework AIBOM déjà disponible répond à vos besoins. Une fois votre AIBOM créée, vous contribuerez également à l’élaboration de normes utiles à d’autres.

5. Automatisez la collecte. Intégrez la génération d’AIBOM à vos pipelines de création et de déploiement de modèles pour gagner en efficacité.

6. Adoptez-les de manière sélective. Identifiez les modèles prioritaires ou à haut risque afin de concentrer vos premiers efforts de création d’AIBOM là où ils auront le plus d’impact sur votre outil basé sur l’IA.

7. Conformez-vous à la réglementation. Une AIBOM vise avant tout à faciliter la conformité. Les règles, les lois et les réglementations relatives à l’IA évoluent constamment. Vous devez faire preuve de diligence et comprendre les exigences réglementaires applicables aux systèmes d’IA dans votre domaine. Pensez également à la localisation de chaque composant du système d’IA pour respecter les règles applicables dans chaque région : lieu d’origine des données d’entraînement, emplacement de l’infrastructure et lieux où le modèle est disponible.

8. Améliorez la reproductibilité. Fournissez les scripts, les poids du modèle et les détails de configuration dont d’autres pourraient avoir besoin pour reconstituer vos modèles et obtenir des résultats similaires.

Comment Snyk contribue aux nomenclatures de composants

Il est essentiel de prendre en compte les conséquences éthiques, environnementales et sociétales de toute avancée technologique, y compris de l’IA. Des AIBOM bien conçues favoriseront une adoption de l’IA plus éclairée.

Snyk soutient depuis toujours les principes des SBOM, similaires à ceux des AIBOM : transparence, amélioration de la conformité et sécurité. Pour générer une SBOM avec Snyk, utilisez la ligne de commande de Snyk Open Source ou notre API. Snyk peut analyser l’ensemble de votre application et fournir des SBOM aux formats CycloneDX et SPDX, pour faciliter l’exploitation des données.

Chez Snyk, nous comprenons l’importance de la sécurité, de la gouvernance et de la confiance. Créez un compte Snyk gratuit et faites le premier pas pour intégrer des protocoles de sécurité directement à votre processus de développement logiciel. Vous pouvez aussi réserver une démonstration en direct pour découvrir comment adapter Snyk à vos besoins.