Qualité des données en IA : défis, mise en œuvre, audits et bonnes pratiques

Alors que les organisations adoptent l’intelligence artificielle prédictive et générative (IA générative) pour améliorer leurs opérations, la qualité des données joue un rôle plus essentiel que jamais. Des données fiables et de qualité constituent le socle d’une IA efficace, de l’entraînement et des tests à l’inférence et à la prise de décision.

Pour y parvenir, de nombreuses organisations modernisent leur infrastructure de données. Elles migrent vers des plateformes cloud évolutives, des outils d’analyse en temps réel et des outils de développement plus faciles à utiliser. Selon PwC, 72 % des entreprises les plus performantes ont fait de la modernisation des données dans le cloud une priorité, soit plus de deux fois le taux observé chez leurs pairs (33 %).

Pourquoi la qualité des données est essentielle en IA

La qualité des modèles d’IA dépend de celle des données qui les entraînent. Des jeux de données inexacts ou incomplets peuvent introduire des biais, réduire la précision des modèles et produire des conclusions erronées préjudiciables à l’entreprise.

Une étude de Fivetran a révélé que la mauvaise qualité des données entraîne souvent des décisions mal avisées, pouvant coûter aux organisations jusqu’à 6 % de leur chiffre d’affaires annuel mondial.

Les dimensions de la qualité des données à améliorer pour l’IA

Au-delà du nettoyage et du contrôle de la qualité, la préparation consiste à s’assurer que les données répondent aux objectifs techniques de l’IA et aux résultats commerciaux associés. Les ingénieurs de données jouent ici un rôle essentiel : ils comprennent l’incidence des attributs des données sur les performances des modèles et veillent à ce que les jeux d’entraînement soient alignés sur des objectifs plus larges.

Ils se concentrent généralement sur quelques dimensions essentielles de la qualité des données :

• Exactitude : les valeurs des données sont-elles correctes ? Des données mal étiquetées ou incorrectes peuvent rapidement dégrader les performances d’un modèle.

• Exhaustivité : tous les champs nécessaires sont-ils renseignés ? Des valeurs manquantes peuvent perturber les modèles et rendre leurs résultats moins fiables.

• Cohérence : les formats et les enregistrements sont-ils normalisés dans toutes les sources ? Les incohérences (par exemple, des formats de date différents ou des doublons de fiches clients) peuvent fausser l’entraînement et créer des problèmes par la suite.

• Intégrité : les éléments de données sont-ils logiquement cohérents entre eux ? Une forte intégrité des données aide les modèles à tirer des conclusions plus cohérentes et fiables.

Éviter les problèmes courants de qualité des données d’IA

Bien que la qualité des données soit une priorité stratégique pour l’IA, elle a baissé de 9 % depuis 2021, tout comme leur exactitude, selon VentureBeat. Pourquoi ? Les modèles d’IA modernes sont plus complexes et gourmands en données. Ils nécessitent des données d’entrée plus nuancées, annotées et fréquemment actualisées. Parmi les défis courants :

• Erreurs et incohérences des données : les erreurs manuelles, les différences de format et les enregistrements contradictoires peuvent nuire au raisonnement et à l’apprentissage du modèle.

• Incohérences dans l’étiquetage : lorsque les annotations varient d’un jeu de données à l’autre, elles peuvent perturber les modèles, réduire leur précision et compliquer le suivi des performances.

• Biais dans les données : des données biaisées ou non représentatives, souvent introduites involontairement, peuvent aboutir à des résultats injustes ou peu fiables.

Améliorer la qualité des données d’IA à l’aide d’indicateurs

Le suivi des bons indicateurs permet de détecter rapidement les problèmes et de mesurer les progrès au fil du temps. En établissant des valeurs de référence et en surveillant leur évolution, les équipes peuvent bâtir des fondations plus fiables pour l’IA. Voici quelques-uns des indicateurs les plus utilisés pour suivre la qualité de l’IA :

• Taux d’erreur : mesure la fréquence des points de données incorrects dans le jeu de données. Un taux d’erreur élevé peut induire les modèles en erreur et réduire leur efficacité.

• Score d’exhaustivité : évalue le pourcentage de champs entièrement renseignés. Des données manquantes peuvent réduire la précision des modèles et leur capacité à généraliser.

• Actualité des données : évalue la fraîcheur des données. C’est particulièrement important pour les modèles qui nécessitent des informations à jour, comme ceux dédiés à la détection des fraudes, aux prévisions et à la personnalisation.

• Unicité : repère les enregistrements en double susceptibles de surpondérer certains schémas et d’introduire des biais.

• Validité : vérifie que les données respectent les formats et les règles attendus. Des valeurs non valides ou hors plage peuvent entraîner des erreurs d’entraînement, voire faire planter les modèles.

Pour les grands modèles de langage (LLM), l’amélioration et le maintien de la qualité des données reposent notamment sur des techniques d’évaluation rigoureuses, souvent appelées « Evals ». Elles permettent d’évaluer la qualité et la précision du modèle en examinant différents aspects, tels que l’exactitude factuelle, la cohérence, la toxicité et la pertinence, et fournissent des retours essentiels à l’amélioration continue.

Mettre en place des programmes solides de qualité des données

Une bonne qualité des données ne doit rien au hasard : elle résulte d’une stratégie soigneusement planifiée et d’une gestion continue. En définissant des normes claires et en surveillant constamment les risques, les équipes de données peuvent mieux préparer le terrain pour l’IA. Voici quelques bonnes pratiques recommandées :

• Définir des politiques : fixez des attentes pour créer des données intègres, pertinentes, explicables et faciles à interpréter. La Data Foundation recommande de s’aligner sur des principes de gouvernance favorisant une IA responsable.

• Surveiller les modèles : utilisez des outils de sécurité et de surveillance pour détecter les anomalies, telles que des schémas de données inhabituels ou des attaques potentielles par empoisonnement susceptibles de manipuler l’entraînement des modèles.

• Corriger les problèmes : hiérarchisez les problèmes en fonction de leur gravité (critique, élevée, moyenne, faible) et traitez-les rapidement afin de réduire leur impact sur les performances des modèles.

Techniques pour améliorer et maintenir la qualité des données destinées à l’IA

Même avec une stratégie solide, maintenir une qualité élevée des données nécessite des mesures quotidiennes permettant de repérer et de corriger les problèmes avant qu’ils ne s’aggravent. Les équipes combinent souvent plusieurs techniques pour garantir que les jeux de données restent propres, fiables et adaptés à l’IA :

• Profilage : analyser les données pour repérer les tendances, les valeurs aberrantes et les problèmes potentiels de qualité.

• Nettoyage : corriger ou supprimer les points de données inexacts ou trompeurs.

• Enrichissement : ajouter des informations externes ou tierces pour renforcer les jeux de données et les rendre plus complets.

• Normalisation : veiller à la cohérence des formats et des structures dans l’ensemble du jeu de données.

• Validation : vérifier que les données respectent les règles prédéfinies (par exemple, les équipes divisent souvent les jeux de données en ensembles d’entraînement et de test afin de détecter les problèmes rapidement).

• Application de la gouvernance : définir les responsabilités, établir des politiques et renforcer la redevabilité, tout en respectant les exigences de conformité.

Auditer et surveiller pour assurer la réussite à long terme

La qualité des données est un processus continu, 24 h/24 et 365 jours par an. Une surveillance continue et des audits réguliers aident les équipes à détecter rapidement les nouveaux problèmes et à garantir la fiabilité des systèmes d’IA au fil du temps. Voici quelques bonnes pratiques pour assurer une réussite durable :

• Évaluer les sources et les formats des données : vérifiez régulièrement la fiabilité des pipelines de données et veillez à la cohérence des formats entre les systèmes utilisant CSV, JSON ou SQL.

• Évaluer les données selon des indicateurs de qualité : utilisez des indicateurs établis pour détecter les champs manquants, les valeurs hors plage ou les anomalies inattendues.

• Repérer les lacunes en matière de gouvernance et d’outillage : auditez les flux de travail pour identifier les points faibles, notamment en matière de lignage des données, de contrôles d’accès et de sécurité.

• Mettre en place des alertes automatiques en cas d’anomalie : configurez des systèmes qui signalent automatiquement les schémas inhabituels, les évolutions ou les données manquantes susceptibles de nuire aux performances des modèles.

Des outils au service de la qualité des données pour l’IA

Améliorer la qualité des données à grande échelle nécessite les bons outils pour repérer et prévenir les problèmes. Les responsables des données, de l’analytique et de l’IA pilotent souvent ces efforts en investissant dans des plateformes qui systématisent la validation et la surveillance des données, telles que :

• Great Expectations : un framework open source pour créer et valider des contrôles de qualité des données.

• Soda : propose une surveillance en temps réel et des tests automatisés pour détecter rapidement les problèmes de données.

• Monte Carlo : se concentre sur l’observabilité des données et la détection des anomalies avant qu’elles n’affectent les systèmes en aval.

• Snyk : aide les développeurs à repérer les problèmes de sécurité liés aux données, au code et à la conformité, un élément précieux de toute stratégie solide de gouvernance des données.

Un plan concret pour améliorer la qualité des données destinées à l’IA

À mesure que l’IA s’intègre davantage aux systèmes logiciels, la qualité des données et la sécurité des applications ne peuvent plus être traitées séparément. Une erreur dans l’un de ces domaines peut facilement se répercuter sur les autres. C’est pourquoi les responsables donnent la priorité aux programmes d’amélioration continue fondés sur les piliers suivants :

• Préparation et nettoyage des données : utilisez des pipelines de prétraitement pour normaliser, enrichir et dédupliquer les données avant le début de l’entraînement.

• Amélioration et transformation de la qualité des données : utilisez des outils ETL/ELT intégrant des contrôles de qualité, puis affinez-les en fonction des performances de vos modèles.

• Gouvernance et culture : instaurez une culture des données où les employés sont responsables de leur qualité, où les attentes sont clairement définies et où les données sont considérées comme un produit nécessitant un suivi permanent.

• Outils de sécurité au service du développement : équipez vos équipes d’outils comme Snyk pour détecter et corriger les vulnérabilités dans le code, les packages open source, les conteneurs et l’infrastructure cloud, autant d’éléments essentiels à la sécurité des systèmes d’IA.

Faire de la qualité des données une priorité stratégique

L’IA a élargi la surface d’attaque. Désormais, les attaquants ne ciblent pas seulement les applications : ils s’en prennent aussi aux données et aux modèles sous-jacents. Avec l’accélération du développement logiciel et l’utilisation croissante des outils de codage assisté par l’IA, les occasions de laisser passer des erreurs se multiplient.

Alors que 40 % du code généré automatiquement est validé sans modification et qu’plus d’un tiers contient des vulnérabilités connues, les attaquants exploitent de plus en plus les pipelines de développement assistés par l’IA à l’aide de techniques comme les attaques XSS et les injections SQL.

Pour garder une longueur d’avance, les équipes de sécurité, de conformité et de développement doivent collaborer. Investir dans des pratiques de développement sécurisé, comme l’analyse proactive du code et la correction des vulnérabilités avec des outils tels que Snyk, contribue à réduire le risque de voir des vulnérabilités se retrouver dans les systèmes alimentés par l’IA et à préserver l’intégrité des applications qui traitent des données sensibles. Cette approche collaborative est également défendue par des initiatives telles que les programmes Data & AI de la Linux Foundation, dont Snyk est fier d’être sponsor, qui favorisent un environnement communautaire pour répondre aux enjeux liés aux données d’IA et promouvoir l’innovation open source dans les domaines de l’IA et des données.

Garantir la qualité des données d’IA avec Snyk

Une IA fiable commence par des données solides et des systèmes capables de détecter les petits problèmes avant qu’ils ne prennent de l’ampleur. Alors que les organisations s’appuient sur l’IA pour l’analytique, l’automatisation et les outils destinés aux clients, maintenir la qualité des données à chaque étape du cycle de vie est une priorité absolue.

Snyk aide les développeurs à contribuer en sécurisant le code qui traite ces données et interagit avec elles. Avec Snyk Code, les équipes peuvent analyser le code écrit par des développeurs comme celui généré par l’IA pour y détecter les vulnérabilités. Snyk Code s’appuie sur Snyk Agent Fix, qui fournit directement dans l’IDE des suggestions de correction sûres et immédiatement applicables.

Découvrez d’autres bonnes pratiques pour sécuriser les données d’IA.