Les 12 principaux risques de sécurité liés à l’IA à ne pas ignorer

L’IA générative est devenue un phénomène grand public en 2022-2023, avec le lancement public de ChatGPT par OpenAI. Depuis, l’IA a été adoptée dans divers secteurs et sert à toutes sortes de choses, de la création de blagues potaches à la traduction de code entre langages de programmation.

Si l’IA offre des avantages considérables en matière de gain de temps, de réduction des coûts et d’innovation, elle introduit également de nouveaux risques de sécurité. Pour les entreprises, la question n’est pas de savoir « si », mais plutôt « quand », « où » et « quel type » de vulnérabilité l’IA crée dans leur écosystème informatique. Souvent, la supervision et le contrôle des données qui alimentent les grands modèles de langage (LLM) et de leur mise en œuvre sont insuffisants.

Mais tout n’est pas perdu. En comprenant les différents types de risques de sécurité liés à l’IA, les vulnérabilités et les biais présents dans les jeux de données, ainsi que les bonnes pratiques pour atténuer ces problèmes, vous pouvez réduire considérablement les menaces qui pèsent sur votre entreprise.

Les 12 principaux risques de sécurité liés à l’IA

Tout comme nous utilisons l’IA pour rendre nos entreprises plus rapides et plus efficaces, les acteurs malveillants en font autant. Les menaces liées à l’IA sont plus variées et plus sophistiquées, et peuvent survenir à une fréquence bien plus élevée que par le passé. Pour protéger votre entreprise, vous devez d’abord vous familiariser avec les différents types de risques de sécurité liés à l’IA.

#1 Attaques adversariales

Les attaques adversariales surviennent lorsque des acteurs malveillants manipulent les entrées pour amener les systèmes d’IA à les interpréter ou à les classer incorrectement. Ces modifications subtiles — souvent imperceptibles pour les humains — peuvent tromper les modèles d’IA et les pousser à produire des résultats erronés, voire dangereux. Par exemple, l’ajout de bruit à une image peut amener un système de reconnaissance faciale à identifier quelqu’un à tort.

#2 Empoisonnement des données

L’empoisonnement des données se produit lorsque des acteurs malveillants corrompent les données d’entraînement utilisées pour créer des modèles d’IA, qu’il s’agisse de données utilisateur, de jeux de données open source ou de travaux de recherche en apprentissage automatique, afin de modifier les résultats futurs du modèle.

#3 Attaques par inférence

Les attaques par inférence consistent à utiliser des requêtes stratégiques pour déduire des informations sensibles sur des personnes ou des jeux de données. Il peut s’agir de déduire des caractéristiques privées ou de reconstituer les propriétés statistiques des données d’entraînement.

#4 Attaques par inversion de modèle

Les attaques par inversion de modèle visent à reconstituer des données sensibles en analysant les résultats d’un modèle. Avec suffisamment de requêtes, les attaquants peuvent extraire des échantillons représentatifs de personnes présentes dans le jeu de données d’entraînement, y compris des attributs potentiellement privés ou permettant de les identifier.

#5 Vol de modèle

Parfois, le modèle d’IA a autant de valeur que les données d’entraînement, voire davantage. Lors d’une attaque par vol de modèle, des acteurs malveillants tentent de dérober la propriété intellectuelle (PI) en piratant des dépôts de code propriétaires ou en procédant à une ingénierie inverse du modèle au moyen de requêtes systématiques.

#6 Manque d’explicabilité

Les modèles d’IA reposent souvent sur des processus et des mécanismes décisionnels complexes, difficiles à comprendre. Ce manque d’explicabilité complique le suivi du raisonnement et la vérification de l’exactitude des résultats du modèle.

#7 IA fantôme

L’IA fantôme désigne les outils intégrant l’IA que des employés ou des services adoptent sans supervision du service informatique. Dans ces situations, les employés cherchent à obtenir des informations ou à automatiser des tâches répétitives, sans savoir qu’ils contournent les contrôles de sécurité et exposent des données sensibles.

#8 Risques liés à la chaîne d’approvisionnement

Les risques liés à l’IA sont également présents dans les chaînes d’approvisionnement tierces. Si une organisation travaille avec un fournisseur qui utilise un modèle d’IA exposé à un ou plusieurs des risques de cette liste, les conséquences négatives peuvent se répercuter sur l’organisation elle-même.

#9 Hypertrucages et ingénierie sociale assistée par l’IA

Les acteurs malveillants peuvent désormais utiliser l’IA générative pour créer des hypertrucages, des clones vocaux et des identités synthétiques convaincants afin de manipuler leurs victimes. Associées aux techniques d’hameçonnage assistées par l’IA, ces méthodes augmentent considérablement l’ampleur et la sophistication des attaques d’ingénierie sociale.

#10 Fuite de données

Les fuites de données se produisent souvent lorsque des données sensibles sont exposées par inadvertance dans les résultats, le comportement, les API ou les journaux du modèle. Ces fuites peuvent survenir pendant l’entraînement, le déploiement ou l’utilisation, et constituent des cibles de choix pour les acteurs malveillants.

#11 Atteintes à la vie privée

Des atteintes à la vie privée peuvent survenir lorsqu’un modèle d’IA collecte, traite, stocke ou analyse des données sensibles sans mesures de sécurité suffisantes. Bon nombre des risques mentionnés ci-dessus peuvent entraîner une atteinte à la vie privée au sens des normes et réglementations du secteur.

#12 Vulnérabilités du code

Dans le développement de logiciels ou d’applications, l’IA peut accélérer le processus de développement, détecter des vulnérabilités et proposer des mesures de sécurité. Toutefois, les extraits de code générés par l’IA peuvent contenir des énumérations de faiblesses courantes (CWE) issues de code open source. De plus, les modèles d’IA ne tiennent souvent pas compte des nuances contextuelles et des dépendances, ce qui peut entraîner des erreurs et des vulnérabilités de sécurité.

Défis liés aux systèmes d’IA

Malgré leurs capacités, les outils d’IA générative ne sont pas infaillibles. Ils reflètent les suppositions, les lacunes et les biais des données et des personnes qui les ont conçus.

Par exemple, les hallucinations de l’IA — lorsqu’un modèle génère des informations ou des données qui ne figuraient pas explicitement dans ses données d’entraînement — sont un problème connu. Les modèles d’IA sont programmés pour fournir une réponse, que celle-ci soit présente ou non dans leurs données d’entraînement, ce qui peut produire des informations inexactes ou trompeuses. Le « manque d’explicabilité » mentionné plus haut aggrave le problème. Il est presque impossible de retracer les étapes du modèle pour comprendre comment il est parvenu à ses conclusions, ce qui rend difficile la vérification des résultats.

Prenons l’exemple d’un établissement financier qui utilise l’IA pour automatiser l’approbation des prêts immobiliers. Si un client mécontent appelle l’établissement pour contester un refus, le personnel aura peu ou pas de moyens d’expliquer ou de justifier la décision. Ce refus pourrait empêcher le client d’acheter un nouveau logement et le pousser à demander un prêt ailleurs.

Préoccupations relatives à la confidentialité de l’IA

Les préoccupations en matière de confidentialité et les risques de sécurité liés à l’IA sont étroitement liés. Les modèles d’IA sont entraînés sur de vastes jeux de données contenant des données sensibles sur des personnes, des données propriétaires, de la propriété intellectuelle et des données open source non gérées. La manière dont ces données ont été recueillies, leur utilisation et leur stockage ont toutes des implications en matière de confidentialité.

Outre les attaques malveillantes, telles que les attaques par inversion ou par vol de modèle, la présence d’IA fantôme soulève d’importantes préoccupations en matière de confidentialité. Selon des recherches, 15 % des employés collent des données de leur entreprise dans ChatGPT, dont un quart sont classées comme sensibles.

Il arrive également que des modèles d’IA collectent involontairement des données sur des utilisateurs, qui peuvent être intégrées à leur LLM ou stockées dans un emplacement non sécurisé. Une personne peut aussi avoir consenti à partager ses données dans un but précis, mais si le propriétaire du modèle d’IA les réutilise ensuite à d’autres fins, il peut porter atteinte à sa vie privée.

Biais et considérations éthiques

Les modèles d’IA sont fondamentalement des outils de reconnaissance de formes et de prédiction : la qualité des données d’entraînement a donc une incidence majeure sur leurs résultats. Par exemple, un outil d’IA entraîné à partir des régimes de précipitations de la Nouvelle-Angleterre ne serait guère utile à un agriculteur de l’Arizona qui cherche à optimiser son calendrier de plantation.

Toutefois, les implications des données d’entraînement vont bien au-delà de la pertinence des résultats. Qui est représenté dans les données, comment elles ont été recueillies, quand elles l’ont été et quelles valeurs ont été attribuées aux différents points de données peuvent fausser injustement les prédictions du LLM. Malheureusement, les biais de notre société se reflètent souvent dans les données que nous produisons. Par exemple, si un modèle d’IA conçu pour diagnostiquer une maladie donnée a été entraîné uniquement à partir de données concernant de jeunes hommes, il risque de ne pas reconnaître les symptômes chez les femmes ou chez les patients au-delà d’un certain âge.

Si l’outil d’approbation de prêts immobiliers de l’exemple précédent était entraîné à partir de données historiques sur les prêts, sans tenir compte des facteurs socioéconomiques ou législatifs, il pourrait associer les quartiers à faibles revenus à des taux de défaut de paiement plus élevés. L’outil pourrait alors rejeter injustement les demandes des personnes vivant dans ces quartiers, quels que soient leur cote de crédit et leur ratio d’endettement.

Les personnes qui créent et utilisent des modèles d’entraînement ont la responsabilité éthique de prendre conscience de ces biais et de faire de leur mieux pour les atténuer.

Mesures de sécurité et bonnes pratiques pour l’IA

À mesure que l’IA s’intègre davantage à nos flux de travail et à notre infrastructure, les entreprises doivent s’efforcer d’atténuer de manière proactive les risques associés. Pour mettre en place des systèmes d’IA sécurisés, résilients et équitables, vous devez appliquer les pratiques suivantes :

1. Sécurité des données et gestion des risques : Garantissez l’intégrité et la confidentialité des données d’entraînement et des données fournies en mettant en place des contrôles de sécurité qui empêchent tout accès, toute modification ou toute utilisation non autorisés. Dans la mesure du possible, limitez la conservation des données afin de réduire les risques d’exposition.

2. Chiffrement et contrôle des accès : Appliquez des contrôles d’identité et d’accès ainsi que le chiffrement aux données d’entraînement de l’IA, aux LLM et aux résultats, comme vous le feriez pour d’autres applications ou outils accédant aux données de votre entreprise.

3. Gouvernance de l’IA et conformité : À mesure que les réglementations et les normes du secteur évoluent pour encadrer les risques liés à l’IA, les entreprises devront intégrer l’utilisation de l’IA à leurs cadres, politiques et rapports de sécurité généraux.

4. Éthique et gouvernance de l’IA : Les entreprises doivent également documenter leur position sur les biais dans les données, l’égalité, la transparence et la responsabilité, ainsi que mettre en place des mécanismes pour faire respecter ces principes dans toute l’organisation.

5. Conformité et audits de sécurité : Les outils d’IA, leur utilisation et les données doivent être évalués systématiquement afin de vérifier leur conformité aux politiques de sécurité internes, aux réglementations applicables et aux bonnes pratiques.

6. Stratégies de réponse aux incidents : Pour réduire au minimum l’impact d’une violation de données, tous les processus impliquant des données sensibles et la création ou l’utilisation d’outils intégrant l’IA doivent être inclus dans la stratégie de réponse aux incidents de l’organisation. Cela comprend une surveillance régulière pour garantir une réaction rapide, des contrôles pour contenir la violation, des processus de rétablissement et une analyse après incident.

Méthodes d’identification, d’évaluation et de gestion des risques de sécurité liés à l’IA

La détection des menaces liées à l’IA et la gestion des risques vont bien au-delà de l’identification des menaces potentielles. Vous devez également replacer les données sur les menaces liées à l’IA dans leur contexte afin de cerner l’ampleur des conséquences potentielles et d’éclairer les décisions de remédiation.

Malgré les vulnérabilités et les risques évoqués ci-dessus, les outils intégrant l’IA peuvent jouer un rôle déterminant dans la détection des menaces et l’évaluation des risques.

• Mettez en place une solution d’analyse des vulnérabilités pour repérer les vulnérabilités courantes et intervenir de manière proactive.

• Établissez un système de classification et de gouvernance des données afin d’organiser et de mettre en évidence vos ressources les plus sensibles, en accordant une attention particulière aux utilisateurs et aux applications qui peuvent accéder à chacune d’elles.

• Créez un cadre structuré de notation et de hiérarchisation des risques en fonction de leur probabilité et de leur impact potentiel, afin de mieux prioriser les mesures de remédiation.

• Réalisez des audits réguliers de la sécurité de l’IA pour tous les outils d’IA et jeux de données créés ou utilisés par l’entreprise, en les évaluant au regard des vulnérabilités propres à leurs plateformes.

• Développez une culture de sensibilisation et de formation à la sécurité de l’IA afin d’informer sur les risques associés à l’IA, son utilisation sécurisée et les procédures à suivre pour évaluer et intégrer de nouvelles solutions intégrant l’IA aux flux de travail de l’entreprise.

Tirer parti de l’IA dans le DevSecOps

Aujourd’hui, l’IA joue un rôle prometteur dans le développement de logiciels et d’applications, offrant à la fois des avantages concurrentiels potentiels et des risques de sécurité. Les outils basés sur l’IA peuvent accélérer le cycle de vie du développement logiciel (SDLC) en automatisant les tâches répétitives, en suggérant des extraits de code, en recherchant en continu les vulnérabilités et en recommandant des correctifs.

Face à l’évolution rapide de la situation, la sécurité doit évoluer pour gérer les nouveaux risques qui apparaissent dans le SDLC. Pour éviter les manipulations malveillantes et les problèmes éthiques, vous pouvez héberger et entraîner votre propre LLM en privé à partir de données ou de code propriétaires. Cette approche demande toutefois des ressources et des compétences importantes. De plus, votre LLM risque d’amplifier les vulnérabilités déjà présentes dans votre base de code.

Il existe des outils de sécurité de l’IA conçus pour aider les développeurs logiciels, comme les outils de test statique de sécurité des applications (SAST), qui détectent les schémas de code vulnérables dès que les développeurs les copient dans leur IDE.

Protégez votre application d’IA avec Snyk 

Pour suivre le rythme de l’évolution des technologies et des menaces, les outils de sécurité basés sur l’IA deviennent rapidement indispensables aux équipes de développement et de sécurité informatique. Snyk permet aux développeurs d’adopter en toute sécurité des solutions de codage et de test basées sur l’IA.

Snyk Code est un outil de sécurité basé sur l’IA qui analyse votre code en temps réel pour détecter les vulnérabilités. Notre DeepCode AI auto-hébergé, qui s’appuie sur plus de 25 millions de cas de flux de données, prend en charge plus de 19 langages de programmation et utilise plusieurs modèles d’IA, alimente Snyk Code et propose des suggestions de correction immédiates. 

Découvrez comment Snyk donne aux développeurs les moyens d’agir pour gagner en productivité tout en sécurisant le code généré par l’IA.