Le nouveau paysage des menaces : applications natives de l’IA et workflows agentiques

Les entreprises vont au-delà des expérimentations et des preuves de concept en matière d’IA. À l’approche de ce qu’IDC prévoit comme les « années charnières de l’IA » 2025-2026, les organisations établissent des priorités, planifient et développent leurs projets à grande échelle. Cette évolution inclut les agents d’IA, des outils autonomes qui automatisent des tâches, tandis que les fournisseurs de technologies s’efforcent de simplifier les workflows de développement. 

En arrière-plan, les systèmes d’IA élargissent le paysage des menaces à l’ensemble du cycle de vie du développement logiciel (SDLC). L’évolution vers un nombre croissant d’agents est prometteuse. Cependant, le manque de transparence et les workflows automatisés (notamment les interactions avec d’autres agents) augmentent le risque de failles de sécurité en l’absence de visibilité claire et de politiques appliquées.

De nouvelles menaces exploitent des comportements propres à l’IA :

• Empoisonnement des données — Type de cyberattaque qui manipule les données d’entraînement utilisées pour développer des modèles d’IA. Les conséquences vont des biais et des hallucinations à l’accès par porte dérobée et à la compromission des modèles.

• Injection de prompts — Tactique dangereuse qui pousse le modèle à ignorer ses garde-fous ou à mal interpréter ses instructions, exposant souvent des données sensibles. Les vulnérabilités open source, déjà abordées dans notre précédent article, restent une préoccupation majeure. De nouveaux LLM et composants associés apparaissent presque chaque jour, chacun apportant son lot de risques potentiels. Comme pour les composants open source traditionnels, il est essentiel de les analyser et de les valider avant de les intégrer à vos projets afin de réduire la surface d’exposition aux vulnérabilités éventuelles.

• Failles liées à l’identité fédérée — Les systèmes d’IA peinent souvent à assurer une authentification, une autorisation et une identification des utilisateurs cohérentes, ce qui peut exposer involontairement des données sensibles ou entraîner des accès non autorisés. Bien qu’il n’ait pas été conçu comme une solution d’identité fédérée, le Model Context Protocol (MCP) d’Anthropic contribue à standardiser la communication entre les agents d’IA et les systèmes d’entreprise. Encore récent, il devient rapidement une norme du secteur.

Même les organisations qui n’utilisent pas de modèles entraînés sur mesure exécutent probablement déjà — ou exécuteront bientôt — l’IA en production. Selon Gartner, d’ici 2026, plus de 80 % des éditeurs de logiciels indépendants auront intégré des fonctionnalités d’IA générative à leurs applications d’entreprise. Les agents d’IA suivent rapidement, ajoutant de nouveaux niveaux de complexité et de risque. D’ici 2028, Gartner prévoit que 33 % des applications logicielles d’entreprise intégreront une IA agentique. Cette course menée par les fournisseurs pour proposer des fonctionnalités d’IA conduit souvent à des lancements précipités, avec des contrôles de sécurité encore insuffisamment matures.

L’adoption de l’IA dans une optique de mise à l’échelle, ainsi que l’intégration de l’IA agentique, exigent une nouvelle approche de la gestion des risques et de la gouvernance des applications d’IA. Selon Gartner, la plupart des entreprises n’ont pas encore mis en place de contrôles techniques ni de politiques AI TRiSM (gestion de la confiance, des risques et de la sécurité).

Ce retard s’explique par la nature imprévisible des systèmes d’IA. Leur comportement varie en fonction des entrées : les données et les prompts influencent fortement leurs réactions et leurs résultats, ce qui empêche de définir une base de référence stable pour la surveillance. Ainsi, si les systèmes d’IA offrent davantage de flexibilité pour résoudre les problèmes, il est plus difficile de détecter les comportements anormaux susceptibles de révéler une vulnérabilité, une menace ou un non-respect des réglementations sur la confidentialité des données. Les outils de sécurité applicative et de gouvernance existants peuvent convenir aux environnements actuels, mais l’opacité des environnements d’IA risque de limiter leur efficacité. 

Ce qui ne change pas, c’est l’intérêt d’intégrer la sécurité dès le début des workflows d’IA. La plateforme AI Trust de Snyk met la sécurité au service des développeurs : elle réduit les risques liés aux outils de génération de code par l’IA et permet de créer des applications natives de l’IA sûres et évolutives. Elle offre notamment une visibilité approfondie sur les composants d’IA, y compris votre nomenclature logicielle de l’IA (AI BOM) et vos dépendances critiques, et garantit des workflows d’intégration sécurisés grâce au Snyk MCP Server.

Vous souhaitez approfondir la sécurisation des applications natives de l’IA ? Téléchargez le livre blanc Instaurer la confiance dans l’IA : sécuriser le code à l’ère du développement autonome pour découvrir comment Snyk aide les organisations à accélérer leur développement tout en restant protégées dans un monde porté par l’IA.