Sécuriser dès la conception : de nouveaux outils pour sécuriser le développement natif de l’IA

Chez Snyk, nous pensons que vous ne devriez jamais avoir à choisir entre rapidité et sécurité. Alors que l’IA transforme le développement logiciel, notre objectif est d’étendre à cette nouvelle ère notre approche de la sécurité centrée sur les développeurs, en fournissant à vos équipes les outils essentiels pour créer en toute confiance.

Aujourd’hui, à Black Hat, nous concrétisons cette vision avec trois innovations tangibles qui offrent une solution complète pour sécuriser l’ensemble du cycle de vie du code avec l’IA.

Cette solution apporte une double valeur considérable. D’abord, pour sécuriser le développement assisté par l’IA, elle permet aux développeurs de concrétiser la « sécurité dès la conception » en intégrant les tests de sécurité robustes de Snyk directement à leurs workflows et outils agentiques, tels que Cursor, Windsurf et Co-Pilot. Ensuite, pour sécuriser les logiciels natifs de l’IA que vous créez, elle offre une visibilité et une gouvernance complètes grâce à notre AI-BOM et à nos capacités innovantes d’analyse MCP.

Nous mettons ces trois capacités à la disposition de tous, gratuitement, et invitons la communauté à bâtir avec nous l’avenir du développement sécurisé de l’IA.

Le défi de la sécurité de l’IA : une nouvelle surface d’attaque se dessine

Les statistiques sont éloquentes. Alors que 90 % des ingénieurs logiciels en entreprise devraient utiliser des assistants de codage IA d’ici 2028 et que près de la moitié du code généré par l’IA comporte actuellement des vulnérabilités, nous assistons à l’émergence d’une toute nouvelle surface d’attaque et à des exploitations à une vitesse sans précédent.

Les approches de sécurité traditionnelles, conçues pour les développeurs qui écrivent eux-mêmes le code, ne parviennent pas à suivre le rythme effréné de la production de code par les workflows agentiques, les IDE axés sur l’IA et les agents en arrière-plan.

« Nous ne voyons pas seulement davantage de code écrit plus rapidement ; nous voyons des types d’applications fondamentalement différents se développer », explique Manoj Nair, Chief Innovation Officer chez Snyk. « Les logiciels natifs de l’IA, les agents autonomes et les workflows agentiques nécessitent des paradigmes de sécurité qui n’existaient tout simplement pas il y a deux ans. La question n’est pas de savoir si ces nouveaux vecteurs d’attaque seront exploités, mais quand. »

Le défi ne se limite pas au volume. Les applications natives de l’IA introduisent de nouveaux risques de sécurité, comme les injections de prompt, l’empoisonnement des modèles et ce que nos équipes de recherche ont identifié comme les « MCP rug pulls ». Ces nouvelles attaques natives de l’IA exploitent l’infrastructure du Model Context Protocol (MCP), qui alimente de nombreuses intégrations d’IA.

La sécurité agentique avec MCP Server de Snyk

Le nouveau Model Context Protocol (MCP) Server de Snyk transforme la manière dont les outils de développement IA intègrent le contexte de sécurité et s’adapte aux workflows modernes de développement agentique.

Au lieu d’ajouter la sécurité aux workflows d’IA après coup, MCP Server de Snyk intègre des informations détaillées sur la sécurité directement au processus de développement.

« En standardisant la manière dont les modèles d’IA accèdent au contexte de sécurité et l’intègrent, nous concrétisons la “sécurité dès la conception” pour le développement natif de l’IA », explique Ezra Tanzer, Director of Product chargé de l’extensibilité de la sécurité pour l’IA.

MCP Server de Snyk offre plusieurs capacités clés aux développeurs logiciels comme aux équipes d’ingénierie de la sécurité :

• Injection en temps réel du contexte de sécurité dans les assistants de codage IA et les workflows de développement. Cursor ou GitHub Copilot génère du code qui introduit une vulnérabilité ? MCP Server de Snyk expose les moteurs de test de Snyk, que ces outils agentiques peuvent invoquer pour analyser le code qu’ils ont généré. Si Snyk détecte que ce code n’est pas sécurisé, les modèles peuvent en générer une nouvelle version et répéter le processus jusqu’à ce que le code soit sécurisé.

• Détection automatisée des vulnérabilités spécialement adaptée aux modèles de code générés par l’IA. Les workflows agentiques, comme l’application en ligne de commande Claude Code, peuvent récupérer automatiquement des dépendances depuis des registres. Mais qu’est-ce qui l’empêche d’installer des packages vulnérables ou malveillants ? MCP Server de Snyk peut être invoqué par appel d’outil pour analyser le package que l’agent de Claude Code souhaite installer et lui fournir des informations sur les vulnérabilités, les problèmes de licence et d’autres risques de cybersécurité.

Rapports d’utilisation de MCP Server dans l’interface utilisateur de Snyk, permettant aux responsables du développement et de la sécurité de suivre les tests de sécurité agentiques réalisés par leurs équipes de développement via MCP Server de Snyk.

Play Video: Secure at Inception: Introducing New Tools for Securing AI-Native Development - youtube video 1

Tanzer a également résumé les avantages de l’intégration de la sécurité aux workflows agentiques : « Le “shift left” a profondément transformé la sécurité en déplaçant cette responsabilité vers les premières étapes du SDLC, moins coûteuses. L’adoption de l’IA dans le processus de développement, associée à MCP Server de Snyk, ouvre la voie à un changement de paradigme encore plus important : les tâches répétitives de correction peuvent être confiées aux modèles d’IA, ce qui réduit, voire élimine, l’intervention des développeurs dans la plupart des cas. »

Pour commencer à utiliser MCP Server de Snyk, il suffit d’exécuter une commande CLI. Ajoutez ce qui suit à la configuration de votre MCP Server :

{
  "mcpServers": {
    "Snyk": {
      "command": "snyk mcp -t stdio",
      "env": {}
    }
  }
}

MCP Server de Snyk est disponible en accès anticipé pour tous les clients Snyk. Son utilisation est gratuite pendant toute la durée de cet accès anticipé.

Découvrez d’autres guides de démarrage rapide pour MCP dans la documentation Snyk, avec notamment des installations en un clic pour Cursor, Windsurf, Qodo et d’autres outils agentiques.

Gagnez en visibilité et en gouvernance avec Snyk AI-BOM

La rapidité et la simplicité d’intégration des composants d’IA ont créé un angle mort majeur pour les équipes de sécurité et de gouvernance : le « shadow AI ». Lorsque les développeurs peuvent intégrer librement différents MCP servers, modèles, bibliothèques et services d’IA, les organisations perdent de vue les « ingrédients » de leur IA. Il devient alors impossible de gérer les risques ou de garantir la conformité. Sans inventaire complet, impossible de sécuriser ce que vous ne voyez pas.

« La visibilité est la première étape essentielle d’une gouvernance efficace de l’IA », explique Rudy Lai, Director of Technology Incubation chez Snyk. « Snyk AI-BOM fournit cette “liste d’ingrédients” fondamentale pour vos applications d’IA. Il s’agit de passer des risques inconnus du “shadow AI” à un programme maîtrisé et conforme, où vous pouvez innover en toute confiance. »

Principales capacités offertes par Snyk AI-BOM aux responsables de la sécurité et aux équipes d’ingénierie de plateforme :

• Inventaire complet des actifs d’IA. Snyk AI-BOM découvre, répertorie et visualise tous les composants d’IA utilisés dans vos applications, notamment les agents, les outils, les jeux de données, les modèles et les MCP servers. Désormais disponible via CLI, API et MCP, Snyk AI-BOM vous offre une source unique et fiable pour l’ensemble de votre stack d’IA : du nouveau modèle open source que votre équipe de science des données teste aux services d’IA précis utilisés en production.

Gestion unifiée des risques et de la conformité. Grâce à une nomenclature complète des composants d’IA, vous pouvez gouverner votre chaîne d’approvisionnement en IA. AI-BOM vous permet de suivre les licences des composants, d’identifier les dépendances présentant des risques connus et d’appliquer des politiques de sécurité dans toute votre organisation. Vous pouvez ainsi garantir à la direction et aux autorités de réglementation que votre programme de développement de l’IA est entièrement gouverné.

Play Video: Secure at Inception for AI: Introducing New Tools for Governance and Development - youtube video 2

Une version préliminaire expérimentale gratuite de Snyk AI-BOM est accessible via CLI, MCP et API à tous les clients Snyk.

Pour en savoir plus, consultez la documentation produit de Snyk.

Défendez-vous contre les nouvelles menaces liées à l’IA avec Toxic Flow Analysis (TFA)

L’essor des systèmes agentiques a fait émerger une nouvelle catégorie de menaces que les outils de sécurité traditionnels n’ont jamais été conçus pour détecter. Les vulnérabilités ne se trouvent plus uniquement dans le code lui-même, mais aussi dans les interactions dynamiques et imprévisibles entre les modèles d’IA, les outils et les sources de données. Cela crée les conditions d’un « trio mortel » : les attaquants peuvent combiner l’accès d’un agent à des entrées non fiables, à des données sensibles et à des outils externes pour exfiltrer des données, comme l’ont montré des attaques telles que celle contre GitHub MCP.

Pour relever ce défi, notre équipe de recherche Invariant Labs présente Toxic Flow Analysis (TFA). Ce framework de sécurité de pointe est la première approche fondée sur des principes pour réduire la surface d’attaque des applications d’IA modernes.

Principales capacités de Toxic Flow Analysis pour les équipes de sécurité et les chercheurs :

• Détection proactive des vecteurs d’attaque – TFA modélise et évalue de manière proactive les « flux toxiques », c’est-à-dire les séquences d’utilisation d’outils susceptibles d’entraîner une faille de sécurité à l’exécution. TFA peut ainsi découvrir et signaler automatiquement les vecteurs d’attaque complexes, notamment les scénarios de trio mortel et les injections de prompt indirectes, avant qu’ils ne soient exploités.

• Analyse globale du système – Au lieu d’analyser les composants séparément, TFA instancie et analyse l’intégralité du graphe de flux d’un système agentique et des outils à sa disposition. Il modélise toutes les séquences d’utilisation possibles des outils, en prenant en compte à la fois les informations statiques du système et les données dynamiques recueillies lors de la surveillance à l’exécution, afin d’évaluer précisément les risques de sécurité.

Play Video: Secure at Inception for AI: Introducing New Tools for Governance and Development - youtube video 3

Nous proposons Toxic Flow Analysis en version préliminaire expérimentale dans notre outil MCP-Scan. Nous vous invitons à explorer cette nouvelle frontière de la sécurité de l’IA.

Pour en savoir plus, consultez le blog de recherche d’Invariant Labs.

Construisons ensemble l’avenir de la sécurité de l’IA

Cette annonce va bien au-delà d’une nouvelle série d’outils : elle concrétise notre vision, qui consiste à donner aux développeurs les moyens d’agir à l’ère de l’IA. En proposant des capacités pour sécuriser à la fois la manière dont vous développez avec l’IA et ce que vous créez grâce à elle, nous posons les bases d’un avenir où vous n’aurez plus à sacrifier la sécurité à la rapidité. Nous nous engageons à collaborer avec la communauté pour relever ces défis complexes et vous invitons à nous rejoindre dans cette aventure.

Consultez notre site web pour découvrir comment commencer à « sécuriser dès la conception ».

Et pour en savoir plus sur la prochaine étape de Snyk dans la réalisation de sa vision de la sécurité de l’IA, pensez à vous inscrire à DevSecCon le 22 octobre !