Construire la sécurité de l’IA avec nos clients : 5 leçons du programme de partenaires de conception d’Evo

En 2025, nous nous sommes lancés dans une nouvelle aventure : sécuriser la transformation technologique la plus importante de la décennie, l’IA générative.

Notre objectif est d’aider les entreprises à sécuriser rapidement leur IA, afin qu’elles puissent innover à la pointe de la technologie et mettre en production des cas d’usage de l’IA et des agents. Pour cela, nous avons créé Evo, le premier orchestrateur agentique dédié à la sécurité de l’IA au monde.

Tout produit doit avant tout répondre aux besoins des clients. Nous nous sommes tournés vers nos 5 000 clients et avons sélectionné un panel de partenaires de conception pour comprendre les défis les plus importants qu’ils cherchaient à relever et nous concentrer sur ceux-ci. Voici quelques-uns des principaux enseignements tirés de ces échanges au cours des 12 derniers mois consacrés au développement d’Evo.

À retenir

1. Impossible de sécuriser ce qu’on ne voit pas : la prolifération de l’IA et l’IA fantôme sont bien plus répandues que ne le pensent la plupart des équipes ; la découverte est la clé.

2. L’avenir appartient à l’IA personnalisée : la détection doit aller au-delà des bibliothèques standard pour comprendre comment les équipes développent leurs solutions.

3. Les feuilles de calcul ne passent pas à l’échelle : un suivi statique crée des angles morts et un faux sentiment de maîtrise.

4. Les équipes ont besoin d’un point de départ pour la gouvernance : des politiques prêtes à l’emploi et appliquées en continu sont essentielles pour passer du chaos à la maîtrise.

5. Le renseignement sur les risques est la pièce manquante : sans indicateurs de risque clairs et exploitables, les équipes ne peuvent ni établir leurs priorités ni agir.

1. La visibilité est essentielle pour révéler la prolifération de l’IA à la vitesse de l’IA

L’IA fantôme est plus répandue que ne le pensent les RSSI, et la visibilité est la clé. La plupart des clients ignorent combien de modèles, de services ou d’agents d’IA sont utilisés, jusqu’à ce qu’ils le constatent par eux-mêmes.

Avec l’agent de découverte d’Evo AI-SPM, le déclic se produit en cinq minutes. Un grand distributeur a analysé plus de 16 000 dépôts de code, découvert plus de 500 modèles et constaté qu’une seule équipe utilisait 8 versions différentes de GPT-3. « Nous savions que c’était un problème, mais nous n’avions aucune visibilité jusqu’à présent. »

Avant Evo, établir un inventaire complet de l’IA prenait 4 à 5 semaines, mobilisait 10 à 12 parties prenantes et nécessitait une coordination entre les équipes. Beaucoup ont essayé les feuilles de calcul : simples, familières, mais statiques. Avec l’adoption croissante de l’IA, elles montrent leurs limites : elles ne détectent pas l’IA fantôme, les dépendances cachées ni les comportements en temps réel, ce qui donne un faux sentiment de maîtrise et laisse des lacunes en matière de gouvernance, de risques et de conformité.

La découverte n’est pas un simple prérequis : à ce stade du marché, c’est le produit lui-même. Evo détecte automatiquement llmlite, les compétences des agents et les nouvelles capacités de l’IA en temps réel, pour vous offrir visibilité et maîtrise dès le premier jour.

2. Pour combler les lacunes, il faut une découverte adaptée

À mesure que les entreprises dépassent le stade de l’IA prête à l’emploi et commencent à développer des agents personnalisés et propriétaires pour différencier leurs produits, elles s’appuient de plus en plus sur des couches d’abstraction internes autour des modèles, des outils et des serveurs MCP afin de contrôler le comportement, d’intégrer des données propriétaires et d’appliquer leur logique métier. Ce changement est fondamental : les systèmes d’IA personnalisés deviennent le moteur de la compétitivité des entreprises.

Mais il met également en évidence une lacune critique : les approches de détection standard, qui s’appuient sur des bibliothèques et des signatures connues, ne détectent pas ces implémentations sur mesure. Plusieurs partenaires de conception ont fait ressortir cette limite difficile à anticiper : ils avaient créé leurs propres couches d’abstraction et bibliothèques personnalisées, invisibles aux outils de détection standard.

Cet enseignement a amené l’équipe à développer la découverte personnalisée, une capacité qui apprend à partir du code d’un client pour identifier les modèles qui lui sont propres, avec un score de confiance permettant aux utilisateurs d’approuver ou de rejeter les détections proposées.

Nos partenaires de conception ont joué un rôle essentiel, car cette fonctionnalité utilise le code des clients (même s’il est isolé par locataire). Cet apprentissage a directement contribué à façonner l’une des capacités d’AI-SPM les plus différenciantes.

3. Les RSSI ont besoin d’un point de départ évolutif pour définir leurs politiques.

Une seule entreprise peut utiliser des dizaines de modèles, chacun présentant différents profils de risque liés aux vulnérabilités du code, aux biais, à la sécurité et à l’exposition des données, sans disposer pour autant d’un moyen évolutif de les évaluer de façon cohérente. Comme l’a résumé un RSSI : « J’ai l’impression de piloter un avion alors que nous sommes encore en train de construire les instruments du cockpit. » Les équipes doivent choisir entre des examens manuels et lents ou l’absence totale d’évaluation, ce qui crée des angles morts dans la gouvernance.

Pour répondre à ce besoin, nous avons créé les politiques générées par Snyk : un ensemble de politiques prêtes à l’emploi qui évaluent automatiquement chaque modèle au regard des risques de sécurité les plus importants. Au lieu de s’appuyer sur des métadonnées statiques ou les déclarations des fournisseurs, ces politiques reposent sur des tests continus en conditions réelles et sur un indice de risque normalisé. Les organisations peuvent ainsi déterminer systématiquement quels modèles nécessitent une attention particulière.

Un vice-président de la sécurité nous a expliqué que des politiques prêtes à l’emploi lui seraient utiles, ne serait-ce que pour disposer d’un point de départ. De son côté, une entreprise spécialisée dans l’IA et la conformité, qui venait de tenir sa première réunion de comité de gouvernance de l’IA, cherchait activement une approche progressive — « ramper, marcher, courir » — pour mettre en place des contrôles.

Le résultat : on passe d’examens ponctuels et réactifs à une priorisation cohérente et évolutive des risques liés à l’IA, en phase avec la façon dont les entreprises modernes déploient réellement l’IA. Cela a guidé les investissements liés à la disponibilité générale : politiques par défaut et évaluation continue, ou quasi en temps réel, des politiques. Les documents de gouvernance statiques se transforment ainsi en contrôles appliqués.

4. Le renseignement sur les risques rend possible la gouvernance de l’IA.

Chez les premiers utilisateurs, une tendance claire s’est dégagée : une fois passé l’émerveillement de pouvoir voir toutes leurs ressources d’IA, leur question suivante est toujours : « Quels risques présentent-elles réellement ? »

Le défi est inédit. Contrairement à la SCA ou à la SAST, il n’existe pas d’équivalent du CVE/CVSS pour les modèles d’IA. C’est ce qui a conduit à la création de l’agent de renseignement sur les risques : une étude de sécurité originale, menée de zéro, sur les vulnérabilités des modèles d’IA, des agents, des serveurs MCP et d’autres composants.

Pour y parvenir, plusieurs axes de travail devaient avancer de concert. Il fallait analyser les rapports de vulnérabilité open source et les convertir en tests reproductibles et comparables pour les modèles.

Il fallait également examiner les référentiels d’évaluation existants et les classer en catégories de risques distinctes. À cela s’ajoutait un important travail de science des données pour convertir les scores bruts en indices de risque exploitables — sur lesquels il est réellement possible de définir des politiques — ainsi qu’un pipeline d’ingénierie des données pour les maintenir à jour à mesure que l’écosystème des modèles évolue.

Il restait ensuite à déployer l’ensemble sous la forme d’un agent autonome capable d’évaluer les risques.

Les partenaires de conception ont souligné l’urgence sous un autre angle. Ils avaient des composants d’IA dans leurs dépôts, mais ne trouvaient pas de métadonnées pertinentes à leur sujet. Sans indicateur de risque prêt à l’emploi auquel réagir, ils ne pouvaient même pas commencer à élaborer des politiques. L’agent de renseignement sur les risques a apporté la réponse.

5. La sécurité opérationnelle s’étend aux agents, aux MCP et à l’application des politiques.

Au fil de nos améliorations de l’agent de découverte avec nos partenaires de conception, une vision se dessine : assurer une visibilité continue sur les intentions des agents, les dépôts, les terminaux et les pipelines de ML. Un vice-président de l’ingénierie d’une entreprise de paiement du Fortune 500 a souligné que l’envergure et la cohérence constituaient le problème central : gérer plus de 10 000 ordinateurs portables et 80 000 dépôts sans plan de contrôle centralisé de l’IA — un problème d’échelle qu’Evo sait très bien résoudre.

Les partenaires de conception comptent sur l’agent de renseignement sur les risques pour évaluer une liste de menaces toujours plus longue. Tous les RSSI et responsables de la sécurité considèrent MCP comme une nouvelle surface d’attaque importante. L’IA fantôme est plus répandue que ne le pensent la plupart des dirigeants : modèles non autorisés, serveurs MCP dans des outils comme Cursor et Claude Desktop, et charges de travail cloud cachées.

Enfin, l’agent de politiques doit gouverner l’IA, et pas seulement créer des problèmes. Le blocage des pipelines CI/CD par l’agent de politiques est en production depuis la disponibilité générale d’AI-SPM. Les partenaires de conception mettent en place des structures officielles de gouvernance de l’IA et attendent des fournisseurs qu’ils les aident à les rendre opérationnelles. Un vice-président d’une société de services financiers a qualifié les outils existants de « complètement dingues et bruyants » : le nombre total de problèmes l’intéresse moins que l’identification des risques critiques et exploitables qui ont un véritable impact sur l’entreprise. C’est le niveau que l’agent de politiques doit atteindre.

Ce que nous ont appris nos partenaires de conception est clair

La sécurité de l’IA n’en est qu’à ses débuts, et la plupart des organisations construisent l’avion en plein vol. La visibilité est la première étape, mais elle ne suffit pas. À mesure que les équipes s’orientent vers des systèmes d’IA propriétaires et personnalisés, les approches traditionnelles de découverte, d’évaluation des risques et de gouvernance montrent leurs limites.

L’avenir de la sécurité de l’IA reposera sur une découverte continue, un renseignement sur les risques en temps réel et des politiques non seulement rédigées, mais aussi appliquées. C’est le fondement sur lequel Evo a été conçu. La sécurité de l’IA est un problème entièrement nouveau, et la seule façon de le résoudre est de construire des solutions avec les clients qui le définissent en temps réel.

Envie de contribuer à façonner l’avenir de la sécurité de l’IA ? Devenez partenaire de conception dès aujourd’hui.