L’essor de l’AI Security Engineer : une nouvelle discipline pour un monde natif de l’IA

Nous assistons à la naissance d’un nouveau métier, à la croisée de l’ingénierie de la sécurité et des opérations de sécurité. Cette discipline n’existait pas il y a cinq ans, car les systèmes qu’elle protège n’existaient pas non plus. À mesure que l’intelligence artificielle passe du stade expérimental à celui d’essentiel et que les systèmes agentiques commencent à percevoir, raisonner, agir et apprendre de façon autonome, nous avons besoin de défenseurs capables d’évoluer au même rythme.

Je parle de l’AI Security Engineer.

Lors du premier AI Security Summit à San Francisco, en octobre dernier, je me suis adressé à 400 innovateurs de l’IA et professionnels de la sécurité et j’ai fait une prédiction : d’ici trois ans, toutes les entreprises du Fortune 500 compteront des AI Security Engineers dans leurs équipes. Pas comme un simple atout, mais comme un impératif de survie. La réaction dans la salle m’a laissé penser que ma prévision était peut-être prudente.

Le changement fondamental dans l’ingénierie de l’IA

Les applications traditionnelles sont déterministes : à entrée identique, elles produisent la même sortie, et vous pouvez les tester, les auditer et les sécuriser à l’aide de méthodologies établies. Les systèmes d’IA agentique sont différents, car ils sont non déterministes par conception. Autrement dit, ils raisonnent, s’adaptent et agissent dans le monde réel.

Une application basée sur un LLM peut générer des résultats différents à chaque exécution, et un agent autonome peut enchaîner des actions qu’aucun humain n’a explicitement programmées. C’est précisément ce dynamisme qui rend l’IA si puissante et qui met à mal nos modèles de sécurité traditionnels.

Prenons cet exemple : Sam Altman a récemment reconnu que les modèles d’IA sont désormais « si performants en cybersécurité qu’ils commencent à trouver des vulnérabilités critiques. » Si l’IA peut trouver des vulnérabilités à la vitesse des machines, les adversaires les exploiteront à cette même vitesse. Nos défenses ne peuvent plus tourner au ralenti ni marquer de pause. Elles doivent fonctionner au même rythme.

La surface d’attaque s’est étendue dans des dimensions que nous sommes encore en train de cartographier. Injection de prompt. Exploitation de la mémoire. Empoisonnement de modèle. Détournement d’agent. Attaques de la chaîne d’approvisionnement visant les données d’entraînement. Vol de modèles par des requêtes d’inférence. Ce ne sont pas des scénarios théoriques : ces attaques ont lieu aujourd’hui, et la plupart des organisations n’ont même pas la visibilité nécessaire pour les détecter. Chez Snyk, nous avons pris la mesure de ce bouleversement et proposons Evo, la prochaine grande étape de l’évolution de la sécurité des logiciels natifs de l’IA.

La sécurité applicative traditionnelle est un minimum requis, mais l’IA exige davantage

Après des décennies dans la cybersécurité, je vais être direct : nos cadres actuels n’ont pas été conçus pour cette réalité. Par exemple, les équipes traditionnelles de sécurité applicative sont formées à détecter les vulnérabilités du code, pas les entrées adverses qui manipulent le comportement des modèles. Les équipes de sécurité réseau surveillent les schémas de trafic, pas les subtils cas d’exfiltration de données rendus possibles par des prompts soigneusement élaborés. Même nos modèles de menace les plus sophistiqués reposent sur un niveau de déterminisme qui fait fondamentalement défaut aux systèmes d’IA.

Le problème n’est pas un manque de compétences chez les professionnels de la sécurité. Ils sont, au contraire, remarquables. Le défi, c’est que les systèmes natifs de l’IA présentent des vecteurs d’attaque qui n’existent nulle part ailleurs dans notre pile technologique :

• Entrées adverses : contrairement à l’injection SQL, qui exploite les failles du code, l’injection de prompt exploite le comportement prévu du modèle. La vulnérabilité n’est pas un bogue : elle découle du fonctionnement même du système.

• Attaques visant les données et la mémoire : les systèmes agentiques dotés d’une mémoire persistante peuvent être empoisonnés au fil du temps, des instructions malveillantes étant intégrées dans des interactions apparemment anodines. Le RAG et l’injection indirecte de prompt exploitent ces infrastructures sous-jacentes.

• Risques liés à la chaîne d’approvisionnement des modèles : lorsque vous intégrez un modèle open source, un modèle accessible par API à distance provenant d’acteurs non fiables et non contrôlables, ou un serveur MCP tiers, vous héritez de risques que l’analyse traditionnelle du code ne peut pas détecter.

• Imprévisibilité comportementale : un agent qui peut « apprendre » de mauvaises choses. Pour détecter la compromission subtile d’un système d’IA, il faut comprendre non seulement son code, mais aussi son comportement au fil du temps.

C’est pourquoi nous avons besoin de spécialistes, des professionnels de la sécurité dont la mission première est de sécuriser ces systèmes conçus autour de l’IA et natifs de l’IA.

Définir le rôle de l’AI Security Engineer

À quoi ressemble donc ce rôle ? Voici ma vision du profil essentiel, fondée sur les enseignements tirés de la mise en place des propres capacités de sécurité de l’IA de Snyk et de nos échanges avec des centaines d’organisations en première ligne.

L’AI Security Engineer intervient à l’intersection de trois disciplines traditionnellement distinctes : la sécurité des plateformes, l’ingénierie de l’IA/ML et le renseignement sur les menaces. Il est tout aussi à l’aise pour discuter d’attaques basées sur le gradient avec des chercheurs en ML que pour expliquer les risques liés aux modèles au conseil d’administration.

L’AI Security Engineer est un opérateur adaptatif. Il s’épanouit dans l’incertitude, tire des enseignements de chaque incident de sécurité et part du principe que les adversaires iront plus vite que les contrôles statiques ne peuvent suivre. Il incarne ce que nous appelons la boucle OODA agentique : observer, raisonner, agir, apprendre. Cela signifie une activité continue, automatisée dans la mesure du possible et supervisée par des humains lorsque nécessaire.

Les professionnels qui exercent le métier d’AI Security Engineer sont autant des bâtisseurs que des défenseurs. L’AI Security Engineer conçoit des architectures sécurisées par défaut, puis réfléchit comme un adversaire à la manière dont elles pourraient échouer. Il instrumente les pipelines de détection capables de repérer les anomalies comportementales dans les systèmes d’IA. Il crée des outils qui n’existent pas encore, car dans un domaine émergent, les outils restent à inventer.

Plus important encore, il comprend que la sécurité de l’IA n’est pas qu’une question technique : elle concerne la confiance, l’alignement et la garantie que les systèmes que nous créons répondent à nos objectifs, sans être détournés par des acteurs malveillants ni évoluer vers des comportements nuisibles.

Proposition de définition du rôle de l’AI Security Engineer

Pour les organisations qui souhaitent formaliser cette fonction, voici une définition concise du poste :

L’impératif stratégique de la sécurité de l’IA

Réfléchissez aux enjeux. Les systèmes d’IA sont déployés pour la détection des fraudes, l’aide à la décision clinique, les opérations autonomes, les interactions avec les clients et la génération de code. Ce sont des systèmes de production qui ont un impact réel. Un système d’IA compromis ne se contente pas de divulguer des données : il prend de mauvaises décisions à grande échelle, potentiellement pendant longtemps avant que quiconque ne s’en aperçoive.

Le cadre réglementaire évolue rapidement : règlement européen sur l’IA, directives sectorielles et nouveaux cadres de responsabilité. Les organisations ont besoin de professionnels capables de traduire ces exigences en contrôles techniques et de démontrer leur conformité aux autorités de régulation et aux auditeurs.

Et il y a aussi la question de la confiance. Vos clients, partenaires et employés doivent savoir que les systèmes d’IA avec lesquels ils interagissent sont dignes de confiance, qu’ils n’ont pas été empoisonnés, manipulés ou compromis. Instaurer et préserver cette confiance exige une expertise dédiée.

C’est pourquoi Snyk a fait de la sécurité de l’IA une priorité stratégique. Notre plateforme Evo est spécialement conçue pour donner aux AI Security Engineers les moyens d’agir, en leur fournissant la visibilité, l’automatisation des politiques et l’orchestration de la sécurité agentique nécessaires pour défendre les applications natives de l’IA tout au long du cycle de développement. Mais les outils ne suffisent pas : le secteur doit développer les compétences humaines nécessaires pour les maîtriser.

Vous participez à la RSA Conference en mars 2026 ? Nous vous invitons à suivre notre formation de maître sur le métier d’AI Security Engineer et à obtenir un certificat de réussite pour différents modules sur l’AI-BOM, le Red Teaming, la sécurité MCP, la sécurité des compétences des agents et d’autres ateliers :

Recommandations pour l’adoption de l’IA en entreprise

Si vous êtes RSSI, CTO ou responsable de l’ingénierie, voici mes conseils pour développer vos capacités en sécurité de l’IA :

• Commencez dès maintenant, même à petite échelle. N’attendez pas d’avoir 50 applications d’IA en production. Repérez un ou deux ingénieurs qui ont les aptitudes nécessaires et commencez à développer cette pratique. La courbe d’apprentissage est abrupte, et démarrer tôt permet de développer le savoir-faire de l’organisation.

• Investissez dans la formation. C’est pourquoi Snyk a lancé le programme de certification AI Security Engineer en parallèle de son AI Security Summit. Les compétences nécessaires ne figurent aujourd’hui dans la plupart des cursus en sécurité ou en ingénierie. Une formation pratique sur la sécurisation du code généré par l’IA, les tests adverses, la sécurité MCP et l’OWASP Top 10 pour GenAI est indispensable.

• Créez un cadre organisationnel dédié. La sécurité de l’IA ne peut pas être laissée à l’abandon entre les équipes de sécurité et d’ingénierie de l’IA. Définissez clairement les responsabilités, les lignes hiérarchiques et les points d’intégration interfonctionnels. Les organisations les plus performantes que j’ai pu observer considèrent la sécurité de l’IA comme une discipline à part entière, dotée de son propre mandat et de ses propres indicateurs.

• Adoptez la sécurité agentique. Tout comme vos systèmes d’IA deviennent agentiques, vos systèmes de sécurité doivent suivre la même évolution. Les contrôles manuels et les règles statiques ne peuvent pas suivre le dynamisme des applications d’IA. Investissez dans des plateformes offrant une orchestration de la sécurité adaptative et automatisée, capable d’observer, de raisonner, d’agir et d’apprendre aux côtés des systèmes qu’elle protège.

• Mesurez ce qui compte. Le délai moyen de détection et de correction des incidents liés à l’IA. La couverture des systèmes d’IA par un niveau de sécurité défini (indice : commencez par AI-SPM). Le taux d’automatisation. Et surtout : votre système de sécurité apprend-il ? Constatez-vous une baisse des incidents récurrents au fil du temps ?

Perspectives

Je crois que nous n’en sommes qu’aux premiers chapitres d’une transformation qui s’étendra sur plusieurs décennies. Les systèmes d’IA gagneront en capacités et en autonomie, s’intégreront plus profondément aux infrastructures critiques et verront leur surface d’attaque s’étendre de façons que nous ne pouvons pas encore pleinement prévoir. Les adversaires — acteurs étatiques, organisations criminelles et, oui, autres systèmes d’IA — deviendront tous plus sophistiqués. Dans ce futur, les AI Security Engineers ne seront pas une spécialité de niche. Ils seront aussi courants et essentiels que le sont aujourd’hui les ingénieurs en sécurité applicative et cloud. Toute organisation qui crée ou déploie de l’IA en aura besoin, et toutes les équipes de sécurité devront intégrer cette expertise.

La bonne nouvelle, c’est que l’énergie est remarquable dans ce domaine. L’AI Security Summit, qui affichait complet, m’a révélé une communauté avide d’apprendre, de partager et de construire. Les professionnels qui se lancent dans ce domaine font preuve d’une créativité et d’une capacité d’adaptation qui me rendent véritablement optimiste. Ce métier s’invente en ce moment même, les modèles de menace s’écrivent, les outils se construisent et les cadres émergent. Si vous êtes un professionnel de la sécurité et vous demandez si vous devriez vous spécialiser dans la sécurité de l’IA, ou si vous êtes ingénieur en IA et souhaitez comprendre les implications de sécurité de ce que vous créez, mon message est simple : c’est ici que tout se joue. C’est la nouvelle frontière.

Chez Snyk, nous nous engageons à vous accompagner dans cette aventure. De la plateforme de sécurité de l’IA de Snyk aux formations gratuites et accessibles proposées sur Snyk Learn, en passant par la communauté AI Security Engineer que nous faisons grandir, notre mission est de vous aider à sécuriser l’avenir natif de l’IA. Car cet avenir est déjà là. La question est de savoir si vous le défendrez.

Découvrez pourquoi la sécurité traditionnelle ne peut pas suivre le rythme du développement moderne — et ce que vous devez faire pour protéger vos logiciels à la vitesse des machines. Téléchargez « La fin de la sécurité à vitesse humaine » pour découvrir comment passer à des défenses automatisées et continues qui protègent vos équipes et votre code à mesure que les systèmes évoluent.