Sécuriser la transition vers l’IA native

W. Ian Douglas
Défenseur des développeurs senior - Block

Que se passe-t-il lorsque vous demandez à votre communauté de proposer des contributions et que vous voulez vous assurer qu’aucun contenu malveillant ne s’introduit dans votre base de code ? Nous avons résolu ce problème en demandant à notre système d’IA de créer son propre scanner de sécurité pour un projet communautaire de soumission de « recettes d’automatisation ». Nous avons mis en place un pipeline de sécurité entièrement automatisé et conteneurisé qui analyse les pull requests GitHub en isolation, à l’aide d’une analyse par IA sans interface graphique et d’algorithmes de détection des menaces. Découvrez comment créer votre propre modèle pour mettre en œuvre l’automatisation de la sécurité par l’IA dans vos pipelines CI/CD. Cette approche a transformé notre goulot d’étranglement lié aux révisions manuelles en un système automatisé qui instaure la confiance et traite les contributions en quelques minutes au lieu de plusieurs jours. Elle peut aussi vous aider.

Harshad Kadam
Ingénieur senior en sécurité des infrastructures - Indeed Inc

Cette session s’adresse aux équipes de défense, aux ingénieurs en détection et aux red teamers curieux qui cherchent à comprendre comment le Zero Trust s’allie à l’ingénierie de la tromperie à l’ère de l’orchestration par l’IA. Nous verrons comment nous avons créé « MCP Threat Trap », un honeypot qui simule des outils internes sensibles via le protocole MCP, avec des délais réalistes, une gestion sécurisée des erreurs et des flux SSE imitant les API d’entreprise ; déclenche discrètement des Canarytokens avancés pour recueillir des métadonnées détaillées ; fonctionne entièrement sur le réseau périphérique mondial de Cloudflare via Workers, sans EC2, correctifs ni infrastructure à gérer, ce qui le rend furtif et immédiatement évolutif ; et transforme les scans aléatoires en renseignements exploitables, qui alimentent les politiques Zero Trust et fournissent à votre équipe d’intervention des alertes riches en contexte.

Stone Werner
Ingénieur logiciel - Ragie.ai

Le protocole Model Context Protocol (MCP) s’impose rapidement comme la norme ouverte pour connecter les systèmes d’IA à des outils et des sources de données externes. Pourtant, pour la plupart des développeurs, faire passer un serveur MCP du prototype à la production revient encore à s’aventurer en terrain inconnu. Les incohérences en matière d’authentification, la fragmentation des SDK et le comportement imprévisible des clients compliquent même les connexions les plus simples, tandis que des définitions d’outils statiques et génériques limitent les possibilités des LLM une fois connectés.

Dans cette présentation, Stone passe en revue les difficultés rencontrées sur le terrain lors de la création et du déploiement de serveurs MCP multi-tenant en production, ainsi que les solutions mises en place par Ragie. Au programme :

Franchir le cap du 0→1 : surmonter les difficultés liées à OAuth et les particularités propres à chaque client pour garantir une connectivité stable.

Apprivoiser le Far West : comprendre la fragmentation des SDK et concevoir des solutions pour un environnement en constante évolution.

Rendre les outils utiles : utiliser des descriptions dynamiques et contextuelles (grâce à Dynamic FastMCP, le projet open source de Ragie) pour aider les LLM à choisir les bons outils en toute confiance.

Améliorer l’expérience utilisateur et la sécurité : concevoir une expérience qui inspire confiance et renforcer les défenses contre les menaces émergentes, comme l’empoisonnement des outils et l’injection de prompt.

Les participants découvriront ce qu’il faut vraiment pour rendre des serveurs MCP prêts pour la production dans des environnements multi-tenant, où la stabilité, l’adaptabilité et la confiance des utilisateurs comptent autant que la conformité au protocole. Cette plongée technique s’adresse aux concepteurs qui veulent aller au-delà des démonstrations et fournir une infrastructure MCP fiable et opérationnelle.

Nate Barbettini
Ingénieur fondateur - Arcade.dev

Les serveurs Model Context Protocol sont un excellent moyen d’étendre les capacités des LLM, mais que se passe-t-il quand on dépasse le stade du « ça marche sur ma machine » ? Derrière chaque démo MCP se cachent des questions complexes de sécurité et d’autorisation. Dans cette présentation, Nate expliquera comment la dernière évolution de la spécification MCP permet une authentification précise et multi-utilisateur (et promet que c’est plus amusant qu’il n’y paraît). Il présentera également les bonnes pratiques pour sécuriser les serveurs MCP en production.

John McBride
Ingénieur principal - Zuplo

En 2025, les agents IA constituent la base d’utilisateurs qui connaît la plus forte croissance. Ils interagissent de manière autonome avec vos systèmes pour extraire des données et effectuer des opérations. Pour certaines entreprises, il s’agit d’une menace qu’il faut contrôler. Pour d’autres, c’est l’occasion de permettre à leurs clients d’interagir avec leurs systèmes d’une manière inédite.

Dans les deux cas, vous devez encadrer la manière dont les agents interagissent avec votre plateforme. Les API déterminent les ressources auxquelles l’IA peut accéder, la façon dont elle peut accéder à ces données et ce qu’elle peut en faire. Vos API et les outils qui les accompagnent doivent être compréhensibles par les agents, offrir suffisamment de fonctionnalités pour leur permettre d’accomplir leurs tâches et être assez robustes pour gérer à grande échelle le trafic automatisé.

Rene Brandel
Cofondateur et PDG - Casco (YC X25)

Nous avons piraté 7 des 16 agents IA de YC X25 accessibles au public. Cela nous a permis de divulguer des données utilisateur, d’exécuter du code à distance et de prendre le contrôle de bases de données. Le tout en moins de 30 minutes par agent. Lors de cette session, nous passerons en revue les erreurs courantes commises par ces entreprises et vous expliquerons comment atténuer ces risques de sécurité avant que vos agents ne mettent votre activité en danger.

Nnenna Ndukwe
Avocate principale des développeurs - Qodo AI

Il ne suffit pas de vérifier que votre application basée sur un LLM fonctionne en production. Vous devez comprendre comment elle échoue dans un environnement éprouvé sur le terrain. Dans cette conférence, nous explorerons le red teaming des systèmes d’IA générative : prompts adverses, analyse du comportement des modèles, jailbreaks et nouvelles stratégies de contournement imitant celles de véritables acteurs malveillants. Vous apprendrez à élaborer un plan de tests adverses adapté à l’IA, à simuler des scénarios d’utilisation malveillante et à intégrer le red teaming à votre cycle de développement logiciel. Les LLM sont imprévisibles, mais il est possible de les évaluer de manière systématique. Nous verrons comment rendre les applications d’IA testables, reproductibles et sécurisées dès leur conception.

Aamiruddin Syed
Sécurité logicielle de la chaîne d’approvisionnement - AGCO Corp.

Les systèmes d’IA évoluent rapidement : de modèles statiques, ils deviennent des essaims d’agents autonomes dotés de leur propre identité, capables de prendre des décisions et disposant de droits d’accès. Les systèmes traditionnels de gestion des identités et des accès (IAM), conçus pour les humains et les comptes de service statiques, ne suivent plus. Cette intervention examinera comment l’IA agentique transforme le paysage des identités, où chaque agent peut avoir besoin d’une identité vérifiable, auditable et révocable. En nous appuyant sur le Top 10 des risques liés aux identités non humaines de l’OWASP et le cadre IAM de la CSA pour l’IA agentique, nous explorerons de nouveaux modèles de confiance, des vecteurs d’attaque réels et des stratégies concrètes pour garantir la responsabilité et la sécurité des systèmes autonomes.

Jeff Watkins
Directeur technique - CreateFuture

L’IA générative ouvre des possibilités extraordinaires, mais s’accompagne d’importants défis en matière de cybersécurité. À mesure que son adoption s’accélère, les risques augmentent eux aussi : vol de données, manipulation de modèles, empoisonnement des données d’entraînement, perturbations opérationnelles et vulnérabilités de la chaîne d’approvisionnement. Cette présentation introduit le cadre « STOIC » — Stolen (volé), Tricked (manipulé), Obstructed (entravé), Infected (infecté), Compromised (compromis) — pour vous aider à identifier ces menaces et à les atténuer. Vous repartirez avec des conseils concrets pour comprendre les risques liés à l’IA générative, renforcer vos systèmes, sécuriser votre chaîne d’approvisionnement, mettre en place une gouvernance claire et rester agile. L’IA générative est transformatrice, mais nécessite des défenses proactives et multicouches pour ne pas devenir un handicap. Avec la bonne stratégie, elle peut être un outil sûr et révolutionnaire pour votre organisation.

Brett Smith
Ingénieur logiciel émérite - SAS

Le serveur MCP peut-il protéger les moutons électriques des agents malveillants et des acteurs malintentionnés, ou constitue-t-il un nouveau moyen de les attaquer ? Cette présentation explore la nouvelle surface d’attaque créée par les serveurs MCP et l’IA agentique, en mettant l’accent sur les vulnérabilités potentielles et les stratégies d’atténuation. Nous verrons comment l’IA agentique peut améliorer le cycle de développement logiciel (SDLC), tout en abordant les risques de sécurité qu’elle introduit. Découvrez le rôle des serveurs MCP dans la gestion de ces risques et des stratégies pour les protéger contre les attaques potentielles. Vous trouverez des réponses aux questions suivantes :

• À quoi ressemble l’IA agentique dans le cycle de développement logiciel (SDLC) ?

• Quels risques de sécurité l’IA agentique introduit-elle dans le cycle de développement logiciel (SDLC) ?

• Comment les serveurs MCP peuvent-ils contribuer à la sécurité de la chaîne d’approvisionnement ?

• Quels sont les risques liés à l’utilisation de serveurs MCP ?

• Quelles stratégies permettent d’atténuer les attaques contre les serveurs MCP ?

Jeff Andersen
Directeur principal, gestion des produits - Snyk

Brendan Hann
Responsable principal du marketing produit - Snyk

Le Shift Left est plus crucial que jamais. Participez à cette session pour découvrir comment Snyk permet aux développeurs de livrer rapidement sans compromettre la sécurité ni perturber leur flux de travail.

Itay Maor
Responsable senior de la gestion des produits - Snyk

Kate Powers
Responsable senior du marketing produit - Snyk

Pour anticiper l’évolution de l’IA, les équipes AppSec doivent elles aussi évoluer. Rejoignez cette session pour découvrir comment la plateforme Snyk AI Trust donne aux équipes AppSec une visibilité étendue et un meilleur contrôle, faisant évoluer leur rôle de gestionnaires de tâches à celui de stratèges.

Ryan McMorrow
Chef de produit senior - Snyk

Brendan Hann
Responsable marketing produit senior - Snyk

Cette présentation explorera les stratégies de remédiation pour les projets open source et les conteneurs, et présentera des cadres d’évaluation de la facilité de rupture et de confiance afin d’automatiser la remédiation des problèmes open source présentant un faible risque de rupture.

Ezra Tanzer
Directeur de la gestion des produits - Snyk

Daniel Berman
Directeur du marketing produit - Snyk

Brendan Putek
Directeur DevOps - Relay Network

Les assistants de codage IA révolutionnent la création logicielle, entraînant une augmentation fulgurante du volume et de la vitesse de production du code. Ce nouveau paradigme ouvre des perspectives d’innovation sans précédent, mais crée aussi une immense surface d’attaque invisible. Les modèles d’IA étant souvent entraînés sur des données publiques imparfaites, comment garantir la sécurité du code qu’ils génèrent sans ralentir vos développeurs ? Si les barrières de sécurité traditionnelles restent importantes, compter sur elles pour détecter cette nouvelle vague de problèmes liés à l’IA générative entraîne des reprises coûteuses et mobilise le temps des développeurs. La véritable opportunité consiste à empêcher la création de ces vulnérabilités dès le départ.

Snyk a présenté le principe « Secure at Inception » à Black Hat USA : une nouvelle approche qui va au-delà de l’analyse réactive pour intégrer proactivement la sécurité directement dans le workflow piloté par l’IA. Aujourd’hui, nous expliquons comment les entreprises peuvent déployer cette capacité à grande échelle. Nous montrerons comment guider les développeurs pour qu’ils génèrent du code sécurisé dès le départ et maîtrisent ainsi les risques de la révolution du code généré par l’IA. Lors d’une démonstration en direct, vous verrez comment Snyk propose des tests de sécurité en temps réel, sans friction, ainsi que des corrections automatisées directement dans un assistant de codage IA.

Rejoignez-nous pour découvrir comment adopter en toute confiance le développement piloté par l’IA à l’échelle de l’entreprise. Vous repartirez avec une compréhension claire des moyens de sécuriser ce nouveau cycle de développement logiciel et découvrirez en avant-première l’avenir de la sécurité autonome, avec un aperçu de l’« Agent » de remédiation que Snyk lancera prochainement.

Rudy Lai
Directeur, incubation technologique - Snyk

Sécuriser la prochaine génération d’IA exige un nouveau paradigme de sécurité. À mesure que l’IA agentique et les applications natives de l’IA se développent, elles élargissent la surface d’attaque et introduisent de nombreux risques inédits, de l’injection de prompt et des flux toxiques à l’imprévisibilité des comportements non déterministes. Les outils de sécurité traditionnels fondés sur des règles, conçus pour des systèmes déterministes et paramétrés, ne suffisent tout simplement pas. Pour permettre l’innovation sécurisée dans les applications d’IA, nous avons besoin d’une nouvelle génération d’équipes de sécurité : des AI Security Engineers qui s’appuient sur leurs propres systèmes d’orchestration de la sécurité agentique. Cette session présentera les principales tâches que ces systèmes doivent couvrir et les possibilités offertes par l’orchestration pour détecter, comprendre et contrer les menaces complexes qui pèsent sur les applications natives de l’IA.