Slopsquatting : nouvelles menaces liées aux hallucinations de l’IA et stratégies d’atténuation

Nous avons tous vécu ce moment magique où notre assistant de programmation IA suggère le package idéal pour résoudre un problème complexe et fournit instantanément ce qui semble être exactement la dépendance dont nous avons besoin. En tant que développeurs, nous avons appris à faire confiance à ces recommandations intelligentes et les mettons souvent en œuvre sans y réfléchir à deux fois. Mais voici une réalité alarmante : selon une étude récente, 19,7 % des packages générés par l’ensemble des LLM testés étaient des hallucinations.

Il ne s’agit pas de simples fautes de frappe. Des attaquants enregistrent systématiquement ces noms de packages inventés par l’IA, comme « aws-helper-sdk » et « fastapi-middleware », sur des dépôts publics, créant ainsi des pièges sophistiqués pour les développeurs qui ne se méfient pas. Cette évolution dangereuse des attaques contre la chaîne d’approvisionnement logicielle doit être comprise immédiatement par toutes les équipes de sécurité.

Comprendre le slopsquatting dans la chaîne d’approvisionnement logicielle

Qu’est-ce que le slopsquatting ?

Le slopsquatting est une menace émergente en 2024-2025 qui tire parti des faiblesses inhérentes à l’intelligence artificielle pour compromettre les chaînes d’approvisionnement logicielles. Il exploite les hallucinations générées par l’IA dans les dépendances de code, créant un nouveau vecteur d’attaque par l’IA que nous devons comprendre et contrer.

Cette méthode d’attaque sophistiquée cible l’écart entre les suggestions générées par l’IA et les dépôts de packages existants. Lorsque les développeurs s’appuient sur des assistants IA pour obtenir des recommandations de code, ceux-ci leur suggèrent souvent des packages inexistants, mais dont le nom semble légitime.

Principales caractéristiques du slopsquatting

• Des noms de packages réalistes, comme « aws-helper-sdk » ou « fastapi-middleware ».

• Un taux de réussite élevé : environ 20 % des packages suggérés par l’IA sont des hallucinations.

• Une cible multiplateforme, qui s’étend à plusieurs écosystèmes de langages de programmation.

• L’exploitation de la confiance des développeurs dans les suggestions de code générées par l’IA.

• Une méthode d’attaque évolutive, qui touche simultanément des milliers de projets.

Nous assistons à un changement fondamental : les attaquants n’ont plus besoin de deviner les noms de packages populaires. Ils peuvent simplement surveiller les résultats de l’IA et enregistrer toutes les dépendances fictives issues de ces hallucinations.

Mécanisme de l’attaque

L’attaque par slopsquatting exploite méthodiquement les workflows de développement assisté par l’IA. Elle correspond à la technique T1195.02 du cadre MITRE ATT&CK (compromission de la chaîne d’approvisionnement logicielle) ou à la technique T1195.001.

Voici comment les attaquants procèdent : ils surveillent d’abord les schémas de génération de code par l’IA sur les plateformes populaires afin de repérer les noms de packages fréquemment inventés. Lorsque les développeurs demandent de l’aide à des assistants IA pour des tâches précises, l’IA suggère souvent des packages au nom crédible, mais qui n’existent pas.

Étapes d’une attaque par slopsquatting

1. L’IA suggère un package au nom évocateur, comme « jwt-secure-validator ».

2. Le développeur fait confiance à la recommandation de l’IA sans la vérifier.

3. L’attaquant enregistre le nom du package halluciné sur PyPI, npm ou d’autres dépôts similaires.

4. Un package malveillant est installé lorsque le développeur exécute le code suggéré.

Conséquences du slopsquatting

L’aspect psychologique rend cette menace particulièrement insidieuse : nous avons naturellement tendance à faire confiance aux suggestions de l’IA, surtout lorsqu’elles semblent professionnelles et répondent à un besoin immédiat. Les packages contiennent souvent du code fonctionnel en plus de charges malveillantes, ce qui complique leur détection lors des premiers tests.

Les attaquants gagnent en sophistication : ils créent des packages qui imitent des fonctionnalités légitimes tout en installant des portes dérobées ou en exfiltrant des données sensibles. Ils transforment ainsi notre dépendance au code généré par l’IA en arme et font de nos outils de productivité des vecteurs d’attaque.

Défense et atténuation du slopsquatting

Outils de détection optimisés par l’IA

Snyk AI Trust Platform apporte des capacités d’IA révolutionnaires qui améliorent considérablement la détection du slopsquatting par les organisations. Les capacités améliorées de DeepCode AI Fix et l’analyse d’accessibilité pilotée par l’IA ont transformé notre façon de repérer les packages suspects dans notre chaîne d’approvisionnement logicielle.

Stratégies de prévention

La mise en place de mesures de prévention robustes exige une approche à plusieurs niveaux, que nous avons perfectionnée au fil des années passées à lutter contre les attaques par slopsquatting.

Notre cadre de prévention éprouvé :

1. Mettre en œuvre des SBOM exhaustives : générez et tenez à jour des nomenclatures logicielles pour tous vos projets afin de suivre la provenance des packages et de détecter tout ajout non autorisé.

2. Établir des listes d’autorisation pour les dépendances : créez des registres de packages approuvés et limitez les installations aux seules sources vérifiées.

3. Activer la vérification automatisée des dépendances : configurez vos gestionnaires de packages pour qu’ils vérifient les signatures cryptographiques et les sommes de contrôle.

4. Déployer des outils de détection du typosquatting : utilisez des outils qui recherchent automatiquement les noms de packages suspects lors de l’installation.

5. Mettre en place des environnements de préproduction : testez toutes les nouvelles dépendances dans des environnements isolés avant leur déploiement en production.

6. Configurer des politiques de sécurité : définissez des politiques automatisées qui signalent les packages présentant des caractéristiques suspectes (date de création récente, très peu de téléchargements, etc.).

7. Auditer régulièrement les dépendances : planifiez des examens périodiques de toutes les dépendances de vos projets afin d’identifier les menaces potentielles.

Cadre de réponse organisationnel

En cas d’incident de slopsquatting, il est essentiel de disposer d’un protocole de réponse structuré qui limite les conséquences et prévient toute récidive. Ce cadre prévoit des procédures de confinement immédiat, une analyse forensique pour comprendre le vecteur d’attaque et une communication coordonnée entre les équipes de développement.

La formation à la sécurité joue également un rôle essentiel dans toute stratégie de défense : elle souligne l’importance de vérifier l’authenticité des packages avant leur installation.

Prévenez et atténuez le slopsquatting avec Snyk

À mesure que l’IA s’intègre toujours davantage à nos workflows de développement, les équipes de sécurité du monde entier doivent s’intéresser sans tarder à la menace du slopsquatting. Nous ne pouvons pas ignorer ce nouveau vecteur d’attaque, qui exploite directement les outils censés améliorer notre productivité.

L’adoption rapide des assistants de programmation basés sur l’IA dans les organisations rend ce problème d’autant plus urgent. Chaque développeur qui utilise les suggestions de l’IA pour gérer les dépendances risque d’introduire des points d’entrée vulnérables dans la chaîne d’approvisionnement logicielle de son organisation. 

L’utilisation d’outils adaptés de détection des attaques par l’IA et le déploiement de stratégies de prévention spécifiquement conçues pour contrer cette menace peuvent faire une grande différence. Des outils d’analyse des dépendances plus performants, des protocoles de vérification des packages renforcés et des mécanismes de surveillance proactive sont désormais disponibles pour aider les organisations à préserver leur sécurité tout en tirant parti des avantages de l’IA.

Examinez vos workflows de développement assisté par l’IA, évaluez vos protocoles de vérification des packages et assurez-vous que vos équipes de sécurité disposent des moyens nécessaires pour détecter les tentatives de slopsquatting et y répondre. Les outils et les stratégies existent : il est temps de les mettre en œuvre, avant que cette menace ne compromette votre chaîne d’approvisionnement logicielle.