Pourquoi les responsables technologiques d’Australie et de Nouvelle-Zélande repensent les liens entre IA, rapidité et sécurité

L’évolution technologique a toujours été rapide, mais avec l’IA omniprésente, tout s’accélère. En Australie et en Nouvelle-Zélande, les entreprises prévoient d’investir massivement dans l’IA générative : environ 15 millions de dollars en moyenne, soit plus que la moyenne mondiale. La pression est immense pour les responsables de la technologie, de la sécurité et de l’ingénierie. Ils doivent innover rapidement, tout en faisant face aux risques complexes liés à l’IA. Ils sont donc amenés à repenser la façon de concilier rapidité et sécurité.

Les organisations d’Australie et de Nouvelle-Zélande avancent avec ambition, mais aussi avec prudence. L’IA ouvre de nouvelles perspectives, mais pose également des défis de sécurité évidents. Les responsables sont confrontés à des dilemmes concrets : ils veulent tirer parti de l’IA sans creuser les failles de sécurité. Parmi les défis locaux :

• Une grave pénurie de talents (36 % des professions en Australie sont en pénurie).

• L’évolution de la réglementation.

• La gestion des environnements cloud natifs.

À cela s’ajoute une profonde méfiance envers la sécurité de l’IA. En Australie, 74 % des personnes interrogées considèrent les défaillances de sécurité comme leur principale préoccupation, un chiffre bien supérieur à la moyenne mondiale.

Plusieurs pressions se font sentir alors que les responsables cherchent à concilier innovation et sécurité :

1. Adopter l’IA en toute sécurité

La perspective de voir l’IA écrire du code et alimenter des logiciels est enthousiasmante, mais le code généré par l’IA présente souvent des vulnérabilités. À mesure que les organisations déploient l’IA à grande échelle et utilisent davantage de logiciels open source, elles doivent gérer les risques avec soin. La sécurité et la transparence doivent être intégrées à l’IA. Les responsables doivent veiller à ce que son adoption n’introduise pas de nouveaux risques dans la chaîne d’approvisionnement. Ils doivent aussi relever un défi de confiance : les Australiens se méfient de l’IA.

2. Gagner en rapidité sans accroître les risques

Des outils d’IA comme GitHub Copilot, Google Gemini et Cursor promettent d’accélérer le codage. Lors de premiers tests à ANZ Bank, les ingénieurs ont gagné jusqu’à 55 % en rapidité. Mais cette accélération peut produire du code moins sûr. Le code généré par l’IA peut être risqué, et les développeurs peuvent lui faire trop confiance. Des études montrent qu’une grande partie du code généré par l’IA est vulnérable. Les responsables doivent intégrer les contrôles de sécurité directement au développement, au même rythme que l’IA. Des audits périodiques ne suffisent pas et laissent d’importantes lacunes.

Ce graphique montre comment les vulnérabilités liées à l’IA (CVE) ont fortement augmenté entre 2020 et 2024.

3. Visibilité et hiérarchisation des risques

Les applications modernes, en particulier celles qui utilisent l’IA, sont complexes. Elles créent de nouvelles surfaces d’attaque. Face à la multitude d’outils de sécurité, les responsables se retrouvent avec trop de résultats et des angles morts difficiles à détecter. Ils ont besoin d’une vue claire des risques, y compris ceux liés aux éléments générés par l’IA. Ils doivent aussi faire le tri pour se concentrer sur les menaces réelles. Pour cela, il faut prendre en compte des éléments contextuels comme l’accessibilité du risque, l’environnement d’exécution, le niveau de criticité et les données concernées. Le Shadow AI (utilisation non autorisée d’outils d’IA) complique encore la situation. La gestion de la posture de sécurité de l’IA (AI-SPM) aide à maîtriser les risques liés aux déploiements d’IA.

4. Simplifier les processus de sécurité

Les équipes plateforme jonglent déjà avec de nombreux outils. La sécurité ne doit pas les ralentir. Elle doit être simple et s’intégrer naturellement aux workflows des développeurs. Elle doit « se faire oublier jusqu’à ce qu’on en ait besoin ». L’automatisation des tâches de sécurité, avec des retours et des correctifs en temps réel, est essentielle.

5. Regrouper les outils

De nombreuses organisations utilisent trop d’outils de sécurité, ce qui crée des silos de données et alourdit les opérations. Les responsables souhaitent réunir la sécurité sur une plateforme unique. Cette vision unifiée aide les équipes à mieux travailler et à combler les failles de sécurité pendant le développement et le déploiement.

Exemples concrets : l’IA au service de la sécurité et la sécurité de l’IA

Une double approche est nécessaire :

• Utiliser l’IA pour renforcer la sécurité.

• Sécuriser les systèmes d’IA eux-mêmes.

L’IA au service de la sécurité :

L’IA alimente les plateformes de sécurité. Elle aide à détecter les problèmes, à les corréler et à éliminer les doublons. Elle classe les données et détermine si des fonctions vulnérables sont accessibles. Elle peut même rédiger des correctifs pour accélérer la remédiation. Au-delà du développement, l’IA accélère la détection des menaces et la réponse aux incidents en analysant les données en temps réel. Elle aide également à expliquer les résultats de sécurité en termes simples aux équipes.

Sécuriser l’IA :

Les systèmes d’IA et les applications qu’ils alimentent doivent être protégés. Il faut notamment sécuriser le code et les applications d’IA. Les principaux domaines sont les suivants :

• Injection de prompt : Les attaquants trompent les systèmes d’IA à l’aide de prompts spécialement conçus. Selon OWASP, il s’agit du principal risque pour les applications LLM.

• OWASP Top 10 for LLMs : un cadre qui recense les principaux risques de sécurité des applications d’IA.

• Modélisation des menaces : comprendre et réduire les risques tout au long du cycle de vie de l’IA.

• Red teaming LLM : des hackers éthiques testent les vulnérabilités de l’IA.

• AI-SPM : analyse les environnements d’IA à la recherche de vulnérabilités.

• Model Context Protocol (MCP) : relie les workflows d’IA au sein des LLM, mais peut élargir les risques.

• AI-BOM (nomenclature des composants d’IA) : répertorie les composants, les bibliothèques et les données de l’IA afin de gérer les risques liés à la chaîne d’approvisionnement.

Nouveaux vecteurs d’attaque dans le développement natif de l’IA : OWASP Top 10 for Large Language Model Applications

Instaurer la confiance dans l’IA en Australie et en Nouvelle-Zélande

Les responsables d’Australie et de Nouvelle-Zélande savent que pour réussir dans le développement piloté par l’IA, ils doivent instaurer la confiance dans l’IA. Cela signifie avancer rapidement tout en restant en sécurité dans un monde où l’IA est omniprésente. Il s’agit de réduire les efforts humains tout en renforçant la sécurité et la gouvernance.

La confiance dans l’IA repose sur trois piliers fondamentaux :

• Une visibilité complète sur les risques.

• Une hiérarchisation intelligente des menaces réelles.

• L’application de politiques à grande échelle pour corriger et prévenir les problèmes.

Pour l’Australie et la Nouvelle-Zélande, cela signifie adopter des solutions qui tiennent compte des pénuries locales de talents, de la réglementation et des contraintes. Il faut donner aux développeurs des outils capables d’analyser et de corriger le code généré par l’IA au rythme même de sa création. Il faut des plateformes offrant aux équipes de sécurité une vue unique et claire des applications traditionnelles et natives de l’IA, en mettant l’accent sur les risques réels pour l’entreprise. Enfin, il faut appliquer des garde-fous évolutifs qui ne ralentissent pas le développement.

Les défis sont considérables. Mais en reconnaissant ces tensions et en adoptant les bonnes stratégies, les responsables d’Australie et de Nouvelle-Zélande peuvent instaurer la confiance dans ce nouveau monde de l’IA.