Démystifier l’IA traditionnelle (symbolique)

Avant l’essor des chatbots, des réseaux neuronaux et des systèmes capables d’apprendre seuls, une autre forme d’IA était aux commandes. On l’appelle IA traditionnelle, mais aussi, affectueusement, IA symbolique ou GOFAI (Good Old-Fashioned AI). Imaginez le « cerveau des règles » de l’intelligence artificielle : précis, logique et très humain dans son raisonnement.

Dans les années 1980, un programme nommé MYCIN aidait les médecins à diagnostiquer des infections bactériennes. Il posait une série de questions et suivait un arbre de règles logiques, toutes rédigées par des experts pour recommander des traitements. Pas de machine learning, pas de réseaux neuronaux. Juste une intelligence fondée sur des règles. Et devinez quoi ? Lors de certains tests, ses performances étaient comparables à celles de vrais médecins !

Un autre programme d’IA précurseur, ELIZA, imitait un psychothérapeute en suivant des scénarios prédéfinis. Elle n’était pas « intelligente » selon les critères d’aujourd’hui, mais les gens ont noué des liens émotionnels avec elle, preuve que même des machines simples fondées sur la logique peuvent sembler… humaines.

Qu’est-ce que l’IA symbolique ?

Comprenons l’IA traditionnelle

L’IA symbolique repose sur la logique, les symboles et des règles explicites : le type de raisonnement que l’on trouve dans les vieux romans policiers, où la déduction et les faits permettent de résoudre l’affaire. Elle cherche à reproduire notre façon de raisonner logiquement et de résoudre les problèmes à l’aide de connaissances et de structures.

Imaginez que vous appreniez à un ordinateur comme vous le feriez avec un enfant, à l’aide de cartes mémoire et de règles « si… alors… » :

Si le feu est rouge, alors arrêtez-vous OU si il pleut, alors prenez un parapluie.

L’IA symbolique utilise

• Des règles fondées sur la logique : pensez aux énoncés « si… alors… ».

• Des bases de connaissances : des bibliothèques structurées de faits, comme des encyclopédies pour machines.

• Des ontologies et des moteurs d’inférence : pour relier les éléments et déduire de nouvelles informations.

C’est comme donner un manuel à un ordinateur, qui suit les instructions à la lettre.

Pourquoi parler encore d’IA symbolique ?

Même si le machine learning et le deep learning ont volé la vedette, l’IA symbolique reste très importante :

• Systèmes réglementés et logique experte : de nombreux secteurs, comme le droit, la finance et la médecine, ont encore besoin d’une IA explicable, dont les décisions peuvent être reliées à des règles claires, et pas seulement à des pondérations mathématiques dans une boîte noire.

• Sécurité et application des politiques : en cybersécurité et en conformité, le raisonnement symbolique sert à appliquer les politiques, à détecter les infractions aux règles et à prendre des décisions fondées sur la logique.

• IA hybride : aujourd’hui, les systèmes les plus performants combinent souvent les deux approches : le machine learning pour reconnaître des schémas et l’IA symbolique pour raisonner.

Composants essentiels de l’IA symbolique

Avant de pouvoir réfléchir, l’IA devait savoir. L’IA symbolique s’appuyait sur des structures comme :

1. Représentation des connaissances : elle nous permet de comprendre ce que la machine « sait ».

2. Moteurs d’inférence : ces systèmes permettent à l’IA de raisonner, de déduire et de tirer des conclusions, comme un mini Sherlock Holmes numérique.

3. Systèmes de planification : lorsque vous donnez un objectif à une machine, comme résoudre une énigme ou préparer du café, elle a besoin d’un plan. C’est là qu’interviennent des systèmes de planification comme : 

• STRIPS (Stanford Research Institute Problem Solver) : un planificateur légendaire qui décomposait les grands objectifs en étapes plus petites et réalisables. 

• Arbres d’objectifs de type OU : comme des arbres de décision, mais inversés, en partant d’un objectif et en se demandant : « Que dois-je faire pour y parvenir ? »

Points forts de l’IA traditionnelle

• Transparence et interprétabilité : avec l’IA symbolique, vous pouvez voir chaque décision, chaque règle et chaque raison. C’est comme lire clairement un « raisonnement » sur le papier.

• Déterministe et prévisible : l’IA symbolique se comporte exactement de la même façon chaque fois qu’elle reçoit la même entrée. Aucune surprise, aucun hasard, aucun mystère.

• Performante dans les domaines fondés sur des règles : l’IA traditionnelle excelle dans les domaines où les règles sont claires et les connaissances structurées. Par exemple, dans le droit, l’IA aide à analyser les documents juridiques et à repérer les incohérences grâce à une logique fondée sur des règles.

• Facile à déboguer et à vérifier : lorsqu’un problème survient dans un système d’IA symbolique, vous n’avez pas besoin d’un data scientist titulaire d’un diplôme avancé en réseaux neuronaux, mais de quelqu’un qui comprend la logique. L’IA symbolique, c’est comme des Lego. Si quelque chose casse, vous voyez où et pouvez remettre la pièce en place.

Dans les environnements à enjeux élevés et soumis à des règles strictes, elle reste la solution de référence, non pas parce qu’elle apprend, mais parce qu’elle sait ce qu’elle fait. Parfois, la meilleure IA n’est pas celle qui devine, mais celle qui explique.

Limites de l’IA traditionnelle

L’IA traditionnelle (symbolique) excelle dans le domaine pour lequel elle a été conçue : les systèmes bien définis, fondés sur des règles, où la logique et la traçabilité sont essentielles. Mais quand le monde devient imprévisible, l’IA symbolique montre ses limites. Face à l’ambiguïté et aux termes vagues comme « bientôt » ou « près », elle peine à s’y retrouver. Sans définition minutieuse de chaque cas limite, elle ne peut ni apprendre à partir de schémas ni interpréter des données désordonnées et non structurées comme le ferait un modèle moderne de machine learning. Elle est également fragile : même de petits changements dans les données d’entrée peuvent la mettre en défaut, et chaque mise à jour oblige des experts du domaine à réécrire des ensembles de règles complexes. Pourtant, cette rigidité est, ironiquement, un atout dans des domaines comme la sécurité du code.

Dans ce domaine, notamment pour retracer les chemins d’appel ou identifier des vulnérabilités, la cohérence, l’explicabilité et l’absence totale d’hallucinations ne sont pas de simples avantages : elles sont essentielles. Voilà pourquoi l’IA symbolique reste une alliée précieuse dans des outils comme ceux de Snyk : elle ne devine pas, elle raisonne. Et lorsque le prix d’une mauvaise réponse est du temps perdu pour les développeurs ou une vulnérabilité manquée, le raisonnement l’emporte à tous les coups.

Le point de vue de Snyk sur l’IA symbolique 

Combiner l’IA symbolique, le machine learning (ML) et les grands modèles de langage (LLM), en les appliquant à un même workflow de sécurité des développeurs, permet d’obtenir des résultats impossibles à atteindre avec un seul modèle.

Dans cet exemple, l’IA symbolique nous permet de tester les problèmes à partir d’une compréhension abstraite du flux de données. Les résultats sont ainsi plus précis, car vous testez les flux, les sources, les fonctions de nettoyage et les puits de données, plutôt que de rechercher des correspondances de chaînes de caractères. Nous utilisons le ML pour générer de nouvelles règles applicables aux recherches, ce qui améliore leur précision et leur couverture au fil du temps. Lorsqu’une vulnérabilité est détectée, nous utilisons un LLM pour générer un correctif, puis nous testons une « version » du code corrigé avant même de le présenter à l’utilisateur, afin de vérifier que le correctif fonctionne et ne crée pas de nouveaux problèmes. 

Si vous n’utilisiez qu’une seule de ces approches — uniquement le correctif généré par le LLM ou uniquement le ML —, vous ne pourriez pas proposer en temps réel une analyse rapide et complète dans l’IDE, avec les problèmes détectés et les correctifs suggérés dans un même workflow. Le développeur devrait alors répéter des étapes, au détriment de la productivité qu’il espérait gagner grâce à l’IA, ou risquer d’appliquer un « correctif » qui serait lui-même vulnérable.

L’approche intégrée donne les meilleurs résultats en utilisant le bon outil au bon moment. Nous suivons chaque état de la variable et ce qui lui arrive, par exemple une écriture après une lecture ou un double verrouillage par mutex. Ces règles sont ensuite évaluées et vérifiées.

L’IA symbolique, c’était comme enseigner à une machine à l’aide de manuels, d’organigrammes et de recueils de règles, en lui donnant structure, ordre et logique. Elle ne pouvait pas apprendre à partir des données comme l’IA moderne, mais elle pouvait expliquer son raisonnement, une capacité qui échappe encore aux modèles boîte noire d’aujourd’hui.

En fin de compte, « Si le deep learning relève de l’instinct, l’IA symbolique relève de la sagesse. »