Un assistant interne cite un article de loi qui n’existe pas. Un chatbot client annonce une politique de remboursement que l’entreprise n’a jamais eue. Un outil de synthèse attribue à un fournisseur un engagement qui ne figure nulle part dans le contrat. Dans les trois cas, la réponse est bien rédigée, assurée, et fausse.
C’est ce qu’on appelle une hallucination : le modèle produit une information plausible mais inexacte. C’est le premier frein à la mise en production de beaucoup de projets IA, et à juste titre. La bonne nouvelle, c’est qu’on sait aujourd’hui les réduire fortement, à condition de comprendre d’où elles viennent.
Pourquoi un LLM invente
Un modèle de langage ne consulte pas une base de faits. Il génère du texte en prédisant, mot après mot, la suite la plus probable compte tenu de ce qu’il a appris et de ce qu’on lui fournit. Quand l’information est bien présente, dans ses données d’entraînement ou dans le contexte, cette prédiction tombe généralement juste. Quand elle manque, le modèle ne s’arrête pas pour autant : il produit la suite qui « ressemble » le plus à une bonne réponse.
Autrement dit, le modèle n’a pas de mécanisme natif pour distinguer « je sais » de « je devine ». Et comme il a été entraîné à être utile et à répondre, il préfère souvent une réponse plausible à un aveu d’ignorance.
Une hallucination n’est pas un bug ponctuel. C’est ce que fait un modèle quand on lui demande une information qu’il n’a pas.
Les situations qui les favorisent
- Les questions sur des faits précis : dates, chiffres, références juridiques, noms, citations. Plus la réponse attendue est spécifique, plus le risque est élevé.
- Les informations récentes ou internes : tout ce qui ne figurait pas dans les données d’entraînement du modèle, comme vos tarifs, vos procédures ou vos produits, doit lui être fourni.
- Un contexte incomplet ou contradictoire : un système RAG qui remonte de mauvais documents, ou des documents qui se contredisent, pousse le modèle à combler les trous.
- Des consignes qui forcent une réponse : un prompt qui exige « toujours répondre » ou un format rigide sans option « je ne sais pas ».
- Les longues chaînes de raisonnement : une petite erreur au début se propage et s’amplifie au fil des étapes.
Les leviers qui réduisent vraiment les hallucinations
Il n’existe pas de réglage magique. La fiabilité vient d’une combinaison de choix de conception, chacun réduisant une partie du risque.
- Ancrer les réponses dans vos sources : c’est le levier le plus puissant. Avec un système RAG bien construit, le modèle répond à partir de documents fournis, pas de sa mémoire. La qualité du découpage et de la recherche documentaire compte autant que le modèle lui-même.
- Exiger des citations : demander au modèle d’indiquer la source de chaque affirmation, et vérifier automatiquement que la source existe et contient bien l’information.
- Autoriser explicitement le « je ne sais pas » : une consigne claire, et un format de réponse qui prévoit ce cas, réduisent nettement les réponses inventées.
- Restreindre le périmètre : un assistant qui ne traite qu’un domaine défini, et refuse poliment le reste, hallucine beaucoup moins qu’un assistant généraliste.
- Laisser les calculs et les données au code : un montant, une date ou un stock doivent venir d’un système fiable (base de données, ERP, calcul), pas être générés par le modèle.
- Structurer les sorties : quand la réponse doit alimenter un autre outil, un format strict et validé limite les dérives.
Mesurer avant de déployer
On ne réduit bien que ce que l’on mesure. Avant toute mise en production, nous construisons avec nos clients un jeu de questions de test représentatif, avec les réponses attendues et leurs sources. Il inclut volontairement des questions pièges : des sujets hors périmètre, des informations absentes de la base, des formulations ambiguës.
Ce jeu de test sert à comparer les réglages, à valider chaque évolution, et à suivre la qualité dans le temps. Une fois en production, on complète avec des retours utilisateurs simples (réponse utile ou non) et une relecture régulière d’un échantillon de conversations. Un taux d’hallucination ne se décrète pas : il se mesure, et il doit rester sous un seuil défini avec le métier.
Un exemple concret
Un service client veut un assistant capable de répondre aux questions sur les conditions de garantie de ses produits. Le premier prototype, construit sur un modèle seul, répond avec aisance… et invente des durées de garantie pour les produits qu’il ne connaît pas.
La version déployée change trois choses : les réponses s’appuient uniquement sur les fiches produit et les conditions générales indexées, chaque réponse cite le document utilisé, et l’assistant a pour consigne de répondre « je ne trouve pas cette information, je transmets à un conseiller » quand aucune source ne couvre la question. Les durées de garantie elles-mêmes sont lues directement dans la base produit. Sur le jeu de test, les réponses inventées deviennent rares, et celles qui restent sont détectées par la vérification des citations.
Notre recommandation
Ne demandez pas « ce modèle hallucine-t-il ? », car la réponse est toujours oui dans une certaine mesure. Demandez plutôt : « mon système est-il conçu pour que le modèle ait l’information, qu’il puisse dire qu’il ne sait pas, et que ses erreurs soient détectées ? ». Si vous répondez oui aux trois, les hallucinations deviennent un risque maîtrisé plutôt qu’un obstacle.