Non, un LLM ne « comprend » pas ce que vous lui dites

« L’IA a compris ma question. » On entend cette phrase, ou une variante, dans presque toutes les réunions où un LLM est démontré pour la première fois. Elle n’est pas absurde : la réponse était pertinente, formulée dans un français impeccable, adaptée au contexte. Tout, dans le résultat, ressemble à de la compréhension.

Le problème n’est pas que cette phrase soit un peu imprécise. C’est qu’elle induit de mauvaises décisions : on fait confiance à une réponse parce qu’elle « a l’air » comprise, on rédige des prompts en supposant que le modèle devine une intention non formulée, on s’étonne qu’il « invente » une information avec la même assurance qu’une information exacte. Comprendre ce qui se passe réellement change concrètement la façon d’utiliser ces outils, et surtout la façon de leur faire confiance.

Ce qu’un LLM fait réellement : prédire le mot suivant

Un grand modèle de langage ne « lit » pas une phrase au sens où nous la lisons. Il la découpe en unités appelées tokens (des mots ou des fragments de mots), calcule une probabilité pour chaque token qui pourrait suivre, en choisit un, l’ajoute au texte, puis recommence l’opération avec ce nouveau texte, token après token, jusqu’à la fin de la réponse.

C’est tout. Il n’y a, à aucun moment de ce cycle, une étape où le modèle « comprend » la question au sens où il en construirait une représentation vraie, vérifiée, ancrée dans le monde réel. Il y a un calcul statistique, répété token après token, entraîné sur des quantités massives de texte pour que ce calcul produise des suites plausibles.

Pourquoi ça donne quand même l’impression de comprendre

La raison pour laquelle ce mécanisme purement statistique produit des réponses qui semblent réfléchies tient à l’échelle : un modèle entraîné sur des centaines de milliards de mots capture, dans ses probabilités, une quantité phénoménale de régularités du langage humain, qui reflètent elles-mêmes une quantité phénoménale de raisonnements, de faits et de structures logiques déjà écrits quelque part par des humains.

Prédire le mot statistiquement le plus probable après « pour résoudre une équation du second degré, il faut d’abord » revient, à cette échelle, à reproduire un raisonnement mathématique correct, parce que ce raisonnement existe des millions de fois dans les données d’entraînement, sous des formes proches. Le résultat ressemble à de la compréhension parce qu’il en reproduit fidèlement la trace écrite, sans que le mécanisme sous-jacent soit de la compréhension.

Un LLM ne sait pas ce qu’il vient de dire. Il sait seulement que la suite qu’il a produite était, statistiquement, une continuation plausible de ce qui précédait.

Ce qu’un LLM n’a pas

Cette distinction a trois conséquences concrètes qu’il vaut la peine de nommer clairement. D’abord, un LLM n’a pas de représentation persistante et vérifiée du monde : il ne « sait » pas que Paris est la capitale de la France au sens où il aurait vérifié ce fait, il a simplement observé cette association des millions de fois dans son entraînement et la reproduit avec une très forte probabilité, ce qui donne le même résultat en pratique, mais pas le même mécanisme.

Ensuite, un LLM n’a pas de mécanisme interne de vérité : rien, dans son architecture, ne distingue une continuation statistiquement plausible mais fausse d’une continuation statistiquement plausible et vraie. C’est exactement ce qui produit le phénomène d’hallucination : le modèle génère une référence, une citation ou un chiffre qui « sonne » juste dans la structure de la phrase, sans qu’aucun mécanisme interne n’ait vérifié son exactitude.

Enfin, un LLM n’a pas d’intention propre entre deux requêtes : chaque réponse part du texte reçu, pas d’un état mental continu. Ce qui ressemble à de la mémoire d’une conversation est en réalité le fait que l’historique complet est renvoyé au modèle à chaque nouveau message, pas une mémoire qu’il conserverait de lui-même.

Pourquoi ça change votre façon d’écrire un prompt

Une fois qu’on accepte que le modèle prédit la suite la plus plausible plutôt qu’il ne devine une intention, l’écriture d’un bon prompt change de nature. Un prompt vague laisse le modèle statistiquement libre de continuer dans n’importe quelle direction plausible, ce qui explique pourquoi deux personnes obtiennent des résultats très différents avec la même question mal posée. Un prompt qui donne explicitement le contexte, le format attendu et des exemples concrets réduit drastiquement l’espace des continuations plausibles, et donc la variabilité du résultat.

C’est aussi pour cette raison que le RAG fonctionne : en injectant le bon document dans le contexte avant de poser la question, on rend la réponse correcte statistiquement plus probable que n’importe quelle autre, parce qu’elle est littéralement présente dans le texte que le modèle vient de lire.

Pourquoi ça change la confiance qu’on accorde à une réponse

Si aucun mécanisme interne ne distingue le vrai du plausible, la conséquence opérationnelle est simple : toute réponse d’un LLM utilisée pour une décision qui compte doit pouvoir être vérifiée contre une source, pas acceptée sur la base de son ton assuré. Un modèle qui hallucine une statistique la formule avec exactement la même confiance apparente qu’un modèle qui cite une statistique réelle, parce que la confiance apparente n’est pas un signal de vérité, c’est un sous-produit du style d’écriture appris.

C’est également pourquoi un agent IA, tel qu’on en parle dans nos autres articles, a besoin de garde-fous explicites plutôt que d’un jugement qu’on lui prêterait à tort : il n’évalue pas la gravité d’une décision au sens humain du terme, il continue simplement la séquence la plus plausible compte tenu de ses instructions.

Un exemple concret d’hallucination

Demandez à un modèle de citer l’article de loi exact qui encadre un cas précis, sans lui fournir le texte source, et il produira souvent une référence qui a toutes les apparences de la vraisemblance : un numéro d’article plausible, une formulation juridique cohérente, parfois même un ton catégorique. Le mécanisme est exactement celui décrit plus haut : la structure « l’article X du code Y dispose que » est extrêmement fréquente dans les données d’entraînement, donc statistiquement facile à continuer de façon convaincante, indépendamment du fait que le numéro d’article généré corresponde à un texte qui existe réellement.

C’est pour cette raison précise que nous recommandons systématiquement le RAG dès qu’une réponse doit s’appuyer sur un texte de référence exact : en donnant au modèle le texte réel à citer plutôt qu’en le laissant deviner sa continuation la plus plausible, on élimine la cause même de ce type d’hallucination, pas seulement ses symptômes.

Et les modèles de raisonnement plus récents ?

Les modèles qui « réfléchissent avant de répondre », en produisant une suite d’étapes intermédiaires avant la réponse finale, améliorent réellement les résultats sur des tâches qui demandent plusieurs étapes logiques. Mais le mécanisme sous-jacent reste le même : chaque étape intermédiaire est elle-même générée par prédiction du token suivant, pas par un module de raisonnement séparé qui manipulerait des symboles vrais ou faux. Cela améliore la probabilité d’arriver à une continuation correcte sur des problèmes structurés, mais ça ne change rien au fait qu’aucune étape n’est vérifiée contre la réalité en cours de route.

Ce que ça implique pour la formation de vos équipes

La plupart des formations internes à l’IA générative qu’on croise se concentrent sur les fonctionnalités d’un outil : comment écrire un prompt, quels boutons cliquer, quelles intégrations activer. Peu abordent ce mécanisme de prédiction statistique, alors que c’est précisément ce qui détermine les bons réflexes : vérifier une réponse chiffrée avant de la citer, préférer un système RAG à une simple conversation dès qu’une source fiable existe, reformuler un prompt vague plutôt que blâmer le modèle pour une réponse à côté.

Dans les ateliers de formation que nous animons, la première heure ne parle jamais d’un outil en particulier : elle explique ce mécanisme, avec ce même schéma. L’expérience montre que les équipes qui comprennent pourquoi un modèle peut se tromper avec assurance développent naturellement de meilleurs réflexes que celles qui mémorisent une liste de bonnes pratiques sans en comprendre la logique sous-jacente.

En résumé

Un LLM ne comprend pas votre question, il prédit, token après token, la continuation la plus statistiquement plausible compte tenu de tout ce qu’il a lu. C’est un mécanisme suffisamment puissant pour produire des résultats qui ressemblent, la plupart du temps, à de la compréhension. Mais savoir que ce n’en est pas change tout : comment écrire un prompt, pourquoi le RAG fonctionne, et surtout, pourquoi aucune réponse ne mérite une confiance aveugle simplement parce qu’elle est bien formulée.