Anti-hallucination et ancrage factuel

Pourquoi ancrer un modèle dans les faits

Un modèle de langagegrand modèle de langageIAModèle entraîné à prédire le token suivant d'une séquence de texte. Toutes ses capacités apparentes — résumer, traduire, coder — découlent de cette unique tâche.Voir dans le glossaire ne consulte pas une base de donnéesdonnéesIAEnsemble d'informations structurées ou non utilisées pour entraîner, évaluer ou alimenter un modèle. La qualité, la quantité et la représentativité des données sont les facteurs décisifs pour les performances en apprentissage automatique.Voir dans le glossaire au moment de répondre : il génère la suite de texte statistiquement la plus probable compte tenu de son entraînement et du contextefenêtre de contexteIAQuantité de texte qu'un modèle peut prendre en compte simultanément : question, documents fournis et historique. Au-delà, les éléments les plus anciens sortent du champ.Voir dans le glossaire fourni dans le promptpromptIAConsigne ou contexte fourni à un modèle de langage pour orienter sa réponse. La qualité du prompt conditionne souvent la qualité du résultat.Voir dans le glossaire. Cette mécanique produit des résultats impressionnants pour reformuler, synthétiser ou structurer de l'information — mais elle ne garantit rien sur l'exactitude factuelle du contenu produit. Le modèle peut énoncer une citation inventée, une date erronée ou une référence légale inexistante avec exactement la même fluidité et la même assurance qu'un fait rigoureusement vérifié.

Pour un usage professionnel — rédaction juridique, contenu SEO, support client, synthèse documentaire — ignorer ce risque revient à déléguer une responsabilité que l'outil ne peut pas assumer seul. Ce chapitre présente quatre leviers complémentaires pour réduire ce risque et le rendre détectable : l'exigence de citations vérifiables, la formulation explicite de l'incertitude, le RAGRAGIATechnique consistant à rechercher les documents pertinents et à les fournir au modèle dans son contexte. Elle permet des réponses à jour et citables, ce que l'affinage ne permet pas.Voir dans le glossaire léger (recherche documentaire injectée dans le prompt), et l'organisation d'une vérification humaine systématique.

Aucune technique de prompt n'élimine l'hallucinationhallucinationIAProduction par un modèle d'un énoncé faux formulé avec la même assurance qu'un fait établi. Le phénomène est structurel : le modèle optimise la vraisemblance, pas la vérité.Voir dans le glossaire : le risque est structurel au fonctionnement des modèles génératifs, il ne disparaîtra pas avec une meilleure formulation ni avec une version future du modèle. L'objectif ici est de réduire sa fréquence, de le rendre détectable, et de construire un processus de production qui ne repose jamais sur la confiance aveugle envers la sortie brute.

Comprendre la source du problème

Trois situations déclenchent typiquement une hallucination :

• Le sujet est absent ou sous-représenté dans les données d'entraînement. Le modèle complète par analogie avec des structures qu'il connaît, ce qui produit un texte plausible mais non vérifié — un nom d'auteur inventé pour un ouvrage réel, par exemple.
• La question suppose une réponse qui n'existe pas. Face à « quelle est la jurisprudence de 2023 sur X », un modèle a tendance à en fabriquer une plutôt qu'à répondre qu'elle n'existe pas, car le refus est statistiquement moins fréquent dans son entraînement qu'une réponse affirmative.
• Le contexte fourni est ambigu ou contradictoire. Le modèle tranche silencieusement au lieu de signaler l'ambiguïté, produisant une réponse cohérente en apparence mais fondée sur une interprétation non explicitée.

Dans les trois cas, le symptôme est identique : un texte fluide, structuré, au ton assuré — indiscernable en surface d'une réponse fiable. C'est précisément ce qui rend la vigilance nécessaire : un contenu mal écrit alerte naturellement le lecteur, un contenu bien écrit mais faux ne le fait pas.

Exiger des citations vérifiables

La première ligne de défense consiste à structurer le prompt pour que toute affirmation factuelle soit accompagnée d'une source explicite, ou d'une mention d'absence de source.

Formulations utiles :

• « Pour chaque affirmation chiffrée, indique la source ou précise qu'elle est une estimation. »
• « N'invente aucune référence. Si tu ne disposes pas d'une source fiable, dis-le explicitement plutôt que d'en proposer une approximative. »
• « Distingue dans ta réponse ce qui relève du fait établi, de l'interprétation et de l'hypothèse. »

Cette contrainte ne rend pas les citations plus exactes en soi — un modèle peut toujours inventer une source avec assurance. Son intérêt est ailleurs : elle transforme une réponse monolithique en une réponse segmentée, où chaque segment devient vérifiable indépendamment. C'est ce découpageChunkingIADécoupage d'un document en segments de taille fixe ou sémantique avant indexation vectorielle, pour optimiser la récupération RAG.Voir dans le glossaire qui rend la vérification humaine praticable dans un temps raisonnable.

« Rédige un paragraphe sur l'évolution du taux d'inflation en zone euro entre 2021 et 2023. Pour chaque chiffre cité, précise l'organisme source (Eurostat, BCE, INSEE...) et l'année de publication. Si un chiffre précis n'est pas disponible dans tes connaissances, remplace-le par une fourchette qualitative et signale-le clairement. »

Cette formulation ne garantit pas l'exactitude des sources citées — elles doivent être vérifiées indépendamment — mais elle réduit la probabilité qu'une affirmation chiffrée soit présentée sans aucun ancrage apparent.

Faire exprimer l'incertitude au modèle

Par défaut, un modèle de langage a tendance à répondre avec un niveau de confiance uniforme, que la question porte sur un fait très documenté ou sur un détail marginal. Cette absence de gradation est trompeuse pour le lecteur, qui ne peut pas distinguer une réponse solide d'une réponse fragile à la seule lecture du ton.

Il est possible de demander explicitement au modèle de graduer sa confiance :

• « Indique ton niveau de confiance pour chaque affirmation : élevé, moyen, faible. »
• « Si la réponse dépend d'informations qui ont pu évoluer après ta date de connaissance, signale-le. »
• « Propose la réponse la plus probable, puis liste les hypothèses alternatives plausibles. »

Une question fermée du type « quelle est la bonne réponse ? » pousse le modèle vers une affirmation unique et tranchée. Reformuler en « quelles sont les réponses possibles, et laquelle te semble la plus probable et pourquoi ? » ouvre la voie à une réponse nuancée, plus proche de l'état réel des connaissances du modèle.

Cette technique ne rend pas le modèle réellement conscient de ses limites — il n'a pas d'accès introspectif fiable à ses propres données d'entraînement — mais elle modifie la distribution de sortie de façon à faire apparaître les marqueurs d'incertitude plus souvent, ce qui reste un signal utile pour le relecteur, même imparfait.

Le RAG léger : ancrer par le contexte plutôt que par la mémoire

Le RAG (retrieval-augmented generation) consiste à injecter dans le prompt des extraits de documents pertinents, pour que le modèle réponde en se fondant sur un contexte fourni plutôt que sur ses seules connaissances internes. Une version complète implique une base vectoriellebase vectorielleIABase spécialisée qui indexe des embeddings pour retrouver rapidement les passages les plus proches d'une requête (cœur du RAG).Voir dans le glossaire, un moteur de recherche sémantique et une architecture applicative dédiée. Le RAG léger applique le même principe à l'échelle d'un prompt ponctuel, sans infrastructure : on copie-colle manuellement les extraits de source directement dans le contexte de la conversation avant de poser la question.

Le principe fonctionne parce qu'un modèle de langage traite le contenu du contexte immédiat avec une priorité plus forte que ses connaissances entraînées : il est plus susceptible de reformuler correctement une information présente dans le prompt que de la retrouver fidèlement dans sa mémoire paramétrique. Concrètement :

1. Rassembler les extraits de documents pertinents (rapport interne, page de documentation, extrait de contrat).
2. Les coller dans le prompt, clairement délimités (balises, tirets, numérotation).
3. Demander explicitement une réponse fondée uniquement sur ces extraits : « Réponds uniquement à partir des extraits fournis ci-dessus. Si l'information n'y figure pas, indique-le au lieu de compléter avec tes connaissances générales. »

Même avec un contexte fourni, un modèle peut mélanger une information du contexte avec une connaissance externe, ou mal résumer un passage ambigu. Le risque d'hallucination diminue nettement mais ne disparaît pas : la vérification humaine reste nécessaire, en particulier sur les chiffres, les noms propres et les clauses juridiques.

Le RAG léger est particulièrement adapté aux cas où la source fait autorité et est disponible sous forme courte : une fiche produit, un extrait de CGV, un passage de norme. Il devient impraticable dès que le volume de documents dépasse ce qu'on peut raisonnablement coller dans un prompt — c'est à ce stade qu'une architecture RAG complète, avec indexation et recherche automatisée, devient pertinente.

Organiser la vérification humaine

Aucune des techniques précédentes ne dispense d'une relecture. Leur rôle est de rendre cette relecture plus rapide et plus ciblée, pas de la remplacer. Une vérification humaine efficace repose sur une hiérarchisation du risque plutôt que sur une relecture uniforme de tout le contenu.

L'absence de marqueur d'incertitude dans une réponse ne signifie pas que le contenu est fiable — un modèle peut omettre d'exprimer un doute même quand la technique de prompt le lui demandait. Traiter les instructions de sourcing et d'incertitude comme des filtres qui réduisent le bruit, jamais comme une preuve d'exactitude.

Une pratique efficace consiste à faire correspondre chaque affirmation à risque élevéhaut risqueConformitéCatégorie de l'AI Act regroupant les usages soumis à conditions strictes : recrutement, crédit, éducation, infrastructures critiques. Elle impose documentation, examen des biais et contrôle humain effectif.Voir dans le glossaire à une action de vérification concrète avant publication : recherche indépendante, consultation d'une base officielle, ou validation par un expert du domaine. Ce travail est incompressible dans un contexte professionnel où l'erreur a un coût — juridique, réputationnel ou financier.

Combiner les leviers dans un même prompt

Les quatre techniques se combinent naturellement dans une seule instruction bien construite :

• Contexte documentaire injecté (RAG léger) quand une source est disponible.
• Exigence de citation ou de mention d'absence de source pour chaque affirmation factuelle.
• Demande explicite de graduation de la confiance.
• Segmentation de la réponse pour faciliter une vérification humaine ciblée sur les passages à risque.

« Voici trois extraits de notre documentation interne [extraits collés]. Rédige une réponse client à la question suivante, en te fondant uniquement sur ces extraits. Pour chaque affirmation, précise l'extrait source. Si la question déborde du contenu fourni, indique-le clairement plutôt que de compléter avec des connaissances générales. Signale les points où tu as un doute. »

Ce type de prompt ne produit pas un résultat parfait à chaque itération, mais il transforme la nature de l'erreur possible : plutôt qu'une affirmation fausse noyée dans un texte fluide, on obtient une réponse structurée où les zones de risque sont identifiables et donc vérifiables en un temps raisonnable.

Pièges fréquents à éviter

• Confondre fluidité et fiabilité. Un texte bien écrit rassure à tort ; la qualité rédactionnelle et l'exactitude factuelle sont deux dimensions indépendantes chez un modèle génératif.
• Vérifier uniquement la sortie finale. Si le prompt combine plusieurs étapes (extraction, puis synthèse, puis reformulation), une erreur introduite tôt se propage et se dilue dans les étapes suivantes, la rendant plus difficile à repérer en bout de chaîne.
• Utiliser un RAG léger avec des documents périmés. Le contexte injecté prime sur la mémoire du modèle : coller un extrait obsolète produit une réponse fausse avec la même assurance qu'un extrait à jour. La fraîcheur de la source conditionne la fiabilité du résultat.
• Traiter l'expression d'incertitude comme rare et donc négligeable. Un modèle correctement sollicité peut signaler un doute sur une proportion significative de ses affirmations dans un domaine technique pointu ; ignorer ces signaux revient à annuler l'intérêt de la technique.
• Déléguer la vérification à un second modèle sans supervision humaine. Faire relire une réponse par un autre prompt peut détecter certaines incohérences internes, mais un modèle n'a pas plus accès à la vérité qu'un autre : cette étape complète la vérification humaine, elle ne la remplace pas.
• Appliquer le même niveau de vigilance à tout le contenu. Relire un paragraphe de transition stylistique avec la même rigueur qu'une clause contractuelle dilue l'attentionattentionIAMécanisme par lequel un modèle pondère l'importance de chaque token du contexte lorsqu'il en traite un autre, quelle que soit la distance qui les sépare.Voir dans le glossaire disponible et ralentit la production sans réduire le risque réel.

Checklist avant publication

• Chaque affirmation chiffrée ou factuelle à risque élevé dispose d'une source identifiée et vérifiée indépendamment.
• Le prompt demandait explicitement une mention d'absence de source lorsque celle-ci n'existe pas.
• Les extraits utilisés en RAG léger sont à jour et proviennent d'une source faisant autorité sur le sujet traité.
• Les marqueurs d'incertitude produits par le modèle ont été lus et pris en compte, pas ignorés par habitude.
• La vérification a été proportionnée au niveau de risque du contenu, pas appliquée uniformément ou négligée entièrement.
• Une personne identifiée porte la responsabilité de la validation finale avant publication.

Ce qu'il faut retenir

L'ancrage factuel n'est pas une case à cocher mais une discipline de production : elle suppose d'accepter qu'aucune sortie de modèle ne soit publiée sans un filtre humain proportionné au risque du contenu. Les techniques de prompt — citation, incertitude, RAG léger — ne remplacent pas ce filtre, elles le rendent praticable en réduisant le volume de vérification nécessaire et en concentrant l'attention sur les zones réellement fragiles. Un processus mature documente explicitement quels contenus exigent une vérification systématique et lesquels tolèrent une relecture légère, plutôt que de laisser cette décision à l'appréciation ponctuelle de chaque utilisateur.