Ce qu’il faut retenir
- Une réponse peut citer le bon document tout en lui faisant dire autre chose. La présence d’un lien mesure une présentation, pas la justesse de l’affirmation.
- La recherche doit appliquer les droits de l’utilisateur avant de transmettre des passages au modèle. Cacher ensuite la référence ne retire pas l’information déjà révélée.
- La recette doit séparer qualité de recherche, soutien des affirmations, fraîcheur des documents et respect des accès.
Mise à jour du 1er octobre 2026 : sources techniques vérifiées à cette date.
Un assistant documentaire répond avec aplomb, ajoute trois références et affiche une interface rassurante. Le responsable produit ouvre la première pièce : elle contient bien le sujet recherché, mais aucune preuve de la conclusion proposée. Ce défaut est particulièrement gênant lorsque la réponse devient une consigne opérationnelle. L’utilisateur voit une référence ; l’équipe technique doit vérifier une relation entre chaque affirmation et un passage précis.
Ce que le RAG apporte réellement
La génération augmentée par recherche, ou RAG, assemble deux opérations : retrouver des extraits et demander à un modèle de produire une réponse à partir d’eux. Elle permet d’introduire des connaissances propres à l’entreprise sans modifier systématiquement les paramètres du modèle. Elle ne transforme pas ces connaissances en preuve automatique. Le système peut sélectionner un passage hors contexte, ignorer une exception ou confondre une ancienne version avec la règle applicable.
Le travail scientifique ALCE, consacré aux réponses accompagnées de citations, distingue notamment exactitude et qualité des références. Ce cadre fournit une distinction utile pour la recette : une réponse agréable à lire et une réponse étayée ne sont pas le même résultat. Les performances rapportées dans ce travail de 2023 ne doivent pas être utilisées comme mesure d’un assistant déployé aujourd’hui.
Le corpus doit garder un identifiant stable du document, sa version, sa date de validité et les coordonnées du passage. Un simple nom de fichier ne suffit pas : deux documents peuvent porter le même nom, un fichier peut être remplacé et un lien peut pointer vers une version différente de celle effectivement utilisée. Une empreinte du contenu aide à établir cette correspondance sans exposer publiquement les pièces privées.
Vérifier la citation à l’échelle de l’affirmation
La bonne unité de contrôle est la proposition vérifiable. « Le service conserve les demandes pendant trente jours et les exporte au format CSV » contient deux propositions. Un passage peut soutenir la conservation, mais pas l’export. La recette doit donc examiner la couverture des affirmations plutôt que compter les liens en bas de réponse.
Pour chaque réponse, demander aux annotateurs de distinguer quatre états : soutenu, contredit, absent des sources et impossible à trancher. Une citation qui contient le mot recherché mais pas l’information attendue appartient à la troisième catégorie. Une formulation prudente n’excuse pas une contradiction. En revanche, une abstention explicite peut constituer une bonne réponse lorsque le corpus est incomplet.
| Contrôle | Question de recette | Preuve attendue |
|---|---|---|
| Attribution | Le passage est-il celui utilisé ? | Identifiant de version et emplacement conservés |
| Soutien | Le passage implique-t-il l’affirmation ? | Annotation argumentée, avec exception éventuelle |
| Complétude | Une réserve essentielle a-t-elle disparu ? | Lecture des passages voisins et des renvois |
| Actualité | Une règle plus récente remplace-t-elle celle-ci ? | Politique explicite de priorité documentaire |
| Accès | Cet utilisateur peut-il lire cette preuve ? | Autorisation vérifiée avant génération |
Une vérification par un second modèle peut aider à trier les réponses. Elle doit être calibrée sur des annotations humaines, conserver ses propres erreurs et permettre une contestation. Deux modèles peuvent partager la même interprétation incorrecte. Pour les réponses qui déclenchent un engagement, la validation humaine reste une décision de processus, avec un responsable identifiable.
Deux sens différents du mot « droits »
Les droits d’accès définissent qui peut consulter une pièce. Les droits d’utilisation définissent les usages autorisés de son contenu. Posséder un accès technique ne prouve pas qu’un document peut être copié dans un index, transmis à un prestataire ou reproduit dans une réponse publique. Le registre documentaire doit enregistrer provenance, permission d’usage, destinataires et restrictions de diffusion.
Pour les contenus soumis à licence ou au droit d’auteur, une validation adaptée au contrat et à la juridiction reste nécessaire. Le guide ne fournit pas de règle juridique universelle. L’architecture peut cependant rendre les arbitrages exécutables : bloquer l’ingestion sans statut approuvé, limiter la restitution à des extraits autorisés et conserver les conditions associées à la source. Une mention « source : Internet » ne documente aucune autorisation.
Les droits d’accès doivent suivre la recherche. Les fragments et leurs métadonnées peuvent eux-mêmes révéler un nom de client ou un projet confidentiel. Appliquer un filtre seulement dans l’interface finale est trop tard si l’information a déjà traversé la génération, les traces ou un cache partagé. Le contrôle doit aussi couvrir les requêtes hybrides, les suggestions et les résultats réutilisés.
Ce point rejoint les risques de cybersécurité propres aux agents IA : la pertinence d’une information n’autorise pas sa divulgation. Le référentiel OWASP sur l’injection de consignes rappelle également qu’un contenu retrouvé peut chercher à influencer le modèle. Un document autorisé et un document digne de confiance sont deux qualifications différentes.
Un scénario de support qui met les exceptions au premier plan
Exemple hypothétique. Un éditeur veut aider son équipe de support à expliquer les modalités d’export. Le corpus contient une documentation publique, un contrat client ancien et une note commerciale qui annonce une option future. La question « Ce client peut-il récupérer toutes ses données ? » paraît simple. Elle exige pourtant de connaître l’utilisateur, le client concerné, le produit et la période applicable.
La recherche limite d’abord les documents au périmètre autorisé. Elle favorise ensuite les versions en vigueur selon une politique définie, sans laisser le modèle choisir librement la hiérarchie contractuelle. La réponse présente la capacité documentée, les restrictions connues et un lien vers le passage exact. Si le contrat et la documentation divergent, elle signale le conflit et demande une vérification au responsable de compte.
La recette inclut une question dont la réponse est absente, une pièce retirée, un accès révoqué et une contradiction entre versions. Elle vérifie aussi qu’une copie en cache ne restaure pas l’ancien droit. Le succès n’est pas le nombre de questions auxquelles l’assistant répond : c’est la proportion de réponses utiles dont la preuve est consultable et cohérente, sans fuite entre clients.
Une recette réutilisable sans score trompeur
- Constituer un lot représentatif. Mélanger questions courantes, négatives, ambiguës et sensibles. Conserver les réponses attendues et les passages de référence.
- Tester la recherche seule. Mesurer si une preuve pertinente apparaît parmi les passages récupérés. Une génération ne peut pas réparer durablement une recherche qui ignore la bonne pièce.
- Tester la génération sur les mêmes passages. Annoter soutien, omissions et abstentions. Utiliser des critères distincts pour chaque type d’erreur.
- Changer l’identité. Rejouer les questions avec plusieurs profils d’accès. Un résultat interdit compte comme un défaut de sécurité même si son contenu est exact.
- Rejouer après changement. Toute modification du découpage, des embeddings ou de la politique de recherche exige une comparaison sur le lot conservé.
La comparaison doit garder le coût par réponse vérifiée et le temps de contrôle. Ces dépenses prolongent l’analyse du coût réel de l’IA en entreprise. Un assistant peu cher par appel peut devenir coûteux lorsqu’il impose de retrouver manuellement chaque preuve. À l’inverse, une réponse courte et bien attribuée peut réduire ce travail.
Pour relier ces contrôles aux applications existantes, la conception des intégrations API doit prévoir identifiants, autorisations et erreurs documentaires dès le contrat d’échange. Ajouter des citations à la fin du projet ne remplace pas cette traçabilité.
Ce que cette méthode ne garantit pas
Une réponse entièrement soutenue peut rester fausse si le document source est erroné. Une bonne recette documentaire ne certifie pas l’exhaustivité du corpus ni la conformité de tous les usages. Les textes complexes comportent parfois des renvois ou des conditions qui dépassent la taille d’un fragment ; il faut alors ouvrir la pièce complète. La politique doit autoriser cet arrêt plutôt que récompenser une réponse forcée.
Avant d’élargir l’usage, faire vérifier un échantillon de réponses réelles par les propriétaires des documents. Le livrable utile est une liste d’erreurs corrigibles : recherche, version, autorisation, restitution ou source. Cette séparation permet de décider quelle étape améliorer et quelles questions garder hors automatisation.
Sources et références
Sources primaires consultées le 1er octobre 2026 : ALCE, Gao et collaborateurs, 2023 ; OWASP, Prompt Injection, édition 2025. Les méthodes de recette et le scénario présentés ici sont des recommandations, sans résultat de déploiement revendiqué.
