Générer des réponses à partir de la base de connaissances (Introduction à RAG)

Gains :

• Comprendre la logique de la génération basée sur la connaissance (RAG) et pourquoi elle réduit les hallucinations
• Possibilité de faire répondre le modèle par une citation, basée uniquement sur les documents sources fournis
• Capacité à gérer des questions qui ne sont pas dans la source en les transférant en toute sécurité, sans inventer de questions

Un modèle linguistique « sait » beaucoup de choses, mais il ne connaît pas la politique de retour actuelle de votre entreprise, votre liste de prix actuelle ou votre contrat d'expédition qui a changé hier. Pire encore, quand il ne sait pas, il invente souvent et écrit sur un ton extrêmement confiant. Il s'agit d'un défaut fatal du service client : le modèle indique « Les remboursements sont émis dans les 30 jours » alors que votre politique peut être de 14 jours. L'approche qui comble cette lacune s'appelle RAG : Retrieval-Augmented Generation, c'est-à-dire « production augmentée par récupération ».

L'idée est simple : le modèle répond à la question non pas de mémoire, mais à partir des documents sources corrects placés devant lui à ce moment-là. Premièrement, le bon élément de document pertinent pour la question est la « récupération », puis le modèle « génère » la réponse basée uniquement sur cet élément. Dans cette unité, vous comprendrez la logique de RAG et apprendrez à maîtriser le modèle afin qu'il ne s'en tienne qu'à la source vérifiée que vous fournissez.

Remarque : Cette unité enseigne la logique de travail et le côté invite de RAG. Les systèmes de recherche automatique de documents à l'échelle de l'entreprise (base de données vectorielles, etc.) nécessitent une installation technique ; La discipline est ici la base pour que ce système réponde correctement.

Pourquoi RAG réduit-il les hallucinations ?

L'hallucination se produit lorsque le modèle produit des informations irréelles comme si elles étaient réelles. Le modèle est programmé pour produire une réponse qui semble « possible » lorsqu’il détecte un écart ; Je ne sais pas si c'est vrai ou non. RAG comble cette lacune : vous donnez au modèle le texte pertinent avec la question et dites « réponse uniquement à partir d'ici ». De cette façon, le modèle n’a pas « besoin » de s’adapter.

Il y a trois composants :

• Base de connaissances : textes fiables tels que des FAQ, des documents de politique, des manuels de produits, des listes de prix.
• Récupération : Trouver le morceau de document contenant la réponse à la question et le remettre au modèle.
• Édition limitée : le modèle répond avec un devis, basé uniquement sur la pièce fournie.

Étape par étape : une réponse fidèle à la source

1. Préparez la source. Trouvez le texte sur lequel sera basée la réponse (politique, FAQ) dans un format clair et à jour.
2. Intégrez la source dans l'invite. Mettez le texte dans une balise comme <source>.
3. Écrivez la règle de fidélité. "Utilisez uniquement les informations de la source ; ne vous éloignez pas de la source."
4. Rendre la citation obligatoire. Laissez-le indiquer sur quelle section la réponse est basée.
5. Identifiez les comportements sans ressources. Si la réponse ne figure pas dans la source, qu'il dise « Je n'ai pas cette information » et qu'il la transmette.
6. Vérifier. Confirmez la réponse en la comparant avec la phrase source sur laquelle elle est basée.

Invites copiables

Invite de réponse basée sur la source sous-jacente :

Rôle : Vous êtes assistant support client. Répondez UNIQUEMENT à la question en vous basant sur les informations contenues dans le bloc <source> ci-dessous. N'ajoutez aucune information qui ne figure pas dans la source, devinez ou répondez à partir de vos connaissances générales. Ajoutez la section sur laquelle vous comptez à la fin de votre réponse au format "[Source : ...]". Si la réponse n'est pas dans la source, écrivez ce qui suit : "Je n'ai pas d'informations définitives à ce sujet, je vous transfère vers un responsable qui peut donner la bonne réponse."<source>{{ Policy_or_faq_text }></source>Question : {{ customer_question }}

En cas de multi-source, l'invite indiquant sur quel document il est basé :

Il existe plusieurs ressources numérotées ci-dessous. Lorsque vous répondez à la question, indiquez le numéro de la source que vous avez utilisée, par exemple [Source 2]. Si plusieurs sources vous contredisent, dites-le clairement et indiquez que vous devez demander laquelle est la plus à jour.<sources>1) {{ source_1 }}2) {{ source_2 }}3) {{ source_3 }}</sources>Question : {{ customer_question }}

Invite qui gère en toute sécurité la question non source :

Si la réponse à la question se trouve PARTIELLEMENT dans la source : répondez uniquement à la partie couverte par la source, et dites « ce détail n'est pas dans la source » pour la partie restante. Ne remplissez jamais la partie manquante en devinant.

Invite qui traduit la réponse dans la langue du client, mais reste fidèle à la source :

Traduisez l'expression officielle/technique de la source dans un langage simple et compréhensible par le client, mais NE modifiez PAS le sens et les valeurs numériques (jour, montant, tarif). Par exemple, arrondir « 14 jours calendaires » à « environ deux semaines » ; garder toute sa valeur.

Invite faible/Invite forte

Invite faible

Invite puissante

"Parlez-nous de notre politique de retour"

Incorpore la source + "Répondre ici uniquement" + demande un devis

Réponse de mémoire du modèle (peut-être fausse)

Réponse de votre document actuel

Si ce n'est pas dans la source, il l'invente

Il dit "Je n'ai pas cette information" et la transmet.

Peut arrondir et déformer les nombres

Maintient exactement le jour/montant/taux

La différence est que l'invite forte donne au modèle une ancre (texte source) et une interdiction (sortie de la source). Le modèle ne parle plus de mémoire, mais de la réalité qui est devant lui.

Trois mini-étuis

Cas 1 — L’ancien piège politique. "Retours acceptés dans les 30 jours", a déclaré le robot d'un magasin alors qu'il fonctionnait sans crédit ; Cependant, l'entreprise a réduit le délai à 14 jours. Lorsque le texte de la politique mise à jour est ajouté à la source dans l'installation RAG, le bot répond désormais « 14 jours calendaires [Source : Politique de retour, article 2] ». Les litiges de remboursement résultant de fausses promesses ont été réinitialisés.

Cas 2 – Détecter la contradiction. Un client a posé des questions sur les frais d'expédition. Les anciennes et les nouvelles listes de prix ont été saisies dans le système comme sources. Grâce à l'invite multi-sources, le modèle a déclaré : « Deux sources donnent des prix différents (49 TL et 59 TL) ; je dois confirmer celui actuel » et a transmis le problème à l'humain. Au lieu de donner au client un montant incorrect, il lui a fait part de son incertitude honnêtement.

Cas 3 — Discipline à réponse partielle. « Expédiez-vous le produit à l'étranger et qui paie les droits de douane ? » Dans la question, la source a seulement dit que l'envoi avait été effectué, il n'y avait rien sur qui avait payé la taxe. Le modèle disait : "Oui, l'expédition se fait à l'étranger [Source : Cargo FAQ]. Cependant, il n'est pas indiqué dans ce document qui paie les droits de douane ; je vous transfère au fonctionnaire pour clarifier cela." Au lieu d’une réponse à moitié vraie, à moitié fabriquée, elle a produit un résultat honnête et confiant.

Conseil : Conservez la version la plus récente et la plus unique de votre base de connaissances. Avoir les mêmes informations (par exemple la période de retour) écrites différemment dans trois documents distincts est le plus grand ennemi de RAG ; Le modèle réagit différemment selon celui qu’il regarde. Dédupliquez d’abord vos documents, puis automatisez-les.

Vérification : ne vous détendez pas simplement parce que la source existe

RAG réduit considérablement l'hallucination mais ne la réinitialise pas. Le modèle peut parfois mal interpréter la source, mélanger deux phrases ou tirer une « conclusion » qui ne figure pas dans la source. C'est pourquoi l'exigence de citation est essentielle : ouvrez la section sur laquelle la réponse prétend être basée et vérifiez si elle le dit réellement. Ce contrôle n'est pas négociable, notamment dans les réponses contenant des chiffres (jour, montant, taux) et des conditions (exception, condition).

Attention : si la source elle-même est erronée ou obsolète, RAG répète fidèlement cette erreur. Dire « le modèle parle depuis la source » ne signifie pas « le modèle parle correctement » ; Vous êtes responsable de l’actualité et de l’exactitude de votre source.

Garder la base de connaissances prête à répondre

La qualité de RAG dépend en grande partie de la manière dont le texte source est rédigé. Le modèle renvoie une réponse beaucoup plus précise que les textes bien structurés, intitulés et portant sur un seul sujet. Conseils pratiques : rédigez vos politiques sous forme de sections courtes et intitulées plutôt que de longs paragraphes imbriqués ; Laissez chaque section répondre à une seule question (« Combien de jours dure le délai de retour ? », « Quels produits ne peuvent pas être retournés ? »). Le fait de conserver les questions fréquemment posées (FAQ) sous forme de questions et réponses permet au modèle de trouver plus facilement la bonne pièce. Indiquer les valeurs telles que la date, le montant et le taux clairement et au même endroit dans le texte ; Écrire différemment le même numéro dans différentes sections rend le modèle confus.

Une autre habitude importante est de maintenir la base de connaissances en vie. Les politiques, les prix et les promotions varient ; Si la source n’est pas mise à jour, le modèle continue de répéter en toute sécurité l’ancienne vérité. À chaque changement de politique, mettez à jour la source et posez à nouveau au modèle quelques questions tests sur le sujet modifié pour confirmer qu'il donne la bonne réponse. Cette maintenance légère mais régulière évite au système RAG de « se détériorer silencieusement » au fil du temps.

Erreurs courantes

• Dire « expliquer notre politique » sans enterrer la source et s’appuyer sur la mémorisation du modèle.
• Ne pas définir la limite « réponse de la source uniquement » et le comportement non source.
• Ne pas demander de devis/référence de source et laisser la réponse invérifiable.
• Conserver des versions contradictoires des mêmes informations dans plusieurs documents de la base de connaissances.
• Permettre au modèle d’arrondir/interpréter les valeurs numériques.
• Oublier de mettre à jour la source, ce qui amène le modèle à répéter fidèlement les anciennes informations.

En résumé

• RAG signifie que le modèle produit sa réponse à partir du document source actuel, plutôt qu'à partir de la mémoire.
• Le moyen le plus pratique de réduire les hallucinations : enterrer la source, dire "ne répondez qu'ici", demander une citation.
• Si la réponse ne se trouve pas dans la source, il ne faut pas adapter un modèle ; Il devrait dire "Je ne l'ai pas" et le remettre.
• Rendre le modèle conscient des sources contradictoires ; Vous avez conservé exactement les valeurs numériques.
• La précision du RAG dépend de l’actualité de votre source ; Confirmez toujours le devis.

Tâche de candidature

Prenez un texte de politique réel (retour, expédition ou adhésion) de votre propre entreprise et intégrez-le en tant que source dans l'invite RAG de base ci-dessus. Posez ensuite trois questions : (1) une question dont la réponse est claire dans la source, (2) une question dont la réponse n'est pas du tout dans la source, (3) une question dont la réponse n'est qu'incomplète dans la source. Vérifiez que le modèle répond correctement, dit « Je ne l'ai pas » et marque honnêtement la réponse partielle et la réponse manquante, respectivement. Corrigez les comportements déviants en renforçant les règles de loyauté et de non-ressource dans l'invite.

liste de contrôle

• [ ] J'ai intégré la source actuelle sur laquelle la réponse sera basée dans l'invite.
• [ ] J'ai ajouté la règle "Réponse uniquement de la source, ne pas aller au-delà".
• [ ] J'ai mis une référence de source/une exigence de citation.
• [ ] J'ai défini le comportement de délégation si la réponse n'est pas disponible dans la source.
• [ ] J'ai exigé que les valeurs numériques soient conservées exactement.
• [ ] J'ai confirmé la réponse de la phrase source sur laquelle elle est basée.