Generieren von Antworten aus der Wissensdatenbank (Einführung in RAG) — Abteilung Anwendungen: Kundenservice und Vertrieb

Gewinne:

Verständnis der Logik der wissensbasierten Generierung (RAG) und warum sie Halluzinationen reduziert
Möglichkeit, das Modell mit Zitaten antworten zu lassen, die ausschließlich auf den bereitgestellten Quelldokumenten basieren
Fähigkeit, Fragen zu verwalten, die nicht in der Quelle enthalten sind, indem sie sicher übertragen werden, ohne Fragen zu erfinden

Ein Sprachmodell „weiß“ viel, kennt aber nicht die heutigen Rückgabebedingungen Ihres Unternehmens, Ihre aktuelle Preisliste oder Ihre gestern geänderte Versandvereinbarung. Schlimmer noch: Wenn er es nicht weiß, erfindet er es oft und schreibt in einem äußerst selbstbewussten Ton. Dies ist ein schwerwiegender Fehler im Kundenservice: Das Modell besagt „Rückerstattungen erfolgen innerhalb von 30 Tagen“, während Ihre Police möglicherweise eine Laufzeit von 14 Tagen hat. Der Ansatz, der diese Lücke schließt, heißt RAG: Retrieval-Augmented Generation, also „Retrieval-Augmented Production“.

Die Idee ist einfach: Das Modell beantwortet die Frage nicht aus dem Gedächtnis, sondern anhand der richtigen Quelldokumente, die ihm in diesem Moment vorgelegt werden. Zuerst wird der richtige Teil des Dokuments, der für die Frage relevant ist, „abgerufen“, dann „generiert“ das Modell die Antwort nur basierend auf diesem Teil. In dieser Einheit verstehen Sie die Logik von RAG und lernen, wie Sie das Modell so zügeln, dass es sich nur an die von Ihnen angegebene verifizierte Quelle hält.

Hinweis: In dieser Einheit werden die Arbeitslogik und die Eingabeaufforderungsseite von RAG vermittelt. Automatische Dokumentenabrufsysteme für Unternehmen (Vektordatenbank usw.) erfordern eine technische Installation; Disziplin ist hier die Grundlage dafür, dass das System richtig reagiert.

Warum reduziert RAG Halluzinationen?

Von einer Halluzination spricht man, wenn das Modell unwirkliche Informationen produziert, als ob sie real wären. Das Modell ist so programmiert, dass es eine Reaktion erzeugt, die „möglich“ erscheint, wenn es eine Lücke erkennt. Ich weiß nicht, ob es wahr ist oder nicht. RAG füllt diese Lücke: Sie geben dem Modell zusammen mit der Frage den tatsächlich relevanten Text und sagen „Nur von hier aus antworten“. Auf diese Weise muss das Modell nicht „passen“.

Es gibt drei Komponenten:

Wissensdatenbank: Zuverlässige Texte wie FAQs, Richtliniendokumente, Produkthandbücher, Preislisten.
Abrufen: Finden des Dokumentteils, das die Antwort auf die Frage enthält, und Übergeben dieser an das Modell.
Limitierte Auflage: Das Modell antwortet mit einem Angebot, das nur auf dem gelieferten Teil basiert.

Schritt für Schritt: Eine treue Antwort auf die Quelle

Bereiten Sie die Quelle vor. Finden Sie den Text, auf dem die Antwort basieren soll (Richtlinie, FAQ), in einem klaren und aktuellen Format.
Betten Sie die Quelle in die Eingabeaufforderung ein. Fügen Sie den Text in ein Tag wie <source> ein.
Schreiben Sie die Treueregel. „Verwenden Sie nur die Informationen aus der Quelle; weichen Sie nicht von der Quelle ab.“
Machen Sie eine Zitierung erforderlich. Lassen Sie ihn/sie angeben, auf welchem Abschnitt die Antwort basiert.
Identifizieren Sie nicht ressourcenbezogenes Verhalten. Wenn die Antwort nicht in der Quelle enthalten ist, lassen Sie ihn sagen: „Ich habe diese Informationen nicht“ und geben Sie sie weiter.
Verifizieren. Bestätigen Sie die Antwort, indem Sie sie mit dem Ausgangssatz vergleichen, auf dem sie basiert.

Kopierbare Eingabeaufforderungen

Antwortaufforderung basierend auf der zugrunde liegenden Quelle:

Rolle: Sie sind ein Kundendienstmitarbeiter. Beantworten Sie die Frage NUR auf der Grundlage der Informationen im <source>-Block unten. Fügen Sie keine Informationen hinzu, die nicht in der Quelle, Vermutung oder Antwort Ihres Allgemeinwissens enthalten sind. Fügen Sie den Abschnitt, auf den Sie sich verlassen, am Ende Ihrer Antwort im Format „[Quelle: ...]“ hinzu. Wenn die Antwort nicht in der Quelle enthalten ist, schreiben Sie Folgendes: „Ich habe keine endgültigen Informationen zu diesem Thema. Ich verweise Sie an einen Beamten, der die richtige Antwort geben kann.“<source>{{ Policy_or_faq_text }}</source>Frage: {{ customer_question }}

Bei mehreren Quellen wird die Aufforderung angezeigt, anzuzeigen, auf welchem Dokument es basiert:

Nachfolgend sind mehrere Ressourcen nummeriert. Geben Sie bei der Beantwortung der Frage die Nummer der von Ihnen verwendeten Quelle an, z. B. [Quelle 2]. Wenn Ihnen mehr als eine Quelle widerspricht, sagen Sie dies deutlich und sagen Sie, dass Sie nachfragen sollten, welche aktueller ist.<sources>1) {{ source_1 }}2) {{ source_2 }}3) {{ source_3 }}</sources>Frage: {{ customer_question }}

Eingabeaufforderung, die die Nicht-Quellenfrage sicher verwaltet:

Wenn die Antwort auf die Frage TEILWEISE in der Quelle zu finden ist: Beantworten Sie nur den Teil, der von der Quelle abgedeckt wird, und sagen Sie für den verbleibenden Teil „Dieses Detail ist nicht in der Quelle enthalten“. Ergänzen Sie den fehlenden Teil niemals durch Raten.

Eingabeaufforderung, die die Antwort in die Clientsprache übersetzt, aber der Quelle treu bleibt:

Übersetzen Sie den offiziellen/technischen Ausdruck in der Quelle in eine einfache Sprache, die der Kunde verstehen kann, aber ändern Sie NICHT die Bedeutung und die Zahlenwerte (Tag, Betrag, Rate). Runden Sie beispielsweise „14 Kalendertage“ auf „ungefähr zwei Wochen“; Den vollen Wert behalten.

Schwache Eingabeaufforderung / Starke Eingabeaufforderung

Schwache Aufforderung

Kraftvolle Aufforderung

„Erzählen Sie uns von unseren Rückgabebedingungen“

Bettet die Quelle ein + „Nur hier antworten“ + fordert ein Angebot an

Antwort aus der Erinnerung des Modells (vielleicht falsch)

Antwort aus Ihrem aktuellen Dokument

Wenn es nicht in der Quelle steht, erfindet er es

Er sagt „Ich habe diese Informationen nicht“ und gibt sie weiter.

Kann Zahlen runden und verzerren

Behält Tag/Betrag/Satz genau bei

Der Unterschied besteht darin, dass die starke Eingabeaufforderung dem Modell einen Anker (Quelltext) und ein Verbot (vom Quelltext ausgehend) gibt. Das Modell spricht nicht mehr aus der Erinnerung, sondern aus der Realität vor ihm.

Drei Mini-Hüllen

Fall 1 – Die alte Politikfalle. „Rückgaben werden innerhalb von 30 Tagen akzeptiert“, sagte der Bot eines Ladens, während er ohne Guthaben lief; Das Unternehmen verkürzte die Frist jedoch auf 14 Tage. Wenn der aktualisierte Richtlinientext zur Quelle in der RAG-Installation hinzugefügt wird, antwortet der Bot nun „14 Kalendertage [Quelle: Rückgabebedingungen, Artikel 2]“. Rückerstattungsstreitigkeiten aufgrund falscher Versprechungen wurden zurückgesetzt.

Fall 2 – Den Widerspruch erkennen. Ein Kunde fragte nach den Versandkosten. Als Quellen wurden sowohl die alte als auch die neue Preisliste in das System eingegeben. Dank der Multi-Source-Eingabeaufforderung sagte das Modell: „Zwei Quellen geben unterschiedliche Preise an (49 TL und 59 TL); ich muss den aktuellen bestätigen“ und übermittelte dem Menschen das Problem. Anstatt dem Kunden einen falschen Betrag mitzuteilen, teilte er die Unsicherheit ehrlich mit.

Fall 3 – Teilreaktionsdisziplin. „Versenden Sie das Produkt ins Ausland und wer zahlt den Zoll?“ In der Frage sagte die Quelle nur, dass die Lieferung erfolgt sei, es sei nichts darüber gesagt worden, wer die Steuer bezahlt habe. Das Modell sagte: „Ja, der Versand erfolgt ins Ausland [Quelle: Cargo FAQ]. Allerdings ist in diesem Dokument nicht angegeben, wer den Zoll zahlt; ich verweise Sie an den Beamten, um dies zu klären.“ Anstelle einer halb wahren, halb erfundenen Antwort wurde ein ehrliches und selbstbewusstes Ergebnis erzielt.

Tipp: Behalten Sie die aktuellste Version Ihrer Wissensdatenbank mit der einzigen Quelle der Wahrheit bei. Der größte Feind von RAG besteht darin, dass dieselben Informationen (z. B. die Rückgabefrist) unterschiedlich in drei separaten Dokumenten geschrieben sind. Das Modell reagiert unterschiedlich, je nachdem, welches es betrachtet. Deduplizieren Sie zunächst Ihre Dokumente und automatisieren Sie sie dann.

Überprüfung: Entspannen Sie sich nicht, nur weil die Quelle existiert

RAG reduziert die Halluzination erheblich, setzt sie jedoch nicht zurück. Das Modell kann manchmal die Quelle falsch interpretieren, zwei Sätze verwechseln oder eine „Schlussfolgerung“ ziehen, die nicht in der Quelle enthalten ist. Deshalb ist die Zitierpflicht entscheidend: Öffnen Sie den Abschnitt, auf dem die Antwort angeblich basiert, und prüfen Sie, ob dies tatsächlich der Fall ist. Diese Kontrolle ist nicht verhandelbar, insbesondere bei Antworten, die Zahlen (Tag, Menge, Rate) und Bedingungen (Ausnahme, Bedingung) enthalten.

Achtung: Sollte die Quelle selbst falsch oder veraltet sein, wiederholt RAG diesen Fehler getreulich. Zu sagen „das Modell spricht aus der Quelle“ bedeutet nicht „das Modell spricht richtig“; Sie sind für die Aktualität und Richtigkeit Ihrer Quelle verantwortlich.

Halten Sie die Wissensdatenbank antwortbereit

Die Qualität von RAG hängt maßgeblich davon ab, wie der Ausgangstext verfasst ist. Das Modell liefert eine viel genauere Antwort als gut strukturierte, betitelte Texte mit einem einzigen Thema. Praktischer Rat: Schreiben Sie Ihre Richtlinien in kurzen Abschnitten mit Titeln und nicht in langen, verschachtelten Absätzen. Lassen Sie jeden Abschnitt eine einzelne Frage beantworten („Wie viele Tage beträgt die Rückgabefrist?“, „Welche Produkte können nicht zurückgegeben werden?“). Indem Sie häufig gestellte Fragen (FAQs) im Frage-und-Antwort-Format aufbewahren, kann das Modell leichter das richtige Teil finden. Geben Sie Werte wie Datum, Betrag und Kurs deutlich und an einer Stelle im Text an; Das unterschiedliche Schreiben derselben Zahl in verschiedenen Abschnitten führt zu Verwirrung im Modell.

Eine weitere wichtige Angewohnheit besteht darin, die Wissensbasis am Leben zu erhalten. Richtlinien, Preise und Sonderangebote variieren; Wenn die Quelle nicht aktualisiert wird, wiederholt das Modell weiterhin sicher die alte Wahrheit. Aktualisieren Sie bei jeder Richtlinienänderung die Quelle und stellen Sie dem Modell erneut einige Testfragen zum geänderten Thema, um zu bestätigen, dass es die richtige Antwort gibt. Diese kleine, aber regelmäßige Wartung verhindert, dass das RAG-System mit der Zeit „stillschweigend ausfällt“.

Häufige Fehler

Sagen Sie „Erklären Sie unsere Politik“, ohne die Quelle zu verheimlichen und sich auf das Auswendiglernen des Modells zu verlassen.
Die Grenze „Nur von der Quelle antworten“ und das Verhalten außerhalb der Quelle werden nicht definiert.
Kein Zitat/Quellenangabe anfordern und die Antwort nicht überprüfbar lassen.
Widersprüchliche Versionen derselben Informationen in mehreren Dokumenten in der Wissensdatenbank aufbewahren.
Ermöglichen, dass das Modell numerische Werte rundet/interpretiert.
Das Vergessen, die Quelle zu aktualisieren, führt dazu, dass das Modell alte Informationen originalgetreu wiedergibt.

Zusammenfassend

RAG bedeutet, dass das Modell seine Antwort aus dem aktuellen Quelldokument und nicht aus dem Speicher generiert.
Der praktischste Weg, Halluzinationen zu reduzieren: Verbergen Sie die Quelle, sagen Sie „Nur hier antworten“ und bitten Sie um eine Zitierung.
Wenn die Antwort nicht in der Quelle enthalten ist, sollte kein Modell angepasst werden. Er sollte sagen: „Ich habe es nicht“ und es abgeben.
Machen Sie das Modell auf widersprüchliche Quellen aufmerksam; Sie haben die Zahlenwerte genau beibehalten.
Die RAG-Genauigkeit hängt von der Aktualität Ihrer Quelle ab; Bestätigen Sie immer das Angebot.

Anwendungsaufgabe

Nehmen Sie einen tatsächlichen Richtlinientext (Rückgabe, Versand oder Mitgliedschaft) aus Ihrem eigenen Unternehmen und betten Sie ihn als Quelle in die grundlegende RAG-Eingabeaufforderung oben ein. Stellen Sie dann drei Fragen: (1) eine Frage, deren Antwort in der Quelle eindeutig ist, (2) eine Frage, deren Antwort überhaupt nicht in der Quelle enthalten ist, (3) eine Frage, deren Antwort in der Quelle nur unvollständig ist. Stellen Sie sicher, dass das Modell richtig antwortet, „Ich habe es nicht“ sagt und die Teilantwort bzw. die fehlende Antwort ehrlich markiert. Korrigieren Sie abweichendes Verhalten, indem Sie die Loyalitäts- und Nichtressourcenregeln in der Eingabeaufforderung stärken.

Checkliste

[ ] Ich habe die aktuelle Quelle, auf der die Antwort basieren wird, in die Eingabeaufforderung eingebettet.
[ ] Ich habe die Regel „Nur von der Quelle antworten, nicht darüber hinausgehen“ hinzugefügt.
[ ] Ich habe eine Quellenangabe/Quellenangabe gefordert.
[ ] Ich habe das Delegationsverhalten definiert, wenn die Antwort nicht in der Quelle verfügbar ist.
[ ] Ich verlangte, dass numerische Werte genau erhalten bleiben.
[ ] Ich habe die Antwort aus dem Quellsatz bestätigt, auf dem sie basiert.