Wissensdatenbank und RAG: Wie Bot und Agent die richtige Antwort finden

Gewinne:

• Verstehen Sie, wie RAG (Fragmentierung, Zugriff, ressourcenabhängige Generation) funktioniert und wie es Halluzinationen reduziert
• Fähigkeit, die Qualität der Antworten durch den Aufbau einer Wissensdatenbank zu verbessern, die aktuell, klar und konfliktfrei ist und eine einzige korrekte Quelle hat.
• Möglichkeit, das Modell anzuweisen: „Wenn es nicht in der Quelle enthalten ist, sagen Sie mir, dass Sie es nicht wissen“ und die Fragen, die es nicht beantworten kann, in eine Verbesserung der Wissensbasis umzuwandeln

Die Antwort eines Bots oder Agentenassistenten ist nur so gut wie die Informationen, auf denen sie basiert. Auf die Frage des Kunden „Läuft die Kampagne weiter?“ liegt die richtige Antwort nicht im Gedächtnis des Models, sondern in der aktuellen Wissensbasis der Institution. Aus diesem Grund ist das Herzstück der künstlichen Intelligenz im Callcenter die Wissensdatenbank (KB): eine aktuelle Ressource, in der Produkte, Richtlinien, FAQs, Verfahren und Regeln schriftlich festgehalten werden. Und die Methode, die diese Wissensbasis sicher mit künstlicher Intelligenz verbindet, heißt RAG: Retrieval-Augmented Generation – anstatt die Antwort aus dem eigenen Gedächtnis zu erfinden, ruft das Modell zunächst die relevanten Informationen aus der Quelle ab (Retrieval) und generiert dann die Antwort nur auf der Grundlage dieser Teile (Generierung).

RAG ist die wirksamste Methode zur Vorbeugung von Halluzinationen. Für die Frage „Wie hoch ist der Kreditzins?“ generiert das Modell im Kopf keine Zahl. Es ruft den aktuellen Interessentext aus der Wissensdatenbank ab und antwortet darauf. In dieser Einheit erfahren Sie, wie Sie die Wissensdatenbank einrichten, wie RAG funktioniert und wie eine gute Wissensdatenbank die Qualität der Antworten bestimmt.

So funktioniert RAG: vier Schritte

Stellen Sie sich RAG wie einen Bibliothekar vor. Der Kunde stellt Fragen; Das System findet zunächst die relevanten Seiten im rechten Regal der Bibliothek, liest diese Seiten dann und schreibt die Antwort. Die technischen Schritte sind wie folgt:

1. Aufteilen: Lange Dokumente in der Wissensdatenbank werden in kleine, aussagekräftige Teile zerlegt (z. B. ist jede FAQ ein Teil). Weil das Modell eine Frage mit zugehörigen Kleinteilen genauer beantwortet.
2. Einbettung und Indizierung: Jedes Stück wird in eine numerische Form übersetzt, die seine Bedeutung darstellt (Einbettung – eine Zahlenfolge, die die Bedeutung des Textes darstellt) und in einer durchsuchbaren Datenbank abgelegt. Es handelt sich also nicht um eine „Wortübereinstimmung“, sondern um eine „Bedeutungsübereinstimmung“; Auch wenn der Kunde fragt „Wann wird mein Geld eingezahlt?“, kann der Teil „Rückerstattungszeitraum“ gefunden werden.
3. Abruf: Die Teile, die der Frage des Kunden am nächsten kommen, werden abgerufen (z. B. die 3–5 Teile, die am nächsten kommen).
4. Generierung: Das Modell schreibt die Antwort NUR basierend auf den gezeichneten Teilen und gibt nach Möglichkeit die Quelle an.

Der entscheidende Punkt liegt in Schritt 4: Das Modell wird angewiesen, sich „einfach auf die vorgegebenen Teile zu verlassen oder zu sagen, dass man es nicht weiß“. Ohne diese Anweisung verhindert RAG nicht die Montage des Modells.

Hinweis: Die goldene Regel der RAG: „Wenn es nicht in der Quelle steht, gibt es keine Antwort.“ Ein gutes RAG-System sagt zu einer Frage, die nicht in der Wissensdatenbank enthalten ist, „Das weiß ich nicht genau“. füllt die Lücke nie mit Vermutungen. Die Fähigkeit eines Bots, „Ich weiß nicht“ zu sagen, ist ein Sicherheitsmerkmal und keine Schwäche.

Eine gute Wissensdatenbank: die wahre Quelle der Antwortqualität

Egal wie gut die RAG ist: Wenn die Wissensbasis schlecht ist, ist die Antwort schlecht. Die Qualität der Wissensdatenbank wird gemessen an:

Funktion

schlechte Wissensbasis

Gute Wissensbasis

Aktualität

Seit Monaten nicht aktualisiert

Wird bei Änderung sofort aktualisiert

Klarheit

Langer, verworrener Text

Kurze, themenspezifische Artikel

Struktur

Unordentlicher PDF-Stapel

Gekennzeichnete abbaubare Stoffe

Konsistenz

Zwei widersprüchliche Antworten

Eine einzige Quelle der Wahrheit

Umfang

Es gibt viele Lücken

Behandelt häufig gestellte Fragen

Eigentum

Niemand ist verantwortlich

Jedes Thema hat einen Besitzer

Das gefährlichste Problem im Call-Center-Kontext ist der Widerspruch: Wenn in der Wissensdatenbank zwei unterschiedliche Rückgabefristen eingetragen sind, sagt RAG die jeweils gültige an und es wird eine inkonsistente Antwort an den Kunden gesendet. Deshalb ist das „Single Source of Truth“-Prinzip von entscheidender Bedeutung: Informationen werden an einem Ort auf dem neuesten Stand gehalten; Es werden Verweise auf diese Quelle verwendet, keine Kopien.

Schritt für Schritt: Aufbau eines RAG-gestützten Reaktionssystems

1. Bereinigen Sie die Wissensdatenbank: Entfernen Sie veraltete, widersprüchliche und doppelte Artikel. Gestalten Sie jeden Artikel kurz und thematisch.
2. Teilen Sie es auf und markieren Sie es: Fügen Sie jedem Artikel ein Themen-Tag und das Datum der letzten Aktualisierung hinzu.
3. Zugriff einrichten: Verbinden Sie einen Mechanismus, der relevante Teile abruft, wenn Sie dazu aufgefordert werden (Enterprise-RAG-Tools bieten dies).
4. Schreiben Sie eine strikte Aufforderung: Teilen Sie dem Modell mit, dass es sich nur auf die bereitgestellten Teile verlassen, die Quelle angeben oder sagen soll, dass Sie es nicht wissen.
5. Quelle zitieren: Zeigen Sie den Artikel an, auf dem die Antwort basiert. Es gibt Vertrauen und erleichtert die Überprüfung.
6. Achten Sie auf Lücken: Sammeln Sie Fragen, bei denen der Bot „Ich weiß nicht“ sagt; Diese zeigen die Mängel in der Wissensdatenbank auf und speisen sich daraus.

Vier kopierbare Vorlagen

1) Strikte RAG-Antwortaufforderung:

Antwort BASIEREND auf den folgenden [QUELLE]-Teilen. Regeln: (1) Verwenden Sie nur die Informationen in der Quelle, (2) wenn sie nicht in der Quelle enthalten sind, sagen Sie „Ich habe keine eindeutigen Informationen darüber, lassen Sie mich Sie mit dem Vertreter verbinden“, (3) geben Sie an, auf welchem ​​Artikel sie basiert, als [Quelle: Artikel-Nr.], (4) geben Sie den Betrag/die Dauer/den Zustand genau aus der Quelle an, nicht runden/ergänzen. [QUELLE]: <<herausgezogene Teile>>Frage: „<<Kundenfrage>>“

2) Verfassen von Artikeln in der Wissensdatenbank:

Wandeln Sie den folgenden verstreuten Richtlinientext in einen für RAG geeigneten FAQ-Artikel um. Format: Frage (in der Sprache des Kunden) / Kurze Antwort (2–3 Sätze) / Bedingungen (Klausel) / Datum der letzten Aktualisierung / Themen-Tag. Markieren Sie alle unklaren Punkte als „noch zu klären“ und täuschen Sie sie vor. Rohtext: <<text>>

3) Suche nach Widersprüchen und Lücken:

Sehen Sie sich die folgenden Wissensdatenbankartikel an. (1) Markieren Sie die Artikelpaare, die widersprüchlich sind (z. B. unterschiedliche Rückgabefrist). (2) Erraten Sie die Themen, die häufig gestellt werden, auf die es aber KEINE Antworten gibt. Schauen Sie sich nur die angegebenen Artikel an; Erstellung neuer Richtlinien.Artikel: <<Liste>>

4) Verbesserung gegenüber dem Protokoll „Ich weiß nicht“:

Nachfolgend finden Sie Fragen, die der Bot nicht beantworten konnte (keine Quelle finden konnte). Gruppieren Sie sie nach Themen und schlagen Sie für jede Gruppe den Titel des Artikels vor, der zur Wissensdatenbank hinzugefügt werden soll. Erfinden Sie den Antwortinhalt nicht, sondern sagen Sie mir einfach, welches Element fehlt.Fragen: <<Liste>>

Schwache Eingabeaufforderung / Starke Eingabeaufforderung

Schwache Eingabeaufforderung:

Beantworten Sie die Rückgabefrage des Kunden.

Keine Quelle; Das Modell passt möglicherweise aus dem Gedächtnis, die Menge/Dauer ist möglicherweise falsch und kann nicht überprüft werden.

Kraftvolle Aufforderung:

Antworten Sie nur auf der Grundlage der unten stehenden Rückgabebestimmungsklausel. Wenn es in der Quelle nicht verfügbar ist, sagen Sie „Ich weiß es nicht genau“. Geben Sie den Zeitraum und den Zustand wörtlich an und geben Sie einen Verweis in Form von [Quelle: RETURN-03] an.[QUELLE: RETURN-03]: „Unbenutzte Produkte können innerhalb von 14 Tagen zurückgegeben werden. Personalisierte Produkte fallen nicht unter den Rückgabeumfang.“ Frage: „Kann ich das personalisierte Produkt, das ich vor 20 Tagen gekauft habe, zurückgeben?“

Unterschied: Quellenabhängig, Referenz obligatorisch, Fabrikationsverbot klar; Das Modell generiert aus der Quelle die richtige Antwort („14 Tage vergangen und personalisiert, nicht erstattungsfähig“).

drei Mini-Koffer

Fall 1 – Beendigung der Halluzination. Die Antwortgenauigkeit eines Telekommunikations-Bots auf Kampagnenfragen betrug in einem Setup ohne RAG 71 %; Das Modell hat manchmal alte Kampagnen erfunden. Als die aktuellen Kampagnenseiten mit RAG verbunden wurden und die Regel „Sagen Sie es nicht, wenn es nicht in der Quelle steht“ hinzugefügt wurde, erhöhte sich die Genauigkeit auf 96 % und Beschwerden über „falsche Kampagnenwörter“ hörten fast auf.

Fall 2 – Der Preis des Widerspruchs. In der Wissensdatenbank eines E-Commerce-Unternehmens wurden auf zwei Seiten (eine aktuelle, eine alte vergessene Seite) zwei unterschiedliche Versandkosten geschrieben. Der Bot lockte zufällig jemanden an und teilte einigen Kunden den falschen Preis mit. Als die alte Seite nach dem Prinzip der einzigen korrekten Quelle archiviert wurde, verschwand die Inkonsistenz. Lektion: RAG löst den Widerspruch nicht auf, sondern propagiert den Widerspruch so, wie er ist.

Fall 3 – Der Wert des „Ich weiß nicht“-Protokolls. Bei einer Bank antwortete der Bot auf etwa 4.000 Fragen pro Monat: „Ich weiß es nicht genau.“ Bei der Gruppierung dieser Fragen stellte sich heraus, dass es bei 40 % um die „internationale Kartennutzung“ ging; Es gab keinen Artikel darüber. Durch das Hinzufügen der relevanten Elemente wurden diese Fragen gelöst und die Fluktuation an Personen zu diesem Thema verringerte sich um 55 %. Die Tatsache, dass der Bot sagte, er wisse es nicht, wurde zum Fahrplan für Verbesserungen.

Häufige Fehler

• Beantwortung ohne Verlinkung auf die Quelle. Ohne RAG passt das Modell zu konkreten Informationen; Jede konkrete Antwort muss von der Quelle abhängen.
• Deaktivieren Sie die Option „Ich weiß nicht“. Indem das Modell gezwungen wird, jede Frage zu beantworten, wird die Anpassung gewährleistet.
• Widersprüchliche/alte Informationen werden nicht gelöscht. RAG verbreitet Widerspruch; Eine einzige korrekte Quelle ist unerlässlich.
• Vernachlässigung des Shredderns. Das Exportieren großer PDF-Dateien im Originalzustand beeinträchtigt den genauen Zugriff. Verwenden Sie kurze Artikel zu einem einzigen Thema.
• Die Quelle verbergen. Wenn nicht angegeben wird, worauf die Antwort basiert, schwächt dies die Verifizierung und das Vertrauen.

Achtung: RAG verbessert die Genauigkeit, bietet jedoch keine 100-prozentige Garantie. Das Modell kann den erfassten Teil manchmal falsch interpretieren. Daher bedürfen finanzielle, rechtliche und sicherheitsrelevante Fragen der menschlichen Zustimmung, selbst wenn die Quelle angegeben wird; RAG reduziert Halluzinationen, beseitigt jedoch nicht die Verantwortung.

Zusammenfassend

Die Wissensbasis und RAG sind die Grundlage für die Genauigkeit der Callcenter-KI. RAG verhindert Halluzinationen weitgehend, indem es das Modell daran hindert, die Antwort aus dem Gedächtnis zu übernehmen, und sich ausschließlich auf die aktuelle Quelle verlässt. Aber RAG ist nur so gut wie seine Wissensbasis: Eine Wissensbasis, die aktuell, klar, strukturiert, konfliktfrei ist und über eine einzige Quelle der Wahrheit verfügt, ist unerlässlich. Sagen Sie dem Modell: „Wenn es nicht in der Quelle ist, sagen Sie mir, dass Sie es nicht wissen“, zeigen Sie auf die Quelle und verwenden Sie die Fragen, die der Bot nicht beantworten kann, um seine Wissensbasis zu verbessern. Behalten Sie die Zustimmung der Menschen bei, auch wenn es um wichtige Angelegenheiten geht.

Anwendungsaufgabe

Schreiben Sie 8 echte/realistische Kundenfragen aus Ihrer Branche und 8 entsprechende kurze Wissensdatenbankartikel (jeder Artikel: Frage, kurze Antwort, Bedingungen, Datum, Tag). Testen Sie dann, ob das Modell „Ich weiß nicht“ sagen kann, indem Sie das Muster „1) Enge RAG-Antwortaufforderung“ verwenden und außerdem eine Frage stellen, von der eine nicht in der Wissensdatenbank enthalten ist. Überprüfen Sie abschließend Ihre Artikel mit „3) Widerspruchs- und Lückenscanning“.

Checkliste

• [ ] Jede konkrete Antwort des Bots/Assistenten hängt von der aktuellen Wissensbasis (über RAG) ab.
• [ ] Ich habe das Modell angewiesen „Wenn es nicht in der Quelle ist, sagen Sie mir, dass Sie es nicht wissen“ und habe es getestet.
• [ ] Meine Wissensdatenbank besteht aus aktuellen, klaren, themenbezogenen Artikeln.
• [ ] Ich habe die widersprüchlichen und alten Artikel gelöscht; Für alle Informationen gibt es nur eine richtige Quelle.
• [ ] Antworten zeigen, auf welchem ​​Artikel es basiert (Quelle).
• [ ] Ich sammle „Ich weiß nicht“-Fragen und füttere die Wissensdatenbank.