Κέρδη:
- Κατανοήστε πώς λειτουργεί το RAG (κατακερματισμός, πρόσβαση, παραγωγή που εξαρτάται από πόρους) και πώς μειώνει τις παραισθήσεις
- Δυνατότητα αύξησης της ποιότητας των απαντήσεων με τη δημιουργία μιας βάσης γνώσεων που είναι τρέχουσα, σαφής, χωρίς συγκρούσεις και έχει μια ενιαία σωστή πηγή.
- Δυνατότητα να καθοδηγήσετε το μοντέλο «αν δεν υπάρχει στην πηγή, πείτε μου ότι δεν το γνωρίζετε» και να μετατρέψετε τις ερωτήσεις που δεν μπορεί να απαντήσει σε βελτίωση της βάσης γνώσεων
Η απάντηση που δίνει ένα bot ή ένας βοηθός πράκτορα είναι τόσο καλή όσο και οι πληροφορίες στις οποίες βασίζεται. Όταν ο πελάτης ρωτά «Συνεχίζεται η καμπάνια;», η σωστή απάντηση δεν βρίσκεται στη μνήμη του μοντέλου, αλλά στην τρέχουσα βάση γνώσεων του ιδρύματος. Αυτός είναι ο λόγος για τον οποίο η καρδιά της τεχνητής νοημοσύνης τηλεφωνικών κέντρων είναι η βάση γνώσεων (KB): ένας ενημερωμένος πόρος όπου τα προϊόντα, οι πολιτικές, οι συχνές ερωτήσεις, οι διαδικασίες και οι κανόνες διατηρούνται γραπτώς. Και η μέθοδος που συνδέει με ασφάλεια αυτή τη βάση γνώσης με την τεχνητή νοημοσύνη ονομάζεται RAG: Retrieval-Augmented Generation — αντί να δημιουργεί την απάντηση από τη δική του μνήμη, το μοντέλο ανακτά πρώτα τα σχετικά κομμάτια πληροφοριών από την πηγή (ανάκτηση) και στη συνέχεια δημιουργεί την απάντηση με βάση αυτά τα κομμάτια μόνο (γενιά).
Το RAG είναι η πιο ισχυρή μέθοδος πρόληψης παραισθήσεων. Το μοντέλο δεν δημιουργεί έναν αριθμό στο κεφάλι του για την ερώτηση "ποιο είναι το επιτόκιο του δανείου;" Ανακτά το τρέχον κείμενο ενδιαφέροντος από τη βάση γνώσεων και απαντά με βάση αυτό. Σε αυτή την ενότητα θα δούμε πώς να ρυθμίσετε τη βάση γνώσεων, πώς λειτουργεί το RAG και πώς μια καλή βάση γνώσεων καθορίζει την ποιότητα των απαντήσεων.
Πώς λειτουργεί το RAG: τέσσερα βήματα
Σκεφτείτε τον RAG σαν βιβλιοθηκάριος. Ο πελάτης κάνει ερωτήσεις. Το σύστημα βρίσκει πρώτα τις σχετικές σελίδες από το δεξί ράφι της βιβλιοθήκης, στη συνέχεια διαβάζει αυτές τις σελίδες και γράφει την απάντηση. Τα τεχνικά βήματα είναι τα εξής:
- Τεμαχισμός: Τα μεγάλα έγγραφα στη βάση γνώσεων χωρίζονται σε μικρά, ουσιαστικά κομμάτια (π.χ., κάθε FAQ είναι ένα κομμάτι). Επειδή το μοντέλο απαντά με μεγαλύτερη ακρίβεια σε μια ερώτηση με σχετικά μικρά εξαρτήματα.
- Ενσωμάτωση και ευρετηρίαση: Κάθε κομμάτι μεταφράζεται σε μια αριθμητική μορφή που αντιπροσωπεύει το νόημά του (ενσωμάτωση—μια ακολουθία αριθμών που αντιπροσωπεύει το νόημα του κειμένου) και τοποθετείται σε μια βάση δεδομένων με δυνατότητα αναζήτησης. Επομένως, δεν είναι «ταίριασμα λέξεων» αλλά «ταίριασμα νοήματος». Ακόμα κι αν ο πελάτης ρωτήσει "πότε θα κατατεθούν τα χρήματά μου;", μπορεί να βρεθεί το τμήμα "περίοδος επιστροφής χρημάτων".
- Ανάκτηση: Τα εξαρτήματα που βρίσκονται πιο κοντά στην ερώτηση του πελάτη ανακτώνται (π.χ. τα πλησιέστερα 3-5 μέρη).
- Generation: Το μοντέλο γράφει την απάντηση με βάση ΜΟΝΟ τα σχεδιασμένα μέρη και υποδεικνύει την πηγή αν είναι δυνατόν.
Το κρίσιμο σημείο βρίσκεται στο βήμα 4: το μοντέλο έχει οδηγίες να «στηρίζεται απλώς στα δεδομένα κομμάτια ή να πει ότι δεν ξέρεις». Χωρίς αυτήν την οδηγία, το RAG δεν εμποδίζει την τοποθέτηση του μοντέλου.
Υπόδειξη: Ο χρυσός κανόνας του RAG: "Αν δεν υπάρχει στην πηγή, δεν υπάρχει απάντηση." Ένα καλό σύστημα RAG θα πει "Δεν ξέρω με βεβαιότητα για αυτό" σε μια ερώτηση που δεν βρίσκεται στη βάση γνώσεων. ποτέ δεν γεμίζει το κενό με εικασίες. Η ικανότητα ενός ρομπότ να λέει "δεν ξέρω" είναι χαρακτηριστικό ασφαλείας και όχι αδυναμία.
Μια καλή βάση γνώσεων: η πραγματική πηγή ποιότητας απάντησης
Ανεξάρτητα από το πόσο καλό είναι το RAG, εάν η βάση γνώσεων είναι κακή, η απάντηση είναι κακή. Η ποιότητα της γνωσιακής βάσης μετράται από:
χαρακτηριστικό
κακή βάση γνώσεων
Καλή βάση γνώσεων
Επίκαιρα
Δεν έχει ενημερωθεί για μήνες
Ενημερώθηκε αμέσως μετά την αλλαγή
Σαφήνεια
Μακρύ, περίπλοκο κείμενο
Σύντομα άρθρα με ένα θέμα
δομή
Ακατάστατο σωρό PDF
Επισημασμένες αποικοδομήσιμες ουσίες
Συνέπεια
Δύο αντικρουόμενες απαντήσεις
Μοναδική πηγή αλήθειας
Πεδίο εφαρμογής
Υπάρχουν πολλά κενά
Καλύπτει τις συχνές ερωτήσεις
ιδιοκτησία
Κανείς δεν ευθύνεται
Κάθε θέμα έχει έναν ιδιοκτήτη
Το πιο επικίνδυνο πρόβλημα στο πλαίσιο του τηλεφωνικού κέντρου είναι η αντίφαση: εάν γραφτούν δύο διαφορετικές περίοδοι επιστροφής στη γνωσιακή βάση, η RAG θα πει όποια χρειάζεται και μια ασυνεπής απάντηση θα σταλεί στον πελάτη. Γι' αυτό η αρχή της "ενιαίας πηγής αλήθειας" είναι κρίσιμη: οι πληροφορίες ενημερώνονται σε ένα μέρος. Χρησιμοποιούνται αναφορές σε αυτήν την πηγή, όχι αντίγραφα.
Βήμα προς βήμα: δημιουργία ενός συστήματος απόκρισης που υποστηρίζεται από RAG
- Καθαρίστε τη βάση γνώσεων: Καταργήστε παλιά, αντικρουόμενα, διπλότυπα άρθρα. Κάντε κάθε άρθρο σύντομο και μονοθέμα.
- Αναλύστε το και προσθέστε ετικέτα: Προσθέστε μια ετικέτα θέματος και ημερομηνία τελευταίας ενημέρωσης σε κάθε άρθρο.
- Δημιουργία πρόσβασης: Συνδέστε έναν μηχανισμό που τραβά τα σχετικά εξαρτήματα όταν σας ζητηθεί (τα εργαλεία RAG της επιχείρησης το παρέχουν).
- Γράψτε μια αυστηρή προτροπή: Πείτε στο μοντέλο "να βασιστείτε μόνο στα παρεχόμενα εξαρτήματα, να αναφέρετε την πηγή ή να πείτε ότι δεν γνωρίζετε".
- Αναφέρετε την πηγή: Δείξτε το άρθρο στο οποίο βασίζεται η απάντηση. Δίνει εμπιστοσύνη και διευκολύνει την επαλήθευση.
- Προσέξτε για κενά: Συλλέξτε ερωτήσεις όπου το bot λέει "Δεν ξέρω". Αυτά δείχνουν τις ελλείψεις στη βάση γνώσεων, τροφοδοτούνται από εκεί.
Τέσσερα πρότυπα με δυνατότητα αντιγραφής
1) Αυστηρή προτροπή απάντησης RAG:
Απαντήστε με βάση τα ακόλουθα μέρη [ΠΗΓΗ]. Κανόνες: (1) χρησιμοποιήστε μόνο τις πληροφορίες στην πηγή, (2) εάν δεν υπάρχουν στην πηγή, πείτε "Δεν έχω συγκεκριμένες πληροφορίες για αυτό, επιτρέψτε μου να σας συνδέσω με τον εκπρόσωπο", (3) αναφέρετε σε ποιο άρθρο βασίζεται ως [Πηγή: στοιχείο-αριθ.], (4) αναφέρετε την ποσότητα/διάρκεια/κατάσταση ακριβώς από την πηγή, μην στρογγυλοποιείτε/αναπληρώνετε. [ΠΗΓΗ]: <<τραβηγμένα μέρη>>Ερώτηση: "<<ερώτηση πελάτη>>"
2) Γνωσιακή βάση συγγραφής άρθρου:
Μετατρέψτε το παρακάτω διάσπαρτο κείμενο πολιτικής σε άρθρο με συχνές ερωτήσεις κατάλληλο για RAG. Μορφή: Ερώτηση (στη γλώσσα του πελάτη) / Σύντομη απάντηση (2-3 προτάσεις) / Προϋποθέσεις (ρήτρα) / Ημερομηνία τελευταίας ενημέρωσης / Ετικέτα θέματος. Σημειώστε τυχόν διφορούμενα σημεία ως "προς διευκρίνιση", φανταστείτε. Ακατέργαστο κείμενο: <<κείμενο>>
3) Σάρωση για αντιφάσεις και κενά:
Εξετάστε τα ακόλουθα άρθρα βάσης γνώσεων. (1) Σημειώστε τα ζεύγη των άρθρων που έρχονται σε διένεξη μεταξύ τους (π.χ. διαφορετική περίοδος επιστροφής). (2) Μαντέψτε τα θέματα που θα ερωτώνται συχνά αλλά ΔΕΝ έχουν απαντήσεις. Κοιτάξτε μόνο τα συγκεκριμένα άρθρα. που παράγει νέα πολιτική.Άρθρα: <<λίστα>>
4) Βελτίωση από το αρχείο καταγραφής "Δεν ξέρω":
Ακολουθούν ερωτήσεις στις οποίες το bot δεν μπόρεσε να απαντήσει (δεν μπόρεσε να βρει πηγή). Ομαδοποιήστε τα σε θέματα και προτείνετε τον τίτλο του άρθρου που πρέπει να προστεθεί στη βάση γνώσεων για κάθε ομάδα. Μην δημιουργείτε το περιεχόμενο της απάντησης, απλώς πείτε μου ποιο στοιχείο λείπει. Ερωτήσεις: <<λίστα>>
Αδύναμη προτροπή / Ισχυρή προτροπή
Αδύναμη προτροπή:
Απαντήστε στην ερώτηση επιστροφής του πελάτη.
Καμία πηγή. Το μοντέλο μπορεί να χωράει από τη μνήμη, η ποσότητα/διάρκεια μπορεί να είναι λάθος, δεν μπορεί να επαληθευτεί.
Ισχυρή προτροπή:
Απαντήστε μόνο με βάση την παρακάτω ρήτρα πολιτικής επιστροφής. Εάν δεν είναι διαθέσιμο στην πηγή, πείτε "Δεν ξέρω σίγουρα". Αναφέρετε την περίοδο και την κατάσταση αυτολεξεί, δώστε αναφορά με τη μορφή [Πηγή: RETURN-03].[ΠΗΓΗ: RETURN-03]: "Το μη χρησιμοποιημένο προϊόν μπορεί να επιστραφεί εντός 14 ημερών. Τα εξατομικευμένα προϊόντα δεν εμπίπτουν στο πεδίο εφαρμογής της επιστροφής." Ερώτηση: "Μπορώ να επιστρέψω το εξατομικευμένο προϊόν που αγόρασα πριν από 20 ημέρες;"
Διαφορά: εξαρτάται από την πηγή, υποχρεωτική αναφορά, σαφής απαγόρευση κατασκευής. το μοντέλο δημιουργεί τη σωστή απάντηση ("Προηγούμενες 14 ημέρες και εξατομικευμένη, χωρίς επιστροφή χρημάτων") από την πηγή.
τρεις μίνι θήκες
Περίπτωση 1 — Τερματισμός της ψευδαίσθησης. Η ακρίβεια απαντήσεων ενός ρομπότ τηλεπικοινωνιών σε ερωτήσεις καμπάνιας ήταν 71% σε μια ρύθμιση χωρίς RAG. Το μοντέλο μερικές φορές έφτιαχνε παλιές καμπάνιες. Όταν οι τρέχουσες σελίδες καμπάνιας συνδέθηκαν στο RAG και προστέθηκε ο κανόνας "μην το πείτε αν δεν υπάρχει στην πηγή", η ακρίβεια αυξήθηκε στο 96% και τα παράπονα για "λάθος λέξεις καμπάνιας" σχεδόν έληξαν.
Περίπτωση 2 — Η τιμή της αντίφασης. Στη βάση γνώσεων μιας εταιρείας ηλεκτρονικού εμπορίου, γράφτηκαν δύο διαφορετικά έξοδα αποστολής σε δύο σελίδες (μία τρέχουσα, μια παλιά ξεχασμένη σελίδα). Το ρομπότ τραβούσε τυχαία κάποιον και έλεγε σε ορισμένους από τους πελάτες τη λάθος τιμή. Όταν η παλιά σελίδα αρχειοθετήθηκε με την αρχή της ενιαίας σωστής πηγής, η ασυνέπεια εξαφανίστηκε. Μάθημα: Το RAG δεν επιλύει την αντίφαση, διαδίδει την αντίφαση όπως είναι.
Περίπτωση 3 — Η τιμή του αρχείου καταγραφής "Δεν ξέρω". Σε μια τράπεζα, το ρομπότ έλεγε "Δεν ξέρω σίγουρα" σε ~4.000 ερωτήσεις το μήνα. Όταν ομαδοποιήθηκαν αυτές οι ερωτήσεις, διαπιστώθηκε ότι το 40% αφορούσε τη "διεθνή χρήση καρτών". Δεν υπήρχε άρθρο για αυτό. Όταν προστέθηκαν τα σχετικά είδη, αυτές οι απορίες λύθηκαν και ο κύκλος εργασιών σε άτομα σχετικά με αυτό το θέμα μειώθηκε κατά 55%. Το γεγονός ότι το bot είπε ότι δεν ήξερε έγινε ο οδικός χάρτης για βελτίωση.
Συνήθη λάθη
- Απαντώντας χωρίς σύνδεση με την πηγή. Χωρίς RAG, το μοντέλο ταιριάζει σε συγκεκριμένες πληροφορίες. Οποιαδήποτε συγκεκριμένη απάντηση πρέπει να εξαρτάται από την πηγή.
- Απενεργοποίηση της επιλογής "Δεν ξέρω". Ο εξαναγκασμός του μοντέλου να απαντήσει σε κάθε ερώτηση διασφαλίζει την εφαρμογή.
- Μη διαγραφή αντικρουόμενων/παλαιών πληροφοριών. Το RAG εξαπλώνει την αντίφαση. Μια ενιαία σωστή πηγή είναι απαραίτητη.
- Παραμέληση του τεμαχισμού. Η εξαγωγή μεγάλων PDF ως έχει διακόπτει την ακριβή πρόσβαση. Χρησιμοποιήστε σύντομα άρθρα με ένα θέμα.
- Απόκρυψη της πηγής. Η μη ένδειξη σε τι βασίζεται η απάντηση αποδυναμώνει την επαλήθευση και την εμπιστοσύνη.
Προσοχή: Το RAG βελτιώνει την ακρίβεια αλλά δεν παρέχει 100% εγγύηση. Το μοντέλο μερικές φορές μπορεί να παρερμηνεύσει το τραβηγμένο μέρος. Ως εκ τούτου, οικονομικά, νομικά και θέματα ασφάλειας απαιτούν ανθρώπινη έγκριση, ακόμη και αν αναφέρεται η πηγή. Το RAG μειώνει τις παραισθήσεις αλλά δεν αφαιρεί την ευθύνη.
Συνοπτικά
Η βάση γνώσεων και το RAG είναι το θεμέλιο της ακρίβειας του τηλεφωνικού κέντρου AI. Το RAG αποτρέπει σε μεγάλο βαθμό τις παραισθήσεις εμποδίζοντας το μοντέλο να προσαρμόσει την απάντηση από τη μνήμη και να βασίζεται αποκλειστικά στην τρέχουσα πηγή. Αλλά το RAG είναι τόσο καλό όσο η βάση γνώσεών του: μια βάση γνώσης που είναι ενημερωμένη, σαφής, δομημένη, χωρίς συγκρούσεις και έχει μια ενιαία πηγή αλήθειας είναι απαραίτητη. Πείτε στο μοντέλο "αν δεν υπάρχει στην πηγή, πείτε μου ότι δεν ξέρετε", τοποθετήστε το δείκτη στην πηγή και χρησιμοποιήστε τις ερωτήσεις που δεν μπορεί να απαντήσει το bot για να βελτιώσει τη βάση γνώσεών του. Διατηρήστε την ανθρώπινη συναίνεση παρά την πηγή σε θέματα υψηλού κινδύνου.
Εργασία εφαρμογής
Γράψτε 8 πραγματικές/ρεαλιστικές ερωτήσεις πελατών από τον κλάδο σας και 8 αντίστοιχα σύντομα άρθρα βάσης γνώσεων (κάθε άρθρο: ερώτηση, σύντομη απάντηση, προϋποθέσεις, ημερομηνία, ετικέτα). Στη συνέχεια, ελέγξτε εάν το μοντέλο μπορεί να πει "Δεν ξέρω" χρησιμοποιώντας το μοτίβο "1) Στερεό RAG απάντηση προτροπής" και επίσης κάνοντας μια ερώτηση, μία από τις οποίες δεν βρίσκεται στη βάση γνώσεων. Τέλος, ελέγξτε τα άρθρα σας με «3) Αντίφαση και σάρωση κενών».
λίστα ελέγχου
- [ ] Κάθε συγκεκριμένη απάντηση που δίνεται από το bot/βοηθό εξαρτάται από την τρέχουσα βάση γνώσεων (μέσω RAG).
- [ ] Έδωσα οδηγίες στο μοντέλο "αν δεν υπάρχει στην πηγή, πες μου ότι δεν ξέρεις" και το δοκίμασα.
- [ ] Η βάση γνώσεων μου αποτελείται από ενημερωμένα, ξεκάθαρα άρθρα με ένα θέμα.
- [ ] Διέγραψα τα αντικρουόμενα και παλιά άρθρα. Υπάρχει μόνο μία σωστή πηγή για όλες τις πληροφορίες.
- [ ] Οι απαντήσεις δείχνουν σε ποιο άρθρο βασίζεται (πηγή).
- [ ] Συλλέγω ερωτήσεις "Δεν ξέρω" και τροφοδοτώ τη βάση γνώσεων.