Fitimet:
- Kuptoni se si funksionon RAG (fragmentimi, aksesi, gjenerimi i varur nga burimet) dhe si redukton halucinacionet
- Aftësia për të rritur cilësinë e përgjigjeve duke krijuar një bazë njohurish që është aktuale, e qartë, pa konflikte dhe ka një burim të vetëm të saktë.
- Aftësia për të udhëzuar modelin 'nëse nuk është në burim, më thuaj se nuk e di' dhe t'i kthesh pyetjet që nuk mund t'i përgjigjet në përmirësim të bazës së njohurive
Përgjigjja që jep një robot ose asistent agjent është po aq e mirë sa informacioni mbi të cilin bazohet. Kur klienti pyet “A po vazhdon fushata?”, përgjigjja e saktë nuk është në kujtesën e modelit, por në bazën aktuale të njohurive të institucionit. Kjo është arsyeja pse zemra e inteligjencës artificiale të qendrës së thirrjeve është baza e njohurive (KB): një burim i përditësuar ku produktet, politikat, FAQ-të, procedurat dhe rregullat mbahen me shkrim. Dhe metoda që lidh në mënyrë të sigurt këtë bazë njohurish me inteligjencën artificiale quhet RAG: Gjenerimi i Shtuar i Rikthimit - në vend që të krijojë përgjigjen nga memoria e tij, modeli fillimisht merr pjesët përkatëse të informacionit nga burimi (rikthim) dhe më pas gjeneron përgjigjen bazuar vetëm në ato pjesë (gjenerimi).
RAG është metoda më e fuqishme për parandalimin e halucinacioneve. Modeli nuk gjeneron një numër në kokën e tij për pyetjen "sa është norma e interesit të kredisë?" Ai merr tekstin aktual të interesit nga baza e njohurive dhe përgjigjet bazuar në të. Në këtë njësi do të shohim se si të vendoset baza e njohurive, si funksionon RAG dhe si një bazë e mirë njohurish përcakton cilësinë e përgjigjeve.
Si funksionon RAG: katër hapa
Mendoni për RAG si një bibliotekar. Klienti bën pyetje; Sistemi fillimisht gjen faqet përkatëse nga rafti i djathtë i bibliotekës, më pas lexon ato faqe dhe shkruan përgjigjen. Hapat teknikë janë si më poshtë:
- Ndarja: Dokumentet e gjata në bazën e njohurive ndahen në pjesë të vogla, domethënëse (p.sh., çdo FAQ është një pjesë). Sepse modeli i përgjigjet një pyetjeje më saktë me pjesët e vogla të lidhura.
- Përfshirja dhe indeksimi: Çdo pjesë përkthehet në një formë numerike që përfaqëson kuptimin e saj (ngulitje - një sekuencë numrash që përfaqësojnë kuptimin e tekstit) dhe vendoset në një bazë të dhënash të kërkueshme. Kështu, nuk është një "përputhje fjalësh" por "përputhje kuptimi"; Edhe nëse klienti pyet "kur do të depozitohen paratë e mia?", mund të gjendet pjesa "periudha e rimbursimit".
- Rikthimi: Pjesët më të afërta në kuptim me pyetjen e klientit merren (p.sh. 3-5 pjesët më të afërta).
- Gjenerimi: Modeli e shkruan përgjigjen bazuar në VETËM pjesët e vizatuara dhe tregon burimin nëse është e mundur.
Pika kritike është në hapin 4: modeli udhëzohet që "thjesht të mbështetet në pjesët e dhëna, ose të thotë se nuk e di". Pa këtë udhëzim, RAG nuk e pengon modelin të përshtatet.
Këshillë: Rregulli i artë i RAG: "Nëse nuk është në burim, nuk ka përgjigje." Një sistem i mirë RAG do të thotë "Unë nuk e di me siguri për këtë" për një pyetje që nuk është në bazën e njohurive; kurrë nuk e mbush boshllëkun me hamendje. Aftësia e një roboti për të thënë "Nuk e di" është një veçori sigurie, jo një dobësi.
Një bazë e mirë njohurish: burimi i vërtetë i cilësisë së përgjigjes
Pavarësisht se sa i mirë është RAG, nëse baza e njohurive është e keqe, përgjigja është e keqe. Cilësia e bazës së njohurive matet nga:
veçori
bazë e keqe e njohurive
Baza e mirë e njohurive
Aktualiteti
Nuk është përditësuar për muaj të tërë
Përditësohet menjëherë kur ndryshohet
Qartësia
Tekst i gjatë, i ndërlikuar
Artikuj të shkurtër me një temë
strukturën
Grumbull i çrregullt PDF
Substancat e etiketuara të degradueshme
Konsistenca
Dy përgjigje kontradiktore
Një burim i vetëm i së vërtetës
Fushëveprimi
Ka shumë boshllëqe
Mbulon pyetjet e bëra shpesh
pronësinë
Askush nuk mban përgjegjësi
Çdo temë ka një pronar
Problemi më i rrezikshëm në kontekstin e qendrës së thirrjeve është kontradikta: nëse dy periudha të ndryshme kthimi shkruhen në bazën e njohurive, RAG do të thotë cilado që të duhet dhe një përgjigje jokonsistente do t'i dërgohet klientit. Kjo është arsyeja pse parimi "burimi i vetëm i së vërtetës" është kritik: informacioni mbahet i përditësuar në një vend; Përdoren referenca për atë burim, jo kopje.
Hap pas hapi: ndërtimi i një sistemi reagimi të mbështetur nga RAG
- Pastroni bazën e njohurive: Hiqni artikujt e vjetëruar, konfliktualë, dublikatë. Bëni çdo artikull të shkurtër dhe me një temë të vetme.
- Zbërthejeni dhe etiketoni: Shtoni një etiketë teme dhe datën e përditësimit të fundit për çdo artikull.
- Vendosni aksesin: Lidhni një mekanizëm që tërheq pjesët përkatëse kur kërkohet (veglat RAG të ndërmarrjes e ofrojnë këtë).
- Shkruani një urdhër të rreptë: Tregojini modelit "bazohu vetëm në pjesët e ofruara, cito burimin ose thuaj se nuk e di".
- Citoni burimin: Trego artikullin mbi të cilin bazohet përgjigja; Ai njëkohësisht jep besim dhe lehtëson verifikimin.
- Shiko për boshllëqet: Mblidhni pyetje ku roboti thotë "Nuk e di"; Këto tregojnë mangësitë në bazën e njohurive, ushqehen prej andej.
Katër shabllone të kopjueshëm
1) Kërkesa e rreptë e përgjigjes së RAG:
Përgjigju BAZUAR në pjesët e mëposhtme [BURIMI]. Rregullat: (1) përdorni vetëm informacionin në burim, (2) nëse nuk është në burim, thoni "Nuk kam informacion të caktuar për këtë, më lejoni t'ju lidh me përfaqësuesin", (3) tregoni se në cilin artikull bazohet si [Burimi: artikulli-nr], (4) citoni sasinë/kohëzgjatjen/gjendjen saktësisht nga burimi, mos e rrumbullakos/përko. [BURIMI]: <<Pjese te terhequra>>Pyetja: "<<pyetja e klientit>>"
2) Shkrimi i artikullit të bazës së njohurive:
Konvertoni tekstin e mëposhtëm të politikave të shpërndara në një artikull FAQ të përshtatshëm për RAG. Formati: Pyetje (në gjuhën e klientit) / Përgjigje e shkurtër (2-3 fjali) / Kushtet (klauzolë) / Data e përditësimit të fundit / Etiketa e temës. Shënoni çdo pikë të paqartë si "për t'u sqaruar", imagjinoni. Teksti i papërpunuar: <<tekst>>
3) Skanimi për kontradikta dhe boshllëqe:
Shqyrtoni artikujt e mëposhtëm të bazës së njohurive. (1) Shënoni çiftet e artikujve që KONFLIKTONIN me njëri-tjetrin (p.sh. periudha të ndryshme kthimi). (2) Merre me mend temat që do të pyeten shpesh, por NUK kanë përgjigje. Shikoni vetëm artikujt e dhënë; duke prodhuar politikë të re.Nenet: <<lista>>
4) Përmirësim nga regjistri "Nuk e di":
Më poshtë janë pyetjet që roboti nuk mundi t'u përgjigjej (nuk mund të gjente një burim). Grupojini ato në tema dhe sugjeroni titullin e artikullit që duhet t'i shtohet bazës së njohurive për secilin grup. Mos krijoni përmbajtjen e përgjigjeve, thjesht më tregoni se cili artikull mungon. Pyetjet: <<lista>>
Prompt i dobët / Prompt i fortë
Njoftim i dobët:
Përgjigjuni pyetjes së kthimit të klientit.
Asnjë burim; Modeli mund të përshtatet nga memoria, sasia/kohëzgjatja mund të jetë e gabuar, nuk mund të verifikohet.
Njoftim i fuqishëm:
Përgjigjuni vetëm bazuar në klauzolën e politikës së kthimit më poshtë. Nëse nuk disponohet në burim, thoni "Nuk e di me siguri". Citoni periudhën dhe kushtin fjalë për fjalë, jepni referencë në formën e [Burimi: RETURN-03].[BURIMI: RETURN-03]: "Produkti i papërdorur mund të kthehet brenda 14 ditëve. Produktet e personalizuara nuk janë brenda fushës së kthimit." Pyetje: "A mund ta kthej produktin e personalizuar që kam blerë 20 ditë më parë?"
Diferenca: varet nga burimi, referenca e detyrueshme, ndalimi i fabrikimit është i qartë; modeli gjeneron përgjigjen e saktë ("14 ditë të kaluara dhe të personalizuara, të pakthyeshme") nga burimi.
tre mini kuti
Rasti 1 - Përfundimi i halucinacioneve. Saktësia e përgjigjeve të një roboti telekomi për pyetjet e fushatës ishte 71% në një konfigurim pa RAG; Modelja ndonjëherë krijonte fushata të vjetra. Kur faqet aktuale të fushatës u lidhën me RAG dhe u shtua rregulli "mos e thuaj nëse nuk është në burim", saktësia u rrit në 96% dhe ankesat për "fjalët e gabuara të fushatës" pothuajse përfunduan.
Rasti 2 - Çmimi i kontradiktës. Në bazën e njohurive të një kompanie të tregtisë elektronike, dy kosto të ndryshme transporti u shkruan në dy faqe (një faqe aktuale, një faqe e vjetër e harruar). Bot po tërhiqte dikë rastësisht dhe u tregonte disa klientëve çmimin e gabuar. Kur faqja e vjetër u arkivua me parimin e një burimi të vetëm të saktë, mospërputhja u zhduk. Mësimi: RAG nuk e zgjidh kontradiktën, ai e përhap kontradiktën ashtu siç është.
Rasti 3 — Vlera e regjistrit “Nuk e di”. Në një bankë, roboti po thoshte "Nuk e di me siguri" deri në 4000 pyetje në muaj. Kur këto pyetje u grupuan, u pa se 40% kishin të bënin me "përdorimin e kartave ndërkombëtare"; Nuk kishte asnjë artikull për të. Kur u shtuan artikujt përkatës, këto pyetje u zgjidhën dhe qarkullimi i njerëzve në atë temë u ul me 55%. Fakti që roboti tha se nuk e dinte u bë udhërrëfyesi për përmirësim.
Gabimet e zakonshme
- Duke u përgjigjur pa u lidhur me burimin. Pa RAG, modeli i përshtatet informacionit konkret; Çdo përgjigje konkrete duhet të varet nga burimi.
- Fikja e opsionit "Nuk e di". Detyrimi i modelit për t'iu përgjigjur çdo pyetjeje siguron përshtatje.
- Mospastrimi i informacionit konfliktual/të vjetër. RAG përhap kontradikta; Një burim i vetëm i saktë është thelbësor.
- Neglizhimi për të copëtuar. Eksportimi i PDF-ve të mëdhenj ashtu siç është ndërpret aksesin e saktë; Përdorni artikuj të shkurtër me një temë.
- Fshehja e burimit. Të mos tregosh se mbi çfarë bazohet përgjigja dobëson verifikimin dhe besimin.
Kujdes: RAG përmirëson saktësinë, por nuk ofron një garanci 100%. Modeli ndonjëherë mund të keqinterpretojë pjesën e kapur. Prandaj, çështjet financiare, ligjore dhe të sigurisë kërkojnë miratim njerëzor edhe nëse citohet burimi; RAG redukton halucinacionet, por nuk heq përgjegjësinë.
Në përmbledhje
Baza e njohurive dhe RAG janë themeli i saktësisë së qendrës së thirrjeve AI. RAG parandalon kryesisht halucinacionet duke e penguar modelin të përshtatë përgjigjen nga kujtesa dhe duke u mbështetur vetëm në burimin aktual. Por RAG është po aq i mirë sa baza e tij e njohurive: një bazë njohurish që është e përditësuar, e qartë, e strukturuar, pa konflikte dhe që ka një burim të vetëm të së vërtetës është thelbësore. Thuaji modelit "nëse nuk është në burim, më thuaj që nuk e di", tregoni burimin dhe përdorni pyetjet të cilave roboti nuk mund t'u përgjigjet për të përmirësuar bazën e tij të njohurive. Mbani pëlqimin njerëzor pavarësisht nga burimi për çështje të rëndësishme.
Detyra e aplikimit
Shkruani 8 pyetje reale/reale të klientëve nga industria juaj dhe 8 artikuj të shkurtër përkatës të bazës së njohurive (çdo artikull: pyetje, përgjigje e shkurtër, kushtet, data, etiketa). Pastaj provoni nëse modeli mund të thotë "Nuk e di" duke përdorur modelin "1) Tight RAG përgjigje e shpejtë" dhe gjithashtu duke bërë një pyetje, njëra prej të cilave nuk është në bazën e njohurive. Më në fund, kontrolloni artikujt tuaj me "3) Skanimi i kontradiktave dhe boshllëqeve.
listë kontrolli
- [ ] Çdo përgjigje konkrete e dhënë nga roboti/asistenti varet nga baza aktuale e njohurive (nëpërmjet RAG).
- [ ] E udhëzova modelin "nëse nuk është në burim, më thuaj që nuk e di" dhe e testova.
- [ ] Baza ime e njohurive përbëhet nga artikuj të përditësuar, të qartë, me një temë.
- [ ] Kam pastruar artikujt konfliktualë dhe të vjetër; Ekziston vetëm një burim i saktë për të gjitha informacionet.
- [ ] Përgjigjet tregojnë se në cilin artikull bazohet (burimi).
- [ ] Unë mbledh pyetje "Nuk e di" dhe ushqej bazën e njohurive.