Fitimet:
- Të kuptuarit e logjikës së gjenerimit të bazuar në njohuri (RAG) dhe pse ajo redukton halucinacionet
- Mundësia që modeli të përgjigjet me citim, bazuar vetëm në dokumentet burimore të ofruara
- Aftësia për të menaxhuar pyetjet që nuk janë në burim duke i transferuar ato në mënyrë të sigurt, pa bërë pyetje
Një model gjuhësor "di" shumë, por nuk e njeh politikën e kthimit të kompanisë suaj sot, listën aktuale të çmimeve ose marrëveshjen tuaj të transportit që ndryshoi dje. Më keq, kur nuk e di, shpesh e sajon dhe shkruan me një ton jashtëzakonisht të sigurt. Ky është një defekt fatal në shërbimin ndaj klientit: modeli thotë "Rimbursimet lëshohen brenda 30 ditëve" ndërsa politika juaj mund të jetë 14 ditë. Qasja që mbyll këtë boshllëk quhet RAG: Retrieval-Augmented Generation, pra "prodhimi i shtuar nga rikthimi".
Ideja është e thjeshtë: modeli i përgjigjet pyetjes jo nga kujtesa, por nga dokumentet e sakta burimore të vendosura përpara tij në atë moment. Së pari, pjesa e saktë e dokumentit që lidhet me pyetjen është "rikthimi", më pas modeli "gjeneron" përgjigjen bazuar vetëm në atë pjesë. Në këtë njësi, ju do të kuptoni logjikën e RAG dhe do të mësoni se si ta frenoni modelin në mënyrë që të qëndrojë vetëm në burimin e verifikuar që ju ofroni.
Shënim: Kjo njësi mëson logjikën e punës dhe anën e shpejtë të RAG. Sistemet automatike të marrjes së dokumenteve në shkallë të ndërmarrjes (baza e të dhënave vektoriale, etj.) kërkojnë një instalim teknik; Disiplina këtu është baza që ai sistem të përgjigjet saktë.
Pse RAG redukton halucinacionet?
Halucinacioni është kur modeli prodhon informacion joreal sikur të ishte i vërtetë. Modeli është programuar për të prodhuar një përgjigje që duket "e mundshme" kur sheh një boshllëk; Nuk e di nëse është e vërtetë apo jo. RAG plotëson këtë boshllëk: ju i jepni modelit tekstin aktual aktual së bashku me pyetjen dhe thoni "përgjigjuni vetëm nga këtu". Në këtë mënyrë modeli nuk ka nevojë të përshtatet.
Ka tre komponentë:
- Baza e njohurive: Tekste të besueshme si FAQ, dokumente politikash, manuale produktesh, lista çmimesh.
- Marrja: Gjetja e pjesës së dokumentit që përmban përgjigjen e pyetjes dhe dhënien e saj modelit.
- Botim i kufizuar: Modeli përgjigjet me kuotën, bazuar vetëm në pjesën e dhënë.
Hap pas hapi: Një përgjigje besnike ndaj burimit
- Përgatitni burimin. Gjeni tekstin mbi të cilin do të bazohet përgjigja (politika, FAQ) në një format të qartë dhe të përditësuar.
- Fut burimin në kërkesë. Vendosni tekstin në një etiketë si <source>.
- Shkruani rregullin e besnikërisë. "Përdorni vetëm informacionin nga burimi; mos u largoni nga burimi."
- Bëni një citim të kërkuar. Lëreni të tregojë se në cilën pjesë bazohet përgjigja.
- Identifikoni sjelljen pa burime. Nëse përgjigja nuk është në burim, le të thotë “nuk e kam këtë informacion” dhe ta përcjellë.
- Verifiko. Konfirmo përgjigjen duke e krahasuar me fjalinë burimore në të cilën bazohet.
Kërkesa të kopjueshme
Prompa e përgjigjes bazuar në burimin themelor:
Roli: Ju jeni një asistent i mbështetjes së klientit. Përgjigjuni pyetjes VETËM bazuar në informacionin në bllokun <source> më poshtë. Mos shtoni asnjë informacion që nuk është në burim, supozoni ose përgjigje nga njohuritë tuaja të përgjithshme. Shtoni pjesën ku mbështeteni në fund të përgjigjes tuaj në formatin "[Burimi: ...]". Nëse përgjigja nuk është në burim, shkruani sa vijon: "Unë nuk kam informacion përfundimtar për këtë temë, po ju transferoj te një zyrtar që mund të japë përgjigjen e saktë."<source>{{ Policy_or_faq_text }}</source>Pyetja: {{ customer_question }}
Në rastin e shumë burimeve, kërkesa për të treguar se në cilin dokument bazohet:
Ka shumë burime të numëruara më poshtë. Kur i përgjigjeni pyetjes, tregoni numrin e burimit që keni përdorur, si p.sh. [Burimi 2]. Nëse më shumë se një burim kundërshton ty, thuaje kaq qartë dhe thuaj se duhet të pyesësh se cili është më i përditësuar.<sources>1) {{ source_1 }}2) {{ source_2 }}3) {{ source_3 }}</sources>Pyetje: {{ customer_question }}
Prompt që menaxhon në mënyrë të sigurt pyetjen pa burim:
Nëse përgjigja e pyetjes gjendet PJESËRISHT në burim: përgjigjuni vetëm pjesës së mbuluar nga burimi dhe thoni "ky detaj nuk është në burim" për pjesën e mbetur. Asnjëherë mos e plotësoni pjesën që mungon duke hamendësuar.
Prompt që përkthen përgjigjen në gjuhën e klientit, por i qëndron besnik burimit:
Përkthejeni shprehjen zyrtare/teknike në burim në një gjuhë të thjeshtë që klienti mund ta kuptojë, por MOS ndryshoni kuptimin dhe vlerat numerike (dita, shuma, norma). Për shembull, rrumbullakimi i "14 ditëve kalendarike" në "rreth dy javë"; ruaj vlerën e plotë.
Prompt i dobët / Prompt i fortë
Prompt i dobët
Prompt i fuqishëm
"Na tregoni për politikën tonë të kthimit"
Përfshin burimin + "përgjigju vetëm këtu" + ofertën e kërkesave
Përgjigje nga kujtesa e modelit (ndoshta e gabuar)
Përgjigja nga dokumenti juaj aktual
Nëse nuk është në burim, ai e shpik
Ai thotë “Nuk e kam këtë informacion” dhe e përcjell.
Mund të rrumbullakos dhe shtrembërojë numrat
Mban saktësisht ditën / shumën / tarifën
Dallimi është se kërkesa e fortë i jep modelit një spirancë (tekst burimor) dhe një ndalim (dalje nga burimi). Modelja nuk flet më nga kujtesa, por nga realiteti që ka përballë.
Tre Mini Rastet
Rasti 1 — Kurthi i vjetër i politikave. "Kthimet pranohen brenda 30 ditëve," tha boti i një dyqani ndërsa funksiononte pa kredi; Megjithatë, kompania e reduktoi periudhën në 14 ditë. Kur teksti i përditësuar i politikës i shtohet burimit në instalimin RAG, roboti tani përgjigjet "14 ditë kalendarike [Burimi: Politika e Kthimit, neni 2]". Mosmarrëveshjet e rimbursimit që lindin nga premtimet e rreme janë rivendosur.
Rasti 2 - Kapja e kontradiktës. Një klient pyeti për kostot e transportit. Si lista e çmimeve të vjetra ashtu edhe ato të reja u futën në sistem si burim. Falë kërkesës me shumë burime, modeli tha: "Dy burime japin çmime të ndryshme (49 TL dhe 59 TL); Më duhet të konfirmoj atë aktual" dhe ia përcolli çështjen njeriut. Në vend që t'i tregonte klientit një shumë të gabuar, ai e komunikoi pasigurinë me ndershmëri.
Rasti 3 - Disiplinë e pjesshme e përgjigjes. "A e dërgoni produktin jashtë vendit dhe kush e paguan doganën?" Në pyetje, burimi ka thënë vetëm se dërgesa është bërë, nuk ka asgjë se kush ka paguar taksën. Modelja tha, "Po, transporti kryhet jashtë vendit [Burimi: FAQ e ngarkesave]. Megjithatë, në këtë dokument nuk thuhet se kush paguan doganën; po ju transferoj te zyrtari për ta sqaruar këtë." Në vend të një përgjigjeje gjysmë të vërtetë, gjysmë të sajuar, ajo prodhoi një rezultat të sinqertë dhe të sigurt.
Këshillë: Mbani versionin më aktual dhe të vetëm të burimit të së vërtetës të bazës suaj të njohurive. Të kesh të njëjtin informacion (p.sh. periudha e kthimit) të shkruar ndryshe në tre dokumente të veçanta është armiku më i madh i RAG; Modeli përgjigjet ndryshe në varësi të cilës shikon. Së pari fshini dokumentet tuaja, pastaj automatizoni ato.
Verifikimi: Mos u relaksoni vetëm sepse ekziston burimi
RAG redukton shumë halucinacionet, por nuk e rivendos atë. Modeli ndonjëherë mund të keqinterpretojë burimin, duke përzier dy fjali ose duke nxjerrë një "përfundim" që nuk është në burim. Kjo është arsyeja pse kërkesa e citimit është kritike: hapni seksionin mbi të cilin pretendohet se bazohet përgjigjja dhe kontrolloni nëse e thotë në të vërtetë. Ky kontroll është i panegociueshëm, veçanërisht në përgjigjet që përmbajnë numra (ditë, sasi, normë) dhe kushte (përjashtim, kusht).
Kujdes: Nëse vetë burimi është i gabuar ose i vjetëruar, RAG e përsërit me besnikëri atë gabim. Të thuash "modelja flet nga burimi" nuk do të thotë "modelja flet saktë"; Ju jeni përgjegjës për monedhën dhe saktësinë e burimit tuaj.
Mbajtja e bazës së njohurive të gatshme për përgjigje
Cilësia e RAG varet kryesisht nga mënyra se si shkruhet teksti burimor. Modeli jep një përgjigje shumë më të saktë se tekstet e strukturuara mirë, me titull dhe me një temë. Këshilla praktike: shkruani politikat tuaja në seksione të shkurtra me titull dhe jo në paragrafë të gjatë dhe të ndërthurur; Lëreni secilin seksion t'i përgjigjet një pyetjeje të vetme ("Sa ditë është periudha e kthimit?", "Cilat produkte nuk mund të kthehen?"). Mbajtja e pyetjeve të bëra shpesh (FAQ) në një format pyetje-përgjigje e bën më të lehtë për modelin të gjejë pjesën e duhur. Shënoni vlerat si data, shuma dhe norma qartë dhe në një vend brenda tekstit; Shkrimi i të njëjtit numër ndryshe në seksione të ndryshme e ngatërron modelin.
Një zakon tjetër i rëndësishëm është të mbash gjallë bazën e njohurive. Politikat, çmimet dhe promovimet ndryshojnë; Nëse burimi nuk përditësohet, modeli vazhdon të përsërisë me siguri të vërtetën e vjetër. Me çdo ndryshim të politikës, përditësoni burimin dhe ri-pyetni modelit disa pyetje testimi në lidhje me temën e ndryshuar për të konfirmuar që ajo jep përgjigjen e saktë. Ky mirëmbajtje e vogël por e rregullt parandalon sistemin RAG që të "gabojë në heshtje" me kalimin e kohës.
Gabimet e zakonshme
- Duke thënë "shpjego politikën tonë" pa varrosur burimin dhe duke u mbështetur në memorizimin e modelit.
- Mos përcaktimi i kufirit dhe sjelljes jo-burimore "përgjigje vetëm nga burimi".
- Duke mos kërkuar një referencë citimi/burimi dhe duke e lënë përgjigjen të paverifikueshme.
- Mbajtja e versioneve kontradiktore të të njëjtit informacion në dokumente të shumta në bazën e njohurive.
- Lejimi i modelit të rrumbullakos/interpretojë vlerat numerike.
- Harrimi i përditësimit të burimit, duke bërë që modeli të përsërisë me besnikëri informacionin e vjetër.
Në përmbledhje
- RAG do të thotë që modeli e prodhon përgjigjen e tij nga dokumenti aktual burimor, dhe jo nga kujtesa.
- Mënyra më praktike për të reduktuar halucinacionet: varrosni burimin, thoni "vetëm përgjigjuni këtu", kërkoni citim.
- Nëse përgjigja nuk është në burim, nuk duhet t'i përshtatet një modeli; Duhet të thotë “nuk e kam” dhe ta dorëzojë.
- Ndërgjegjësoni modelin për burimet konfliktuale; Ju keni ruajtur saktësisht vlerat numerike.
- Saktësia RAG varet nga afati kohor i burimit tuaj; Gjithmonë konfirmoni kuotimin.
Detyra e aplikimit
Merrni një tekst aktual të politikës (kthimi, transporti ose anëtarësimi) nga biznesi juaj dhe futeni atë si burim në kërkesën bazë të RAG më lart. Më pas bëni tre pyetje: (1) një pyetje, përgjigja e së cilës është e qartë në burim, (2) një pyetje, përgjigja e së cilës nuk është fare në burim, (3) një pyetje, përgjigja e së cilës është vetëm e paplotë në burim. Verifiko që modeli përgjigjet saktë, thotë "nuk e kam" dhe shënon me ndershmëri përgjigjen e pjesshme dhe atë që mungon. Korrigjo sjelljen devijuese duke forcuar rregullat e besnikërisë dhe jo-burimeve në prompt.
listë kontrolli
- [ ] Kam futur burimin aktual mbi të cilin do të bazohet përgjigja në kërkesë.
- [ ] Shtova rregullin "Përgjigju vetëm nga burimi, mos dil përtej".
- [ ] Kam vënë një kërkesë referimi/citimi burimi.
- [ ] Kam përcaktuar sjelljen e delegimit nëse përgjigja nuk është e disponueshme në burim.
- [ ] Kërkova që vlerat numerike të ruheshin saktësisht.
- [ ] E konfirmova përgjigjen nga fjalia burimore në të cilën bazohet.