Qligħ:
- Ifhem kif jaħdem RAG (frammentazzjoni, aċċess, ġenerazzjoni dipendenti fuq ir-riżorsi) u kif inaqqas l-alluċinazzjoni
- Kapaċità li tiżdied il-kwalità tat-tweġibiet billi tiġi stabbilita bażi ta 'għarfien li hija attwali, ċara, ħielsa mill-kunflitt u li jkollha sors korrett wieħed.
- Kapaċità li tagħti struzzjonijiet lill-mudell 'jekk mhux fis-sors, għidli li ma tafx' u ddawwar il-mistoqsijiet li ma jistax iwieġeb f'titjib tal-bażi tal-għarfien
It-tweġiba li jagħti bot jew assistent tal-aġent hija tajba biss daqs l-informazzjoni li fuqha hija bbażata. Meta l-klijent jistaqsi "Il-kampanja qed tkompli?", it-tweġiba t-tajba mhix fil-memorja tal-mudell, iżda fil-bażi ta 'għarfien attwali tal-istituzzjoni. Huwa għalhekk li l-qalba tal-intelliġenza artifiċjali taċ-ċentru tat-telefonati hija l-bażi tal-għarfien (KB): riżorsa aġġornata fejn il-prodotti, il-politiki, il-FAQs, il-proċeduri u r-regoli jinżammu bil-miktub. U l-metodu li jgħaqqad b'mod sikur din il-bażi ta 'għarfien ma' intelliġenza artifiċjali jissejjaħ RAG: Ġenerazzjoni Retrieval-Augmented — minflok ma jagħmel it-tweġiba mill-memorja tiegħu stess, il-mudell l-ewwel jirkupra l-biċċiet ta 'informazzjoni rilevanti mis-sors (irkuprar) u mbagħad jiġġenera t-tweġiba bbażata fuq dawk il-biċċiet biss (ġenerazzjoni).
RAG huwa l-aktar metodu b'saħħtu biex jipprevjeni l-alluċinazzjoni. Il-mudell ma jiġġenerax numru fir-ras tiegħu għall-mistoqsija "x'inhi r-rata tal-imgħax tas-self?" Jiġbor it-test tal-interess kurrenti mill-bażi tal-għarfien u jwieġeb ibbażat fuqu. F'din l-unità se naraw kif nistabbilixxu l-bażi ta' għarfien, kif jaħdem RAG u kif bażi ta' għarfien tajba tiddetermina l-kwalità tat-tweġibiet.
Kif jaħdem RAG: erba 'passi
Aħseb f'RAG bħal librar. Il-klijent jistaqsi mistoqsijiet; Is-sistema l-ewwel issib il-paġni rilevanti mill-ixkaffa tal-lemin tal-librerija, imbagħad taqra dawk il-paġni u tikteb it-tweġiba. Il-passi tekniċi huma kif ġej:
- Tqassim: Dokumenti twal fil-bażi tal-għarfien huma maqsuma f'biċċiet żgħar u sinifikanti (eż., kull FAQ hija biċċa). Minħabba li l-mudell iwieġeb mistoqsija b'mod aktar preċiż b'partijiet żgħar relatati.
- Inkorporazzjoni u indiċjar: Kull biċċa hija tradotta f'forma numerika li tirrappreżenta t-tifsira tagħha (inkorporazzjoni—sekwenza ta 'numri li tirrappreżenta t-tifsira tat-test) u mqiegħda f'database li tista' titfittex. Għalhekk, mhix "taqbil ta' kliem" iżda "taqbila ta' tifsira"; Anke jekk il-klijent jistaqsi "meta se jiġu ddepożitati l-flus tiegħi?", tista' tinstab il-parti "perjodu ta' rifużjoni".
- Irkupru: Il-partijiet l-eqreb fit-tifsira tal-mistoqsija tal-klijent jiġu rkuprati (eż. l-eqreb 3-5 partijiet).
- Ġenerazzjoni: Il-mudell jikteb it-tweġiba bbażata BISS fuq il-partijiet imfassla u jindika s-sors jekk possibbli.
Il-punt kritiku jinsab fil-pass 4: il-mudell jingħata struzzjonijiet biex "jistrieħ biss fuq il-biċċiet mogħtija, jew jgħid li ma tafx." Mingħajr din l-istruzzjoni, RAG ma jipprevjenix il-mudell milli jitwaħħal.
Ħjiel: ir-regola tad-deheb ta 'RAG: "Jekk ma tkunx fis-sors, m'hemm l-ebda risposta." Sistema RAG tajba tgħid "Ma nafx ċert dwar dan" għal mistoqsija li mhix fil-bażi ta 'għarfien; qatt ma jimla l-vojt bi suppożizzjonijiet. Il-kapaċità ta 'bot li jgħid "Ma nafx" hija karatteristika ta' sigurtà, mhux dgħjufija.
Bażi ta 'għarfien tajba: is-sors reali tal-kwalità tat-tweġiba
Ma jimpurtax kemm hu tajjeb ir-RAG, jekk il-bażi tal-għarfien hija ħażina, it-tweġiba hija ħażina. Il-kwalità tal-bażi tal-għarfien titkejjel minn:
karatteristika
bażi ta 'għarfien ħażina
Bażi ta 'għarfien tajba
Currentness
Mhux aġġornat għal xhur
Aġġornat immedjatament meta jinbidel
Ċarezza
Test twil u kkonvolut
Artikli qosra b'suġġett wieħed
struttura
Pile messy PDF
Sustanzi degradabbli ttikkettjati
Konsistenza
Żewġ tweġibiet konfliġġenti
Sors uniku tal-verità
Ambitu
Hemm ħafna lakuni
Ikopri mistoqsijiet frekwenti
sjieda
Ħadd mhu responsabbli
Kull suġġett għandu sid
L-iktar problema perikoluża fil-kuntest taċ-ċentru tat-telefonati hija l-kontradizzjoni: jekk jinkitbu żewġ perjodi ta 'ritorn differenti fil-bażi ta' għarfien, RAG jgħid liema waħda tieħu u tweġiba inkonsistenti tintbagħat lill-klijent. Huwa għalhekk li l-prinċipju tas-"sors uniku tal-verità" huwa kritiku: l-informazzjoni tinżamm aġġornata f'post wieħed; Jintużaw referenzi għal dak is-sors, mhux kopji.
Pass pass: bini ta' sistema ta' rispons appoġġata mir-RAG
- Naddaf il-bażi tal-għarfien: Neħħi artikoli skaduti, konfliġġenti u duplikati. Agħmel kull artiklu qasir u b'suġġett wieħed.
- Aqsamha u tikkettaha: Żid tikketta tas-suġġett u d-data tal-aħħar aġġornament għal kull artiklu.
- Stabbilixxi aċċess: Qabbad mekkaniżmu li jiġbed il-partijiet rilevanti meta mitlub (l-għodod tar-RAG tal-intrapriża jipprovdu dan).
- Ikteb pront stretta: Għid lill-mudell "jistrieħ biss fuq il-partijiet ipprovduti, iċċita s-sors, jew għid li ma tafx."
- Iċċita s-sors: Uri l-artiklu li fuqu hija bbażata t-tweġiba; Hija t-tnejn tagħti kunfidenza u tiffaċilita l-verifika.
- Oqgħod attent għal nuqqasijiet: Iġbor mistoqsijiet fejn il-bot jgħid "Ma nafx"; Dawn juru n-nuqqasijiet fil-bażi ta 'għarfien, għalf minn hemm.
Erba' mudelli li jistgħu jiġu kkupjati
1) Tweġiba stretta RAG fil-pront:
Tweġiba BBAŻATA fuq il-partijiet [SORS] li ġejjin. Regoli: (1) uża biss l-informazzjoni fis-sors, (2) jekk ma tkunx fis-sors, għid "M'għandi l-ebda informazzjoni definita dwar dan, ħallini nqabbadek mar-rappreżentant", (3) tiddikjara liema artikolu hija bbażata fuq bħala [Sors: item-no], (4) ikkwota l-ammont/tul/kundizzjoni eżatt mis-sors, ma arrotondax/make up. [SORS]: <<partijiet miġbuda>> Mistoqsija: "<<mistoqsija tal-klijent>>"
2) Kitba ta' artiklu ta' bażi ta' għarfien:
Ikkonverti t-test tal-politika mifrux li ġej f'artikolu FAQ adattat għal RAG. Format: Mistoqsija (fil-lingwa tal-klijent) / Tweġiba qasira (2-3 sentenzi) / Kundizzjonijiet (klawsola) / Data tal-aħħar aġġornament / tikketta tas-suġġett. Immarka kwalunkwe punt ambigwi bħala "li jrid jiġi ċċarat", aħseb. Test mhux ipproċessat: <<test>>
3) Skennjar għal kontradizzjonijiet u lakuni:
Eżamina l-artikoli tal-bażi tal-għarfien li ġejjin. (1) Immarka l-pari ta’ artikoli li KONFLITtaw ma’ xulxin (eż. perjodu ta’ ritorn differenti). (2) Aqta’ s-suġġetti li se jiġu mitluba ta’ spiss iżda ma jkollhom L-EBDA tweġibiet. Ħares biss lejn l-artikoli mogħtija; jipproduċi politika ġdida.Artikoli: <<lista>>
4) Titjib mill-ġurnal "Ma nafx":
Hawn taħt hemm mistoqsijiet li l-bot ma setax iwieġeb (ma setax isib sors). Ggruppahom f'suġġetti u ssuġġerixxi t-titlu tal-artiklu li għandu jiżdied mal-bażi tal-għarfien għal kull grupp. Tagħmelx il-kontenut tat-tweġiba, għidli biss liema oġġett huwa nieqes.Mistoqsijiet: <<lista>>
Pront dgħajjef / Pront qawwi
Pront dgħajjef:
Wieġeb il-mistoqsija tar-ritorn tal-klijent.
L-ebda sors; Il-mudell jista 'joqgħod mill-memorja, l-ammont/tul jista' jkun ħażin, ma jistax jiġi vverifikat.
Pront qawwi:
Tweġiba bbażata biss fuq il-klawżola tal-politika tar-ritorn hawn taħt. Jekk ma tkunx disponibbli fis-sors, għid "Ma nafx ċert". Ikkwota l-perjodu u l-kundizzjoni verbatim, agħti referenza fil-forma ta '[Sors: RETURN-03].[SOURCE: RETURN-03]: "Prodott mhux użat jista' jiġi rritornat fi żmien 14-il jum. Prodotti personalizzati mhumiex fl-ambitu tar-ritorn." Mistoqsija: "Nista 'nirritorna l-prodott personalizzat li xtrajt 20 jum ilu?"
Differenza: dipendenti mis-sors, referenza obbligatorja, projbizzjoni tal-fabbrikazzjoni ċara; il-mudell jiġġenera t-tweġiba t-tajba ("14-il jum passat u personalizzati, mhux rimborsabbli") mis-sors.
tliet każijiet żgħar
Każ 1 — It-tmiem tal-alluċinazzjoni. L-eżattezza tat-tweġiba ta 'bot tat-telekomunikazzjoni għall-mistoqsijiet tal-kampanja kienet ta' 71% f'setup mingħajr RAG; Il-mudell ġieli għamel kampanji antiki. Meta l-paġni tal-kampanja attwali kienu konnessi ma 'RAG u r-regola "tgħidx jekk mhux fis-sors" ġiet miżjuda, l-eżattezza żdiedet għal 96% u l-ilmenti dwar "kliem ta' kampanja ħażina" kważi spiċċaw.
Każ 2 — Il-prezz tal-kontradizzjoni. Fil-bażi ta 'għarfien ta' kumpanija tal-kummerċ elettroniku, żewġ spejjeż tat-tbaħħir differenti nkitbu fuq żewġ paġni (waħda kurrenti, paġna waħda antika minsija). Il-bot kien qed jiġbed lil xi ħadd bl-addoċċ u jgħid lil xi wħud mill-klijenti l-prezz ħażin. Meta l-paġna l-antika ġiet arkivjata bil-prinċipju ta 'sors korrett uniku, l-inkonsistenza sparixxa. Lezzjoni: RAG ma jsolvix il-kontradizzjoni, jippropaga l-kontradizzjoni kif inhi.
Każ 3 — Il-valur tar-reġistru “Ma nafx”. F'bank wieħed, il-bot kien qed jgħid "Ma nafx żgur" għal ~ 4,000 mistoqsija fix-xahar. Meta dawn il-mistoqsijiet ġew miġbura, deher li 40% kienu dwar "użu tal-kards internazzjonali"; Ma kien hemm ebda artiklu dwarha. Meta ġew miżjuda l-oġġetti rilevanti, dawn il-mistoqsijiet ġew solvuti u l-fatturat għal nies fuq dak is-suġġett naqas b'55%. Il-fatt li l-bot qal li ma kienx jaf sar il-pjan direzzjonali għat-titjib.
Żbalji komuni
- Tweġiba mingħajr rabta mas-sors. Mingħajr RAG, il-mudell joqgħod informazzjoni konkreta; Kwalunkwe tweġiba konkreta trid tiddependi fuq is-sors.
- Itfi l-għażla "Ma nafx". Li jiġi sfurzat il-mudell biex iwieġeb kull mistoqsija jiżgura t-twaħħil.
- Mhux ikklerjar informazzjoni konfliġġenti/qadima. RAG ixerred il-kontradizzjoni; Sors wieħed korrett huwa essenzjali.
- Jittraskuraw li jitqattgħu. L-esportazzjoni ta' PDFs kbar kif inhi tfixkel l-aċċess preċiż; Uża artikoli qosra b'suġġett wieħed.
- Ħabi s-sors. Li ma tindikax x'inhi r-risposta bbażata fuq iddgħajjef il-verifika u l-fiduċja.
Attenzjoni: RAG itejjeb l-eżattezza iżda ma jipprovdix garanzija ta '100%. Il-mudell kultant jista' jinterpreta ħażin il-parti maqbuda. Għalhekk, kwistjonijiet finanzjarji, legali u ta’ sigurtà jeħtieġu l-approvazzjoni tal-bniedem anke jekk is-sors jiġi ċċitat; RAG inaqqas l-alluċinazzjoni iżda ma jneħħix ir-responsabbiltà.
Fil-qosor
Il-bażi tal-għarfien u r-RAG huma l-pedament tal-eżattezza tal-AI taċ-ċentru tat-telefonati. RAG fil-biċċa l-kbira jipprevjeni l-alluċinazzjoni billi jipprevjeni lill-mudell milli jwaħħal it-tweġiba mill-memorja u jiddependi biss fuq is-sors attwali. Iżda RAG hija tajba biss daqs il-bażi ta 'għarfien tagħha: bażi ta' għarfien li hija aġġornata, ċara, strutturata, ħielsa mill-kunflitti u li għandha sors uniku ta 'verità hija essenzjali. Għid lill-mudell "jekk mhux fis-sors, għidli li ma tafx", ippunta lejn is-sors, u uża l-mistoqsijiet li l-bot ma jistax iwieġeb biex ittejjeb il-bażi tal-għarfien tagħha. Żomm il-kunsens tal-bniedem minkejja s-sors fuq kwistjonijiet ta' interess kbir.
Kompitu ta' applikazzjoni
Ikteb 8 mistoqsijiet reali/realistiċi tal-klijenti mill-industrija tiegħek u 8 artikoli tal-bażi tal-għarfien qasir korrispondenti (kull artikolu: mistoqsija, tweġiba qasira, kundizzjonijiet, data, tikketta). Imbagħad ittestja jekk il-mudell jistax jgħid "Ma nafx" billi juża l-mudell "1) Tight RAG twegiba fil-pront" u jistaqsi wkoll mistoqsija, li waħda minnhom mhix fil-bażi tal-għarfien. Fl-aħħarnett, iċċekkja l-artikoli tiegħek bi "3) Skennjar tal-kontradizzjoni u tal-vojt".
lista ta' kontroll
- [ ] Kull tweġiba konkreta mogħtija mill-bot/assistent tiddependi fuq il-bażi tal-għarfien attwali (permezz tar-RAG).
- [ ] Ordejt lill-mudell "jekk ma jkunx fis-sors, għidli li ma tafx" u ttestjajtu.
- [ ] Il-bażi tal-għarfien tiegħi tikkonsisti f'artikoli aġġornati, ċari u b'suġġett wieħed.
- [ ] I ċċarat l-artikoli konfliġġenti u qodma; Hemm sors korrett wieħed biss għall-informazzjoni kollha.
- [ ] It-tweġibiet juru fuq liema artikolu huwa bbażat (sors).
- [ ] Niġbor mistoqsijiet "Ma nafx" u nitma l-bażi tal-għarfien.