Bölüm 3 / 12

Bilim bazasyndan jogap döretmek (RAG-a giriş)

Girdeji:

  • Bilime esaslanýan nesliň (RAG) logikasyna we näme üçin galýusinasiýany azaldýandygyna düşünmek
  • Diňe berlen çeşme resminamalaryna esaslanyp, modeliň sitata bilen jogap bermegi
  • Çeşmede bolmadyk soraglary ygtybarly geçirmezden, soraglary bermezden dolandyrmak ukyby

Dil modeli köp zady "bilýär", ýöne bu gün kompaniýanyňyzyň yzyna gaýtarmak syýasatyny, häzirki baha sanawyňyzy ýa-da düýn üýtgän ýük daşama şertnamany bilmeýär. Iň erbet tarapy, bilmänsoň, köplenç muny düzýär we gaty ynamly äheňde ýazýar. Müşderi hyzmatynda bu düýpli kemçilik: model "yzyna gaýtarmalar 30 günüň içinde berilýär" diýýär, syýasatyňyz 14 gün bolup biler. Bu boşlugy ýapýan çemeleşmä RAG: Gözleg-giňeldilen nesil, ýagny "gözleg-köpeldilen önümçilik" diýilýär.

Bu pikir ýönekeý: Model soraga ýadyňdan däl-de, şol pursatda öňünde goýlan dogry çeşme resminamalaryndan jogap berýär. Ilki bilen soraga degişli resminamanyň dogry bölegi "gözlemek", soň bolsa model diňe şol eseriň esasynda "jogap" döredýär. Bu bölümde, RAG-yň logikasyna düşünersiňiz we modeliň diňe üpjün edilýän tassyklanan çeşmä ýapyşmagy üçin modeli nädip berkitmelidigini öwrenersiňiz.

Bellik: Bu bölüm RAG-yň iş logikasyny we gyssagly tarapyny öwredýär. Kärhana masştabynda awtomatiki resminama gözlemek ulgamlary (wektor maglumatlar bazasy we ş.m.) tehniki gurnama talap edýär; Bu ýerdäki tertip-düzgün bu ulgamyň dogry jogap bermegi üçin esas bolup durýar.

RAG näme üçin galýusinasiýalary azaldýar?

Galýusinasiýa, model hakyky ýaly hakyky däl maglumatlary çykaranda. Model, boşlugy görende “mümkin” ýaly görünýän jogap öndürmek üçin programmirlendi; Dogry ýa-da dogry däldigini bilenok. RAG bu boşlugy doldurýar: model bilen sorag bilen birlikde hakyky teksti berýärsiňiz we "diňe şu ýerden jogap beriň" diýýärsiňiz. Şeýlelik bilen, modeliň gabat gelmegi "zerur däl".

Üç komponent bar:

  • Bilim bazasy: Sorag-jogap soraglary, syýasat resminamalary, önüm gollanmalary, baha sanawlary ýaly ygtybarly tekstler.
  • Gözleg: Soragyň jogabyny öz içine alýan resminamany tapmak we ony modele bermek.
  • Çäkli neşir: Model diňe berlen bölüme esaslanyp sitata bilen jogap berýär.

Stepdimme-ädim: Çeşmä wepaly jogap

  1. Çeşmesini taýýarlaň. Jogap esaslanýan teksti (syýasat, soraglar) anyk we döwrebap formatda tapyň.
  2. Çeşmäni gyssagly ýagdaýda goýuň. Teksti <source> ýaly bellige goýuň.
  3. Wepalylyk düzgünini ýazyň. "Diňe çeşmeden maglumatlary ulanyň, çeşmeden azaşmaň."
  4. Sitata talap ediň. Jogabyň haýsy bölüme esaslanýandygyny görkezsin.
  5. Resurs däl häsiýeti kesgitläň. Jogap çeşmede ýok bolsa, goý, "mende bu maglumat ýok" diýsin we ber.
  6. Barlaň. Jogaby esaslanýan çeşme sözlemi bilen deňeşdirip tassyklaň.

Göçürip boljak teklipler

Esasy çeşmä esaslanýan jogap soragy:

Rol: Siz müşderi goldawçysy. Soraga Diňe aşakdaky <source> blokdaky maglumatlara esaslanyp jogap beriň. Çeşmesinde bolmadyk maglumatlary goşmaň, umumy bilimleriňizden çaklaň ýa-da jogap beriň. Jogabyňyzyň soňunda bil baglaýan bölümiňizi "[Çeşme: ...]" görnüşinde goşuň. Jogap çeşmede ýok bolsa, aşakdakylary ýazyň: "Bu meselede takyk maglumatym ýok, dogry jogap berip biljek wezipeli adama geçirýärin." <source> {{policy_or_faq_text}} </source> Sorag: {{müşderi_ sorag}}

Köp çeşme bolan ýagdaýynda haýsy resminama esaslanýandygyny görkezmek üçin haýyş:

Aşakda sanly köp sanly çeşme bar. Soraga jogap bereniňizde, ulanylan çeşmäniň sanyny görkeziň, mysal üçin [Çeşme 2]. Birden köp çeşme size garşy gelse, aýdyň aýdyň we haýsysynyň has döwrebapdygyny soramagyňyzy aýdyň. <sources> 1) {{source_1}} 2) {{source_2}} 3) {{source_3}} </sources> Sorag: {{müşderi_ sorag}}

Çeşme däl soragy ygtybarly dolandyrýan gyssagly:

Soragyň jogaby bölekleýin çeşmeden tapylan bolsa: diňe çeşmäniň örtülen bölegine jogap beriň we galan bölegi üçin "bu jikme-jiklik çeşmede ýok" diýiň. Hiç haçan çaklap, ýiten bölegi doldurmaň.

Jogaby müşderi diline terjime edýän, ýöne çeşmesine wepaly bolan gyssagly:

Çeşmedäki resmi / tehniki aňlatmany müşderiniň düşünip biljek düşnükli diline terjime ediň, ýöne manysyny we san bahalaryny üýtgetmäň (gün, mukdar, nyrh). Mysal üçin, "14 senenama güni" "takmynan iki hepde"; doly bahasyny saklaň.

Gowşak gyssagly / güýçli teklip

Gowşak haýyş

Güýçli haýyş

"Yzymyza gaýdyp geliş syýasatymyz barada aýdyň"

Çeşmäni ýerleşdirýär + "diňe şu ýere jogap" + sitata talap edýär

Modeliň ýadyndan jogap (belki ýalňyşdyr)

Häzirki resminamaňyzdan jogap

Çeşmede bolmasa, ony düzýär

"Mende bu maglumat ýok" diýýär we ony berýär.

Sanlary tegelek we ýoýup bilýär

Güni / mukdaryny / derejesini takyk saklaýar

Tapawut, güýçli isleg modele labyr (çeşme teksti) we gadaganlyk (çeşmeden çykmak) berýär. Model indi ýatdan däl-de, öňündäki hakykatdan gürleýär.

Üç kiçi waka

1-nji waka - Köne syýasat duzagy. "30 günüň içinde kabul edilen girdejiler" bir dükanyň boty karzsyz işleýärkä aýtdy; Şeýle-de bolsa, kompaniýa möhleti 14 güne gysgaltdy. Täzelenen syýasat teksti RAG gurnamasyndaky çeşmä goşulanda, bot indi "14 senenama güni [Çeşme: Yza gaýdyp geliş syýasaty, 2-nji makala]" jogap berýär. Falsealan wadalardan gelip çykýan jedeller yzyna gaýtaryldy.

2-nji waka - gapma-garşylygy ele almak. Müşderi iberiş çykdajylary barada sorady. Köne we täze baha sanawlary sistema çeşme hökmünde girizildi. Köp çeşme isleginiň kömegi bilen model "Iki çeşme dürli bahalar berýär (49 TL we 59 TL); häzirki çeşmesini tassyklamaly" -diýip, meseläni adama ýetirdi. Müşderä nädogry mukdarda aýtmagyň ýerine, näbelliligi dogruçyl habar berdi.

3-nji hadysa - Bölekleýin jogap tertibi. "Önümi daşary ýurda iberýärsiňizmi we gümrük paçyny kim töleýär?" Soragda çeşme diňe iberişiň edilendigini, salgyt kimiň tölenendigi barada hiç zadyň ýokdugyny aýtdy. Model: "Hawa, daşamak daşary ýurtlarda amala aşyrylýar [Çeşme: Goük soraglary]. Emma gümrük paçyny kimiň töleýändigi bu resminamada görkezilmeýär; muny düşündirmek üçin sizi wezipeli adama tabşyrýaryn" -diýdi. Halfarym dogry, ýarym toslanan jogabyň ýerine, dogruçyl we ynamly netije berdi.

Maslahat: Bilim binýadyňyzyň hakykat wersiýasynyň iň häzirki we ýeke çeşmesini saklaň. Üç aýratyn resminamada birmeňzeş ýazylan maglumatlaryň (meselem, gaýdyp geliş döwri) bolmagy RAG-nyň iň uly duşmanydyr; Model haýsysyna seredýändigine baglylykda başgaça jogap berýär. Ilki bilen resminamalaryňyzy göçüriň, soňra awtomatlaşdyryň.

Barlamak: Diňe çeşmäniň barlygy sebäpli rahatlanmaň

RAG galýusinasiýany ep-esli azaldýar, ýöne täzeden düzmeýär. Model käwagt çeşmäni nädogry düşündirip, iki sözlemi garyşdyryp ýa-da çeşmede bolmadyk "netijä" gelip biler. Şonuň üçin sitata zerurlygy gaty möhümdir: jogabyň esaslanýan bölümini açyň we hakykatdanam şeýle diýilýändigini barlaň. Bu gözegçilik, esasanam sanlary (gün, mukdar, nyrh) we şertleri (kadadan çykma, şert) öz içine alýan jogaplarda gürleşip bolmaýar.

Üns beriň: Çeşmäniň özi nädogry ýa-da köne bolsa, RAG bu ýalňyşlygy wepalylyk bilen gaýtalaýar. "Model çeşmeden gürleýär" diýmek "model dogry gürleýär" diýmek däl; Puluňyzyň we çeşmäniň takyklygy üçin jogapkärsiňiz.

Bilim bazasyny jogap bermäge taýýar saklamak

RAG-yň hili, esasan, çeşmäniň tekstiniň ýazylyşyna baglydyr. Model, gowy düzülen, bir mowzukly tekstlerden has takyk jogap berýär. Amaly maslahat: syýasatlaryňyzy uzyn, ýerleşdirilen abzaslara däl-de, gysga, atly bölümlere ýazyň; Her bölüm ýekeje soraga jogap bersin ("Yzyna näçe gün?", "Haýsy önümleri yzyna gaýtaryp bolmaýar?"). Frequygy-ýygydan soralýan soraglary (sorag-jogaplary) sorag-jogap görnüşinde saklamak, modeliň dogry bölegini tapmagyny aňsatlaşdyrýar. Sene, mukdar we nyrh ýaly döwlet bahalary tekstiň içinde aýdyň we bir ýerde; Birmeňzeş sanlary dürli bölümlerde başgaça ýazmak modeli bulaşdyrýar.

Anotherene bir möhüm endik, bilim binýadyny dowam etdirmekdir. Syýasat, bahalar we mahabatlar üýtgeýär; Çeşme täzelenmese, model köne hakykaty arkaýyn gaýtalamagyny dowam etdirýär. Her syýasat üýtgemegi bilen, çeşmäni täzeläň we üýtgedilen mowzuk hakda dogry jogap berýändigini tassyklamak üçin modele birnäçe synag soraglaryny beriň. Bu kiçijik, ýöne yzygiderli tehniki hyzmat RAG ulgamynyň wagtyň geçmegi bilen "sessiz ýalňyş" gitmeginiň öňüni alýar.

Adaty ýalňyşlyklar

  • Çeşmäni jaýlamazdan we modeliň ýatda saklamazdan "syýasatymyzy düşündir" diýmek.
  • "Diňe çeşmeden jogap" araçäk we çeşme däl özüni alyp barşyny kesgitlemezlik.
  • Sitata / çeşme salgylanmasyny soramazlyk we jogaby tassyklap bolmaz.
  • Bilim bazasynda şol bir maglumatlaryň gapma-garşy görnüşlerini birnäçe resminamada saklamak.
  • Modeliň san bahalaryny tegelek / düşündirmegine rugsat bermek.
  • Çeşmäni täzelemegi ýatdan çykarmak, modeliň köne maglumatlary wepalylyk bilen gaýtalamagyna sebäp bolmak.

Gysgaça

  • RAG, modeliň jogabyny ýatdan däl-de, häzirki çeşme resminamasyndan öndürýändigini aňladýar.
  • Galýusinasiýany azaltmagyň iň amaly usuly: çeşmäni jaýlaň, "diňe şu ýere jogap beriň" diýiň, sitata soraň.
  • Jogap çeşmede ýok bolsa, modeliň birine laýyk gelmeli däl; "Mende ýok" diýmeli we tabşyrmaly.
  • Modeliň gapma-garşy çeşmelerden habarly bolmagy; San bahalaryny takyk sakladyňyz.
  • RAG takyklygy çeşmäniň öz wagtynda bolmagyna baglydyr; Elmydama sitatany tassyklaň.

Programma meselesi

Hakyky syýasat tekstini (yzyna gaýtarmak, ibermek ýa-da agza bolmak) öz işiňizden alyň we ýokardaky esasy RAG teklipinde çeşme hökmünde ýerleşdiriň. Soňra üç sorag beriň: (1) çeşmesinde jogaby aýdyň bolan sorag, (2) çeşmesi asla ýok sorag, (3) jogaby diňe çeşmede doly däl sorag. Modeliň dogry jogap berýändigini, “Mende ýok” diýýändigini barlaň we degişlilikde bölekleýin jogaby we ýitenleri dogruçyl belläň. Çaltlyk bilen wepalylygy we çeşme däl düzgünleri güýçlendirip, ýalňyş hereketleri düzediň.

gözegçilik sanawy

  • [] Jogapda jogap berjek häzirki çeşmesini goýdum.
  • [] "Diňe çeşmeden jogap, çäkden çykma" düzgünini goşdum.
  • [] Çeşme salgylanmasy / sitata talaplaryny goýdum.
  • [] Çeşmäniň jogaby ýok bolsa, wekiliýetiň özüni alyp barşyny kesgitledim.
  • [] San bahalarynyň takyk saklanmagyny talap etdim.
  • [] Jogabyň esaslanýan çeşmesinden tassykladym.