Girdeji:
- Top-k saýlamany we semantik we açar söz gözlegini birleşdirýän gibrid gözlegi amala aşyrmak
- Gaýtadan tertipleşdirmek bilen ilkinji gözlegiň takyklygyny ýokarlandyrmak
- Talaplary üýtgetmek we HyDE ýaly usullar bilen kyn soraglary has gözlemek
Resminamalary owadan kesdiňiz we wektor maglumatlar bazasyna saldyňyz. Indi hakyky iş: ulanyjy sorag berende dogry bölekleri almak. Bu gözlemek diýilýär we RAG hiliniň diregi. "Gözlegiň hili = RAG hili" frazasyny ýadyňyzda saklaň; Bu bölüm hut şol hili ýokarlandyrmagyň sungatydyr. Top-k saýlamasyndan gibrid gözleg, täzeden reýtingden talap üýtgeşmesine çenli amaly usullary öz içine alarys.
Top-k: Näçe bölek getireris?
Iň esasy sazlama: gözlegden näçe bölek (k) gaýdyp gelmeli. Az getirseňiz (k = 1) dogry bölegi ýitirmek howpy ýokary; Gaty köp goşsaňyz (k = 20), bu modele ses goşar we belligiň bahasy ýokarlanar.
Iki düşünjäni tapawutlandyryň. .Adyňyzda saklaň: alnanlaryň arasynda dogry eseriň derejesi. Takyklyk: alynýan zadyň derejesi. K-ni köpeltmek ýatlamany ýokarlandyrýar, ýöne takyklygy peseldýär. Maksat ikisini deňleşdirmek.
top-k
Täsir
amatly ýagdaý
1-3
Precokary takyklyk, sypdyrmak howpy
Pleönekeý, bir jogaply soraglar
4-8
Balans; senariýalaryň köpüsi
Baş korporasiýa RAG
10-20
Has ýokary ýatlamak, ses ýokarlanýar
Gaýtadan reýting bilen (aşakda)
Maslahat: Umumy we güýçli nagyş: giň alyň (k = 20), soňra täzeden reýting bilen dar (ýokarky 4). Şeýlelik bilen hiç zady sypdyrmarsyňyz we modele arassa mazmun berersiňiz.
Gibrid gözleg: Iki gözlegiň güýji
Semantik (wektor) gözleg manysyny alýar, ýöne zatlary sypdyrýar: önümiň doly kody ("XR-4471"), seýrek gysgaltma, dogry ady, wersiýa belgisi. Bu takyk meseleler üçin köne mekdep açar söz gözlemek, esasanam BM25 atly klassiki algoritm gözlemek gaty gowy.
Gibrid gözleg ikisini birleşdirýär: semantik we açar söz gözlegleri, netijeleri birleşdirýär. Şeýlelik bilen, "Kepillik döwri" ýaly soragda
Birleşmek, adatça RRF (Iki taraplaýyn tertip birleşmesi) bilen amala aşyrylýar: iki sanawda has ýokary bolan ýol öňe çykýar.
# Gibrid gözlemek (konseptual) sem = wektor_ gözleg (sorag, k = 20) # manykey = bm25_ gözleg (sorag, k = 20) # fullwordresult = rrf_merge (sem, açar) [: 8] # ikisini birleşdiriň, ýokarky 8
Gaýtadan reýting: Ikinji we has akylly geçiş
Ilkinji jaň çalt, ýöne gödek bolup biler. Ilkinji gözlegde has güýçli model (köplenç kross-kodlaýjy - soragy we geçişi bilelikde okaýan we ähmiýetini kesgitleýän model) bilen ilkinji gözlegde yzyna gaýdyp gelen dalaşgärler, iň möhümlerini ýokarsyna geçirýärler.
Mantyk şu: ilkinji gözleg yzyna çagyrylmak üçin köp sanly kandidaty belleýär (20 kandidat), gaýtadan reýting takyklygy üçin iň gowy 4-i saýlaýar. Bu iki basgançakly çemeleşme, bir basgançakly gözlegden has takyk. Birneme gijikdirmek we goşmaça işlemek gerek; Girdeji hiliň ep-esli ýokarlanmagydyr.
# Iki basgançakly gözleg (konseptual) dalaşgärler = gibrid_ gözleg (sorag, k = 20) # giň, quickscore = reranker.score (sorag, dalaşgärler) # her dalaşgäriň konteksti üçin ähmiýet baly = rated.rank () [: 4] # top 4
Talaby üýtgetmek
Käwagt mesele gözlegde däl, soragyň özünde bolýar. Ulanyjy “uzakdaky işçiler hakda näme?” Diýip sorasa. ', muny ýeke gözläp bolmaýar (uzakdaky işçiler üçin nämäniň bardygy belli däl). Ine, talaplary üýtgetmegiň usullary:
- Gaýtadan ýazyň: Soragy özbaşdak etmek üçin söhbetdeşlik taryhyny ulanyň: "Uzakdaky işçileriň ýyllyk dynç almaga hukugy näme?"
- Köp sorag: Bir soragyň 3 dürli aňlatmasyny dörediň, hemmesi bilen gözläň, netijeleri birleşdiriň. Dürli sözler dürli bölekleri tapýar.
- HyDE (Gipotetiki resminama goýulmagy): Ilki bilen modele "mümkin bolan jogaby" çap ediň, soňra şol hyýaly jogaby ýerleşdiriň we gözläň. Hyýaly jogap käwagt has gowy tapylýar, sebäbi söz bilen hakyky resminama has ýakyn.
# Köp talaply (konseptual) wariantlar = model.uret ("Bu soragy 3 dürli görnüşde beýan ediň:" + sorag) tum_sonuc = [] görnüşleri üçin v: all_sonuc + = vector_intermediate (v, k = 6) kontekst = singular_and_order (tum_result) [: 6]
Gowşak gözleg / Güýçli gözleg
Gowşak (bir basgançak, diňe semantika, hemişelik k = 3):
netije = wektor_search (sorag, k = 3) # Mesele: önüm kody sypdyryldy, kyn soraglarda dogry 3 bölümi girizip bilmeýär.
Güýçli (gibrid + widek + täzeden reýting + zerur bolsa köp talap):
dalaşgärler = gibrid_ gözleg (täzeden ýazmak (sorag, geçmiş), k = 20) kontekst = reranker.score (sorag, dalaşgärler). birinji (4) # Takyk gabat gelýän we manyly; Iň oňat 4 modele geçýär.
Üç kiçi waka
1-nji waka - Önüm kody gaçdy. Goldaw toparyndaky arassa semantik gözleg, "RTX-9080 sürüjiniň ýalňyşlygy" soragynda "RTX-9080" söz sözüni tapyp bilmedi; Şuňa meňzeş atlar bilen beýleki önümleri getirýärdi. Gibrid gözleg goşulanda, takyk kod gabat geldi we dogry makalalary yzyna gaýtarmagyň derejesi 58% -den 92% -e çenli ýokarlandy.
2-nji hadysa - Reýting tapawudy. Paralegal k = 5 bilen işleýärdi, ýöne dogry element köplenç 7-10 bolýar. Ol hatarda durýardy. K = 20 + gaýtadan reýting girizilende, ilkinji 3-nji orunda durýan dogry makalanyň tizligi 61% -den 94% -e çenli ýokarlandy; Gizlinlik bary-ýogy 300ms ýokarlandy - kabul ederlikli ylalaşyk.
3-nji waka - Kontekstsiz sorag. HR kömekçisinde ulanyjy “ýarym gün işleýänler näme?” Diýip soraýar. Soranymda, ulgam ähmiýetsiz bölekleri getirdi. Talaby täzeden ýazmak bilen ("annualyllyk dynç alyş" mazmunyny geçmişden çekip, "Doly däl işleýänleriň ýyllyk zähmet rugsady" goşmak bilen) dogry jogap derejesi 40% -den 86% -e çenli ýokarlandy.
Adaty ýalňyşlyklar
- Diňe semantik gözleglere bil baglamak: Önüm kody, gysgaltmasy, dogry ady sypdyrylýar; Gibrid goşuň.
- K gaty kiçi saklamak: Dogry eser sanawa girip bilmez; giňeldiň we täzeden dereje bilen daraldyň.
- Hiç haçan täzeden reýting bermek hakda pikir etmäň: Ilkinji gözleg gödek; Ikinji akylly geçiş hilini ep-esli ýokarlandyrýar.
- Indiki soraglary gözlemek: Kontekstsiz sorag manysyz gözleýär; gaýtadan ýaz.
- Kör kör köpelýär (täzeden dereje almazdan): Model ses bilen doldurylýar, jogap ýoýulýar we bahasy ýokarlanýar.
Seresap boluň: Her bir usul gymmaty we gijikdirmäni goşýar. Köp talap 3 esse gözlemegi aňladýar, gaýtadan reýting goşmaça model jaňyny aňladýar. Ilki bilen ýönekeý gibrid + esasly k bilen başlaň; Hakykatdanam zerur ýerlerde agyr usullary ölçäň we goşuň. Ölçemän goşmak.
Gysgaça
- Top-k ýatlamak bilen takyklygyň arasyndaky deňagramlylyk; Umuman 4-8 gowy başlangyç.
- Gibrid gözleg semantik gözlegi açar söz (BM25) gözlegi bilen birleşdirýär; Takyk gabat gelýänleri dikeldýär.
- Gaýtadan reýting, giň başlangyç gözleginden dalaşgärleri ygtybarly model bilen täzeden ballaýar we iň gowularyny saýlaýar.
- Talaplary üýtgetmek (gaýtadan ýazmak, köp talap, HyDE) kyn we kontekstsiz soraglary gözleýär.
- Güýçli nagyş: giň almak get gibrid bilen birleşmek re re derejesi bilen dar; ýöne ölçemek bilen her usuly goşuň.
Programma meselesi
Öňki bölümleriň maglumatlary bilen 6 sany kyn soragy taýýarlaň: azyndan 2 sany takyk gabat gelýänligi talap edýär (önümiň kody, gysgaltmasy, senesi), 2 semantik (dürli sözler bilen şol bir mowzuk), 2 sany yzygiderli sorag. (1) Ilki bilen her soragy arassa semantik gözleg diýip pikir ediň we haýsy bölekleriň çykjakdygyny el bilen belläň. (2) Gibrid we täzeden reýting goşulan şol bir soraglara täzeden baha beriň. (3) Indiki soraglary kontekstsiz täzeden ýazyň. Haýsy usulyň haýsy sorag görnüşinde tapawutlandyrýandygyny tablisa görnüşinde belläň.
gözegçilik sanawy
- [] Top-k-yň yzyna gaýtarmak takyklygy we amatly başlangyç aralygydygyny bilýärin.
- [] Gibrid gözlegiň näme üçin takyk gabat gelýändigini düşündirip bilerin.
- [] Gaýtadan tertipleşdirmegiň iki basgançakly logikasyny ulanyp bilerin (giň → akylly dar).
- [] Indiki soraglary kontekstsiz täzeden ýazmagyň zerurdygyna düşünýärin.
- [] Ölçemek bilen däl-de, ölçemek arkaly agyr usullary goşandygymy tassyklaýaryn.