Qligħ:
- Timplimenta tfittxija ibrida li tgħaqqad għażla top-k u tfittxija semantika u keyword
- Żieda fl-eżattezza tal-ewwel tfittxija b'klassifikazzjoni mill-ġdid
- Jagħmel mistoqsijiet diffiċli aktar fit-tiftix b'tekniki bħat-trasformazzjoni tal-mistoqsijiet u HyDE
Inti mqatta 'd-dokumenti nicely u poġġihom fil-vector database. Issa x-xogħol reali: iġibu l-biċċiet it-tajba meta l-utent jistaqsi mistoqsija. Dan jissejjaħ irkupru u huwa s-sinsla tal-kwalità RAG. Ftakar il-frażi "Kwalità ta 'rkupru = kwalità RAG"; Din l-unità hija eżattament l-arti li ttejjeb dik il-kwalità. Aħna se nkopru tekniki prattiċi mill-għażla top-k sa tfittxija ibrida, minn klassifikazzjoni mill-ġdid sa trasformazzjoni tal-mistoqsijiet.
Top-k: Kemm se nġibu biċċiet?
L-issettjar l-aktar bażiku: kemm-il biċċiet (k) li jirritornaw mit-tfittxija. Jekk iġġib inqas (k=1) hemm riskju għoli li titlef il-biċċa t-tajba; Jekk iżżid wisq (k=20), se żżid il-ħoss mal-mudell u l-ispiża tat-token tiżdied.
Iddistingwi bejn żewġ kunċetti. Recall: ir-rata li biha l-biċċa t-tajba hija fost dawk irkuprati. Preċiżjoni: ir-rata li biha dak li jiġi rkuprat hija rilevanti. Iż-żieda ta 'k iżid l-irtirar iżda jnaqqas il-preċiżjoni. L-għan huwa li jibbilanċjaw it-tnejn.
top-k
Impatt
sitwazzjoni xierqa
1-3
Preċiżjoni għolja, riskju ta ' miss
Mistoqsijiet sempliċi, b'tweġiba waħda
4-8
Bilanċ; il-biċċa l-kbira tax-xenarji
RAG korporattiv ġenerali
10-20
Recall ogħla, iż-żidiet tal-istorbju
Bil-klassifikazzjoni mill-ġdid (hawn taħt)
Tip: Mudell komuni u b'saħħtu: ġib wiesgħa (k=20), imbagħad dejqa b'klassifikazzjoni mill-ġdid (top 4). B'hekk ma titlifx xejn u tagħti kuntest nadif lill-mudell.
Tiftix ibridu: Il-Qawwa ta' Żewġ Tfittxijiet
Tfittxija semantika (vettur) taqbad it-tifsira iżda titlef affarijiet: kodiċi tal-prodott sħiħ ("XR-4471"), abbrevjazzjoni rari, isem proprju, numru tal-verżjoni. Għal dawn il-kompiti li jaqblu eżattament, it-tiftix bil-kliem kjavi tal-iskola l-antika—speċjalment l-algoritmu klassiku msejjaħ BM25—huwa tajjeb ħafna.
It-tfittxija ibrida tgħaqqad it-tnejn: kemm it-tfittxijiet semantiċi kif ukoll il-kliem kjavi jaħdmu, u jgħaqqdu r-riżultati. Għalhekk, fi mistoqsija bħal "Perjodu ta' garanzija tal-
L-għaqda ġeneralment issir b'RRF (Reciprocal Rank Fusion): il-binarju li huwa ogħla fiż-żewġ listi tressaq.
# Irkupru ibridu (kunċettwali)sem = vector_search(mistoqsija, k=20) # meaningkey = bm25_search(mistoqsija, k=20) # fullwordresult = rrf_merge(sem, key)[:8] # fjus it-tnejn, top 8
Klassifikazzjoni mill-ġdid: It-Tieni u Passi Aktar Intelliġenti
L-ewwel sejħa tista 'tkun ta' malajr iżda rude. Il-klassifikazzjoni mill-ġdid tikklassifika l-kandidati rritornati mill-ewwel tfittxija wieħed wieħed b’mudell aktar b’saħħtu (ġeneralment cross-encoder — mudell li jaqra l-mistoqsija u s-silta flimkien u jiskorja r-rilevanza) u jċaqlaq dawk l-aktar rilevanti fil-quċċata.
Il-loġika hija din: l-ewwel tfittxija tassenja numru kbir ta 'kandidati għal sejħa lura (kandidati 20), il-ranker mill-ġdid jagħżel l-aħjar 4 għall-preċiżjoni. Dan l-approċċ f'żewġ stadji huwa ħafna aktar preċiż minn tfittxija f'stadju wieħed. Tiswa xi dewmien u proċessar addizzjonali; Il-qligħ huwa żieda sinifikanti fil-kwalità.
# Kandidati (kunċettwali) ta' rkupru f'żewġ stadji = hybrid_search(mistoqsija, k=20) # wiesgħa, quickscore = reranker.score(mistoqsija, kandidati) # punteġġ ta' rilevanza għal kull kuntest kandidat = rated.rank()[:4] # top 4
It-trasformazzjoni tal-Mistoqsija
Xi drabi l-problema mhix fit-tfittxija, iżda fil-mistoqsija nnifisha. Jekk l-utent jistaqsi "xi ngħidu għall-ħaddiema remoti?" ', dan ma jistax jiġi mfittex waħdu (mhux ċar x'inhu għall-ħaddiema remoti). Hawn huma t-tekniki tat-trasformazzjoni tal-mistoqsijiet:
- Ikteb mill-ġdid: Uża l-istorja tal-konversazzjoni biex tagħmel il-mistoqsija waħedha: "X'inhuma l-ħaddiema remoti intitolati għal-leave annwali?"
- Mistoqsija multipla: Iġġenera 3 espressjonijiet differenti tal-istess mistoqsija, fittex magħhom kollha, għaqqad ir-riżultati. Kliem differenti jsibu biċċiet differenti.
- HyDE (Inkorporazzjoni ta' Dokumenti Ipotetiċi): L-ewwel ipprintja "tweġiba possibbli" għall-mudell, imbagħad daħħal u fittex dik it-tweġiba immaġinarja. It-tweġiba immaġinarja kultant tinstab aħjar għax tkun eqreb bil-kliem tad-dokument reali.
# Varianti (kunċettwali) b'ħafna mistoqsijiet = model.uret ("Esprimi din il-mistoqsija fi 3 modi differenti: " + mistoqsija)tum_sonuc = [] għal v f'varjanti: all_sonuc += vector_intermediate(v, k=6)context = singular_and_order(tum_result)[:6]
Irkupru Dgħajjef / Irkupru B'saħħtu
Dgħajjef (stadju wieħed, semantika biss, kostanti k=3):
riżultat = vector_search(mistoqsija, k=3)# Problema: il-kodiċi tal-prodott huwa mitluf, ma tistax tidħol fil-parti korretta 3 f'mistoqsijiet diffiċli.
Qawwija (ibridu + widek + klassifikazzjoni mill-ġdid + multi-query jekk meħtieġ):
kandidati = hybrid_search(rewrite(mistoqsija, passat), k=20)context = reranker.score(mistoqsija, kandidati).first(4)# Kemm it-tqabbil eżatt kif ukoll it-tifsira jinqabdu; Jmur għall-aħjar 4 mudelli.
Tliet Każijiet Mini
Każ 1 — Kodiċi tal-prodott maħruba. Tfittxija semantika pura fuq tim ta 'appoġġ ma setgħetx issib "RTX-9080" verbatim fil-mistoqsija "żball tas-sewwieq RTX-9080"; Kien iġib prodotti oħra b’ismijiet simili. Meta ġiet miżjuda tfittxija ibrida, seħħet tqabbil eżatt tal-kodiċi u r-rata ta’ ritorn ta’ artikli korretti żdiedet minn 58% għal 92%.
Każ 2 — Differenza ta' klassifikazzjoni mill-ġdid. Paralegal kien qed jaħdem b'k=5 iżda l-oġġett korrett huwa 7-10 ħafna mill-ħin. Huwa kien qed joqgħod fil-gradi. Meta k=20 + klassifikazzjoni mill-ġdid ġiet introdotta, ir-rata tal-oġġett korrett li jkun fl-aqwa 3 żdiedet minn 61% għal 94%; Il-latenza żdiedet bi 300ms biss - kompromess aċċettabbli.
Każ 3 — Mistoqsija ta' segwitu mingħajr kuntest. F'assistent tal-HR, l-utent jistaqsi "x'inhu l-part-timers?" Meta staqsejt, is-sistema ġabet partijiet irrilevanti. Billi tikteb mill-ġdid il-mistoqsija (ġbid il-kuntest tal-"leave annwali" mill-passat u żżid "L-impjegati part-time huma intitolati għal-leave annwali"), ir-rata ta' tweġiba korretta żdiedet minn 40% għal 86%.
Żbalji komuni
- Jiddependu biss fuq tfittxija semantika: Kodiċi tal-prodott, abbrevjazzjoni, isem proprju huma mitlufa; Żid ibridu.
- Żamma k żgħir wisq: Il-biċċa t-tajba ma tistax tidħol fil-lista; tagħmilha wiesgħa u dejqa b're-rank.
- Qatt ma taħseb dwar il-klassifikazzjoni mill-ġdid: L-ewwel tfittxija hija rude; It-tieni pass intelliġenti jtejjeb b'mod sinifikanti l-kwalità.
- Tiftix għal mistoqsijiet ta' segwitu kif inhi: Mistoqsija mingħajr kuntest tfittex għal bla sens; ikteb mill-ġdid.
- Żid bl-addoċċ k (mingħajr rank mill-ġdid): Il-mudell huwa mimli bl-istorbju, ir-rispons huwa distort u l-ispiża tiżdied.
Oqgħod attent: Kull teknika żżid l-ispiża u d-dewmien. Multi-query tfisser tfittxija 3 darbiet, klassifikazzjoni mill-ġdid tfisser sejħa mudell addizzjonali. Ibda b'ibridu sempliċi + raġjonevoli k l-ewwel; Kejjel u żid tekniki tqal fejn verament meħtieġ. Żieda mingħajr kejl.
Fil-qosor
- Top-k huwa l-bilanċ bejn l-irtirar u l-preċiżjoni; Ġeneralment 4-8 huwa bidu tajjeb.
- It-tfittxija ibrida tgħaqqad it-tfittxija semantika mat-tfittxija bil-kelma prinċipali (BM25); Jirkupra logħbiet eżatti.
- Il-klassifikazzjoni mill-ġdid tagħti punteġġi mill-ġdid lill-kandidati mit-tfittxija inizjali wiesgħa b'mudell robust u tagħżel l-aħjar dawk.
- It-trasformazzjoni tal-mistoqsijiet (kitba mill-ġdid, multi-query, HyDE) tagħmel mistoqsijiet diffiċli u mingħajr kuntest li jistgħu jitfittxu.
- Mudell b'saħħtu: fetch wiesa '→ jingħaqad ma' ibridu → dejjaq b'rank mill-ġdid; imma żid kull teknika billi tkejjelha.
Kompitu ta' applikazzjoni
Ipprepara 6 mistoqsijiet diffiċli b'dejta minn unitajiet preċedenti: mill-inqas 2 li jeħtieġu taqbiliet eżatti (kodiċi tal-prodott, abbrevjazzjoni, data), 2 semantiċi (l-istess suġġett bi kliem differenti), 2 mistoqsijiet ta 'segwitu mingħajr kuntest. (1) L-ewwel aħseb f'kull mistoqsija bħala tfittxija semantika pura u mmarka manwalment liema partijiet se joħorġu. (2) Evalwa mill-ġdid l-istess mistoqsijiet b'ibridi u klassifikazzjoni mill-ġdid miżjuda. (3) Ikteb mill-ġdid il-mistoqsijiet ta' segwitu mingħajr kuntest. Innota f'forma tabulari liema teknika tagħmel differenza f'liema tip ta' mistoqsija.
lista ta' kontroll
- [ ] Naf li top-k huwa bilanċ ta' preċiżjoni li jfakkar u firxa tal-bidu raġonevoli.
- [ ] Kapaċi nispjega għaliex it-tfittxija ibrida tirkupra taqbiliet eżatti.
- [ ] Kapaċi napplika l-loġika f'żewġ stadji ta' klassifikazzjoni mill-ġdid (wisa' → smart narrow).
- [ ] Nagħraf il-ħtieġa li nikteb mill-ġdid il-mistoqsijiet ta' segwitu mingħajr kuntest.
- [ ] Nikkonferma li żidt tekniki tqal bil-kejl, mhux bil-kejl.