Girdeji:
- Kärhananyň RAG kömekçisiniň komponentlerini we maglumat akymyny dizaýn etmek
- Köp çeşmeli maglumatlary (wiki, bilet, PDF, maglumat bazasy) bir kömekçä birleşdirmek
- Göwrümliligi, keşi we gijä galmagy üçin binagärlik kararlaryny beriň
Öňki bölümlerde bölekleri ýeke-ýekeden öwrendik: ornaşdyrmak, wektor maglumatlar bazasy, böleklemek, gözlemek. Indi bulary birleşdirip, öz kompaniýaňyzyň maglumatlary bilen gürleşýän kömekçiniň ahyrky arhitekturasyny guralyň. Maksat işgäriň “Dynç alyş syýasatymyz näme?” Diýip soramagyny gazanmak. Adamlaryň sorag berip biljek ulgamy, jogaplar hakyky içerki resminamalara, sitatalara esaslanýar we birnäçe maglumat çeşmelerini birleşdirýär. Bu bölüm ähli arhitekturany, maglumat akymyny we önümçilik derejesindäki kararlary gaýtadan işleýär.
Ahyrky komponentler
Korporatiw RAG kömekçisi iki aýry setirden durýar. Indeksirleme çyzygy (awtonom) maglumatlary taýýarlaýar; Talap setiri (onlaýn) soraga jogap berýär.
Indeksirleme setir bölekleri:
- Baglaýjylar: Çeşmelerden maglumatlary alýan birleşdirijiler - wiki, bilet ulgamy, faýl dükany, maglumat bazasy, e-poçta.
- Kadalaşdyrmak: Teksti arassalamak üçin dürli formatlary (PDF, HTML, DOCX) öwürmek; sözbaşy / aşaky arassalamak.
- Çekmek + metadata: Çekmek we bellik etmek (çeşme, sene, ygtyýarlyk).
- Goýmak + ýüklemek: Wektorlar bazasyna wektorlary we metadatalary ýazmak.
Turbageçiriji komponentleri:
- Talaplary gaýtadan işlemek: Täzeden ýazmak, merkezden daşlaşdyrmak.
- Gözleg: Gibrid gözleg + metadata süzgüji + gaýtadan reýting.
- Çalt döretmek: Şablona kontekst + sorag + görkezmeleri ýerleşdirmek.
- Nesil: Model + çeşmelerinden esasly (kontekstli) jogap.
- Gaýtadan işlemek: Sitat formaty, howpsuzlygy barlamak, hasaba alyş.
Maslahat: Indeksirleme çyzygyny talap setirinden fiziki taýdan bölüň. Indeksirlemek haýal we döwürleýin (bir gijede partiýalarda işleýär); Gözleg ugry ýeňil we derrew bolmaly. Iki setiri garyşdyrmak, ulanyjy garaşýan mahaly agyr işlemäge mejbur edýär.
Maglumat akymyny wizuallaşdyrmak
]
Köp çeşmeli maglumatlary birleşdirmek
Hakyky kompaniýalarda jogap bir ýerde durmaýar. "Müşderä nädip pul tölemeli?" Soragyň jogabyny kömek makalasynda (prosedura), bilet taryhynda (hakyky mysallar) we syýasatda PDF (düzgünler) tapyp bilersiňiz. Kömekçi olaryň hemmesini bir howuzda gözlemeli.
Möhüm nokat: çeşmeleri bir wektor dükanyna birleşdireniňde, her bir şard “source_tour” meta-maglumatyny götermeli. Şeýlelik bilen, hemmesini gözläp we "diňe resmi syýasat getir" ýaly zerur bolsa süzüp bilersiňiz. Şeýle hem, dürli çeşmelerde ygtybarlylygyň dürli derejeleri bar: resmi syýasat> kömek makalasy> işgäriň bilet belligi. Bu ähmiýeti täzeden reýtingde ýa-da haýyşda kesgitläp bilersiňiz.
Çeşme
Mazmunyň görnüşi
ynam
Frequygylygy täzeläň
Syýasat PDF
resmi düzgün
beýik
aýda
Kömek makalasy
Prosedura
orta-ýokary
hepdede
Bilet taryhy
hakyky nusga
orta
Üznüksiz
wiki
Garyşyk / häzirki bellik
Üýtgeýji
Üznüksiz
Göwrümliligi, Keş we Gizlinlik
Önümçilikde üç mesele tapawutlanýar. Gijä galmak: Ulanyjy 2 sekuntdan köp garaşsa, tejribe erbetleşýär. Çözgüdi: jogaby akym görnüşinde görkeziň - modeliň ýazyşy ýaly ekrana dökülýär. Keş: frequygy-ýygydan soralýan soraglar we gaýtalanýan mazmunlar üçin keş keş tizligi ýokarlandyrýar we çykdajylary azaldýar. Terezisi: Ulanyjy ulaldygyça, gözlegleri we model jaňlaryny keseligine giňeltmegi başarmaly.
Çykdajy tarapynda barmagyň düzgüni: iň gymmat ädim, adatça has uly modele barýan belgileriň sanydyr. Şonuň üçin konteksti täzeden tertipleşdirmek arkaly 4 sany gowy bölege azaltmak hilini we bahasyny ýokarlandyrýar. Umumy dizaýn, ýönekeý klassifikasiýa ýa-da marşrutlaşdyrmak üçin has kiçi / has çalt modeli we soňky jogap üçin has güýçli modeli (meselem, claude-opus-4-8) ulanmakdyr.
Üns beriň: Indeksirlemäni "bir gezek ediň, ýatdan çykaryň" diýip düzmäň. Resminamalar üýtgedilýär, pozulýar, goşulýar. Gaýtadan indeksirlemek strategiýasyny dörediň: üýtgedilen resminamalary tapyň we diňe olary gaýtadan işlediň. Könelişen indeks häzirki ýaly görünýän, ýöne nädogry jogap berýär.
Gowşak arhitektura / Güýçli arhitektura
Gowşak (ýekeje skript, hemme zat garyşyk):
Ulanyjy sorasa: resminamalary şol pursat okaň, bölekläň, ýerleşdiriň, gözläň we jogap beriň. # Mesele: ähli soraglar üçin indeksirlemek gaýtalanýar; sekunt gijikdirmek, # çeşme bölünişi ýok, süzgüç ýok, täzelenme ýok.
Güýçli (bölünen turbalar + metadata + keş + akym):
Indeksirleme: üýtgedilen resminamalary täzeläp, partiýa gije işleýär. Talap: ýeňil çyzyk - deslapky gaýtadan işlemek → gibrid gözlemek + süzgüç → rerank → haýyş → model (akym) itation sitata → gündeligi. Quygy-ýygydan berilýän soraglar we çeşme keş görnüşinde.
Üç kiçi waka
1-nji waka - bulaşyk çyzyk, agyr gijikdirme. Bir başlangyç, her sorag bilen PDF-leri gaýtadan işleýän skript ýazdy; Her jogap ortaça 11 sekunt aldy. Indeksirleme çyzygy aýrylanda we maglumatlar ozal wektor dükanyna geçirilende, talap wagty 1,3 sekuntda azaldy we akym bilen "ilkinji söz" 400 ms-de peýda boldy.
2-nji hadysa - Çeşmeleriň gaty köp bolmagy, nädogry ähmiýet. Goldaw kömekçisi syýasata PDF we köne bilet belliklerine deň agram berdi; Bu model, resmi düzgün hökmünde iki ýyl mundan ozal işgäriň nädogry bahasyny görkezýärdi. Haçan-da source_tour metadata we "gapma-garşylyk ýüze çykan halatynda resmi syýasaty göz öňünde tutuň" görkezmesi goşulanda, ýalňyş ähmiýetli ýalňyşlyklar 89% azaldy.
3-nji hadysa - köne görkeziji. HR kömekçisi 3 aý täzelenmedik indeks bilen işleýärdi; Dynç alyş syýasaty üýtgedi, ýöne kömekçi köne günleri aýdýardy. Üýtgedilen faýllary kesgitleýän gündelik täzelenme gurlanda, häzirki jogap derejesi 70% -den 99% -e çenli ýokarlandy.
Adaty ýalňyşlyklar
- Indeksirleme we talap setirlerini garyşdyrmak: Ulanyjy garaşýan mahaly agyr işlemek amala aşyrylýar; gijikdirilýär.
- Çeşmäniň görnüşini metadata goýmazlyk: Ileri tutma we süzgüç ýok; Ynamsyz çeşme resmi bolup görünýär.
- Täzelenme strategiýasyny döretmezlik: Indeks köne bolýar; Häzirki ýaly görünýän nädogry jogaplar öndürilýär.
- Akymdan geçiň: Ulanyjy boş ekrana seredýär; Duýulýan gijikdirme ýokary bolýar.
- Her ädimde iň uly modeli ulanmak: Bahasy gereksiz ýokarlanýar; Ruly kiçi modele goýuň.
Gysgaça
- Korporatiw RAG kömekçisi iki aýry setirden durýar: oflayn indeksirlemek we onlaýn talap; fiziki taýdan bölüň.
- Indeksirlemek = birleşdiriji + kadalaşdyrmak + bölek / metadata + goýmak / ýüklemek; talap = deslapky amal + gözlemek + haýyş + döretmek + post-proses.
- Köp çeşmeli maglumatlar bir ammarda jemlenýär, ýöne çeşme_ görnüşi metadata we ynam ähmiýeti saklanýar.
- Gijä galmak üçin akym we keş, kontekstiň gysylmagy we bahasy üçin model saýlamak möhümdir.
- Gaýtadan indeksirlemezden, indeks köne bolýar; Üýtgeýän resminamalary yzygiderli köpeltmek.
Programma meselesi
Öz toparyňyz üçin kömekçiniň binagärlik diagrammasyny çyzyň. (1) Iň azyndan üç sany hakyky maglumat çeşmesini kesgitläň we birleşdirijiniň zerurlygyny ýazyň, ýygylygyny täzeläň we her biri üçin ynam derejesini ýazyň. (2) Indeksirleme we talap setirlerini guty ok diagrammasy bilen aýratyn çyzyň. (3) "Bu kömekçide gijä galmagy we çykdajylary nireden azaldyp bilerin?" Soraga azyndan iki sany anyk karar ýazyň. (4) Täzelenme strategiýaňyzy bir sözlemde suratlandyryň: haýsy çeşme täzeden görkeziler we näçe gezek?
gözegçilik sanawy
- [] Indeksirleme we talap setirlerini aýratyn we dogry komponentler bilen çyzyp bilerin.
- [] Köp çeşmeli maglumatlary çeşme_ görnüşi we ynam ähmiýeti bilen birleşdirip bilerin.
- [] Gijä galmak we çykdajy üçin model saýlamak üçin akym / keş keşbini kabul edip bilerin.
- [] Näme üçin gaýtadan indeksirlemegiň strategiýasynyň möhümdigini bilýärin.
- [] Arhitekturamdaky iň gymmat ädimiň, has ulurak modele gidýän nyşanydygyny ýadymdan çykarmaýaryn.