X'inhu RAG u Għaliex huwa Neċessarju?

Qligħ:

• Jispjega li RAG jinjetta kuntest mingħajr ma jbiddel il-piżijiet tal-mudell u jaħdem b'loġika ta' 'eżami tal-ktieb miftuħ'
• Tqabbil ta' RAG ma' approċċi ta' rfinar u kuntest twil skont l-ispiża, il-puntwalità u x-xenarju tal-użu
• Elenkar tal-passi ta 'pipeline RAG tipiku li jikkonsisti f'fażijiet ta' indiċjar u mistoqsija

Ma jimpurtax kemm hu b'saħħtu mudell tal-lingwa (intelliġenza artifiċjali li tifhem u tipproduċi test; aħna ser insejħulu mudell fil-qosor minn issa 'l quddiem), ma jafx il-kuntratt li ffirmat il-kumpanija tiegħek ilbieraħ, il-paġna tal-wiki interna tiegħek (bażi ta' għarfien intern), jew in-nota tar-rilaxx ippubblikata dalgħodu. Il-mudell huwa limitat għall-għarfien ġenerali sad-data li fih ġie mħarreġ; Din tissejjaħ id-"data tal-qtugħ tal-edukazzjoni". RAG (Retrieval-Augmented Generation) jimla eżattament dan il-vojt: isib id-dokumenti tal-kumpanija relatati mal-mistoqsija, jagħtih lill-mudell bħala kuntest (jiġifieri, it-test addizzjonali li se jaqra waqt li jipproduċi t-tweġiba) u jkollu t-tweġiba prodotta bbażata fuq dan il-kuntest.

F'din l-unità, se naraw b'mod ċar x'inhu RAG, meta jkun preferut fuq liema alternattivi, u l-passi ta 'pipeline RAG tipiku. L-unitajiet kollha sussegwenti se japprofondixxu l-partijiet ta 'din il-mappa waħda waħda.

L-Idea Bażika tar-RAG: Eżami tal-Ktieb Miftuħ

Ejja nispjegaw RAG f'sentenza waħda: "L-ewwel sib id-dokument rilevanti, imbagħad qabbad lill-mudell jaqra dak id-dokument u jistampa t-tweġiba kif xieraq."

L-aktar analoġija utli hija din: RAG iċċaqlaq il-mudell minn "eżami tal-ktieb magħluq" għal "eżami tal-ktieb miftuħ." Fl-eżami tal-ktieb magħluq, l-istudent iwieġeb biss mill-memorja; Hemm riskju għoli li tagħmel dak li ma tiftakarx. Fl-eżami tal-ktieb miftuħ, l-istudent iwieġeb billi jħares lejn is-sors imqiegħed quddiemu. F'RAG, il-mudell m'għadux iwieġeb mill-memorja tiegħu stess, iżda mit-test attwali u speċifiku li tagħtih.

Punt kritiku: RAG ma jbiddilx il-piżijiet tal-mudell, jiġifieri, il-biljuni ta 'parametri numeriċi li l-mudell tgħallem. Ma tħarreġx mill-ġdid il-mudell. Għal kull mistoqsija, tinjetta biċċiet tat-test rilevanti għal dik il-mistoqsija fil-pront (test tal-istruzzjoni mibgħut lill-mudell). Allura m'għandekx għalfejn tħarreġ mill-ġdid il-mudell meta dokument jiġi aġġornat; inti sempliċiment jġedded ir-rekord rilevanti fid-database tat-tiftix.

Ħjiel: Żewġ mistoqsijiet jiddeterminaw il-kwalità tar-RAG: (1) Sibt id-dokument it-tajjeb? (2) Il-mudell qrah b'mod korrett? L-ewwel hija "kwalità ta 'rkupru", it-tieni hija "kwalità tal-ġenerazzjoni". It-tnejn huma mkejla u mtejba separatament.

RAG, Irfinar jew Kuntest twil?

Tliet mogħdijiet huma spiss konfużi meta tfittex soluzzjoni għal problema organizzattiva. Ejja niċċaraw id-differenzi tagħhom. L-irfinar qed jaġġorna l-piżijiet tal-mudell bid-dejta tiegħek u jgħallimha mġiba/stil ġdid. Kuntest twil ifisser li timla d-dokumenti kollha direttament fil-pront mingħajr ebda għażla.

Approċċ

X'jagħmel

Meta huwa xieraq?

Spiża / Riskju

RAG

Injetta d-dokument rilevanti bħala kuntest

Informazzjoni speċifika, estensiva u li tinbidel ta' spiss

Baxxa; faċli biex taġġorna, is-sors jista 'jiġi kkwotat

Irfinar

Jaġġorna l-piżijiet b'dejta ġdida

Stil/format/tagħlim tal-lingwa fiss

Għoli; Taħriġ mill-ġdid meħtieġ ma' kull aġġornament

Kuntest twil biss

Imla d-dokumenti kollha fil-pront

Sett ta' dokumenti żgħar u stazzjonarji

L-ispiża tat-tokens u r-riskju li "titlef il-parti tan-nofs" jiżdiedu

Bħala regola: L-irfinar jgħallem lill-mudell kif jitkellem; RAG jgħid lill-mudell x'għandu jkun jaf. Fil-biċċa l-kbira tax-xenarji ta 'intrapriża, RAG jiġi ppruvat l-ewwel minħabba li huwa rħis, jista' jiġi aġġornat, u jista 'juri s-sors tat-tweġiba. Il-kuntest twil huwa raġonevoli jekk is-sett ta’ dokumenti huwa tassew żgħir u fiss (eż. manwal wieħed ta’ 20 paġna); Iżda b'eluf ta 'paġni, huwa għali u l-mudell jista' jitlef l-informazzjoni fin-nofs ta 'test twil.

Pipeline RAG Tipiku

RAG jikkonsisti f'żewġ fażijiet ewlenin: indiċjar (preparazzjoni, isir darba jew perjodikament) u mistoqsija (jiġi fuq kull mistoqsija tal-utent).

Indiċjar pass pass (offline, mingħajr stennija mill-utent):

1. Iġbor: Iġbed dokumenti minn sorsi (PDF, wiki, sistema tal-biljetti, database, email).
2. Tqattigħ: Aqsam it-test twil f'biċċiet iżgħar maniġġabbli.
3. Embed: Ikkonverti kull parti f'inkorporazzjoni (il-vettur tan-numru li jġorr it-tifsira tat-test).
4. Ħlief: Ikteb il-vectors flimkien mat-test u l-metadata (sors, data, informazzjoni dwar l-awtorizzazzjoni) fid-database tal-vectors.

Mistoqsija pass pass (online, waqt li l-utent ikun qed jistenna):

1. Ikkonverti l-mistoqsija tal-utent għall-inkorporazzjoni.
2. Irkupra l-aktar partijiet simili mid-database tal-vettur.
3. Poġġi dawn il-biċċiet + mistoqsija f'mudell fil-pront.
4. Ikseb it-tweġiba kuntestwali u s-sorsi tagħha mill-mudell.

# Conceptual outline of the inquiry phase (mhux dipendenti fuq il-lingwa)question = "Kemm jiem ta' leave annwali?"question_vektor = embed(question)parts = vektor_db.search(question_vektor, top_k=4) # most similar partsprompt = f"""Wiġeb il-MISTOQSIJA billi tuża l-KUNTEST hawn taħt. Jekk it-tweġiba m'għandix informazzjoni dwar dan." Fitting.KUNTEST:{partijiet}MISTOQSIJA: {mistoqsija}"""answer = model.uret(prompt) # eż. mudell: claude-opus-4-8

Dan il-fluss huwa mappa ta 'kull stadju, li aħna se nippakkjaw wieħed wieħed f'unitajiet sussegwenti.

Prompt Dgħajjef / Prompt Qawwija

Anke bl-istess kuntest RAG, il-kwalità tal-pront tbiddel it-tweġiba.

Pront dgħajjef (miftuħ għat-twaħħil tal-mudell, ma jeħtieġx riżorsi):

Uża din l-informazzjoni u għid il-leave annwali: {partijiet}. Mistoqsija: {mistoqsija}

Pront qawwija (ertjar + permess "Ma nafx" + talba tar-riżorsi):

Tweġiba bbażata biss fuq il-KUNTEST hawn taħt. Jekk ma jkunx hemm tweġiba ċara fil-kuntest, ikteb "Ma stajtx insib informazzjoni dwar dan fid-dokumentazzjoni"; Taqtax. Żid it-tikketta [Source: file_name] tal-biċċa li qed tistrieħ fuqha fl-aħħar tat-tweġiba tiegħek. KUNTEST: {biċċiet} MISTOQSIJA: {mistoqsija}

Tliet Każijiet Mini

Każ 1 — Assistent HR (Riżorsi Umani). Kumpanija għandha manwal tal-HR ta’ 340 paġna u l-impjegati jistaqsu medja ta’ 90 mistoqsija kuljum. Ġie ppruvat irfinar, iżda peress li l-manwal kien aġġornat kull xahar, kull darba kien meħtieġ taħriġ mill-ġdid; L-ispiża laħqet eluf ta 'dollari fix-xahar. Wara li qaleb għal RAG, l-aġġornament tnaqqas għall-pass ta '"indiċjar mill-ġdid id-dokument" (minuti) u r-rata ta' tweġiba korretta żdiedet minn 71% għal 93% fil-kejl manwali.

Każ 2 — Appoġġ għall-klijenti. It-tim ta 'appoġġ għandu 12,000 biljett solvut u 800 artiklu ta' għajnuna. Huwa jieħu medja ta '4 minuti għal rappreżentant biex isib tweġiba manwalment. Meta l-assistent RAG ġab il-5 rekords l-aktar rilevanti u pproduċa abbozz ta 'rispons, il-ħin tnaqqas għal 40 sekonda; Iżda t-tim induna r-riskju li "jidher mhux ċert billi jġib l-artiklu ħażin" u għamel obbligatorju li jiċċita s-sors.

Każ 3 — Liġi. Tim kontraenti staqsa "f'liema kuntratti l-klawżola ta' kunfidenzjalità ddum 5 snin?" huwa jistaqsi l-mistoqsija. Fil-prova tal-kuntest twil, 60 kuntratt ġew mimlija fi pront wieħed; il-mudell qabeż il-nofs żewġ kuntratti. Meta l-oġġetti rilevanti biss ġew introdotti b'RAG, l-ispiża tat-token naqset bi 80% u l-qabża nieqsa ġiet reset.

Għaliex huwa meħtieġ RAG?

• Currentness: Inti taċċessa l-informazzjoni wara d-data tal-għeluq tat-taħriġ.
• Informazzjoni speċjali: Id-dokumenti interni tiegħek mhumiex inklużi fit-taħriġ ta' xi mudell; Inti biss tista 'tagħti.
• Verifikabbiltà: Tista 'tiċċita s-sors tat-tweġiba (ċitazzjoni) - essenzjali għall-awditjar u l-fiduċja.
• Kontroll tal-alluċinazzjoni: Jistrieħ fuq it-test imqiegħed quddiemu aktar milli jagħmel mudell.
• Spiża: Huwa ferm irħas u aktar mgħaġġel biex titħaddem minn irfinar.

Attenzjoni: RAG mhix maġija. Jekk iddaħħal il-biċċa l-ħażina, il-mudell jasal għat-tweġiba ħażina u jidher "kunfidenti." Żomm f'moħħok il-frażi "Kwalità tal-irkupru = kwalità RAG".

Żbalji komuni

• Żbaljament ta 'RAG għall-irfinar: RAG ma jbiddilx il-piżijiet; Hija żżid biss il-kuntest. Li tħawwad dawn it-tnejn se twassal biex tagħżel l-arkitettura ħażina.
• Li ma tippermettix "Ma nafx": Jekk il-pront iħalli l-mudell liberu li jimla l-vojt, se jagħmel tajjeb.
• Li ma tiċċitax is-sorsi: Tweġiba mingħajr sors ma tistax tiġi ċċekkjata; L-utent ma jistax jinnota l-iżball.
• Tiġbor kollox f'pront wieħed: Il-kuntest twil jidher irħis iżda jiswa ħafna flus u jitlef l-informazzjoni tan-nofs.
• Twaħħal fil-ġenerazzjoni mingħajr ma tkejjel l-irkupru: Jekk it-tweġiba hija ħażina, l-ewwel staqsi "Waslet il-parti t-tajba?" għandu jintalab.

Fil-qosor

• RAG huwa approċċ li jinjetta dokumenti rilevanti għall-mistoqsija fil-mudell bħala kuntest; ma jbiddilx il-piżijiet ("eżami tal-ktieb miftuħ").
• L-irfinar jgħallem stil/format, RAG jagħti informazzjoni attwali u speċifika; kuntest twil jaħdem tajjeb għal settijiet fissi żgħar. Fil-biċċa l-kbira tax-xenarji, RAG jiġi ppruvat l-ewwel.
• Il-pipeline għandu żewġ fażijiet: indiċjar offline (biċċiet + inkorporazzjoni + ħlief) u mistoqsijiet onlajn (irkupru + fil-pront + jiġġeneraw).
• RAG jipprovdi puntwalità, informazzjoni speċifika, verifikabbiltà, kontroll tal-alluċinazzjoni, u prezz baxx.
• Il-kwalità tas-sistema tiddependi direttament fuq il-kwalità tal-irkupru: biċċa ħażina tfisser tweġiba ħażina.

Kompitu ta' applikazzjoni

Agħżel sors ġenwin ta’ informazzjoni mit-tim tiegħek stess (eż. dokument ta’ proċedura jew paġna tal-FAQ). (1) Ikteb 5 mistoqsijiet fattwali dwar dan is-sors. (2) Innota liema parti tad-dokument fiha t-tweġiba t-tajba għal kull mistoqsija — din issir il-lista tat-“tweġiba tad-deheb” tiegħek. (3) Bl-użu tal-mudell "pront qawwi" ta 'hawn fuq, waħħal manwalment it-taqsima rilevanti bħala kuntest u staqsi mudell. (4) Qabbel it-tweġiba mogħtija mill-mudell mat-tweġiba tad-deheb u mmarka bħala vera/falza. Din hija l-ewwel verżjoni manwali tal-valutazzjoni li se awtomat fl-unitajiet futuri.

lista ta' kontroll

• [ ] Kapaċi nispjega f'sentenza waħda li RAG ma jbiddilx il-piżijiet, iżda jżid biss il-kuntest.
• [ ] Kapaċi niddistingwi bejn RAG, irfinar u kuntest twil u meta x'inhu xieraq.
• [ ] Kapaċi ngħodd il-fażijiet ta' indiċjar (ġbor-shred-embed-save) u mistoqsija (embed-fetch-prompt-generate) f'ordni.
• [ ] Naf għaliex żidt l-istruzzjonijiet "jekk mhux fil-kuntest, ngħid li ma nafx" u "iċċita s-sors" fil-pront.
• [ ] Kapaċi naddatta l-prinċipju ta' "Kwalità ta' rkupru = kwalità RAG" għall-każ tiegħi stess.