Uru:
- Ikike ịmata ọdịiche ma nsogbu ọ bụ ozi ma ọ bụ omume wee nyochaa nhazi ọma maka nsogbu omume naanị mgbe ngwa ngwa, obere mgbọ na RAG agwụla.
- Ịghọta ụzọ nhazi nke ọma (SFT, LoRA/PEFT, RLHF) na njirimara data na-ekpebi àgwà (nkwụsi ike, iche iche, nzuzo)
- Ikike itule ezi uru nke ntughari nke oma site na ntule tupu emechaa, mmuta na nleba anya nleghara ojoo.
Ndozi nke ọma (ịmezi omume ya site na iji data nke gị onwe gị zụọ ụdị a zụrụ azụ) bụ ngwa siri ike ma dị oke ọnụ na ngwa agha nke injinia na-arụ ọrụ na LLM. Mgbe a na-eji ya eme ihe n'ebe na-adịghị mma, ọ na-efunahụ ego na oge, ma mgbe ejiri ya mee ihe n'ebe kwesịrị ekwesị, ọ na-enye àgwà nke a na-apụghị ime n'ụzọ ọzọ. N'ime nkeji a, anyị na-ekpuchi mgbe ọ dị mkpa ngbanwe nke ọma, usoro ya na ihe ize ndụ ya. Ebumnuche bụ ime ka ị na-eme mkpebi.
Mbụ ajụjụ ziri ezi: ọ dị mkpa imezigharị nke ọma?
Mmejọ kachasị ọnụ nke ndị mbido bụ ngwa ngwa ngwa ngwa iji dozie nsogbu enwere ike idozi. Hazie usoro dị ka nke a:
- Injinia ngwa ngwa: ezigbo ngwa ngwa nke na-akọwa ọrụ ahụ na-edozi ọtụtụ nsogbu. Were ebe a buru ụzọ.
- Ịmụta obere ihe: Itinye atụ ole na ole n'ime ngwa ngwa na-egosi ụdị usoro na omume achọrọ.
- RAG: Ọ bụrụ na nsogbu ahụ bụ "enweghị ozi" (mkpa data nke ihe nlereanya ahụ amaghị), ngwọta ya bụ RAG (unit 4), ọ bụghị nhazi nke ọma.
- Ndozi nke ọma: Ọ na-abata ma ọ bụrụ na nke dị n'elu ezughi oke na nsogbu bụ "omume / usoro / ụdị".
Isi ihe dị iche: Ndozi nke ọma adịghị ike ma dịkwa ize ndụ n'ịkụzi ihe nlereanya ahụ ozi ọhụrụ; ma o siri ike n'ịkụzi ka e si akpa àgwà (usoro a kapịrị ọnụ, ụda olu, jargon ubi, usoro na-agbanwe agbanwe). "Ihe nlereanya m amaghị ozi ụlọ ọrụ anyị" → RAG. "Ka ihe nlereanya m na-enye mmepụta mgbe niile n'ụdị anyị chọrọ" → ezigbo-nlegharị anya nwa akwukwo.
NDỤMỌDỤ: Tupu i kpebie imezigharị nke ọma, jụọ: "Nke a ọ bụ nsogbu ọmụma ka ọ bụ nsogbu omume?" A na-edozi nsogbu ozi nke ọma na RAG, a na-edozi nsogbu omume nke ọma site na nhazi nke ọma.
Usoro nhazi nke ọma
Ndozi n'ụzọ zuru oke: Ịzụghachi parampat niile nke ihe nlereanya ahụ. Kachasị ike mana kacha ọnụ; Ọ chọrọ nnukwu ngwaike (GPU) yana data kpachara anya. Ọ dịghị mkpa maka ọtụtụ otu.
Nlegharị anya nke ọma na-arụ ọrụ nke ọma (PEFT): Ụzọ na-eme ka ihe ka ọtụtụ n'ime ihe nlereanya ahụ kwụsị, na-azụ naanị ntakịrị ihe mgbakwunye. Ihe na-emekarị bụ LoRA (Nkwado ọkwa dị ala: ọzụzụ obere "ihe nkwụnye" n'ígwé agbakwunyere na ihe nlereanya). LoRA na-enye nsonaazụ nso na nlegharị anya zuru oke, yana ebe nchekwa dị obere na ọnụ ahịa; Ya mere ọ bụ nhọrọ mbụ na omume.
Na-ahụ maka mma-Tuning (SFT): Ịkụzi ihe nlereanya ka ọ "zaghachi na ntinye a dị ka nke a" yana data nwere ụzọ ntinye ntinye-ezigbo mma. Ọ bụ ọnọdụ a na-ahụkarị.
Nkwalite mmụta sitere na nzaghachi mmadụ (RLHF): Ịhazi omume ihe nlereanya site na nzaghachi ndị mmadụ masịrị. Ọ dị mgbagwoju anya ma dị oke ọnụ; A na-ezute mkpa nke ọtụtụ ndị otu ngwa na SFT. O zuru ezu ịmara RLHF dịka echiche.
Data: obi nke imezi ihe
Ịdị mma nke nlegharị anya na-adabere kpamkpam n'ịdị mma nke data ọzụzụ. Nlele dị elu narị ole na ole, na-agbanwe agbanwe dị mma karịa puku kwuru puku ndị sloppy. Mgbe ị na-akwado data:
- Nkwenye: Ọmụmaatụ niile na-egosikarị usoro na ụda ịchọrọ. Ihe atụ ndị na-emegiderịta onwe ha na-ahapụ ihe nlereanya ahụ mgbagwoju anya.
- Ụdị dị iche iche: Ọmụmaatụ na-ekpuchi ụdị dị iche iche a na-eji eme ihe n'ezie, mana ọ bụghị otu.
- Nhicha: Ihe atụ nwere data ezighi ezi, nke enweghị isi ma ọ bụ zoro ezo na-agafe n'ụdị. Ekwesịrị ịgụ nke ọma nke ọma data dị ka nkwekọrịta.
Kpachara anya: Njọ ọ bụla, njehie na ozi ezoro ezo nke na-abanye na data nhazi nke ọma na-abanye n'ime ihe nlereanya wee pụtaghachi na ntinye ya. Nyochaa data ọzụzụ gị nke ọma dị ka a ga-asị na ị na-ebipụta ya; Ebiputela data nkeonwe.
Nlebanya: ịrụ ọrụ nke ọma?
Tupu imezigharị nke ọma, dobe ntọala eval ejidere wee tụọ akara nke ihe nlereanya na-enweghị ezigbo ngbanwe (ụdị ntọala). Mgbe emezichara nke ọma, tụọ ọzọ n'otu ụlọ akụ. Ị nweghị ike ịsị "ọ na-akawanye mma" na-enweghị atụnyere ya. Ọzọkwa ọnyà abụọ ị ga-ama:
- Ịmụ ihe karịrị ihe: Iji obere data na-emebiga ihe ókè na-eme ka ihe nlereanya ahụ tụfuo ikike iburu n'isi na ịchịkọta ihe atụ ọzụzụ.
- Ọdachi na-echefu: Ịmebiga ihe ókè na ọrụ dị warara nwere ike imebi ikike n'ozuzu ihe nlereanya ahụ. Nwalee ma a na-ejigide nkà ochie mgbe ị na-enweta omume ọhụrụ ahụ.
Ụzọ adịghị ike / Ụzọ siri ike
Adịghị ike: "Enwere m ndekọ mkparịta ụka 3000, ka anyị nye ha niile ka ha gbanwee nke ọma, ka ihe nlereanya ahụ wee nwee ike ikwu okwu dị ka anyị."
Güçlü: "Nke mbụ, m na-enyocha ihe nlereanya nke isi na 100 ezigbo ọrụ, kwuru akara. M tụrụ otú ọ na-emeziwanye na mkpali na ole na ole-agbapụ - ọ ezughị. Mgbe ahụ site na 3000 ndekọ, m họọrọ na kpochara naanị 400 samples na elu àgwà, na-agbanwe agbanwe format na ọ dịghị zoro ezo data. M ezi-tugharia na 1 dị iche iche na-arụ ọrụ na LoRA, na-eme ka ọ dị mma na-enyocha ya na otu ọrụ ahụ. ikike izugbe adịkwaghị."
Ọdịiche: ụzọ siri ike na-ewepụ ụzọ ọzọ na mbụ, cherry-ahọrọ data, usoro tupu na mgbe emechara, yana nnwale maka mmetụta ndị ọzọ.
Eziokwu nke ọnụ ahịa na mmezi
Ndozi nke ọma abụghị ọrụ otu oge; Ọ bụ ọrụ nlekọta. Ọ nwere ike ịdị mkpa ịmaliteghachi mgbe emelitere ụdị ntọala, chọrọ mgbanwe, ma ọ bụ data efunahụ. Tụkwasị na nke ahụ, ịbịbịa ụdị emeziri nke ọma na-ewetakwu ụgwọ na ọrụ. Tụlee ngụkọta ọnụ ahịa nke onye nwe ya na mmụba nke ịdịmma ọ na-enye. Ọtụtụ mgbe ezigbo ngwa ngwa + RAG dị ọnụ ala ma na-agbanwe agbanwe karịa nhazigharị nke ọma.
Obere ikpe atọ
Ikpe 1 - Ndozi mma na-enweghị isi. Otu otu malitere ọrụ nlegharị anya dị oke ọnụ n'ihi na "ihe nlereanya anyị amaghị ngwaahịa anyị." A na-eji ọnwa na mmefu ego emefu, ihe si na ya pụta adịghị ike - ihe nlereanya ahụ ghọrọ ihe na-adịghịzi adị mgbe ọ bụla katalọgụ ngwaahịa gbanwere. N'ikpeazụ, ha gbanwere na RAG: ha nwetara data ngwaahịa ahụ site na akwụkwọ ndekọ, mmelite ahụ dị ngwa ngwa na ọnụ ahịa ahụ kwụsịrị. Ihe nkuzi: anaghị edozi nsogbu ozi site na nhazi nke ọma.
Ikpe 2 - Ndozigharị nke ọma. Ụlọ ọrụ inshọransị chọrọ ka ihe nlereanya ahụ na-emepụta nchịkọta amụma mgbe niile n'otu nhazi ahụ siri ike (ihe site na nkebiokwu, nwere isiokwu akọwapụtara). Nkwekọrịta na ngwa ngwa na-arapara na 70%. Mgbe LoRA nwechara ezigbo nlele 300 dị mma, nkwụsi ike usoro mụbara ruo 98%. Nke a bụ nsogbu omume yana imezigharị ya nke ọma bụ ngwa ọrụ kwesịrị ekwesị.
Ikpe 3 - Ịbanarị nzuzo na data. Otu otu webatara ndekọ nkata ahụ maka imezigharị nke ọma na-ehichaghị ha. Ndekọ ndị ahụ nwere ezigbo aha ndị ahịa na nọmba njirimara. Ihe nlere anya nke ọma malitere "ịwụpụ" aha ndị a dị ka mpụtara na ajụjụ enweghị njikọ. Ewepụrụ ihe nlereanya ahụ, kpuchie data ma zụgharịa ya. Ihe nkuzi: A na-ebufe ozi ezoro ezo na ezigbo nhazi data na ihe nlereanya ahụ kpamkpam.
Ụdị ndebiri nwere ike iṅomi
Nyere m aka ikpebi ma ọ dị mkpa idozigharị nke ọma maka nsogbu m a. Nsogbu: [nkọwa] Nke a ọ bụ nsogbu ozi (ihe nlereanya ahụ amaghị ihe) ma ọ bụ nsogbu omume (ihe nlereanya anaghị ewepụta usoro/ụda/ nhazi m chọrọ)? Enwere ike idozi ya na ngwa ngwa, obere-shot na RAG mbụ? Kedu ihe kpatara ịgbalị / na-anwaleghị nke ọ bụla n'ime ha? Naanị n'ọnọdụ dị aṅaa ka ị ga-akwado imezigharị nke ọma?
Lelee dataset nke ọma nke ọma:1) Ihe atụ ndị ahụ hà na-agbanwe agbanwe n'ụdị na ụda?2) Ha na-ekpuchi mgbanwe dị iche iche n'iji ya eme ihe n'ezie?3) Ọ nwere data nzuzo/nkeonwe (a ga-ekpuchirịrị)?4) Enwere ihe atụ na-emegiderịta onwe ya? Akụkụ nke ihe atụ: [ihe atụ] Depụta okwu ọ bụla wee dozie ihe ị chọtara.
Mepụta atụmatụ nleba anya tupu na mgbe emezichara nke ọma. Ọrụ: [nkọwa] - Olee otú e kwesịrị isi họrọ eval setịpụrụ? - Olee otú a na-atụle akara nke ihe nlereanya isi? - Kedu metric ka e ji atụnyere ya mgbe emechara nke ọma? - Kedu ka m ga-esi nwalee na ikike izugbe adịghị emebi (nchefu ọdachi)?
Na-atụ aro hyperparameters nke mbụ maka imezigharị ya na LoRA. Nha data: [ọnụọgụ samples] Ebumnuche: [ụdị/ nkuzi ụda]Tụnye oge, ọnụego mmụta, na nkwụsị n'oge iji zere ịmụ ihe.
Tebụl mkpebi: nke ngwá ọrụ mgbe
mkpa
buru ụzọ nwaa
Ndozi nke ọma?
Ihe nlereanya ahụ amaghị ozi ọ bụla
RAG
mba
Achọrọ data ugbu a
RAG
mba
Ọkpụkpọ siri ike akọwapụtara
gbaa ole na ole
Ọ bụrụ na ezughi oke ee
Ụda/ụdị na-agbanwe agbanwe
ozugbo + ole na ole
Ọ bụrụ na ezughi oke ee
Ubi jargon/ụdị
ngwa ngwa
Ọ bụrụ na nke ahụ ezughị, LoRA
Nkwalite ọrụ dị mfe
injinia ngwa ngwa
N'ozuzu mba
Mmejọ ndị nkịtị
- Na-agbalị iji dozie nsogbu ozi ahụ site na nhazi nke ọma. RAG bụ ngwá ọrụ kwesịrị ekwesị.
- Na-agba ọsọ n'ime nhazi nke ọma na-erighị ngwa ngwa/obere-shot/RAG. Dị oke ọnụ na enweghị isi.
- Ọzụzụ na data dị ala / esemokwu. Obere ma doo anya data ka mma.
- Itinye data nzuzo na agụmakwụkwọ. Na-abanye n'ime ihe nlereanya ahụ na-adịgide adịgide.
- Adịghị atụ tupu na mgbe. Ị nweghị ike igosi mgbake.
- Anaghị anwale ichefu ọdachi. Nkà ọhụrụ ahụ nwere ike imebi nke ochie.
Na nchịkọta
Ndozi nke ọma bụ ngwá ọrụ dị ike ma dị oke ọnụ ma ekwesịrị ịtụle ya maka nsogbu omume / usoro mgbe ị riri ngwa ngwa-ole-shot-RAG; nsogbu ozi bụ nke RAG. Ụzọ na-arụ ọrụ nke ọma dị ka LoRA bụ nhọrọ mbụ bara uru. Ogo na-adabere kpamkpam na ogo data; Jiri obere ma dị ọcha, na-agbanwe agbanwe na data nzuzo. Tulee tupu ma emechaa, nwalee maka mmụta na enweghị ike. Nhazi nke ọma bụ ọrụ nlekọta; Tulee ọnụ ahịa ya niile megide ogo ọ na-enye.
Ọrụ ngwa
Họrọ nsogbu wee kpebie ma nlegharị anya ọ dị mkpa site n'ịmata ọdịiche dị n'etiti "ihe ọmụma ma ọ bụ omume" wee dee ihe ziri ezi. Ọ bụrụ na ọ bụ nsogbu omume, dozie ihe atụ 20-30 na-agbanwe agbanwe, lelee data ezoro ezo, wee detuo atụmatụ nyocha tupu na mgbe emechara (ụyọkọ ejidere, akara ntọala, metric ntụnyere, ule ichefu). Ọ bụrụ na enwere ike iji RAG/obere-shot dozie ya kama ịmegharị ya nke ọma, detuokwa nke a.
ndetu
- [ ] Ekpebiri m ma nsogbu ahụ bụ ihe ọmụma ma ọ bụ omume.
- [] M buru ụzọ nyochaa ngwa ngwa, obere-shot na RAG ọzọ.
- [] Edere m data ngbanwe nke ọma maka ngbanwe, iche iche na nzuzo.
- [ ] Enyere m ụyọkọ eval ejidere wee tụọ akara akara.
- [ ] M zubere tupu-mgbe ntụnyere na chefuo ule.
- [ ] M tụnyere ngụkọta ọnụ ahịa na àgwà ọ na-enye.