Gnóthachain:
- Cumas chun idirdhealú a dhéanamh cibé an bhfuil fadhb ann faisnéis nó iompar agus mionchoigeartú a mheas le haghaidh fadhbanna iompraíochta go dtí go bhfuil pras, cúpla lámhaigh agus RAG ídithe.
- Modhanna mionchoigeartaithe a thuiscint (SFT, LoRA/PEFT, RLHF) agus tréithe sonraí a chinneann cáilíocht (comhsheasmhacht, éagsúlacht, rúndacht)
- Cumas fíorluach an mhionchoigeartaithe a thomhas le tástálacha réamhfhoghlama, réamhfhoghlama agus dearmadta tubaisteach
Uirlis chumhachtach ach costasach is ea mionchoigeartú (a iompar a shaincheapadh trí mhúnla réamhoilte a thraenáil tuilleadh le do shonraí féin) in arsanal an innealtóra atá ag obair le LLManna. Nuair a úsáidtear é san áit mícheart, is cur amú airgid agus ama é, ach nuair a úsáidtear é san áit cheart, soláthraíonn sé cáilíocht nach féidir a bhaint amach ar shlí eile. San aonad seo, clúdaímid nuair is gá mionchoigeartú, a mhodhanna bunúsacha agus a rioscaí. Is é an sprioc a dhéanann tú cinnteoireacht.
An cheist cheart ar dtús: an gá mionchoigeartú a dhéanamh?
Is é an botún is costasaí atá ag tosaitheoirí ná dul i ngleic láithreach le mionchoigeartú a dhéanamh ar fhadhb is féidir a réiteach. Socraigh an t-ordú mar seo:
- Innealtóireacht leide: Leid mhaith a mhíníonn an tasc go soiléir réitíonn formhór na bhfadhbanna. Ithe anseo ar dtús.
- Foghlaim ar bheagán seat: Nuair a chuirtear cúpla sampla sa leid taispeánann an tsamhail an fhormáid agus an t-iompar atá ag teastáil.
- RAG: Más é "easpa faisnéise" an fhadhb (gá le sonraí nach bhfuil a fhios ag an tsamhail), is é an réiteach ná RAG (aonad 4), ní mionchoigeartú.
- Mionchoigeartú: Tagann sé i bhfeidhm mura leor an méid thuas agus is é "iompar/formáid/stíl" an fhadhb.
Príomh-idirdhealú: Tá mionchoigeartú lag agus contúirteach maidir le faisnéis nua a mhúineadh don tsamhail; ach tá sé láidir ag múineadh conas iad féin a iompar (formáid shonrach, ton, béarlagair allamuigh, struchtúr comhsheasmhach). “Níl eolas ár gcuideachta ar eolas ag mo mhúnla” → RAG. "Lig do mo mhúnla an t-aschur a thabhairt i gcónaí san fhormáid chruinn a theastaíonn uainn" → iarrthóir mionchoigeartaithe.
Leid: Sula ndéanann tú cinneadh faoi mhionchoigeartú, fiafraigh: "An fadhb eolais nó fadhb iompair é seo?" Is fearr fadhbanna faisnéise a réiteach le RAG, is fearr fadhbanna iompraíochta a réiteach le mionchoigeartú.
Modhanna mionchoigeartaithe
Mionchoigeartú iomlán: Athoiliúint a chur ar pharaiméadair uile an mhúnla. Is cumhachtaí ach is costasaí; Éilíonn sé crua-earraí móra (GPU) agus sonraí cúramach. Níl sé riachtanach don chuid is mó d’fhoirne.
Mínchoigeartú atá tíosach ar pharaiméadair (PEFT): Modhanna a reoiteann formhór mór an mhúnla, gan oiliúint ach sraith bheag de pharaiméadair bhreise. Is é an ceann is coitianta ná LoRA (Oiriúnú Íseal-Rang: oiliúint sraitheanna beaga "oiriúnaithe" a chuirtear leis an múnla). Soláthraíonn LoRA torthaí gar do mhionchoigeartú iomlán, le cuimhne agus costas i bhfad níos lú; Sin é an fáth gurb é an chéad rogha é go praiticiúil.
Mionchoigeartú Maoirsithe (SFT): Múin an tsamhail chun “freagra a thabhairt don ionchur seo mar seo” le sonraí comhdhéanta de phéirí aschuir ionchuir-idéalacha. Is é an cás is coitianta.
Foghlaim treisithe ó aiseolas daonna (RLHF): Iompraíocht na samhla a ailíniú ó na freagraí is fearr le daoine. Tá sé casta agus costasach; Déantar freastal ar riachtanais fhormhór na bhfoirne iarratais le SFT. Is leor eolas a bheith agat ar RLHF mar choincheap.
Sonraí: croílár an mhionchoigeartaithe
Braitheann cáilíocht an mhionchoigeartaithe go hiomlán ar cháilíocht na sonraí oiliúna. Tá cúpla céad sampla ardchaighdeáin, comhsheasmhach níos fearr ná na mílte cinn sloppy. Agus sonraí á n-ullmhú:
- Comhsheasmhacht: Léiríonn gach sampla go comhsheasmhach an fhormáid agus an ton atá uait. Fágann samplaí contrártha an tsamhail mearbhall.
- Éagsúlacht: Clúdaíonn samplaí an éagsúlacht in úsáid iarbhír, ach níl siad aonfhoirmeach.
- Glanadh: Cuirtear cásanna ina bhfuil sonraí míchearta, claonta nó ceilte ar aghaidh go buan isteach sa mhúnla. Ba cheart sonraí mionchoigeartaithe a léamh chomh cúramach agus atá sa chonradh.
Aire: Gach laofacht, earráid, agus faisnéis fholaithe a iontrálann na sonraí mionchoigeartaithe eitseáilte isteach sa mhúnla agus athfhoilsítear ina haschuir. Iniúchadh a dhéanamh ar do shonraí oiliúna chomh mion is dá mbeifeá á bhfoilsiú; Ná postáil sonraí pearsanta.
Léirmheas: an ndearna tú mionchoigeartú?
Sula ndéantar mionchoigeartú, cuir foireann luachála in áirithe agus tomhais scór an mhúnla gan mionchoigeartú (bunsamhail). Tar éis mionchoigeartú, tomhais arís sa bhanc céanna. Ní féidir leat a rá "d'éirigh sé níos fearr" gan comparáid a dhéanamh. Chomh maith leis sin dhá ghaistí le bheith feasach orthu:
- Rófhoghlaim: Má dhéantar ró-oiliúint le sonraí beaga, cailleann an tsamhail a cumas samplaí oiliúna a chur de ghlanmheabhair agus a ghinearálú.
- Dearmad a dhéanamh ar thubaistí: Má dhéantar ró-oiliúint ar thasc cúng, féadann sé dochar a dhéanamh do chumas foriomlán an mhúnla. Tástáil cibé an gcoinnítear seanscileanna agus an t-iompar nua á shealbhú.
Cur chuige lag / Cur chuige láidir
Lag: "Tá 3000 logáil comhrá agam, déanaimis iad go léir a mhionchoigeartú, ionas gur féidir leis an tsamhail labhairt cosúil linne."
Güçlü: "Ar dtús, rinne mé measúnú ar an múnla bonn le 100 fíorthascanna, thug mé faoi deara an scór. Thomhais mé cé mhéad a d'fheabhsaigh sé le leideanna agus le cúpla lámhaigh - ní raibh sé go leor. Ansin ó na 3000 logaí, roghnaigh agus níor ghlan mé ach 400 sampla le hardchaighdeán, formáid chomhsheasmhach agus gan aon sonraí ceilte. Mhionchoigeartaigh mé le LoRA, tomhaiseadh arís leis na tascanna céanna agus deimhníodh 10 i dtástáil ar leithligh.
An difríocht: ídíonn an cur chuige láidir roghanna eile ar dtús, sonraí faoi phioc silíní, bearta roimh agus tar éis, agus tástálacha le haghaidh fo-iarsmaí.
Réaltacht na gcostas agus na cothabhála
Ní post aonuaire é mionchoigeartú; Is dualgas cúraim é. D’fhéadfadh go mbeadh gá le hathoiliúint nuair a nuashonraítear an bonnsamhail, nuair a athraítear riachtanais, nó nuair a chailltear sonraí. Ina theannta sin, beidh costais agus oibríochtaí breise ag baint le hóstáil ar shamhail mhionchoigeartaithe. Déan comparáid idir an costas iomlán úinéireachta seo agus an méadú ar cháilíocht a sholáthraíonn sé. An chuid is mó den am tá leid maith + RAG níos saoire agus níos solúbtha ná mionchoigeartú.
trí chás mion
Cás 1 - Mionchoigeartú gan ghá. Chuir foireann tús le tionscadal costasach mionchoigeartaithe mar "níl a fhios ag ár múnla ár dtáirgí." Caitheadh míonna agus buiséad, bhí an toradh leochaileach - chuaigh an tsamhail as feidhm gach uair a d'athraigh catalóg na dtáirgí. Ar deireadh d'aistrigh siad chuig RAG: fuair siad sonraí an táirge ó bhunachar na ndoiciméad, rinneadh an nuashonrú ar an toirt agus thit an costas. Ceacht: ní dhéantar fadhb na faisnéise a réiteach trí mhionchoigeartú.
Cás 2 - Mionchoigeartú ceart. Theastaigh ó chuideachta árachais go ndéanfadh an tsamhail achoimrí beartais a tháirgeadh i gcónaí sa struchtúr docht céanna (mír ar chlásal, le ceannteidil ar leith). Tá comhsheasmhacht le pras bhfostú ag 70%. Tar éis do LoRA mionchoigeartú a dhéanamh le 300 sampla maith, mhéadaigh comhsheasmhacht formáide go 98%. Fadhb iompair a bhí anseo agus ba é mionchoigeartú an uirlis cheart.
Cás 3 - Príobháideacht ag éalú isteach i sonraí. Rinne foireann amháin na logaí comhrá a mhionchoigeartú gan iad a ghlanadh. Bhí fíor-ainmneacha custaiméirí agus uimhreacha aitheantais sna logaí. Thosaigh an tsamhail mhionchoigeartaithe ag "sceitheadh" na hainmneacha seo mar aschur i gceisteanna neamhghaolmhara. Tarraingíodh siar an tsamhail, folaíodh sonraí agus athoilíodh iad. Ceacht: Aistrítear faisnéis fholaithe i sonraí mionchoigeartaithe go buan chuig an tsamhail.
Teimpléid inchóipeála
Cuidigh liom cinneadh a dhéanamh an bhfuil mionchoigeartú riachtanach don fhadhb seo atá agam. Fadhb: [cur síos] An fadhb EOLAIS í seo (níl rud éigin ar eolas ag an tsamhail) nó fadhb IOMPAIR (ní chruthaíonn an tsamhail an fhormáid/ton/struchtúr atá uaim)? An féidir é a réiteach le pras, le cúpla lámhaigh agus le RAG ar dtús? Cén fáth go ndéanann tú iarracht/gan triail a bhaint as gach ceann acu?
Seiceáil an tacar sonraí mionchoigeartaithe seo:1) An bhfuil na samplaí comhsheasmhach ó thaobh formáide agus toin?2) An gclúdaíonn siad an éagsúlacht san úsáid iarbhír?3) An bhfuil sonraí rúnda/pearsanta ann (ní mór iad a cheilt)?4) An bhfuil samplaí contrártha ann?
Déan plean meastóireachta roimh an mionchoigeartú agus ina dhiaidh. Tasc: [míniú] - Conas is ceart an tacar measúnuithe coinnithe amach a roghnú?- Conas a thomhaistear scór an bhunsamhail? - Cén méadrach a dhéantar é a chur i gcomparáid leis tar éis mionchoigeartaithe? - Conas a thástálann mé nach bhfuil aon lagú ar chumais ghinearálta (dearmad a dhéanamh ar thubaistí)?
Mol hipearpharaiméadair tosaigh le mionchoigeartú le LoRA.Méid na sonraí: [líon samplaí]Cuspóir: [teagasc formáide/tone]Mol ré, ráta foghlama, agus stop go luath chun rófhoghlaim a sheachaint.
Tábla cinntí: cén uirlis nuair a
gá
bain triail as ar dtús
Mionchoigeartú?
Níl aon fhaisnéis ar an tsamhail
RAG
níl
Sonraí reatha ag teastáil
RAG
níl
Formáid docht ar leith
cúpla shots
Mura leor tá
Ton/stíl comhsheasmhach
pras + cúpla-lámhaigh
Mura leor tá
béarlagair/stíl allamuigh
leid
Mura leor sin, LoRA
Barrfheabhsú tasc simplí
innealtóireacht pras
Go ginearálta uimh
Botúin choitianta
- Ag iarraidh fadhb an eolais a réiteach le mionchoigeartú. Is é RAG an uirlis cheart.
- Mionchoigeartú a dhéanamh gan pras/cúpla seat/RAG a ithe. Daor agus gan ghá.
- Oiliúint le caighdeán íseal/sonraí coinbhleachta. Tá sonraí níos lú ach soiléir níos fearr.
- Sonraí rúnda a chur san oideachas. Infiltrates an tsamhail go buan.
- Gan tomhas roimh agus tar éis. Ní féidir leat aisghabháil a chruthú.
- Gan tástáil dearmadta tubaisteach. Féadfaidh an scil nua cur isteach ar an seancheann.
Go hachomair
Is uirlis chumhachtach ach costasach é mionchoigeartú agus níor cheart é a chur san áireamh ach amháin le haghaidh fadhbanna iompair/formáide tar éis pras-cúpla seat-RAG a ithe; baineann fadhbanna faisnéise le RAG. Is iad modhanna atá tíosach ar pharaiméadair ar nós LóRA an chéad rogha phraiticiúil. Braitheann cáilíocht go hiomlán ar cháilíocht sonraí; Úsáid sonraí beaga ach glan, comhsheasmhach agus rúnda. Tomhais roimh agus tar éis, tástáil le haghaidh rófhoghlaim agus cailliúint cumais. Is dualgas cúraim é mionchoigeartú; Meáigh a chostas iomlán i gcoinne na cáilíochta a sheachadann sé.
Tasc feidhmchláir
Roghnaigh fadhb agus cinnigh an bhfuil mionchoigeartú riachtanach trí idirdhealú a dhéanamh idir "eolas nó iompar" agus scríobh do chosaint. Más fadhb iompair é, ullmhaigh 20-30 sampla comhsheasmhach, seiceáil le haghaidh sonraí folaithe, agus doiciméadaigh plean meastóireachta roimh agus tar éis (braisle ar siúl, bunscór, méadrach comparáide, tástáil dearmad). Más féidir é a réiteach le RAG/cúpla seat in ionad mionchoigeartaithe, déan nóta de seo freisin.
seicliosta
- [ ] Chinn mé an bhfuil an fhadhb eolas nó iompar.
- [ ] Rinne mé meastóireacht ar na roghanna pras, cúpla lámhaigh agus RAG ar dtús.
- [ ] Rinne mé iniúchadh ar na sonraí mionchoigeartaithe ar mhaithe le comhsheasmhacht, éagsúlacht agus rúndacht.
- [ ] Leithdháil mé cnuasach luachála coinnithe amach agus thomhais mé an bonnscór.
- [ ] Phleanáil mé tástáil comparáide agus dearmadta roimh ré.
- [ ] Chuir mé an costas iomlán i gcomparáid leis an gcáilíocht a sholáthraíonn sé.