Riba:
- Ƙarfin bambance ko matsala shine bayani ko hali da kimanta daidaitawa don matsalolin halayya kawai bayan gaggawa, 'yan harbi da RAG sun ƙare.
- Fahimtar hanyoyin daidaitawa mai kyau (SFT, LoRA/PEFT, RLHF) da sifofin bayanai waɗanda ke ƙayyade inganci (daidaituwa, bambancin, sirri)
- Ability don auna ainihin ƙimar daidaitawa tare da kimantawa kafin-bayan, koyo da gwaje-gwajen manta da bala'i.
Kyakkyawan daidaitawa (daidaita halayen sa ta hanyar horar da samfurin da aka riga aka horar tare da bayanan ku) kayan aiki ne mai ƙarfi amma mai tsada a cikin arsenal na injiniyan da ke aiki tare da LLMs. Idan aka yi amfani da shi a wurin da bai dace ba, yana ɓata kuɗi da lokaci, amma idan aka yi amfani da shi a wurin da ya dace, yana ba da ingancin da ba za a iya samu ba. A cikin wannan rukunin, zamu rufe lokacin da ake buƙatar daidaitawa, hanyoyin sa da hatsarori. Manufar ita ce sanya ku yanke shawara.
Da farko tambayar da ta dace: shin daidaitawa ya zama dole?
Kuskuren da ya fi tsada na masu farawa shine a hanzarta yin gaggawa don daidaita matsalar da za a iya magance ta. Saita tsari kamar haka:
- Injiniya mai sauri: Kyakkyawan saurin da ke bayyana aikin a sarari yana warware yawancin matsaloli. Ku ci a nan tukuna.
- Koyo kadan-harbi: Saka ƴan misalai a cikin faɗakarwa yana nuna ƙirar tsari da halayen da ake so.
- RAG: Idan matsalar ita ce "rashin bayanai" (buƙatar bayanan da samfurin bai sani ba), mafita shine RAG (naúrar 4), ba daidai ba.
- Kyakkyawan daidaitawa: Yana zuwa cikin wasa idan abin da ke sama bai isa ba kuma matsalar ita ce "halaye / tsari / salo".
Bambance-bambancen maɓalli: Kyakkyawan daidaitawa yana da rauni kuma yana da haɗari a koyar da ƙirar sabbin bayanai; amma yana da ƙarfi wajen koyar da yadda ake ɗabi'a (wani ƙayyadaddun tsari, sautin murya, jargon filin, daidaitaccen tsari). "Tsarin nawa bai san bayanan kamfaninmu ba" → RAG. "Bari samfurina koyaushe yana ba da fitarwa a daidai tsarin da muke so" → ɗan takara mai daidaitawa.
Tukwici: Kafin yanke shawarar daidaitawa, tambaya: "Shin wannan matsalar ilimi ce ko matsalar ɗabi'a?" Matsalolin bayanai sun fi dacewa da RAG, an fi magance matsalolin halayya tare da daidaitawa.
Hanyoyin daidaitawa
Cikakken daidaitawa: Sake horar da duk sigogin ƙirar. Mafi ƙarfi amma mafi tsada; Yana buƙatar manyan kayan masarufi (GPU) da bayanai a hankali. Ba lallai ba ne ga yawancin ƙungiyoyi.
Daidaita-kyauta mai inganci (PEFT): Hanyoyin da ke daskare yawancin ƙirar, horar da ƙaramin saiti na ƙarin sigogi. Mafi na kowa shine LoRA (Ƙarancin Matsayi: horar da ƙananan yadudduka "adapter" da aka ƙara zuwa samfurin). LoRA yana ba da sakamako kusa da cikakken daidaitawa mai kyau, tare da ƙarancin ƙwaƙwalwar ajiya da farashi; Shi ya sa shi ne zabi na farko a aikace.
Kulawa Mai Kyau (SFT): Koyar da ƙirar don "amsa da wannan shigarwar kamar wannan" tare da bayanan da suka ƙunshi nau'i-nau'i-nau'i-nau'i-nau'i na fitarwa. Shi ne yanayin da aka fi sani.
Ƙarfafa koyo daga ra'ayin ɗan adam (RLHF): Daidaita halayen ƙirar daga abubuwan da mutane suka fi so. Yana da rikitarwa da tsada; Bukatun yawancin ƙungiyoyin aikace-aikacen suna saduwa da SFT. Ya isa sanin RLHF azaman ra'ayi.
Bayanai: zuciyar daidaitawa
Ingantattun daidaitawa ya dogara gaba ɗaya akan ingancin bayanan horo. 'Yan ɗaruruwan inganci masu inganci, samfurori masu daidaituwa sun fi dubun-duba masu ruɗi. Lokacin shirya bayanai:
- Daidaito: Duk misalan suna nuna tsari da sautin da kuke so akai-akai. Misalai masu cin karo da juna suna barin tsarin rudani.
- Iri: Misalai sun haɗa nau'ikan da ake amfani da su a zahiri, amma ba iri ɗaya ba ne.
- Tsaftacewa: Misalai masu ƙunshe da kuskure, bangaranci, ko ɓoyayyun bayanai ana shigar dasu cikin ƙirar har abada. Ya kamata a karanta bayanan daidaitawa a hankali kamar kwangila.
Tsanaki: Duk wani son zuciya, kuskure, da ɓoyayyun bayanan da ke shigar da bayanan daidaitawa an rubuta su cikin ƙirar kuma suna sake bayyana a cikin abubuwan da aka fitar. Yi nazarin bayanan horon ku sosai kamar kuna buga su; Kar a buga bayanan sirri.
Bita: Shin aikin gyaran fuska ya yi?
Kafin daidaitawa mai kyau, ajiye saitin eval da aka gudanar kuma auna makin samfurin ba tare da daidaitawa ba (samfurin tushe). Bayan daidaitawa, sake auna a banki ɗaya. Ba za ku iya cewa "ya yi kyau" ba tare da kwatanta ba. Haka kuma tarko guda biyu ya kamata ku sani:
- Koyarwa: Ƙarfafawa tare da ƙananan bayanai yana sa ƙirar ta rasa ikon haddacewa da haɗar misalan horo.
- Mantawar bala'i: Ƙwararru a kan ƙaramin aiki na iya lalata iyawar ƙirar gabaɗaya. Gwada ko an riƙe tsoffin ƙwarewa yayin samun sabon ɗabi'a.
Hanya mai rauni / Ƙarfi mai ƙarfi
Rauni: "Ina da rajistan ayyukan taɗi 3000, bari mu ba su duka don daidaitawa, don haka samfurin zai iya yin magana kamar mu."
Güçlü: "Na farko na kimanta samfurin tushe tare da ayyuka na ainihi na 100, na lura da ci gaba. Na auna yadda ya inganta tare da faɗakarwa da ƙananan harbe-harbe - bai isa ba. Sa'an nan kuma daga 3000 rajistan ayyukan, na zaba da kuma tsaftace kawai 400 samfurori tare da babban inganci, daidaitaccen tsari kuma ba tare da bayanan ɓoye ba. Na sake daidaitawa tare da aikin 10 tare da LoRA, kuma na sake gwadawa tare da wannan gwajin tare da LoRA. gaba ɗaya iyawa sun kasance cikakke."
Bambanci: ƙaƙƙarfan tsarin yana kawar da madadin farko, ceri-zaɓi bayanai, matakan kafin-da-bayan, da gwaje-gwaje don sakamako masu illa.
Gaskiyar farashi da kulawa
Kyawawan daidaitawa ba aiki ne na lokaci ɗaya ba; Wajibi ne na kulawa. Yana iya zama dole don sake horarwa lokacin da aka sabunta ƙirar tushe, yana buƙatar canji, ko aka rasa bayanai. Bugu da ƙari, ɗaukar nauyin ingantaccen tsari yana kawo ƙarin farashi da ayyuka. Kwatanta wannan jimlar kuɗin mallakar tare da haɓaka ingancin da yake bayarwa. Yawancin lokaci mai kyau faɗakarwa + RAG yana da rahusa kuma ya fi sauƙi fiye da daidaitawa.
uku mini lokuta
Case 1 - Gyaran da ba dole ba. Tawagar ta fara aiki mai tsada mai tsada saboda "samfurin mu bai san samfuranmu ba." An kashe watanni da kasafin kuɗi, sakamakon ya kasance mai rauni - ƙirar ta zama marar amfani a duk lokacin da kasidar samfurin ya canza. A ƙarshe sun canza zuwa RAG: sun debo bayanan samfurin daga tushen takaddun, sabuntawa nan take kuma farashin ya ragu. Darasi: Ba a warware matsalar bayanai ta hanyar daidaitawa.
Case na 2 - Daidaitaccen daidaitawa. Kamfanin inshora yana son samfurin koyaushe ya samar da taƙaitawar manufofin a cikin tsayayyen tsari ɗaya (abu ta hanyar magana, tare da takamaiman kanun labarai). Daidaitawa tare da faɗakarwa yana makale a 70%. Bayan daidaitawar LoRA tare da samfurori masu kyau 300, daidaiton tsari ya karu zuwa 98%. Wannan matsala ce ta ɗabi'a kuma daidaitawa shine kayan aiki da ya dace.
Case na 3 - Tsare sirrin shiga cikin bayanai. Ƙungiya ɗaya ta ƙaddamar da bayanan taɗi don daidaitawa ba tare da tsaftace su ba. Rajistar ta ƙunshi ainihin sunayen abokin ciniki da lambobin tantancewa. Samfurin da aka daidaita ya fara "yayo" waɗannan sunaye a matsayin fitarwa cikin tambayoyin da ba su da alaƙa. An cire samfurin, an rufe bayanan kuma an sake horar da shi. Darasi: Ɓoyayyun bayanai a cikin ingantaccen bayanai ana canja su zuwa ƙirar har abada.
Samfura masu kwafi
Taimaka min yanke shawara idan gyara ya zama dole don wannan matsala tawa. Matsala: [bayani] Shin wannan matsala ce ta BAYANI (samfurin bai san wani abu ba) ko matsalar HALI (samfurin ba ya samar da tsarin / sautin / tsarin da nake so)? Za a iya magance shi da gaggawa, 'yan-harbi da RAG farko? Me yasa ba gwadawa/ba gwada kowannensu ba?A ƙarƙashin wane yanayi kawai za ku ba da shawarar daidaitawa?
Duba wannan tsararrun bayanai masu kyau:1) Shin misalan sun yi daidai a cikin tsari da kuma sautin?2) Shin suna rufe bambance-bambancen a ainihin amfani?3) Shin yana ɗauke da bayanan sirri/na sirri (dole ne a rufe shi)?4) Shin akwai misalan masu cin karo da juna? Ƙarshen misalan: [misali] Jera kowane fitowar kuma gyara da kuka samu.
Samar da tsarin kimantawa kafin da kuma bayan daidaitawa. Aiki: [bayani] - Yaya za a zaɓi saitin eval ɗin da aka gudanar? - Yaya za a auna ma'auni na ƙirar tushe? - Tare da wane ma'auni ne aka kwatanta bayan daidaitawa? - Ta yaya zan gwada cewa ƙarfin gabaɗaya ba a lalace ba (mantawar bala'i)?
Ba da shawarar ma'auni na farko don daidaitawa tare da LoRA. Girman bayanai: [yawan samfurori]Manufa: [tsara/koyarwar sauti]Ba da shawarar zamani, ƙimar koyo, da tsayawa da wuri don guje wa koyo.
Tebur na yanke shawara: wane kayan aiki lokacin
bukata
gwada farko
Kyawawan daidaitawa?
Samfurin bai san wani bayani ba
RAG
a'a
Ana buƙatar bayanan yanzu
RAG
a'a
Takaitaccen tsari mai tsauri
'yan harbe-harbe
Idan bai isa ba eh
Daidaitaccen sauti / salo
gaggawa + harbi kadan
Idan bai isa ba eh
Filin jargon/style
m
Idan hakan bai isa ba, LoRA
Sauƙaƙan haɓaka ɗawainiya
injiniya mai sauri
Gabaɗaya a'a
Kuskuren gama gari
- Ƙoƙarin warware matsalar bayanai tare da daidaitawa. RAG shine kayan aikin da ya dace.
- Gudu cikin daidaitawa mai kyau ba tare da cinye hanzari ba / 'yan-shot/RAG. Mai tsada kuma ba dole ba.
- Horowa tare da ƙarancin inganci / bayanai masu rikitarwa. Kadan amma bayyananniyar bayanai ya fi kyau.
- Sanya bayanan sirri a cikin ilimi. Dindindin ya kutsa cikin samfurin.
- Ba a auna kafin da kuma bayan. Ba za ku iya tabbatar da murmurewa ba.
- Ba gwada mantuwar bala'i ba. Sabuwar fasaha na iya rushe tsohuwar.
A takaice
Daidaita-daidaita kayan aiki ne mai ƙarfi amma tsada kuma yakamata a yi la'akari da shi kawai don matsalolin hali / tsari bayan cinye hanzari-yan-shot-RAG; matsalolin bayanai na RAG ne. Hanyoyi masu inganci kamar LoRA sune zaɓi na farko mai amfani. Ingancin ya dogara gaba ɗaya akan ingancin bayanai; Yi amfani da ƙarami amma mai tsabta, daidaito da kuma bayanan sirri. Auna kafin da bayan, gwada koyo da kuma asarar iyawa. Kyawawan gyare-gyare aikin kulawa ne; Yi la'akari da jimlar kuɗin sa akan ingancin da yake bayarwa.
Aikin aikace-aikace
Zaɓi matsala kuma yanke shawara ko daidaitawa ya zama dole ta hanyar banbance tsakanin "ilimi ko hali" kuma rubuta hujjar ku. Idan matsala ce ta ɗabi'a, shirya samfuran daidaitattun 20-30, bincika bayanan ɓoye, da kuma rubuta tsarin kimantawa kafin da bayan (tarin da aka gudanar, ƙimar tushe, awo kwatanta, gwajin mantawa). Idan za'a iya warware ta tare da RAG/yan-shot maimakon daidaitawa, yi bayanin wannan kuma.
jerin abubuwan dubawa
- [ ] Na tantance ko matsalar ilimi ce ko hali.
- [ ] Na fara kimanta saurin, ƴan-harbi da madadin RAG.
- [] Na duba bayanan daidaitawa mai kyau don daidaito, bambanta da sirri.
- [ ] Na ware gungu na eval da aka gudanar kuma na auna makin tushe.
- [ ] Na shirya kafin-bayan kwatance da gwajin mantawa.
- [ ] Na kwatanta jimlar kuɗin da ingancin da yake bayarwa.