Riba:
- Ability don saita bututun bayanai (tarin, inganci, tsaftacewa, canzawa, rarrabuwa, juzu'i) da sanya ingantaccen tsari a farkon bututun.
- Ikon yin bacewar ƙima da yanke shawara dangane da ma'anar filin da rarrabuwa don hana zubewar bayanai (ƙungiyar da na ɗan lokaci)
- Ikon ƙirƙirar tushen bayanan da za'a iya maimaitawa ta hanyar gyara sigar bayanai da iri bazuwar
Ƙarfin gaske na kowane tsarin koyo na inji yana cikin bayanai, ba samfurin ba. ƙwararrun injiniyoyi sun san: "datti a ciki, datti" - har ma mafi girman samfurin da aka ciyar da mummunan bayanai zai haifar da mummunan sakamako. A cikin wannan rukunin, mun kafa bututun bayanai (bututun bayanai: sarkar matakan da ke sanya danyen bayanan a shirye don horar da samfuri) ya ƙare har ƙarshe kuma mu koyi a wane mataki na wannan layin za mu iya amfani da hankali na wucin gadi.
Matakan layin bayanai
Layin bayanai yawanci yana wucewa ta waɗannan tasha:
- Tarin (shiga): Ciro bayanai daga tushe (babban bayanai, API, fayilolin log, rafukan taron).
- Tabbatarwa: Dubawa ko bayanan sun dace da tsarin da ake tsammani, iri, da jeri.
- Tsaftacewa: Ma'amala da bacewar dabi'u, kwafin bayanan, abubuwan da ba su dace ba, da rashin daidaituwa.
- Canji: Juya danyen bayanai zuwa halaye - kamar juyar da maɓalli mai mahimmanci zuwa lamba, samar da "ranar mako" daga kwanan wata.
- Rarraba: Rarraba cikin horo, tabbatarwa da saitin gwaji.
- Sigar: Yin rikodin wane samfurin aka horar da wane bayanai.
Ƙwararrun Ƙwararrun Ƙwararren Ƙwararren Ƙwararren Ƙwararren Ƙwararren Ƙwararren Ƙwararren Ƙwararren Ƙwararren Ƙwararren Ƙwararren Ƙwararren Ƙwararren Ƙwararren Ƙwararren Ƙwararren Ƙwararren Ƙwararren Ƙwararren Ƙwararren Ƙwararren Ƙwararren Ƙwararren Ƙwararren Ƙwararren Ƙwararren Ƙwararren Ƙwararren Ƙwararren Ƙwararren Ƙwararren Ƙwararren Ƙadda tọn na Ƙaƙwal na Ƙadda ) ya yi yana adana lokaci ta hanyar samar da takardun ƙididdiga da ra'ayoyin, musamman ma a cikin matakai na 2, 3 da 4. Amma yanke shawara irin su rikodin yin watsi da, wanda ya rasa darajar da za a cika da kuma ta yaya, na injiniya ne wanda ya san bayanan; saboda tsaftacewa mara kyau zai iya shigar da ɓoyayyiyar ƙiyayya a cikin samfurin.
Tabbatar da bayanai: farkon tsaro na layin
Kurakurai mafi tsada ba farawa a samarwa ba, amma inda aka tsallake matakin tabbatarwa. Ingantaccen tsari yana bincika ta atomatik ko kowane rukunin bayanai mai shigowa ya dace da tsarin da ake tsammani. Misali, shin ginshiƙin shekaru tsakanin 0-120, filin imel ɗin babu komai, adadin ginshiƙan ya canza?
Tukwici: Sanya tabbaci a farkon layin. Da zarar an kama bayanan da aka lalata, mafi arha shine gyara. Kuskuren makirci da aka kama a samarwa ya ninka sau da yawa tsada fiye da wanda aka kama a lokacin horo.
Rubuta tsarin tabbatarwa tare da pandera (ko Babban Hasashen) don tsarin bayanai masu zuwa. ginshiƙai da ƙa'idodi: - user_id: lamba, ba zai iya zama maras kyau ba, na musamman- shekaru: lamba, ba zai iya zama daga 0-120- signup_date: kwanan wata, ba zai iya zama a nan gaba- kasa: categorical, daga saitin {TR, DE, US, UK}- ma'auni: decimal, ba zai iya zama mara kyau Samar da saƙon kuskure mai ma'ana ga kowace doka. Nuna gwajin tare da misalin karya layin a ƙarshen lambar.
Tsaftacewa: Mutum ne ya yanke shawara
Ƙimar da ba ta da tushe gaskiya ce ta kowane saitin bayanai. Hanyoyin kulawa:
- Sharewa: Yin watsi da jere/shafi tare da babban adadin da ya ɓace. Amma akwai haɗarin asarar bayanai da son zuciya.
- Imputation: Ƙididdigar ƙima tare da ma'ana, tsaka-tsaki, mafi yawan ƙima, ko tsinkayar tushen ƙira.
- Tuta: Ajiye bayanan "ya ɓace" a cikin wani ginshiƙin tuta daban - wani lokacin ɓacewar kanta ita ce siginar.
Wanne daidai ya dogara da matsalar. A cikin saitin bayanan likita, ya kamata a adana bayanan "ba a auna darajar jini ba" maimakon sharewa; Domin ko da likita ya ƙi ɗaukar awo alama ce. AI na iya ba ku zaɓuɓɓuka da lambar; Za ku zaɓi wanda ya dace da gaskiyar filin.
Rauni mai ƙarfi / Ƙarfi mai ƙarfi
Rawanin faɗakarwa: "Cika abubuwan da suka ɓace."
Ƙarfafawa mai ƙarfi: "Akwai ƙimar da aka ɓace a cikin ginshiƙai masu zuwa: samun kudin shiga (12% bace, rarraba dama-dama), last_login (30% bace). Ba da shawarar cika kudin shiga tare da tsaka-tsaki, amma bayyana dalilin da yasa tsaka-tsaki kuma ba ma'ana ba. Don last_login, ɗauka cewa ƙimar da ta ɓace na iya zama mahimmanci (mai amfani bazai taɓa shiga ba); la'akari da samar da alamar da ba a taɓa_logged_in ba a maimakon haka.
Bambance-bambance: hanzari mai ƙarfi yana ba da bayanin rarraba da ma'anar yanki; hankali na wucin gadi yana samar da goyan bayan yanke shawara maimakon cika injiniyoyi.
Labeling: Ana auna inganci
A cikin ilmantarwa mai kulawa (koyan da aka ba da misalan tare da ingantattun amsoshi), abin da samfurin ya koya sune alamomi (lakabi: amsa daidai ga kowane misali). Ingancin lakabin yana saita rufi - idan mutane suna yin lakabi ba daidai ba, ƙirar tana koya sabani.
Yarjejeniyar Inter-annotator tana auna ƙimar da mutane daban-daban ke ba da lakabi ɗaya ga samfurin iri ɗaya; An bayyana shi ta hanyar ƙididdiga kamar Cohen's Kappa. Karancin yarda yana nuna ko dai aikin ba shi da tabbas ko koyarwar ta yi rauni.
Hankali na wucin gadi yana taimakawa wajen yin lakabi ta hanyoyi biyu: (1) tsara ƙa'idodin annotation, (2) riga-kafi da sa ɗan adam kawai ya gyara shi. Amma riga-kafi tare da LLM yana da matsala: kuskuren tsari na ƙirar zai iya shiga cikin duka saitin lakabin. Shi ya sa a koyaushe mutane suna duba wasu alamun LLM.
Hankali: Kada ku ɗauki lakabin da LLM ya samar a matsayin "gaskiyar ƙasa". Bincika samfur tare da mutum kuma auna dacewa da LLM-mutum. Idan yarda ya yi ƙasa, riga-kafi zai yi illa fiye da mai kyau.
Rarraba bayanai: hana zubewa
Kuskure mafi haɗari lokacin rarraba bayanai zuwa horo / tabbatarwa / gwaji shine zubewar bayanai: haɗa bayanan gwaji zuwa horo. Misalai:
- Rubuce-rubucen mai amfani iri ɗaya sun faɗi cikin horo da gwaji (leak ɗin rukuni).
- Yin amfani da gaba a cikin horo da kuma baya a gwaji a cikin jerin lokaci (leakayen lokaci).
- Ana ƙididdige ma'auni (na al'ada) daga duk bayanai sannan kuma rarraba.
Rarraba na ɗan lokaci yana da mahimmanci ga matsalolin da suka shafi lokaci: horar da abubuwan da suka gabata, gwadawa a nan gaba. Rarraba bazuwar yana ba da fa'idar "nan gaba" wanda ba zai taɓa faruwa a samarwa ba kuma yana haɓaka awo.
Siffar bayanai da sakewa
"Wane bayanai muka horar da wannan samfurin da su?" Samun damar amsa tambayar bayan watanni shine alamar aikin injiniyan ML mai tsanani. Siffar bayanai tana adana kowane hoton hoto tare da ID (hash ko alamar sigar). Kayan aiki kamar DVC (Data Version Control) bayanan sigar kamar lamba.
Don sake haifar da sakamakon samfurin, dole ne a gyara abubuwa uku: sigar bayanai, sigar lambar, da iri bazuwar. Ba zai yiwu a ce "Na sami sakamako iri ɗaya" ba tare da wannan ukun ba. Za mu zurfafa Reproducibility a cikin naúrar 11; amma gyara iri a cikin bututun bayanai yana farawa daga nan.
uku mini lokuta
Case 1 - An adana ingantaccen tsarin ranar. Lokacin da ƙungiya ta canza filin farashin tsarin sama daga pennies zuwa liras, duk farashin ya faɗi sau 100. Ingancin tsari ya ƙi tsarin a matsayin "farashin da ba ya da iyaka" kuma ba a horar da samfurin tare da gurbatattun bayanai ba. Ba tare da tabbatarwa ba, za a lura da kuskuren a samarwa kawai, tare da tsinkayar da ba daidai ba.
Shari'a ta 2 - Son zuciya na cika ba daidai ba. A cikin ƙirar ƙirƙira, ƙimar kuɗin shiga da aka ɓace sun cika da ma'ana. Amma bacewar kudaden shiga sun fi yawa a cikin rukunin masu karamin karfi; Matsakaicin "wadatar" wannan rukuni na wucin gadi, kuma samfurin ya ba su iyaka marar adalci. Kafaffen matsalar tare da alamar tsaka-tsaki + rashi.
Hali na 3 - Yabo na ɗan lokaci. Samfurin hasashen buƙatu yayi kyau akan saitin gwajin (95% daidaito) amma ya fado a samarwa. Me ya sa: saboda bazuwar rarrabuwa, ƙirar ta ga gaba. Canzawa zuwa binning na ɗan lokaci ya faɗi daidaiton gwaji zuwa 78% - amma wannan aikin gaske ne kuma ya kiyaye shi cikin samarwa.
Samfura masu kwafi
Rarraba saitin bayanai masu zuwa zuwa nau'i uku: horo / tabbatarwa / gwaji. Ƙuntatawa: Wannan jerin lokaci ne; Yi amfani da rarrabuwar kawuna (jirgin ƙasa a baya, gwadawa a nan gaba). Hana zub da jini: sami 'abokin ciniki_id' iri ɗaya kawai a cikin tari ɗaya. Yi ƙididdige ma'auni na ma'auni KAWAI daga tsarin horo, sannan a shafi kowa. Buga layukan nawa ne suka rage a lambar a kowane mataki kuma ƙara ƙwaƙƙwaran da ke bincika babu ɗigogi.
Rubuta daftarin bayanin jagora don wannan aikin sawa alama.Aiki: [misali. Label na abokin ciniki mai kyau / mara kyau / tsaka tsaki] Bayyana shari'o'in kan iyaka: zagi, gaurayawan motsin rai, yadda ake yin lakabin bita da ba shi da alaƙa da samfur?
Samar da lissafin sake fasalin bututun bayanai: - Ta yaya za a gyara sigar bayanan? - Wanne iri iri ya kamata a saita a ina? - Menene metadata (data hash, lissafin jere, kwanan wata) ya kamata a shiga? Lambar lambara: [harshe/laburare]
Bincika wannan lambar tsaftacewa don zubewar bayanai. Musamman duba wannan: shin ana lissafta sigogin sikeli/encoding KAFIN rarrabuwa? Shin ana ƙididdige wasu ƙididdiga daga duk bayanai ko horo kawai? Code: [kodi]
Teburin yanke shawara: dabarar ƙima ta ɓace
Matsayi
Hanyar da aka ba da shawarar
Me yasa
Na lamba, karkatacciyar rarraba
cika da tsaka-tsaki
Matsakaicin ya shafi masu fita
Na lamba, daidaitacce
cika da matsakaita
Yana kare bayanai
Karancin na iya zama mahimmanci
Tuta ginshiƙi + cika
Rashin sigina ne
Adadin da ya ɓace > 60%
Ƙimar / zubar da shafi
Hayaniya yayi yawa
Nau'i
category "Ba a sani ba".
Baya haifar da rinjaye na wucin gadi
Kuskuren gama gari
- Tsallake tabbatarwa. Ba tare da sarrafa tsari ba, gurɓatattun bayanai suna shiga cikin shiru.
- Scaling kafin rabuwa. Yana zubar da kididdigar gwaji cikin ilimi.
- Amfani da bazuwar rarrabuwa a cikin jerin lokaci. Yana samar da ma'aunin ƙima na karya.
- Makauniyar amana da alamun LLM. Kuskuren tsari yana yaduwa cikin bayanan.
- Ba ajiye sigar bayanai ba. Ba za ku iya sake haifar da sakamakon ba.
- Cika injina tare da matsakaita. Yana watsi da ma'anar filin, yana ƙara son zuciya.
A takaice
Bututun bayanai shine tushen tsarin ML kuma ya cancanci ƙarin ƙoƙari fiye da ƙirar. Sanya tabbaci a saman; yin tsaftacewa da sanya alamar yanke shawara tare da ilimin yanki; hana zub da jini (ƙungiyar da na ɗan lokaci) a cikin sashin; gyara sigar data da iri. AI yana haifar da lamba da ra'ayoyi akan wannan layin, amma ya rage naku don yanke shawarar wane bayanan da zaku aiwatar da kuma ta yaya - saboda kowane yanke shawara mara kyau anan yana shiga cikin ƙirar azaman ɓoyayyiyar aibi.
Aikin aikace-aikace
Rubuta tsarin tabbatarwa (pandera/Great Expectations) akan saitin bayanan ku kuma da gangan ƙara layin mara kyau da nuna cewa an kama shi. Sa'an nan kuma raba bayanan na ɗan lokaci ko a cikin tsari, ƙididdige ma'auni na ƙididdiga daga horo kawai, kuma tabbatar da cewa babu yabo tare da sanarwa. Rubuta sigar bayanai da ƙidaya jere zuwa fayil ɗin metadata.
jerin abubuwan dubawa
- [ ] Tabbatar da tsari yana gudana a saman layin.
- [ ] Na zaɓi dabarar ƙimar da ta ɓace bisa ma'anar filin, ban cika ta da injina ba.
- [ ] Na auna ingancin lakabin (biyayya); LLM tags na ɗan adam.
- [ ] Na hana rukuni da yaɗuwar ɗan lokaci a cikin fare.
- [ ] Ana ƙididdige ƙididdige ƙididdiga / ƙididdigewa daga tsarin horo kawai.
- [ ] Sigar bayanai, adadin layuka da rikodi iri.