Gagnaleiðsla: Söfnun, hreinsun, merking og útgáfu

Hagnaður:

• Geta til að setja upp gagnaleiðslu (söfnun, staðfestingu, hreinsun, umbreytingu, skiptingu, útgáfugerð) og setja skemastaðfestingu í upphafi leiðslunnar
• Hæfni til að taka gildi sem vantar og merkja ákvarðanir byggðar á merkingu svæðisins og skiptingu til að koma í veg fyrir gagnaleka (hóp og tímabundinn)
• Geta til að búa til endurgerðan gagnagrunn með því að laga gagnaútgáfuna og tilviljunarkennd fræ

Raunverulegur kraftur hvers vélanámskerfis liggur í gögnunum, ekki líkaninu. Reyndir verkfræðingar vita: „sorp inn, sorp út“ - jafnvel fullkomnasta gerðin sem fær slæm gögn mun skila slæmum árangri. Í þessari einingu komum við gagnaleiðslunni (gagnaleiðsla: skrefakeðjan sem gera hrágögnin tilbúin fyrir líkanaþjálfun) frá enda til enda og lærum á hvaða þrepi þessarar línu við getum örugglega notað gervigreind.

Skref gagnalínu

Gagnalína fer venjulega í gegnum þessi stopp:

1. Söfnun (inntaka): Að draga gögn frá heimildum (gagnagrunnur, API, annálaskrár, atburðarstraumar).
2. Staðfesting: Athugaðu hvort gögnin séu í samræmi við væntanlegt skema, gerðir og svið.
3. Þrif: Meðhöndla vantar gildi, tvíteknar skrár, frávik og ósamræmi.
4. Umbreyting: Að breyta hráum gögnum í eiginleika - eins og að breyta flokkabreytu í tölu, búa til „vikudag“ út frá dagsetningu.
5. Skipting: Skipting í þjálfunar-, löggildingar- og prófunarsett.
6. Útgáfa: Skráning hvaða líkan var þjálfuð með hvaða gögnum.

Gervigreind sparar tíma með því að búa til kóðadrög og hugmyndir, sérstaklega í skrefum 2, 3 og 4. En ákvarðanir eins og hvaða skrá á að henda, hvaða gildi sem vantar á að fylla út og hvernig, tilheyra verkfræðingnum sem þekkir gögnin; vegna þess að óviðeigandi hreinsun getur dælt falinni hlutdrægni inn í líkanið.

Staðfesting gagna: snemma vörn línunnar

Dýrustu villurnar byrja ekki í framleiðslu, heldur þar sem sannprófunarskrefinu er sleppt. Skemaprófun athugar sjálfkrafa hvort hver komandi gagnalota sé í samræmi við væntanlega uppbyggingu. Til dæmis, er aldursdálkurinn á milli 0-120, er tölvupóstreiturinn tómur, hefur fjöldi dálka breyst?

Ábending: Settu staðfestinguna í byrjun línunnar. Því fyrr sem spillt gögn eru veidd, því ódýrara er að laga það. Skemuvilla sem er tekin í framleiðslu er margfalt dýrari en sú sem er veidd í þjálfunarfasa.

Skrifaðu staðfestingarkerfi með pandera (eða Great Expectations) fyrir eftirfarandi gagnaskema. Dálkar og reglur:- user_id: heiltala, getur ekki verið núll, einkvæmt- aldur: heiltala, má ekki vera frá 0-120- signup_date: date, getur ekki verið í framtíðinni- land: flokkað, úr settinu {TR, DE, US, UK}- jafnvægi: aukastafur, getur ekki verið neikvætt Búðu til þýðingarmikil villuboð fyrir hvert brot á reglu. Sýndu prófið með brotalínu sem dæmi í lok kóðans.

Þrif: það er maðurinn sem ræður

Vantar gildi eru raunveruleiki hvers gagnasafns. Leiðir til að meðhöndla:

• Eyðing: Að fleygja línu/dálki með mjög hátt hlutfall sem vantar. En það er hætta á tapi upplýsinga og hlutdrægni.
• Álagning: Álagning með meðaltal, miðgildi, algengasta gildi eða spá sem byggir á líkani.
• Fáni: Að geyma upplýsingar „vantaði“ í sérstökum fánadálki - stundum er það sem vantar sjálft merkið.

Hver er réttur fer eftir vandamálinu. Í læknisfræðilegu gagnasetti ætti að varðveita upplýsingarnar um „blóðgildi ekki mælt“ frekar en að eyða; Því jafnvel að læknirinn neiti að taka mælingar er merki. AI getur gefið þér valkosti og kóða; Þú velur hver passar við raunveruleika sviðsins.

Veik kvaðning / Sterk kvaðning

Veik kvaðning: "Fylltu inn gildi sem vantar."

Sterk tilvitnun: "Það vantar gildi í eftirfarandi dálka: tekjur (12% vantar, hægri skekkt dreifing), last_login (30% vantar). Leggðu til að fylla út tekjur með miðgildi, en útskýrðu hvers vegna miðgildi og ekki meðaltal. Gerðu ráð fyrir að gildið sem vantar gæti verið marktækt (notandi gæti hafa aldrei skráð sig inn); fyrirmyndin."

Mismunur: sterk hvetja gefur upplýsingar um dreifingu og svæði merkingu; Gervigreind framleiðir ákvörðunarstuðning í stað vélrænnar fyllingar.

Merking: gæði eru mæld

Í námi undir eftirliti (nám þar sem dæmi eru gefin með réttum svörum), það sem líkanið lærir eru merki (merkimiðar: rétt svar fyrir hvert dæmi). Gæði merkimiða setja þak — ef fólk merkir ósamræmi lærir líkanið ósamræmi.

Samkomulag milli greinaritara mælir hraðann sem mismunandi fólk gefur sama sýnishorninu sama merki; Það er gefið upp með stuðli eins og Cohen's Kappa. Lítið samræmi gefur til kynna annað hvort að verkefnið sé óljóst eða að kennslan sé veik.

Gervigreind hjálpar til við að merkja á tvo vegu: (1) að semja leiðbeiningar um athugasemdir, (2) að formerkja og láta manninn aðeins leiðrétta það. En formerking með LLM hefur gildra: kerfisbundin villa líkansins getur lekið inn í allt merkisettið. Þess vegna athugar menn alltaf suma LLM merkin.

Athugið: Ekki líta á merki framleidd af LLM sem „grunnsannleik“. Athugaðu sýni með manni og mældu LLM-mannlega passa. Ef samræmi er lítið mun formerking gera meiri skaða en gagn.

Gagnaskipting: koma í veg fyrir leka

Hættulegustu mistökin þegar gögnum er skipt í þjálfun/staðfestingu/prófun er gagnaleki: blöndun prófupplýsinga í þjálfun. Dæmi:

• Skrár sama notanda falla bæði undir þjálfun og prófun (hópleki).
• Að nota framtíðina í þjálfun og fortíðina í prófunum í tímaröð (tímabundinn leki).
• Reikna skala (normalization) færibreytur úr öllum gögnum og síðan deila.

Tímabundin skipting er nauðsynleg fyrir vandamál sem fela í sér tíma: æfa með fortíðinni, prófa í framtíðinni. Tilviljunarkennd skipting gefur "framtíðar" ávinning sem mun aldrei gerast í framleiðslu og eykur mæligildi.

Gagnaútgáfa og endurgerðanleiki

„Með hvaða gögnum þjálfuðum við þetta líkan? Að geta svarað spurningunni mánuðum síðar er aðalsmerki alvarlegrar ML verkfræði. Gagnaútgáfa geymir hverja skyndimynd af gögnum með auðkenni (hash eða útgáfumerki). Verkfæri eins og DVC (Data Version Control) útgáfugögn eins og kóða.

Til að endurskapa niðurstöðu líkans þarf að laga þrennt: gagnaútgáfuna, kóðaútgáfuna og tilviljunarkennd fræ. Það er ekki hægt að segja „ég fékk sömu niðurstöðu“ án þessa tríós. Við munum dýpka endurgerðanleika í einingu 11; en að festa fræið í gagnaleiðslan byrjar héðan.

þrjú smámál

Tilfelli 1 - Dagskemmuprófun vistuð. Þegar teymi breytti verðreit andstreymiskerfis úr smáaurum í lírur lækkaði allt verð 100 sinnum. Skemaprófun hafnaði lotunni sem „verð utan sviðs“ og líkanið var ekki þjálfað með skemmdum gögnum. Án sannprófunar myndi villan aðeins verða vart við framleiðslu, með röngum spám.

Mál 2 - Hlutdrægni vegna rangrar fyllingar. Í lánalíkani voru tekjugildi sem vantaði fyllt út með meðaltalinu. En tekjutapið var aðallega í lágtekjuhópnum; að meðaltali „auðgaði“ þennan hóp tilbúnar og líkanið bauð þeim ósanngjarnt há mörk. Lagaði vandamálið með miðgildi + vantunarfána.

Mál 3 - Tímaleki. Eftirspurnarspárlíkan leit vel út á prófunarsettinu (95% nákvæmni) en hrundi í framleiðslu. Af hverju: vegna tilviljunarkenndrar skiptingar hafði líkanið séð framtíðina. Með því að skipta yfir í tímabundna binning lækkaði prófnákvæmni niður í 78% - en það var raunveruleg frammistaða og hélt því í framleiðslu.

Afritanleg sniðmát

Skiptu eftirfarandi gagnasafni í þrjú sett: þjálfun/prófun/prófun. Þvingun: Þetta er tímaröð; Notaðu TEMPORAL skiptingu (þjálfa í fortíðinni, prófa í framtíðinni). Komið í veg fyrir lotaleka: hafa sama `customer_id` aðeins í einum klasa. Reiknaðu færibreytur stærðarinnar AÐEINS út frá þjálfunarsettinu og áttu síðan við um alla. Prentaðu hversu margar línur eru eftir í kóðanum í hverju skrefi og bættu við fullyrðingu sem athugar hvort enginn leki.

Skrifaðu drög að leiðbeiningum um athugasemdir fyrir þetta merkingarverkefni. Verkefni: [t.d. Merktu umsögn viðskiptavina jákvætt/neikvætt/hlutlaust]Skýrðu landamæratilvik: kaldhæðni, blandaðar tilfinningar, hvernig á að merkja umsögn sem tengist vörunni? Gefðu 5 dæmi og 3 erfið brúntilvik sem auka samræmi milli merkja.

Búðu til gátlista fyrir endurgerðanleika fyrir þessa gagnaleiðslu:- Hvernig ætti að laga gagnaútgáfuna?- Hvaða slembivalsfræ ætti að setja hvar?- Hvaða lýsigögn (gagnakássa, raðafjöldi, dagsetning) á að skrá? Kóðagrunnurinn minn: [tungumál/safn]

Athugaðu þennan hreinsunarkóða fyrir gagnaleka. Skoðaðu þetta sérstaklega: eru mælikvarðar/kóðun færibreytur reiknaðar ÁÐUR en skipt er? Er einhver tölfræði reiknuð út frá öllum gögnum eða bara þjálfun? Kóði: [kóði]

Ákvörðunartafla: vantar gildisstefnu

Staða

Mælt er með nálgun

Hvers vegna

Töluleg, skekkt dreifing

fylltu með miðgildi

Meðaltalið er fyrir áhrifum af útlægum

Tölulegt, samhverft

fylltu með meðaltali

Verndar upplýsingar

Skorturinn getur verið verulegur

Fánadálkur + fylling

Skortur er merki

Vantar hlutfall > 60%

Meta/henda dálki

Hávaði er of mikill

Afdráttarlaus

"Óþekktur" flokkur

Býr ekki til gervi meirihluta

Algeng mistök

• Sleppir staðfestingu. Án skemastýringar laumast skemmd gögn inn hljóðlaust.
• Skala fyrir skiptingu. Það lekur próftölfræði inn í menntun.
• Nota handahófskennda skiptingu í tímaraðir. Það framleiðir falsa háar mælingar.
• Að treysta LLM merki í blindni. Kerfisbundin villa dreifist um gögnin.
• Ekki vista gagnaútgáfuna. Þú getur ekki endurskapað niðurstöðuna.
• Vélræn fylling með meðaltali. Það hunsar merkingu sviði, bætir við hlutdrægni.

Í stuttu máli

Gagnaleiðslan er undirstaða ML kerfisins og verðskuldar meiri fyrirhöfn en líkanið. Settu staðfestingu efst; taka ákvarðanir um hreinsun og merkingar með lénsþekkingu; koma í veg fyrir leka (hóp og tímabundinn) í hólfinu; laga gagnaútgáfuna og seedið. AI býr til kóða og hugmyndir á þessari línu, en það er undir þér komið að ákveða hvaða gögn á að vinna úr og hvernig - vegna þess að sérhver röng ákvörðun hér fer inn í líkanið sem falinn galli.

Umsóknarverkefni

Skrifaðu staðfestingarkerfi (pandera/Great Expectations) á þitt eigið gagnasafn og bættu vísvitandi við slæmri röð og sýndu að það náðist. Skiptu síðan gögnunum tímabundið eða lotulega, reiknaðu mælikvarðabreytur eingöngu út frá þjálfun og staðfestu að enginn leki sé með fullyrðingu. Skrifaðu gagnaútgáfuna og röð raða í lýsigagnaskrá.

gátlisti

• [ ] Skemastaðfesting keyrir efst í línunni.
• [ ] Ég valdi stefnuna sem vantar gildi út frá merkingu reitsins, ég fyllti hana ekki vélrænt.
• [ ] Ég mældi gæði merkimiða (samræmi); Ég skoðaði LLM merki.
• [ ] Ég kom í veg fyrir hóp- og tímaleka í rúðu.
• [ ] Kvörðun/kóðun reiknuð út frá þjálfunarsettinu eingöngu.
• [ ] Gagnaútgáfa, fjöldi raða og fræ skráð.