Girdeji:
- Maglumat turbageçirijisini gurmak (ýygnamak, tassyklamak, arassalamak, üýtgetmek, bölmek, wersiýa etmek) we turbanyň başynda shema tassyklamasyny ýerleşdirmek;
- Maglumatlaryň syzmagynyň öňüni almak üçin meýdan manysyna we bölünişine esaslanyp, ýitirilen baha we bellik kararlaryny bermek ukyby (topar we wagtlaýyn)
- Maglumat wersiýasyny we tötänleýin tohumy düzedip, köpelýän maglumat binýadyny döretmek ukyby
Her bir maşyn öwreniş ulgamynyň hakyky güýji modelde däl-de, maglumatlarda durýar. Tejribeli inersenerler: “zibil, zibil taşlanýar” - hatda erbet maglumatlar bilen iýmitlenýän iň ösen model hem erbet netije berer. Bu bölümde maglumat turbageçirijisini (maglumat turbasy: çig maglumatlary model okuwyna taýýarlaýan ädimler zynjyry) döredýäris we bu setiriň haýsy basgançagynda emeli intellektden ygtybarly peýdalanyp biljekdigimizi öwrenýäris.
Maglumat setiriniň ädimleri
Maglumat setiri adatça bu duralgalardan geçýär:
- Collectionygyndy (siňdiriş): Maglumatlary çeşmelerden çekmek (maglumat bazasy, API, gündelik faýllar, waka akymlary).
- Barlamak: Maglumatlaryň garaşylýan shema, görnüşlere we aralyklara laýyk gelýändigini barlamak.
- Arassalamak: missingitirilen gymmatlyklary dolandyrmak, ýazgylary köpeltmek, çykaryjylar we gapma-garşylyklar.
- Üýtgetme: Çig maglumatlary atributlara öwürmek - kategoriki üýtgeýjini sana öwürmek, bir seneden "hepdäniň güni" öndürmek ýaly.
- Bölünmek: Okuw, tassyklama we synag toplumlaryna bölmek.
- Wersiýa: Haýsy modeliň haýsy maglumatlar bilen taýýarlanandygyny ýazga almak.
Emeli intellekt, esasanam 2, 3 we 4-nji ädimlerde kod garalamalaryny we ideýalaryny döretmek arkaly wagt tygşytlaýar. Emma haýsy ýazgyny taşlamaly, doldurmagyň gymmaty ýok we nädip maglumatlary bilýän inereneriň karary; nädogry arassalamak modele gizlin taraplary girizip biler.
Maglumatlary barlamak: setiriň irki goragy
Iň gymmat ýalňyşlyklar önümçilikde däl-de, barlamak ädiminiň geçýän ýerinde başlaýar. Shemany tassyklamak, gelýän her bir toparyň garaşylýan gurluşa laýyk gelýändigini awtomatiki barlaýar. Mysal üçin, 0-120 aralygyndaky ýaş sütüni, e-poçta meýdançasy boşmy, sütünleriň sany üýtgedimi?
Maslahat: Barlagy setiriň başynda goýuň. Korrumpirlenen maglumatlar näçe ir tutulsa, düzeltmek şonça arzan. Önümçilikde tutulan shema ýalňyşlygy, okuw döwründe tutulanlardan birnäçe esse gymmat.
Aşakdaky maglumatlar shemasy üçin pandera (ýa-da uly umytlar) bilen tassyklama shemasyny ýazyň. Sütünler we düzgünler: - user_id: bitewi, null bolup bilmez, üýtgeşik ýaşy: bitewi, 0-120-den bolup bilmez- senesi, senesi, geljekde bolup bilmez: kategoriýa boýunça, {TR, DE, ABŞ, Beýik Britaniýa} - balans: onluk, negatiw bolup bilmez Her düzgüniň bozulmagy üçin manyly ýalňyş habary öndüriň. Synagy koduň soňundaky döwülen çyzyk bilen görkeziň.
Arassalamak: karar berýän adam
Ingitirilen gymmatlyklar, maglumatlar toplumynyň hakykatydyr. Işlemegiň ýollary:
- Öçürmek: Örän ýitirilen tizlik bilen bir hatary / sütüni taşlamak. Informationöne maglumat ýitirmek we ikitaraplaýyn töwekgelçilik bar.
- Imputation: Orta, orta, iň ýygy baha ýa-da model esasly çaklama bilen hasaplama.
- Baýdak: Aýry-aýry baýdak sütüninde "ýitirim" maglumatlary saklamak - käwagt ýiteniň özi signaldyr.
Haýsynyň dogrydygy meselä baglydyr. Lukmançylyk maglumatlary toplumynda "ganyň bahasy ölçelmeýär" maglumatlary pozulman, saklanmalydyr; Sebäbi hatda lukmanyň ölçemekden ýüz öwürmegi hem signaldyr. AI size opsiýalary we kody berip biler; Haýsysynyň meýdan hakykatyna laýykdygyny saýlaýarsyňyz.
Gowşak haýyş / Güýçli haýyş
Gowşak haýyş: "missingitirilen gymmatlyklary dolduryň."
Güýçli teklip: "Aşakdaky sütünlerde ýiten gymmatlyklar bar: girdeji (12% ýitirim, sag tarapdaky paýlama), soňky_login (30% ýitirim). Girdejini ortaça doldurmagy teklip ediň, ýöne ortaça we manysynyň ýokdugyny düşündiriň. Soňky_login üçin ýitirilen bahanyň ähmiýetli bolup biljekdigini çaklaň (ulanyjy hiç haçan girmedi);
Tapawut: güýçli isleg paýlama maglumatlary we sebit manysyny berýär; emeli intellekt mehaniki doldurmagyň ýerine karar goldawyny öndürýär.
Bellik: hil ölçelýär
Gözegçilikde (dogry jogaplar bilen mysallaryň berilýändigini öwrenmek), modeliň öwrenýän zatlary belliklerdir (bellikler: her mysal üçin dogry jogap). Etiketkanyň hili potolok goýýar - adamlar biri-birine gabat gelmeýän bolsa, model yzygiderli öwrenýär.
Annotatorlar şertnamasy dürli adamlaryň şol bir nusga şol bir bellige berýän derejesini ölçýär; Koheniň Kappa ýaly koeffisiýenti bilen aňladylýar. Pes berjaý etmek meseläniň düşnüksizdigini ýa-da görkezmäniň gowşakdygyny görkezýär.
Emeli intellekt iki görnüşde bellik etmäge kömek edýär: (1) düşündiriş gollanmasyny taýýarlamak, (2) öňünden bellik etmek we adamyň diňe düzedmegi. Löne LLM bilen öňünden bellik etmegiň bir ýalňyşlygy bar: modeliň yzygiderli ýalňyşlygy ähli bellikler toplumyna syzyp biler. Şonuň üçin adamlar hemişe LLM bellikleriniň käbirini barlaýarlar.
Üns beriň: LLM tarapyndan öndürilen ýazgylary "ýer hakykaty" diýip hasaplamaň. Adam bilen bir nusgany barlaň we LLM-adam laýyklygyny ölçäň. Eger laýyklyk pes bolsa, öňünden bellik etmek zyýandan has köp zyýan berer.
Maglumatlaryň bölünişi: syzmagyň öňüni alyň
Maglumatlary okuw / tassyklama / synaga bölende iň howply ýalňyşlyk, maglumatlaryň syzmagy: synag maglumatlarynyň okuwlara garylmagy. Mysallar:
- Şol bir ulanyjynyň ýazgylary okuwda we synagda (toparlaýyn syzmak) bolýar.
- Gelejegi okuwda we wagt seriýasynda synagda ulanmak (wagtlaýyn syzmak).
- Datahli maglumatlardan masştablandyryş (kadalaşdyrmak) parametrlerini hasaplamak we soňra bölmek.
Wagt bilen baglanyşykly meseleler üçin wagtlaýyn bölünmek zerur: geçmiş bilen türgenleşmek, geljekde synag. Tötänleýin bölünmek önümçilikde hiç haçan bolmajak we ölçegleri ýokarlandyrýan "geljek" peýdasyny berýär.
Maglumatlaryň wersiýasy we köpelmegi
"Bu modeli haýsy maglumatlar bilen öwretdik?" Soraga birnäçe aýdan soň jogap berip bilmek, çynlakaý ML in engineeringenerçiliginiň alamaty. Maglumat wersiýasy her bir maglumat suratyny ID (hash ýa-da wersiýa belligi) bilen saklaýar. Kod ýaly DVC (Data Version Control) wersiýa maglumatlary ýaly gurallar.
Bir modeliň netijesini köpeltmek üçin üç zat düzedilmeli: maglumat wersiýasy, kod wersiýasy we tötänleýin tohum. Bu üçlük bolmasa "Şol bir netijäni aldym" diýmek mümkin däl. 11-nji bölümde köpelmegi çuňlaşdyrarys; ýöne maglumat turbasyndaky tohumy düzetmek şu ýerden başlaýar.
üç sany kiçi halat
1-nji waka - shemanyň tassyklanylyşy gün. Haçan-da bir topar ýokary ulgam ulgamynyň bahasyny galamlardan liralara öwrende, ähli bahalar 100 esse arzanlady. Shemany tassyklamak partiýany "bahadan daşgary" diýip ret etdi we model bozulan maglumatlar bilen öwredilmedi. Barlamazdan, ýalňyşlyk diňe nädogry çaklamalar bilen önümçilikde görnerdi.
2-nji hadysa - Nädogry doldurmagyň taraplary. Karz modelinde ýiten girdeji bahalary ortaça dolduryldy. Missingöne ýiten girdejiler esasan pes girdejili toparda boldy; ortaça bu topary emeli usulda "baýlaşdyrdy" we model olara adalatsyz ýokary çäk hödürledi. Meseläni orta + ýitirmek baýdagy bilen düzeddi.
3-nji waka - Wagtlaýyn syzmak. Talaplary çaklaýyş modeli synag toplumynda gaty gowy görünýärdi (95% takyklyk), ýöne önümçilikde ýykyldy. Näme üçin: tötänleýin bölünişik sebäpli model geljegi gördi. Wagtlaýyn binninge geçmek synag takyklygyny 78% -e çenli peseltdi - ýöne bu hakyky öndürijilikdi we önümçilikde saklandy.
Göçürip boljak galyplar
Aşakdaky maglumatlar binýadyny üç topara bölüň: okuw / tassyklama / synag.Konstrasiýa: Bu wagt seriýasy; TEMPORAL bölünişini ulanyň (geçmişde otly, geljekde synag). Toparyň syzmagynyň öňüni alyň: diňe bir toparda şol bir "müşderi_id" bar. Ölçeg parametrlerini Diňe okuw toplumyndan hasaplaň, soňra hemmesine degişlidir. Her ädimde kodda näçe setir galandygyny çap ediň we syzmalaryň ýokdugyny barlaýan tassyklama goşuň.
Bu bellik meselesi üçin düşündiriş gollanmasynyň taslamasyny ýazyň. Sorag: [mes. Müşderiniň belligini pozitiw / negatiw / bitarap belläň] Serhet ýagdaýlaryny aýdyňlaşdyryň: sarkazm, garyşyk duýgy, önüm bilen baglanyşykly syny nädip bellik etmeli? 5 bellik we bellikleriň arasynda yzygiderliligi ýokarlandyrjak 3 kyn ýagdaý beriň.
Bu maglumat turbageçirijisi üçin köpeliş barlag sanawyny öndüriň: - Maglumat wersiýasy nädip düzedilmeli? - Haýsy tötänleýin tohumlar nirede goýulmaly? - Haýsy metadata (maglumatlar hash, hatar san, sene) ýazylmaly? Kod bazam: [dil / kitaphana]
Maglumatlaryň syzmagy üçin bu arassalaýyş koduny barlaň. Muňa aýratyn serediň: ulalmak / kodlamak parametrleri bölünmezden ozal hasaplanýarmy? Datahli maglumatlardan statistika hasaplanýarmy ýa-da diňe okuw? Kod: [kod]
Karar tablisasy: gymmatlyk strategiýasy
.Agdaý
Maslahat berilýän çemeleşme
Näme üçin
Sanly, gödek paýlanyş
ortaça dolduryň
Ortaça çykyş edýänler täsir edýär
San, simmetrik
ortaça dolduryň
Maglumatlary goraýar
.Etmezçilik möhüm bolup biler
Baýdak sütüni + doldurmak
.Etmezçilik signaldyr
Ingitirim derejesi> 60%
Sütüne baha beriň / taşlaň
Sesi gaty köp
Kategoriki
"Näbelli" kategoriýa
Emeli köplük döredenok
Adaty ýalňyşlyklar
- Barlamakdan geçmek. Shema gözegçiligi bolmazdan, bozulan maglumatlar sessiz-üýnsüz gizlenýär.
- Bölünmezden ozal masştab. Synag statistikasyny bilime syzdyrýar.
- Wagt seriýasynda tötänleýin bölünmegi ulanmak. Galp ýokary ölçegleri öndürýär.
- LLM ýazgylaryna kör ynanmak. Ulgamlaýyn ýalňyşlyk maglumatlaryň hemme ýerine ýaýraýar.
- Maglumat wersiýasyny ýazdyrmaýar. Netijäni köpeldip bilmersiňiz.
- Ortaça mehaniki doldurma. Meýdanyň manysyna ähmiýet bermeýär, ikitaraplaýynlyk goşýar.
Gysgaça
Maglumat geçirijisi ML ulgamynyň esasyny düzýär we modelden has köp tagalla etmeli. Barlagy ýokarda goýuň; domen bilimi bilen arassalamak we bellik etmek; bölümde syzmagyň (topar we wagtlaýyn) öňüni alyň; maglumat wersiýasyny we tohumyny düzediň. AI bu setirde kod we ideýalary döredýär, ýöne haýsy maglumatlary gaýtadan işlemelidigini we nädip çözmelidigini size bagly - sebäbi bu ýerdäki her bir nädogry karar modele gizlin kemçilik hökmünde geçýär.
Programma meselesi
Öz maglumatlar bazasyna tassyklama shemasyny (pandera / Uly garaşmalar) ýazyň we bilkastlaýyn erbet hatar goşuň we tutulandygyny görkeziň. Soňra maglumatlary wagtlaýyn ýa-da toparlaýyn bölüň, masştab parametrlerini diňe okuwdan hasaplaň we tassyklama bilen syzmagyň ýokdugyny barlaň. Maglumat wersiýasyny we hatar sanlaryny metadata faýlyna ýazyň.
gözegçilik sanawy
- [] Shemany barlamak setiriň ýokarsynda işleýär.
- [] Meýdanyň manysyna esaslanýan ýiten baha strategiýasyny saýladym, mehaniki taýdan doldurmadym.
- [] Etiketkanyň hilini (laýyklygyny) ölçedim; Adam tarapyndan barlanan LLM bellikleri.
- [] Topardaky toparlaýyn we wagtlaýyn syzmagyň öňüni aldym.
- [] Diňe okuw toplumyndan hasaplanan masştab / kodlamak.
- [] Maglumatlaryň wersiýasy, hatarlaryň we tohumlaryň sany.