Girdeji:
- Meseläniň görnüşini (klassifikasiýa, regressiýa, toparlara bölmek) we işiň hakyky bahasyna görä üstünlik ölçeglerini kesgitlemek ukyby
- Maglumatlary dogruçyl bölmek (synag toplumyna degmezden; wagt seriýasynda hronologiki taýdan) we syzdyrylmadyk baha beriş binýadyny döretmek;
- Simpleönekeý esasdan başlap, diňe özüne laýyk bolanda çylşyrymlylyk goşup, düşündirip boljak modeli saýlamak ukyby.
Şu wagta çenli maglumatlary ýygnadyk, arassaladyk, gözledik we aýratynlyklary öndürdik. Indi model gurup, hakyky işe gelýäris. Model, maglumatlardan bir nagşy öwrenýän we täze ýagdaýlar üçin çaklamalary döredýän matematiki gurluşdyr. Aöne model gurmagyň iň möhüm bölegi koduň özi däl-de, ondan öňki iki karar: dogry meseläni kesgitlemek we maglumatlary dogry bölmek. AI algoritmi saýlamakda, kod ýazmakda we parametrleri düzmekde güýçli geňeşçi; ýöne nämäni çaklamalydygyny we üstünligiň nämäni aňladýandygyny kesgitlemek özüne bagly. Kesgitlenen mesele, hatda gaty gowy ýazylan model bilenem işlemez.
Ilki bilen meseläniň kesgitlemesi: nämäni çaklaýarys
Her bir modellemek işi bir sorag bilen başlaýar we bu sorag modeliň görnüşini kesgitleýär. Klassifikasiýa - çykyş kategoriýa: "Bu müşderi gidermi ýa-da galarmy?", "Bu amal galpmy?". Regressiýa (iňlis dilinde regressiýada - çykyş san): "Bu jaýyň bahasy näçe?", "Geljek aý näçe sargyt geler?" Toplum (bellik edilmedik maglumatlary tebigy toparlara bölmek): "Müşderilerim näçe tebigy segmentlere bölünýärler?".
Mesele beýanynyň ikinji bölümi üstünlik kriteriýasy: bu modeliň "gowy" bolmagy nämäni aňladýar? Galplyk modelinde, kezzapçyny ýitirmek, dogruçyl müşderini tötänleýin petiklemekden has gymmat; Şonuň üçin "umumy takyklyk" däl-de, "kezzaplary tutmagyň derejesi" birinji orunda durýar. Bu ölçegi başdan kesgitlemeýän bolsaňyz, kärhana eýesi bilen bilelikde işlemeýän "gaty takyk" model bilen gutarsyňyz (7-nji bölümdäki ölçeglere has çuňňur gireris).
Üns beriň: "Takyklyk" ýalňyş bolup biler. 1000 geleşikden 10-sy kezzap bolsa, "hiç biri galp däl" diýýän samsyk model 99% takyklyk berer, ýöne ýekeje-de aldawçy tutmaz. Meseläniň hakyky bahasyndan ugur alyp, üstünlik ölçeglerini saýlaň.
Okuw / synag bölünişi: modeliň dogruçyl gözden geçirilmegi
Öwrenen maglumatlary bilen bir modeli barlamak, okuwçynyň ekzameninde öwrenen soraglaryny bermek ýalydyr; Highokary baha alýar, ýöne hakykatdanam bilýän zadyny görkezmeýär. Şeýlelik bilen maglumatlary iki bölege bölýäris (köplenç üç):
- Okuw toplumy (Iňlis dilinde okuw toplumy, adatça 70-80%): Model muny öwrenýär.
- Synag toplumy (synag toplumy, köplenç 20-30%): Model muny asla görenok; hakyky öndürijilik şu ýerde ölçelýär.
- Barlamak toplumy: Model sazlamasy üçin ulanylýan aralyk toplum (haýsy parametr has gowy); synag toplumyny "arassa" saklamak üçin.
Iň esasy düzgün: okuw toplumy okuw wagtynda hiç haçan degilmeýär. Ölçeg, kodlaşdyrmak, aýratynlyklary saýlamak - bularyň hemmesi diňe okuw toplumyndan öwrenilýär, soňra synag üçin ulanylýar (5-nji bölümden syzmak ýörelgesi). Synag toplumy modeliň hakyky dünýäni ilkinji gezek görmegi; Eger gaty ir açsaňyz, hakyky görkezijini hiç wagt bilmersiňiz.
Wagt seriýasy kadasy: Maglumatlaryňyz wagta bagly bolsa (satuw, bir marketa bazary, isleg), tötänleýin bölmek amala aşyrylmaýar. Sebäbi tötänleýin bölünmek modeliň geljegi görmegine we geçmişini çaklamagyna sebäp bolýar - bu syzmak. Munuň ýerine hronologiki taýdan bölüň: köne döwür bilen türgenleşiň, täze döwür bilen synag ediň.
Algoritmi saýlamak: ýönekeýden çylşyrymly
Täze başlanlaryň iň ýygy ýalňyşlygy, iň çylşyrymly modelden başlamakdyr. Dogry çemeleşme tersi: ilki bilen ýönekeý esas dörediň. klassifikasiýada "hemişe köplük synpyny çaklaň"; regressiýada "hemişe ortaça baha beriň". Bu samsyk model esas berýär; Hakyky modeliňiz muny geçip bilmese, bir mesele bar. Soňra ýönekeý we düşnükli modellere geçiň.
modeli
Meseläniň görnüşi
güýçli nokat
gowşaklyk
Esasy (köplük / ortaça)
ikisem
Ölçeg berýär
öwrenenok
Logistik regressiýa
Klassifikasiýa
Pleönekeý, düşnükli
Diňe çyzykly gatnaşyk
Çyzykly regressiýa
regressiýa
Pleönekeý, çalt
çyzykly çaklama
karar agajy
ikisem
düşnükli
Aňsat ýat tutmak
tötänleýin tokaý
ikisem
Güýçli, çydamly
Has az düşündirilýär
Gradienti ýokarlandyrmak (XGBoost we ş.m.)
ikisem
gaty güýçli
Düzeltmek kyn, ýat tutmak howpy
Düzgün: iň ýönekeý "ýeterlik derejede gowy" modeli saýlaň. Düşündiriş, iş şertleriniň köpüsinde güýçden has gymmatlydyr; Karzyň ret edilmegini düşündirmek has gowudyr, sebäbi karz-girdeji gatnaşygy "gara gutynyň aýdyşy ýaly" ýokary ".
üç sany kiçi halat
1-nji waka - Nädogry meseläni kesgitlemek. Topar "müşderi kanagatlandyrýar" esasynda klassifikasiýa modelini döretdi, ýöne üstünlik ölçegi hökmünde "takyklygy" saýlady. Maglumatlarda müşderileriň 88% -i kanagatlandy; Model hemmelere "kanagatly" diýmek bilen 88% takyklyk berdi we hiç haçan nägile adamlary tutmady - asyl maksat olary tapmakdy. Sapak: hakyky maksat esasynda üstünlik ölçeglerini saýlaň.
2-nji hadysa - Bölümde wagt syzmagy. Talaby çaklamak taslamasynda maglumatlar tötänleýin bölündi. Model 93% takyklyk berdi, ýöne önümçilikde ýykyldy, sebäbi okuwda ýanwar, soňra noýabr aýlaryny, dekabr aýyndaky maglumatlary bilen - geljegi gördi. Hronologiki bölünişige geçenimizde, hakyky öndürijilik 74% -e çenli ýokarlandy. Sapak: wagt seriýasynda hronologiki bölünişik.
3-nji hadysa - Gereksiz çylşyrymlylyk. Bir analitik gönüden-göni çuň nerw ulgamy bilen başlady, ony birnäçe hepde düzdi we 81% takyklygy aldy. Soňra kärdeşi 20 setir logistik regressiýa bilen 80% aldy - has çalt, düşnükli we saklamak aňsat. Sapak: esasy we ýönekeý modelden başlaň, oňa laýyk bolanda çylşyrymlylyk goşuň.
Göçürip boljak dört şablon
1) Meseläniň kesgitlemesini düşündirmek:
Siziň roluňyz: modeller boýunça geňeşçi. Bu işi kesgitlemäge kömek ediň: "Müşderileriň islegini azaltmak isleýärin". Menden soraň we aýdyňlaşdyryň: (1) bu klassifikasiýa ýa-da regressiýa, (2) maksat üýtgeýjiniň takyklygy we nädip kesgitlenmelidigi, (3) üstünlik ölçegleri näme we näme üçin bolmaly. Karar meniňki; soraglary we wariantlary hödürleýärsiňiz.
2) Howpsuz okuw / synag bölümi:
Df-ni 80% / 20% okuw / synaga bölüň. Synp paýlanyşyny saklaň (stratify) .random_state = 42. Bu WAGT HYZMATLARY däl (garaşsyz gözegçilikler). Bölünenden soň her toplumyň synp gatnaşygyny çap ediň. Diňe hiç hili üýtgeşme ulanman synag toplumyna bölüji kody beriň.
3) Wagt seriýasynyň hronologiki bölünişi:
Maglumat wagta baglydyr (sene sütüni: order_date). Tötänleýin däl, hronologiki taýdan bölüň: iň köne 80% okuw, iň täze 20% synag. Okuwyň we synag senesiniň aralyklaryny çap ediň, şonuň üçin geljegiň syzmandygyny barlap bilerin.
4) Esasy binýady düzmek:
Klassifikasiýa meseläm bar (maksat: churn 0/1). Ilki bilen esasy binýady kesgitläň: köplenç köplügi çaklaýan DummyClassifier bilen okuw / synag takyklygyny ölçäň. Soňra ýönekeý logistik regressiýany öwrediň we esasy binýady urýandygyny deňeşdiriň. Iki tarapyň ölçeglerini gapdalyndan görkeziň.
Gowşak haýyş / Güýçli haýyş
Gowşak haýyş:
Bu maglumatlar bilen iň oňat modeli guruň.
"Iň gowusy" kesgitlenmedi; Mesele görnüşi, maksat ýok, üstünlik ölçegleri we bölüniş strategiýasy ýok. AI tötänleýin nagyş döredýär, ähtimal syzyp biler.
Güýçli haýyş:
Siziň roluňyz: model kömekçisi. Mesele: klassifikasiýa, maksat "çurn" (0/1), synpda deňsizlik bar (~ 12% çurn). Üstünlik ölçegi: Çekýänleri ýatlamak ileri tutulýan zat. Maglumatlara garaşsyz gözegçilik (wagt seriýasy däl). Wezipe: (1) 80/20% gatlakly bölüniş, (2) DummyClassifier esasy, (3) logistik regressiýa, turbadaky ähli üýtgeşmeler we diňe okuwdan öwrenildi. Bölünmezden ozal synag toplumyna degmäň.
Bu ýerde meseläniň görnüşi, deňagramsyzlyk, ölçeg we syzmak çäresi aýdyňdyr.
Adaty ýalňyşlyklar
- Asyl maksadyna görä üstünlik ölçeglerini saýlamazlyk. Deňagramsyz maglumatlardaky "takyklyk" ýalňyşdyr; Azlyklaryň synpyny almak isleseňiz, ýatlamak birinji orunda durýar.
- Okuw wagtynda synag toplumyna degmek. Bölünmezden ozal masştablamak / kodlamak syzýar we hakyky öndürijiligi gizleýär.
- Wagt seriýasynda tötänleýin bölünmek. Model geljegi görýär, önümçilikde çökýär; Hronologiki bölünişik zerurdyr.
- Esasy binýady döretmezden çylşyrymly modele bökmek. Ölçegler bolmasa, modeliň hakykatdanam gowydygyny ýa-da ýokdugyny bilip bolmaz.
- Düşündirişe ähmiýet bermezlik. Işewür kararlarda ýönekeý düşündirilýän model köplenç gara gutudan has gymmatlydyr.
Maslahat: Model gurup başlamazdan ozal bir sözlem ýazyň: "Bu model _____ çaklaýar, üstünligi _____ ölçegi bilen ölçeniler, sebäbi işiň hakyky bahasy _____." Bu sözlemi dolduryp bilmeseňiz, entek kod ýazmaga taýyn dälsiňiz.
Gysgaça
Model gurmagyň iň möhüm bölegi kod däl-de, ondan ozalky kararlar: dogry meseläni kesgitlemek (klassifikasiýa ýa-da regressiýa, maksat näme, üstünlik kriteriýasy) we maglumatlary adalatly bölmek (synag toplumyna degmezden; wagt seriýasyndaky hronologiki). Elmydama ýönekeý esas bilen başlaň we diňe özüne laýyk bolanda çylşyrymlylyk goşuň; düşündiriş, iş şertleriniň köpüsinde güýçden has ýokary baha berilýär. AI algoritmi saýlamakda we kodda güýçli geňeşçi, ýöne nämäni çaklaýandygyňyzy we sebäbini adam çözýär.
Programma meselesi
Çaklama meselesini kesgitläň we aşakdaky sözlemi ýazmaça ýazyň: "Bu model ___ (klassifikasiýa / regressiýa) çaklaýar, maksat ___, üstünlik ölçegi ___, sebäbi ___." Soňra maglumatlary dogry strategiýa bilen bölüň (wagt seriýasy bolsa hronologiki), esasy binýady kesgitläň we ýönekeý nagşyň şol binýady bozýandygyny ýa-da ýokdugyny ölçäň.
gözegçilik sanawy
- [] Meseläniň görnüşini (klassifikasiýa / regressiýa) we nyşany anyk kesgitledimmi?
- [] Işiň hakyky bahasyna baglylykda üstünlik ölçeglerini saýladymmy?
- [] Okuw wagtynda synag toplumyny el degirmedimmi?
- [] Wagt seriýasy bolsa, hronologiki taýdan böldümmi?
- [] Çylşyrymly modele geçmezden ozal esas goýdummy?