Faida:
- Uwezo wa kufafanua aina ya shida (uainishaji, urekebishaji, nguzo) na vigezo vya mafanikio kulingana na gharama halisi ya kazi.
- Uwezo wa kugawanya data kwa uaminifu (bila kugusa seti ya jaribio; kwa mpangilio katika safu ya wakati) na kuanzisha msingi wa tathmini isiyo na uvujaji.
- Uwezo wa kuchagua mfano unaoweza kufasiriwa kwa kuanza na msingi rahisi na kuongeza utata tu wakati unastahili.
Kufikia sasa tumekusanya data, kuisafisha, kuichunguza, na kutoa vipengele. Sasa tunakuja kwenye kazi halisi, kujenga mfano. Muundo ni muundo wa hisabati ambao hujifunza muundo kutoka kwa data na kutoa utabiri wa hali mpya. Lakini sehemu muhimu zaidi ya kujenga mfano sio msimbo yenyewe, lakini maamuzi mawili yanayotangulia: kufafanua tatizo sahihi na kugawanya data kwa usahihi. AI ni mshauri mwenye nguvu katika uteuzi wa algorithm, uandishi wa kanuni, na urekebishaji wa vigezo; lakini ni juu ya mtu kuamua nini cha kutabiri na nini maana ya mafanikio. Tatizo lisilofafanuliwa vibaya halitafanya kazi hata kwa mfano ulioandikwa kikamilifu.
Ufafanuzi wa shida kwanza: tunatabiri nini
Kila kazi ya modeli huanza na swali, na swali hili huamua aina ya mfano. Uainishaji — matokeo ni kategoria: "Je, mteja huyu ataondoka au atasalia?", "Je, muamala huu ni bandia?". Regression (katika urejeshaji wa Kiingereza - pato ni nambari): "Nyumba hii ina thamani ya kiasi gani?", "Ni maagizo ngapi yatakuja mwezi ujao?". Kuunganisha (kugawanya data isiyo na lebo katika vikundi vya asili): "Wateja wangu wamegawanywa katika sehemu ngapi za asili?".
Sehemu ya pili ya taarifa ya tatizo ni kigezo cha mafanikio: ina maana gani kwa mtindo huu kuwa "mzuri"? Katika mfano wa udanganyifu, kukosa mlaghai ni ghali zaidi kuliko kuzuia kwa bahati mbaya mteja mwaminifu; Kwa hiyo, si "usahihi wa jumla" lakini "kiwango cha kukamata wadanganyifu" huja mbele. Ikiwa hutafafanua kigezo hiki tangu mwanzo, pamoja na mmiliki wa biashara, utapata kielelezo "sahihi sana" ambacho hakifanyi kazi (tutaingia ndani zaidi katika vipimo katika Kitengo cha 7).
Tahadhari: "Usahihi" unaweza kupotosha. Ikiwa miamala 10 kati ya 1000 ni ya ulaghai, mtindo wa kijinga unaosema "hakuna walaghai" utatoa usahihi wa 99% lakini hautampata mlaghai hata mmoja. Chagua vigezo vya mafanikio kulingana na gharama halisi ya tatizo.
Mgawanyiko wa mafunzo / mtihani: uchunguzi wa uaminifu wa mfano
Kumpima mwanamitindo kwa data alizojifunza ni sawa na kumuuliza mwanafunzi maswali yale yale aliyosoma kwenye mtihani; Anapata alama za juu lakini haonyeshi anachojua haswa. Kwa hivyo tunagawanya data kuwa mbili (mara nyingi tatu):
- Seti ya mafunzo (mafunzo yaliyowekwa kwa Kiingereza, kwa kawaida 70-80%): Mfano hujifunza juu ya hili.
- Seti ya majaribio (seti ya mtihani, kwa kawaida 20-30%): Mfano hauoni hili kabisa; utendaji halisi unapimwa hapa.
- Seti ya uthibitishaji: Seti ya kati inayotumiwa kwa kuweka mfano (ambayo parameter ni bora); kuweka mtihani kuweka "safi".
Kanuni ya msingi zaidi: seti ya mtihani haijawahi kuguswa wakati wa mafunzo. Kuongeza, kuweka misimbo, uteuzi wa vipengele - vyote hujifunza kutoka kwa seti ya mafunzo, kisha kutumika kwa majaribio (kanuni ya uvujaji kutoka kwa Kitengo cha 5). Seti ya majaribio ni mara ya kwanza mtindo huona ulimwengu wa kweli; Ukiiwasha mapema sana hutawahi kujua utendaji wa kweli.
Isipokuwa kwa mfululizo wa saa: Ikiwa data yako inategemea wakati (mauzo, soko la hisa, mahitaji), ugawanyiko wa nasibu haufanyiki. Kwa sababu mgawanyiko wa nasibu husababisha modeli kuona siku zijazo na kutabiri yaliyopita - huu ni uvujaji. Badala yake, gawanya kwa mpangilio: fanya mazoezi na kipindi cha zamani, jaribu na kipindi kipya.
Uchaguzi wa algorithm: kutoka rahisi hadi ngumu
Makosa ya kawaida ya Kompyuta ni kuanza na mfano ngumu zaidi. Njia sahihi ni kinyume chake: kwanza anzisha msingi rahisi. "Daima nadhani tabaka la wengi" katika uainishaji; "daima kadiri maana" katika rejista. Mfano huu wa kijinga unatoa msingi; Ikiwa mfano wako halisi hauwezi kupitisha hii, kuna shida. Kisha endelea kwa mifano rahisi na inayoeleweka.
mfano
Aina ya tatizo
hatua kali
udhaifu
Msingi (wengi/wastani)
zote mbili
Inatoa alama
haijifunzi
Urejeshaji wa vifaa
Uainishaji
Rahisi, inayoeleweka
Uhusiano wa mstari pekee
Urejeshaji wa mstari
kurudi nyuma
Rahisi, haraka
dhana ya mstari
mti wa maamuzi
zote mbili
kinachoweza kufasiriwa
Kukariri kwa urahisi
msitu wa nasibu
zote mbili
Nguvu, kudumu
Haiwezekani kufasirika
Kuongeza gradient (XGBoost n.k.)
zote mbili
nguvu sana
Vigumu kurekebisha, hatari ya kukariri
Utawala: chagua mfano rahisi zaidi wa "mzuri wa kutosha". Ufasiri ni wa thamani zaidi kuliko nguvu katika miktadha mingi ya biashara; Ni bora kuelezea kukataliwa kwa mkopo "kwa sababu uwiano wako wa deni kwa mapato ni wa juu" kuliko "kwa sababu sanduku nyeusi lilisema hivyo."
kesi tatu ndogo
Kesi ya 1 - Ufafanuzi wa tatizo usio sahihi. Timu imeunda muundo wa uainishaji kulingana na "ni mteja ameridhika" lakini ikachagua "usahihi" kama kigezo cha mafanikio. Katika takwimu, 88% ya wateja waliridhika; Muundo huu ulipata usahihi wa 88% kwa kuita kila mtu "ameridhika" na hakuwapata kamwe watu wasioridhika - ingawa lengo halisi lilikuwa kuwatafuta. Somo: chagua vigezo vya mafanikio kulingana na kusudi halisi.
Kesi ya 2 - Uvujaji wa wakati kwenye chumba. Katika mradi wa utabiri wa mahitaji, data iligawanywa bila mpangilio. Mtindo huo ulitoa usahihi wa 93% lakini ulianguka katika uzalishaji kwa sababu katika mafunzo ulitabiri Januari, kisha Novemba, na data ya Desemba - ilikuwa imeona siku zijazo. Tulipohamia mgawanyiko wa mpangilio, utendakazi halisi uliongezeka hadi 74%. Somo: mgawanyiko wa mpangilio katika mfululizo wa wakati.
Kesi ya 3 - Ugumu usiohitajika. Mchambuzi mmoja alianza moja kwa moja na mtandao wa kina wa neva, akaurekebisha kwa wiki, na akapata usahihi wa 81%. Kisha mwenzako akapata 80% na mistari 20 ya urekebishaji wa vifaa - haraka zaidi, inayoeleweka na rahisi kudumisha. Somo: anza na msingi na mfano rahisi, ongeza utata wakati unastahili.
Violezo vinne vinavyoweza kunakiliwa
1) Kufafanua ufafanuzi wa shida:
Jukumu lako: mshauri wa mfano. Nisaidie kufafanua kazi hii: "Nataka kupunguza mvutano wa wateja." Niulize na unifafanulie: (1) je, huu ni uainishaji au rejista, (2) ni nini hasa tofauti inayolengwa na inapaswa kufafanuliwa vipi, (3) vigezo vya kufaulu vinapaswa kuwa vipi na kwa nini. Uamuzi ni wangu; unawasilisha maswali na chaguzi.
2) Sehemu salama ya mafunzo/mtihani:
Gawanya df yangu katika mafunzo/upimaji 80%/20%. Dumisha usambazaji wa darasa (stratify).random_state=42. Huu SIO MFUMO WA WAKATI (uchunguzi unaojitegemea). Chapisha uwiano wa darasa wa kila seti baada ya mgawanyiko. Toa tu nambari ya kugawanya kwa seti ya jaribio bila kutumia mabadiliko yoyote.
3) Mgawanyiko wa mfululizo wa wakati:
Data inategemea wakati (safu wima ya tarehe: tarehe_ya mpangilio). SI nasibu, gawanya kwa mpangilio: mafunzo ya zamani zaidi ya 80%, majaribio mapya zaidi ya 20%. Chapisha safu za tarehe za mafunzo na majaribio ili nithibitishe kuwa siku zijazo hazijavuja.
4) Kuweka msingi:
Nina shida ya uainishaji (lengo: churn 0/1). Kwanza weka msingi: pima usahihi wa mafunzo/jaribio ukitumia DummyClassifier, ambayo hutabiri aina nyingi kila wakati. Kisha fundisha urejeshaji rahisi wa vifaa na ulinganishe ikiwa inashinda msingi. Onyesha vipimo vya pande mbili kwa upande.
Mwongozo dhaifu / Mwongozo thabiti
Agizo dhaifu:
Unda muundo bora na data hii.
"Bora" haijafafanuliwa; Hakuna aina ya shida, hakuna lengo, hakuna vigezo vya mafanikio na hakuna mkakati wa mgawanyiko. AI hutengeneza muundo nasibu, ikiwezekana kuvuja.
Agizo lenye nguvu:
Jukumu lako: msaidizi wa mfano. Tatizo: uainishaji, lengo "churn" (0/1), kuna usawa wa darasa (~12% churn). Kigezo cha mafanikio: Kuwakumbuka wale wanaochubuka ni kipaumbele. Uchunguzi wa kujitegemea wa data (sio mfululizo wa saa). Jukumu: (1) 80/20% ya mgawanyiko wa tabaka, (2) DummyClassifier msingi, (3) urejeshaji wa vifaa, mabadiliko yote yanayoendelea na kujifunza kutoka kwa mafunzo pekee. Usiguse seti ya jaribio kabla ya kugawanyika.
Hapa aina ya tatizo, usawa, kigezo na kipimo cha kuvuja ni wazi.
Makosa ya kawaida
- Kutochagua vigezo vya mafanikio kulingana na madhumuni halisi. "Usahihi" katika data isiyo na usawa ni ya kupotosha; Ikiwa unataka kunasa tabaka la wachache, kukumbuka kunakuja mbele.
- Kugusa mtihani uliowekwa wakati wa mafunzo. Kufanya kuongeza/kusimba kabla ya kugawanyika kunavuja na huficha utendakazi halisi.
- Kugawanyika nasibu katika mfululizo wa saa. Mfano huona wakati ujao, huanguka katika uzalishaji; Mgawanyiko wa mpangilio ni muhimu.
- Kuruka katika muundo tata bila kuanzisha msingi. Bila alama za alama huwezi kujua ikiwa mfano ni mzuri au la.
- Kupuuza ufasiri. Katika maamuzi ya biashara, mfano rahisi unaoweza kuelezewa mara nyingi ni wa thamani zaidi kuliko sanduku nyeusi.
Kidokezo: Kabla ya kuanza kuunda modeli, andika sentensi moja: "Mtindo huu utatabiri _____, mafanikio yake yatapimwa kwa kipimo cha _____, kwa sababu gharama halisi ya kazi ni _____." Ikiwa huwezi kujaza sentensi hii, bado hauko tayari kuandika msimbo.
Kwa muhtasari
Sehemu muhimu zaidi ya kuunda mfano sio msimbo, lakini maamuzi yanayotangulia: kufafanua shida sahihi (uainishaji au urekebishaji, lengo ni nini, kigezo cha mafanikio) na kugawanya data kwa haki (bila kugusa seti ya jaribio; mpangilio wa wakati katika safu ya wakati). Daima anza na msingi rahisi na uongeze utata tu wakati unastahili; ukalimani unathaminiwa juu ya mamlaka katika miktadha mingi ya biashara. AI ni mshauri mwenye nguvu katika uteuzi na msimbo wa algoriti, lakini binadamu huamua unachotabiri na kwa nini.
Jukumu la maombi
Bainisha tatizo la utabiri na ukamilishe sentensi ifuatayo kwa maandishi: "Mtindo huu utatabiri ___ (uainishaji/rejeshi), lengwa ni ___, kigezo cha mafanikio ni ___ kwa sababu ___." Kisha gawanya data kwa mkakati unaofaa (kitaratibu ikiwa ni mfululizo wa saa), weka msingi, na upime ikiwa muundo rahisi unavunja msingi huo.
orodha ya ukaguzi
- [ ] Je, nimefafanua kwa uwazi aina ya tatizo (uainishaji/rejeshi) na lengwa?
- [ ] Je, nimechagua vigezo vya mafanikio kulingana na gharama halisi ya kazi?
- [ ] Je, niliacha jaribio lililowekwa bila kuguswa wakati wa mafunzo?
- [ ] Ikiwa ni mfululizo wa saa, je, niliugawa kwa mpangilio?
- [ ] Je, nimeweka msingi kabla ya kuendelea na modeli changamano?