Kitengo 5 / 11

Utambuzi wa Regression na Ukiukaji: Collinearity, Heteroscedasticity, Autocorrelation

Faida:

  • Uwezo wa kugundua ukiukaji kama vile multicollinearity, heteroscedasticity na autocorrelation na vipimo vya uchunguzi na michoro kwa msaada wa akili bandia.
  • Uwezo wa kutofautisha ikiwa kila ukiukaji unapotosha makadirio ya mgawo au makosa ya kawaida na kuchagua marekebisho yanayofaa (hitilafu kali ya kawaida, mabadiliko, marekebisho ya muundo)
  • Uwezo wa kuthibitisha kuwa marekebisho yaliyopendekezwa na AI yanasuluhisha shida badala ya kuificha na kwamba utambuzi unategemea uelewa wa mchakato ambao hutoa data.

Kusoma matokeo ya rejista ni rahisi; Ni vigumu kumwamini. Kwa sababu coefficients haina upendeleo, makosa ya kawaida ni sahihi, na maadili ya p ni halali, kulingana na mawazo tuliyoanzisha katika kitengo cha awali yamefikiwa. Katika kitengo hiki, tutashughulikia ukiukaji tatu unaojulikana zaidi: multicollinearity, heteroscedasticity, na autocorrelation. Tutajibu maswali matatu kwa kila moja: jinsi ya kuitambua, inavunja nini (kosa la mgawo au la kawaida), na jinsi ya kuirekebisha. Akili Bandia (AI) huzalisha kanuni za upimaji na urekebishaji wa uchunguzi; lakini unaamua ni ukiukaji gani hasa ndio tatizo na kama urekebishaji hutatua tatizo.

Hebu tufanye upambanuzi muhimu zaidi mbele: Je, ukiukaji hupotosha makadirio ya mgawo au makosa ya kawaida tu? Tofauti hii huamua suluhisho. Tatizo ambalo linapotosha mgawo (k.m. ukiukaji wa urithi) linahitaji kufikiria upya muundo; Tatizo ambalo linapotosha tu kosa la kawaida (heteroscedasticity, autocorrelation) mara nyingi hutatuliwa na urekebishaji wa makosa ya kawaida. Makosa ya kawaida ya AI ni kutumia mbinu ambayo hurekebisha kosa la kawaida na kisha kutangaza tatizo "kutatuliwa"; ilhali muundo wa msingi unaweza kuwa bado upo.

Ukiukaji wa 1: Multicollinearity

Kwa nini? Vigezo viwili au zaidi vya maelezo vinahusiana sana; kwa mfano, kuweka "jumla ya uzoefu wa miaka" na "umri" katika modeli. Kwa kuwa vigezo hivi hubeba karibu habari sawa, mfano una ugumu wa kuwatenganisha.

Inavunja nini? Makadirio ya mgawo husalia kuwa yasiyo na upendeleo lakini yanabadilikabadilika: hitilafu za kawaida huongezeka, vipindi vya kutegemewa hupanuka, vigawo mahususi vinaweza kutokuwa na maana ilhali muundo unaweza kuwa muhimu kwa ujumla (F-jaribio). Mabadiliko madogo ya data husogeza mgawo kwa kiasi kikubwa.

Je, inatambuliwaje? VIF (Kipengele cha Tofauti cha Mfumuko wa Bei): kwa kila kigezo, hupima ni kiasi gani kigeu hicho kinaelezewa na vingine. Kama kizingiti kibaya, VIF> 5 (baadhi 10) inahitaji tahadhari. Zaidi ya hayo, matrix ya uwiano kati ya vigezo vya maelezo huchunguzwa.

Jinsi ya kurekebisha? Kudondosha mojawapo ya vigeu vilivyounganishwa, kuvichanganya (kutengeneza faharasa), au (ikiwa nadharia inahitaji) kushika zote mbili na kuepuka kutafsiri coefficients binafsi. Ni kigeu gani kinachokaa ni uamuzi wa kinadharia, sio wa takwimu - AI inapendekeza uondoaji, unatoa uhalali.

Ukiukaji wa 2: Heteroscedasticity

Kwa nini? Tofauti ya neno la makosa sio mara kwa mara katika uchunguzi. Mfano wa kawaida: kadiri mapato yanavyoongezeka, ndivyo mtawanyiko wa matumizi unavyoongezeka; Mfano wa "funnel" huundwa, nyembamba kwa mapato ya chini na pana kwa mapato ya juu.

Inavunja nini? Makadirio ya mgawo hayana upendeleo tena - hii ni muhimu. Kinachopotoshwa ni makosa ya kawaida: yanahesabiwa vibaya, kwa hivyo maadili ya p na vipindi vya kujiamini haviaminiki. Kwa hivyo mgawo wako uko katikati mwafaka, lakini jibu la swali "una uhakika gani" sio sahihi.

Je, inatambuliwaje? Mpangilio wa kutawanya mabaki dhidi ya thamani zilizotabiriwa (muundo wa faneli unaotafutwa) na majaribio rasmi: Jaribio la Breusch-Pagan, Mtihani mweupe. Thamani ndogo ya p inasema "hakuna tofauti za mara kwa mara".

Jinsi ya kurekebisha? Suluhisho la kawaida na la vitendo ni kutumia makosa ya kiwango cha nguvu (imara / heteroskedasticity-consistent, makosa ya kiwango cha HC): haibadilishi mgawo, hurekebisha makosa ya kawaida kwa ukiukaji. Mbadala: kubadilisha kigezo tegemezi (kama logi) au LCM yenye uzani. Hitilafu kali za kawaida zimekuwa kama chaguo msingi katika kazi ya majaribio leo.

Ukiukaji wa 3: Usanifu wa kiotomatiki

Kwa nini? Masharti ya makosa hayajitegemea; Hutokea zaidi katika mfululizo wa saa: hitilafu ya kipindi kimoja huathiri inayofuata (k.m. salio husalia chanya katika vipindi vinavyofuata mshtuko).

Inavunja nini? Tena, kimsingi hupotosha makosa ya kawaida (mara nyingi huwapunguzia, na kuunda umuhimu wa uwongo); Migawo inasalia bila upendeleo katika LCC lakini inapoteza ufanisi wake.

Je, inatambuliwaje? Jaribio la Durbin-Watson (kwa uunganisho otomatiki wa agizo la kwanza), jaribio la Breusch-Godfrey (la jumla zaidi), na safu za mabaki dhidi ya maadili yaliyochelewa.

Jinsi ya kurekebisha? Newey-West (HAC - ni sugu kwa uunganisho otomatiki na heteroskedasticity) makosa ya kawaida, kuongeza maneno yaliyochelewa kwa modeli, au kubadili muundo wa mfululizo wa wakati unaofaa (kitengo cha 8).

Tahadhari: Heteroscedasticity na uunganisho otomatiki hupotosha hitilafu ya kawaida, si mgawo. Kwa hiyo, kabla ya kusema "mgawo ulikuwa muhimu", hakikisha kwamba kosa la kawaida linahesabiwa kwa usahihi; Vinginevyo maana inaweza kuwa udanganyifu.

chati ya kulinganisha

ukiukaji

Nini mapumziko

Utambuzi

Suluhisho la kawaida

viungo vingi

Huongeza makosa ya kawaida, hufanya mgawo kutokuwa thabiti

VIF, matrix ya uunganisho

Ondoa/changanya tofauti (kwa nadharia)

heteroscedasticity

Makosa ya kawaida (mgawo usio na upendeleo)

Breusch-Pagan, Nyeupe, njama ya mabaki

Hitilafu kali ya kawaida (HC), ubadilishaji

Usahihishaji otomatiki

Makosa ya kawaida (mgawo usio na upendeleo)

Durbin-Watson, Breusch-Godfrey

Newey-West (HAC), muda uliocheleweshwa

Vidokezo vinne vinavyoweza kunakiliwa

1. Kamilisha kifurushi cha uchunguzi:

Jukumu lako: msaidizi wa uchunguzi wa regression. Ninataka nambari ya R, sishiriki data. Mfano: lm(matumizi ~ mapato + umri + eneo, data = data). Jukumu: (1) Kokotoa VIF, (2) Pima utiifu kwa kutumia Breusch-Pagan na njama ya makadirio ya mabaki, (3) Jaribu uunganisho otomatiki na Durbin-Watson. Eleza katika mstari wa maoni ni ukiukaji gani hupima kila jaribio na jinsi ya kutafsiri thamani ya p. APPLICATION ya kusahihisha; kuzalisha utambuzi.

2. Hitilafu kali ya kawaida:

Andika msimbo wa R unaozalisha tena jedwali la mgawo lenye hitilafu za kawaida za heteroskedasticity-robust (HC3) kwa muundo sawa (sandwich + lmtest packages). Tengeneza jedwali linaloonyesha makosa ya kawaida na thabiti ya kawaida kwa upande ili niweze kuona tofauti. Sisitiza katika mstari wa maoni kwamba coefficients HAIBADILIKI, ni makosa ya kawaida pekee.

3. Mapitio ya viungo vingi:

Nipe orodha ya FIKIRIA ya vigeuzo vilivyo na VIF ya juu: ni vigeu gani vinaweza kupima kitu kimoja kinadharia, ni kipi kina kigezo dhabiti cha kuziweka. USIWEZE kuhitimu kiotomatiki; Nitafanya uamuzi kulingana na nadharia. Pia eleza ni kwa nini inaweza kuwa mbaya kuangalia tu VIF na kugawa vijiti.

4. Marekebisho ya urekebishaji kiotomatiki:

Katika urekebishaji wa safu yangu ya wakati, bei ya Breusch-Godfrey ilikuwa 0.001. Andika msimbo R unaotoa jedwali la mgawo na makosa ya kawaida ya Newey-West (HAC) na ueleze jinsi ya kuchagua bakia. Kumbuka kuwa marekebisho haya hayasuluhishi SABABU ya urekebishaji kiotomatiki, inasahihisha tu uelekezaji.

Mwongozo dhaifu / Mwongozo thabiti

Agizo dhaifu:

Je, kuna tatizo na urekebishaji wangu? Ikiwa ndivyo, rekebisha.

Kidokezo hiki huiweka AI katika hali ya "kurekebisha" kipofu: inaweza kuruka majaribio na kutumia mabadiliko ya moja kwa moja au uondoaji wa kutofautiana, bila kukuonyesha ukiukaji gani upo na ulivunja nini.

Agizo lenye nguvu:

Jukumu lako: msaidizi wa uchunguzi, sio mrekebishaji kiotomatiki. Jaribio la kwanza la ukiukaji TATU kando (multicollinearity, heteroscedasticity, autocorrelation) na kwa kila: ni jaribio gani, jinsi ya kusoma matokeo, linavunja COEFFICIENT au STANDARD ERROR. Kisha pendekeza tu kurekebisha kwa ukiukaji ambao KWA UKWELI uligunduliwa na ueleze jinsi ninaweza kuthibitisha kuwa urekebishaji ulisuluhisha tatizo.

Tofauti: dhamira kali inalazimisha utambuzi kabla ya kusahihisha na inadai tofauti ya wazi kati ya "inayovunja".

kesi tatu ndogo

Kesi ya 1 - Umuhimu wa kushangaza (heteroscedasticity). Mchanganuzi mmoja alipata mgawo wa mapato katika mtindo wa matumizi ~ mapato kuwa "muhimu" katika p=0.01. Lakini sasa kulikuwa na muundo tofauti wa funnel kwenye chati yake. Wakati makosa ya kawaida yalipotumiwa, thamani ya p iliongezeka hadi 0.09; maana imepotea. Matokeo ya kwanza yalikuwa udanganyifu ulioundwa na kosa la kawaida lililokokotwa vibaya. Somo: umuhimu hauwezi kuaminiwa bila kurekebisha hitilafu ya kawaida.

Kesi ya 2 - Uondoaji wa kutofautiana kwa kipofu. Mwanafunzi mmoja aliacha tofauti ya "uzoefu" kutoka kwa mfano kwa sababu VIF yake ilikuwa ya juu; Viwango "vimesafishwa" lakini maana ya kinadharia ya modeli ilipotoshwa kwa sababu tajriba ilikuwa kigezo kikuu cha riba. Njia sahihi: toa umri na uhifadhi uzoefu, au unganisha hizi mbili. Somo: Kizingiti cha VIF pekee sio msingi wa kuondolewa; nadharia huamua.

Kesi ya 3 - Kutokuwa na uhakika kufichwa na uunganisho otomatiki. Katika utafiti wa mfululizo wa muda, Durbin-Watson alipuuzwa; mgawo ulionekana "sahihi" sana (muda finyu wa kujiamini). Wakati makosa ya kiwango cha Newey-West yalipotumika, muda wa kujiamini uliongezeka maradufu na pendekezo la sera likawa la kihafidhina zaidi. Somo: uunganisho otomatiki unaweza kudharau kutokuwa na uhakika.

Makosa ya kawaida

  • Kukosea kwa ukiukaji unaopotosha hitilafu ya kawaida kama tatizo la mgawo. Heteroscedasticity na autocorrelation haipotoshe mgawo; Usiogope na ujenge tena mfano bila lazima, rekebisha hitilafu ya kawaida kwanza.
  • Kuangalia VIF na kugawa vijiti kwa upofu. Kuondoa kigeugeu kinachohitajika kinadharia kwa sababu tu VIF iko juu hufanya kielelezo kutokuwa na maana.
  • Haidhibitishi urekebishaji. Baada ya kutumia hitilafu kali ya kawaida, hakikisha kwamba ukiukaji unasahihisha makisio hayo; Usiseme "Nimeitumia, imekamilika".
  • Rekebisha bila utambuzi. Kutumia mabadiliko/uondoaji bila kupima ni ukiukaji upi unaweza "kusuluhisha" tatizo ambapo halipo na kuficha ile inayofanya hivyo.
  • Kuweka kurekebisha kwa nini. Newey-West haisuluhishi sababu ya uhusiano wa kiotomatiki; inarekebisha tu inference. Ikiwa kuna shida ya kimuundo, mtindo lazima ubadilishwe.
Kidokezo: Kwa kila ukiukaji, jiulize "hii inaharibu mgawo au imani yangu nayo?" Ikiwa jibu ni "kujiamini," suluhisho karibu kila wakati ni urekebishaji wa makosa ya kawaida, sio kuunda tena mfano.

Kwa muhtasari

Uchunguzi wa urekebishaji ni sharti la kuamini matokeo. Kati ya ukiukaji huo tatu wa kawaida, multicollinearity hufanya mgawo kutokuwa thabiti na huongeza hitilafu ya kawaida; Heteroskedasticity na autocorrelation, kwa upande mwingine, huacha mgawo bila upendeleo na kupotosha tu kosa la kawaida. AI huzalisha msimbo wa uchunguzi na kurekebisha, lakini unaamua ni ukiukaji gani ni tatizo halisi, ni lahaja gani inabaki kuwa ya kinadharia, na ikiwa urekebishaji hutatua tatizo. Wala hofu au marekebisho ya upofu ni sahihi bila kufafanua tofauti kati ya "kile kinachovunja".

Jukumu la maombi

Sanidi urejeshaji wa aina nyingi na uulize AI msimbo ambao hutoa utambuzi tu (hakuna masahihisho): VIF, Breusch-Pagan/White, na Durbin-Watson/Breusch-Godfrey. Kwa kila jaribio, tafsiri matokeo na uonyeshe ikiwa ukiukaji unapotosha mgawo au hitilafu ya kawaida. Kwa ukiukaji halisi unaotambua (k.m. heteroscedasticity), tumia makosa ya kawaida ya kawaida na ujumuishe matokeo ya kitambo na thabiti; Onyesha kuwa mgawo haubadiliki lakini hitilafu ya kawaida hubadilika. Katika aya moja, ripoti jinsi matokeo ya umuhimu wako yaliathiriwa na marekebisho.

orodha ya ukaguzi

  • [ ] Nilijaribu ukiukaji tatu (multicollinearity, heteroskedasticity, autocorrelation) tofauti.
  • [ ] Kwa kila ukiukaji, nilitofautisha ikiwa inapotosha mgawo au hitilafu ya kawaida.
  • [ ] Nilitegemea uondoaji wa kutofautisha katika multicollinearity kwenye nadharia, sio VIF pekee.
  • [ ] Nilitumia hitilafu ya kawaida yenye uthabiti kwa heteroscedasticity/autocorrelation (HC/HAC).
  • [ ] Baada ya kusahihisha, nilikagua na kuthibitisha athari ya ukiukaji kwenye makisio yangu.
  • [ ] Ninaripoti jinsi matokeo ya umuhimu wangu yalivyoathiriwa na urekebishaji wa makosa ya kawaida.