Unità 5 / 11

Dijanjostiċi ta' Rigressjoni u Vjolazzjonijiet: Kollinearità, Eteroskedastiċità, Awtokorrelazzjoni

Qligħ:

  • Kapaċità li tiskopri vjolazzjonijiet bħal multikolinearità, eterosċedastiċità u awtokorrelazzjoni b'testijiet dijanjostiċi u grafika b'appoġġ għall-intelliġenza artifiċjali
  • Kapaċità li tiddistingwi jekk kull vjolazzjoni tgħawwiġx l-istimi tal-koeffiċjenti jew żbalji standard u tagħżel il-korrezzjoni xierqa (żball standard robust, trasformazzjoni, reviżjoni tal-mudell)
  • Kapaċità li tivverifika li s-soluzzjonijiet issuġġeriti mill-AI jsolvu l-problema aktar milli jaħbuha u li d-dijanjosi hija bbażata fuq fehim tal-proċess li jipproduċi d-dejta

Il-qari tal-output ta' rigressjoni huwa faċli; Huwa diffiċli li tafdah. Minħabba li l-koeffiċjenti huma imparzjali, l-iżbalji standard huma korretti, u l-valuri p huma validi, skont is-suppożizzjonijiet li daħħalna fl-unità preċedenti jintlaħqu. F'din l-unità, se nkopru t-tliet vjolazzjonijiet l-aktar komuni: multikolinearità, eteroscedastiċità u awtokorrelazzjoni. Aħna ser inwieġbu tliet mistoqsijiet għal kull wieħed: kif tiddijanjostikaha, x'tkisser (koeffiċjent jew żball standard), u kif tirranġaha. L-intelliġenza artifiċjali (AI) tiġġenera l-kodiċi għall-ittestjar u l-korrezzjoni dijanjostiċi; imma inti tiddeċiedi liema vjolazzjoni hija verament il-problema u jekk issolvix il-problema.

Ejja nagħmlu l-aktar distinzjoni kritika bil-quddiem: Vjolazzjoni tgħawweġ l-istima tal-koeffiċjent jew biss l-iżbalji standard? Din id-distinzjoni tiddetermina s-soluzzjoni. Problema li tgħawweġ il-koeffiċjent (eż. ksur tal-eżoġeneità) teħtieġ ħsieb mill-ġdid tal-mudell; Problema li tgħawweġ biss l-iżball standard (eteroscedasticity, awtokorrelazzjoni) spiss tiġi solvuta permezz ta 'korrezzjoni ta' żball standard. Żball komuni tal-AI huwa li tapplika teknika li tikkoreġi l-iżball standard u mbagħad tiddikjara l-problema "solvuta"; billi l-istruttura sottostanti tista' tkun għadha hemm.

Ksur 1: Multikolinearità

Għaliex? Żewġ varjabbli ta' spjegazzjoni jew aktar huma relatati ħafna ma' xulxin; pereżempju, it-tqegħid kemm ta '"snin totali ta' esperjenza" kif ukoll "età" fil-mudell. Peress li dawn il-varjabbli jġorru kważi l-istess informazzjoni, il-mudell għandu diffikultà biex jifredhom.

X'tkisser? L-istimi tal-koeffiċjenti jibqgħu imparzjali iżda jsiru instabbli: l-iżbalji standard jintefħu, l-intervalli ta’ kunfidenza jitwessgħu, il-koeffiċjenti individwali jistgħu jirriżultaw li jkunu insinifikanti filwaqt li l-mudell jista’ jkun sinifikanti b’mod ġenerali (F-test). Bidla żgħira fid-dejta tmexxi l-koeffiċjent b'mod sinifikanti.

Kif tiġi dijanjostikata? VIF (Variance Inflation Factor): għal kull varjabbli, tkejjel kemm dik il-varjabbli hija spjegata mill-oħrajn. Bħala limitu approssimattiv, VIF > 5 (xi 10) jeħtieġ kawtela. Barra minn hekk, tiġi eżaminata l-matriċi ta' korrelazzjoni bejn il-varjabbli ta' spjegazzjoni.

Kif tiffissa? Waqqa 'waħda mill-varjabbli korrelatati, tgħaqqadhom (tagħmel indiċi), jew (jekk it-teorija teħtieġ) iżżomm it-tnejn u tevita li tinterpreta koeffiċjenti individwali. Liema soġġorni varjabbli hija deċiżjoni teoretika, mhux waħda statistika — AI tissuġġerixxi eliminazzjoni, inti tipprovdi l-ġustifikazzjoni.

Ksur 2: Eteroscedastiċità

Għaliex? Il-varjanza tat-terminu ta' żball mhijiex kostanti bejn l-osservazzjonijiet. Eżempju tipiku: hekk kif id-dħul jiżdied, hekk ukoll tiżdied it-tixrid madwar l-infiq; Jiġi ffurmat mudell "lembut", dejjaq bi dħul baxx u wiesa 'bi dħul għoli.

X'tkisser? L-istimi tal-koeffiċjenti huma għal darb'oħra imparzjali - dan huwa importanti. Dak li jiġi mgħawweġ huma l-iżbalji standard: huma kkalkulati ħażin, għalhekk il-valuri p u l-intervalli ta 'kunfidenza jsiru inaffidabbli. Allura l-koeffiċjent tiegħek jinsab fiċ-ċentru t-tajjeb, iżda t-tweġiba għall-mistoqsija "kemm int kunfidenti" hija żbaljata.

Kif tiġi dijanjostikata? Scatter plot ta 'residwi versus valuri mbassra (mudell tal-lembut imfittex) u testijiet formali: test Breusch-Pagan, test White. Il-valur p żgħir jgħid "l-ebda varjanza kostanti".

Kif tiffissa? L-aktar soluzzjoni komuni u prattika hija li tuża żbalji standard robusti (żbalji standard robusti / heteroskedasticity-konsistenti, HC): ma tbiddilx il-koeffiċjent, tikkoreġi l-iżball standard għal ksur. Alternattiva: it-trasformazzjoni tal-varjabbli dipendenti (bħal log) jew LCM peżat. Żbalji standard robusti saru kważi d-default fix-xogħol empiriku llum.

Ksur 3: Awtokorrelazzjoni

Għaliex? It-termini ta 'żball mhumiex indipendenti minn xulxin; Huwa l-aktar komuni fis-serje taż-żmien: l-iżball ta 'perjodu wieħed jaffettwa l-ieħor (eż. il-fdal jibqa' pożittiv f'perjodi wara xokk).

X'tkisser? Għal darb'oħra, primarjament tgħawweġ l-iżbalji standard (spiss tissottovalutahom, u toħloq sinifikat falz); Il-koeffiċjenti jibqgħu imparzjali fl-LCC iżda jitilfu l-effettività tagħhom.

Kif tiġi dijanjostikata? Test Durbin-Watson (għall-awtokorrelazzjoni tal-ewwel ordni), test Breusch-Godfrey (aktar ġenerali), u plottijiet ta 'residwi versus valuri lagged.

Kif tiffissa? Żbalji standard ta' Newey-West (HAC — reżistenti għall-awtokorrelazzjoni u l-eteroskedastiċità), iż-żieda ta' termini lagged mal-mudell, jew taqleb għall-mudell xieraq tas-serje tal-ħin (unità 8).

Attenzjoni: L-eteroscedastiċità u l-awtokorrelazzjoni jgħawġu l-iżball standard, mhux il-koeffiċjent. Għalhekk, qabel ma tgħid "il-koeffiċjent kien sinifikanti", kun żgur li l-iżball standard huwa kkalkulat b'mod korrett; Inkella is-sensitiv jista' jkun illużjoni.

tabella ta 'tqabbil

ksur

Dak li jkisser

Dijanjosi

Soluzzjoni komuni

multi-link

Tinflaħ l-iżbalji standard, jagħmel il-koeffiċjent instabbli

VIF, matriċi ta' korrelazzjoni

Naqqas/għaqqad il-varjabbli (mit-teorija)

eteroscedastiċità

Żbalji standard (koeffiċjent imparzjali)

Breusch-Pagan, abjad, plott residwu

Żball standard robust (HC), konverżjoni

Awtokorrelazzjoni

Żbalji standard (koeffiċjent imparzjali)

Durbin-Watson, Breusch-Godfrey

Newey-West (HAC), terminu mdewwem

Erba' prompts ikkupjabbli

1. Pakkett dijanjostiku komplut:

Ir-rwol tiegħek: assistent dijanjostiku tar-rigressjoni. Irrid kodiċi R, ma naqsamx id-dejta. Mudell: lm(nefqa ~ dħul + età + reġjun, data = data). Kompitu: (1) Ikkalkula VIF, (2) Ittestja l-eteroskedastiċità b'Breusch-Pagan u plot ta' stima residwa, (3) Ittestja l-awtokorrelazzjoni ma' Durbin-Watson. Spjega fil-linja tal-kumment liema ksur ikejjel kull test u kif tinterpreta l-valur p. Korrezzjoni APPLIKAZZJONI; tipproduċi dijanjosi.

2. Żball standard robust:

Ikteb il-kodiċi R li jirriproduċi t-tabella tal-koeffiċjenti bi żbalji standard heteroskedasticity-robust (HC3) għall-istess mudell (sandwich + lmtest packages). Ipproduċi tabella li turi l-iżbalji standard klassiċi u robusti ħdejn xulxin sabiex inkun nista' nara d-differenza. Enfasizza fil-linja tal-kumment li l-koeffiċjenti MA jinbidlux, l-iżbalji standard biss jagħmlu.

3. Reviżjoni b'ħafna links:

Agħtini lista THINK ta 'varjabbli b'VIF għoli: liema varjabbli jistgħu teoretikament ikejlu l-istess ħaġa, liema għandhom każ b'saħħtu biex iżommuhom. MA tikkwalifikax awtomatikament; Se nieħu d-deċiżjoni bbażata fuq it-teorija. Spjega wkoll għaliex jista 'jkun ħażin li tħares biss lejn VIF u tassenja varjabbli.

4. Korrezzjoni tal-awtokorrelazzjoni:

Fir-rigressjoni tas-serje tal-ħin tiegħi, il-valur p Breusch-Godfrey kien 0.001. Ikteb il-kodiċi R li jipproduċi t-tabella tal-koeffiċjenti bi żbalji standard Newey-West (HAC) u spjega kif tagħżel id-dewmien. Innota li din il-korrezzjoni ma ssolvix il-KAWŻA ta 'awtokorrelazzjoni, hija biss tikkoreġi l-inferenza.

Pront dgħajjef / Pront qawwi

Pront dgħajjef:

Hemm problema bir-rigressjoni tiegħi? Jekk iva, waħħalha.

Dan il-pront ipoġġi l-AI f'modalità ta '"iffissar" blind: tista' taqbeż it-testijiet u tapplika trasformazzjoni diretta jew eliminazzjoni varjabbli, mingħajr ma turik liema vjolazzjoni teżisti fil-fatt u x'kisser.

Pront qawwi:

Ir-rwol tiegħek: assistent dijanjostiku, mhux awtokorretur. L-ewwel test għal TLIET vjolazzjonijiet separatament (multikolinearità, eterosċedastiċità, awtokorrelazzjoni) u għal kull wieħed: liema test, kif taqra r-riżultat, jikser ŻBALL KOEFFIĊJENT jew STANDARD. Imbagħad jissuġġerixxi biss soluzzjoni għall-vjolazzjoni li ATTWALMENT ġiet skoperta u spjega kif nista' nivverifika li s-soluzzjoni rranġat il-problema.

Differenza: rieda qawwija ġġiegħel id-dijanjosi qabel il-korrezzjoni u titlob distinzjoni ċara bejn "dak li jkisser".

tliet każijiet żgħar

Każ 1 — Sinifikat falz (eteroscedastiċità). Analista wieħed sab li l-koeffiċjent tad-dħul fl-infiq ~ mudell tad-dħul kien "sinifikanti" f'p=0.01. Imma issa kien hemm mudell distint lembut fuq it-tabella tiegħu. Meta ġew applikati żbalji standard robusti, il-valur p żdied għal 0.09; it-tifsira tintilef. L-ewwel riżultat kien illużjoni maħluqa minn żball standard ikkalkulat ħażin. Lezzjoni: is-sinifikat ma jistax jiġi fdat mingħajr ma jiġi kkoreġut l-iżball standard.

Każ 2 — Eliminazzjoni varjabbli blind. Student wieħed waqa 'l-"esperjenza" varjabbli mill-mudell minħabba VIF tiegħu kien għoli; Il-koeffiċjenti ġew "imnaddfa" iżda t-tifsira teoretika tal-mudell kienet distorta minħabba li l-esperjenza kienet il-varjabbli prinċipali ta 'interess. Il-mod korrett: naqqas l-età u żomm l-esperjenza, jew għaqqad it-tnejn. Lezzjoni: Il-limitu VIF waħdu mhuwiex raġuni għall-eliminazzjoni; it-teorija tiddetermina.

Każ 3 — Inċertezza moħbija mill-awtokorrelazzjoni. Fi studju tas-serje taż-żmien, Durbin-Watson ġie injorat; il-koeffiċjent deher "preċiż" ħafna (intervall ta' kunfidenza dejjaq). Meta ġew applikati żbalji standard Newey-West, l-intervall ta 'kunfidenza rdoppja u r-rakkomandazzjoni tal-politika saret ħafna aktar konservattiva. Lezzjoni: l-awtokorrelazzjoni tista' tissottovaluta l-inċertezza.

Żbalji komuni

  • Jiżbalja l-vjolazzjoni li tgħawweġ l-iżball standard bħala problema tal-koeffiċjent. L-eteroscedastiċità u l-awtokorrelazzjoni ma jgħawġux il-koeffiċjent; M'għandekx paniku u tibni mill-ġdid il-mudell bla bżonn, ikkoreġi l-iżball standard l-ewwel.
  • Ħarsa lejn VIF u bl-addoċċ jassenja varjabbli. It-tneħħija ta 'varjabbli teoretikament meħtieġ sempliċement minħabba li l-VIF huwa għoli jagħmel il-mudell bla sens.
  • Mhux jivverifika l-iffissar. Wara li tapplika żball standard robust, iċċekkja li l-ksur fil-fatt jikkoreġi l-inferenza; Tgħidx "Applikajtha, lest".
  • Waħħal mingħajr dijanjosi. L-applikazzjoni ta' trasformazzjoni/eliminazzjoni mingħajr ttestjar ta' liema vjolazzjoni teżisti tista' "issolvi" il-problema fejn ma teżistix u taħbi dik li teżisti.
  • It-tqegħid fis-seħħ għaliex. Newey-West ma jsolvix il-kawża tal-awtokorrelazzjoni; huwa biss jiffissa l-inferenza. Jekk ikun hemm problema strutturali, il-mudell għandu jinbidel.
Tip: Għal kull vjolazzjoni, staqsi lilek innifsek "dan qed jeqred il-koeffiċjent jew il-fiduċja tiegħi fih?" Jekk it-tweġiba hija "kunfidenza", is-soluzzjoni hija kważi dejjem korrezzjoni ta 'żbalji standard, mhux bini mill-ġdid tal-mudell.

Fil-qosor

Id-dijanjostika tar-rigressjoni hija prerekwiżit biex wieħed jafda l-output. Mit-tliet ksur komuni, il-multicollinearity jagħmel il-koeffiċjent instabbli u jintefaħ l-iżball standard; L-eteroskedastiċità u l-awtokorrelazzjoni, min-naħa l-oħra, iħallu l-koeffiċjent mhux preġudikat u jgħawġu biss l-iżball standard. L-AI tiġġenera l-kodiċi dijanjostiku u tiswija, iżda inti tiddeċiedi liema vjolazzjoni hija l-problema reali, liema varjant jibqa 'teoretiku, u jekk is-soluzzjoni ssolvix il-problema. La paniku u lanqas korrezzjoni blind ma huma korretti mingħajr ma tiġi ċċarata d-distinzjoni bejn "dak li qed jinkiser".

Kompitu ta' applikazzjoni

Stabbilixxi rigressjoni multivarjata u staqsi lill-AI għal kodiċi li jipproduċi biss dijanjosi (l-ebda korrezzjonijiet): VIF, Breusch-Pagan/White, u Durbin-Watson/Breusch-Godfrey. Għal kull test, interpreta r-riżultat u indika jekk il-vjolazzjoni tgħawwiġx il-koeffiċjent jew l-iżball standard. Għal vjolazzjoni reali li tiskopri (eż. eteroscedastiċità), applika żbalji standard robusti u poġġi flimkien riżultati klassiċi u robusti; Uri li l-koeffiċjent ma jinbidelx iżda l-iżball standard jinbidel. F'paragrafu wieħed, irrapporta kif ir-riżultat tas-sinifikat tiegħek ġie affettwat mill-korrezzjoni.

lista ta' kontroll

  • [ ] Ittestjajt tliet ksur (multikolinearità, eteroskedastiċità, awtokorrelazzjoni) separatament.
  • [ ] Għal kull ksur, iddifferenzjajt jekk tgħawweġx il-koeffiċjent jew l-iżball standard.
  • [ ] Ibbażajt l-eliminazzjoni varjabbli fil-multicollinearity fuq it-teorija, mhux biss VIF.
  • [ ] Uża żball standard b'robustezza għall-eteroscedastiċità/awtokorrelazzjoni (HC/HAC).
  • [ ] Wara l-korrezzjoni, ivverifikajt u vverifikajt l-impatt tal-ksur fuq l-inferenza tiegħi.
  • [ ] Nirrapporta kif ir-riżultat tas-sinifikat tiegħi kien affettwat minn korrezzjoni ta' żball standard.