Добици:
- Способност откривања кршења као што су мултиколинеарност, хетероскедастичност и аутокорелација са дијагностичким тестовима и графиком са подршком за вештачку интелигенцију
- Способност да се разликује да ли свако кршење искривљује процене коефицијената или стандардне грешке и изабере одговарајућу корекцију (робустна стандардна грешка, трансформација, ревизија модела)
- Способност да се потврди да поправке које је предложила вештачка интелигенција решавају проблем уместо да га скривају и да је дијагноза заснована на разумевању процеса који производи податке
Читање резултата регресије је лако; Тешко му је веровати. Пошто су коефицијенти непристрасни, стандардне грешке су тачне, а п-вредности су валидне, у зависности од претпоставки које смо увели у претходној јединици су испуњене. У овој јединици ћемо покрити три најчешћа кршења: мултиколинеарност, хетероскедастичност и аутокорелацију. За свако ћемо одговорити на три питања: како га дијагностиковати, шта квари (коефицијент или стандардна грешка) и како то поправити. Вештачка интелигенција (АИ) генерише код за дијагностичко тестирање и корекцију; али ви одлучујете које кршење је заиста проблем и да ли исправка решава проблем.
Хајде да унапред направимо најкритичнију разлику: да ли кршење искривљује процену коефицијента или само стандардне грешке? Ова разлика одређује решење. Проблем који искривљује коефицијент (нпр. кршење егзогености) захтева преиспитивање модела; Проблем који само искривљује стандардну грешку (хетеросцедастичност, аутокорелација) често се решава стандардном корекцијом грешке. Уобичајена грешка АИ је да примени технику која исправља стандардну грешку, а затим прогласи проблем „решеним“; док основна структура можда још увек постоји.
Кршење 1: Мултиколинеарност
Зашто? Две или више објашњавајућих варијабли су снажно повезане једна са другом; на пример, стављање „укупних година искуства” и „старости” у модел. Пошто ове варијабле носе скоро исте информације, модел има потешкоћа да их раздвоји.
Шта се ломи? Процене коефицијената остају непристрасне, али постају нестабилне: стандардне грешке постају надуване, интервали поверења се проширују, појединачни коефицијенти могу испасти безначајни док модел може бити значајан у целини (Ф-тест). Мала промена података значајно помера коефицијент.
Како се дијагностикује? ВИФ (Фактор инфлације варијансе): за сваку променљиву мери колико је та варијабла објашњена другим. Као груби праг, ВИФ > 5 (око 10) захтева опрез. Поред тога, испитује се матрица корелације између експланаторних варијабли.
Како поправити? Испуштање једне од корелираних варијабли, њихово комбиновање (прављење индекса) или (ако теорија захтева) задржавање обе и избегавање тумачења појединачних коефицијената. Која варијабла остаје је теоријска одлука, а не статистичка - АИ предлаже елиминацију, ви дајете оправдање.
Кршење 2: Хетероскедастичност
Зашто? Варијанца термина грешке није константна у свим посматрањима. Типичан пример: како се приход повећава, тако се повећава и дисперзија око потрошње; Формира се образац „лијевка“, узак при ниским приходима и широк при високим приходима.
Шта се ломи? Процене коефицијената су опет непристрасне — ово је важно. Оно што се искривљује су стандардне грешке: оне су погрешно израчунате, тако да п-вредности и интервали поверења постају непоуздани. Дакле, ваш коефицијент је у десном центру, али је одговор на питање "колико сте сигурни" погрешан.
Како се дијагностикује? Графикон расејања резидуала у односу на предвиђене вредности (тражени образац тока) и формални тестови: Бреусцх-Паган тест, Вајт тест. Мала п-вредност каже "нема константне варијансе".
Како поправити? Најчешће и практично решење је коришћење робусних стандардних грешака (робустне / хетероскедастичности-конзистентне, ХЦ стандардне грешке): не мења коефицијент, исправља стандардну грешку због кршења. Алтернатива: трансформисање зависне променљиве (као лог) или пондерисани ЛЦМ. Робустне стандардне грешке постале су готово уобичајене у данашњем емпиријском раду.
Кршење 3: Аутокорелација
Зашто? Термини грешке нису независни један од другог; Најчешћи је у временским серијама: грешка једног периода утиче на следећи (нпр. остатак остаје позитиван у периодима након шока).
Шта се ломи? Опет, он првенствено искривљује стандардне грешке (често их потцењује, стварајући лажни значај); Коефицијенти остају непристрасни у ЛЦЦ-у, али губе своју ефикасност.
Како се дијагностикује? Дурбин-Ватсонов тест (за аутокорелацију првог реда), Бреусцх-Годфреи тест (општији) и графикони резидуала наспрам заосталих вредности.
Како поправити? Невеи-Вест (ХАЦ — отпоран на аутокорелацију и хетероскедастичност) стандардне грешке, додавање заосталих термина у модел или прелазак на одговарајући модел временске серије (јединица 8).
Опрез: Хетеросцедастичност и аутокорелација искривљују стандардну грешку, а не коефицијент. Стога, пре него што кажете „коефицијент је био значајан“, уверите се да је стандардна грешка исправно израчуната; У супротном смисао може бити илузија.
упоредни графикон
кршење
Шта се ломи
Дијагноза
Уобичајено решење
мулти-линк
Надувава стандардне грешке, чини коефицијент нестабилним
ВИФ, корелациона матрица
Одузми/комбинуј променљиву (по теорији)
хетероскедастичност
Стандардне грешке (коефицијент непристрасан)
Бреусцх-Паган, Бела, резидуална парцела
Робустан (ХЦ) стандардна грешка, конверзија
Аутокорелација
Стандардне грешке (коефицијент непристрасан)
Дурбин-Ватсон, Бреусцх-Годфреи
Невеи-Вест (ХАЦ), одложен термин
Четири упита за копирање
1. Комплетан дијагностички пакет:
Ваша улога: помоћник у дијагностици регресије. Желим Р код, не делим податке. Модел: лм(расходи ~ приход + старост + регион, подаци = подаци). Задатак: (1) Израчунати ВИФ, (2) Тестирати хетероскедастичност са Бреусцх-Паганом и резидуалну процену дијаграма, (3) Тестирати аутокорелацију са Дурбин-Ватсоном. Објасните у реду за коментаре које кршење мери сваки тест и како тумачити п-вредност. Цоррецтион АППЛИЦАТИОН; поставити дијагнозу.
2. Робустан стандардна грешка:
Напишите Р код који репродукује табелу коефицијената са стандардним грешкама хетероскедастичности (ХЦ3) за исти модел (сендвич + лмтест пакети). Направите табелу која приказује класичне и робусне стандардне грешке једну поред друге како бих могао да видим разлику. Нагласите у реду за коментаре да се коефицијенти НЕ мењају, већ само стандардне грешке.
3. Преглед са више линкова:
Дајте ми ТХИНК листу варијабли са високим ВИФ-ом: које варијабле би теоретски могле да мере исту ствар, које имају јак разлог да их задрже. НЕМОЈТЕ се аутоматски квалификовати; Одлуку ћу донети на основу теорије. Такође објасните зашто би могло бити погрешно само погледати ВИФ и доделити променљиве.
4. Корекција аутокорелације:
У мојој регресији временске серије, Бреусцх-Годфријева п-вредност је била 0,001. Напишите Р код који производи табелу коефицијената са Невеи-Вест (ХАЦ) стандардним грешкама и објасните како да изаберете кашњење. Имајте на уму да ова исправка не решава УЗРОК аутокорелације, већ само исправља закључак.
Слаби промпт / Јаки промпт
Слабо обавештење:
Да ли постоји проблем са мојом регресијом? Ако је тако, поправи то.
Овај упит ставља АИ у слепи режим „поправљања“: може да прескочи тестове и примени директну трансформацију или елиминацију променљиве, а да вам не покаже које кршење заправо постоји и шта је покварило.
Снажан упит:
Ваша улога: дијагностички асистент, а не аутокоректор. Први тест за ТРИ кршења посебно (мултиколинеарност, хетероскедастичност, аутокорелација) и за свако: који тест, како прочитати резултат, да ли крши КОЕФИЦИЈЕНТ или СТАНДАРДНУ ГРЕШКУ. Затим само предложите исправку за кршење које је ЗАПРАВО откривено и објасните како могу да проверим да ли је исправка решила проблем.
Разлика: јака воља форсира дијагнозу пре корекције и захтева јасну разлику између „оног што ломи“.
три мини кофера
Случај 1 — Лажни значај (хетеросцедастичност). Један аналитичар је утврдио да је коефицијент прихода у моделу потрошње ~ приход „значајан“ на п=0,01. Али сада је на његовом графикону постојао посебан образац левка. Када су примењене робусне стандардне грешке, п-вредност се повећала на 0,09; смисаоност се губи. Први резултат је била илузија створена погрешно израчунатом стандардном грешком. Поука: значајности се не може веровати без исправљања стандардне грешке.
Случај 2 — Елиминација слепе променљиве. Један ученик је избацио варијаблу „искуство“ из модела јер је његов ВИФ био висок; Коефицијенти су „очишћени“, али је теоријско значење модела искривљено јер је искуство било главна варијабла од интереса. Исправан начин: одузмите године и задржите искуство или комбинујте то двоје. Поука: ВИФ праг сам по себи није основа за елиминацију; теорија одређује.
Случај 3 — Несигурност скривена аутокорелацијом. У студији временских серија, Дурбин-Ватсон је игнорисан; коефицијент је деловао веома "прецизно" (узак интервал поверења). Када су примењене стандардне грешке Невеи-Вест-а, интервал поверења се удвостручио и препорука политике постала је много конзервативнија. Поука: аутокорелација може потценити неизвесност.
Уобичајене грешке
- Погрешка грешка која искривљује стандардну грешку као проблем са коефицијентом. Хетероскедастичност и аутокорелација не искривљују коефицијент; Немојте паничити и непотребно поново изградити модел, прво исправите стандардну грешку.
- Гледање у ВИФ и слепо додељивање променљивих. Уклањање теоретски неопходне променљиве само зато што је ВИФ висок чини модел бесмисленим.
- Не проверавамо исправку. Након примене робусне стандардне грешке, проверите да ли кршење заиста исправља закључак; Немојте рећи „Применио сам, готово је“.
- Поправите без дијагнозе. Примена трансформације/елиминације без тестирања које кршење постоји може "решити" проблем тамо где не постоји и сакрити онај који постоји.
- Постављање поправке зашто. Невеи-Вест не решава узрок аутокорелације; само поправља закључак. Ако постоји структурни проблем, модел се мора променити.
Савет: За свако кршење, запитајте се „да ли ово уништава коефицијент или моје поверење у њега?“ Ако је одговор „поуздање“, решење је скоро увек стандардно исправљање грешака, а не реконструкција модела.
Укратко
Дијагностика регресије је предуслов за поверење у излаз. Од три уобичајена кршења, мултиколинеарност чини коефицијент нестабилним и надувава стандардну грешку; Хетероскедастичност и аутокорелација, с друге стране, остављају коефицијент непристрасним и само искривљују стандардну грешку. АИ генерише код за дијагностику и поправку, али ви одлучујете које је кршење прави проблем, која варијанта остаје теоретска и да ли исправка решава проблем. Ни паника ни слепа корекција нису тачни без појашњења разлике између „онога што се ломи“.
Задатак апликације
Подесите мултиваријантну регресију и затражите од АИ код који производи само дијагнозе (без исправки): ВИФ, Бреусцх-Паган/Вхите и Дурбин-Ватсон/Бреусцх-Годфреи. За сваки тест тумачите резултат и назначите да ли кршење искривљује коефицијент или стандардну грешку. За стварно кршење које откријете (нпр. хетероскедастичност), примените робусне стандардне грешке и супротставите класичне и робусне резултате; Показати да се коефицијент не мења, али се стандардна грешка мења. У једном пасусу наведите како је исправка утицала на резултат вашег значаја.
контролна листа
- [ ] Тестирао сам три кршења (мултиколинеарност, хетероскедастичност, аутокорелација) одвојено.
- [ ] За свако кршење разликовао сам да ли искривљује коефицијент или стандардну грешку.
- [ ] Засновао сам елиминацију варијабли у мултиколинеарности на теорији, а не само на ВИФ-у.
- [ ] Користио сам стандардну грешку са отпорношћу на хетероскедастичност/аутокорелацију (ХЦ/ХАЦ).
- [ ] Након исправке, проверио сам и верификовао утицај кршења на мој закључак.
- [ ] Пријављујем како је стандардна исправка грешке утицала на мој резултат значајности.