Добивки:
- Способност за откривање прекршувања како што се мултиколинеарност, хетероскедастичност и автокорелација со дијагностички тестови и графики со поддршка за вештачка интелигенција
- Способност да се разликува дали секое прекршување ги искривува проценките на коефициентите или стандардните грешки и да се избере соодветната корекција (цврста стандардна грешка, трансформација, ревизија на моделот)
- Способност да се потврди дека поправките предложени од вештачката интелигенција го решаваат проблемот наместо да го сокријат и дека дијагнозата се заснова на разбирање на процесот што ги произведува податоците
Читањето на излезот од регресија е лесно; Тешко е да му веруваш. Бидејќи коефициентите се непристрасни, стандардните грешки се точни, а p-вредностите се валидни, во зависност од тоа што се исполнети претпоставките што ги воведовме во претходната единица. Во оваа единица ќе ги опфатиме трите најчести прекршувања: мултиколинеарност, хетероскедастичност и автокорелација. Ќе одговориме на три прашања за секое: како да го дијагностицираме, што расипува (коефициент или стандардна грешка) и како да го поправиме. Вештачката интелигенција (ВИ) го генерира кодот за дијагностичко тестирање и корекција; но вие одлучувате кое прекршување е навистина проблемот и дали поправката го решава проблемот.
Ајде да ја направиме најкритичната разлика однапред: Дали прекршувањето ја нарушува проценката на коефициентот или само стандардните грешки? Оваа разлика го одредува решението. Проблемот што го искривува коефициентот (на пр. повреда на егзогеноста) бара преиспитување на моделот; Проблемот што само ја искривува стандардната грешка (хетероскедастичност, автокорелација) често се решава со стандардна корекција на грешка. Вообичаена грешка на вештачката интелигенција е да примени техника која ја коригира стандардната грешка и потоа го прогласува проблемот „решен“; при што основната структура можеби сè уште е таму.
Повреда 1: Мултиколинеарност
Зошто? Две или повеќе објаснувачки променливи се силно поврзани една со друга; на пример, ставање и „вкупно години искуство“ и „возраст“ во моделот. Бидејќи овие променливи носат речиси исти информации, моделот има потешкотии да ги одвои.
Што крши? Проценките на коефициентите остануваат непристрасни, но стануваат нестабилни: стандардните грешки се надувуваат, интервалите на доверливост се прошируваат, поединечните коефициенти може да се покажат како незначителни, додека моделот може да биде значаен во целина (F-тест). Мала промена на податоците значително го поместува коефициентот.
Како се дијагностицира? VIF (Variance Inflation Factor): за секоја променлива мери колку таа променлива е објаснета од другите. Како груб праг, VIF > 5 (некои 10) бара претпазливост. Дополнително, се испитува матрицата на корелација помеѓу објаснувачките променливи.
Како да се поправи? Отфрлање на една од корелираните променливи, нивно комбинирање (правење индекс) или (ако теоријата бара) задржување на двете и избегнување интерпретација на поединечни коефициенти. Која променлива останува е теоретска одлука, а не статистичка - вештачката интелигенција сугерира елиминација, вие давате оправдување.
Повреда 2: Хетероскедастичност
Зошто? Варијансата на терминот за грешка не е константна кај набљудувањата. Типичен пример: како што се зголемува приходот, расте и дисперзијата околу трошењето; Се формира шема „инка“, тесна при ниски приходи и широка при високи примања.
Што крши? Проценките на коефициентите се повторно непристрасни - ова е важно. Она што се искривува се стандардните грешки: тие се пресметуваат погрешно, така што p-вредностите и интервалите на доверба стануваат несигурни. Значи вашиот коефициент е во вистинскиот центар, но одговорот на прашањето „колку сте самоуверени“ е погрешен.
Како се дијагностицира? График на расфрлање на остатоци наспроти предвидените вредности (се бара шема на инка) и формални тестови: Бреуш-пагански тест, Бел тест. Малата p-вредност вели „нема постојана варијанса“.
Како да се поправи? Највообичаено и практично решение е да се користат робусни стандардни грешки (робусни / хетероскедастичност-конзистентни, HC стандардни грешки): не го менува коефициентот, ја коригира стандардната грешка за прекршување. Алтернатива: трансформирање на зависната променлива (како log) или пондерирана LCM. Цврсти стандардни грешки станаа речиси стандардни во емпириската работа денес.
Повреда 3: Автокорелација
Зошто? Термините за грешка не се независни еден од друг; Најчеста е во временските серии: грешката на еден период влијае на следниот (на пример, резидуалот останува позитивен во периодите по шок).
Што крши? Повторно, првенствено ги искривува стандардните грешки (често ги потценува, создавајќи лажно значење); Коефициентите остануваат непристрасни во LCC, но ја губат својата ефикасност.
Како се дијагностицира? Дарбин-Ватсон тест (за автокорелација од прв ред), тест Брејш-Годфри (поопшто) и парцели на резидуали наспроти заостанатите вредности.
Како да се поправи? Newey-West (HAC — отпорен на автокорелација и хетероскедастичност) стандардни грешки, додавање на заостанати термини на моделот или префрлување на соодветниот модел на временска серија (единица 8).
Внимание: Хетероскедастичноста и автокорелацијата ја искривуваат стандардната грешка, а не коефициентот. Затоа, пред да кажете „коефициентот беше значаен“, проверете дали стандардната грешка е правилно пресметана; Во спротивно, значајноста може да биде илузија.
споредбена табела
повреда
Што крши
Дијагноза
Заедничко решение
мулти-врска
Ги надува стандардните грешки, го прави коефициентот нестабилен
VIF, матрица на корелација
Одземете/комбинирајте ја променливата (по теорија)
хетероскедастичност
Стандардни грешки (коефициент непристрасен)
Бреуш-паганска, бела, преостаната парцела
Робусна (HC) стандардна грешка, конверзија
Автокорелација
Стандардни грешки (коефициент непристрасен)
Дурбин-Вотсон, Бреуш-Годфри
Њуи-Вест (HAC), одложен термин
Четири потсетници за копирање
1. Комплетен дијагностички пакет:
Вашата улога: асистент за дијагностика на регресија. Сакам R код, не ги споделувам податоците. Модел: lm (трошок ~ приход + возраст + регион, податоци = податоци). Задача: (1) Пресметајте VIF, (2) Тестирајте ја хетероскедастичноста со Breusch-Pagan и резидуално-проценета шема, (3) Тестирајте ја автокорелацијата со Durbin-Watson. Објаснете во линијата за коментар какво прекршување мери секој тест и како да се толкува p-вредноста. Исправка ПРИМЕНА; произведуваат дијагноза.
2. Силна стандардна грешка:
Напишете R код што ја репродуцира табелата со коефициенти со стандардни грешки со хетероскедастичност (HC3) за истиот модел (пакети од сендвич + lmtest). Направете табела која ги прикажува класичните и силни стандардни грешки една до друга за да можам да ја видам разликата. Нагласете во линијата за коментар дека коефициентите НЕ се менуваат, само стандардните грешки се менуваат.
3. Преглед со повеќе врски:
Дајте ми листа THINK на променливи со висок VIF: кои променливи теоретски би можеле да го измерат истото, кои имаат силен случај да ги задржат. НЕ авто-квалификувај; Одлуката ќе ја донесам врз основа на теоријата. Објаснете и зошто е погрешно само да се погледне VIF и да се доделат променливи.
4. Корекција на автокорелација:
Во мојата регресија на временски серии, p-вредноста на Бреуш-Годфри беше 0,001. Напишете R-код што ја произведува табелата со коефициенти со Њуи-Вест (HAC) стандардни грешки и објаснете како да го изберете заостанувањето. Забележете дека оваа корекција не ја решава ПРИЧИНАТА за автокорелација, туку само го коригира заклучокот.
Слаб промпт / Силен промпт
Слаба навестување:
Дали има проблем со мојата регресија? Ако е така, поправете го.
Овој потсетник ја става вештачката интелигенција во слеп режим на „поправка“: може да прескокне тестови и да примени директна трансформација или елиминација на променливата, без да ви покаже кое прекршување всушност постои и што прекршило.
Моќен потсетник:
Вашата улога: дијагностички асистент, а не автокоректор. Прво тест за ТРИ прекршувања одделно (мултиколинеарност, хетероскедастичност, автокорелација) и за секое: кој тест, како се чита резултатот, дали го крши КОЕФИЦИЕНТОТ или СТАНДАРДНА ГРЕШКА. Потоа само предложете исправка за прекршувањето што ВСУШНОСТ е откриено и објаснете како можам да потврдам дека поправката го решила проблемот.
Разлика: силната волја ја принудува дијагнозата пред корекција и бара јасна разлика помеѓу „она што го крши“.
три мини футроли
Случај 1 - Лажно значење (хетероскедастичност). Еден аналитичар откри дека коефициентот на приходи во моделот трошење ~ приходи е „значаен“ на p=0,01. Но, сега имаше посебна шема на инка на неговата табела. Кога беа применети робусни стандардни грешки, p-вредноста се зголеми на 0,09; се губи смислата. Првиот резултат беше илузија создадена од погрешно пресметана стандардна грешка. Поука: на значењето не може да му се верува без да се поправи стандардната грешка.
Случај 2 - Слепа елиминација на променливата. Еден студент ја исфрли променливата „искуство“ од моделот затоа што неговиот VIF беше висок; Коефициентите беа „исчистени“, но теоретското значење на моделот беше искривено бидејќи искуството беше главната променлива на интерес. Правилен начин: одземете ја возраста и задржете го искуството или комбинирајте ги двете. Поука: ВИФ прагот сам по себе не е основа за елиминација; теоријата одредува.
Случај 3 - Несигурност скриена со автокорелација. Во студијата за временски серии, Дурбин-Ватсон беше игнорирана; коефициентот изгледаше многу „прецизен“ (тесен интервал на доверба). Кога беа применети стандардните грешки на Њуи-Вест, интервалот на доверба се удвои и препораките за политиката станаа многу поконзервативни. Поука: автокорелацијата може да ја потцени несигурноста.
Вообичаени грешки
- Грешка на повредата што ја искривува стандардната грешка како проблем со коефициентот. Хетероскедастичноста и автокорелацијата не го нарушуваат коефициентот; Не паничете и непотребно изградете го моделот, прво поправете ја стандардната грешка.
- Гледање на VIF и слепо доделување променливи. Отстранувањето на теоретски неопходната променлива само затоа што VIF е висока го прави моделот бесмислен.
- Не се потврдува поправката. Откако ќе примените силна стандардна грешка, проверете дали прекршувањето всушност го коригира заклучокот; Не кажувајте „Јас го применив, готово е“.
- Поправете без дијагноза. Примената на трансформација/елиминација без тестирање кое прекршување постои може да го „реши“ проблемот таму каде што го нема и да го скрие оној што го има.
- Ставањето на фиксот на место зошто. Њуи-Вест не ја разрешува причината за автокорелација; само го поправа заклучокот. Ако има структурен проблем, моделот мора да се смени.
Совет: За секое прекршување, запрашајте се „дали ова го уништува коефициентот или мојата доверба во него?“ Ако одговорот е „доверба“, решението е скоро секогаш стандардна корекција на грешки, а не обнова на моделот.
Сумирано
Регресивната дијагностика е предуслов за доверба на излезот. Од трите вообичаени прекршувања, мултиколинеарноста го прави коефициентот нестабилен и ја надува стандардната грешка; Хетероскедастичноста и автокорелацијата, од друга страна, го оставаат коефициентот непристрасен и само ја искривуваат стандардната грешка. Вештачката интелигенција го генерира кодот за дијагностицирање и поправка, но вие одлучувате кое прекршување е вистинскиот проблем, која варијанта останува теоретска и дали поправката го решава проблемот. Ниту паниката, ниту слепата корекција не се точни без да се разјасни разликата помеѓу „она што се крши“.
Задача за апликација
Поставете мултиваријатна регресија и побарајте од вештачката интелигенција код што дава само дијагнози (без корекции): VIF, Breusch-Pagan/White и Durbin-Watson/Breusch-Godfrey. За секој тест, толкувајте го резултатот и наведете дали прекршувањето го искривува коефициентот или стандардната грешка. За вистинско прекршување што ќе го откриете (на пр. хетероскедастичност), применувајте робусни стандардни грешки и спојте ги класичните и силните резултати; Покажете дека коефициентот не се менува, но стандардната грешка се менува. Во еден пасус, пријавете како корекцијата влијаела врз резултатот на вашето значење.
листа за проверка
- [ ] Тестирав три прекршувања (мултиколинеарност, хетероскедастичност, автокорелација) одделно.
- [ ] За секое прекршување, разликував дали тоа го искривува коефициентот или стандардната грешка.
- [ ] Елиминацијата на променливата во мултиколинеарноста ја засновав на теорија, не само на VIF.
- [ ] Користев стандардна грешка со робусност до хетероскедастичност/автокорелација (HC/HAC).
- [ ] По исправката, го проверив и го потврдив влијанието на прекршувањето врз мојот заклучок.
- [ ] Известувам како стандардната корекција на грешката влијаеше врз мојот резултат на значење.