Birlik 5 / 11

Regressiya diagnostikasi va buzilishlari: kollinearlik, heteroskedastiklik, avtokorrelyatsiya

Daromadlar:

  • Sun'iy intellekt yordamida diagnostik testlar va grafikalar yordamida multikollinearlik, heteroskedastiklik va avtokorrelyatsiya kabi buzilishlarni aniqlash qobiliyati
  • Har bir qoidabuzarlik koeffitsient baholarini yoki standart xatolarni buzib ko'rsatishini farqlash va tegishli tuzatishni tanlash qobiliyati (mustahkam standart xato, transformatsiya, modelni qayta ko'rib chiqish)
  • AI tomonidan taklif qilingan tuzatishlar muammoni yashirish o'rniga uni hal qilishini va tashxis ma'lumotlarni ishlab chiqarish jarayonini tushunishga asoslanganligini tekshirish qobiliyati

Regressiya natijasini o'qish oson; Unga ishonish qiyin. Koeffitsientlar xolis bo'lgani uchun, standart xatolar to'g'ri va oldingi birlikda kiritilgan taxminlarga qarab, p-qiymatlari amal qiladi. Ushbu bo'limda biz uchta eng keng tarqalgan qoidabuzarliklarni ko'rib chiqamiz: multikollinearlik, heteroskedastiklik va avtokorrelyatsiya. Biz har biri uchun uchta savolga javob beramiz: qanday tashxis qo'yish kerak, nima buziladi (koeffitsient yoki standart xato) va uni qanday tuzatish kerak. Sun'iy intellekt (AI) diagnostik test va tuzatish uchun kodni yaratadi; lekin siz qaysi qoidabuzarlik haqiqatan ham muammo ekanligini va tuzatish muammoni hal qiladimi yoki yo'qligini hal qilasiz.

Keling, eng muhim farqni oldindan belgilaylik: qoidabuzarlik koeffitsient bahosini buzadimi yoki faqat standart xatolarmi? Bu farq yechimni belgilaydi. Koeffitsientni buzadigan muammo (masalan, ekzogenlikning buzilishi) modelni qayta ko'rib chiqishni talab qiladi; Faqat standart xatoni buzadigan muammo (heteroskedastiklik, avtokorrelyatsiya) ko'pincha standart xatolarni tuzatish orqali hal qilinadi. AIning keng tarqalgan xatosi - standart xatoni tuzatadigan texnikani qo'llash va keyin muammoni "hal qilingan" deb e'lon qilish; Holbuki, asosiy tuzilma hali ham mavjud bo'lishi mumkin.

1-buzilish: Multikollinearlik

Nega? Ikki yoki undan ortiq tushuntirish o'zgaruvchilari bir-biri bilan kuchli bog'liqdir; masalan, modelga "umumiy tajriba yillari" va "yosh" ni qo'yish. Ushbu o'zgaruvchilar deyarli bir xil ma'lumotga ega bo'lganligi sababli, model ularni ajratishda qiyinchiliklarga duch keladi.

U nimani buzadi? Koeffitsientlarni baholash xolis bo'lib qoladi, lekin beqaror bo'lib qoladi: standart xatolar ko'payadi, ishonch oralig'i kengayadi, individual koeffitsientlar ahamiyatsiz bo'lib chiqishi mumkin, ammo model umumiy bo'lishi mumkin (F-testi). Kichik ma'lumotlarning o'zgarishi koeffitsientni sezilarli darajada siljitadi.

Qanday tashxis qilinadi? VIF (Variant inflyatsiya omili): har bir o'zgaruvchi uchun bu o'zgaruvchining boshqalar tomonidan qanchalik izohlanishini o'lchaydi. Taxminiy chegara sifatida VIF > 5 (ba'zi 10) ehtiyotkorlikni talab qiladi. Bundan tashqari, tushuntirish o'zgaruvchilari o'rtasidagi korrelyatsiya matritsasi tekshiriladi.

Qanday tuzatish kerak? Korrelyatsiya qilingan o'zgaruvchilardan birini tashlab, ularni birlashtirish (indeks yaratish) yoki (agar nazariya talab qilsa) ikkalasini ham saqlab qolish va individual koeffitsientlarni izohlashdan qochish. Qaysi o'zgaruvchining qolishi statistik emas, balki nazariy qaror - AI yo'q qilishni taklif qiladi, siz asoslantirasiz.

2-buzilish: Geteroskdastlik

Nega? Xato atamasining dispersiyasi kuzatishlar bo'yicha doimiy emas. Odatdagi misol: daromad ortgan sari sarf-xarajatlar atrofidagi tarqoqlik ham oshadi; Past daromadda tor va yuqori daromadda keng bo'lgan "voni" naqsh hosil bo'ladi.

U nimani buzadi? Koeffitsientlarni baholash yana xolis - bu muhim. Buzilgan narsa standart xatolardir: ular noto'g'ri hisoblangan, shuning uchun p-qiymatlari va ishonch oraliqlari ishonchsiz bo'lib qoladi. Shunday qilib, sizning koeffitsientingiz to'g'ri markazda joylashgan, ammo "siz qanchalik ishonasiz" degan savolga javob noto'g'ri.

Qanday tashxis qilinadi? Qoldiqlarning bashorat qilingan qiymatlarga nisbatan tarqalish grafigi (izlangan huni namunasi) va rasmiy testlar: Breusch-Pagan testi, White testi. Kichik p-qiymati "doimiy farq yo'q" degan ma'noni anglatadi.

Qanday tuzatish kerak? Eng keng tarqalgan va amaliy yechim mustahkam standart xatolardan foydalanishdir (robust / heteroskedasticity-consistent, HC standart xatolar): u koeffitsientni o'zgartirmaydi, qoidabuzarlik uchun standart xatoni tuzatadi. Shu bilan bir qatorda: qaram o'zgaruvchini (masalan, log) yoki vaznli LCMni o'zgartirish. Kuchli standart xatolar bugungi kunda empirik ishlarda deyarli sukut bo'lib qoldi.

3-buzilish: avtokorrelyatsiya

Nega? Xato shartlari bir-biridan mustaqil emas; Vaqt seriyalarida eng keng tarqalgan: bir davrning xatosi keyingisiga ta'sir qiladi (masalan, zarbadan keyingi davrlarda qoldiq ijobiy bo'lib qoladi).

U nimani buzadi? Shunga qaramay, u birinchi navbatda standart xatolarni buzadi (ko'pincha ularni kamaytirib, noto'g'ri ahamiyatga ega bo'ladi); LCCda koeffitsientlar xolis bo'lib qoladi, lekin samaradorligini yo'qotadi.

Qanday tashxis qilinadi? Durbin-Uotson testi (birinchi tartibli avtokorrelyatsiya uchun), Breusch-Godfrey testi (umumiyroq) va qoldiqlarning kechikkan qiymatlarga nisbatan chizmalari.

Qanday tuzatish kerak? Newey-West (HAC - avtokorrelyatsiya va heteroskedastiklikka chidamli) standart xatolar, modelga kechikkan shartlarni qo'shish yoki tegishli vaqt seriyasi modeliga o'tish (8-birlik).

E'tibor bergan: Geteroskdastiklik va avtokorrelyatsiya koeffitsientni emas, balki standart xatoni buzadi. Shuning uchun, "koeffitsient muhim edi" deyishdan oldin, standart xato to'g'ri hisoblanganligiga ishonch hosil qiling; Aks holda mazmunlilik illyuziya bo'lishi mumkin.

taqqoslash jadvali

buzilishi

Nima buzadi

Diagnostika

Umumiy yechim

ko'p havola

Standart xatolarni shishiradi, koeffitsientni beqaror qiladi

VIF, korrelyatsiya matritsasi

O'zgaruvchini ayirish/birlashtirish (nazariya bo'yicha)

heteroskedastlik

Standart xatolar (xolis koeffitsient)

Breusch-Pagan, Oq, qoldiq uchastkasi

Mustahkam (HC) standart xatosi, konvertatsiya

Avtokorrelyatsiya

Standart xatolar (xolis koeffitsient)

Durbin-Uotson, Breush-Godfri

Newey-West (HAC), kechiktirilgan muddat

To'rtta nusxa ko'chirish taklifi

1. To'liq diagnostika to'plami:

Sizning rolingiz: regressiya diagnostikasi yordamchisi. Men R kodini xohlayman, men ma'lumotlarni baham ko'rmayman. Model: lm (xarajat ~ daromad + yosh + mintaqa, ma'lumotlar = ma'lumotlar). Vazifa: (1) VIF ni hisoblang, (2) Breusch-Pagan bilan heteroskedastiklikni sinab ko'ring va qoldiq-smeta sxemasi, (3) Durbin-Vatson bilan avtokorrelyatsiyani sinab ko'ring. Sharh satrida har bir test qanday qoidabuzarlikni o'lchaydi va p-qiymatini qanday izohlash kerakligini tushuntiring. Tuzatish APPLICATION; tashxis ishlab chiqarish.

2. Kuchli standart xato:

Xuddi shu model (sendvich + lmtest paketlari) uchun heteroskedasticity-robust (HC3) standart xatolar bilan koeffitsientlar jadvalini qayta ishlab chiqaradigan R kodini yozing. Klassik va mustahkam standart xatolarni yonma-yon ko'rsatadigan jadval yarating, shunda men farqni ko'raman. Izoh satrida koeffitsientlar o'zgarmasligini, faqat standart xatolar o'zgarishini ta'kidlang.

3. Ko'p havolali ko'rib chiqish:

Menga yuqori VIFga ega o'zgaruvchilar ro'yxatini bering: qaysi o'zgaruvchilar nazariy jihatdan bir xil narsani o'lchashi mumkin, qaysi birida ularni saqlash uchun kuchli holat bor. Avtomatik kvalifikatsiya QILMANG; Men nazariya asosida qaror qabul qilaman. Shuningdek, VIF ga qarash va o'zgaruvchilarni tayinlash nima uchun noto'g'ri bo'lishi mumkinligini tushuntiring.

4. Avtokorrelyatsiyani tuzatish:

Vaqt seriyali regressiyasida Breusch-Godfrey p-qiymati 0,001 edi. Newey-West (HAC) standart xatolari bilan koeffitsientlar jadvalini yaratuvchi R kodini yozing va kechikishni qanday tanlashni tushuntiring. E'tibor bering, bu tuzatish avtokorrelyatsiya SABABini hal qilmaydi, faqat xulosani tuzatadi.

Zaif taklif / Kuchli taklif

Zaif taklif:

Mening regressim bilan bog'liq muammo bormi? Agar shunday bo'lsa, uni tuzating.

Ushbu taklif AI-ni ko'r-ko'rona "tuzatish" rejimiga qo'yadi: u testlarni o'tkazib yuborishi va qaysi qoidabuzarlik mavjudligini va nimani buzganligini ko'rsatmasdan, to'g'ridan-to'g'ri transformatsiya yoki o'zgaruvchan bartarafni qo'llashi mumkin.

Kuchli so'rov:

Sizning rolingiz: avtokorrektor emas, diagnostika yordamchisi. Birinchi sinov uchta qoidabuzarlik uchun alohida (multikollinearlik, heteroskedastiklik, avtokorrelyatsiya) va har biri uchun: qaysi test, natijani qanday o'qish kerak, u KOEFFICIENT yoki STANDART XATOSNI buzadi. Shundan so'ng, faqat HAQIQIYDA aniqlangan qoidabuzarlikni tuzatishni taklif qiling va tuzatish muammoni hal qilganini qanday tekshirishim mumkinligini tushuntiring.

Farqi: kuchli iroda tuzatishdan oldin tashxis qo'yishga majbur qiladi va "nima buzadi" o'rtasidagi aniq farqni talab qiladi.

uchta mini holat

1-holat - soxta ahamiyatga ega (heteroskedastiklik). Bir tahlilchi xarajatlar ~ daromad modelidagi daromad koeffitsientini p=0,01 da “muhim” deb topdi. Ammo endi uning jadvalida aniq huni naqsh bor edi. Kuchli standart xatolar qo'llanilganda, p-qiymati 0,09 ga oshdi; ma'nosi yo'qoladi. Birinchi natija noto'g'ri hisoblangan standart xato tufayli yaratilgan illyuziya edi. Dars: standart xatoni tuzatmasdan, ahamiyatlilikka ishonish mumkin emas.

2-holat - ko'r o'zgaruvchanlarni bartaraf etish. Bir talaba modeldan "tajriba" o'zgaruvchisini chiqarib tashladi, chunki uning VIF ko'rsatkichi yuqori edi; Koeffitsientlar "tozalandi", ammo modelning nazariy ma'nosi buzilgan, chunki tajriba qiziqishning asosiy o'zgaruvchisi edi. To'g'ri yo'l: yoshni olib tashlang va tajribani saqlang yoki ikkalasini birlashtiring. Dars: VIF chegarasining o'zi yo'q qilish uchun asos emas; nazariyasi belgilaydi.

3-holat - avtokorrelyatsiya bilan yashiringan noaniqlik. Vaqt seriyasini o'rganishda Durbin-Vatson e'tiborga olinmadi; koeffitsient juda "aniq" ko'rinardi (tor ishonch oralig'i). Newey-West standart xatolar qo'llanilganda, ishonch oralig'i ikki baravar oshdi va siyosat tavsiyasi ancha konservativ bo'ldi. Dars: avtokorrelyatsiya noaniqlikni kam baholay oladi.

Umumiy xatolar

  • Standart xatoni buzib ko'rsatadigan qoidabuzarlikni koeffitsient muammosi deb hisoblash. Heteroskedastiklik va avtokorrelyatsiya koeffitsientni buzmaydi; Vahima qo'ymang va modelni keraksiz qayta tiklang, avval standart xatoni tuzating.
  • VIF ga qarash va o'zgaruvchilarni ko'r-ko'rona tayinlash. Nazariy jihatdan zarur bo'lgan o'zgaruvchini VIF yuqori bo'lgani uchun olib tashlash modelni ma'nosiz qiladi.
  • Tuzatish tasdiqlanmayapti. Kuchli standart xatoni qo'llaganingizdan so'ng, buzilish haqiqatda xulosani to'g'irlashini tekshiring; “Men qo‘lladim, bo‘ldi” demang.
  • Tashxissiz tuzatish. Qaysi qoidabuzarlik mavjudligini sinovdan o'tkazmasdan transformatsiya/bartarafni qo'llash muammoni u mavjud bo'lmagan joyda "hal qilishi" va mavjud bo'lganini yashirishi mumkin.
  • Nima uchun tuzatishni joyiga qo'yish. Nyuey-Vest avtokorrelyatsiya sababini hal qilmaydi; u faqat xulosani tuzatadi. Agar tizimli muammo bo'lsa, modelni o'zgartirish kerak.
Maslahat: Har bir qoidabuzarlik uchun o'zingizdan "bu koeffitsientni yo'q qiladimi yoki unga bo'lgan ishonchimni?" Agar javob "ishonch" bo'lsa, yechim modelni qayta qurish emas, balki deyarli har doim standart xatolarni tuzatishdir.

Xulosa

Regressiya diagnostikasi natijaga ishonish uchun zaruriy shartdir. Uchta keng tarqalgan qoidabuzarlikdan multikollinearlik koeffitsientni beqaror qiladi va standart xatoni oshiradi; Heteroskedastiklik va avtokorrelyatsiya, aksincha, koeffitsientni xolis qoldiradi va faqat standart xatoni buzadi. AI diagnostika va tuzatish kodini yaratadi, ammo siz qaysi qoidabuzarlik haqiqiy muammo ekanligini, qaysi variant nazariy bo'lib qolishi va tuzatish muammoni hal qiladimi yoki yo'qligini hal qilasiz. Na vahima, na ko'r-ko'rona tuzatish "nima buzilmoqda" o'rtasidagi farqni aniqlamasdan turib to'g'ri emas.

Ilova vazifasi

Ko'p o'zgaruvchan regressiyani o'rnating va AIdan faqat tashxis qo'yadigan kodni so'rang (tuzatishlarsiz): VIF, Breusch-Pagan/White va Durbin-Watson/Breusch-Godfrey. Har bir test uchun natijani sharhlang va buzilish koeffitsientni yoki standart xatoni buzadimi yoki yo'qligini ko'rsating. Haqiqiy qoidabuzarlik uchun (masalan, heteroskedastiklik) aniq standart xatolarni qo'llang va klassik va ishonchli natijalarni yonma-yon qo'ying; Koeffitsient o'zgarmasligini, lekin standart xato o'zgarishini ko'rsating. Bir xatboshida tuzatish sizning ahamiyatli natijangizga qanday ta'sir qilganini xabar qiling.

nazorat ro'yxati

  • [ ] Men uchta qoidabuzarlikni (multikollinearlik, heteroskedastiklik, avtokorrelyatsiya) alohida sinab ko'rdim.
  • [ ] Har bir qoidabuzarlik uchun men koeffitsientni yoki standart xatoni buzganligini farqladim.
  • [ ] Men multikollinearlikdagi o‘zgaruvchilarni yo‘q qilishni faqat VIF emas, balki nazariyaga asosladim.
  • [ ] Men heteroskedastiklik/avtokorrelyatsiyaga (HC/HAC) mustahkamlik bilan standart xatolikdan foydalandim.
  • [ ] Tuzatishdan soʻng, qoidabuzarlikning xulosamga taʼsirini tekshirdim va tasdiqladim.
  • [ ] Standart xatoni tuzatish muhimligim natijasiga qanday taʼsir qilgani haqida xabar beraman.