Naúrar 4 / 11

Juyin Juya Layi: Ginin Samfura, Fassarar Haɗin Kai da Zato

Riba:

  • Ƙarfin gina samfurin juzu'i na layi tare da tallafin fasaha na wucin gadi da fassarar ƙididdiga, daidaitattun kurakurai da R-squared a cikin daidaitaccen harshe mara dalili.
  • Ability don fahimtar ainihin zato wanda samfurin ya samo asali (linearity, exogeneity, m bambance-bambancen) da abin da ke faruwa lokacin da aka keta su, da kuma amfani da basirar wucin gadi don sarrafa zato.
  • Ikon ganewa da gyara da'awar wuce gona da iri da kuma matsalolin da ba a kula da su ba a cikin fassarorin ƙididdiga waɗanda aka samar ta hanyar hankali na wucin gadi

Juyin layi na layi shine kashin bayan tattalin arziki da kididdigar da aka yi amfani da su. A cikin mafi sauƙin tsari, yana ƙididdige yadda madaidaicin dogara (sakamakon da kake son bayyanawa, kamar samun kudin shiga) ya bambanta ta hanyar haɗin kai tare da ɗaya ko fiye masu canji masu zaman kansu (masu bayani, kamar shekarun ilimi, kwarewa). Samfurin yana da nau'i: samun kudin shiga = β0 + β1 · ilimi + β2 · gwaninta + u. Anan ƙididdigar β (beta) suna nuna girman alaƙar, kuma u yana nuna kalmar kuskure (duk abubuwan da ba a lura da su ba) waɗanda samfurin ba zai iya bayyanawa ba. A cikin wannan rukunin, za mu ga yadda hankali na wucin gadi (AI) ke haɓaka ginin koma baya da fassara, amma me yasa fassarar ƙima shine inda ake yin kuskure galibi.

Bari mu sanya maƙasudin asali daga farkon: AI ya rubuta lambar sakewa, shirya tebur mai fitarwa, yana samar da daftarin don fassarar ƙima. Amma shawararku ne waɗanne masu canji ke shiga cikin ƙirar (samfurin ƙayyadaddun ƙayyadaddun ƙayyadaddun ƙima), ko ana fassara ma'aunin ƙididdiga a matsayin sanadi ko na alaƙa, da kuma ko akwai canjin da ba a kula da shi ba. Al'ada mafi haɗari ta AI ita ce gabatar da ƙididdigar koma baya na yau da kullun a cikin harshe mai lalacewa kamar "X yana ƙaruwa Y"; yayin da mafi yawan koma baya kawai suna nuna alaƙa (daidaitawa).

Gudun aikin koma baya na mataki-mataki

1. Gina samfurin tare da ka'idar. Wadanne sauye-sauye ne za su dogara da kuma wadanda za su kasance masu zaman kansu sun fito ne daga ilimin filin da ka'idar, ba daga kididdiga ba. Ma'anar "Waɗanne abubuwa ne suka shafi wannan sakamakon a hankali?" ba ma'anar "duk abin da na sanya a cikin bayanan ba, ƙididdiga zai zama mahimmanci".

2. Tsammani. Hanyar da aka fi sani da ita ita ce OLS (Tsarin Ƙarƙashin Ƙarƙashin Ƙarƙashin Ƙarƙashin Ƙarƙashin Ƙarƙashin Ƙarƙashin Ƙarƙashin Ƙarƙashin Ƙarƙashin Ƙarƙashin Ƙarƙashin Ƙarƙashin Ƙarƙashin Ƙarƙashin Ƙarƙashin Ƙarƙashin Ƙarƙashin Ƙarƙashin Ƙarƙashin Ƙarƙashin Ƙarƙashin Ƙarƙashin Ƙarƙashin Ƙarƙashin Ƙarƙashin Ƙarƙashin Ƙarƙashin Ƙarƙashin Ƙarƙashin Ƙarƙashin Ƙarƙashin Ƙarƙashin Ƙarƙashin Ƙimar Ƙimar Ƙimar Tsakanin Ƙimar da aka gani da Ƙididdiga. AI yana haifar da lambar don wannan (lm() a cikin R, statsmodels a Python) akan tashi.

3. Karanta fitarwa. Nemo abubuwa hudu a cikin fitarwa na sake dawowa: ƙididdiga (shugabanci da girman dangantaka), kuskuren kuskure (ƙididdigar ƙididdiga na ƙididdiga), t-statistic da p-darajar (ƙarfin shaida cewa ƙididdiga ya bambanta da sifili), R-squared (nawa ne bambancin a cikin ma'auni mai dogara da samfurin ya bayyana, jere daga 0 zuwa 1). Babban R-squared baya nufin "kyakkyawan samfurin"; Babu wani dalili ko kadan.

4. Fassara ma'auni daidai. Idan ma'auni na ilimi ya kasance 1,200, fassarar madaidaicin ita ce: "Sauran sauye-sauye da suke kasancewa akai-akai, karuwar shekara guda a ilimi yana da alaƙa da matsakaicin raka'a 1,200 na samun kudin shiga." Fassarar kuskure: "Wata shekara ta ilimi tana ƙara samun kudin shiga da 1,200." Na biyu shine da'awar dalili kuma za'a iya kare shi tare da ƙirar da ta dace (raka'a 9).

5. Bincika zato. Ingantacciyar koma baya ya dogara da wasu zato (a ƙasa). AI yana haifar da lambar bincike; Kuna yin sharhi.

Zato na asali na komawar layi

Zato akan abin da tsarin layin na gargajiya ya dogara ne da mahimmanci don ƙididdiga su kasance marasa son zuciya (tsakiyar layi) kuma daidaitattun kurakurai su zama abin dogaro:

  • Linearity: Dangantakar layi ce a cikin sigogi (miƙa a cikin sharuɗɗan log/squared idan ya cancanta).
  • Exogeneity (ma'anar yanayin sifili): Kalmar kuskure ba ta da alaƙa da masu canjin bayani. Wannan ita ce zato mafi mahimmanci kuma mafi yawan sabawa zato; cin zarafi yana haifar da ƙetare m son rai.
  • Bambanci na yau da kullun (homoscedasticity): Bambance-bambancen kalmar kuskure iri ɗaya ne a cikin duk abubuwan da aka lura (ci zarafin: heteroscedasticity - naúrar 5).
  • Rashin haɗin kai: Kurakurai masu zaman kansu ne na juna (cututtuka masu yawa a cikin jerin lokaci - raka'a 5 da 8).
  • Rashin matsananciyar multicollinearity: Matsalolin bayani ba su kusan kama da juna ba (raka'a 5).
Tsanaki: Matsala mafi haɗari ita ce son zuciya mai canzawa. Idan kun bar wani abu daga samfurin ku wanda ke da alaƙa da samun kudin shiga da ilimi (misali asalin iyali, iyawa), ƙimar ilimi tana ɗaukar tasirin wannan abin da ya ɓace kuma ya zama kumbura. AI ba zai iya sanin canjin da ya ɓace ba; Ilimin filin ku ne kawai zai iya kama shi.

Teburin kwatance: gaskiya vs. fassarar ƙididdiga mara kyau

fitarwa

Fassarar (dalili) mara daidai

Madaidaicin fassarar (na alaƙa).

Adadin ilimi = 1.200

"Ilimi yana ƙara samun kudin shiga da 1,200"

"Ƙarin ilimi na shekara guda, ceteris paribus, yana da alaƙa da mafi girman kudaden shiga 1,200."

R² = 0.68

"Tsarin ya kama gaskiya"

"68% na canjin an bayyana shi; baya nuna dalilin"

p <0.01

"Tasirin yana da girma"

"Ƙarfin shaida cewa ƙididdiga ya bambanta da sifili; girma yana da hankali"

korau coefficient

"X rage Y"

"Yayin da X ke ƙaruwa, matsakaicin Y yana raguwa; me yasa wata matsala?"

Hanyoyi huɗu masu kwafi

1. Samar da lambar koma baya:

Matsayinku: Mataimakin lambar tattalin arziki. Ba na raba bayanan, Ina son lambar R. A cikin data.frame 'bayanai', samun kudin shiga (dogara), ilimi, kwarewa, jinsi (categorical). Aiki: rubuta regression code tare da lm () don samun kudin shiga ~ ilimi + gwaninta + jinsi, nuna taƙaitaccen fitarwa da tazara tazara (takaitaccen) na ƙididdiga. Bayyana kowane bangare tare da layin sharhi. Zan gudu in tabbatar da sakamakon.

2. Zane-zane na fassarar ƙididdiga (a cikin harshe na dangantaka):

Fassara fitowar koma bayan da ke ƙasa amma RUKUNAN: - rubuta ƙididdiga a cikin yaren RELATIONAL ("haɗe da"), KADA ku yi amfani da harshe mai lalacewa, - ƙara "sauran masu canji akai-akai", R-squared na yanzu a matsayin 'causality', - kada ku rikitar da mahimmanci tare da girman sakamako. Output: [manna tebur]

3. Lambar rajistan zato:

Rubuta lambar ganewar asali don samun kudin shiga ~ ilimi + samfurin ƙwarewa (R): jadawali masu dacewa (raguwa), jadawali QQ, rarraba ragowar. Yi bayani a cikin layin sharhi wanda zato kowane gwajin hoto. Ba da shawarar gyara; Kawai samar da ganewar asali kuma zan yanke shawara.

4. Tambaya mai canzawa da aka rasa:

Taimaka min yin la'akari da haɗarin rashin son rai da ba a kula da su a cikin kudin shiga ~ samfurin ilimi. Lissafa masu yuwuwar sauye-sauye waɗanda ke da alaƙa da kuɗin shiga da ilimi amma BA a cikin ƙira ba (misali, asalin iyali, yanki, iyawa) kuma bayyana ta wace hanya kowanne zai iya ɓata ƙimar ilimi. Wannan ba tabbas ba ne, bari ya zama jerin abubuwan la'akari; Zan yanke shawara.

Rauni mai ƙarfi / Ƙarfi mai ƙarfi

Rawanin faɗakarwa:

Fassara wannan fitowar koma baya kuma bayyana sakamakon.

Wannan saurin yana sakin AI; mai yuwuwa ya samar da dalilai da karin jimloli kamar "horo yana ƙara samun kudin shiga" da "samfurin yana da nasara sosai".

Ƙarfi mai ƙarfi:

Matsayinku: Mataimakin tattalin arziki mai hankali. Fassara fitarwa, amma: (1) rubuta duk ƙididdiga a cikin harshe mai alaƙa, (2) yi amfani da tsarin "dukkanin ceteris paribus", (3) kada ku yi kuskuren R-squared don causality, (4) rarrabe mahimmanci daga girman sakamako, (5) lura da gazawa don gwada haɓakar zato na ƙirar da haɗarin sauye-sauyen da ba a kula da su ba. Fitowa: [tebur]

Bambanci: mai karfi zai hana harshe mai haddasawa, yana nuna rashin fahimta da iyakoki na zato.

uku mini lokuta

Case 1 - Tarkon harshe na sanadi. Wani manazarci ya gano ƙimar talla ya zama 2.4 a cikin tallan sa ~ koma bayan tallace-tallace kuma yayi amfani da tsarin AI kamar yadda yake: "Kowace rukunin da aka kashe akan talla yana ƙara tallace-tallace ta raka'a 2.4." Gudanarwa ya kumbura kasafin kudin yadda ya kamata; yayin da a lokacin manyan tallace-tallace an riga an sami ƙarin tallace-tallace (sauya causality) kuma ƙididdiga ta nuna wannan. Darasi: koma baya na yau da kullun ba shaida ce ta dalilin ba; Hanyar ba ta da tabbas.

Case na 2 - Canjin da ba a kula da shi ba. A cikin binciken daya, yawan kudin shiga ~ adadin ilimi ya kasance 1,900. Lokacin da aka ƙara ilimin iyaye da yanki a cikin ƙirar, ƙididdiga ta ragu zuwa 1.150. A cikin tsari na farko, ilimi a zahiri ya ɗauki wasu tasirin tushen iyali. Darasi: madaidaicin da ya ɓace amma mai alaƙa yana haɓaka ƙima; Yi la'akari da gazawar mai yiwuwa tare da ilimin yanki.

Case 3 - Babban R-squared mafarki. Wani dalibi ya ga R²=0.94 ya ce "samfurina cikakke ne". Amma ɗaya daga cikin masu canji masu zaman kansu kusan kusan iri ɗaya ne da madaidaicin abin dogaro (wani abu da aka riga an haɗa a cikin siyarwa). Samfurin ba ya bayyana gaskiya, yana bayyana kansa. Darasi: babban R-squared baya bada garantin ingancin samfurin; Ana buƙatar duba dabaru.

Kuskuren gama gari

  • Fassarar ƙididdiga ta hanyar dalili. "Ƙara / raguwa" harshe ƙarya ne sai dai idan an kare shi ta hanyar ƙira; Tace "an haɗa da".
  • Yin watsi da mabambantan da ba a kula da shi ba. Wani abin da ya ɓace wanda ke da alaƙa da duka X da Y yana nuna son zuciya; Yi la'akari da kasawa mai yiwuwa.
  • Kuskure R-squared azaman ma'aunin nasara. Babban R-squared ba ya nufin dalili ko samfurin daidai; Yana iya ma zama alamar yabo mai canzawa.
  • Muhimmanci mai ruɗani tare da girma. p<0.05 baya nuna cewa tasirin yana da girma; Dubi kuma girman ma'auni na aiki.
  • Fassarar zato ba tare da duba su ba. Cin zarafi suna karkatar da daidaitattun kurakurai da fassarar; Ba za a iya rasa ganewar asali ba.
Alamomi: Ga kowane ƙididdiga, tambaya "Zan iya bayyana wannan dangantakar ta wata hanya dabam? Ko akwai abu na uku da ya shafi duka biyu?" Wadannan tambayoyi guda biyu suna dakatar da yin tafsirin dalili tun kafin alkalami ya taba takarda.

A takaice

Juyin layi na layi shine kayan aiki na asali don auna alaƙar sakamako zuwa abubuwan bayyanawa. AI da sauri yana samar da lambar ƙirar ƙirar, shimfidar fitarwa, da fassarar fassarar; amma ƙayyadaddun ƙirar ƙira, fassarar alaƙar ƙididdiga, da haɗarin sauye-sauyen da ba a kula da su ba alhakin gwani ne. Kuskuren da ya fi dacewa shine gabatar da ƙididdiga a matsayin sanadi ("ƙara"); daidai harshe yana da alaƙa ("yana da alaƙa da, duk sauran zama na dindindin"). Babban R-squared ba nasara ba ne ko dalili; Babu wata fassarar da ke da aminci ba tare da bincika zato ba (musamman exogeneity).

Aikin aikace-aikace

Saita koma baya tare da dogara ɗaya kuma aƙalla masu canji masu zaman kansu biyu akan saitin bayanai. Nemi lambar daga AI kuma gudanar da shi. Da farko, sa AI ta fassara ma'auni a cikin harshe mai alaƙa, sannan ku duba ku gyara kowane bayanin dalili. Ƙara maɓalli mai yuwuwar alaƙa zuwa ƙirar kuma lura da yadda babban haɗin gwiwa ke canzawa kuma ku fassara wannan a cikin sakin layi a cikin tsarin ƙetare m son rai. A ƙarshe, samar da makircin bincike na zato kuma lura da wane zato ya yi kama da abin tambaya.

jerin abubuwan dubawa

  • [ ] Na gina samfurin bisa ka'ida da ilimin filin, ba akan bayanai ba.
  • [ ] Na fassara ma'auni a cikin harshe mai alaƙa ("dangane da, ceteris paribus").
  • [ ] Na lura cewa da'awar dalili na buƙatar ƙira daban.
  • [ ] Na gwada ji na babban coefficient ta yin la'akari da yuwuwar m canje-canje.
  • [ ] Ban gabatar da R-squared a matsayin ma'auni na nasara / dalili ba.
  • [ ] Ƙirƙira da fassara maƙasudin bincike na hasashe; Na kimanta ko akwai cin zarafi.