Ẹyọ 4 / 11

Ipadasẹyin Laini: Ikọle Awoṣe, Itumọ Olusọdipúpọ ati Awọn Idaniloju

Awọn anfani:

  • Agbara lati kọ awoṣe ipadasẹhin laini pẹlu atilẹyin oye itetisi atọwọda ati itumọ awọn iye-iye, awọn aṣiṣe boṣewa ati R-squared ni deede ati ede ti kii ṣe idi.
  • Agbara lati ni oye awọn imọran ipilẹ lori eyiti awoṣe ti da (ilana, exogeneity, iyatọ igbagbogbo) ati ohun ti o ṣẹlẹ nigbati wọn ba ṣẹ, ati lo itetisi atọwọda fun iṣakoso arosinu.
  • Agbara lati ṣe idanimọ ati ṣatunṣe awọn ẹtọ idi ti o pọ ju ati awọn iṣoro oniyipada aṣemáṣe ni awọn itumọ alasọdipúpọ ti a ṣejade nipasẹ oye atọwọda

Ipadasẹyin laini jẹ ẹhin ti awọn ọrọ-aje ati awọn iṣiro ti a lo. Ni ọna ti o rọrun julọ, o ṣe iṣiro bi iyipada ti o gbẹkẹle (abajade ti o fẹ ṣe alaye, gẹgẹbi owo-ori) yatọ nipasẹ ibasepọ laini pẹlu ọkan tabi diẹ ẹ sii awọn oniyipada ominira (awọn alaye alaye, gẹgẹbi awọn ọdun ti ẹkọ, iriri). Awoṣe naa ni fọọmu: owo oya = β0 + β1 · ẹkọ + β2 · iriri + u. Nibi β (beta) olùsọdipúpọ ṣe afihan iwọn ibatan naa, ati pe u ṣafihan ọrọ aṣiṣe (gbogbo awọn ipa ti ko ṣe akiyesi) ti awoṣe ko le ṣalaye. Ninu ẹyọ yii, a yoo rii bii oye itetisi atọwọda (AI) ṣe yiyara ikole ifasilẹyin ati itumọ, ṣugbọn kilode ti itumọ alasọpọ ni ibiti a ti ṣe awọn aṣiṣe nigbagbogbo.

Jẹ ki a fi idi ipilẹ lati ibẹrẹ: AI kọ koodu ifaseyin, ṣeto tabili ti o wu jade, ṣe agbejade apẹrẹ kan fun itumọ alasọpọ. Ṣugbọn ipinnu rẹ ni eyi ti awọn oniyipada ti o lọ sinu awoṣe (sipesifikesonu awoṣe), boya a tumọ olùsọdipúpọ bi idi tabi ibatan, ati boya iyipada ti a fojufofo wa. Iwa ti o lewu julọ ti AI ni lati ṣafihan awọn alasọdipalẹ ipadasẹhin lasan ni ede idi gẹgẹbi “X pọ si Y”; lakoko ti ọpọlọpọ awọn ifasilẹyin nikan ṣe afihan ibatan (ibaṣepọ).

Ilọsiwaju ipadasẹhin igbesẹ

1. Kọ awoṣe pẹlu imọran. Awọn oniyipada wo ni yoo dale ati eyiti yoo jẹ ominira wa lati imọ aaye ati imọ-jinlẹ, kii ṣe lati awọn iṣiro. Imọye ti "Awọn nkan wo ni o ni ipa lori abajade yii?" kii ṣe ọgbọn ti “ohunkohun ti Mo fi sinu data naa, olùsọdipúpọ yoo jẹ pataki”.

2. gboju le won. Ọna ti o wọpọ julọ ni OLS (Arinrin Least Squares): o yan awọn iye-iye ni ọna ti o dinku apao awọn iyatọ onigun mẹrin laarin awọn iye akiyesi ati asọtẹlẹ. AI ṣe ipilẹṣẹ koodu fun eyi (lm () ni R, statsmodels ni Python) lori fo.

3. Ka iwejade. Wa fun awọn nkan mẹrin ni abajade ifasilẹyin: olùsọdipúpọ (itọsọna ati titobi ti ibatan), aṣiṣe boṣewa (aidaniloju iṣiro ti iye-iye), t-statistic ati p-iye (agbara ti ẹri pe olusọdipúpọ yatọ si odo), R-squared (Bawo ni iyatọ ninu iyipada ti o gbẹkẹle awoṣe ṣe alaye, ti o wa lati 0 si 1). A ga R-squared ko tumo si a "ti o dara awoṣe"; Ko si idi kan rara.

4. Tumọ olùsọdipúpọ daradara. Ti o ba jẹ pe olusọdipúpọ eto-ẹkọ jẹ 1,200, itumọ ti o tọ ni: “Awọn oniyipada miiran ti o jẹ igbagbogbo, ilosoke ọdun kan ni eto-ẹkọ ni nkan ṣe pẹlu aropin ti awọn iwọn 1,200 ti owo-wiwọle ti o ga julọ.” Itumọ ti ko tọ: "Ọdun miiran ti ẹkọ yoo mu owo-wiwọle pọ si nipasẹ 1,200." Ẹlẹẹkeji ni ẹtọ ti idiwo ati pe o le ṣe aabo nikan pẹlu apẹrẹ ti o yẹ (ẹyọkan 9).

5. Ṣayẹwo awọn awqn. Wiwulo ti ipadasẹhin da lori awọn arosinu kan (ni isalẹ). AI n ṣe koodu idanimọ; O ṣe asọye naa.

Awọn imọran ipilẹ ti ipadasẹhin laini

Awọn arosinu lori eyiti awoṣe laini laini ti da lori jẹ pataki fun awọn alafisodipupo lati jẹ aiṣedeede (ti dojukọ laini) ati awọn aṣiṣe boṣewa lati jẹ igbẹkẹle:

  • Linearity: Ibasepo naa jẹ laini ni awọn paramita (na ni awọn ọrọ log/squared ti o ba jẹ dandan).
  • Exogeneity (itumọ ipo ipo odo): Oro aṣiṣe ko ni ibamu pẹlu awọn oniyipada alaye. Eleyi jẹ julọ lominu ni ati julọ nigbagbogbo ṣẹ arosinu; ṣẹ ṣẹda ayo oniyipada ti own.
  • Iyatọ igbagbogbo (homoscedasticity): Iyatọ ti ọrọ aṣiṣe jẹ kanna ni gbogbo awọn akiyesi ( ṣẹ: heteroscedasticity — apakan 5).
  • Isansa ti autocorrelation: Awọn aṣiṣe wa ni ominira ti kọọkan miiran (awọn irufin loorekoore ninu awọn akoko jara - sipo 5 ati 8).
  • Aisi multicollinearity pupọ: Awọn oniyipada alaye ko fẹrẹ jọra si ara wọn (ẹka 5).
Išọra: Iṣoro ti o lewu julọ jẹ ojuṣaaju oniyipada aṣemáṣe. Ti o ba fi ohun kan silẹ lati inu awoṣe rẹ ti o ni ibatan si owo-wiwọle ati eto-ẹkọ mejeeji (fun apẹẹrẹ idile idile, agbara), olùsọdipúpọ eto-ẹkọ gba ipa ti ifosiwewe ti o padanu ati di inflated. AI ko le mọ oniyipada ti o padanu; Imọ aaye rẹ nikan ni o le gba.

Tabili afiwe: otitọ la

jade

Itumọ ti ko tọ (fa).

Itumọ ti o tọ (ti o ni ibatan).

olùsọdipúpọ eko = 1.200

"Ẹkọ ṣe alekun owo-wiwọle nipasẹ 1,200"

“Ẹkọ ọdun kan diẹ sii, ceteris paribus, ni nkan ṣe pẹlu awọn owo-wiwọle ti o ga julọ 1,200.”

R² = 0.68

"Awoṣe naa mu otitọ naa"

"68% ti iyipada ti wa ni alaye; ko ṣe afihan idi"

p <0.01

"Ipa naa tobi"

"Ẹri ti o lagbara pe olùsọdipúpọ yatọ si odo; titobi jẹ ọtọtọ"

odi olùsọdipúpọ

"X dinku Y"

"Bi X ṣe n pọ si, apapọ Y dinku; kilode ti iṣoro miiran?"

Mẹrin daakọ ta

1. Ṣiṣẹda koodu ipadasẹhin:

Rẹ ipa: econometrics koodu Iranlọwọ. Emi ko pin data, Mo fẹ koodu R. Ninu data.frame 'data', owo oya (ti o gbẹkẹle), ẹkọ, iriri, akọ-abo (titorika). Iṣẹ-ṣiṣe: kọ koodu ifasilẹyin pẹlu lm () fun owo oya ~ ẹkọ + iriri + akọ-abo, ṣafihan abajade akopọ ati aarin igbẹkẹle (ihamọ) ti awọn iyeida. Ṣe alaye apakan kọọkan pẹlu laini asọye. Emi yoo ṣiṣe ati rii daju abajade.

2. Apẹrẹ ti itumọ onisọdipúpọ (ni ede ibatan):

Itumọ igbejade isọdọtun ti o wa ni isalẹ ṣugbọn awọn Ofin: - kọ awọn iṣiro ni ede RELATIONAL ("ti o ni nkan ṣe pẹlu"), MAA ṢE lo ede ti o fa, - ṣafikun “awọn oniyipada miiran igbagbogbo”, R-squared ti o wa bi ‘okunfa’, maṣe daamu pataki pẹlu iwọn ipa.Output: [paste table]

3. koodu ayẹwo arosinu:

Kọ koodu idanimọ arosinu fun owo-wiwọle ~ eto-ẹkọ + awoṣe iriri (R): awọn aworan ti o yẹ (iku) ti o ku, aworan QQ, pinpin awọn iyokù. Ṣe alaye ninu laini asọye eyiti arosinu awọn idanwo ayaworan kọọkan. Daba atunse; Kan gbejade ayẹwo kan ati pe Emi yoo ṣe ipinnu naa.

4. Ibeere oniyipada ti o padanu:

Ran mi lọwọ lati ronu eewu ti ojuṣaaju oniyipada aṣemáṣe ninu owo-wiwọle ~ awoṣe eto-ẹkọ. Ṣe atokọ awọn oniyipada ti o ṣee ṣe ti o ni ibatan si owo-wiwọle ati eto-ẹkọ mejeeji ṣugbọn kii ṣe ni awoṣe (fun apẹẹrẹ, ipilẹṣẹ idile, agbegbe, agbara) ati ṣalaye ni itọsọna wo ni ọkọọkan le ṣe alaiṣedeede olùsọdipúpọ eto-ẹkọ. Eyi kii ṣe idaniloju, jẹ ki o jẹ atokọ ti awọn ero; Emi yoo ṣe ipinnu naa.

Ailagbara kiakia / Alagbara kiakia

Ibere ​​ailagbara:

Ṣe itumọ abajade ifasilẹyin yii ki o ṣalaye awọn abajade.

Yi tọ tu AI; o ṣeese ṣe agbejade idi ati awọn gbolohun ọrọ abumọ gẹgẹbi “ikẹkọ mu owo-wiwọle pọ si” ati “apẹẹrẹ jẹ aṣeyọri pupọ”.

Ibere ​​ti o lagbara:

Rẹ ipa: ṣọra econometrics Iranlọwọ. Itumọ abajade, ṣugbọn: (1) kọ gbogbo awọn iyeida ni ede ibatan, (2) lo ilana “gbogbo awọn miiran ceteris paribus”, (3) maṣe ṣe aṣiṣe R-squared fun idi, (4) pataki lati iwọn ipa, (5) ikuna akiyesi lati ṣe idanwo igbero exogeneity ti awoṣe ati ewu ti awọn oniyipada aṣemáṣe. Abajade: [tabili]

Iyatọ naa: ti o lagbara yoo ṣe idinamọ ede ti o fa, ṣiṣe aibikita ati awọn ifilelẹ ti arosinu han.

mẹta mini igba

Irú 1 — Idi pakute ede. Oluyanju kan rii onisọdipúpọ ipolowo lati jẹ 2.4 ninu ipolowo rẹ ~ ipadasẹhin tita ati lo Atẹwe AI gẹgẹbi o jẹ: “Ẹka kọọkan ti o lo lori ipolowo pọ si tita nipasẹ awọn ẹya 2.4.” Management inflated awọn isuna accordingly; lakoko ti awọn akoko ti awọn tita giga ti wa tẹlẹ ipolowo diẹ sii (iyipada idii) ati olùsọdipúpọ ṣe afihan eyi. Ẹkọ: atunṣe lasan kii ṣe ẹri ti idi; itọsọna jẹ koyewa.

Case 2 - Aṣemáṣe oniyipada. Ninu iwadi kan, owo-wiwọle ~ olùsọdipúpọ eto-ẹkọ jẹ 1,900. Nigba ti ẹkọ obi ati agbegbe ni a ṣafikun si awoṣe, olusọdipúpọ silẹ si 1.150. Ni akọkọ awoṣe, eko kosi gba lori diẹ ninu awọn ti ipa ti ebi lẹhin. Ẹ̀kọ́: àyípadà tí ó sọnù ṣùgbọ́n tí ó jọra ń fa olùsọdipúpọ̀; Wo awọn ailagbara ti o ṣeeṣe pẹlu imọ agbegbe.

Irú 3 - Ga R-squared iruju. Ọmọ ile-iwe kan rii R²=0.94 o sọ pe “apẹẹrẹ mi jẹ pipe”. Ṣugbọn ọkan ninu awọn oniyipada ominira fẹrẹ jẹ aami si oniyipada ti o gbẹkẹle (ohun kan ti o wa tẹlẹ ninu tita). Awoṣe naa ko ṣe alaye otitọ, o n ṣalaye funrararẹ. Ẹkọ: giga R-squared ko ṣe iṣeduro didara awoṣe; Ayẹwo kannaa ni a nilo.

Awọn aṣiṣe ti o wọpọ

  • Itumọ olùsọdipúpọ ni idi. "Awọn ilọsiwaju / dinku" ede jẹ eke ayafi ti idaabobo nipasẹ apẹrẹ; Sọ "ni nkan ṣe pẹlu".
  • Fojusi oniyipada aṣemáṣe. Okunfa ti o padanu ti o ni nkan ṣe pẹlu mejeeji X ati Y ṣe alaiṣedeede; Gbé àwọn kùdìẹ̀-kudiẹ tó ṣeé ṣe kó yẹ̀ wò.
  • Asise R-squared bi odiwon ti aseyori. A ga R-squared ko tumo si causality tabi kan ti o tọ awoṣe; O le paapaa jẹ ami ti jijo oniyipada.
  • Ikanju idamu pẹlu titobi. p<0.05 ko fihan pe ipa naa tobi; Wo tun iwọn to wulo ti olùsọdipúpọ.
  • Itumọ awọn arosinu laisi ṣayẹwo wọn. Awọn irufin daru awọn aṣiṣe boṣewa ati itumọ; ayẹwo ko le padanu.
Akiyesi: Fun olusọdipúpọ kọọkan, beere "Ṣe MO le ṣe alaye ibasepọ yii ni ọna idakeji? Tabi o wa ifosiwewe kẹta ti o kan awọn mejeeji?" Awọn ibeere meji wọnyi dẹkun itumọ idiju ṣaaju ki peni paapaa kan iwe naa.

Ni akojọpọ

Ipadasẹhin laini jẹ ohun elo ipilẹ fun wiwọn ibatan ti abajade kan si awọn ifosiwewe alaye. AI ni kiakia ṣe agbejade koodu awoṣe, iṣeto ti o wu, ati ilana itumọ; ṣugbọn sipesifikesonu awoṣe, itumọ ibatan ti olùsọdipúpọ, ati eewu ti awọn oniyipada aṣemáṣe jẹ ojuṣe ti amoye. Aṣiṣe ti o wọpọ julọ ni lati ṣe afihan onisọdipúpọ bi idi ("awọn ilọsiwaju"); ede ti o tọ jẹ ibatan ("ti o jọmọ, gbogbo nkan miiran jẹ igbagbogbo"). Ga R-squared ni ko aseyori tabi causality; Ko si itumọ ti o ni aabo laisi ṣiṣayẹwo awọn arosinu (paapaa exogeneity).

Ohun elo iṣẹ-ṣiṣe

Ṣeto ipadasẹhin pẹlu igbẹkẹle ọkan ati o kere ju awọn oniyipada ominira meji lori ṣeto data kan. Beere koodu lati AI ki o ṣiṣẹ. Ni akọkọ, jẹ ki AI tumọ awọn iye-iye ni ede ibatan, lẹhinna o ṣe atunyẹwo ati ṣatunṣe alaye idi kọọkan. Ṣafikun oniyipada ti o ni ibatan si awoṣe ki o ṣe akiyesi bii olùsọdipúpọ akọkọ ṣe yipada ki o tumọ eyi ni paragirafi kan laarin ilana ti ojuṣaaju oniyipada ti yọkuro. Lakotan, gbejade awọn igbero iwadii aroro ati akiyesi iru arosinu ti o rii to ati eyiti o dabi ibeere.

akojọ ayẹwo

  • [] Mo ti kọ awoṣe ti o da lori imọran ati imọ aaye, kii ṣe lori data.
  • [] Mo tumọ awọn iye-iye ni ede ibatan ("ti o jọmọ, ceteris paribus").
  • [] Mo ṣe akiyesi pe awọn iṣeduro idi nilo apẹrẹ lọtọ.
  • [] Mo ṣe idanwo ifamọ ti olùsọdipúpọ akọkọ nipa gbigberoye awọn oniyipada aṣemáṣe ti o ṣeeṣe.
  • [] Emi ko ṣe afihan R-squared bi odiwọn ti aṣeyọri / idi.
  • [] Ti a ṣejade ati itumọ awọn igbero iwadii igbero; Mo ṣe ayẹwo boya irufin kan wa.