Kasu:
- Võimalus koostada tehisintellekti toega lineaarne regressioonimudel ning tõlgendada koefitsiente, standardvigu ja R-ruut täpses ja mittepõhjuslikus keeles
- Oskus mõista mudeli aluseks olevaid põhieeldusi (lineaarsus, eksogeensus, püsiv dispersioon) ja mis juhtub nende rikkumisel ning kasutada tehisintellekti eelduste kontrollimiseks.
- Võimalus ära tunda ja parandada tehisintellekti tekitatud koefitsientide tõlgendustes liigseid põhjuslikke väiteid ja tähelepanuta jäetud muutuvaid probleeme
Lineaarne regressioon on ökonomeetria ja rakendusstatistika selgroog. Lihtsamal kujul hindab see, kuidas sõltuv muutuja (tulemus, mida soovite selgitada, näiteks sissetulek) varieerub lineaarse seose kaudu ühe või mitme sõltumatu muutujaga (selgitavad tegurid, nt haridusaastad, kogemused). Mudel on kujul: sissetulek = β0 + β1·haridus + β2·kogemus + u. Siin näitavad β (beeta) koefitsiendid seose suurust ja u näitab veaterminit (kõik jälgimata mõjud), mida mudel ei suuda seletada. Selles tükis näeme, kuidas tehisintellekt (AI) kiirendab regressiooni konstrueerimist ja tõlgendamist, kuid miks tehakse kõige sagedamini vigu koefitsientide tõlgendamisel.
Paneme algusest peale põhieesmärgi: AI kirjutab regressioonikoodi, korraldab väljundtabeli, koostab koefitsientide tõlgendamise mustandi. Kuid teie otsustate, millised muutujad mudelisse lähevad (mudeli spetsifikatsioon), kas koefitsienti tõlgendatakse põhjusliku või relatsioonilisena ja kas on mõni muutuja, mis on tähelepanuta jäetud. Tehisintellekti kõige ohtlikum harjumus on esitada tavalisi regressioonikordajaid põhjuslikus keeles, näiteks "X suurendab Y"; kusjuures enamik regressioone näitab ainult seost (korrelatsiooni).
Astmelise regressiooni töövoog
1. Ehitage mudel teooriaga. Millised muutujad on sõltuvad ja millised sõltumatud, tuleneb valdkonnateadmistest ja teooriast, mitte statistikast. Loogika "Millised tegurid seda tulemust loogiliselt mõjutavad?" ei ole loogika "mis iganes ma andmetesse panen, koefitsient on märkimisväärne".
2. Arva ära. Kõige levinum meetod on OLS (tavalised väikseimad ruudud): see valib koefitsiendid viisil, mis minimeerib vaadeldud ja prognoositud väärtuste ruudu erinevuste summat. AI genereerib selle jaoks koodi (lm() R-is, statsmodels Pythonis) käigu pealt.
3. Lugege väljund. Otsige regressiooniväljundis nelja asja: koefitsient (seoste suund ja suurus), standardviga (kordaja hinnangumääramatus), t-statistika ja p-väärtus (tõendite tugevus, et koefitsient erineb nullist), R-ruut (kui suurt osa sõltuva muutuja variatsioonist mudel seletab, vahemikus 0 kuni 1). Kõrge R-ruut ei tähenda "head mudelit"; Põhjuslikku seost pole üldse.
4. Tõlgenda koefitsienti õigesti. Kui hariduse koefitsient on 1200, on õige tõlgendus: "Kui muud muutujad on konstantsed, on üheaastane hariduse tõus seotud keskmiselt 1200 ühiku võrra suurema sissetulekuga." Väärtõlgendus: "Järjekordne haridusaasta suurendab sissetulekuid 1200 võrra." Teine on põhjusliku seose väide ja seda saab kaitsta ainult sobiva kujundusega (üksus 9).
5. Kontrolli eeldusi. Regressiooni kehtivus sõltub teatud eeldustest (allpool). AI genereerib diagnostikakoodi; Sina annad kommentaari.
Lineaarse regressiooni põhieeldused
Eeldused, millel põhineb klassikaline lineaarne mudel, on vajalikud selleks, et koefitsiendid oleksid erapooletud (joonekesksed) ja standardvead usaldusväärsed:
- Lineaarsus: Seos on parameetrites lineaarne (vajadusel log/ruut kujul venitatud).
- Eksogeensus (null tingimuslik keskmine): veatermin ei ole korrelatsioonis selgitavate muutujatega. See on kõige kriitilisem ja kõige sagedamini rikutud eeldus; rikkumine loob väljajäetud muutuja kallutatuse.
- Konstantne dispersioon (homoskedastilisus): vealiikme dispersioon on kõigis vaatlustes ühesugune (rikkumine: heteroskedastilisus – ühik 5).
- Autokorrelatsiooni puudumine: vead on üksteisest sõltumatud (sagedased rikkumised aegreas — ühikud 5 ja 8).
- Äärmusliku multikollineaarsuse puudumine: selgitavad muutujad ei ole üksteisega peaaegu identsed (üksus 5).
Ettevaatust! Kõige ohtlikum probleem on tähelepanuta jäetud muutuja eelarvamus. Kui jätate oma mudelist välja teguri, mis on seotud nii sissetuleku kui ka haridusega (nt perekondlik taust, võimed), omandab hariduskoefitsient selle puuduva teguri mõju ja suureneb. AI ei saa teada puuduvat muutujat; Ainult teie valdkonnateadmised suudavad seda tabada.
Võrdlustabel: õige vs vale koefitsiendi tõlgendus
väljund
Vale (põhjuslik) tõlgendus
Õige (relatsiooniline) tõlgendus
hariduskoefitsient = 1,200
"Haridus suurendab sissetulekuid 1200 võrra"
"Üks aasta rohkem haridust, ceteris paribus, on seotud 1200 suurema sissetulekuga."
R2 = 0,68
"Modell tabas tegelikkust"
"68% muutusest on seletatud; ei näita põhjuslikku seost"
p < 0,01
"Mõju on tohutu"
"Paljud tõendid selle kohta, et koefitsient erineb nullist; suurusjärk on diskreetne"
negatiivne koefitsient
"X vähendab Y"
"Kui X suureneb, väheneb Y keskmine; miks on veel üks probleem?"
Neli kopeeritavat viipa
1. Regressioonikoodi genereerimine:
Sinu roll: ökonomeetria koodi assistent. Ma ei jaga andmeid, tahan R-koodi. Andmes.raamis 'andmed', sissetulek (sõltuv), haridus, kogemus, sugu (kategooria). Ülesanne: kirjutada sissetulekute ~ haridus + kogemus + sugu regressioonikood lm()-ga, näidata kokkuvõtvat väljundit ja koefitsientide usaldusvahemikku (confint). Selgitage iga osa kommentaarireaga. Ma jooksen ja kontrollin tulemust.
2. Koefitsientide tõlgendamise visand (relatsioonikeeles):
Tõlgendage allolevat regressiooniväljundit, kuid REEGLID:- kirjutage koefitsiendid SUHTEKEELES ("seotud"), ÄRGE kasutage põhjuslikku keelt, - lisage "muud muutujad konstantsed", - esitage R-ruudus kui "põhjuslikkus", - ärge ajage olulisust segi efekti suurusega. Väljund: [kleebi tabel]
3. Eelduse kontrollkood:
Kirjutage sissetulekute ~ hariduse + kogemuse mudeli (R) eeldusdiagnoosi kood: jääk-sobivad (jääk)graafikud, QQ-graafik, jääkide jaotus. Selgitage kommentaarireal, millist eeldust iga graafik testib. Soovitage parandus; Lihtsalt pane diagnoos ja ma teen otsuse.
4. Vastamata muutuja päring:
Aidake mul kaaluda sissetuleku ja hariduse mudelis kahe silma vahele jäetud muutuva eelarvamuse ohtu. Loetlege võimalikud muutujad, mis on seotud nii sissetuleku kui ka haridusega, kuid EI OLE mudelis (nt perekondlik taust, piirkond, võimed) ja selgitage, millises suunas igaüks võib hariduskoefitsienti kallutada. See ei ole kindlus, olgu see kaalutluste loetelu; Mina teen otsuse.
Nõrk viip / Tugev viip
Nõrk viip:
Tõlgendage seda regressiooniväljundit ja selgitage tulemusi.
See viip vabastab AI; suure tõenäosusega toodab põhjuslikke ja liialdatud lauseid, nagu "koolitus suurendab sissetulekut" ja "mudel on väga edukas".
Võimas viip:
Sinu roll: hoolikas ökonomeetria assistent. Tõlgendage väljundit, kuid: (1) kirjutage kõik koefitsiendid relatsioonikeeles, (2) kasutage mustrit "kõik muu ceteris paribus", (3) ärge eksige R-ruudus põhjuslikkusena, (4) eraldage olulisus efekti suurusest, (5) pange tähele, et mudeli eksogeensuse eeldust ei testita ja muutujate tähelepanuta jäetud muutujate oht. Väljund: [tabel]
Erinevus: tugev tahe keelab põhjusliku keele, muutes mitmetähenduslikkuse ja eelduste piirid nähtavaks.
kolm minikarpi
1. juhtum – põhjuslik keelelõks. Üks analüütik leidis, et tema reklaami ~ müügi regressioonis on reklaamikoefitsient 2,4 ja kasutas tehisintellekti kavandit sellisel kujul: "Iga reklaamile kulutatud ühik suurendab müüki 2,4 ühiku võrra." Juhtkond paisutas eelarvet vastavalt; samas kui kõrge müügiperioodidel oli reklaami juba rohkem (pöördpõhjuslikkus) ja koefitsient peegeldas seda. Õppetund: tavaline regressioon ei tõenda põhjuslikku seost; suund on ebaselge.
Juhtum 2 – tähelepanuta jäetud muutuja. Ühes uuringus oli sissetulekute ~ hariduse koefitsient 1900. Kui mudelile lisati vanemlik haridus ja piirkond, langes koefitsient 1,150-ni. Esimeses mudelis võttis haridus tegelikult osa perekondliku tausta mõjust. Õppetund: puuduv, kuid korrelatsioonis muutuja suurendab koefitsienti; Mõelge domeenialaste teadmiste võimalikele puudujääkidele.
Juhtum 3 – kõrge R-ruudu illusioon. Õpilane nägi R² = 0,94 ja ütles, et "minu mudel on täiuslik". Kuid üks sõltumatutest muutujatest oli peaaegu identne sõltuva muutujaga (kaup, mis on juba müügis). Mudel ei seletanud tegelikkust, vaid iseennast. Õppetund: kõrge R-ruut ei taga mudeli kvaliteeti; Loogikakontroll on vajalik.
Levinud vead
- Koefitsiendi põhjuslik tõlgendamine. "Suureneb/vähendab" keel on vale, välja arvatud juhul, kui seda kaitseb disain; Öelge "seotud".
- Tähelepanuta jäetud muutuja ignoreerimine. Nii X kui ka Y-ga seotud puuduv tegur nihutab koefitsienti; Kaaluge võimalikke puudusi.
- R-ruudu eksimine edukuse mõõdupuuna. Kõrge R-ruut ei tähenda põhjuslikku seost ega õiget mudelit; See võib isegi olla märk muutuvast lekkest.
- Ajab tähtsuse ja ülevuse segamini. p<0,05 ei näita, et mõju on suur; Vaata ka koefitsiendi praktilist suurust.
- Eelduste tõlgendamine neid kontrollimata. Rikkumised moonutavad standardvigu ja tõlgendust; diagnoosi ei saa vahele jätta.
Vihje: iga koefitsiendi kohta küsige "Kas ma saan seletada seda seost vastupidises suunas? Või on mõni kolmas tegur, mis mõjutab mõlemat?" Need kaks küsimust peatavad põhjusliku ületõlgendamise enne, kui pliiats paberit puudutab.
Kokkuvõttes
Lineaarne regressioon on peamine vahend tulemuse ja selgitavate tegurite seose mõõtmiseks. AI koostab kiiresti mudeli koodi, väljundi paigutuse ja tõlgenduskontuuri; kuid mudeli spetsifikatsioon, koefitsiendi relatsiooniline tõlgendamine ja tähelepanuta jäetud muutujate oht on eksperdi vastutusel. Levinuim viga on koefitsiendi esitamine põhjuslikuna ("tõuseb"); õige keel on suhteline ("seob, kõik muu on konstantne"). Kõrge R-ruut ei tähenda edu ega põhjuslikkust; Ükski tõlgendus pole ohutu ilma eeldusi (eriti eksogeensust) kontrollimata.
Rakenduse ülesanne
Seadistage andmestiku ühe sõltuva ja vähemalt kahe sõltumatu muutujaga regressioon. Küsige AI-lt koodi ja käivitage see. Esiteks laske tehisintellektil koefitsiente relatsioonikeeles tõlgendada ning seejärel vaatate üle ja parandate iga põhjusliku väite. Lisage mudelisse potentsiaalselt seotud muutuja ja jälgige, kuidas põhikoefitsient muutub, ja tõlgendage seda lõigus väljajäetud muutuja nihke raames. Lõpuks koostage oletuste diagnostilised graafikud ja märkige üles, milline eeldus tundub kindel ja milline küsitav.
kontrollnimekiri
- [ ] Ehitasin mudeli teooriale ja valdkonnateadmistele, mitte andmetele tuginedes.
- [ ] Koefitsiente tõlgendasin relatsioonikeeles ("relating to, ceteris paribus").
- [ ] Märkasin, et põhjuslikud väited nõuavad eraldi kujundust.
- [ ] Testisin peamise koefitsiendi tundlikkust, võttes arvesse võimalikke tähelepanuta jäetud muutujaid.
- [ ] Ma ei esitanud R-ruutu edu/põhjuslikkuse mõõdupuuna.
- [ ] Koostas ja tõlgendas hüpoteetilisi diagnostilisi diagramme; Hindasin, kas rikkumist oli.