Üksus 3 / 11

Andmete puhastamine, teisendamine ja uurimuslik analüüs (koos Pythoni/pandade toega)

Kasu:

  • Võimalus puhastada majanduse algandmeid (puuduvad vaatlused, ühikute segadus, sageduse mittevastavus) ja teha need tehisintellekti abil analüüsiks valmis
  • Võimalus printida tehisintellekti koodina standardseid majandusmuutusi, nagu reaalnominaalne teisendus, indekseerimine, kasvutempo, hooajaline korrigeerimine, ja neid käsitsi kontrollida
  • Võimalus tuvastada andmeid uurimusliku andmeanalüüsi abil (kokkuvõtlik statistika, jaotus, kõrvalekalded, korrelatsioon) ja kriitiliselt lugeda tehisintellekti kokkuvõtteid

Majandusandmed on harva analüüsiks valmis. TURKSTATist alla laaditud tabelis on mõned kuud puudu, üks veerg on tuhandete sulgudega tekstina, vahetuskurss on türgi formaadis nagu "1.234,56", üks seeria on igakuine ja teine ​​kord kvartalis. Suurem osa majandusteadlase ajast kulub mitte analüüsile, vaid andmete analüüsiks ettevalmistamisele. Siin on AI tõeline ja madala riskiga kiirendi: see soovitab puhastamisetappe, kirjutab pandasid (Pythoni andmetöötlusteek), kodifitseerib standardseid majandusmuutusi. Kuid sellel üksusel on ka muutumatu reegel: loete iga tehisintellekti kirjutatud teisendust ja kontrollite seda käsitsi vähemalt ühes vaatluses. Kui reaal-nominaalne tsükkel on valel alusel, laguneb kogu analüüs vaikselt.

Puhastamine: millised probleemid, kuidas neid lahendada?

Levinumad probleemid majandusandmetes ja nende loogika:

  • Mittetäielik vaatlus. Üks kuu/kvartal on tühi. Lahendus sõltub kontekstist: kui seda tegelikult ei ole, jäetakse see tühjaks; Kui on tehniline lünk, tehakse hoolikas interpoleerimine - kuid valmistamise vaheline piir on õhuke.
  • Ühikute ja vormingute segadus. Tekst "12.345.6" tuleb teisendada arvuks; miljon/miljard peaks muutuma järjepidevaks.
  • Sageduse mittevastavus. Kuu- ja kvartalirea kombineerimiseks agregeeritakse (kuu-kvartal) – see, kas see on keskmine, summaarne või perioodi lõpp, sõltub indikaatori olemusest (varude/voogude eristus).
  • Kõrvalised (äärmuslikud) väärtused. Kui vaatlus kaldub metsikult kõrvale: kas see on reaalne sündmus (kriis, hinnatõus) või andmeviga? Seda mõistetakse enne kustutamist.
  • Kuupäeva joondamine. Erinevate seeriate kuupäevavormingud ja perioodide määratlused on sünkroonitud.
Tähelepanu: puuduvate andmete täitmine tundub süütu, kuid see on majanduslik otsus. Kriisikuu täitmine "naaberkuude keskmisega" tähendab selle kriisi kustutamist analüüsist. Enne täitmist küsige "miks see tühimik eksisteerib?" Vastake küsimusele.

Standardsed majandusmuutused

Transformatsioonid ja nende määratlused majandusteadlase igapäevarepertuaaris:

  • Nominaalne → Reaalne. Hinnamõjuga korrigeerimine: reaalväärtus = nimiväärtus / hinnaindeks × 100. Deflaatori baasaasta (korrigeeriv indeks) määrab tulemuse baasi.
  • Indekseerimine. Seeria skaleerimine nii, et valitud periood = 100; See on kasulik erineva suurusega seeriate võrdlemiseks.
  • Kasvutempo. Aastane: (sel perioodil samal perioodil / eelmisel aastal − 1) × 100. Perioodiline ja aastapõhine määr on erinevad asjad; Segadus on tavaline viga.
  • Hooajaline korrektsioon. Regulaarsete hooajaliste mõjude puhastamine (suveturism, puhkused); Toores sari ja hooajaliselt kohandatud sarjad räägivad erinevaid lugusid.
  • Liikuv keskmine. Müra summutamine ja trendi nähtavaks tegemine.
  • Logaritmid ja diferentseerimine. Uurida kasvudünaamikat ja statsionaarsust (süveneb aegrea ühikus).
Näpunäide. Iga konversiooni puhul küsitakse teilt "mis juhtus seadme ja baasiga?" küsi. Reaalseeria alus on deflaatori alus; Indekseeritud seeria aluseks on teie valitud periood. Selle kirjapanemine hoiab ära tulevased vead.

Uurimuslik andmete analüüs (EDA)

Enne mudelisse sisestamist on vaja andmed ära tunda. Uurimuslik andmete analüüs (EDA) sisaldab: kokkuvõtvat statistikat (keskmine, mediaan, standardhälve, min-max), jaotuse kuju, kulgu ajas, kõrvalekaldeid ja seeriate vahelist korrelatsiooni. AI genereerib nende sammude jaoks kiiresti koodi; Sinu ülesanne on lugeda väljundit majandusliku pilguga: "Kas see keskmine on mõistlik? Kas see korrelatsioon on kokkusattumus või teadaolev seos?"

Ettevaatust: korrelatsioon on siin ainult tuvastamise vahend, mitte põhjusliku seose tõend. Asjaolu, et kaks seeriat liiguvad koos (nt jäätise müük ja uppumised – mõlema käivitab suvi), ei tähenda tingimata, et üks viib teiseni. Süvendame seda eristamist 7. üksuses.

kolm minikarpi

Juhtum 1 – vale deflaatori alus. Analüütikul oli palgaseeria realiseerimiseks tehisintellekti kirjutamiskood. Kood töötas, tulemus tundus mõistlik — kuid analüütik arvutas käsitsi 2020. aasta ARVUTAMISE etapis ja see ei töötanud. Probleem: tehisintellekt kasutas deflaatorit baasiga 2003=100 ja küsis palgarea 2015. aasta hindadega; Alused olid vastuolulised. Kood parandati ühe reaparandusega, kogu seeria loksus paika.

Juhtum 2 – vaikse helitugevuse viga. Üks asutus oli vähendanud ekspordiandmeid tuhandetes dollarites ja importi miljonites dollarites. Kui tehisintellekt need kaks "väliskaubandusbilansi" jaoks eemaldas, oli tulemuseks absurdne puudujääk. Min-max vaade EDA-s paljastas vea: kahe seeria suurusjärk erines 1000 korda. Kui üksus oli võrdsustatud, oli tasakaal õige.

Juhtum 3 – kõrvalekaldeid ei kustutata. Üks kuu sarjas oli erakordselt madal. AI soovitas "kõrvalväärtus, puhastame selle". Analüütik uuris: tootmine oli sel kuul looduskatastroofi tõttu tegelikult seisma jäänud. Väärtus oli tõeline; Selle kustutamine moonutaks ajalugu. Kustutamise asemel tehti sellele joonealune märkus. AI "selget" soovitust ei järgitud pimesi.

Konversioonide valideerimise tabel

Teisendamine

valemi essents

käsitsi kontrollpunkt

teostus

nominaal / hinnaindeks × 100

Deflaatori baas = tulemusbaas?

aastane kasv

(t / t-12 kuud − 1) × 100

Arvutage periood paberil

indekseerimine

seeria/baasperiood × 100

Kas baasperioodi väärtus on 100?

Kuu→kvartal

voog: koguda / varu: perioodi lõpp

Õige kogumismeetod?

liikuv keskmine

viimase n perioodi keskmine

Kas akna pikkus on õige?

Neli kopeeritavat malli

1) Puhastusplaan:

Mul on algandmed: [veerud ja näidisread]. Analüüsi ettevalmistamiseks koostage puhastusplaan: puuduv väärtus, ühiku/vormingu probleem, kuupäevade joondamine, sageduse joondamine, võimalikud kõrvalekalded. Selgitage ühe lausega, miks iga samm on vajalik. Ära kirjuta veel koodi; lubage mul kõigepealt plaan kinnitada.

2) panda puhastuskood:

Kirjutage pandakood vastavalt minu kinnitatud plaanile. Laske koodil kommentaarireaga näidata, mida see igal sammul teeb; See prindib pärast teisendamist ridade arvu ja puuduvad väärtused. Ärge kustutage vaikselt ühtegi vaatlust; Teatage igast kustutatud reast.

3) Realiseerimine (kontrollitav):

Realiseerige see nimiseeria [hinnaindeksiga]. Kirjutage selgelt deflaatori baasaasta, kui seda kasutate; Täpsustage, mis on saadud seeria alus. Näidake mulle konto samm-sammult ühe perioodi kohta, et saaksin seda käsitsi kontrollida.

4) Uurimusliku analüüsi kokkuvõte:

Kirjutage uurimusliku analüüsi kood järgmiste puhastatud andmete jaoks: kokkuvõtlik statistika, aegridade graafik, kõrvalekallete skaneerimine ja korrelatsioonimaatriks. Tulemuste tõlgendamisel tehke selgeks, et leitud seosed ei ole PÕHJUSLIKUD ja loetlege 3 punkti, mis mulle silma paistavad.

Nõrk viip / Tugev viip

Nõrk viip:

Kustutage need andmed.

AI tegutseb eeldustega, teadmata, mida puhastada; Saate vaatlusi kustutada, ühikuid muuta, te ei märka.

Võimas viip:

Nendes igakuistes väliskaubandusandmetes on eksport "tuhandetes USA dollarites" ja import "miljonites USA dollarites". Tehke need kaks võrdseks "miljoni dollariga", märkige puuduvad kuud, kuid EI TÄIDA, joondage kuupäevad kuu lõpuga. Printige, mitut rida iga samm mõjutab; vaikselt ei kustuta ühtegi rida. Seejärel kuvage ühe kuu saldot viisil, mida saan käsitsi kontrollida.

Levinud vead

  • Konversioonikoodi käivitamine seda lugemata. Vale baas/üksus rikub vaikselt kogu analüüsi.
  • Puuduvate andmete täitmine mõtlemata. Kriisi/katastroofiperioodi kustutamine keskmisega.
  • Loobu kõrvalekalletest automaatselt. Tõelise sündmuse eksitamine andmeveaga.
  • Segane hooajaline ja aastane kasv. Need kaks on erineva suurusega.
  • Sageduste vale kombineerimine. Varuseeriate kogumine ja voona töötlemine.
  • EDA korrelatsiooni eksitamine põhjusliku seosega. Tuvastamisvahendi eksimine tõendina.

Kokkuvõttes

Andmete puhastamine ja teisendamine on nähtamatu, kuid otsustav 80 protsenti majandusanalüüsist. Tehisintellekt kiirendab seda mehaanilist tööd järsult; kuid teie ülesanne on lugeda iga puhastusetappi ja iga teisendust ning kontrollida vähemalt ühte vaatlust käsitsi. Deflaatori baasi, ühiku, sageduse ja kõrvalekallete otsused on majanduslikud otsused ja neid ei saa jätta pimesi tehisintellekti hooleks. Uurimuslik analüüs tutvustab andmeid, kuid korrelatsioon puudub põhjuslik seos.

Rakenduse ülesanne

Laadige alla tegelik töötlemata seeria (nt igakuine THI ja nominaalpalga/sissetuleku seeria). Looge 1. malliga puhastusplaan, laske teise malliga genereerida kood ja realiseerige seeria 3. malliga. Seejärel arvutage paberil välja ühe perioodi tegelik väärtus ja võrrelge seda tehisintellekti väljundiga. Kui leiate mittevastavuse, diagnoosige ja parandage selle allikas (baas/üksus) ning märkige edasiminek.

kontrollnimekiri

  • [ ] Vaatasin puhastusplaani üle ja kinnitasin enne koodi kirjutamist.
  • [ ] Lasin tehisintellektil iga rea ​​kustutada/muutnud; Ei mingit vaikset kustutamist.
  • [ ] Puuduvate andmete sisestamisel võite küsida "miks see tühi on?" vastasin küsimusele.
  • [ ] Uurisin, kas kõrvalekalle oli reaalne sündmus või andmeviga.
  • [ ] Teostuses kontrollisin, et deflaatori baas ja tulemuste baas langevad kokku.
  • [ ] Arvutasin käsitsi ümber vähemalt ühe perioodi teisenduse.
  • [ ] Ma ei esitanud EDA-s korrelatsioone põhjusliku seosena.