Gevinster:
- Evne til å produsere beskrivende statistikk og distribusjons-/relasjonsdiagrammer med støtte for kunstig intelligens og velge riktig diagramtype i henhold til data og spørsmål
- Evne til å gjenkjenne villedende valg (stiplet akse, upassende skala, overdreven utjevning) i bilder produsert av kunstig intelligens og anvende ærlige visualiseringsprinsipper
- Å kunne skille den utforskende analysen er for å generere hypoteser og fellen med å gjøre oppdagelse og bekreftelse med de samme dataene (som åpner døren for p-hacking).
Etter å ha renset dataene er empiriforskerens første jobb å bli kjent med dem. Dette stadiet kalles utforskende dataanalyse (EDA – Exploratory Data Analysis): det er prosessen med å undersøke dataene med grafer og oppsummerende statistikker og se dens struktur, mønstre og overraskelser. Målet er ikke å teste en hypotese ennå, men å sette seg inn i dataene, generere spørsmål og legge grunnlaget for modellen du skal bygge i fremtiden. I denne enheten skal vi se hvordan kunstig intelligens (AI) akselererer EDA og visualisering, men hvorfor grafikken den produserer må revideres nøye.
La oss først gjøre to grunnleggende forskjeller. For det første utfyller beskrivende statistikk (tall som oppsummerer data som gjennomsnitt, median, standardavvik, kvartiler) og visualisering (som viser den samme informasjonen grafisk) hverandre; Sammen beskriver de dataene. For det andre, og mest kritisk: oppdagelse og bekreftelse må skilles. Utforskende analyse er for å generere hypoteser; Å utforske hypotesen med de samme dataene og si "Jeg testet det og fant det signifikant" åpner døren til p-hacking, som vi vil se i neste enhet. Det er gratis å se på dataene og se et mønster; Men å erklære at mønsteret er et "bevist funn" i de samme dataene er misvisende.
Steg for steg utforskende analyse
1. Univariat visning. Undersøk hver variabel individuelt: er fordelingen symmetrisk eller skjev; hvor mange bakker er det; Hvor er utstikkerne? For numeriske variabler, histogram (plott som viser frekvens ved å dele verdier inn i områder) og boxplot (boksplot - diagram som viser median-, kvartil- og ekstremverdier); For kategoriske variabler, bruk frekvenstabeller og søylediagrammer.
2. Bivariat visning. Se forholdet mellom to variabler: spredningsplott for to numeriske variabler (viser hver observasjon som et punkt på x-y-planet), gruppert boksplott for numerisk-kategorisk, krysstabell for to kategoriske. Før du ser på korrelasjonskoeffisienten, sørg for å se på spredningsplottet: den samme korrelasjonen kan vise svært forskjellige mønstre (den berømte Anscombe-kvartetten demonstrerer dette; fire datasett har nesten identisk statistikk, men når de plottes viser de seg å være helt forskjellige).
3. Velg riktig diagramtype. Diagramtypen avhenger av spørsmålet ditt og datatypen. Histogram for distribusjon; spredning for forhold; linjediagram for endring over tid; stolpediagram for kategorisammenligning; (forsiktig) stablet stang for forholdet mellom deler og helheten. AI genererer raskt kode for deg, men avgjørelsen om "hvilken graf for hvilket spørsmål" er din.
4. Legg merke til mønsteret, ikke erklær resultater. Registrer ethvert interessant mønster du ser som et "oppdagelsesnotat", men ikke betrakt det som et bekreftet funn. Bekreftelsen gjøres i et eget trinn, fortrinnsvis med egne data eller en forhåndsbestemt tidsplan.
Ærlige visualiseringsprinsipper
Grafikken overbeviser; Derfor er dens villedende kraft også høy. AI kan ta estetiske, men noen ganger misvisende valg. Sjekk disse retningslinjene:
- I søylediagrammer må y-aksen starte på null. Den stiplede aksen viser små forskjeller som store.
- Skalaen skal være konsistent. Hvis to diagrammer sammenlignes, bruk samme akseområde.
- Overdreven utjevning kan skjule det sanne mønsteret. En trendlinje ser fin ut, men hvis den «jevner ut» dataene for mye, kan den være misvisende.
- Farge og 3D-dekorasjon forvrenger oppmerksomhet, ikke data. Velg enkelhet.
- Manglende data og prøvestørrelse skal være synlig. "n=12" og "n=12 000" skal ikke se like ut.
Oppmerksomhet: Bare fordi grafikken produsert av AI er vakker, er den ikke sann. Den vanligste feilen han gjør er å ikke starte aksen fra null i søylediagrammet og overdrive forskjellen mellom de to gruppene. Sjekk alltid aksen.
Sammenligningsdiagram: spørsmål → diagram
Spør
riktig diagram
Vanlig feil
Hvordan er denne variabelen fordelt?
Histogram/boksplott
bruk kakediagram
Er to numeriske variabler relatert?
Spredningsplott
Bare å se på antall korrelasjoner
Hvordan har det endret seg over tid?
linjediagram
Fortell en trend med et stolpediagram
Hva er forskjellen mellom grupper?
Gruppert boks/bar (fra bunnen av)
Avkuttet aksestang
Del-til-hel-forhold?
Stablet stang (med forsiktighet)
Kakediagram med flere skiver
Fire kopierbare spørsmål
1. Kode for automatisk oppdagelse:
Din rolle: EDA-assistent. Jeg deler ikke dataene, jeg vil ha R (ggplot2)-koden. Det er numeriske (inntekt, alder, utgifter) og kategoriske (region, utdanning) variabler i 'data'-datarammen. Oppgave: skriv kode som produserer et histogram for hver numerisk, et søylediagram for hver kategori, og et spredningsplott for inntekt~alder. I stolpediagrammer, la y-aksen starte fra NULL. Legg til kommentarlinje.
2. Korrelasjonsgjennomgang (korrelasjon + visuell sammen):
Skriv kode som både beregner Pearson-korrelasjon for inntekt og utgifter og plotter et spredningsplott + lineær trend. Legg til en kommentarlinje som minner meg på å undersøke diagrammet før jeg STOLER på korrelasjonstellingen (Anscombe-advarsel). Ikke glatt ut trendlinjen for mye.
3. Integritetsrevisjon:
Sjekk følgende ggplot-kode for ærlig visualisering:[kode]. Kontroller og korriger følgende: starter y-aksen fra null, er skalaen konsistent, er prøvestørrelsen synlig, er det overdreven utjevning? Forklar begrunnelsen for hver rettelse du har gjort.
4. Produsere et funnnotat (ikke et funn):
Basert på grafene jeg produserer, oppgi OBSERVASJONER som et "oppdagelsesnotat"; skriv hvert element på språket "hypoteser som skal testes", ikke "konklusive funn". Eksempel: «Inntekt i høyere utdanning SYNES mer spredt; bør testes med separate data.' Unngå årsakssammenheng og definitive utsagn.
Svak forespørsel / Sterk forespørsel
Svak melding:
Lag fine grafer av avkastningen og fortell meg hva de betyr.
Denne oppfordringen inviterer til misvisende utdata: "vakker" fokuserer på estetikk, mens "hva det betyr" presser AI til å hoppe fra oppdagelse til endelig konklusjon. Årsaksmessige, overdrevne kommentarer følger.
Kraftig ledetekst:
Din rolle: ærlig EDA-assistent.Oppgave: (1) velg den typen diagram som passer spørsmålet mitt og skriv begrunnelsen,(2) start aksen fra null i søylediagrammer,(3) tolk utdataene i DISCOVERY NOTE-språk: ingen definitive/årsakspåstander foreslår hypotese på språket "må testes",(4) vil advare meg hvis utvalget mitt er <30 i miljøet mitt. det.
Forskjell: sterk vilje rettferdiggjør karttypen, pålegger regler for ærlighet og forveksler ikke oppdagelse med bekreftelse.
tre minisaker
Tilfelle 1 - Diskret akseoverdrivelse. En analytiker viste tilfredshetsskårene til to grener (7,8 og 8,0; av 10) i et stolpediagram. Når du startet YZ-aksen fra 7.5, virket den andre grenen nesten dobbelt så høy som den første; mens forskjellen bare var 2,5 %. Ledelsen var i ferd med å belønne en filial under feil inntrykk. Da jeg startet aksen fra bunnen av var forskjellen nesten usynlig. Leksjon: aksevalg alene endrer oppfatning.
Tilfelle 2 — Stole på korrelasjonen og hoppe over diagrammet. En forsker så r = 0,81 mellom to variabler og skrev "sterk lineær sammenheng". Da konsulenten hans spurte etter spredningsplottet, så man at forholdet faktisk skyldtes en enkelt ekstrem observasjon, og da dette punktet ble fjernet, falt korrelasjonen til 0,12. Leksjon: korrelasjonstelling er ingen erstatning for en graf; alltid se på spredningen.
Tilfelle 3 - Forvirrende oppdagelse med bekreftelse. En student så på alle parvise korrelasjoner i et datasett med 40 variabler, valgte den høyeste (r=0,52) og skrev: "vi fant en signifikant sammenheng mellom utdanning og sparing (p=0,004)." Imidlertid var det hundrevis av par i 40 variabler; å velge det høyeste var et falskt funn på grunn av tilfeldigheter. Leksjon: det oppdagede mønsteret kan ikke "testes og erklæres signifikant" i de samme dataene; Det kreves separat bekreftelse.
Vanlige feil
- Starter ikke aksen fra null i søylediagrammet. Det overdriver den lille forskjellen; Den vanligste visuelle løgnen. Sjekk alltid.
- Ser på korrelasjonen og hopper over diagrammet. Den samme korrelasjonen kommer fra svært forskjellige mønstre; kan passe et avvikende forhold. Først spredning.
- Vurderer mønsteret funnet i funnet som "bevis" i de samme dataene. Dette er inngangsporten til p-hacking; Bekreftelse gjøres separat.
- Feil diagramtype. Treff som bar for trend og pai for distribusjon er misvisende. Velg en sjanger basert på spørsmålet.
- Skjuler prøvestørrelsen. n=8 og n=8000 skal ikke se like ut på samme graf; usikkerhet må vises.
Tips: Før du publiserer et diagram, spør deg selv: "Ville historien endret seg hvis jeg endret aksen?" Hvis svaret er ja, har du sannsynligvis startet pivoten fra et uærlig sted.
Oppsummert
Utforskende dataanalyse er fasen for å møte dataene, se mønstre og generere hypoteser; Det er ikke en bekreftelse. AI genererer raskt beskrivende statistikk og grafkode, men du velger graftypen basert på spørsmålet ditt og kontrollerer rettferdighetsprinsippene (nullakse, konsistent skala, tilsynelatende usikkerhet). Se på spredningen før du stoler på korrelasjonstallet; Ikke erklær mønsteret du fant i funn som "bevis" i de samme dataene. En vakker graf av AI betyr ikke en korrekt graf.
Søknadsoppgave
Velg minst tre variabler i et datasett. Be AI-en om og kjør kode som produserer utforskende grafer (histogram, scatter, innrammet) med en melding som håndhever ærlighetsregler. For hvert diagram: sjekk (1) om diagramtypen passer til spørsmålet, (2) ærligheten til aksen, (3) synligheten til prøvestørrelsen. Skriv minst ett "oppdagelsesnotat" på hypotesespråk ("... ser ut til å bli testet separat"). Undersøk en sammenheng med både telling og spredning og rapporter om det er uoverensstemmelse mellom dem.
sjekkliste
- [ ] Jeg valgte diagramtypen basert på spørsmålet mitt og datatypen.
- [ ] I søylediagrammer starter jeg y-aksen fra null; Jeg sjekket aksen ærlighet.
- [ ] Jeg så på scatterplotet før jeg stolte på korrelasjonen.
- [ ] Jeg reflekterte prøvestørrelsen og usikkerheten på grafen.
- [ ] Jeg skrev mønstrene jeg fant i utforskning som "hypotese som skal testes" i stedet for "bevis".
- [ ] Jeg la merke til at jeg ikke ville bruke de samme dataene for bekreftelse og at det var nødvendig med et eget trinn.