Enhed 3 / 11

Sampling, repræsentation og bias

Gevinster:

  • At være i stand til klart at definere universet og vurdere repræsentativiteten af prøvetagningsmetoden og hvem der systematisk udelukkes
  • Evne til at skelne mellem bias i data og stereotyper båret af kunstig intelligens og kontrollere både
  • Evne til at udtrykke resultater begrænset til en stikprøve, uden at overdrive, og skrive et ærligt afsnit om begrænsninger.

Det mest afgørende begreb for social forskning er stikprøven - det vil sige den undergruppe, du vælger, fordi du ikke kan undersøge hele den gruppe, du er interesseret i (universet/befolkningen: alle de personer eller enheder, som forskningen ønsker at tale om) én efter én. Hvem resultaterne af en undersøgelse kan generaliseres til (dvs. "om dette resultat kun er gyldigt for disse mennesker eller for en bredere gruppe") afhænger helt af stikprøvens repræsentativitet. Resultatet af en forkert eller skæv prøve er forkert, uanset hvor godt den er analyseret. I denne enhed lærer du, hvordan du bruger AI til at tænke på prøvedesign, detektere bias - systematisk drift af data eller fortolkning i én retning og ærligt udtrykke grænserne for generalisering.

Det er nødvendigt at skelne mellem to typer fordomme her. Den første er bias i dataene: stikprøven overrepræsenterer én gruppe og underrepræsenterer en anden gruppe (f.eks. dem, der kun kan deltage i onlineundersøgelsen, dvs. dem med internetadgang). Den anden er AI'ens egen bias: AI'en bærer mønstrene i de tekster, den er blevet trænet på og kan producere stereotype generaliseringer om en social gruppe. En god samfundsforsker skal være opmærksom på begge dele; AI kan hjælpe dig med at genkende begge dele, eller det kan forstørre begge.

Trin for trin: Tænk på repræsentation

1. Beskriv universet. Hvem vil du fortælle om dit fund? "Alle vælgere i Türkiye" og "unge vælgere i et kvarter i Istanbul" er meget forskellige universer. En prøve kan ikke etableres uden at skrive dette tydeligt.

2. Vælg prøveudtagningsmetoden. Metoder som tilfældig (alle har lige stor chance for at blive udvalgt), stratificeret (opdeling af universet i grupper og udvælgelse fra hver gruppe), snebold (en deltager anbefaler en anden) giver forskellige repræsentationsevner. AI kan forklare fordele og ulemper ved hver metode i almindeligt sprog.

3. Spørg, hvem der er udeladt. Hver prøvetagning savner nogen. Online undersøgelse savner dem uden internet, telefonundersøgelse savner dem uden fastnet, dagtimerne interview savner medarbejdere. AI producerer en god tjekliste for "hvem udelukker denne metode systematisk?"

4. Kortlæg kilder til bias. Angiv kilder som f.eks. selektionsbias (hvem er valgt), svarbias (hvem svarer), recall bias (forkert huske fortiden).

5. Skriv generaliseringsgrænsen. Udtryk resultatet som "unge mennesker i denne prøve", ikke "alle teenagere." AI kan markere overgeneraliseringer i dit udkast.

Tip: En god forskningsrapport styrkes, ikke svækkes, af afsnittet "begrænsninger". At skrive ærligt om, hvem din prøve ikke repræsenterer, gør din undersøgelse mere pålidelig. Få AI-udkastet til dette afsnit, men bekræft selv eventuelle begrænsninger.

tre minisager

Tilfælde 1 — Skjult udvælgelsesbias. For at måle tilfredsheden med en kommunes ydelser lagde et hold en undersøgelse på kommunens hjemmeside og fandt 78 % tilfredshed. Da jeg spurgte AI "hvem mangler denne prøve?", viste det sig, at det segment, der allerede bruger siden (det vil sige har adgang til tjenesten og sandsynligvis er mere tilfreds) er overrepræsenteret. Resultatet blev rettet til "78 % blandt webstedsbrugere."

Case 2 — Stereotype af kunstig intelligens. Da en forsker fik AI til at opsummere "ældre på landets syn på teknologi", tilføjede AI en stereotyp ramme, der ikke var i dataene, såsom "ældre mennesker er bange for teknologi." Da forskeren indså dette og sagde "bare stol på udsagnene i transskriptionen", så man, at der faktisk var en bred variation af holdninger i dataene.

Tilfælde 3 — Stratificeret stikprøvekorrektion. I en stikprøve på 500 personer var kvinder 30 % sammenlignet med 51 % i befolkningen. AI forklarede vægtningslogikken i almindeligt sprog, og holdet vægtede resultaterne i henhold til befolkningsforhold, hvilket resulterede i et mere repræsentativt billede.

Fire kopierbare skabeloner

1) Kritik af prøven:

Universet i min forskning: [beskrivelse]. Min prøveudtagningsmetode er: [metode]. Din opgave: Angiv, hvem denne prøve systematisk kan under- eller overrepræsentere. Overvej valg-, svar- og genkaldsfejl separat. Giv en afbødningsanbefaling for hver risiko. Overdriv ikke min konstatering; Vis grænser ærligt.

2) Generaliseringskontrol:

Undersøg disse finde sætninger: [tekst]. Markér hver overgeneralisering. Omskriv udsagn som "alle/alle/unge/kvinder" med et snævrere udsagn, som dataene faktisk understøtter. For eksempel, i stedet for "unge mennesker gør X", "Y% af teenagere i denne prøve rapporterede X." Markér enhver påstand af usikker oprindelse.

3) AI bias capture:

Jeg gav dig opsummeringen nedenfor. Tjek: Er nogen domme, adjektiver eller generaliseringer, du tilføjede, VIRKELIG til stede i den givne tekst? Marker og fjern eventuelle udtryk, der ikke er i teksten, men kommer fra dine egne mønstre. Bare hold dig til det, der står i teksten.

4) Udkast til begrænsninger:

Skriv et udkast til afsnittet "Begrænsninger" baseret på følgende metodeoplysninger: prøvestørrelse [n], metode [x], kontekst [y]. Forklar, hvordan hver begrænsning kan påvirke resultaterne. Hverken overdrivelse eller undervurdering; Vær afbalanceret og ærlig. Jeg vil bekræfte hver vare.

Svag prompt / Stærk prompt

Svag prompt:

Ifølge mine undersøgelsesresultater har de fleste unge denne mening. Skriv dette i en stærk sætning.

Dette giver overgeneralisering uden nogensinde at stille spørgsmålstegn ved prøven. AI glider let ind i en påstand, som dataene ikke bærer, såsom "Unge i Türkiye..."

Kraftig prompt:

Mit eksempel: 220 bachelorstuderende på et enkelt universitet, online undersøgelse, frivillig deltagelse. Jeg vil gerne udtrykke en konklusion: 61 % af deltagerne udtrykte mening X. Skriv dette i en akademisk sætning uden dikkedarer, der klart angiver grænserne for stikprøven (repræsentation, frivillig bias). Begræns generalisering til denne prøve.

Forskellen: anden sætning producerer en forsvarlig påstand, som dataene faktisk understøtter.

Prøveudtagningsmetoder og repræsentativitet

Metode

Hvordan virker det

repræsentationskraft

Typisk risiko

simpelt tilfældigt

Lige chancer for alle

høj

transportomkostninger

stratificeret

Del og vælg i grupper

høj

Gruppedefinitionsfejl

kvote

Påfyldning af gruppepriser

medium

In-group bias

let

Spørg ikke nogen, der kan nås

lav

Alvorlig selektionsbias

snebold

Efter deltagerforslag

lav

Intranet lighed

Almindelige fejl

  • Etablering af en prøve uden at definere universet. Repræsentation kan ikke evalueres uden at vide, hvem du vil generalisere til.
  • Generalisering af bekvemmelighedsprøvetagning til hele befolkningen. Den mest almindelige fejl; "undersøgelsesrespondenter" forveksles med "alle".
  • Spørg aldrig, hvem der er udeladt. Hver metode kidnapper nogen; Se efter dette bevidst.
  • Læg ikke mærke til stereotypen tilføjet af AI. Modellen kan tilføje stereotyper, der ikke er til stede i dataene.
  • Skjul begrænsninger. At skjule prøvens skrøbelighed gør undersøgelsen skrøbelig, ikke pålidelig.

Sammenfattende

Værdien af et fund er lige så meget som repræsentativiteten af den prøve, som den er baseret på. AI; er en stærk hjælp til at forklare stikprøvemetoder, kortlægge, hvem der er underrepræsenteret, markere overgeneraliseringer og udarbejde et ærligt begrænsningsafsnit. Men pas på to skævheder: skævheden i selve dataene og de stereotyper, som AI'en bærer. Definer universet klart, spørg hvem der er udeladt, begræns generalisering til prøven, og skriv begrænsninger ærligt ned.

Ansøgningsopgave

Beskriv populationen og prøveudtagningsmetoden for en reel eller hypotetisk undersøgelse. Udtræk hvem der kan være under/overrepræsenteret fra AI med skabelonen "sampling critique" og identificer mindst tre kilder til bias. Oversæt derefter en konstatering til en snæver udtalelse, som dataene faktisk understøtter med "generaliseringstjek"-mønsteret. Skriv endelig et ærligt halvsides begrænsningsafsnit.

tjekliste

  • [ ] Jeg har klart defineret universet (som jeg vil generalisere til).
  • [ ] Jeg vurderede prøveudtagningsmetodens repræsentativitet.
  • [ ] Jeg listede, hvem der systematisk blev udeladt.
  • [ ] Jeg udtrykte resultaterne begrænset til stikprøven og uden at overdrive.
  • [ ] Jeg fjernede de stereotyper/generaliseringer, som AI tilføjede.