Enhed 8 / 12

Indholdsanalyse og mønsteropdagelse

Gevinster:

  • Evne til at udtrække mønstre fra store sæt tekst ved hjælp af teknikker som NER, relationsudtrækning, tidslinje og netværksanalyse
  • At være i stand til at se mønsteret som en hypotese snarere end bevis, der forbinder enheder med kilden og normaliserer dem med menneskelig godkendelse
  • Evne til at forstå, hvordan tal kan være vildledende på grund af manglende data og prøveudtagningsbias, og at undgå konstruerede sammenhænge og kronologier.

Historisk forskning handler ikke kun om at læse individuelle dokumenter; leder ofte efter mønstre i store sæt dokumenter. I hvilke sammenhænge optræder et bestemt navn gennem årene? Hvilke personer er forbundet med en bosættelse? Hvordan ændrer et emne sig over tid? Hvem korresponderer med hvem? Sådanne spørgsmål kræver ikke at se på et enkelt dokument, men på hundredvis af dokumenter samlet. Dette kaldes ofte digital humaniora - anvendelsen af ​​beregningsmetoder på områder som historie og litteratur.

AI er stærk til at udtrække struktureret information fra store sæt tekst. I denne enhed lærer du NER (navngivet entitetsgenkendelse), mønster- og relationsekstraktion, emnemodelleringslogik og tidslinjeoprettelse; men vi vil også diskutere den farligste faldgrube ved disse teknikker - AI'en præsenterer sig selv som at have "fundet" et mønster, der ikke eksisterer.

Grundlæggende teknikker

  • NER (Named Entity Recognition): Automatisk udtrækning af enheder såsom person, sted, institution, dato fra teksten. Det producerer en liste som "Alle stednavne nævnt i disse 500 dokumenter" på få minutter.
  • Relationsslutning: Markering af bånd mellem enheder ("Person X på sted Y", "A svarer til B").
  • Emnemodellering: Statistisk finde klynger af tilbagevendende emner i et stort tekstsæt. Det viser hvilke temaer der er koncentreret i hvilken periode.
  • Tidslinjeinferens: Arrangering af daterede begivenheder i dokumenter i en kronologisk rækkefølge.
  • Netværksanalyse: Visualisering af inter-person/institutionelle relationer som et netværk (hvem er centrum, hvem er forbindelsespunktet).

Det fælles mål for alle disse er at afsløre strukturer, der ikke optræder i et enkelt dokument, men optræder i hele samlingen. Disse teknikker gør synlige mønstre, som aldrig ville være synlige gennem læsning alene. Men hver af dem er et "tegn", ikke et "bevis"; Det er vigtigt at kontrollere, hvad der findes i det originale dokument.

Et ofte brugt begreb på dette felt er skelnen mellem nærlæsning (læse en tekst i dybden, linje for linje) og fjernlæsning (at se på hundreder/tusindvis af tekster samlet, statistisk). AI gør det muligt at fjernaflæse: du ser mønstre i et korpus, der er stort nok til at holde et enkelt menneskeliv. Men når fjernlæsning peger på et mønster, er det nødvendigt at vende tilbage til nærlæsning, det vil sige til det originale dokument, for at få mening ud af det. De to metoder er ikke indbyrdes udskiftelige; Den ene viser mønsteret, den anden giver dets betydning. Den mest robuste forskning bruger begge sammen.

Tip: Brug mønsteranalyse som en hypotesegenerator: "AI'en har opdaget et mønster her, er det virkeligt?" Tjek derefter det mønster i dokumenterne én efter én. Mønsteret er udgangspunktet for din forskning, ikke resultatet.

Workflow: trin for trin

1. Afklar spørgsmålet. "Hvilke personer optræder oftest sammen i denne samling?" Et klart mønsterspørgsmål som.

2. Forbered og mærk dataene. Organiser tekst med kildehenvisninger, så eventuelle fundne aktiver kan linkes tilbage til dokumentet.

3. Enheden/mønsteret vises. Generer NER, relation eller tidslinje med AI.

4. Normaliser. Kombiner forskellige stavemåder af samme person/sted ("Istanbul / Istanbul / Kostantiniyye" samme sted?). Dette trin er kritisk; Hvis det udelades, vil mønsteret falde fra hinanden.

5. Bekræft i dokument. Kontroller de faktiske dokumenter for eventuelle væsentlige mønstre, der er markeret. Sørg for, at AI'en ikke tilføjer et sammensat link.

6. Kommentar. Hvad mønsteret betyder, er historikerens dømmekraft; AI markerer bare mønsteret.

Tal- og statistikfælde

Mønsteranalyse producerer ofte tal: "navn X forekommer 47 gange", "dette tema er til stede i 30% af dokumenterne". Disse tal virker objektive, men kan være vildledende:

  • Manglende data: Hvis indsamlingen allerede er ufuldstændig (dokumenter er gået tabt, en gruppe er aldrig blevet registreret), afspejler antallet overlevende dokumenter, ikke virkeligheden.
  • Normaliseringsfejl: Hvis den samme person staves forskelligt og tælles separat, vil tallet være forkert.
  • Tab af kontekst: "opstår 47 gange" siger ikke noget; Hvordan det er bestået (positivt/negativt, emne/objekt) er vigtigt.

mønster output

tilsyneladende betydning

reel risiko

"X forekommer 47 gange"

vigtig person

Ufuldstændig samling, stavevariation

"Tema 30%"

dominerende emne

prøveudtagningsbias

"A-B ofte sammen"

intimt forhold

Tilfældighed, manglende sammenhæng

"tidslinje"

nøjagtig kronologi

Udaterede dokumenter, fabrikeret ordre

tre minisager

Case 1 - Netværksanalyse afslørede en skjult mellemmand. En forsker undersøgte en korrespondancesamling på 800 breve. Med AI, hvem skrev til hvem blev bestemt og et netværk blev skabt. Netværket viste, at en tilsyneladende ubetydelig person ved første øjekast faktisk var det centrale kontaktpunkt mellem de to grupper. Forskeren fokuserede på denne persons breve og nåede frem til et nyt fund. Men først bekræftet alle links i dokumenterne.

Tilfælde 2 — Normaliseringsfejl beskadigede nummeret. En elev fik dem til at tælle antallet af gange, et sted optrådte i dokumenterne. Da AI talte tre forskellige stavemåder af det samme sted separat, viste tallet sig at være en tredjedel af det reelle tal. Når stavemåderne blev kombineret, var stedet faktisk i den tredje hyppigst forekommende position. Lektion: Uden normalisering kan nummeret ikke stoles på.

Case 3 — Sammensat tidslinje. En forsker lavede en tidslinje ud fra udaterede dokumenter. AI arrangerede de ukendte begivenheder i en "logisk" rækkefølge og præsenterede en præcis kronologi. Denne sekvens var dog ikke i dokumenterne, AI havde fundet på. Lektion: tidslinjen er kun konstrueret ud fra begivenheder, der har en dato i dokumentet; resten forbliver "udateret".

Fire kopierbare skabeloner

1) NER (enhedsinferens):

De personer, steder, institutioner og datoer, der er nævnt i nedenstående dokumenter, fremstår som SEPARATE lister. Angiv i hvilket dokument (reference) hver enhed er nævnt. Tag kun det, der KLART står i teksten; tilføje ved at gætte. Marker [?], hvis du ikke er sikker på udtalen. Dokumenter: [her]

2) Enhedsnormalisering:

I enhedslisten nedenfor skal du gruppere forskellige stavemåder, der kan være den samme person/sted (f.eks. "Istanbul / Kostantiniyye"). Foreslå det mulige fælles format for hver gruppe, MEN påtving ikke den nøjagtige kombination; Tilføj bemærkning "måske det samme, lad folk bekræfte". Lad det være, hvis du ikke er sikker. Liste: [her]

3) Relations-/netværksoversigt:

Uddrag "hvem er relateret til hvem"-linkene fra følgende sæt korrespondance/dokumenter. Angiv for hvert link, hvilket dokument (reference) det er baseret på. LAGT et forhold, der ikke KLART er i dokumentet. Marker tvetydige links [utydelige]. Dokumentation: [her]

4) Dateret tidslinje:

Angiv kun i kronologisk rækkefølge de begivenheder, der KLART er angivet i følgende dokumenter; Link hver begivenhed til dens kilde. Angiv begivenhederne med usikre datoer særskilt under overskriften "udateret", sæt dem IKKE i rækkefølge. Gør IKKE den estimerede dato op. Dokumentation: [her]

Svag prompt / Stærk prompt

Svag:

Analyser disse dokumenter og udtræk vigtige mønstre, relationer og tidslinjer.

"Udtræk vigtige mønstre" skubber AI til at opfinde ikke-eksisterende forbindelser og præcise kronologier, der præsenterer tal uden normalisering.

Stærk:

Uddrager person/sted/institution enhederne fra følgende dokumenter ved at forbinde hver til dokumentreferencen. Marker forskellige stavemåder, der kan være det samme som "kan flettes", men flet ikke. Forhold, der ikke er tydeligt angivet i dokumentet, og begivenheder med usikre datoer FAKER IKKE; hold dem uden datoer adskilt. Dokumentation: [her]

Forskellen: tilskrivning til kilde, overladelse af normalisering til mennesker, forbud mod fiktive bånd/historie og adskillelse af udaterede begivenheder gør mønsteret forsvarligt.

Almindelige fejl

  • At tage fejl af mønsteret for beviser. Mønsteret er hypotesen; er verificeret i dokumentet.
  • Springer over normalisering. Forskellige stavemåder af den samme enhed forvrænger nummeret og netværket.
  • Blind tillid til tal. Ufuldstændig indsamling og prøveudtagning gør tallet vildledende.
  • Sammensat tidslinje. Udaterede begivenheder er ikke inkluderet i kronologien.
  • Ignorerer kontekst. Det er ikke "hvor mange gange det blev bestået", men "hvordan det blev bestået", der er vigtigt.

Sammenfattende

Indholdsanalyse og mønsteropdagelse er et kraftfuldt felt, hvor AI synliggør strukturer, der ikke ville være synlige gennem læsning alene: enhedsudvinding, relationsnetværk, emneklynger, tidslinjer. Men hvert mønster er en hypotese, ikke bevis. Link aktiver til kilden, normaliser omhyggeligt og med menneskelig validering, forespørg på numre for manglende data og bias, undgå konstruerede relationer og kronologier. AI markerer mønsteret; Hvad det betyder, og om det er sandt, er historikerens vurdering.

Ansøgningsopgave

Saml mindst 15 stykker dokumentation (med referencer). Udtræk person- og stedenheder med "NER"-skabelonen. Gruppér derefter de forskellige stavemåder med "entitetsnormalisering" og bekræft selv grupperne. Til sidst skal du køre skabelonen "dateret tidslinje" og se, hvor mange begivenheder, der forbliver "udaterede." Sammenlign hvor mange sammenkogte links eller kronologier AI'en ville producere med dårlig prompt.

tjekliste

  • [ ] Jeg har klart defineret mit mønsterspørgsmål.
  • [ ] Jeg har hver enhed knyttet til dokumentreferencen.
  • [ ] Jeg normaliserede entity typing og kombinerede det med menneskelig godkendelse.
  • [ ] Jeg stillede spørgsmålstegn ved tallene for manglende data og bias.
  • [ ] Jeg satte ikke de udaterede begivenheder i kronologi, jeg holdt dem adskilt.