Gevinster:
- Evne til at forklare, hvorfor hallucinationer (fabrikeret kilde, citat, begivenhed) og anakronisme er de farligste fejl i historien
- Evne til at anvende disciplinen at verificere hver reference i kataloget, sammenligne indhold med dokumentet og krydsbekræfte kritiske fakta.
- Evne til at stille spørgsmålstegn ved bias og manglende stemmer i kilder ved at spørge kunstig intelligens, hvor man skal lede i stedet for den rigtige kilde
Der er en advarsel, der gentages i hver enhed af dette modul: outputtet af AI er en påstand, ikke en kendsgerning, indtil den er verificeret. Denne enhed forvandler den advarsel til en disciplin. Historie og arkivering er i sagens natur evidensbaserede felter; En historikers mest grundlæggende færdighed er kildekritik (spørgsmål af hvem, hvornår, til hvilket formål en kilde er fremstillet, og hvor pålidelig den er). I AIs tidsalder er denne færdighed blevet endnu mere kritisk, fordi selve kilden nu kan være fremstillet.
Her vil vi dække tre farer i dybden: hallucination (AI producerer opdigtet information, kilder eller citater), anakronisme (periodiske elementer flyttes til den forkerte periode) og disciplinen kildebekræftelse generelt. Vi vil også se AI lære fra kilder, der var unøjagtige eller forudindtaget i fortiden, så det kan reproducere skævhed.
Hallucination: den farligste fejl
En hallucination er, når en AI med selvtillid præsenterer noget, der faktisk ikke eksisterer. Historisk set er det oftest set i følgende former:
- Fremstillet kilde/reference: En ikke-eksisterende arkivfond, filnummer, bog eller artikel.
- Opdigtet citat: Et ord, der faktisk ikke blev sagt, en sætning, der ikke er i dokumentet.
- Opfundet begivenhed/dato/person: En begivenhed, der ikke fandt sted, en falsk dato, en person, der ikke eksisterer.
- Fiktiv sammenhæng: En ikke-eksisterende årsag-virkning sammenhæng mellem to virkelige hændelser.
Det, der gør en hallucination farlig, er, at den virker troværdig. En opdigtet reference har samme format som en rigtig reference: Fondens navn, nummer, dato. Så "format ser rigtigt ud" betyder aldrig "korrekt".
Bemærk: Ingen ressource produceret af YZ kan bruges uden at være verificeret og fundet i kataloget eller på et pålideligt sted. Den eneste måde at bevise, at en reference findes på, er at se den, hvor den originale kilde er placeret (arkivkatalog, bibliotek, publikation). "AI gav det" er ikke bevis.
Anakronisme: periodens briller
Anakronisme er at se fortiden gennem nutidens briller. Fordi AI er trænet i nutidens sprog, har den en stærk tendens til at:
- Begrebsanakronisme: Brug af et ord, institution eller begreb, der ikke hører til perioden.
- Begrebsanakronisme: Projektering af en idé om nutiden (fx en moderne ideologi eller identitet) ind i fortiden.
- Værdianakronisme: Bedømmelse af tidligere adfærd kun efter nutidens standarder.
Historikerens opgave er at forstå fortiden i dens sammenhæng. AI mangler denne kontekstfølsomhed; Du skal selv sørge for det.
At forstå, hvorfor hallucinationer sker så ofte, gør det lettere at beskytte sig mod det. AI er et system, der arbejder på at producere det "næste mest sandsynlige ord"; Det har intet formål som at "kende sandheden". Når han bliver stillet et spørgsmål, uanset om han kender svaret eller ej, producerer han tekst, der ser statistisk overbevisende ud. Formatet af en arkivreference (fondsnavn, nummer, dato) er et indlært mønster; AI kan udfylde dette mønster uden en reel reference. Så "hvorfor gør AI det op?" Svaret på spørgsmålet er enkelt: det er lettere for ham at finde på end "ikke at vide". Ansvaret påhviler dig for at fylde disse forme med rigtige ressourcer.
Kildebekræftelsesdisciplin: trin for trin
1. Bekræft eksistensen af ressourcen. Find alle referencer givet af AI i kataloget/publikationen. Hvis du ikke kan finde det, skal du ikke bruge det.
2. Sammenlign indholdet med kilden. Findes de oplysninger, som AI tilskriver et dokument, faktisk i dokumentet? Er citatet nøjagtigt det samme?
3. Krydsbekræft. For en kritisk kendsgerning, se på mindst to uafhængige pålidelige kilder.
4. Anvend kildekritik. Er selve kilden pålidelig? Hvem producerede det, hvornår og til hvilket formål? Er det partisk?
5. Før det gennem anakronismefilteret. Er der nogen termer, begreber eller værdidomme, der ikke passer til perioden i outputtet?
6. Spørg fordomme. Kunne AI have gengivet skævhederne i historiske kilder (ignorerer én gruppe, favoriserer ét synspunkt)?
Autentificeringslag
Spørgsmål
hvem gør
enhed
Findes denne ressource virkelig?
Dig i kataloget.
Indhold
Står dette virkelig i dokumentet?
Dig i dokumentet
Bekræftelse
Er der nogen anden kilde der understøtter det?
dig, kors
pålidelighed
Er kilden pålidelig?
ekspertvurdering
Periode
Er der nogen anakronismer?
ekspertvurdering
fordomme
Hvis stemme mangler/forvrænges?
ekspertvurdering
tre minisager
Sag 1 — Seks fabrikerede referencer. En forsker bad AI om en liste over kilder om et emne. YZ leverede 6 arkivreferencer med perfekt formatering. I katalogsøgningen manglede 4 af de 6, 2 af dem havde det forkerte nummer. Hvis forskeren ikke havde verificeret, ville der være opstået en undersøgelse, der citerede ikke-eksisterende kilder. Lektion: hver reference er verificeret i kataloget.
Case 2 — Opdigtet citat. En forfatter ville bruge et slående citat, som AI tilskriver en historisk figur. Da han undersøgte kilden, så han, at der ikke var noget dokument, der beviste, at denne person sagde sådan noget, og at udsagnet var "opfundet" af AI. Lektion: Citater kan ikke bruges uden bekræftelse fra en primær eller pålidelig kilde.
Sag 3 — Gengivelse af fordomme. En studerende fik AI til at forklare historien om en region. Outputtet ignorerede fuldstændigt et specifikt fællesskab i det område, fordi de kilder, AI'en havde lært af, også havde ignoreret dem. Eleven bemærkede og korrigerede dette hul med krydshenvisninger. Lektion: AI gengiver tavshed og skævheder i kilder; Man må spørge, hvis stemme mangler.
Fire kopierbare skabeloner
1) Referencebekræftelsesliste:
ALLE kilde-, reference-, citat-, dato- og personnavne i teksten nedenfor fremgår af en separat liste. Tilføj en note for hver: "påstået i denne tekst, skal verificeres uafhængigt." Hvis du ikke vælger nogen, "bekræft"; Bare lav en liste for at verificere, så jeg kan tjekke den fra kataloget/kilden. Tekst: [her]
2) Anakronisme scanning:
Undersøg teksten om [periode] nedenfor. Fremhæv udtryk, institutioner, begreber og værdier, der MÅSKE IKKE hører til denne periode. Skriv kort for hver, hvorfor du er mistænksom. Afsige endelig dom; Opret en liste over mistanker, som eksperten vil kontrollere. Tekst: [her]
3) Kildekritikramme:
Der udarbejdes en kildekritik om følgende kilde: (1) Hvem kunne have produceret den, (2) Hvornår, (3) Med hvilket formål, (4) Hvad er dens mulige skævheder, (5) Hvilke emner skal man have tillid til, og hvilke bør være forsigtige. Pålæggelse af endelig dom; Angiv spørgsmål og mulige svarmuligheder. Kilde: [her]
4) Manglende lydstyrke/bias kontrol:
HVEM stemme og hvilken gruppes oplevelse mangler måske eller er ensidig i det følgende historiske resumé? Hvilket perspektiv er dominerende, hvilket er usynligt? Lav dette som en liste over spørgsmål; Jeg vil fylde den med krydshenvisninger. Resumé: [her]
Svag prompt / Stærk prompt
Svag:
Giv mig pålidelige historiske kilder og citater om dette emne.
AI er meget tilbøjelig til at producere referencer, der er korrekte i form, men fremstillet i indhold, når de bliver bedt om "kilde" og "citat". Denne prompt er en direkte invitation til hallucination.
Stærk:
Foreslå, hvilken FORM for kilder (arkivfondstype, publikationstype, institution) jeg skal kigge efter i min forskning om dette emne. TILPASNING af en specifik reference, filnummer eller tilbud; Bare fortæl mig, hvor jeg skal kigge. Så vil jeg finde de rigtige kilder fra katalogerne.
Forskel: AI bliver spurgt om "hvor skal man se", ikke "faktisk reference"; Risikoen for hallucinationer reduceres radikalt, og verifikation overlades til mennesket.
Almindelige fejl
- Stoler på den korrekte reference. Den opdigtede reference fremstår også fejlfri; skal verificeres i kataloget.
- Tager et direkte citat fra AI. Citater kan ikke bruges uden bekræftelse fra den primære/pålidelige kilde.
- Med udsigt over anakronismen. Nutidens udtryk og begreber siver stille ind i fortiden.
- Reproducere fordomme. AI kopierer tavsheder fra kilder; Det er nødvendigt at spørge om den manglende lyd.
- At stole på en enkelt kilde. Kritiske fakta skal bekræftes af mindst to uafhængige kilder.
Sammenfattende
Kildebekræftelse er kernen i historie og arkivering og er endnu mere kritisk i AIs tidsalder. Hallucination producerer kilder, citater og begivenheder, hvis form er perfekt, men hvis indhold er fiktivt; anakronisme forvrænger fortiden gennem nutidens linser; og AI gengiver skævheder i kilder. Forsvar er en disciplin: verificer hver reference i kataloget, sammenlign indhold med dokument, krydstjek kritiske fakta, filtrer gennem periode og bias. Spørg AI om "hvor skal man lede", ikke "den faktiske kilde." Sandhedens vogter er altid eksperten.
Ansøgningsopgave
Få AI til at producere en liste over ressourcer om et emne, du arbejder på (med en bevidst "svag prompt"). Udtræk derefter alle referencerne fra dette output med skabelonen "reference validation list" og søg hver enkelt i et katalog. Tæl hvor mange der faktisk findes, og hvor mange der er opdigtede eller unøjagtige. Gentag det samme emne med en "stærk prompt" ("hvor skal jeg kigge") og oplev forskellen.
tjekliste
- [ ] Jeg har verificeret hver reference i kataloget/den betroede kilde.
- [ ] Jeg har verificeret hvert citat med den primære/pålidelige kilde.
- [ ] Jeg har krydstjekket kritiske fakta med mindst to uafhængige kilder.
- [ ] Jeg filtrerede outputtet for anakronismer.
- [ ] Jeg satte spørgsmålstegn ved manglende/forvrængede stemmer og bias.