Vinster:
- Förmåga att förklara varför hallucinationer (tillverkad källa, citat, händelse) och anakronism är de farligaste misstagen i historien
- Förmåga att tillämpa disciplinen att verifiera varje referens i katalogen, jämföra innehåll med dokumentet och korsbekräfta kritiska fakta.
- Förmåga att ifrågasätta partiskhet och saknade röster i källor genom att fråga artificiell intelligens var man ska leta istället för den verkliga källan
Det finns en varning som upprepas i varje enhet i denna modul: utdata från AI är ett påstående, inte ett faktum, tills det har verifierats. Den här enheten förvandlar den varningen till en disciplin. Historia och arkivering är till sin natur evidensbaserade fält; Den mest grundläggande färdigheten hos en historiker är källkritik (att ifrågasätta av vem, när, för vilket ändamål en källa producerades och hur tillförlitlig den är). I AI-tiden har denna färdighet blivit ännu mer kritisk eftersom själva källan nu kan vara tillverkad.
Här kommer vi att täcka tre faror på djupet: hallucination (AI som producerar tillverkad information, källor eller citat), anakronism (periodiska element flyttas till fel period) och disciplinen källverifiering i allmänhet. Vi kommer också att se AI lära sig från källor som var felaktiga eller partiska i det förflutna, så att den kan reproducera partiskhet.
Hallucination: det farligaste misstaget
En hallucination är när en AI med tillförsikt presenterar något som faktiskt inte existerar. Historiskt sett ses det oftast i följande former:
- Tillverkad källa/referens: En obefintlig arkivfond, filnummer, bok eller artikel.
- Påhittat citat: Ett ord som faktiskt inte sas, en mening som inte finns i dokumentet.
- Påhittad händelse/datum/person: En händelse som inte hände, ett falskt datum, en person som inte finns.
- Fiktiv koppling: En obefintlig orsak-verkan relation mellan två verkliga händelser.
Det som gör en hallucination farlig är att den verkar trovärdig. En påhittad referens har samma format som en riktig referens: fondnamn, nummer, datum. Så "format ser rätt ut" betyder aldrig "rätt".
Observera: Ingen resurs producerad av YZ kan användas utan att vara verifierad och hittad i katalogen eller på en tillförlitlig plats. Det enda sättet att bevisa att en referens finns är att se den där den ursprungliga källan finns (arkivkatalog, bibliotek, publikation). "AI gav det" är inget bevis.
Anakronism: periodens glasögon
Anakronism är att se det förflutna genom dagens glasögon. Eftersom AI är tränad i dagens språk har den en stark tendens att:
- Termanakronism: Att använda ett ord, institution eller begrepp som inte hör till perioden.
- Begreppsanakronism: Projicera en idé om nuet (t.ex. en modern ideologi eller identitet) i det förflutna.
- Värdeanakronism: Att döma tidigare beteende endast efter dagens standarder.
Historikerns uppgift är att förstå det förflutna i sitt sammanhang. AI saknar denna kontextkänslighet; Du måste tillhandahålla det själv.
Att förstå varför hallucinationer händer så ofta gör det lättare att skydda sig mot det. AI är ett system som arbetar för att producera "nästa mest troliga ord"; Det har inget syfte som att "känna sanningen". När han ställer en fråga, oavsett om han vet svaret eller inte, producerar han text som ser statistiskt övertygande ut. Formatet för en arkivreferens (fondens namn, nummer, datum) är ett inlärt mönster; AI kan fylla detta mönster utan en riktig referens. Så "varför hittar AI det på?" Svaret på frågan är enkelt: det är lättare för honom att göra upp än att "inte veta". Ansvaret faller på dig att fylla dessa formar med riktiga resurser.
Disciplin för källverifiering: steg för steg
1. Verifiera att resursen finns. Hitta alla referenser som ges av AI i katalogen/publikationen. Om du inte kan hitta den, använd den inte.
2. Jämför innehållet med källan. Finns den information som AI tillskriver ett dokument verkligen i dokumentet? Är citatet exakt detsamma?
3. Korsbekräfta. För ett kritiskt faktum, titta på minst två oberoende tillförlitliga källor.
4. Tillämpa källkritik. Är själva källan pålitlig? Vem producerade den, när och i vilket syfte? Är det partiskt?
5. För den genom anakronismfiltret. Finns det några termer, begrepp eller värdebedömningar som inte passar perioden i produktionen?
6. Ifrågasätt fördomar. Kan AI ha reproducerat fördomarna i historiska källor (ignorerar en grupp, gynnar en synvinkel)?
Autentiseringslager
Fråga
vem gör det
enhet
Finns denna resurs verkligen?
Du i katalogen.
Innehåll
Står detta verkligen i dokumentet?
Du i dokumentet
Bekräftelse
Stödjer det någon annan källa?
du, kors
tillförlitlighet
Är källan pålitlig?
sakkunnig bedömning
Period
Finns det några anakronismer?
sakkunnig bedömning
fördomar
Vems röst saknas/förvrängs?
sakkunnig bedömning
tre minifodral
Fall 1 – Sex tillverkade referenser. En forskare bad AI om en lista över källor om ett ämne. YZ tillhandahöll 6 arkivreferenser med perfekt formatering. I katalogsökningen saknades 4 av de 6, 2 av dem hade fel nummer. Om forskaren inte hade verifierat skulle en studie som citerade obefintliga källor ha dykt upp. Lektion: varje referens verifieras i katalogen.
Fall 2 — Påhittat citat. En författare skulle använda ett slående citat som AI tillskriver en historisk figur. När han undersökte källan såg han att det inte fanns något dokument som bevisade att personen sa något sådant, och att uttalandet "hittades på" av AI. Lektion: citat kan inte användas utan verifiering från en primär eller pålitlig källa.
Fall 3 — Återgivning av fördomar. En student fick AI att förklara historien om en region. Utdata ignorerade helt en specifik gemenskap i det området eftersom källorna som AI hade lärt sig från också hade ignorerat dem. Eleven uppmärksammade och korrigerade denna lucka med korsreferenser. Lektion: AI återger tystnad och fördomar i källor; Man måste fråga vems röst som saknas.
Fyra kopierbara mallar
1) Referensverifieringslista:
ALLA källor, referenser, citat, datum och personnamn i texten nedan finns i en separat lista. Lägg till en notering för var och en: "som gör anspråk på i denna text, måste verifieras oberoende." Om du inte väljer någon, "verifiera"; Skapa bara en lista för att verifiera så att jag kan kontrollera den från katalogen/källan. Text: [här]
2) Anakronismskanning:
Granska texten om [period] nedan. Markera termer, institutioner, begrepp och värderingar som KANSKE INTE hör till denna period. För varje, skriv kort varför du är misstänksam. Göra en slutgiltig bedömning; Skapa en lista över misstankar som experten kommer att kontrollera. Text: [här]
3) Ramverk för källkritik:
En källkritik utarbetas om följande källa: (1) Vem kan ha producerat den, (2) När, (3) För vilket syfte, (4) Vilka är dess möjliga fördomar, (5) Vilka frågor bör man lita på och vilka bör vara försiktiga. Påförande av slutlig dom; Ge frågor och möjliga svarsalternativ. Källa: [här]
4) Saknas volym/biaskontroll:
VEMS röst och vilken grupps erfarenhet kan saknas eller vara ensidig i följande historiska sammanfattning? Vilket perspektiv är dominerande, vilket är osynligt? Ta fram detta som en lista med frågor; Jag kommer att fylla den med korsreferenser. Sammanfattning: [här]
Svag prompt / Stark prompt
Svag:
Ge mig pålitliga historiska källor och citat om detta ämne.
AI är mycket benäget att producera referenser som är korrekta till formen men tillverkade till innehåll när de tillfrågas om "källa" och "citat". Denna uppmaning är en direkt inbjudan till hallucinationer.
Stark:
Föreslå vilken SLAGS källor (arkivfondtyp, publikationstyp, institution) jag bör leta efter i min forskning om detta ämne. PASSA en specifik referens, filnummer eller offert; Säg bara var jag ska leta. Sedan hittar jag de riktiga källorna från katalogerna.
Skillnad: AI frågas efter "var ska man leta", inte "faktisk referens"; Risken för hallucinationer minskar radikalt och verifiering överlåts till människan.
Vanliga misstag
- Förlitar sig på rätt referens. Den påhittade referensen verkar också felfri; måste verifieras i katalogen.
- Tar ett direkt citat från AI. Citat kan inte användas utan bekräftelse från den primära/tillförlitliga källan.
- Med utsikt över anakronismen. Dagens termer och begrepp sipprar tyst in i det förflutna.
- Reproducera fördomar. AI kopierar tystnader från källor; Det är nödvändigt att fråga om det saknade ljudet.
- Förlitar sig på en enda källa. Kritiska fakta måste bekräftas av minst två oberoende källor.
Sammanfattningsvis
Källverifiering är hjärtat av historia och arkivering, och är ännu mer kritisk i AI:s tidsålder. Hallucination producerar källor, citat och händelser vars form är perfekt men vars innehåll är fiktivt; anakronism förvränger det förflutna genom dagens linser; och AI återger fördomar i källor. Försvar är en disciplin: verifiera varje referens i katalogen, jämför innehåll med dokument, krysskolla kritiska fakta, filtrera igenom period och partiskhet. Fråga AI om "var man ska leta", inte "den faktiska källan." Sanningens väktare är alltid experten.
Applikationsuppgift
Låt AI producera en lista med resurser om ett ämne du arbetar med (med en avsiktligt "svag prompt"). Extrahera sedan alla referenser från denna utdata med mallen "referensvalideringslista" och sök igenom var och en i en katalog. Räkna hur många som faktiskt finns och hur många som är påhittade eller felaktiga. Upprepa samma ämne med en "stark uppmaning" ("var ska jag titta") och upplev skillnaden.
checklista
- [ ] Jag verifierade varje referens i katalogen/pålitlig källa.
- [ ] Jag har verifierat varje citat med den primära/tillförlitliga källan.
- [ ] Jag har korskontrollerat kritiska fakta med minst två oberoende källor.
- [ ] Jag filtrerade utdata för anakronismer.
- [ ] Jag ifrågasatte saknade/förvrängda röster och partiskhet.