Dobički:
- Sposobnost pojasniti, zakaj sta halucinacija (izmišljen vir, citat, dogodek) in anahronizem najnevarnejši napaki v zgodovini
- Sposobnost uporabe discipline preverjanja vsake reference v katalogu, primerjave vsebine z dokumentom in navzkrižnega potrjevanja kritičnih dejstev.
- Sposobnost dvoma o pristranskosti in manjkajočih glasovih v virih tako, da vprašate umetno inteligenco, kje naj išče namesto pravega vira
V vsaki enoti tega modula se ponavlja opozorilo: rezultat AI je trditev, ne dejstvo, dokler ni preverjeno. Ta enota to opozorilo spremeni v disciplino. Zgodovina in arhiviranje sta sami po sebi področji, ki temeljita na dokazih; Najosnovnejša veščina zgodovinarja je kritika virov (spraševanje, kdo, kdaj, za kakšen namen je vir ustvaril in kako zanesljiv je). V dobi umetne inteligence je ta veščina postala še bolj kritična, ker je lahko sam vir zdaj izmišljen.
Tukaj bomo poglobljeno obravnavali tri nevarnosti: halucinacije (AI proizvaja izmišljene informacije, vire ali citate), anahronizem (periodični elementi so premaknjeni v napačno obdobje) in disciplino preverjanja virov na splošno. Videli bomo tudi, kako se AI uči iz virov, ki so bili v preteklosti netočni ali pristranski, tako da lahko reproducira pristranskost.
Halucinacija: najnevarnejša napaka
Halucinacija je, ko AI samozavestno predstavi nekaj, kar dejansko ne obstaja. Zgodovinsko gledano se najpogosteje pojavlja v naslednjih oblikah:
- Izmišljen vir/referenca: Neobstoječ arhivski fond, številka spisa, knjige ali članka.
- Izmišljen citat: Beseda, ki dejansko ni bila izrečena, stavek, ki ga ni v dokumentu.
- Izmišljen dogodek/datum/oseba: dogodek, ki se ni zgodil, napačen datum, oseba, ki ne obstaja.
- Fiktivna povezava: Neobstoječa vzročno-posledična povezava med dvema resničnima dogodkoma.
Zaradi česar je halucinacija nevarna, je to, da se zdi verjetna. Izmišljena referenca ima enako obliko kot prava referenca: ime sklada, številka, datum. Torej "format izgleda pravilno" nikoli ne pomeni "pravilno".
Pozor: Nobenega vira, ki ga proizvaja YZ, ni mogoče uporabiti, če ni preverjen in najden v katalogu ali na zanesljivem mestu. Edini način, da dokažete, da referenca obstaja, je, da jo vidite tam, kjer se nahaja izvirni vir (arhivski katalog, knjižnica, publikacija). "AI je dal" ni dokaz.
Anahronizem: očala obdobja
Anahronizem je gledanje preteklosti skozi današnja očala. Ker je umetna inteligenca usposobljena za današnji jezik, je močno nagnjena k:
- Anahronizem izraza: uporaba besede, institucije ali pojma, ki ne pripada obdobju.
- Anahronizem koncepta: projiciranje ideje o sedanjosti (npr. moderne ideologije ali identitete) v preteklost.
- Anahronizem vrednot: presojanje preteklega vedenja samo po današnjih standardih.
Naloga zgodovinarja je razumeti preteklost v njenem kontekstu. AI nima te občutljivosti na kontekst; Zagotoviti ga morate sami.
Če razumemo, zakaj se halucinacije pojavljajo tako pogosto, se je lažje zaščititi pred njimi. AI je sistem, ki deluje tako, da ustvari "naslednjo najverjetnejšo besedo"; Nima nobenega namena kot "vedenje resnice". Na vprašanje, ne glede na to, ali pozna odgovor ali ne, ustvari besedilo, ki je videti statistično prepričljivo. Oblika zapisa arhivske reference (ime fonda, številka, datum) je naučen vzorec; AI lahko zapolni ta vzorec brez prave reference. Torej, "zakaj si AI izmisli?" Odgovor na vprašanje je preprost: lažje se je pomiriti kot "ne vedeti". Na vas je odgovornost, da te kalupe napolnite z resničnimi viri.
Disciplina preverjanja vira: korak za korakom
1. Preverite obstoj vira. V katalogu/objavi poiščite vse reference, ki jih je dal AI. Če ga ne najdete, ga ne uporabljajte.
2. Primerjajte vsebino z virom. Ali informacije, ki jih AI pripiše dokumentu, dejansko obstajajo v dokumentu? Ali je citat popolnoma enak?
3. Navzkrižna potrditev. Za kritično dejstvo si oglejte vsaj dva neodvisna zanesljiva vira.
4. Uporabite kritiko vira. Je sam vir zanesljiv? Kdo ga je izdelal, kdaj in za kakšen namen? Ali je pristransko?
5. Prepustite ga skozi filter anahronizma. Ali obstajajo izrazi, koncepti ali vrednostne sodbe, ki ne ustrezajo obdobju v rezultatu?
6. Presprašujte predsodke. Ali je umetna inteligenca lahko reproducirala pristranskosti v zgodovinskih virih (ignoriranje ene skupine, dajanje prednosti enemu stališču)?
Sloj za preverjanje pristnosti
vprašanje
kdo počne
subjekt
Ali ta vir res obstaja?
V katalogu ste.
Vsebina
Ali to res piše v dokumentu?
Ti v dokumentu
Potrditev
Ali to podpira še kateri drug vir?
ti, križ
zanesljivost
Ali je vir zanesljiv?
strokovna presoja
Pika
Ali obstajajo kakšni anahronizmi?
strokovna presoja
predsodki
Čigav glas manjka/popačen?
strokovna presoja
trije mini kovčki
Primer 1 – šest izmišljenih referenc. Raziskovalec je prosil AI za seznam virov o temi. YZ je zagotovil 6 arhivskih referenc s popolnim oblikovanjem. Pri iskanju po katalogu so 4 od 6 manjkali, 2 sta imela napačno številko. Če raziskovalec ne bi preverjal, bi nastala študija, ki bi navajala neobstoječe vire. Nauk: vsaka referenca je preverjena v katalogu.
Primer 2 – Izmišljena ponudba. Pisatelj bi uporabil osupljiv citat, ki ga AI pripiše zgodovinski osebnosti. Ko je preiskal vir, je videl, da ni nobenega dokumenta, ki bi dokazoval, da je ta oseba rekla kaj takega, in da je izjavo "izmislil" AI. Nauk: citatov ni mogoče uporabiti brez preverjanja primarnega ali zanesljivega vira.
Primer 3 – Reprodukcija predsodkov. Študentu je AI razložil zgodovino regije. Rezultat je popolnoma prezrl določeno skupnost na tem območju, ker so jih prezrli tudi viri, iz katerih se je umetna inteligenca naučila. Študent je to vrzel opazil in z navzkrižnimi referencami popravil. Lekcija: AI reproducira molke in pristranskost v virih; Vprašati se je treba, čigav glas manjka.
Štiri predloge za kopiranje
1) Seznam za preverjanje referenc:
VSA imena virov, referenc, citatov, datumov in oseb v spodnjem besedilu so prikazana na ločenem seznamu. Za vsako dodajte opombo: "kar se trdi v tem besedilu, mora biti neodvisno preverjeno." Če ne izberete nobenega, "preveri"; Pripravite samo seznam za preverjanje, da ga lahko preverim iz kataloga/vira. Besedilo: [tukaj]
2) Skeniranje anahronizma:
Preglejte besedilo o [obdobje] spodaj. Označite izraze, institucije, koncepte in vrednote, ki MORDA NE pripadajo temu obdobju. Za vsako na kratko napišite, zakaj ste sumljivi. Izdelava končne sodbe; Sestavite seznam sumov, ki jih bo strokovnjak preveril. Besedilo: [tukaj]
3) Okvir kritike vira:
Kritika vira je sestavljena glede naslednjega vira: (1) Kdo bi ga lahko ustvaril, (2) Kdaj, (3) Za kakšen namen, (4) Kakšne so njegove možne pristranskosti, (5) Katerim vprašanjem je treba zaupati in pri katerih je treba biti previden. Izrek pravnomočne sodbe; Navedite vprašanja in možne možnosti odgovorov. Vir: [tukaj]
4) Manjka nadzor glasnosti/pristranskosti:
ČIGAV glas in izkušnja katere skupine morda manjka ali je enostranska v naslednjem zgodovinskem povzetku? Katera perspektiva je dominantna, katera nevidna? Ustvarite to kot seznam vprašanj; Napolnil ga bom s sklicevanji. Povzetek: [tukaj]
Šibek poziv/močan poziv
Šibko:
Povej mi zanesljive zgodovinske vire in citate o tej temi.
Umetna inteligenca je zelo nagnjena k izdelavi referenc, ki so pravilne po obliki, vendar izmišljene po vsebini, ko jih vprašamo za "vir" in "citat". Ta poziv je neposredno vabilo k halucinaciji.
Močno:
Predlagajte, katere VRSTE virov (vrsta arhivskega fonda, vrsta publikacije, ustanova) naj poiščem pri raziskovanju te teme. NAMESTITEV posebne reference, številke datoteke ali ponudbe; Samo povej mi, kje naj iščem. Potem bom našel prave vire iz katalogov.
Razlika: AI zahteva "kje iskati", ne "dejanske reference"; Tveganje za halucinacije se radikalno zmanjša, preverjanje pa je prepuščeno človeku.
Pogoste napake
- Zanašanje na pravilno referenco. Izmišljena referenca je prav tako videti brezhibna; mora biti preverjen v katalogu.
- Neposredno citiranje AI. Navedb ni mogoče uporabiti brez potrditve primarnega/zanesljivega vira.
- Spregleda anahronizem. Današnji izrazi in pojmi tiho sežejo v preteklost.
- Reproduciranje predsodkov. AI kopira molke iz virov; Vprašati se je treba o manjkajočem zvoku.
- Zanašanje na en sam vir. Kritična dejstva morajo biti potrjena iz vsaj dveh neodvisnih virov.
Če povzamem
Preverjanje vira je v središču zgodovine in arhiviranja, v dobi umetne inteligence pa je še bolj kritično. Halucinacije proizvajajo vire, citate in dogodke, katerih oblika je popolna, a vsebina izmišljena; anahronizem izkrivlja preteklost skozi današnje leče; in AI reproducira pristranskosti v virih. Obramba je disciplina: preverite vsako referenco v katalogu, primerjajte vsebino z dokumentom, navzkrižno preverite kritična dejstva, filtrirajte skozi obdobje in pristranskost. Vprašajte AI za "kje iskati", ne za "dejanski vir." Varuh resnice je vedno strokovnjak.
Aplikacijska naloga
Naj AI pripravi seznam virov o temi, ki jo obravnavate (z namerno "šibkim pozivom"). Nato izvlecite vse reference iz tega rezultata s predlogo "seznam za preverjanje referenc" in vsako poiščite v katalogu. Preštejte, koliko jih dejansko obstaja in koliko jih je izmišljenih ali netočnih. Ponovite isto temo z "močnim pozivom" ("kje naj pogledam") in občutite razliko.
kontrolni seznam
- [ ] Preveril sem vsako referenco v katalogu/zaupanja vrednem viru.
- [ ] Vsako ponudbo sem preveril s primarnim/zanesljivim virom.
- [ ] Kritična dejstva sem navzkrižno preveril pri vsaj dveh neodvisnih virih.
- [ ] Izhod sem filtriral zaradi anahronizmov.
- [ ] Podvomil sem o manjkajočih/popačenih glasovih in pristranskosti.