Kasu:
- Oskus selgitada, miks hallutsinatsioonid (väljamõeldud allikas, tsitaat, sündmus) ja anakronism on ajaloo kõige ohtlikumad vead
- Oskus rakendada kataloogi iga viite kontrollimise, dokumendi sisu võrdlemise ja kriitiliste faktide ristkinnitamise distsipliini.
- Võimalus seada kahtluse alla allikate kallutatus ja puudulikud hääled, küsides tehisintellektilt, kust otsida tegeliku allika asemel
Selle mooduli igas üksuses korratakse hoiatust: AI väljund on väide, mitte fakt, kuni see pole kontrollitud. See üksus muudab selle hoiatuse distsipliiniks. Ajalugu ja arhiveerimine on oma olemuselt tõenduspõhised valdkonnad; Ajaloolase kõige elementaarsem oskus on allikakriitika (küsib, kes, millal, mis eesmärgil allikas on toodetud ja kui usaldusväärne see on). Tehisintellekti ajastul on see oskus muutunud veelgi kriitilisemaks, kuna allikas ise võib nüüd olla välja mõeldud.
Siin käsitleme põhjalikult kolme ohtu: hallutsinatsioonid (AI, mis toodab väljamõeldud teavet, allikaid või tsitaate), anakronism (perioodilised elemendid liigutatakse valesse perioodi) ja allika kontrollimise distsipliin üldiselt. Näeme ka tehisintellekti õppimist allikatest, mis olid minevikus ebatäpsed või kallutatud, nii et see võib kallutatust reprodutseerida.
Hallutsinatsioonid: kõige ohtlikum viga
Hallutsinatsioon on see, kui tehisintellekt esitab enesekindlalt midagi, mida tegelikult ei eksisteeri. Ajalooliselt on seda kõige sagedamini näha järgmistes vormides:
- Väljatöötatud allikas/viide: olematu arhiivifond, faili number, raamat või artikkel.
- Väljamõeldud tsitaat: sõna, mida tegelikult ei öeldud, lause, mida dokumendis pole.
- Väljamõeldud sündmus/kohting/inimene: Sündmus, mida ei juhtunud, valekohting, isik, keda pole olemas.
- Fiktiivne seos: olematu põhjus-tagajärg seos kahe reaalse sündmuse vahel.
Hallutsinatsiooni teeb ohtlikuks see, et see tundub usutav. Väljamõeldud viide on samas vormingus kui pärisviit: fondi nimi, number, kuupäev. Nii et "vorming näeb välja õige" ei tähenda kunagi "õiget".
Tähelepanu: Ühtegi YZ toodetud ressurssi ei saa kasutada ilma kontrollimiseta ja kataloogist leidmata või usaldusväärsest kohast. Ainus viis viite olemasolu tõestamiseks on vaadata seda algallika asukohas (arhiivikataloog, raamatukogu, väljaanne). "AI andis selle" ei ole tõend.
Anakronism: perioodi prillid
Anakronism on mineviku nägemine läbi tänapäeva prillide. Kuna tehisintellekti koolitatakse tänapäeva keeles, on sellel tugev kalduvus:
- Termini anakronism: sellesse perioodi mittekuuluva sõna, institutsiooni või mõiste kasutamine.
- Mõiste anakronism: oleviku idee (nt moodne ideoloogia või identiteet) projitseerimine minevikku.
- Väärtuste anakronism: hinnata mineviku käitumist ainult tänapäevaste standardite järgi.
Ajaloolase ülesanne on mõista minevikku selle kontekstis. AI-l puudub see kontekstitundlikkus; Peate selle ise pakkuma.
Kui mõistate, miks hallutsinatsioonid nii sageli esinevad, on lihtsam nende eest kaitsta. AI on süsteem, mis loob "järgmise kõige tõenäolisema sõna"; Sellel pole mingit eesmärki nagu "tõe teadmine". Kui talle esitatakse küsimus, kas ta teab vastust või mitte, toodab ta teksti, mis tundub statistiliselt veenev. Arhiiviviide vorming (fondi nimi, number, kuupäev) on õpitud muster; AI suudab selle mustri täita ilma tõelise viiteta. Nii et "miks AI selle välja teeb?" Vastus küsimusele on lihtne: tal on lihtsam leppida kui "ei tea". Vastutus need vormid reaalsete ressurssidega täita lasub teil.
Allika kontrollimise distsipliin: samm-sammult
1. Kontrollige ressursi olemasolu. Otsige kataloogist/väljaandest üles kõik tehisintellekti antud viited. Kui te ei leia seda, ärge kasutage seda.
2. Võrrelge sisu allikaga. Kas teave, mille AI dokumendile omistab, on dokumendis tegelikult olemas? Kas tsitaat on täpselt sama?
3. Ristkinnitage. Kriitilise fakti saamiseks vaadake vähemalt kahte sõltumatut usaldusväärset allikat.
4. Rakenda allikakriitikat. Kas allikas ise on usaldusväärne? Kes selle valmistas, millal ja mis eesmärgil? Kas see on erapoolik?
5. Laske see läbi anakronismifiltri. Kas on mingeid termineid, mõisteid või väärtushinnanguid, mis väljundis perioodiga ei sobi?
6. Küsi eelarvamus. Kas AI oleks võinud ajalooliste allikate eelarvamusi reprodutseerida (ühe rühma ignoreerimine, ühe vaatenurga eelistamine)?
Autentimiskiht
küsimus
kes teeb
üksus
Kas see ressurss on tõesti olemas?
Sina kataloogis.
Sisu
Kas see on tõesti dokumendis kirjas?
Sina dokumendis
Kinnitus
Kas mõni muu allikas toetab seda?
sina, rist
usaldusväärsus
Kas allikas on usaldusväärne?
eksperthinnang
Periood
Kas on mingeid anakronisme?
eksperthinnang
eelarvamus
Kelle hääl on puudu/moonutatud?
eksperthinnang
kolm minikarpi
Juhtum 1 – kuus väljamõeldud viidet. Teadlane küsis tehisintellektilt selle teema allikate loendit. YZ andis 6 täiusliku vorminguga arhiiviviidet. Kataloogiotsingus oli 6-st puudu 4, neist 2 oli vale numbriga. Kui teadlane poleks kontrollinud, oleks ilmunud uuring, mis viitab olematutele allikatele. Õppetund: iga viide on kataloogis kontrollitud.
Juhtum 2 – väljamõeldud tsitaat. Kirjanik kasutaks silmatorkavat tsitaati, mille AI omistab ajaloolisele isikule. Allikat uurides nägi ta, et ei olnud dokumenti, mis tõendaks, et isik ütles niisugust asja, ja et avaldus oli AI väljamõeldud. Õppetund: tsitaate ei saa kasutada ilma esmase või usaldusväärse allika kontrollita.
Juhtum 3 – eelarvamuste taastootmine. Üliõpilane lasi tehisintellektil selgitada piirkonna ajalugu. Väljund ignoreeris täielikult konkreetset kogukonda selles piirkonnas, kuna allikad, millest AI oli õppinud, olid samuti neid ignoreerinud. Õpilane märkas ja parandas seda lünka ristviidetega. Õppetund: AI taastoodab allikate vaikimisi ja eelarvamusi; Tuleb küsida, kelle hääl puudub.
Neli kopeeritavat malli
1) Viide kinnitusloendile:
KÕIK allolevas tekstis olevad allikate, viidete, tsitaatide, kuupäevade ja isikute nimed kuvatakse eraldi loendis. Lisage iga kohta märkus: "selles tekstis väidetud, tuleb sõltumatult kontrollida." Kui valite mitte ühtegi, "kinnita"; Lihtsalt koostage kontrollimiseks loend, et saaksin seda kataloogist/allikast kontrollida. Tekst: [siin]
2) Anakronismi skaneerimine:
Uurige allolevat teksti [periood] kohta. Tõstke esile terminid, institutsioonid, mõisted ja väärtused, mis EI TOHI sellesse perioodi kuuluda. Kirjutage igaühe kohta lühidalt, miks olete kahtlustav. Lõpliku otsuse tegemine; Koostage nimekiri kahtlustest, mida ekspert kontrollib. Tekst: [siin]
3) Allikakriitika raamistik:
Allikakriitika koostatakse järgmise allika kohta: (1) kes võis selle koostada, (2) millal, (3) mis eesmärgil, (4) millised on selle võimalikud eelarvamused, (5) milliseid probleeme tuleks usaldada ja milliseid tuleks olla ettevaatlik. Lõpliku kohtuotsuse kehtestamine; Esitage küsimused ja võimalikud vastusevariandid. Allikas: [siin]
4) Puuduv helitugevuse/nihke juhtelement:
KELLE hääl ja millise grupi kogemus võib järgmises ajaloolises kokkuvõttes puududa või ühekülgne? Milline vaatenurk on domineeriv, milline nähtamatu? Koostage see küsimuste loendina; Täidan selle ristviidetega. Kokkuvõte: [siin]
Nõrk viip / Tugev viip
Nõrk:
Andke mulle selle teema kohta usaldusväärseid ajalooallikaid ja tsitaate.
Tehisintellekt on väga kalduvus tootma viiteid, mis on vormilt õiged, kuid sisult väljamõeldud, kui küsitakse "allikat" ja "tsitaati". See vihje on otsene kutse hallutsinatsioonidele.
Tugev:
Soovitage, milliseid allikaid (arhiivifondi tüüp, väljaande tüüp, asutus) peaksin selle teema uurimisel otsima. Konkreetse viite, failinumbri või hinnapakkumise KOHALDAMINE; Lihtsalt ütle mulle, kust otsida. Siis leian kataloogidest tõelised allikad.
Erinevus: AI küsitakse "kust otsida", mitte "tegelikku viidet"; Hallutsinatsioonide risk on radikaalselt vähenenud ja kontrollimine jäetakse inimese hooleks.
Levinud vead
- Õigele viitele tuginemine. Väljamõeldud viide tundub samuti veatu; tuleb kontrollida kataloogis.
- Otsene tsitaat AI-lt. Tsitaate ei saa kasutada ilma esmase/usaldusväärse allika kinnituseta.
- Vaade anakronismile. Tänapäeva terminid ja mõisted imbuvad vaikselt minevikku.
- Eelarvamuste taastootmine. AI kopeerib vaikimisi allikatest; Puuduva heli kohta on vaja küsida.
- Tuginedes ühele allikale. Kriitilised faktid peavad olema kinnitatud vähemalt kahe sõltumatu allika poolt.
Kokkuvõttes
Allika kontrollimine on ajaloo ja arhiveerimise keskmes ning AI ajastul veelgi kriitilisem. Hallutsinatsioonid toodavad allikaid, tsitaate ja sündmusi, mille vorm on täiuslik, kuid mille sisu on väljamõeldud; anakronism moonutab minevikku läbi tänapäeva objektiivide; ja AI taastoodab allikate eelarvamusi. Kaitse on distsipliin: kontrollige iga viidet kataloogis, võrrelge sisu dokumendiga, kontrollige kriitilisi fakte, filtreerige läbi perioodide ja eelarvamuste. Küsige AI-lt "kust otsida", mitte "tegelikku allikat". Tõe valvur on alati ekspert.
Rakenduse ülesanne
Laske tehisintellektil koostada ressursside loend teemal, millega te töötate (sihilikult "nõrga viipaga"). Seejärel ekstraheerige sellest väljundist kõik viited malliga "viite kinnitamise loend" ja otsige igaüks neist kataloogist. Loendage, kui palju neid on tegelikult olemas ja kui paljud on väljamõeldud või ebatäpsed. Korrake sama teemat "tugeva viipega" ("kuhu ma peaksin vaatama") ja kogege erinevust.
kontrollnimekiri
- [ ] Kontrollisin iga viidet kataloogis/usaldusväärses allikas.
- [ ] Olen kontrollinud iga hinnapakkumist esmase/usaldusväärse allikaga.
- [ ] Olen kriitilisi fakte ristkontrollinud vähemalt kahe sõltumatu allikaga.
- [ ] Filtreerisin väljundi anakronismide jaoks.
- [ ] Ma seadsin kahtluse alla puuduvate/moonutatud häälte ja kallutatuse.