Qligħ:
- Kapaċità li tispjega għaliex l-alluċinazzjoni (sors iffabbrikat, kwotazzjoni, avveniment) u anakroniżmu huma l-iżbalji l-aktar perikolużi fl-istorja
- Kapaċità li tapplika d-dixxiplina li tivverifika kull referenza fil-katalgu, li tqabbel il-kontenut mad-dokument, u li tikkonferma l-fatti kritiċi.
- Kapaċità li tiddubita l-preġudizzju u l-vuċijiet neqsin fis-sorsi billi tistaqsi l-intelliġenza artifiċjali fejn għandha tfittex minflok is-sors reali
Hemm twissija ripetuta f'kull unità ta 'dan il-modulu: l-output tal-AI huwa talba, mhux fatt, sakemm jiġi vverifikat. Din l-unità ddawwar dik it-twissija f’dixxiplina. L-istorja u l-arkivjar huma intrinsikament oqsma bbażati fuq l-evidenza; L-iktar ħila bażika ta’ storiku hija l-kritika tas-sors (tistaqsi minn min, meta, għal liema skop ġie prodott sors u kemm hu affidabbli). Fl-era tal-AI, din il-ħila saret saħansitra aktar kritika minħabba li s-sors innifsu issa jista 'jkun iffabbrikat.
Hawnhekk se nkopru tliet perikli fil-fond: alluċinazzjoni (AI li tipproduċi informazzjoni fabbrikata, sorsi jew kwotazzjonijiet), anakroniżmu (elementi perjodiċi li qed jiġu mċaqalqa għall-perjodu ħażin), u d-dixxiplina tal-verifika tas-sors b'mod ġenerali. Se naraw ukoll li l-AI titgħallem minn sorsi li kienu mhux preċiżi jew preġudikati fil-passat, sabiex tkun tista' tirriproduċi l-preġudizzju.
Alluċinazzjoni: l-aktar żball perikoluż
Alluċinazzjoni hija meta AI tippreżenta b'mod kunfidenti xi ħaġa li fil-fatt ma teżistix. Storikament, jidher l-aktar fil-forom li ġejjin:
- Sors/referenza fabbrikati: Fond tal-arkivju, numru tal-fajl, ktieb jew oġġett ineżistenti.
- Kwotazzjoni magħmula: Kelma li fil-fatt ma ntqalx, sentenza li mhix fid-dokument.
- Ġrajja/data/persuna magħmula: Ġrajja li ma ġratx, data falza, persuna li ma teżistix.
- Konnessjoni fittizja: Relazzjoni kawża-effett ineżistenti bejn żewġ avvenimenti reali.
Dak li jagħmel alluċinazzjoni perikoluża huwa li tidher kredibbli. Referenza magħmula għandha l-istess format bħal referenza reali: isem tal-fond, numru, data. Allura "format jidher tajjeb" qatt ma tfisser "korretta".
Attenzjoni: L-ebda riżors prodott minn YZ ma jista 'jintuża mingħajr ma jiġi vverifikat u misjub fil-katalgu jew f'post affidabbli. L-uniku mod biex tipprova li teżisti referenza huwa li taraha fejn jinsab is-sors oriġinali (katalgu tal-arkivju, librerija, pubblikazzjoni). "AI tatha" mhix evidenza.
Anakroniżmu: nuċċalijiet tal-perjodu
L-anakroniżmu qed jara l-passat permezz tan-nuċċalijiet tal-lum. Minħabba li l-AI hija mħarrġa fil-lingwa tal-lum, għandha tendenza qawwija li:
- Terminu anakroniżmu: L-użu ta’ kelma, istituzzjoni jew kunċett li ma jappartjenix għall-perjodu.
- Anakroniżmu tal-kunċett: Il-proġettazzjoni ta’ idea tal-preżent (eż. ideoloġija jew identità moderna) fil-passat.
- Valur anakroniżmu: Tiġġudika l-imġiba tal-passat biss bl-istandards tal-lum.
Xogħol l-istoriku huwa li jifhem il-passat fil-kuntest tiegħu. L-AI hija nieqsa minn din is-sensittività tal-kuntest; Int trid tipprovdiha lilek innifsek.
Il-fehim għaliex l-alluċinazzjoni jiġri hekk spiss jagħmilha aktar faċli biex tipproteġi minnha. AI hija sistema li taħdem biex tipproduċi l-"kelma l-aktar probabbli li jmiss"; M'għandha l-ebda skop bħal "taf il-verità". Meta mistoqsi mistoqsija, kemm jekk jaf it-tweġiba jew le, huwa jipproduċi test li jidher statistikament konvinċenti. Il-format ta' referenza arkivjali (isem tal-fond, numru, data) huwa mudell miksub; L-AI tista 'timla dan il-mudell mingħajr referenza reali. Allura "għaliex l-AI tagħmel dan?" It-tweġiba għall-mistoqsija hija sempliċi: huwa aktar faċli għalih li jagħmel tajjeb milli "ma jafx". Ir-responsabbiltà taqa’ fuqek li timla dawn il-forom b’riżorsi reali.
Id-dixxiplina tal-verifika tas-sors: pass pass
1. Ivverifika l-eżistenza tar-riżorsa. Sib kull referenza mogħtija minn AI fil-katalgu/pubblikazzjoni. Jekk ma tistax issibha, tużahx.
2. Qabbel il-kontenut mas-sors. L-informazzjoni li l-AI tattribwixxi lil dokument fil-fatt teżisti fid-dokument? Il-kwotazzjoni hija eżattament l-istess?
3. Cross-konferma. Għal fatt kritiku, ħares lejn mill-inqas żewġ sorsi affidabbli indipendenti.
4. Applika l-kritika tas-sors. Is-sors innifsu huwa affidabbli? Min ipproduċiha, meta u għal liema skop? Huwa preġudikat?
5. Għaddiha mill-filtru anakroniżmu. Hemm xi termini, kunċetti jew ġudizzji ta' valur li ma jaqblux mal-perjodu fl-output?
6. Mistoqsija preġudizzju. L-AI setgħet tirriproduċi l-preġudizzji f'sorsi storiċi (jinjora grupp wieħed, tiffavorixxi perspettiva waħda)?
Saff ta' awtentikazzjoni
Mistoqsija
min jagħmel
entità
Din ir-riżorsa verament teżisti?
Inti fil-katalgu.
Kontenut
Dan verament jgħid fid-dokument?
Inti fid-dokument
Konferma
Xi sors ieħor jappoġġjaha?
int, salib
affidabbiltà
Is-sors huwa affidabbli?
ġudizzju espert
Perjodu
Hemm xi anakroniżmi?
ġudizzju espert
preġudizzju
Il-vuċi ta' min hija nieqsa/mgħawġa?
ġudizzju espert
tliet każijiet żgħar
Każ 1 — Sitt referenzi fabbrikati. Riċerkatur talab lill-AI għal lista ta 'sorsi dwar suġġett. YZ ipprovda 6 referenzi ta 'arkivju b'formattjar perfett. Fit-tfittxija fil-katalgu, 4 mis-6 kienu neqsin, 2 minnhom kellhom in-numru żbaljat. Kieku r-riċerkatur ma kienx ivverifika, kien ħareġ studju li kkwota sorsi ineżistenti. Lezzjoni: kull referenza hija verifikata fil-katalgu.
Każ 2 — Kwotazzjoni magħmula. Kittieb juża kwotazzjoni impressjonanti li l-AI tattribwixxi lil figura storika. Meta investiga s-sors, ra li ma kien hemm l-ebda dokument li jipprova li dik il-persuna qalet ħaġa bħal din, u li l-istqarrija kienet “magħmula” minn AI. Lezzjoni: il-kwotazzjonijiet ma jistgħux jintużaw mingħajr verifika minn sors primarju jew affidabbli.
Każ 3 — Riproduzzjoni ta' preġudizzju. Student kellu l-AI jispjega l-istorja ta 'reġjun. L-output injora kompletament komunità speċifika f'dik iż-żona minħabba li s-sorsi li l-AI kienet tgħallmet minnhom kienu wkoll injorawhom. L-istudent innota u kkoreġi din id-distakk b'kontroreferenzi. Lezzjoni: AI tirriproduċi silenzji u preġudizzji fis-sorsi; Wieħed irid jistaqsi li l-vuċi ta’ min hu nieqes.
Erba' mudelli li jistgħu jiġu kkupjati
1) Lista ta' verifika ta' referenza:
L-ismijiet tas-sors, referenza, kwotazzjoni, data u persuni KOLLHA fit-test hawn taħt jidhru f'lista separata. Żid nota għal kull wieħed: "iddikjarat f'dan it-test, għandu jiġi vverifikat b'mod indipendenti." Jekk tagħżel l-ebda waħda, "verifika"; Jipproduċi biss lista biex tivverifika sabiex inkun nista' niċċekkjaha mill-katalgu/sors. Test: [hawn]
2) Skennjar anakroniżmu:
Eżamina t-test dwar [perjodu] hawn taħt. Enfasizza termini, istituzzjonijiet, kunċetti, u valuri li JISTGĦU MA jappartjenux għal dan il-perjodu. Għal kull wieħed, ikteb fil-qosor għaliex inti suspettuż. Jagħmel ġudizzju finali; Oħloq lista ta’ suspetti li l-espert jiċċekkja. Test: [hawn]
3) Qafas ta' kritika tas-sors:
Kritika tas-sors hija abbozzata dwar is-sors li ġej: (1) Min seta’ pproduċiha, (2) Meta, (3) Għal liema skop, (4) X’inhuma l-preġudizzji possibbli tagħha, (5) Liema kwistjonijiet għandhom ikunu fdati u liema għandhom ikunu kawti. L-impożizzjoni tas-sentenza finali; Ipprovdi mistoqsijiet u għażliet possibbli ta’ tweġibiet. Sors: [hawn]
4) Kontroll tal-volum/preġudizzju nieqes:
Il-vuċi ta' MIN u l-esperjenza ta' liema grupp jistgħu jkunu nieqsa jew fuq naħa waħda fis-sommarju storiku li ġej? Liema perspettiva hija dominanti, li hija inviżibbli? Ipproduċi dan bħala lista ta' mistoqsijiet; Se nimliha b'kontroreferenzi. Sommarju: [hawn]
Pront dgħajjef / Pront qawwi
Dgħajjef:
Agħtini sorsi u kwotazzjonijiet storiċi affidabbli dwar dan is-suġġett.
L-AI hija suxxettibbli ħafna li tipproduċi referenzi li huma korretti fil-forma iżda fabbrikati fil-kontenut meta mitluba għal "sors" u "ċitazzjoni". Dan il-pront huwa stedina diretta għall-alluċinazzjoni.
Qawwija:
Issuġġerixxi x'TIP ta' sorsi (tip ta' fond ta' arkivju, tip ta' pubblikazzjoni, istituzzjoni) għandi nfittex fir-riċerka tiegħi dwar dan is-suġġett. TWAĦĦIL ta’ referenza speċifika, numru tal-fajl jew kwotazzjoni; Għidli biss fejn infittex. Imbagħad insib is-sorsi reali mill-katalgi.
Differenza: AI tintalab "fejn tfittex", mhux "referenza attwali"; Ir-riskju ta' alluċinazzjoni jitnaqqas b'mod radikali u l-verifika titħalla f'idejn il-bniedem.
Żbalji komuni
- Billi bbażat ruħha fuq ir-referenza korretta. Ir-referenza magħmula wkoll tidher bla difetti; għandhom jiġu vverifikati fil-katalgu.
- Teħid ta 'kwotazzjoni diretta mill-AI. Il-kwotazzjonijiet ma jistgħux jintużaw mingħajr konferma mis-sors primarju/affidabbli.
- Li tinjora l-anakroniżmu. It-termini u l-kunċetti tal-lum jidħlu fis-skiet fil-passat.
- Riproduzzjoni tal-preġudizzju. AI tikkopja silenzji minn sorsi; Huwa meħtieġ li tistaqsi dwar il-ħoss nieqes.
- Jiddependu fuq sors wieħed. Il-fatti kritiċi għandhom jiġu kkonfermati minn mill-inqas żewġ sorsi indipendenti.
Fil-qosor
Il-verifika tas-sors hija fil-qalba tal-istorja u l-arkivjar, u hija saħansitra aktar kritika fl-era tal-IA. Alluċinazzjoni tipproduċi sorsi, kwotazzjonijiet, u avvenimenti li l-forma tagħhom hija perfetta iżda li l-kontenut tagħhom huwa fittizju; anakroniżmu jgħawweġ il-passat mil-lentijiet tal-lum; u l-AI tirriproduċi l-preġudizzji fis-sorsi. Id-difiża hija dixxiplina: ivverifika kull referenza fil-katalgu, qabbel il-kontenut mad-dokument, iċċekkja l-fatti kritiċi, iffiltra mill-perjodu u l-preġudizzju. Staqsi lill-AI għal "fejn tfittex," mhux "is-sors attwali." Il-gwardjan tal-verità huwa dejjem l-espert.
Kompitu ta' applikazzjoni
Ħalli l-AI tipproduċi lista ta’ riżorsi fuq suġġett li qed taħdem fuqu (b’pront deliberatament “dgħajjef”). Imbagħad iġbed ir-referenzi kollha minn din l-output bil-mudell "lista ta 'validazzjoni ta' referenza" u fittex kull waħda f'katalgu. Għaddi kemm jeżistu attwalment u kemm huma magħmula jew mhux preċiżi. Irrepeti l-istess suġġett bi "pront qawwi" ("fejn għandi nħares") u esperjenza d-differenza.
lista ta' kontroll
- [ ] Ivverifikajt kull referenza fil-katalgu/sors ta' fiduċja.
- [ ] I vverifikajt kull kwotazzjoni bis-sors primarju/affidabbli.
- [ ] Jien kont kontroċċekkja l-fatti kritiċi b'mill-inqas żewġ sorsi indipendenti.
- [ ] Iffiltrajt l-output għal anakroniżmi.
- [ ] Staqsejt il-vuċijiet neqsin/mgħawġa u l-preġudizzju.