Mga nadagdag:
- Kakayahang ipaliwanag kung bakit ang guni-guni (likhang pinagmulan, quote, kaganapan) at anachronism ay ang pinaka-mapanganib na pagkakamali sa kasaysayan
- Kakayahang ilapat ang disiplina sa pag-verify ng bawat sanggunian sa catalog, paghahambing ng nilalaman sa dokumento, at pagkumpirma ng mga kritikal na katotohanan.
- Kakayahang magtanong ng bias at nawawalang mga boses sa mga source sa pamamagitan ng pagtatanong sa artificial intelligence kung saan titingnan sa halip na ang tunay na pinagmulan
Mayroong paulit-ulit na caveat sa bawat unit ng modyul na ito: ang output ng AI ay isang claim, hindi isang katotohanan, hanggang sa ma-verify. Ginagawa ng unit na ito ang babalang iyon bilang isang disiplina. Ang kasaysayan at pag-archive ay likas na mga field na nakabatay sa ebidensya; Ang pinakapangunahing kasanayan ng isang mananalaysay ay ang pagpuna sa pinagmulan (pagtatanong kung kanino, kailan, para sa anong layunin ginawa ang isang mapagkukunan at kung gaano ito maaasahan). Sa edad ng AI, ang kasanayang ito ay naging mas kritikal dahil ang pinagmulan mismo ay maaaring gawa-gawa na ngayon.
Dito ay tatalakayin natin nang malalim ang tatlong panganib: guni-guni (gumawa ng AI na gawa-gawang impormasyon, mga pinagmumulan o quote), anachronism (mga pana-panahong elemento na inililipat sa maling panahon), at ang disiplina ng pag-verify ng pinagmulan sa pangkalahatan. Makikita rin natin ang AI na natututo mula sa mga source na hindi tumpak o may kinikilingan sa nakaraan, kaya maaari itong magparami ng bias.
Hallucination: ang pinaka-mapanganib na pagkakamali
Ang guni-guni ay kapag ang isang AI ay may kumpiyansa na nagpapakita ng isang bagay na hindi talaga umiiral. Sa kasaysayan, ito ay pinakakaraniwang nakikita sa mga sumusunod na anyo:
- Fabricated source/reference: Isang hindi umiiral na archive fund, file number, libro o artikulo.
- Made-up quote: Isang salita na hindi talaga sinabi, isang pangungusap na wala sa dokumento.
- Ginawa na kaganapan/petsa/tao: Isang kaganapan na hindi nangyari, isang maling petsa, isang taong hindi umiiral.
- Ang kathang-isip na koneksyon: Isang hindi umiiral na ugnayang sanhi-epekto sa pagitan ng dalawang totoong pangyayari.
Ang dahilan kung bakit mapanganib ang isang guni-guni ay tila ito ay kapani-paniwala. Ang isang gawa-gawang sanggunian ay may parehong format bilang isang tunay na sanggunian: pangalan ng pondo, numero, petsa. Kaya ang "format ay mukhang tama" ay hindi nangangahulugang "tama".
Pansin: Walang mapagkukunang ginawa ng YZ ang maaaring gamitin nang hindi nabe-verify at makikita sa catalog o sa isang maaasahang lugar. Ang tanging paraan upang patunayan na mayroong isang sanggunian ay ang makita ito kung saan matatagpuan ang orihinal na pinagmulan (archive catalogue, library, publikasyon). "Ibinigay ito ng AI" ay hindi katibayan.
Anachronism: baso ng panahon
Ang anachronism ay nakikita ang nakaraan sa pamamagitan ng mga salamin ngayon. Dahil ang AI ay sinanay sa wikang ngayon, ito ay may malakas na tendensya na:
- Term anachronism: Paggamit ng salita, institusyon o konsepto na hindi kabilang sa panahon.
- Konseptong anachronism: Pagpapakita ng ideya ng kasalukuyan (hal. isang modernong ideolohiya o pagkakakilanlan) sa nakaraan.
- Pagpapahalaga sa anachronism: Paghusga sa nakaraang pag-uugali ayon lamang sa mga pamantayan ngayon.
Ang gawain ng mananalaysay ay unawain ang nakaraan sa konteksto nito. Kulang ang AI sa pagiging sensitibo sa konteksto; Dapat mong ibigay ito sa iyong sarili.
Ang pag-unawa kung bakit madalas nangyayari ang guni-guni ay nagpapadali sa pagprotekta laban dito. Ang AI ay isang sistema na gumagana upang makagawa ng "susunod na pinaka-malamang na salita"; Wala itong layunin tulad ng "pag-alam sa katotohanan". Kapag tinanong, kung alam niya ang sagot o hindi, gumagawa siya ng teksto na mukhang kapani-paniwala ayon sa istatistika. Ang format ng isang archival reference (pangalan ng pondo, numero, petsa) ay isang natutunang pattern; Maaaring punan ng AI ang pattern na ito nang walang tunay na sanggunian. Kaya "bakit binubuo ito ng AI?" Ang sagot sa tanong ay simple: mas madali para sa kanya na gumawa ng up kaysa sa "hindi alam". Nasa iyo ang responsibilidad na punan ang mga hulma na ito ng mga tunay na mapagkukunan.
Disiplina sa pag-verify ng pinagmulan: hakbang-hakbang
1. I-verify ang pagkakaroon ng mapagkukunan. Hanapin ang bawat reference na ibinigay ng AI sa catalog/publication. Kung hindi mo mahanap ito, huwag gamitin ito.
2. Ihambing ang nilalaman sa pinagmulan. Ang impormasyon ba na ina-attribute ng AI sa isang dokumento ay talagang umiiral sa dokumento? Pareho ba talaga ang quote?
3. Cross-confirm. Para sa isang kritikal na katotohanan, tumingin ng hindi bababa sa dalawang independiyenteng mapagkakatiwalaang mapagkukunan.
4. Ilapat ang pagpuna sa pinagmulan. Ang pinagmulan ba ay maaasahan? Sino ang gumawa nito, kailan at para sa anong layunin? May kinikilingan ba ito?
5. Ipasa ito sa anachronism filter. Mayroon bang anumang mga termino, konsepto o paghatol sa halaga na hindi akma sa panahon sa output?
6. Tanong pagkiling. Maaari bang muling ginawa ng AI ang mga bias sa mga makasaysayang mapagkukunan (binalewala ang isang grupo, pinapaboran ang isang punto ng pananaw)?
Layer ng pagpapatunay
Tanong
sino ang gumagawa
nilalang
Talaga bang umiiral ang mapagkukunang ito?
Ikaw sa catalogue.
Nilalaman
Talaga bang sinasabi nito sa dokumento?
Ikaw sa dokumento
Kumpirmasyon
May ibang source ba ang sumusuporta dito?
ikaw, tumawid
pagiging maaasahan
Mapagkakatiwalaan ba ang pinagmulan?
ekspertong paghuhusga
Panahon
Mayroon bang anumang mga anachronism?
ekspertong paghuhusga
pagtatangi
Kaninong boses ang nawawala/na-distort?
ekspertong paghuhusga
tatlong mini case
Case 1 — Anim na gawa-gawang sanggunian. Humingi ang isang mananaliksik sa AI ng isang listahan ng mga mapagkukunan sa isang paksa. Nagbigay ang YZ ng 6 na sanggunian sa archive na may perpektong pag-format. Sa paghahanap ng katalogo, 4 sa 6 ang nawawala, 2 sa kanila ay may maling numero. Kung ang mananaliksik ay hindi nag-verify, isang pag-aaral na binanggit ang mga hindi umiiral na mapagkukunan ay lumitaw. Aralin: bawat sanggunian ay napatunayan sa katalogo.
Case 2 — Made-up na quote. Ang isang manunulat ay gagamit ng isang kapansin-pansing quote na iniuugnay ng AI sa isang makasaysayang pigura. Nang imbestigahan niya ang source, nakita niyang walang dokumentong nagpapatunay na sinabi ng taong iyon ang ganoong bagay, at ang pahayag ay "ginawa" ng AI. Aralin: hindi maaaring gamitin ang mga quote nang walang pag-verify mula sa isang pangunahin o maaasahang pinagmulan.
Kaso 3 — Pagpaparami ng pagtatangi. Ang isang estudyante ay nagkaroon ng AI na ipaliwanag ang kasaysayan ng isang rehiyon. Ang output ay ganap na binalewala ang isang partikular na komunidad sa lugar na iyon dahil ang mga pinagmumulan na natutunan ng AI ay hindi rin pinansin ang mga ito. Napansin at itinama ng mag-aaral ang puwang na ito gamit ang mga cross-reference. Aralin: Ang AI ay gumagawa ng mga katahimikan at bias sa mga pinagmumulan; Dapat itanong kung kaninong boses ang nawawala.
Apat na maaaring kopyahin na mga template
1) Listahan ng pagpapatunay ng sanggunian:
LAHAT ng pinagmulan, sanggunian, quote, petsa at pangalan ng tao sa teksto sa ibaba ay lilitaw sa isang hiwalay na listahan. Magdagdag ng tala para sa bawat isa: "na-claim sa tekstong ito, dapat na independiyenteng ma-verify." Kung wala kang pipiliin, "i-verify"; Gumawa lamang ng isang listahan upang i-verify para masuri ko ito mula sa catalog/source. Teksto: [dito]
2) Anachronism scanning:
Suriin ang teksto tungkol sa [panahon] sa ibaba. I-highlight ang mga termino, institusyon, konsepto, at halaga na MAAARING HINDI kabilang sa panahong ito. Para sa bawat isa, isulat nang maikli kung bakit ka naghihinala. Paggawa ng pangwakas na paghatol; Gumawa ng listahan ng mga hinala na susuriin ng eksperto. Teksto: [dito]
3) Pinagmulan ng balangkas ng kritisismo:
Ang isang source critique ay ginawa tungkol sa sumusunod na source: (1) Sino ang maaaring gumawa nito, (2) Kailan, (3) Para sa anong layunin, (4) Ano ang mga posibleng bias nito, (5) Aling mga isyu ang dapat pagkatiwalaan at alin ang dapat maging maingat. Pagpapataw ng pangwakas na paghatol; Magbigay ng mga tanong at posibleng pagpipilian sa sagot. Pinagmulan: [dito]
4) Nawawalang kontrol ng volume/bias:
KANINONG boses at kung aling karanasan ng grupo ang maaaring nawawala o isang panig sa sumusunod na makasaysayang buod? Aling pananaw ang nangingibabaw, alin ang hindi nakikita? Gawin ito bilang isang listahan ng mga tanong; Pupunuin ko ito ng mga cross-reference. Buod: [dito]
Mahinang prompt / Malakas na prompt
mahina:
Bigyan mo ako ng mga mapagkakatiwalaang mapagkukunan ng kasaysayan at mga quote sa paksang ito.
Ang AI ay napakahilig gumawa ng mga sanggunian na tama sa anyo ngunit gawa-gawa sa nilalaman kapag tinanong para sa "pinagmulan" at "sipi". Ang prompt na ito ay isang direktang imbitasyon sa guni-guni.
malakas:
Magmungkahi kung anong URI ng mga mapagkukunan (uri ng pondo ng archive, uri ng publikasyon, institusyon) ang dapat kong hanapin sa aking pananaliksik sa paksang ito. PAGKAKAPAT sa isang partikular na sanggunian, numero ng file o quote; Sabihin mo lang kung saan titingin. Pagkatapos ay hahanapin ko ang mga tunay na mapagkukunan mula sa mga katalogo.
Pagkakaiba: Hinihiling ang AI para sa "kung saan titingin", hindi "aktwal na sanggunian"; Ang panganib ng guni-guni ay radikal na nabawasan at ang pagpapatunay ay naiwan sa tao.
Mga karaniwang pagkakamali
- Umaasa sa tamang sanggunian. Lumilitaw din na walang kamali-mali ang ginawang sanggunian; dapat ma-verify sa catalogue.
- Pagkuha ng direktang quote mula sa AI. Hindi maaaring gamitin ang mga panipi nang walang kumpirmasyon mula sa pangunahin/maaasahang pinagmulan.
- Tinatanaw ang anachronism. Tahimik na pumapasok sa nakaraan ang mga tuntunin at konsepto ngayon.
- Pagpaparami ng pagtatangi. Kinokopya ng AI ang mga katahimikan mula sa mga mapagkukunan; Kinakailangang magtanong tungkol sa nawawalang tunog.
- Umaasa sa iisang pinagmulan. Ang mga kritikal na katotohanan ay dapat kumpirmahin ng hindi bababa sa dalawang independiyenteng mapagkukunan.
Sa buod
Ang pag-verify ng pinagmulan ay nasa puso ng kasaysayan at pag-archive, at mas kritikal sa edad ng AI. Ang hallucination ay gumagawa ng mga mapagkukunan, quote, at mga kaganapan na ang anyo ay perpekto ngunit ang nilalaman ay kathang-isip; binaluktot ng anachronism ang nakaraan sa pamamagitan ng mga lente ngayon; at ang AI ay nagpaparami ng mga bias sa mga pinagmumulan. Ang pagtatanggol ay isang disiplina: i-verify ang bawat reference sa catalog, ihambing ang nilalaman sa dokumento, i-cross-check ang mga kritikal na katotohanan, i-filter ang panahon at bias. Tanungin ang AI para sa "kung saan titingnan," hindi "ang aktwal na pinagmulan." Ang tagapag-alaga ng katotohanan ay palaging dalubhasa.
Gawain ng aplikasyon
Hayaang gumawa ang AI ng isang listahan ng mga mapagkukunan sa isang paksang pinagtatrabahuhan mo (na may sadyang "mahinang prompt"). Pagkatapos ay i-extract ang lahat ng reference mula sa output na ito gamit ang template na "reference validation list" at hanapin ang bawat isa sa isang catalog. Bilangin kung ilan ang aktwal na umiiral at kung ilan ang binubuo o hindi tumpak. Ulitin ang parehong paksa na may "malakas na prompt" ("saan ako dapat tumingin") at maranasan ang pagkakaiba.
checklist
- [ ] Na-verify ko ang bawat reference sa catalog/pinagkakatiwalaang source.
- [ ] Na-verify ko na ang bawat quote gamit ang pangunahin/maaasahang pinagmulan.
- [ ] Nag-cross-check ako ng mga kritikal na katotohanan na may hindi bababa sa dalawang independiyenteng mapagkukunan.
- [ ] Na-filter ko ang output para sa mga anachronism.
- [ ] Kinuwestiyon ko ang mga nawawala/baluktot na boses at bias.