Hagnaður:
- Geta til að útskýra hvers vegna ofskynjanir (tilbúin heimild, tilvitnun, atburður) og tímaleysi eru hættulegustu mistök sögunnar
- Hæfni til að beita þeirri aga að sannreyna hverja tilvísun í vörulistanum, bera saman efni við skjalið og krossstaðfesta mikilvægar staðreyndir.
- Hæfni til að efast um hlutdrægni og vantar raddir í heimildum með því að spyrja gervigreind hvar eigi að leita í stað raunverulegrar heimildar
Það er fyrirvari sem er endurtekinn í hverri einingu þessarar einingar: framleiðsla gervigreindar er krafa, ekki staðreynd, þar til hún hefur verið staðfest. Þessi eining breytir þeirri viðvörun í aga. Saga og skjalavörsla eru í eðli sínu gagnreynd svið; Helsta kunnátta sagnfræðings er heimildagagnrýni (spurning af hverjum, hvenær, í hvaða tilgangi heimildin var framleidd og hversu áreiðanleg hún er). Á tímum gervigreindar hefur þessi færni orðið enn mikilvægari vegna þess að heimildin sjálf gæti nú verið tilbúin.
Hér munum við fjalla ítarlega um þrjár hættur: ofskynjanir (AI sem framleiðir tilbúnar upplýsingar, heimildir eða tilvitnanir), tímaleysi (tímabilsþættir eru færðir á rangt tímabil) og fræði heimildarsannprófunar almennt. Við munum einnig sjá gervigreind læra af heimildum sem voru ónákvæmar eða hlutdrægar í fortíðinni, svo það getur endurskapað hlutdrægni.
Ofskynjanir: hættulegustu mistökin
Ofskynjanir er þegar gervigreind sýnir eitthvað sem er ekki til í raun og veru. Sögulega séð er það oftast séð í eftirfarandi formum:
- Tilbúin heimild/heimild: Skjalasjóður, skráarnúmer, bók eða grein sem ekki er til.
- Tilvitnuð tilvitnun: Orð sem var í raun ekki sagt, setning sem er ekki í skjalinu.
- Tilbúinn atburður/dagsetning/persóna: Atburður sem gerðist ekki, fölsk dagsetning, einstaklingur sem er ekki til.
- Uppdiktuð tenging: Orsök-afleiðing sem ekki er til staðar á milli tveggja raunverulegra atburða.
Það sem gerir ofskynjanir hættulegar er að hún virðist trúverðug. Tilbúin tilvísun er með sama sniði og raunveruleg tilvísun: nafn sjóðs, númer, dagsetning. Þannig að "snið lítur vel út" þýðir aldrei "rétt".
Athugið: Ekki er hægt að nota neina auðlind framleidd af YZ án þess að vera staðfest og fundin í vörulistanum eða á áreiðanlegum stað. Eina leiðin til að sanna að tilvísun sé til er að sjá hana hvar upprunalega heimildin er staðsett (skjalaskrá, bókasafn, útgáfa). "AI gaf það" er ekki sönnun.
Anachronism: gleraugu tímabilsins
Anachronism er að sjá fortíðina með gleraugum nútímans. Þar sem gervigreind er þjálfuð í tungumáli nútímans hefur það sterka tilhneigingu til að:
- Hugtak anachronism: Notkun orðs, stofnunar eða hugtaks sem tilheyrir ekki tímabilinu.
- Hugtakið anachronism: Varpa hugmynd um nútíðina (t.d. nútíma hugmyndafræði eða sjálfsmynd) inn í fortíðina.
- Value anachronism: Að dæma fyrri hegðun eingöngu eftir stöðlum nútímans.
Hlutverk sagnfræðingsins er að skilja fortíðina í samhengi sínu. AI skortir þessa samhengisnæmi; Þú verður að útvega það sjálfur.
Að skilja hvers vegna ofskynjanir gerast svo oft gerir það auðveldara að verjast þeim. AI er kerfi sem vinnur að því að framleiða „næst líklegasta orð“; Það hefur engan tilgang eins og að "vita sannleikann". Þegar hann er spurður spurningar, hvort sem hann veit svarið eða ekki, framleiðir hann texta sem lítur tölfræðilega sannfærandi út. Snið skjalasafns tilvísunar (heiti sjóðsins, númer, dagsetning) er lærð mynstur; AI getur fyllt þetta mynstur án raunverulegrar tilvísunar. Svo "af hverju gerir gervigreind það upp?" Svarið við spurningunni er einfalt: það er auðveldara fyrir hann að gera upp en "að vita ekki". Ábyrgðin hvílir á þér að fylla þessi mót af alvöru auðlindum.
Agi heimildastaðfestingar: skref fyrir skref
1. Staðfestu tilvist auðlindarinnar. Finndu hverja tilvísun sem gervigreind gefur í vörulistanum/útgáfunni. Ef þú finnur það ekki skaltu ekki nota það.
2. Berðu innihaldið saman við upprunann. Eru upplýsingarnar sem gervigreind kennir skjalinu í raun til í skjalinu? Er tilvitnunin nákvæmlega sú sama?
3. Krossstaðfesta. Fyrir mikilvæga staðreynd, skoðaðu að minnsta kosti tvær óháðar áreiðanlegar heimildir.
4. Beita heimildagagnrýni. Er heimildin sjálf áreiðanleg? Hver framleiddi það, hvenær og í hvaða tilgangi? Er það hlutdrægt?
5. Settu það í gegnum anachronism síuna. Eru einhver hugtök, hugtök eða gildismat sem passa ekki við tímabilið í framleiðslunni?
6. Spurning um fordóma. Gæti gervigreind hafa endurskapað hlutdrægni í sögulegum heimildum (hundsa einn hóp, aðhyllast eitt sjónarhorn)?
Auðkenningarlag
Spurning
hver gerir
aðila
Er þetta úrræði virkilega til?
Þú í vörulistanum.
Efni
Stendur þetta virkilega í skjalinu?
Þú í skjalinu
Staðfesting
Styður einhver önnur heimild það?
þú, kross
áreiðanleika
Er heimildin áreiðanleg?
mat sérfræðinga
Tímabil
Eru einhverjar anachronisms?
mat sérfræðinga
fordóma
Hvers rödd vantar/brenglast?
mat sérfræðinga
þrjú smámál
Mál 1 — Sex tilbúnar tilvísanir. Rannsakandi bað gervigreindina um lista yfir heimildir um efni. YZ gaf 6 skjalasafnstilvísanir með fullkomnu sniði. Í vörulistaleitinni vantaði 4 af 6, 2 þeirra voru með rangt númer. Ef rannsakandinn hefði ekki sannreynt, hefði komið fram rannsókn sem vitnaði í engar heimildir. Lexía: hver tilvísun er staðfest í vörulistanum.
Mál 2 — Tilvitnuð tilvitnun. Rithöfundur myndi nota sláandi tilvitnun sem gervigreindin kennir við sögulega persónu. Þegar hann rannsakaði heimildarmanninn sá hann að ekkert skjal var til sem sannaði að viðkomandi sagði slíkt og að yfirlýsingin væri „uppgerð“ af AI. Lexía: Ekki er hægt að nota tilvitnanir án staðfestingar frá aðal eða áreiðanlegum heimildum.
Mál 3 — Afritun fordóma. Nemandi lét gervigreindina útskýra sögu svæðis. Framleiðslan hunsaði algjörlega ákveðið samfélag á því svæði vegna þess að heimildirnar sem gervigreindin hafði lært af höfðu líka hunsað þær. Nemandinn tók eftir og leiðrétti þetta bil með krosstilvísunum. Lexía: gervigreind endurskapar þögn og hlutdrægni í heimildum; Maður hlýtur að spyrja hvers rödd vantar.
Fjögur afritanleg sniðmát
1) Tilvísunarstaðfestingarlisti:
ÖLL heimild, tilvísun, tilvitnun, dagsetningu og persónunöfn í textanum hér að neðan birtast í sérstökum lista. Bættu við athugasemd fyrir hvern: "sem krafist er í þessum texta, verður að vera sjálfstætt staðfest." Ef þú velur ekkert skaltu "staðfesta"; Búðu bara til lista til að sannreyna svo ég geti athugað það úr vörulistanum/heimildinni. Texti: [hér]
2) Anachronism skönnun:
Skoðaðu textann um [tímabil] hér að neðan. Leggðu áherslu á hugtök, stofnanir, hugtök og gildi sem EKKI tilheyra þessu tímabili. Skrifaðu stuttlega fyrir hvern og einn hvers vegna þú ert grunsamlegur. Að fella endanlegan dóm; Búðu til lista yfir grunsemdir sem sérfræðingurinn mun athuga. Texti: [hér]
3) Umgjörð um heimildagagnrýni:
Heimildargagnrýni er samin um eftirfarandi heimild: (1) Hver gæti hafa framleitt hana, (2) Hvenær, (3) Í hvaða tilgangi, (4) Hverjar eru mögulegar hlutdrægni hennar, (5) Hvaða málefni ætti að treysta og hver ætti að vera varkár. Laga endanlegur dómur; Gefðu upp spurningar og mögulega svarmöguleika. Heimild: [hér]
4) Vantar hljóðstyrk/skekkjustýringu:
HVERNAR rödd og reynslu hvers hóps gæti vantað eða verið einhliða í eftirfarandi sögulegu samantekt? Hvaða sjónarhorn er ráðandi, hvað er ósýnilegt? Búðu til þetta sem lista yfir spurningar; Ég mun fylla það með krosstilvísunum. Samantekt: [hér]
Veik kvaðning / Sterk kvaðning
Veik:
Gefðu mér áreiðanlegar sögulegar heimildir og tilvitnanir um þetta efni.
Gervigreind er mjög líkleg til að framleiða tilvísanir sem eru réttar í formi en tilbúnar að innihaldi þegar beðið er um „heimild“ og „tilvitnun“. Þessi hvatning er beint boð um ofskynjanir.
Sterkur:
Stingdu upp á hvers konar heimildum (tegund skjalasafnssjóðs, útgáfutegund, stofnun) ég ætti að leita að í rannsóknum mínum á þessu efni. MASSA ákveðna tilvísun, skráarnúmer eða tilboð; Segðu mér bara hvar ég á að leita. Þá mun ég finna raunverulegar heimildir úr bæklingunum.
Mismunur: AI er beðið um „hvert á að leita“, ekki „raunverulega tilvísun“; Hættan á ofskynjunum minnkar til muna og sannprófun er falin manninum.
Algeng mistök
- Að treysta á rétta tilvísun. Hin tilbúna tilvísun virðist líka gallalaus; verður að staðfesta í vörulista.
- Tek beint tilvitnun í AI. Ekki er hægt að nota tilvitnanir án staðfestingar frá aðal/áreiðanlegum heimildarmanni.
- Með útsýni yfir anachronism. Hugtök og hugtök nútímans síast hljóðlega inn í fortíðina.
- Að endurskapa fordóma. AI afritar þagnir úr heimildum; Það er nauðsynlegt að spyrja um hljóðið sem vantar.
- Að treysta á eina heimild. Gagnrýnar staðreyndir verða að vera staðfestar af að minnsta kosti tveimur óháðum heimildum.
Í stuttu máli
Heimildastaðfesting er kjarninn í sögu og skjalavörslu og er enn mikilvægari á tímum gervigreindar. Ofskynjanir gefa af sér heimildir, tilvitnanir og atburði sem eru fullkomin í formi en innihaldið er uppdiktað; anachronism brenglar fortíðina með gleraugum nútímans; og gervigreind endurskapar hlutdrægni í heimildum. Vörn er fræðigrein: Staðfestu hverja tilvísun í vörulistanum, berðu saman efni við skjal, athugaðu mikilvægar staðreyndir, síaðu í gegnum tímabil og hlutdrægni. Spyrðu gervigreindina um „hvert á að leita,“ ekki „raunverulega uppsprettu“. Verndari sannleikans er alltaf sérfræðingurinn.
Umsóknarverkefni
Láttu gervigreindina búa til lista yfir tilföng um efni sem þú ert að vinna að (með vísvitandi "veikri vísbendingu"). Dragðu síðan út allar tilvísanir úr þessu úttaki með "tilvísunarstaðfestingarlista" sniðmátinu og leitaðu í hverri og einni í vörulista. Teldu hversu margir eru til í raun og veru og hversu margir eru tilbúnir eða ónákvæmir. Endurtaktu sama efni með „sterkri vísbendingu“ („hvert ætti ég að leita“) og upplifðu muninn.
gátlisti
- [ ] Ég staðfesti hverja tilvísun í vörulistanum/traustum heimildum.
- [ ] Ég hef staðfest hverja tilvitnun með aðal/áreiðanlegri heimild.
- [ ] Ég hef athugað mikilvægar staðreyndir með að minnsta kosti tveimur óháðum heimildum.
- [ ] Ég síaði úttakið fyrir anachronisms.
- [ ] Ég efaðist um týndar/bjagaðar raddir og hlutdrægni.