Pelnas:
- Gebėjimas paaiškinti, kodėl haliucinacijos (išgalvotas šaltinis, citata, įvykis) ir anachronizmas yra pavojingiausios istorijos klaidos
- Gebėjimas taikyti kiekvienos katalogo nuorodos tikrinimo, turinio palyginimo su dokumentu ir kritinių faktų kryžminio patvirtinimo discipliną.
- Galimybė suabejoti šališkumu ir trūkstamais balsais šaltiniuose, klausiant dirbtinio intelekto, kur ieškoti, o ne tikrojo šaltinio
Kiekviename šio modulio bloke kartojamas įspėjimas: AI išvestis yra pretenzija, o ne faktas, kol nepatvirtinta. Šis padalinys tą įspėjimą paverčia drausme. Istorija ir archyvavimas iš esmės yra įrodymais pagrįstos sritys; Pats elementariausias istoriko įgūdis yra šaltinių kritika (klausti, kas, kada, kokiu tikslu buvo sukurtas šaltinis ir kiek jis patikimas). AI amžiuje šis įgūdis tapo dar svarbesnis, nes dabar pats šaltinis gali būti sukurtas.
Čia mes išsamiai apžvelgsime tris pavojus: haliucinacijas (AI gamina išgalvotą informaciją, šaltinius ar citatas), anachronizmą (periodinių elementų perkėlimas į netinkamą laikotarpį) ir šaltinio tikrinimo discipliną apskritai. Taip pat pamatysime, kaip dirbtinis intelektas mokosi iš šaltinių, kurie praeityje buvo netikslūs arba šališki, todėl gali atkurti šališkumą.
Haliucinacijos: pavojingiausia klaida
Haliucinacija yra tada, kai AI užtikrintai pristato tai, ko iš tikrųjų nėra. Istoriškai jis dažniausiai pasireiškia šiomis formomis:
- Sukurtas šaltinis / nuoroda: neegzistuojantis archyvo fondas, bylos numeris, knyga ar straipsnis.
- Sugalvota citata: žodis, kuris iš tikrųjų nebuvo pasakytas, sakinys, kurio nėra dokumente.
- Sugalvotas įvykis/pasimatymas/asmuo: neįvykęs įvykis, netikra data, neegzistuojantis asmuo.
- Fiktyvus ryšys: neegzistuojantis priežasties-pasekmės ryšys tarp dviejų realių įvykių.
Haliucinacijas pavojinga tai, kad jos atrodo patikimos. Sugalvota nuoroda turi tokį patį formatą kaip ir tikroji nuoroda: fondo pavadinimas, numeris, data. Taigi „formatas atrodo tinkamas“ niekada nereiškia „teisingai“.
Dėmesio: Jokie YZ ištekliai negali būti naudojami nepatikrinus ir neradus kataloge ar patikimoje vietoje. Vienintelis būdas įrodyti, kad nuoroda egzistuoja, yra pamatyti ją ten, kur yra pirminis šaltinis (archyvo katalogas, biblioteka, leidinys). „AI davė“ nėra įrodymas.
Anachronizmas: laikotarpio akiniai
Anachronizmas – tai praeities matymas pro šiandienos akinius. Kadangi dirbtinis intelektas mokomas šių dienų kalba, jis turi stiprią tendenciją:
- Termino anachronizmas: vartojamas žodis, institucija ar sąvoka, kuri nepriklauso tam laikotarpiui.
- Sąvokos anachronizmas: dabarties idėjos (pvz., šiuolaikinės ideologijos ar tapatybės) projektavimas į praeitį.
- Vertybių anachronizmas: vertinti ankstesnį elgesį tik pagal šiandienos standartus.
Istoriko darbas – suprasti praeitį jos kontekste. AI trūksta šio konteksto jautrumo; Jį turite pateikti patys.
Supratus, kodėl taip dažnai pasitaiko haliucinacijos, lengviau nuo jų apsisaugoti. AI yra sistema, kuri sukuria „kitą labiausiai tikėtiną žodį“; Tai neturi jokio tikslo, kaip „žinoti tiesą“. Užduodamas klausimą, nesvarbu, ar jis žino atsakymą, ar ne, jis sukuria tekstą, kuris atrodo statistiškai įtikinamas. Archyvinės nuorodos formatas (fondo pavadinimas, numeris, data) yra išmoktas modelis; AI gali užpildyti šį modelį be tikros nuorodos. Taigi „kodėl AI tai sugalvoja? Atsakymas į klausimą paprastas: jam lengviau susitaikyti nei „nežinoti“. Jums tenka atsakomybė užpildyti šias formas realiais ištekliais.
Šaltinio tikrinimo disciplina: žingsnis po žingsnio
1. Patikrinkite, ar išteklius yra. Kataloge / leidinyje raskite kiekvieną AI pateiktą nuorodą. Jei nerandate, nenaudokite.
2. Palyginkite turinį su šaltiniu. Ar informacija, kurią AI priskiria dokumentui, iš tikrųjų yra dokumente? Ar citata lygiai tokia pati?
3. Kryžminis patvirtinimas. Norėdami sužinoti kritinį faktą, peržiūrėkite bent du nepriklausomus patikimus šaltinius.
4. Taikyti šaltinio kritiką. Ar pats šaltinis yra patikimas? Kas jį pagamino, kada ir kokiu tikslu? Ar tai šališka?
5. Praleiskite jį per anachronizmo filtrą. Ar yra kokių nors terminų, sąvokų ar vertinimų, kurie neatitinka produkcijos laikotarpio?
6. Klauskite išankstinio nusistatymo. Ar AI galėjo atkartoti istorinių šaltinių šališkumą (nekreipiant dėmesio į vieną grupę, teikiant pirmenybę vienam požiūriui)?
Autentifikavimo sluoksnis
Klausimas
kas daro
subjektas
Ar šis šaltinis tikrai egzistuoja?
Jūs esate kataloge.
Turinys
Ar tai tikrai parašyta dokumente?
Jūs dokumente
Patvirtinimas
Ar koks nors kitas šaltinis tai palaiko?
tu, kryžius
patikimumas
Ar šaltinis patikimas?
eksperto sprendimas
Laikotarpis
Ar yra kokių nors anachronizmų?
eksperto sprendimas
išankstinis nusistatymas
Kieno balso trūksta/iškreiptas?
eksperto sprendimas
trys mini dėklai
1 atvejis – šešios išgalvotos nuorodos. Tyrėjas paprašė AI pateikti šaltinių šia tema sąrašą. YZ pateikė 6 archyvų nuorodas su tobulu formatavimu. Katalogo paieškoje iš 6 dingo 4, 2 iš jų buvo su neteisingu numeriu. Jei tyrėjas nebūtų patikrinęs, būtų atsiradęs tyrimas, kuriame buvo nurodyti neegzistuojantys šaltiniai. Pamoka: kiekviena nuoroda yra patikrinta kataloge.
2 atvejis. Sugalvota citata. Rašytojas panaudotų įspūdingą citatą, kurią AI priskiria istorinei asmenybei. Tyrinėdamas šaltinį, jis pamatė, kad nėra dokumento, įrodančio, kad asmuo taip pasakė, ir kad teiginį „sugalvojo“ AI. Pamoka: citatos negali būti naudojamos nepatvirtinus pirminio ar patikimo šaltinio.
3 atvejis – išankstinio nusistatymo atkūrimas. Studentas turėjo AI paaiškinti regiono istoriją. Rezultatas visiškai ignoravo tam tikrą bendruomenę toje srityje, nes šaltiniai, iš kurių AI išmoko, taip pat juos ignoravo. Mokinys šią spragą pastebėjo ir ištaisė kryžminėmis nuorodomis. Pamoka: AI atkuria šaltinių tylą ir šališkumą; Reikia paklausti, kieno balso trūksta.
Keturi kopijuojami šablonai
1) Nuorodų patvirtinimo sąrašas:
VISI šaltiniai, nuorodos, citatos, datos ir asmenų vardai žemiau esančiame tekste pateikiami atskirame sąraše. Prie kiekvieno pridėkite pastabą: „teigiama šiame tekste, turi būti patvirtinta nepriklausomai“. Jei nepasirinksite nė vieno, „patikrinti“; Tiesiog sukurkite sąrašą, kad patikrintumėte, kad galėčiau jį patikrinti iš katalogo / šaltinio. Tekstas: [čia]
2) Anachronizmo nuskaitymas:
Išnagrinėkite toliau pateiktą tekstą apie [period]. Pabrėžkite terminus, institucijas, sąvokas ir vertybes, kurios GALI NEPRIskirti šiam laikotarpiui. Prie kiekvieno trumpai parašykite, kodėl esate įtartinas. Priima galutinį sprendimą; Sudarykite įtarimų sąrašą, kurį ekspertas patikrins. Tekstas: [čia]
3) Šaltinio kritikos sistema:
Šaltinio kritika rengiama apie šį šaltinį: (1) kas galėjo jį sukurti, (2) kada, (3) kokiam tikslui, (4) kokie galimi jo paklaidai, (5) kuriais klausimais reikėtų pasitikėti, o kuriais – atsargiai. galutinio teismo sprendimo priėmimas; Pateikite klausimus ir galimus atsakymų variantus. Šaltinis: [čia]
4) Trūksta garsumo / šališkumo valdymo:
KIENO balso ir kurios grupės patirties šioje istorinėje santraukoje gali trūkti arba ji gali būti vienpusė? Kuri perspektyva dominuoja, kuri nematoma? Sudarykite tai kaip klausimų sąrašą; Aš užpildysiu jį kryžminėmis nuorodomis. Santrauka: [čia]
Silpnas raginimas / Stiprus raginimas
Silpnas:
Pateikite man patikimų istorinių šaltinių ir citatų šia tema.
Dirbtinis intelektas yra labai linkęs pateikti nuorodas, kurios yra teisingos formos, bet išgalvotos pagal turinį, kai prašoma nurodyti „šaltinį“ ir „citatą“. Šis raginimas yra tiesioginis kvietimas į haliucinacijas.
Stiprus:
Pasiūlykite, kokių šaltinių (archyvo fondo tipo, leidinio tipo, institucijos) turėčiau ieškoti atliekant tyrimą šia tema. TEIKIMAS konkrečios nuorodos, bylos numerio ar citatos; Tiesiog pasakyk man, kur ieškoti. Tada surasiu tikrus šaltinius iš katalogų.
Skirtumas: AI klausiama „kur ieškoti“, o ne „faktinė nuoroda“; Haliucinacijų rizika radikaliai sumažėja, o patikrinimas paliekamas žmogui.
Dažnos klaidos
- Remdamiesi teisinga nuoroda. Sudaryta nuoroda taip pat atrodo nepriekaištinga; turi būti patikrinta kataloge.
- Tiesioginė citata iš AI. Citatos negali būti naudojamos be patvirtinimo iš pirminio / patikimo šaltinio.
- Žvilgsnis į anachronizmą. Šiandienos terminai ir sąvokos tyliai skverbiasi į praeitį.
- Prietarų atkūrimas. AI kopijuoja tylas iš šaltinių; Būtina paklausti apie trūkstamą garsą.
- Remdamiesi vienu šaltiniu. Kritinius faktus turi patvirtinti bent du nepriklausomi šaltiniai.
Apibendrinant
Šaltinio patvirtinimas yra istorijos ir archyvavimo pagrindas, o AI amžiuje jis yra dar svarbesnis. Haliucinacijos sukuria šaltinius, citatas ir įvykius, kurių forma yra tobula, bet turinys yra fiktyvus; anachronizmas iškreipia praeitį per šiandienos objektyvus; o AI atkuria šaltinių šališkumą. Gynyba yra disciplina: patikrinkite kiekvieną katalogo nuorodą, palyginkite turinį su dokumentu, kryžmai patikrinkite svarbius faktus, filtruokite laikotarpį ir šališkumą. Paklauskite AI „kur ieškoti“, o ne „tikrąjį šaltinį“. Tiesos sergėtojas visada yra ekspertas.
Taikymo užduotis
Tegul dirbtinis intelektas sudaro išteklių sąrašą ta tema, su kuria dirbate (su sąmoningai „silpna raginimu“). Tada iš šios išvesties ištraukite visas nuorodas naudodami „nuorodų patvirtinimo sąrašo“ šabloną ir kiekvienos jų ieškokite kataloge. Suskaičiuokite, kiek jų iš tikrųjų egzistuoja, o kiek jų yra sugalvotų ar netikslių. Pakartokite tą pačią temą su „stipriu raginimu“ („kur turėčiau ieškoti“) ir patirkite skirtumą.
kontrolinis sąrašas
- [ ] Patikrinau kiekvieną katalogo / patikimo šaltinio nuorodą.
- [ ] Kiekvieną citatą patikrinau pirminiu / patikimu šaltiniu.
- [ ] Sutikrinau svarbius faktus bent iš dviejų nepriklausomų šaltinių.
- [ ] Išfiltravau išvestį dėl anachronizmų.
- [ ] Aš suabejojau trūkstamais / iškreiptais balsais ir šališkumu.