Ieguvumi:
- Spēja izskaidrot, kāpēc halucinācijas (izdomāts avots, citāts, notikums) un anahronisms ir visbīstamākās kļūdas vēsturē
- Spēja pielietot disciplīnu, pārbaudot katru atsauci katalogā, salīdzinot saturu ar dokumentu un savstarpēji apstiprinot kritiskos faktus.
- Spēja apšaubīt aizspriedumus un trūkstošās balsis avotos, jautājot mākslīgajam intelektam, kur meklēt, nevis īsto avotu
Katrā šī moduļa vienībā atkārtojas brīdinājums: AI izvade ir apgalvojums, nevis fakts, kamēr tas nav pārbaudīts. Šī vienība šo brīdinājumu pārvērš disciplīnā. Vēsture un arhivēšana pēc būtības ir uz pierādījumiem balstītas jomas; Vēsturnieka pamatprasme ir avotu kritika (jautāt, kas, kad, kādam nolūkam avots ir radīts un cik tas ir uzticams). AI laikmetā šī prasme ir kļuvusi vēl kritiskāka, jo pats avots tagad var būt izdomāts.
Šeit mēs padziļināti apskatīsim trīs briesmas: halucinācijas (AI rada izdomātu informāciju, avotus vai citātus), anahronismu (periodiski elementi tiek pārvietoti uz nepareizu periodu) un avotu pārbaudes disciplīnu kopumā. Mēs arī redzēsim, ka AI mācās no avotiem, kas iepriekš bija neprecīzi vai neobjektīvi, tāpēc tas var radīt neobjektivitāti.
Halucinācijas: visbīstamākā kļūda
Halucinācijas ir tad, kad AI pārliecinoši prezentē kaut ko, kas patiesībā neeksistē. Vēsturiski tas visbiežāk ir redzams šādās formās:
- Izgatavots avots/atsauce: neesošs arhīva fonds, faila numurs, grāmata vai raksts.
- Izdomāts citāts: Vārds, kas patiesībā nav teikts, teikums, kas nav dokumentā.
- Izdomāts notikums/randiņš/persona: Notikums, kas nenotika, viltus datums, persona, kura neeksistē.
- Fiktīva saikne: neeksistējoša cēloņsakarība starp diviem reāliem notikumiem.
Bīstamu halucināciju padara tas, ka tās šķiet ticamas. Sagatavotai atsaucei ir tāds pats formāts kā īstai atsaucei: fonda nosaukums, numurs, datums. Tātad "formāts izskatās pareizi" nekad nenozīmē "pareizi".
Uzmanību: Nevienu YZ ražoto resursu nevar izmantot, ja tas nav pārbaudīts un atrasts katalogā vai uzticamā vietā. Vienīgais veids, kā pierādīt, ka atsauce pastāv, ir redzēt to vietā, kur atrodas oriģinālais avots (arhīva katalogs, bibliotēka, publikācija). "AI deva" nav pierādījums.
Anahronisms: perioda brilles
Anahronisms ir redzēt pagātni caur šodienas brillēm. Tā kā mākslīgais intelekts tiek apmācīts mūsdienu valodā, tam ir spēcīga tendence:
- Termina anahronisms: vārda, institūcijas vai jēdziena izmantošana, kas nepieder šim periodam.
- Anakronisma jēdziens: tagadnes idejas (piemēram, mūsdienu ideoloģijas vai identitātes) projicēšana pagātnē.
- Vērtību anahronisms: pagātnes uzvedības vērtēšana tikai pēc mūsdienu standartiem.
Vēsturnieka uzdevums ir izprast pagātni tās kontekstā. AI trūkst šī konteksta jutīguma; Jums tas ir jānodrošina pašam.
Izprotot, kāpēc halucinācijas notiek tik bieži, ir vieglāk aizsargāties pret tām. AI ir sistēma, kas darbojas, lai izveidotu “nākamo visticamāko vārdu”; Tam nav tāda mērķa kā "patiesības izzināšana". Uzdodot jautājumu, neatkarīgi no tā, vai viņš zina atbildi vai nē, viņš izstrādā tekstu, kas izskatās statistiski pārliecinošs. Arhīva uzziņas formāts (fonda nosaukums, numurs, datums) ir apgūts modelis; AI var aizpildīt šo modeli bez reālas atsauces. Tātad "kāpēc AI to veido?" Atbilde uz jautājumu ir vienkārša: viņam ir vieglāk samierināties nekā "nezināt". Jums ir pienākums aizpildīt šīs veidnes ar reāliem resursiem.
Avota pārbaudes disciplīna: soli pa solim
1. Pārbaudiet resursa esamību. Atrodiet katru AI sniegto atsauci katalogā/izdevumā. Ja nevarat to atrast, nelietojiet to.
2. Salīdziniet saturu ar avotu. Vai informācija, ko mākslīgais intelekts attiecina uz dokumentu, patiešām pastāv dokumentā? Vai citāts ir tieši tāds pats?
3. Savstarpēji apstiprināt. Lai iegūtu kritisku faktu, apskatiet vismaz divus neatkarīgus uzticamus avotus.
4. Pielietojiet avotu kritiku. Vai pats avots ir uzticams? Kas to ražoja, kad un kādam nolūkam? Vai tas ir neobjektīvi?
5. Izlaidiet to caur anahronisma filtru. Vai ir kādi termini, jēdzieni vai vērtību spriedumi, kas neatbilst izlaides periodam?
6. Jautājuma aizspriedumi. Vai AI varēja atveidot vēsturisko avotu aizspriedumus (ignorējot vienu grupu, dodot priekšroku vienam viedoklim)?
Autentifikācijas slānis
Jautājums
kurš dara
entītija
Vai šis resurss tiešām pastāv?
Jūs esat katalogā.
Saturs
Vai tas tiešām ir teikts dokumentā?
Jūs dokumentā
Apstiprinājums
Vai kāds cits avots to atbalsta?
tu, krusts
uzticamība
Vai avots ir uzticams?
eksperta spriedums
Periods
Vai ir kādi anahronismi?
eksperta spriedums
aizspriedumi
Kura balss trūkst/izkropļota?
eksperta spriedums
trīs mini futrāļi
1. gadījums — sešas izdomātas atsauces. Pētnieks lūdza AI sniegt avotu sarakstu par tēmu. YZ nodrošināja 6 arhīvu atsauces ar perfektu formatējumu. Kataloga meklēšanā pazuda 4 no 6, 2 no tiem bija nepareizs numurs. Ja pētnieks nebūtu pārbaudījis, būtu tapis pētījums, kurā minēti neeksistējoši avoti. Nodarbība: katra atsauce ir pārbaudīta katalogā.
2. gadījums — izdomāts citāts. Rakstnieks izmantotu pārsteidzošu citātu, ko AI piedēvē vēsturiskai personai. Kad viņš izmeklēja avotu, viņš redzēja, ka nav neviena dokumenta, kas pierādītu, ka persona ko tādu ir teikusi, un ka šo paziņojumu ir "izdomājis" AI. Nodarbība: citātus nevar izmantot bez primārā vai uzticama avota pārbaudes.
3. lieta — aizspriedumu atkārtošana. Kādam studentam AI lika izskaidrot reģiona vēsturi. Rezultātā tika pilnībā ignorēta konkrēta kopiena šajā jomā, jo avoti, no kuriem AI bija mācījies, arī tos ignorēja. Students pamanīja un laboja šo robu ar savstarpējām norādēm. Nodarbība: AI reproducē klusēšanu un aizspriedumus avotos; Jājautā, kura balss trūkst.
Četras kopējamas veidnes
1) Atsauces verifikācijas saraksts:
VISI avoti, atsauces, citāti, datumi un personu vārdi zemāk tekstā tiek parādīti atsevišķā sarakstā. Katram pievienojiet piezīmi: "apgalvots šajā tekstā, ir jābūt neatkarīgi pārbaudītam." Ja atlasāt nevienu, "pārbaudīt"; Vienkārši izveidojiet sarakstu, lai pārbaudītu, lai es varētu to pārbaudīt no kataloga/avota. Teksts: [šeit]
2) Anahronisma skenēšana:
Pārskatiet tālāk esošo tekstu par [periodu]. Izceliet terminus, institūcijas, jēdzienus un vērtības, kas VAR NAV piederēt šim periodam. Katram īsi uzrakstiet, kāpēc esat aizdomīgs. Galīgā sprieduma pieņemšana; Izveidojiet aizdomu sarakstu, ko eksperts pārbaudīs. Teksts: [šeit]
3) Avotu kritikas ietvars:
Avota kritika tiek sastādīta par šādu avotu: (1) kurš to varētu būt veidojis, (2) kad, (3) kādam nolūkam, (4) kādas ir tās iespējamās novirzes, (5) kurām problēmām vajadzētu uzticēties un kurām jābūt piesardzīgām. Galīgā sprieduma noteikšana; Sniedziet jautājumus un iespējamos atbilžu variantus. Avots: [šeit]
4) Trūkst skaļuma/novirzes vadības:
KURAS balss un kuras grupas pieredze varētu iztrūkt vai vienpusīga šajā vēstures kopsavilkumā? Kura perspektīva ir dominējošā, kura ir neredzama? Izveidojiet to kā jautājumu sarakstu; Aizpildīšu to ar savstarpējām atsaucēm. Kopsavilkums: [šeit]
Vāja uzvedne / spēcīga uzvedne
Vāji:
Sniedziet man uzticamus vēstures avotus un citātus par šo tēmu.
AI ļoti bieži rada atsauces, kuru forma ir pareiza, bet saturiski izdomāta, kad tiek prasīts “avots” un “atsauce”. Šī uzvedne ir tiešs aicinājums uz halucinācijām.
Spēcīgs:
Iesakiet, kādi avoti (arhīva fonda veids, publikācijas veids, institūcija) man būtu jāmeklē, veicot pētījumu par šo tēmu. ĪPAŠAS atsauces, faila numura vai citāta PIEMĒROŠANA; Vienkārši pasakiet man, kur meklēt. Tad es atradīšu īstos avotus no katalogiem.
Atšķirība: AI tiek prasīts "kur meklēt", nevis "faktiskā atsauce"; Halucināciju risks ir radikāli samazināts, un pārbaude tiek atstāta cilvēka ziņā.
Biežas kļūdas
- Paļaujoties uz pareizo atsauci. Arī izdomātā atsauce šķiet nevainojama; ir jāpārbauda katalogā.
- Ņemot tiešu citātu no AI. Citāti nevar izmantot bez apstiprinājuma no primārā/uzticamā avota.
- Skats uz anahronismu. Šodienas termini un jēdzieni klusi iesūcas pagātnē.
- Aizspriedumu atražošana. AI kopē klusumus no avotiem; Jājautā par trūkstošo skaņu.
- Paļaujoties uz vienu avotu. Kritiskie fakti jāapstiprina vismaz diviem neatkarīgiem avotiem.
Rezumējot
Avota pārbaude ir vēstures un arhivēšanas pamatā, un AI laikmetā tā ir vēl svarīgāka. Halucinācijas rada avotus, citātus un notikumus, kuru forma ir ideāla, bet saturs ir izdomāts; anahronisms izkropļo pagātni caur šodienas lēcām; un AI atveido neobjektivitāti avotos. Aizsardzība ir disciplīna: pārbaudiet katru atsauci katalogā, salīdziniet saturu ar dokumentu, salīdziniet kritiskos faktus, filtrējiet periodus un novirzes. Jautājiet AI “kur meklēt”, nevis “patieso avotu”. Patiesības sargs vienmēr ir eksperts.
Lietojumprogrammas uzdevums
Lūdziet AI izveidot resursu sarakstu par tēmu, pie kuras strādājat (ar apzināti "vāju uzvedni"). Pēc tam izņemiet visas atsauces no šīs izvades, izmantojot veidni "atsauču validācijas saraksts" un meklējiet katru no tām katalogā. Saskaitiet, cik patiesībā pastāv un cik daudz ir izdomāti vai neprecīzi. Atkārtojiet to pašu tēmu ar "spēcīgu uzvedni" ("kur man vajadzētu meklēt") un izbaudiet atšķirību.
kontrolsaraksts
- [ ] Es pārbaudīju katru atsauci katalogā/uzticamā avotā.
- [ ] Esmu pārbaudījis katru citātu, izmantojot primāro/uzticamo avotu.
- [ ] Esmu salīdzinājis kritiskos faktus ar vismaz diviem neatkarīgiem avotiem.
- [ ] Es filtrēju izvadi anahronismiem.
- [ ] Es apšaubīju trūkstošās/izkropļotas balsis un aizspriedumus.