Dobici:
- Sposobnost objašnjenja zašto su halucinacija (izmišljeni izvor, citat, događaj) i anakronizam najopasnije pogreške u povijesti
- Sposobnost primjene discipline provjere svake reference u katalogu, usporedbe sadržaja s dokumentom i unakrsnog potvrđivanja kritičnih činjenica.
- Sposobnost preispitivanja pristranosti i glasova koji nedostaju u izvorima tražeći od umjetne inteligencije gdje tražiti umjesto pravog izvora
Postoji upozorenje koje se ponavlja u svakoj jedinici ovog modula: izlaz AI je tvrdnja, a ne činjenica, dok se ne potvrdi. Ova jedinica to upozorenje pretvara u disciplinu. Povijest i arhiviranje inherentno su područja utemeljena na dokazima; Najosnovnija vještina povjesničara je kritika izvora (ispitivanje tko je, kada, za koju svrhu izradio izvor i koliko je pouzdan). U doba umjetne inteligencije ova je vještina postala još kritičnija jer je sam izvor sada možda izmišljen.
Ovdje ćemo detaljno obraditi tri opasnosti: halucinacije (AI koja proizvodi izmišljene informacije, izvore ili citate), anakronizam (periodički elementi premješteni su u krivo razdoblje) i disciplinu provjere izvora općenito. Također ćemo vidjeti kako AI uči iz izvora koji su u prošlosti bili netočni ili pristrani, tako da može reproducirati pristranost.
Halucinacija: najopasnija greška
Halucinacija je kada umjetna inteligencija samouvjereno predstavlja nešto što zapravo ne postoji. Povijesno gledano, najčešće se pojavljuje u sljedećim oblicima:
- Izmišljeni izvor/referenca: Nepostojeći arhivski fond, broj spisa, knjige ili članka.
- Izmišljeni citat: Riječ koja zapravo nije izgovorena, rečenica koje nema u dokumentu.
- Izmišljeni događaj/datum/osoba: Događaj koji se nije dogodio, lažni datum, osoba koja ne postoji.
- Fiktivna veza: Nepostojeća uzročno-posljedična veza između dva stvarna događaja.
Ono što halucinaciju čini opasnom je to što se čini vjerodostojnom. Izmišljena referenca ima isti format kao i prava referenca: naziv fonda, broj, datum. Dakle, "format izgleda ispravno" nikada ne znači "ispravno".
Pažnja: Nijedan izvor koji je proizveo YZ ne može se koristiti ako nije provjeren i pronađen u katalogu ili na pouzdanom mjestu. Jedini način da dokažete da referenca postoji je da je vidite tamo gdje se nalazi izvorni izvor (arhivski katalog, knjižnica, publikacija). "AI je to dao" nije dokaz.
Anakronizam: naočale razdoblja
Anakroničnost je gledanje prošlosti kroz današnje naočale. Budući da je umjetna inteligencija obučena u današnjem jeziku, ima jaku tendenciju:
- Anakroni termin: Korištenje riječi, institucije ili pojma koji ne pripadaju tom razdoblju.
- Anakroni koncept: Projiciranje ideje sadašnjosti (npr. moderne ideologije ili identiteta) u prošlost.
- Vrijednosni anakronizam: Procjena ponašanja u prošlosti samo prema današnjim standardima.
Posao povjesničara je razumjeti prošlost u njezinu kontekstu. AI nema ovu osjetljivost na kontekst; Morate ga sami osigurati.
Razumijevanje zašto se halucinacije događaju tako često olakšava zaštitu od njih. AI je sustav koji radi na stvaranju "sljedeće najvjerojatnije riječi"; To nema svrhu kao "spoznavanje istine". Na pitanje, zna li odgovor ili ne, daje tekst koji izgleda statistički uvjerljivo. Format arhivske reference (naziv fonda, broj, datum) je naučeni obrazac; AI može ispuniti ovaj obrazac bez prave reference. Dakle, "zašto AI to izmišlja?" Odgovor na pitanje je jednostavan: lakše mu je pomiriti se nego "ne znati". Na vama je odgovornost da ispunite ove kalupe stvarnim resursima.
Disciplina provjere izvora: korak po korak
1. Provjerite postojanje izvora. Pronađite svaku referencu koju daje AI u katalogu/publikaciji. Ako ga ne možete pronaći, nemojte ga koristiti.
2. Usporedite sadržaj s izvorom. Postoje li informacije koje AI pripisuje dokumentu zapravo u dokumentu? Je li citat potpuno isti?
3. Unakrsna potvrda. Za kritičnu činjenicu pogledajte barem dva neovisna pouzdana izvora.
4. Primijenite kritiku izvora. Je li sam izvor pouzdan? Tko ga je proizvodio, kada i za koju svrhu? Je li pristrano?
5. Propustite ga kroz filtar anakronizma. Postoje li pojmovi, koncepti ili vrijednosni sudovi koji ne odgovaraju razdoblju u izlazu?
6. Preispitajte predrasude. Je li umjetna inteligencija mogla reproducirati pristranosti u povijesnim izvorima (ignoriranje jedne skupine, favoriziranje jednog gledišta)?
Sloj provjere autentičnosti
Pitanje
tko radi
entitet
Postoji li ovaj resurs stvarno?
Vi u katalogu.
Sadržaj
Piše li to stvarno u dokumentu?
Vi u dokumentu
Potvrda
Podržava li to neki drugi izvor?
ti, križ
pouzdanost
Je li izvor pouzdan?
stručna prosudba
Točka
Ima li anakronizama?
stručna prosudba
predrasuda
Čiji glas nedostaje/iskrivljen?
stručna prosudba
tri mini kućišta
Slučaj 1 — Šest izmišljenih referenci. Istraživač je od AI-ja zatražio popis izvora o nekoj temi. YZ je pružio 6 arhivskih referenci sa savršenim oblikovanjem. U pretrazi kataloga nedostajala su 4 od 6, 2 su imala krivi broj. Da istraživač nije provjerio, nastala bi studija koja je citirala nepostojeće izvore. Pouka: svaka referenca je provjerena u katalogu.
Slučaj 2 — Izmišljeni citat. Pisac bi upotrijebio upečatljiv citat koji AI pripisuje povijesnoj osobi. Kada je istražio izvor, vidio je da ne postoji dokument koji dokazuje da je ta osoba rekla tako nešto, te da je izjavu "izmislio" AI. Lekcija: citati se ne mogu koristiti bez provjere iz primarnog ili pouzdanog izvora.
Slučaj 3 — Reprodukcija predrasuda. Studentu je umjetna inteligencija objasnila povijest regije. Rezultat je u potpunosti ignorirao određenu zajednicu u tom području jer su ih izvori iz kojih je AI naučio također ignorirali. Učenik je primijetio i ispravio ovaj nedostatak unakrsnim referencama. Lekcija: AI reproducira šutnje i pristranosti u izvorima; Treba se zapitati čiji glas nedostaje.
Četiri predloška za kopiranje
1) Lista za provjeru referenci:
SVA imena izvora, referenci, citata, datuma i osoba u donjem tekstu pojavljuju se na posebnom popisu. Dodajte napomenu za svaki: "navedeno u ovom tekstu, mora biti neovisno potvrđeno." Ako ne odaberete ništa, "potvrdi"; Samo napravi popis za provjeru kako bih ga mogao provjeriti iz kataloga/izvora. Tekst: [ovdje]
2) Skeniranje anakronizma:
Pregledajte tekst o [razdoblju] u nastavku. Istaknite pojmove, institucije, koncepte i vrijednosti koji NE MOŽDA pripadaju ovom razdoblju. Za svaki ukratko napišite zašto ste sumnjičavi. Donošenje konačne presude; Napravite popis sumnji koje će stručnjak provjeriti. Tekst: [ovdje]
3) Okvir kritike izvora:
Sastavlja se kritika izvora o sljedećem izvoru: (1) Tko ga je mogao proizvesti, (2) Kada, (3) Za koju svrhu, (4) Koje su njegove moguće pristranosti, (5) Kojim pitanjima treba vjerovati, a s kojima treba biti oprezan. Izricanje konačne presude; Navedite pitanja i moguće opcije odgovora. Izvor: [ovdje]
4) Nedostaje kontrola glasnoće/pristranosti:
ČIJI glas i iskustvo koje skupine možda nedostaje ili je jednostrano u sljedećem povijesnom sažetku? Koja je perspektiva dominantna, koja je nevidljiva? Napravite ovo kao popis pitanja; Ispunit ću ga unakrsnim referencama. Sažetak: [ovdje]
Slab upit / Jak upit
Slabo:
Daj mi pouzdane povijesne izvore i citate o ovoj temi.
AI je vrlo sklon proizvesti reference koje su točne u obliku, ali izmišljene u sadržaju kada se traži "izvor" i "citat". Ovaj upit izravan je poziv na halucinacije.
Jako:
Predložite koju VRSTU izvora (vrsta arhivskog fonda, vrsta publikacije, institucija) trebam tražiti u svom istraživanju ove teme. UKLJUČIVANJE određene reference, broja datoteke ili citata; Samo mi reci gdje da tražim. Onda ću pronaći prave izvore iz kataloga.
Razlika: od umjetne inteligencije se traži "gdje tražiti", a ne "stvarna referenca"; Rizik od halucinacija je radikalno smanjen, a provjera je prepuštena čovjeku.
Uobičajene greške
- Oslanjajući se na točnu referencu. Izmišljena referenca također izgleda besprijekorno; moraju biti ovjereni u katalogu.
- Izravan citat iz AI-ja. Citati se ne mogu koristiti bez potvrde primarnog/pouzdanog izvora.
- Prevideći anakronizam. Današnji pojmovi i pojmovi nečujno sežu u prošlost.
- Reproduciranje predrasuda. AI kopira šutnje iz izvora; Potrebno je pitati o zvuku koji nedostaje.
- Oslanjanje na jedan izvor. Kritične činjenice moraju biti potvrđene iz najmanje dva neovisna izvora.
Ukratko
Provjera izvora u središtu je povijesti i arhiviranja, a još je kritičnija u doba umjetne inteligencije. Halucinacija proizvodi izvore, citate i događaje čija je forma savršena, ali čiji je sadržaj izmišljen; anakronizam iskrivljuje prošlost kroz današnje leće; a AI reproducira pristranosti u izvorima. Obrana je disciplina: provjerite svaku referencu u katalogu, usporedite sadržaj s dokumentom, unakrsno provjerite kritične činjenice, filtrirajte kroz razdoblja i pristranosti. Pitajte AI za "gdje tražiti", a ne "stvarni izvor". Čuvar istine uvijek je stručnjak.
Zadatak aplikacije
Neka AI napravi popis izvora o temi na kojoj radite (s namjerno "slabim upitom"). Zatim izdvojite sve reference iz ovog izlaza s predloškom "popis za provjeru referenci" i pretražite svaku u katalogu. Prebrojite koliko ih stvarno postoji, a koliko je izmišljenih ili netočnih. Ponovite istu temu s "snažnim upitom" ("gdje da tražim") i osjetite razliku.
popis za provjeru
- [ ] Provjerio sam svaku referencu u katalogu/pouzdanom izvoru.
- [ ] Svaki sam citat provjerio s primarnim/pouzdanim izvorom.
- [ ] Unakrsno sam provjerio kritične činjenice s najmanje dva neovisna izvora.
- [ ] Filtrirao sam izlaz radi anakronizama.
- [ ] Propitivao sam nedostajuće/iskrivljene glasove i pristranost.