zisky:
- Schopnosť vysvetliť, prečo sú halucinácie (vymyslený zdroj, citát, udalosť) a anachronizmus najnebezpečnejšími chybami v histórii
- Schopnosť uplatniť disciplínu overovania každého odkazu v katalógu, porovnávania obsahu s dokumentom a krížového potvrdenia kritických faktov.
- Schopnosť spochybniť zaujatosť a chýbajúce hlasy v zdrojoch otázkou umelej inteligencie, kde hľadať namiesto skutočného zdroja
V každej jednotke tohto modulu sa opakuje varovanie: výstup AI je tvrdenie, nie fakt, kým sa neoverí. Táto jednotka premení toto varovanie na disciplínu. História a archívnictvo sú vo svojej podstate oblasti založené na dôkazoch; Najzákladnejšou zručnosťou historika je kritika prameňov (opýtanie sa, kto, kedy, na aký účel bol prameň vyrobený a nakoľko je spoľahlivý). Vo veku AI sa táto zručnosť stala ešte kritickejšou, pretože samotný zdroj môže byť teraz vyrobený.
Tu podrobne pokryjeme tri nebezpečenstvá: halucinácie (AI produkuje vymyslené informácie, zdroje alebo citácie), anachronizmus (periodické prvky sa presúvajú do nesprávneho obdobia) a disciplína overovania zdroja vo všeobecnosti. Uvidíme tiež, že AI sa učí zo zdrojov, ktoré boli v minulosti nepresné alebo neobjektívne, takže môže reprodukovať zaujatosť.
Halucinácie: najnebezpečnejšia chyba
Halucinácia je, keď AI s istotou prezentuje niečo, čo v skutočnosti neexistuje. Historicky sa najčastejšie vyskytuje v nasledujúcich formách:
- Vymyslený zdroj/odkaz: Neexistujúci archívny fond, číslo spisu, kniha alebo článok.
- Vymyslený citát: Slovo, ktoré v skutočnosti nebolo povedané, veta, ktorá nie je v dokumente.
- Vymyslená udalosť/dátum/osoba: Udalosť, ktorá sa nestala, falošný dátum, osoba, ktorá neexistuje.
- Fiktívne spojenie: Neexistujúci vzťah príčiny a následku medzi dvoma skutočnými udalosťami.
To, čo robí halucináciu nebezpečnou, je to, že vyzerá vierohodne. Vymyslená referencia má rovnaký formát ako skutočná referencia: názov fondu, číslo, dátum. Takže „formát vyzerá správne“ nikdy neznamená „správne“.
Upozornenie: Žiadny zdroj z produkcie YZ nemožno použiť bez overenia a nájdenia v katalógu alebo na dôveryhodnom mieste. Jediný spôsob, ako dokázať, že odkaz existuje, je vidieť ho tam, kde sa nachádza pôvodný zdroj (archívny katalóg, knižnica, publikácia). „AI to dala“ nie je dôkaz.
Anachronizmus: dobové poháre
Anachronizmus je pohľad na minulosť cez dnešné okuliare. Keďže AI je vyškolená v dnešnom jazyku, má silnú tendenciu:
- Termín anachronizmus: Použitie slova, inštitúcie alebo pojmu, ktorý nepatrí do obdobia.
- Koncept anachronizmus: Premietanie myšlienky súčasnosti (napríklad modernej ideológie alebo identity) do minulosti.
- Hodnotový anachronizmus: Posudzovanie minulého správania len podľa dnešných štandardov.
Úlohou historika je pochopiť minulosť v jej kontexte. AI chýba táto kontextová citlivosť; Musíte si ho poskytnúť sami.
Pochopenie toho, prečo sa halucinácie tak často vyskytujú, uľahčuje ochranu pred nimi. AI je systém, ktorý pracuje na vytváraní „ďalšieho najpravdepodobnejšieho slova“; Nemá to žiadny účel ako „poznať pravdu“. Na otázku, či pozná odpoveď alebo nie, vyprodukuje text, ktorý vyzerá štatisticky presvedčivo. Formát archívneho odkazu (názov fondu, číslo, dátum) je naučený vzor; AI môže vyplniť tento vzor bez skutočného odkazu. Takže „prečo si to AI vymýšľa?“ Odpoveď na otázku je jednoduchá: ľahšie sa mu nalíči ako „nevedieť“. Je na vás, aby ste naplnili tieto formy skutočnými zdrojmi.
Disciplína overovania zdroja: krok za krokom
1. Overte existenciu zdroja. V katalógu/publikácii nájdete všetky referencie od AI. Ak ho nemôžete nájsť, nepoužívajte ho.
2. Porovnajte obsah so zdrojom. Existujú informácie, ktoré AI pripisuje dokumentu, skutočne v dokumente? Je citát presne ten istý?
3. Krížovo potvrdiť. Pre kritický fakt si pozrite aspoň dva nezávislé spoľahlivé zdroje.
4. Aplikujte kritiku zdroja. Je samotný zdroj spoľahlivý? Kto, kedy a za akým účelom ho vyrobil? Je to neobjektívne?
5. Prejdite cez filter anachronizmu. Existujú nejaké termíny, koncepty alebo hodnotové úsudky, ktoré sa nezhodujú s obdobím vo výstupe?
6. Spochybňujte predsudky. Mohla AI reprodukovať zaujatosti v historických zdrojoch (ignorovať jednu skupinu, uprednostňovať jeden uhol pohľadu)?
Overovacia vrstva
Otázka
kto robí
subjekt
Naozaj tento zdroj existuje?
Vy v katalógu.
Obsah
Naozaj sa to píše v dokumente?
Vy v dokumente
Potvrdenie
Podporuje to nejaký iný zdroj?
ty kríž
spoľahlivosť
Je zdroj spoľahlivý?
znalecký posudok
Obdobie
Existujú nejaké anachronizmy?
znalecký posudok
predsudok
Komu chýba/skreslený hlas?
znalecký posudok
tri mini prípady
Prípad 1 – Šesť vymyslených odkazov. Výskumník požiadal AI o zoznam zdrojov k danej téme. YZ poskytol 6 archívnych referencií s dokonalým formátovaním. V katalógovom vyhľadávaní 4 zo 6 chýbali, 2 z nich mali nesprávne číslo. Ak by to výskumník neoveril, vznikla by štúdia, ktorá by citovala neexistujúce zdroje. Poučenie: každá referencia je overená v katalógu.
Prípad 2 – Vymyslená cenová ponuka. Spisovateľ by použil nápadný citát, ktorý AI pripisuje historickej postave. Keď pátral po zdroji, zistil, že neexistuje žiadny dokument, ktorý by dokazoval, že táto osoba niečo také povedala, a že vyhlásenie „vymyslela“ AI. Poučenie: citácie nemožno použiť bez overenia z primárneho alebo spoľahlivého zdroja.
Prípad 3 – Reprodukcia predsudkov. Študent nechal AI vysvetliť históriu regiónu. Výstup úplne ignoroval konkrétnu komunitu v tejto oblasti, pretože zdroje, z ktorých sa AI naučila, ich tiež ignorovali. Študent si všimol a opravil túto medzeru krížovými odkazmi. Lekcia: AI reprodukuje mlčania a zaujatosti v zdrojoch; Treba sa opýtať, komu chýba hlas.
Štyri kopírovateľné šablóny
1) Referenčný overovací zoznam:
VŠETKY zdroje, referencie, citácie, dátumy a mená osôb v texte nižšie sú uvedené v samostatnom zozname. Ku každému pridajte poznámku: „nárokované v tomto texte, musia byť nezávisle overené.“ Ak nevyberiete žiadne, "overiť"; Stačí vytvoriť zoznam na overenie, aby som ho mohol skontrolovať z katalógu/zdroja. Text: [tu]
2) Skenovanie anachronizmu:
Prečítajte si text o [období] nižšie. Zdôraznite pojmy, inštitúcie, koncepty a hodnoty, ktoré do tohto obdobia NEMUSIA patriť. Ku každému stručne napíšte, prečo ste podozrivý. Vynesenie konečného rozsudku; Vytvorte zoznam podozrení, ktoré odborník preverí. Text: [tu]
3) Rámec zdrojovej kritiky:
Zdrojová kritika je navrhnutá o nasledujúcom zdroji: (1) kto ju mohol vytvoriť, (2) kedy, (3) na aký účel, (4) aké sú jej možné predsudky, (5) ktorým problémom by sa malo dôverovať a ktorým by ste mali byť opatrní. Vynesenie konečného rozsudku; Uveďte otázky a možné odpovede. Zdroj: [tu]
4) Chýbajúci ovládač hlasitosti/skreslenia:
KOHO hlas a skúsenosti ktorej skupiny môžu chýbať alebo sú jednostranné v nasledujúcom historickom zhrnutí? Ktorá perspektíva je dominantná, ktorá je neviditeľná? Urobte to ako zoznam otázok; Doplním ho krížovými odkazmi. Zhrnutie: [tu]
Slabá výzva / Silná výzva
slabé:
Dajte mi spoľahlivé historické zdroje a citáty na túto tému.
Umelá inteligencia je veľmi náchylná na vytváranie odkazov, ktoré sú správne vo forme, ale sú vyrobené z obsahu, keď sú požiadané o „zdroj“ a „citáciu“. Táto výzva je priamou pozvánkou na halucinácie.
Silný:
Navrhnite, aké zdroje (typ archívneho fondu, typ publikácie, inštitúcia) by som mal hľadať pri svojom výskume na túto tému. VYBAVENIE špecifickej referencie, čísla spisu alebo cenovej ponuky; Len mi povedz, kde mám hľadať. Potom si nájdem skutočné zdroje z katalógov.
Rozdiel: AI sa pýta „kam hľadať“, nie „skutočný odkaz“; Riziko halucinácií sa radikálne znižuje a overovanie je ponechané na človeka.
Časté chyby
- Spoliehať sa na správnu referenciu. Vymyslený odkaz tiež vyzerá bezchybne; treba overiť v katalógu.
- Priamy citát od AI. Cenové ponuky nie je možné použiť bez potvrdenia z primárneho/spoľahlivého zdroja.
- S prehliadnutím anachronizmu. Dnešné termíny a pojmy ticho prenikajú do minulosti.
- Reprodukovanie predsudkov. AI kopíruje mlčania zo zdrojov; Na chýbajúci zvuk sa treba opýtať.
- Spoliehanie sa na jeden zdroj. Kritické skutočnosti musia byť potvrdené aspoň dvoma nezávislými zdrojmi.
V súhrne
Overenie zdroja je jadrom histórie a archivácie a vo veku AI je ešte dôležitejšie. Halucinácia produkuje zdroje, citáty a udalosti, ktorých forma je dokonalá, ale obsah je fiktívny; anachronizmus skresľuje minulosť dnešnými šošovkami; a AI reprodukuje zaujatosti v zdrojoch. Obrana je disciplína: overte každú referenciu v katalógu, porovnajte obsah s dokumentom, krížovo skontrolujte kritické fakty, prefiltrujte obdobie a zaujatosť. Opýtajte sa AI na „kam hľadať“, nie na „skutočný zdroj“. Strážcom pravdy je vždy odborník.
Aplikačná úloha
Nechajte AI vytvoriť zoznam zdrojov na tému, na ktorej pracujete (so zámerne „slabým príkazom“). Potom extrahujte všetky referencie z tohto výstupu pomocou šablóny "zoznam overenia referencií" a vyhľadajte každú z nich v katalógu. Spočítajte, koľko skutočne existuje a koľko je vymyslených alebo nepresných. Zopakujte tú istú tému so „silnou výzvou“ („kam sa mám pozrieť“) a zažite rozdiel.
kontrolný zoznam
- [ ] Každú referenciu som overil v katalógu/dôveryhodnom zdroji.
- [ ] Každý citát som overil s primárnym/spoľahlivým zdrojom.
- [ ] Kritické fakty som skontroloval s najmenej dvoma nezávislými zdrojmi.
- [ ] Filtroval som výstup na anachronizmy.
- [ ] Spochybnil som chýbajúce/skreslené hlasy a zaujatosť.