zisky:
- Schopnost vysvětlit, proč jsou halucinace (vymyšlený zdroj, citát, událost) a anachronismus nejnebezpečnějšími chybami v historii
- Schopnost uplatnit disciplínu ověřování každého odkazu v katalogu, porovnávání obsahu s dokumentem a křížové potvrzení kritických faktů.
- Schopnost zpochybnit zkreslení a chybějící hlasy ve zdrojích dotazem umělé inteligence, kde hledat místo skutečného zdroje
V každé jednotce tohoto modulu se opakuje upozornění: výstup AI je tvrzení, nikoli fakt, dokud není ověřeno. Tato jednotka promění toto varování v disciplínu. Historie a archivnictví jsou ze své podstaty obory založené na důkazech; Nejzákladnější dovedností historika je kritika zdroje (dotazování se kým, kdy, za jakým účelem byl zdroj vyroben a jak je spolehlivý). Ve věku umělé inteligence se tato dovednost stala ještě důležitější, protože samotný zdroj může být nyní vyroben.
Zde podrobně pokryjeme tři nebezpečí: halucinace (AI produkující smyšlené informace, zdroje nebo citace), anachronismus (periodické prvky se přesouvají do nesprávného období) a disciplínu ověřování zdrojů obecně. Uvidíme také, jak se umělá inteligence učí ze zdrojů, které byly v minulosti nepřesné nebo zaujaté, takže může reprodukovat zaujatost.
Halucinace: nejnebezpečnější chyba
Halucinace je, když AI sebevědomě prezentuje něco, co ve skutečnosti neexistuje. Historicky se nejčastěji vyskytuje v následujících formách:
- Vymyšlený zdroj/odkaz: Neexistující archivní fond, číslo spisu, kniha nebo článek.
- Vymyšlená citace: Slovo, které ve skutečnosti nebylo řečeno, věta, která v dokumentu není.
- Vymyšlená událost/datum/osoba: Událost, která se nestala, falešné datum, osoba, která neexistuje.
- Fiktivní spojení: Neexistující vztah příčiny a následku mezi dvěma skutečnými událostmi.
To, co dělá halucinaci nebezpečnou, je to, že vypadá věrohodně. Vymyšlená reference má stejný formát jako skutečná reference: název fondu, číslo, datum. Takže „formát vypadá správně“ nikdy neznamená „správně“.
Upozornění: Žádný zdroj z produkce YZ nelze použít bez ověření a nalezení v katalogu nebo na spolehlivém místě. Jediný způsob, jak prokázat, že reference existuje, je vidět ji tam, kde se nachází původní zdroj (archivní katalog, knihovna, publikace). "AI to dala" není důkaz.
Anachronismus: dobové brýle
Anachronismus je vidění minulosti dnešními brýlemi. Protože je umělá inteligence vycvičena v dnešním jazyce, má silnou tendenci:
- Termín anachronismus: Použití slova, instituce nebo pojmu, které do daného období nepatří.
- Koncept anachronismus: Promítání představy o současnosti (např. moderní ideologie nebo identity) do minulosti.
- Hodnotový anachronismus: Posuzování minulého chování pouze podle dnešních měřítek.
Úkolem historika je chápat minulost v jejích souvislostech. AI tuto kontextovou citlivost postrádá; Musíte si to zajistit sami.
Pochopení toho, proč k halucinacím dochází tak často, usnadňuje jejich ochranu. Umělá inteligence je systém, který pracuje na vytváření „dalšího nejpravděpodobnějšího slova“; Nemá to žádný účel jako "poznání pravdy". Na otázku, zda zná odpověď nebo ne, vyprodukuje text, který vypadá statisticky přesvědčivě. Formát archivního odkazu (název fondu, číslo, datum) je naučený vzor; Umělá inteligence může vyplnit tento vzorec bez skutečné reference. Takže "proč si to AI vymýšlí?" Odpověď na otázku je jednoduchá: je pro něj jednodušší se nalíčit, než „nevědět“. Zodpovědnost padá na vás, abyste tyto formy naplnili skutečnými zdroji.
Disciplína ověřování zdroje: krok za krokem
1. Ověřte existenci zdroje. Najděte všechny reference poskytnuté AI v katalogu/publikaci. Pokud ji nemůžete najít, nepoužívejte ji.
2. Porovnejte obsah se zdrojem. Existují informace, které AI přisuzuje dokumentu, skutečně v dokumentu? Je citát úplně stejný?
3. Křížově potvrďte. Pro kritický fakt se podívejte na alespoň dva nezávislé spolehlivé zdroje.
4. Aplikujte kritiku zdroje. Je samotný zdroj spolehlivý? Kdo, kdy a za jakým účelem jej vyrobil? Je to zaujaté?
5. Protáhněte jej přes filtr anachronismu. Existují nějaké termíny, koncepty nebo hodnotové soudy, které neodpovídají danému období ve výstupu?
6. Zpochybnit předsudky. Mohla AI reprodukovat předsudky v historických zdrojích (ignorovat jednu skupinu, upřednostňovat jeden úhel pohledu)?
Autentizační vrstva
Otázka
kdo dělá
entita
Opravdu tento zdroj existuje?
Vy v katalogu.
Obsah
Opravdu je to v dokumentu uvedeno?
Vy v dokumentu
Potvrzení
Podporuje to nějaký jiný zdroj?
ty, kříži
spolehlivost
Je zdroj spolehlivý?
znalecký posudek
Období
Existují nějaké anachronismy?
znalecký posudek
předsudky
Čí hlas chybí/zkreslený?
znalecký posudek
tři mini pouzdra
Případ 1 – Šest vymyšlených odkazů. Výzkumník požádal AI o seznam zdrojů k tématu. YZ poskytlo 6 archivních referencí s perfektním formátováním. V katalogovém vyhledávání 4 ze 6 chyběly, 2 z nich měly špatné číslo. Pokud by to výzkumník neověřoval, vznikla by studie, která by citovala neexistující zdroje. Poučení: každá reference je ověřena v katalogu.
Případ 2 – Vymyšlená nabídka. Spisovatel by použil nápadný citát, který AI připisuje historické osobnosti. Když zkoumal zdroj, viděl, že neexistuje žádný dokument, který by dokazoval, že tato osoba něco takového řekla, a že prohlášení bylo „vymyšleno“ AI. Poučení: citace nelze použít bez ověření z primárního nebo spolehlivého zdroje.
Případ 3 – Reprodukce předsudků. Student nechal AI vysvětlit historii regionu. Výstup zcela ignoroval konkrétní komunitu v této oblasti, protože zdroje, ze kterých se umělá inteligence naučila, je také ignorovaly. Student si všiml a opravil tuto mezeru pomocí křížových odkazů. Lekce: Umělá inteligence reprodukuje mlčení a předsudky ve zdrojích; Člověk se musí ptát, čí hlas chybí.
Čtyři kopírovatelné šablony
1) Referenční ověřovací seznam:
VŠECHNY zdroje, reference, citace, datum a jména osob v textu níže jsou uvedeny v samostatném seznamu. Ke každému přidejte poznámku: "nárokováno v tomto textu, musí být nezávisle ověřeno." Pokud nevyberete žádné, "ověřit"; Stačí vytvořit seznam k ověření, abych ho mohl zkontrolovat z katalogu/zdroje. Text: [zde]
2) Skenování anachronismu:
Projděte si text o [období] níže. Zdůrazněte pojmy, instituce, koncepty a hodnoty, které do tohoto období NESMÍ patřit. U každého stručně napište, proč jste podezřelí. Vynášení konečného soudu; Vytvořte seznam podezření, který odborník prověří. Text: [zde]
3) Rámec zdrojové kritiky:
Zdrojová kritika je vypracována o následujícím zdroji: (1) Kdo ji mohl vytvořit, (2) Kdy, (3) Za jakým účelem, (4) Jaké jsou její možné zaujatosti, (5) Které problémy by měly být důvěryhodné a které by měly být obezřetné. Vynesení konečného rozsudku; Uveďte otázky a možné možnosti odpovědí. Zdroj: [zde]
4) Chybí ovládání hlasitosti/zkreslení:
ČÍ hlas a zkušenosti které skupiny mohou v následujícím historickém shrnutí chybět nebo být jednostranné? Která perspektiva je dominantní, která je neviditelná? Vytvořte to jako seznam otázek; Doplním to křížovými odkazy. Shrnutí: [zde]
Slabá výzva / Silná výzva
slabé:
Dejte mi spolehlivé historické zdroje a citáty na toto téma.
Umělá inteligence je velmi náchylná k vytváření odkazů, které jsou správné ve formě, ale jsou vyrobeny v obsahu, když jsou požádány o „zdroj“ a „citace“. Tato výzva je přímou výzvou k halucinaci.
Silný:
Navrhněte, jaké zdroje (typ archivního fondu, typ publikace, instituce) bych měl při svém výzkumu na toto téma hledat. VYBAVENÍ konkrétní reference, čísla spisu nebo nabídky; Jen mi řekni, kde hledat. Pak si najdu skutečné zdroje z katalogů.
Rozdíl: AI je požádána o „kam hledat“, nikoli o „skutečný odkaz“; Riziko halucinací je radikálně sníženo a ověřování je ponecháno na člověku.
Časté chyby
- Spoléhat se na správnou referenci. Udělaný odkaz také vypadá bezchybně; nutno ověřit v katalogu.
- Využití přímé citace od AI. Nabídky nelze použít bez potvrzení z primárního/spolehlivého zdroje.
- Přehlédnutí anachronismu. Dnešní termíny a koncepty tiše prosakují do minulosti.
- Reprodukce předsudků. AI kopíruje mlčení ze zdrojů; Na chybějící zvuk je potřeba se zeptat.
- Spoléhat se na jeden zdroj. Kritická fakta musí být potvrzena alespoň dvěma nezávislými zdroji.
V souhrnu
Ověření zdroje je srdcem historie a archivace a ve věku umělé inteligence je ještě důležitější. Halucinace produkuje zdroje, citáty a události, jejichž forma je dokonalá, ale jejichž obsah je fiktivní; anachronismus překrucuje minulost dnešními objektivy; a AI reprodukuje zkreslení ve zdrojích. Obrana je disciplína: ověřte každou referenci v katalogu, porovnejte obsah s dokumentem, křížově zkontrolujte kritická fakta, filtrujte období a zkreslení. Zeptejte se AI na „kam hledat“, ne na „skutečný zdroj“. Strážcem pravdy je vždy odborník.
Aplikační úkol
Požádejte AI, aby vytvořila seznam zdrojů na téma, na kterém pracujete (se záměrně „slabým dotazem“). Poté extrahujte všechny reference z tohoto výstupu pomocí šablony "seznam ověření referencí" a vyhledejte každou z nich v katalogu. Spočítejte, kolik jich skutečně existuje a kolik je vymyšlených nebo nepřesných. Opakujte stejné téma se „silnou výzvou“ („kam se mám podívat“) a zažijte rozdíl.
kontrolní seznam
- [ ] Ověřil jsem každou referenci v katalogu/důvěryhodném zdroji.
- [ ] Každou citaci jsem ověřil u primárního/spolehlivého zdroje.
- [ ] Kritická fakta jsem zkontroloval alespoň se dvěma nezávislými zdroji.
- [ ] Filtroval jsem výstup na anachronismy.
- [ ] Zpochybnil jsem chybějící/zkreslené hlasy a zaujatost.