zisky:
- Vedieť rozlíšiť, kde umelá inteligencia šetrí čas pri práci s históriou a archívom (prepis, editácia, skenovanie, návrh) a kde je interpretácia, kritika zdroja a konečné rozhodnutie ponechané na odborníkovi v závislosti od miery rizika.
- Schopnosť uplatniť overovaciu disciplínu proti halucináciám pripojením každého výstupu k zdroju, krížovým potvrdením a filtrovaním na anachronizmus.
- Aby sme pochopili, prečo by sa dôvernosť, autorské právo a kultúrna citlivosť mali brať do úvahy v histórii a archívnych materiáloch od samého začiatku.
Keď si historik alebo archivár sadne za svoj stôl, často je pred ním obrovská kopa: zažltnuté zošity, mikrofilmované noviny, tisíce digitálnych fotografií, ručne písané listy, úradná korešpondencia, pozemkové knihy. Čítanie, usporiadanie, definovanie a pochopenie tejto hromady je práca, ktorá trvá roky. Umelá inteligencia (skrátene AI; počítačové systémy, ktoré sa učia vzory, generujú a klasifikujú text z veľkého množstva textu a obrázkov) môže dramaticky urýchliť mechanickú a opakujúcu sa časť tejto práce. Ale práve v takej oblasti ako je história a archivácia, ktorá sa spolieha na dôkazy, zdroje a presnosť, musíte od začiatku vedieť, kde je AI užitočná a kde je nebezpečná.
Táto jednotka je kompasom celého modulu. Tu budeme diskutovať o tom, kde AI šetrí čas v histórii a archívnej práci, kde je úsudok ľudského experta nevyhnutný, prečo musí byť každý výstup overený a aké sú špecifické etické hranice tejto oblasti.
Správne umiestnenie AI: asistent, nie osoba s rozhodovacou právomocou
Najzákladnejšie pravidlo je toto: AI je asistent, nie historik alebo archivár. AI; Je to rýchly pomocník, ktorý prepíše dokument, zosumarizuje kolekciu, preloží text, navrhne metadáta pre kolekciu a označí vzory. Ale rozhodnutia, ktoré si vyžadujú úsudok, interpretáciu a zodpovednosť, ako napríklad „je tento dokument skutočný“, „čo znamená táto udalosť“, „je tento zdroj spoľahlivý“, „ako by mala byť táto zbierka organizovaná“, patria odborníkovi.
Objasnime tento rozdiel pomocou tabuľky:
obchodný typ
Je AI výkonná?
Koho zodpovednosť?
Konverzia tlačeného textu na strojový text (OCR)
Áno, veľmi rýchlo
ľudské bytosti správne
Návrh prepisu rukopisu
Čiastočne je chybovosť vysoká
Ľudia to určite opravia
Zhrňte/naskenujte tisíce dokumentov
áno
Človek prichádza až k zdroju
Náčrt metadát (dátum, miesto, predmet).
áno
človek schvaľuje
Rozhodovanie o pravosti dokumentu
č
Iba odborník
Historický výklad a stanovenie príčiny a následku
č
iba historik
Vyhodnoťte dôveryhodnosť zdroja
č
Iba odborník
Aby sme tento obrázok zhrnuli do jednej vety: AI pripraví dáta, expert dáva zmysel a rozhodne.
Prečo je overovanie nevyhnutné: halucinácie a anachronizmus
Najväčším nebezpečenstvom používania AI v humanitných a spoločenských vedách sú halucinácie. Halucinácia je, keď AI s istotou vymýšľa informácie, zdroj alebo citát, ktorý v skutočnosti neexistuje. Namiesto toho, aby povedala „Neviem“, AI má tendenciu vyplniť prázdne miesto vymyslenou odpoveďou, ktorá sa zdá byť vierohodná. V histórii je to fatálne: odkaz na neexistujúci dokument, vymyslená história, slovo, ktoré sa v skutočnosti nevyslovilo, udalosť, ktorá sa nestala.
Druhým veľkým nebezpečenstvom je anachronizmus. Anachronizmus je nesprávne umiestnenie prvku jedného obdobia (slova, inštitúcie, technológie, konceptu) do iného obdobia. Keďže AI je trénovaná s dnešným jazykom a konceptmi, je náchylná na vysvetľovanie minulosti cez dnešné šošovky a prenášanie neexistujúcich inštitúcií alebo termínov do minulosti. Napríklad pri sumarizácii dokumentu zo 16. storočia môže použiť názov alebo administratívnu jednotku, ktorá v tom čase neexistovala.
Upozornenie: Každý dátum, meno, číslo, citát a zdroj, ktoré AI vyprodukuje, je tvrdenie, nie fakt, kým si to nezávisle neoveríte. „Umelá inteligencia to povedala“ nie je zdrojom v historiografii; je to len vodítko, ktoré vás nasmeruje k skutočnému zdroju.
Overovacia disciplína: tri kroky
Navrhnime overovací zvyk, ktorý budeme opakovať v tomto module:
1. Pripojte sa k zdroju. Založte každé hlavné tvrdenie AI na pôvodnom dokumente, archívnej referencii alebo spoľahlivej publikácii. Nepoužívajte tvrdenie, ktoré nemá zdroj.
2. Krížovo potvrdiť. Pri kritickej skutočnosti (dátum, meno, udalosť) si pozrite aspoň dva nezávislé zdroje. Je zhrnutie AI rovnaké ako to, čo hovorí skutočný dokument?
3. Prefiltrujte cez anachronizmus a konzistenciu. Je vo výstupe termín, ktorý nepasuje do obdobia, nemožný dátum, nejednotný názov? Opýtajte sa: "Vyhovuje to tomuto obdobiu?" z pohľadu odborníka.
tri mini prípady
Prípad 1 – Vyhotovený archívny odkaz. Postgraduálny študent požiadal AI o „archívne zdroje“ k danej téme. YZ vrátilo 6 archívnych referencií, ktorých formát sa zdal byť dokonalý: názov fondu, číslo súboru, dátum. Keď študent hľadal v archívnom katalógu, zistil, že 4 zo 6 referencií vôbec neexistujú. Zvyšné 2 mali nesprávne čísla. Poučenie: Žiadna referencia vygenerovaná AI nemôže byť použitá bez overenia v katalógu.
Prípad 2 – OCR skrátené zo 40 hodín na 6 hodín. Mestský archív v rokoch 1950 až 1970 zdigitalizoval 3200 strán tlačených zápisníc zastupiteľstva. Ručné prepisovanie sa odhadovalo na 40 pracovných dní. S OCR sa nespracovaný text objavil v priebehu niekoľkých minút; Pracovník opravil a overil text do 6 pracovných dní. AI znížila mechanickú prácu o 85 %, ale konečné čítanie a úpravy zostali na človeku.
Prípad 3 – Anachronické zhrnutie. Archivár dal YZ zhrnúť základný záznam z 18. storočia. Resumé bolo plynulé, no používalo moderný administratívny výraz, ktorý sa v dokumente nevyskytuje a nepatrí do obdobia. Ak by archivár nešiel až k pôvodnému dokumentu, tento anachronizmus by bol zaznamenaný v katalógovom zázname. Poučenie: abstrakt sa vždy porovnáva s hlavným dokumentom.
Štyri kopírovateľné šablóny
1) Otvorenie, ktoré určuje roly a hranice:
Vaša úloha: asistent pracujúci v histórii a archívoch. Medzi vaše úlohy patrí úprava textu, vytváranie obrysov a označovanie vzorov. Prísne pravidlá: (1) Spoliehajte sa len na text, ktorý som vám dal, nepridávajte fakty, dátumy ani zdroje z vlastnej „pamäte“. (2) Ak si nie ste istý, napíšte „neistý“, nevymýšľajte si. (3) Neuvádzajte žiadne tvrdenia, ktoré nemajú zdroj. Potvrďte, ak rozumiete, potom pošlem text.
2) Inštrukcia proti halucináciám:
Zhrňte text nižšie. Pravidlá: nepridávajte žiadne mená, dátumy, miesta alebo čísla, ktoré nie sú JASNE uvedené v texte. Nepridávajte ani „pravdepodobne“ informácie, ktoré v texte nie sú. Ak v texte nie je zahrnutá informácia, napíšte „v texte nie je uvedené“. Text: [tu]
3) Kontrola anachronizmu:
Pozrite si nižšie uvedený návrh zhrnutia [semborného] dokumentu. Označte pojmy, inštitúcie, názvy a pojmy, ktoré nemusia patriť do tohto obdobia. Ku každému stručne napíšte, prečo je to podozrivé. Nerobte konečný súd; Uveďte iba body, ktoré by mal odborník na človeka skontrolovať. Koncept: [tu]
4) Analyzátor nároku na zdroj:
Rozdeľte každú vetu v nasledujúcom texte do dvoch kategórií: (A) Fakt napísaný priamo v zdroji, (B) Interpretácia/inferencia. Označte tiež každé vyhlásenie, ktorého zdroj je nejasný, ako „potrebuje overenie“. Text: [tu]
Slabá výzva / Silná výzva
slabé:
Povedz mi o tomto osmanskom dokumente.
Táto výzva vyzýva AI, aby hovorila zo svojej vlastnej „pamäte“, pridávajúc vymyslené detaily a anachronizmus.
Silný:
Vašou úlohou je asistent histórie. IBA na základe dokumentu som prilepil prepis nižšie: (1) vymenujte osoby, miesta a dátumy uvedené v dokumente, (2) uhádnite typ dokumentu, ale môžete povedať „nie som si istý“, (3) pridajte akékoľvek informácie, ktoré nie sú v texte, (4) označte podozrivé/nečitateľné oblasti pomocou [?]. Dokument: [tu]
Rozdiel je jasný: úloha, závislosť na jednom zdroji, zákaz výroby, povolenie označiť nejednoznačnosť a jasná štruktúra výstupu robia výstup spoľahlivým.
Etika, súkromie a kultúrna citlivosť
História a archívny materiál nie je nevinná kôpka textu. Môže obsahovať osobné údaje ľudí (občianske záznamy, zdravotné záznamy, súdne dokumenty), citlivé spomienky komunity, diela chránené autorskými právami a kultúrne citlivé materiály. Niekoľko zásad:
- Súkromie: Nahrávanie citlivých dokumentov, ktoré umožňujú identifikovať živé osoby (osobné údaje) do verejných nástrojov AI, by mohlo byť právnym aj etickým porušením. Dodržiavajte politiku údajov vašej inštitúcie a príslušnú legislatívu.
- Autorské práva: Nie každý dokument, ktorý digitalizujete, môže byť voľným dielom. Zvážte práva skôr, ako ich dáte AI.
- Kultúrna citlivosť: Niektoré komunity majú slovo v tom, ako sa používajú ich historické materiály. „Efektívny“ návrh AI nemôže ignorovať citlivosť komunity.
- Transparentnosť: Zaznamenajte, že prepis alebo metadáta vygenerované AI boli vytvorené pomocou AI. Je to potrebné, aby si to mohli overiť ďalší výskumníci.
Tip: Pred nahraním dokumentu do cloudového nástroja AI si položte jednu otázku: „Kto by bol poškodený, keby sa obsah tohto dokumentu objavil na internete?“ Ak je odpoveď „nikto“, najprv vyhľadajte firemné schválenie a bezpečné nástroje.
Časté chyby
- Zamieňanie AI za historika. AI nevykladá ani nerozhoduje; sú pripravení. Zmysel a zodpovednosť leží na vás.
- Použitie výstupu bez jeho overenia. Každý dátum, meno, citát a odkaz je nárok; Nie je to fakt, kým to nepotvrdí zdroj.
- Spoliehanie sa na vymyslené zdroje. AI môže produkovať dôveryhodné, ale neexistujúce referencie; Hľadaj v katalógu.
- S prehliadnutím anachronizmu. Filtrujte výstupy, ktoré popisujú minulosť dnešným jazykom s dobovou perspektívou.
- Náhodné nahrávanie citlivých dokumentov. Od začiatku zvážte osobné údaje, autorské práva a kultúrnu citlivosť.
V súhrne
V histórii a archivácii je AI výkonným pomocníkom, ktorý ohromne urýchľuje mechanickú a opakovanú prácu (prepisovanie, úpravy, skenovanie, vytváranie metadát). Ale práve v tejto oblasti dôkazov sú halucinácie a anachronizmus skutočným nebezpečenstvom. Prepojiť každý výstup so zdrojom, krížovo overiť, filtrovať obdobie; Výklad, rozhodnutie a konečnú zodpovednosť si vždy nechajte pre seba. Od prvého dňa dodržiavajte súkromie, autorské práva a kultúrnu citlivosť. S touto disciplínou sa AI stáva nástrojom, ktorý historický výskum urýchľuje, nie spomaľuje.
Aplikačná úloha
Vyberte historický dokument, ktorý máte, či už tlačený alebo digitálny. Najprv umiestnite AI pomocou šablóny „Otváranie roly a hranice“. Potom pri zhrnutí dokumentu použite „antihalucinačný pokyn“. Označte výstup "source-claim parser" a porovnajte každý výrok označený "musí byť overený" so skutočným dokumentom. Všimnite si, koľko bodov pridala alebo skreslila AI.
kontrolný zoznam
- [ ] AI som umiestnil ako asistenta, nie ako rozhodovateľa.
- [ ] Len som chcel, aby to bolo založené na zdroji, ktorý som uviedol.
- [ ] Každý dátum, meno a referenciu som nezávisle overil.
- [ ] Filtroval som výstup na anachronizmy.
- [ ] V citlivých dokumentoch som pozoroval dôvernosť, autorské práva a kultúrnu citlivosť.