Nyereség:
- Megkülönböztetni, hogy a mesterséges intelligencia hol spórol időt az előzményekben és az archiválási munkákban (átírás, szerkesztés, szkennelés, piszkozat), és hol marad a szakértőre az értelmezés, a forráskritika és a végső döntés a kockázat mértékétől függően.
- Képesség a hallucináció ellen verifikációs fegyelem alkalmazására azáltal, hogy minden kimenetet a forráshoz csatlakoztat, keresztmegerősíti és kiszűri az anakronizmusra.
- Hogy megértsük, miért kell kezdettől fogva figyelembe venni a titoktartást, a szerzői jogokat és a kulturális érzékenységet a történelemben és az archív anyagokban.
Amikor egy történész vagy levéltáros ül az íróasztalánál, gyakran hatalmas halom van előtte: megsárgult füzetek, mikrofilmes újságok, több ezer digitális fénykép, kézzel írott levelek, hivatalos levelezés, telekkönyvek. Ennek a halomnak az olvasása, rendszerezése, meghatározása és értelmesítése évekig tartó munka. A mesterséges intelligencia (röviden AI; számítógépes rendszerek, amelyek mintákat tanulnak, szöveget generálnak és osztályoznak szövegek és képek nagy tömegeiből) drámaian felgyorsíthatják ennek a munkának a mechanikus és ismétlődő részét. De pontosan egy olyan területen, mint a történelem és az archiválás, amely bizonyítékokra, forrásokra és pontosságra támaszkodik, kezdettől fogva tudnia kell, hogy a mesterséges intelligencia hol hasznos és hol veszélyes.
Ez az egység az egész modul iránytűje. Itt megvitatjuk, hogy a mesterséges intelligencia hol takarít meg időt a történelemben és az archiválási munkában, hol nélkülözhetetlen a humán szakértő megítélése, miért kell minden kimenetet ellenőrizni, valamint e terület sajátos etikai határait.
Az AI helyes elhelyezése: asszisztens, nem döntéshozó
A legalapvetőbb szabály a következő: az AI asszisztens, nem történész vagy levéltáros. AI; Ez egy gyors segítő, amely átírja a dokumentumokat, összefoglal egy gyűjteményt, lefordítja a szöveget, metaadatokat javasol egy gyűjteményhez, és megjelöli a mintákat. De az ítélkezést, értelmezést és felelősséget igénylő döntések, mint például "valódi-e ez a dokumentum", "mit jelent ez az esemény", "megbízható-e ez a forrás", "hogyan kell ezt a gyűjtést megszervezni" a szakértőt illeti.
Tisztázzuk ezt a különbséget egy táblázat segítségével:
üzleti típus
Erős az AI?
Kinek a felelőssége?
Nyomtatott szöveg konvertálása gépi szöveggé (OCR)
Igen, nagyon gyorsan
az emberi lények igazak
Kéziratos átírás tervezete
Részben a hibahatár magas
Az emberek biztosan megjavítják
Több ezer dokumentum összegzése/szkennelése
Igen
Az ember leszáll a forráshoz
A metaadatok (dátum, hely, tárgy) vázlata
Igen
ember helyesli
Döntés a dokumentum hitelességéről
nem
Csak szakértő
Történeti értelmezés és ok-okozati összefüggés megállapítása
nem
csak történész
Értékelje a forrás hitelességét
nem
Csak szakértő
Egy mondatban összefoglalva ezt a képet: a mesterséges intelligencia előkészíti az adatokat, a szakértő értelmet ad és meghozza a döntést.
Miért elengedhetetlen az ellenőrzés: hallucináció és anakronizmus
A humán- és társadalomtudományi mesterséges intelligencia használatának legnagyobb veszélye a hallucináció. A hallucináció az, amikor egy mesterséges intelligencia magabiztosan gyárt olyan információt, forrást vagy idézetet, amely valójában nem létezik. Ahelyett, hogy azt mondaná, hogy „nem tudom”, a mesterséges intelligencia hajlamos egy hihetőnek tűnő, kitalált válasszal kitölteni az üres helyet. A történelemben ez végzetes: utalás egy nem létező dokumentumra, egy koholt történelem, egy szó, amelyet valójában nem mondanak ki, egy esemény, amely meg nem történt.
A második nagy veszély az anakronizmus. Az anakronizmus az egyik korszak elemének (szó, intézmény, technológia, fogalom) helytelen elhelyezése egy másik korszakban. Mivel a mesterséges intelligencia a mai nyelven és fogalmakon van kiképezve, hajlamos arra, hogy a múltat a mai szemüvegen keresztül magyarázza, és a nem létező intézményeket vagy kifejezéseket átvigye a múltba. Például egy 16. századi dokumentum összegzésekor használhat olyan címet vagy közigazgatási egységet, amely akkor még nem létezett.
Vigyázat: Minden dátum, név, szám, idézet és forrás, amelyet a mesterséges intelligencia előállít, állításnak minősül, nem pedig ténynek, amíg Ön nem ellenőrzi azt. „Az AI azt mondta” nem forrás a történetírásban; ez csupán egy nyom, amely a valódi forráshoz irányít.
Ellenőrzési fegyelem: három lépés
Javasoljunk egy érvényesítési szokást, amelyet megismételünk ebben a modulban:
1. Csatlakozás a forráshoz. A mesterséges intelligencia minden jelentősebb állítását az eredeti dokumentumra, archív hivatkozásra vagy megbízható kiadványra alapozza. Ne használjon olyan állítást, amelynek nincs forrása.
2. Kereszt megerősítése. Egy kritikus tényhez (dátum, név, esemény) forduljon legalább két független forráshoz. Az AI összefoglalója ugyanaz, mint a tényleges dokumentum?
3. Szűrje át az anakronizmust és a következetességet. Van-e olyan kifejezés, amely nem illik a periódushoz, lehetetlen dátum, inkonzisztens név a kimenetben? Kérdezd meg: "Illehető ez az időszak?" szakértői szemszögből.
három mini tok
1. eset – Előállított archív hivatkozás. Egy végzős hallgató „archív forrásokat” kért az AI-ról egy témában. Az YZ 6 archív hivatkozást adott vissza, amelyek formátuma tökéletesnek tűnt: alap neve, fájl száma, dátum. Amikor a diák átkutatta az archív katalógust, azt találta, hogy 6 hivatkozásból 4 egyáltalán nem létezik. A maradék 2-ben rossz számok voltak. Tanulság: Az AI által generált hivatkozások nem használhatók fel a katalógusban való ellenőrzés nélkül.
2. eset – az OCR 40 óráról 6 órára csökkent. Egy önkormányzati archívum 3200 oldalnyi nyomtatott tanácsi jegyzőkönyvet digitalizált 1950 és 1970 között. A kézi átírást 40 munkanapra becsülték. Az OCR-rel a nyers szöveg percek alatt jött ki; Egy munkatárs 6 munkanapon belül kijavította és ellenőrizte a szöveget. A mesterséges intelligencia 85%-kal csökkentette a mechanikai munkát, de a végső olvasás és szerkesztés az emberre maradt.
3. eset – Anakronisztikus összefoglalás. Egy levéltáros kérte, hogy YZ összefoglaljon egy 18. századi alapítási feljegyzést. Az összefoglaló gördülékeny volt, de a dokumentumban nem szereplő, a korszakhoz nem tartozó modern közigazgatási kifejezést használt. Ha a levéltáros nem ment volna le az eredeti dokumentumra, akkor ez az anakronizmus a katalógusbejegyzésben rögzített volna. Tanulság: az absztraktot mindig összehasonlítjuk a fő dokumentummal.
Négy másolható sablon
1) Nyitás, amely meghatározza a szerepeket és a határokat:
Az Ön szerepköre: történelemben és archívumban dolgozó asszisztens. Feladatai közé tartozik a szövegszerkesztés, a körvonalak készítése és a minták megjelölése. Szigorú szabályok: (1) Csak arra a szövegre hagyatkozzon, amelyet adtam, ne adjon hozzá tényeket, dátumokat vagy forrásokat a saját „emlékezetéből”. (2) Ha nem biztos benne, írja be, hogy "bizonytalan", ne találja ki. (3) Ne állítson olyan állítást, amelynek nincs forrása. Erősítse meg, ha megérti, akkor megadom a szöveget.
2) Hallucináció elleni utasítások:
Foglalja össze az alábbi szöveget. Szabályok: ne írjon be olyan neveket, dátumokat, helyeket vagy számokat, amelyek nem szerepelnek egyértelműen a szövegben. Még csak ne is adjon hozzá "valószínűleg" olyan információt, amely nem szerepel a szövegben. Ha egy információ nem szerepel a szövegben, írja be, hogy "nincs megadva a szövegben". Szöveg: [itt]
3) Az anakronizmus ellenőrzése:
Tekintse át a [term] dolgozat összefoglaló tervezetét alább. Jelölje meg azokat a kifejezéseket, intézményeket, címeket és fogalmakat, amelyek nem tartoznak ehhez az időszakhoz. Mindegyikhez írja le röviden, hogy miért gyanús. Ne hozz végső ítéletet; Csak azokat a pontokat sorolja fel, amelyeket a humán szakértőnek ellenőriznie kell. Vázlat: [itt]
4) Forrás-követelés elemző:
Ossza meg a következő szöveg minden mondatát két kategóriába: (A) Közvetlenül a forrásba írt tény, (B) Értelmezés/következtetés. Minden olyan állítást, amelynek forrása nem egyértelmű, jelölje meg „ellenőrzésre szorul”-ként. Szöveg: [itt]
Gyenge felszólítás / Erős felszólítás
Gyenge:
Meséljen nekem erről az oszmán dokumentumról.
Ez a felszólítás arra kéri a mesterséges intelligenciát, hogy a saját „memóriájából” beszéljen, kitalált részletekkel és anakronizmussal.
Erős:
Az Ön szerepköre történelemasszisztens. CSAK a dokumentum alapján illesztettem be az alábbi átiratot: (1) sorolja fel a dokumentumban említett személyeket, helyeket és dátumokat, (2) találja ki a dokumentum típusát, de mondhatja, hogy "nem vagyok benne biztos", (3) adjon meg minden olyan információt, amely nem szerepel a szövegben, (4) jelölje meg a gyanús/olvashatatlan területeket [?]-vel. Dokumentum: [itt]
A különbség egyértelmű: a szerepkör, az egyetlen forrástól való függés, a gyártás tilalma, a kétértelműség megjelölésének engedélye és az egyértelmű kimeneti struktúra megbízhatóvá teszi a kimenetet.
Etika, magánélet és kulturális érzékenység
A történelem és az archív anyag nem egy ártatlan szöveghalom. Tartalmazhat személyek személyes adatait (polgári iratok, egészségügyi akták, bírósági iratok), érzékeny közösségi emlékeket, szerzői joggal védett műveket és kulturálisan érzékeny anyagokat. Néhány alapelv:
- Adatvédelem: Az élő személyek azonosítását lehetővé tévő érzékeny dokumentumok (személyes adatok) nyilvános mesterséges intelligencia-eszközökbe feltöltése jogi és etikai megsértést is jelenthet. Tartsa be intézménye adatkezelési szabályzatát és a vonatkozó jogszabályokat.
- Szerzői jog: Nem minden digitalizált dokumentum lehet közkincs. Fontolja meg a jogokat, mielőtt átadná azokat az MI-nek.
- Kulturális érzékenység: Egyes közösségek beleszólhatnak történelmi anyagaik felhasználásába. Az AI „hatékony” javaslata nem hagyhatja figyelmen kívül a közösség érzékenységét.
- Átláthatóság: Jegyezze fel, hogy mesterséges intelligencia által generált átírás vagy metaadatok MI segítségével készültek. Erre azért van szükség, hogy a későbbi kutatók ellenőrizni tudják.
Tipp: Mielőtt feltölt egy dokumentumot egy felhő alapú mesterséges intelligencia eszközbe, tegyél fel egy kérdést: "Kinek sérülne, ha ennek a dokumentumnak a tartalma megjelenne az interneten?" Ha a válasz „senki”, először keresse a vállalati jóváhagyást és a biztonságos eszközöket.
Gyakori hibák
- Összetéveszti az AI-t egy történészsel. Az AI nem értelmez és nem dönt; készen állnak. Az értelem és a felelősség a tiéd.
- A kimenet használata érvényesítés nélkül. Minden dátum, név, idézet és hivatkozás állítás; Ez nem tény, amíg a forrás meg nem erősíti.
- Hamisított forrásokra támaszkodva. A mesterséges intelligencia hiteles, de nem létező referenciákat tud készíteni; Keressen a katalógusban.
- Kilátás az anakronizmusra. Szűrje le azokat a kimeneteket, amelyek a mai nyelven leírják a múltat korszakszempontból.
- Érzékeny dokumentumok véletlenszerű feltöltése. Kezdettől fogva vegye figyelembe a személyes adatokat, a szerzői jogokat és a kulturális érzékenységet.
Összefoglalva
A történelemben és az archiválásban az AI egy hatékony asszisztens, amely rendkívül felgyorsítja a mechanikus és ismétlődő munkát (átírás, szerkesztés, szkennelés, metaadatok rajzolása). De a hallucináció és az anakronizmus pontosan ezen a területen jelentenek valódi veszélyt. Minden kimenet összekapcsolása a forrással, keresztellenőrzés, periódusszűrő; Az értelmezést, a döntést és a végső felelősséget mindig tartsa meg magának. Az első naptól kezdve ügyeljen a magánéletre, a szerzői jogokra és a kulturális érzékenységre. Ezzel a tudományággal az AI olyan eszközzé válik, amely felgyorsítja, nem pedig lassítja a történelmi kutatást.
Pályázati feladat
Válasszon ki egy történelmi dokumentumot, legyen nyomtatott vagy digitális. Először helyezze el az AI-t a „Nyitás beállítási szerepkör és határ” sablonnal. Ezután használja a „hallucináció elleni utasítást”, amikor összefoglalja a dokumentumot. Jelölje meg a kimenetet a „source-claim parser” kifejezéssel, és hasonlítsa össze az „ellenőrizendő” megjelölésű állításokat a tényleges dokumentummal. Jegyezze meg, hány pontot adott hozzá vagy torzított el az AI.
ellenőrző lista
- [ ] Az AI-t asszisztensnek, nem döntéshozónak pozícionáltam.
- [ ] Csak azt akartam, hogy az általam megadott forráson alapuljon.
- [ ] Minden dátumot, nevet és hivatkozást függetlenül ellenőriztem.
- [ ] A kimenetet anakronizmusokra szűrtem.
- [ ] Megfigyeltem a bizalmas, szerzői jogi és kulturális érzékenységet az érzékeny dokumentumoknál.