Nyereség:
- Képes megmagyarázni, hogy a hallucináció (kitalált forrás, idézet, esemény) és az anakronizmus miért a történelem legveszélyesebb hibája
- Képes alkalmazni a katalógusban szereplő egyes hivatkozások ellenőrzésének, a tartalomnak a dokumentummal való összehasonlításának és a kritikus tények keresztmegerősítésének szabályait.
- Képes megkérdőjelezni az elfogultságot és a hiányzó hangokat a forrásokban azáltal, hogy megkérdezi a mesterséges intelligenciát, hogy hol keresse a valódi forrást
Ennek a modulnak minden egységében megismétlődik egy figyelmeztetés: az AI kimenete állítás, nem tény, amíg nem ellenőrizzük. Ez az egység ezt a figyelmeztetést fegyelemmé változtatja. A történelem és az archiválás eredendően bizonyítékokon alapuló terület; A történész legalapvetőbb készsége a forráskritika (az a kérdés, hogy ki, mikor, milyen céllal készült egy forrás, mennyire megbízható). A mesterséges intelligencia korában ez a készség még kritikusabbá vált, mivel maga a forrás is kitalálható.
Itt három veszélyt fogunk részletesen kitérni: a hallucinációt (koholt információkat, forrásokat vagy idézeteket előállító mesterséges intelligencia), az anakronizmust (az időszakos elemek rossz időszakra való áthelyezése), és általában a forrás-ellenőrzés fegyelmét. Azt is látni fogjuk, hogy a mesterséges intelligencia olyan forrásokból tanul, amelyek a múltban pontatlanok vagy elfogultak voltak, így képes reprodukálni az elfogultságot.
Hallucináció: a legveszélyesebb hiba
A hallucináció az, amikor egy mesterséges intelligencia magabiztosan bemutat valamit, ami valójában nem létezik. Történelmileg leggyakrabban a következő formákban látható:
- Előállított forrás/hivatkozás: Nem létező archív alap, ügyiratszám, könyv vagy cikk.
- Kitalált idézet: Egy szó, amelyet valójában nem mondtak ki, egy mondat, amely nem szerepel a dokumentumban.
- Kitalált esemény/randevú/személy: Meg nem történt esemény, hamis dátum, nem létező személy.
- Fiktív kapcsolat: Nem létező ok-okozati kapcsolat két valós esemény között.
A hallucinációt az teszi veszélyessé, hogy hihetőnek tűnik. A kitalált referencia formátuma megegyezik a valódi referenciával: alap neve, száma, dátuma. Tehát a „formátum jól néz ki” soha nem azt jelenti, hogy „helyes”.
Figyelem: Az YZ által előállított források nem használhatók fel anélkül, hogy ellenőriznék és nem találhatóak volna meg a katalógusban vagy megbízható helyen. A hivatkozás létezését csak úgy lehet igazolni, ha megnézzük, ahol az eredeti forrás található (archív katalógus, könyvtár, kiadvány). Az "AI adta" nem bizonyíték.
Anakronizmus: a korszak szemüvege
Az anakronizmus a múlt szemüvegén keresztül történő látása. Mivel az AI-t a mai nyelven oktatják, erősen hajlamos a következőkre:
- Anakronizmus kifejezés: olyan szó, intézmény vagy fogalom használata, amely nem tartozik a korszakhoz.
- Fogalmi anakronizmus: A jelenről alkotott elképzelés (pl. modern ideológia vagy identitás) kivetítése a múltba.
- Érték-anakronizmus: A múltbeli magatartás megítélése csak a mai mércék szerint.
A történész feladata, hogy a múltat a maga kontextusában megértse. Az AI-ból hiányzik ez a kontextusérzékenység; Ezt magának kell biztosítania.
Ha megértjük, miért fordulnak elő olyan gyakran a hallucinációk, könnyebben védekezhetünk ellene. Az AI egy olyan rendszer, amely a „következő legvalószínűbb szó” előállításán dolgozik; Nincs olyan célja, mint az "igazság megismerése". Amikor feltesznek egy kérdést, akár tudja a választ, akár nem, statisztikailag meggyőzőnek tűnő szöveget állít elő. A levéltári hivatkozás formátuma (alap neve, száma, dátuma) tanult minta; A mesterséges intelligencia valódi hivatkozás nélkül is kitöltheti ezt a mintát. Tehát „miért találja ki a mesterséges intelligencia?” A kérdésre egyszerű a válasz: könnyebb neki pótolni, mint "nem tudni". Önre hárul a felelősség, hogy ezeket a formákat valódi erőforrásokkal töltse fel.
Forrás-ellenőrzési fegyelem: lépésről lépésre
1. Ellenőrizze az erőforrás meglétét. Keresse meg az AI által megadott összes hivatkozást a katalógusban/kiadványban. Ha nem találja, ne használja.
2. Hasonlítsa össze a tartalmat a forrással. Az AI által egy dokumentumnak tulajdonított információ valóban létezik a dokumentumban? Az idézet pontosan ugyanaz?
3. Kereszt megerősítése. A kritikus tény érdekében nézzen meg legalább két független, megbízható forrást.
4. Alkalmazza a forráskritikát. Maga a forrás megbízható? Ki készítette, mikor és milyen célból? Elfogult?
5. Engedje át az anakronizmusszűrőn. Vannak olyan kifejezések, fogalmak vagy értékítéletek, amelyek nem illeszkednek a kimenetben szereplő időszakhoz?
6. Kérdés előítélet. A mesterséges intelligencia reprodukálhatta a történelmi források torzításait (egy csoport figyelmen kívül hagyása, egy nézőpont előnyben részesítése)?
Hitelesítési réteg
kérdés
aki igen
entitás
Valóban létezik ez az erőforrás?
Ön a katalógusban.
Tartalom
Valóban ez szerepel a dokumentumban?
Ön a dokumentumban
Megerősítés
Más forrás támogatja?
te, kereszt
megbízhatóság
Megbízható a forrás?
szakértői ítélet
Időszak
Vannak anakronizmusok?
szakértői ítélet
előítélet
Kinek a hangja hiányzik/torzult?
szakértői ítélet
három mini tok
1. eset – Hat kitalált hivatkozás. Egy kutató egy témával kapcsolatos források listáját kérte az AI-tól. Az YZ 6 archív referenciát biztosított tökéletes formázással. A katalóguskeresésnél a 6-ból 4 hiányzott, ebből 2-nél rossz a szám. Ha a kutató nem igazolta volna, akkor egy nem létező forrásokra hivatkozó tanulmány született volna. Tanulság: minden hivatkozás ellenőrizve van a katalógusban.
2. eset – Kitalált idézet. Egy író egy feltűnő idézetet használna, amelyet az AI egy történelmi személynek tulajdonít. Amikor megvizsgálta a forrást, azt látta, hogy nincs olyan dokumentum, amely igazolná, hogy az illető ezt mondta, és hogy a kijelentést az AI "találta". Tanulság: az idézetek nem használhatók elsődleges vagy megbízható forrásból származó ellenőrzés nélkül.
3. eset – Előítéletek reprodukciója. Egy diák az MI-vel elmagyarázta egy régió történetét. A kimenet teljesen figyelmen kívül hagyott egy adott közösséget ezen a területen, mert a források, amelyekből az AI tanult, szintén figyelmen kívül hagyták őket. Ezt a hiányosságot a tanuló észrevette és kereszthivatkozásokkal korrigálta. Tanulság: A mesterséges intelligencia a források elhallgatását és elfogultságát reprodukálja; Meg kell kérdezni, hogy kinek a hangja hiányzik.
Négy másolható sablon
1) Hivatkozási ellenőrző lista:
Az alábbi szövegben szereplő MINDEN forrás, hivatkozás, idézet, dátum és személynév külön listában jelenik meg. Adjon hozzá megjegyzést mindegyikhez: "ebben a szövegben állította, függetlenül kell ellenőrizni." Ha egyiket sem választja, "ellenőrizze"; Csak készítsen egy listát az ellenőrzéshez, hogy ellenőrizhessem a katalógusból/forrásból. Szöveg: [itt]
2) Anakronizmus szkennelés:
Vizsgálja meg az alábbi, [időszak]-ról szóló szöveget. Emelje ki azokat a kifejezéseket, intézményeket, fogalmakat és értékeket, amelyek NEM tartoznak ehhez az időszakhoz. Mindegyikhez írja le röviden, miért gyanús. Végső ítélet meghozatala; Készítsen egy listát a gyanúkról, amelyeket a szakértő ellenőrizni fog. Szöveg: [itt]
3) Forráskritika keretrendszer:
Forráskritika készül a következő forrásról: (1) Ki készíthette, (2) Mikor, (3) Milyen célból, (4) Melyek a lehetséges torzításai, (5) Mely kérdésekben kell megbízni, és melyekben kell óvatosnak lenni. jogerős ítélet kiszabása; Adjon meg kérdéseket és lehetséges válaszlehetőségeket. Forrás: [itt]
4) Hiányzik a hangerő/eltolódás vezérlő:
KINEK hangja és melyik csoport tapasztalata hiányozhat vagy egyoldalú az alábbi történelmi összefoglalóból? Melyik perspektíva a domináns, melyik láthatatlan? Készítse el ezt kérdések listájaként; Megtöltöm kereszthivatkozásokkal. Összegzés: [itt]
Gyenge felszólítás / Erős felszólítás
Gyenge:
Adjon megbízható történelmi forrásokat és idézeteket ebben a témában.
A mesterséges intelligencia nagyon hajlamos arra, hogy formájukban helyes, de tartalmilag kitalált hivatkozásokat állítson elő, amikor „forrás” és „idézet” megjelölést kérnek. Ez a felszólítás közvetlen felhívás a hallucinációra.
Erős:
Javasolja, hogy milyen forrásokat (archívum alaptípus, kiadványtípus, intézmény) keressek a témával kapcsolatos kutatásaim során. konkrét hivatkozás, ügyiratszám vagy árajánlat TELJESÍTÉSE; Csak mondd meg, hol keressem. Majd a katalógusokból megkeresem a valódi forrásokat.
Különbség: a mesterséges intelligencia a „hol keresendő”, nem a „tényleges hivatkozás”-ra kérdezi; A hallucinációk kockázata radikálisan csökken, és az ellenőrzést az emberre bízzuk.
Gyakori hibák
- A helyes hivatkozásra hagyatkozva. A kitalált referencia is hibátlannak tűnik; ellenőrizni kell a katalógusban.
- Közvetlen idézet az AI-tól. Az idézetek nem használhatók fel az elsődleges/megbízható forrás megerősítése nélkül.
- Kilátás az anakronizmusra. A mai kifejezések és fogalmak csendben beszivárognak a múltba.
- Az előítéletek reprodukálása. A mesterséges intelligencia a csendet másolja a forrásokból; Meg kell kérdezni a hiányzó hangot.
- Egyetlen forrásra támaszkodva. A kritikus tényeket legalább két független forrásnak meg kell erősítenie.
Összefoglalva
A forrásellenőrzés a történelem és az archiválás középpontjában áll, és még kritikusabb az AI korában. A hallucináció olyan forrásokat, idézeteket és eseményeket hoz létre, amelyek formája tökéletes, de tartalma fiktív; az anakronizmus eltorzítja a múltat a mai szemüvegen keresztül; és a mesterséges intelligencia a források torzításait reprodukálja. A védekezés egy tudományág: ellenőrizze a katalógus minden hivatkozását, hasonlítsa össze a tartalmat a dokumentummal, ellenőrizze a kritikus tényeket, szűrje ki az időszakot és az elfogultságot. Kérdezze meg az AI-t, hogy „hol keressen”, ne „a tényleges forrást”. Az igazság őre mindig a szakértő.
Pályázati feladat
Kérje meg az MI-t, hogy készítsen egy listát az erőforrásokról egy olyan témában, amelyen dolgozik (szándékosan "gyenge felszólítással"). Ezután bontsa ki az összes hivatkozást ebből a kimenetből a "referenciaérvényesítési lista" sablonnal, és keressen mindegyikben egy katalógusban. Számolja meg, hány létezik valójában, és hány kitalált vagy pontatlan. Ismételje meg ugyanazt a témát egy "erős felszólítással" ("hol keressem"), és tapasztalja meg a különbséget.
ellenőrző lista
- [ ] Minden hivatkozást ellenőriztem a katalógusban/megbízható forrásban.
- [ ] Minden árajánlatot ellenőriztem az elsődleges/megbízható forrással.
- [ ] A kritikus tényeket legalább két független forrással összevetettem.
- [ ] A kimenetet anakronizmusokra szűrtem.
- [ ] Megkérdőjeleztem a hiányzó/torz hangokat és az elfogultságot.