Nyereség:
- Képes a hallucináció rögzítésére az egyes források létezésének ellenőrzésével, az elsődleges forráshoz való eljutással és a független keresztmegerősítő lépésekkel
- Képes megőrizni az eredetiséget és a tudományos integritást a koholt idézetekkel és dokumentumokkal szemben a humán- és társadalomtudományokban
- Képes megtanítani a felhasználókat a források ellenőrzésére és az információs műveltségre a mesterséges intelligencia korában
A könyvtárügy társadalmi küldetésének középpontjában egyetlen ígéret áll: a megbízható információ. A könyvtáros nemcsak az információkhoz, hanem az ellenőrzött információkhoz is eljuttatja a felhasználót, és megtanítja, hogyan értékelje ezeket az információkat maga. A mesterséges intelligencia korában ez a küldetés egyre nehezebbé és fontosabbá vált; mert az AI rendkívül meggyőző módon tud félretájékoztatni. Ebben az egységben a hallucinációk felismerésével, a forrásellenőrzés tudományával és az információs műveltség oktatásával foglalkozunk a mesterséges intelligencia korában.
Határozzuk meg a fogalmakat. A hallucináció az, amikor a mesterséges intelligencia olyan információkat, forrásokat, idézeteket vagy eseményeket állít elő, amelyek valójában nem léteznek, mintha valódiak lennének. A forrásellenőrzés annak megerősítése, hogy az információ valódi, megbízható és elsődleges forráson alapul. Az információs műveltség az egyén azon képessége, hogy információt találjon, értékeljen, megkérdőjelezze megbízhatóságát és etikusan használja fel. Ennek az egységnek az a célja, hogy a könyvtáros ezeket a készségeket erősítse mind saját gyakorlatában, mind a felhasználó tanítása során.
Lépésről lépésre: forrásellenőrzési fegyelem
1. Kérje le a forrást, és ellenőrizze annak meglétét. Amikor az AI állítást vagy idézetet ad, „mi forrásból van ez?” és ellenőrizze, hogy a forrás valóban létezik-e egy független katalógusban, adatbázisban vagy elsődleges dokumentumban.
2. Lépjen az elsődleges forráshoz. Az információ legmegbízhatóbb formája az első kézből származó forrás. Ne elégedjen meg az AI összefoglalásával vagy másodlagos szöveggel; Lehetőleg hozzáférjen az eredeti dokumentumhoz, adathoz vagy kiadványhoz.
3. Kereszt megerősítése. Egy kritikus állítást legalább két megbízható, egymástól független forrással igazoljon. Egy erőforrás, különösen a mesterséges intelligencia erőforrás nem elegendő.
4. Értékelje a forrás hitelességét! Ki írta, mikor, milyen célból, milyen bizonyítékokra alapozva? Naprakész? Az információ megléte nem teszi igazzá; Kérdezze meg a forrás jellegét is.
5. Őszintén fejezze ki a bizonytalanságot. Ha az információ nem ellenőrizhető, mondja ki egyértelműen. Mindig jobb azt mondani, hogy „meg nem erősített”, mint kitalált bizonyosságot kínálni.
Tipp: Ha idézetet vagy forrást kap az AI-tól, először keresse meg a címet és a szerzőt egy tényleges katalógusban. Itt azonnal megjelennek a nem létező források. Ez a 30 másodperces ellenőrzés megakadályozza, hogy egy kitalált forrás bekerüljön az irodalomjegyzékbe, egy feladathoz vagy publikációhoz.
Hitelesség és ellenőrzés a bölcsészet- és társadalomtudományokban
A humán- és társadalomtudományok különösen érzékenyek a hallucinációk kockázatára. Ezeken a területeken a bizonyítékok gyakran egy adott dokumentumon, dátumon, idézeten vagy egy megjegyzés forrásán alapulnak. A mesterséges intelligencia nagyon konkrét, de teljesen kitalált állításokat tud produkálni, például „az a történész mondta” vagy „az 1923-as dokumentum azt mondja”. Egy irodalmi, történelmi vagy jogi műben ez hamis bizonyítékláncot jelent.
Sőt, az eredetiség ezeknek a területeknek az alapvető értéke: számít, hogy egy szöveg, értelmezés vagy fordítás valójában kihez tartozik. A mesterséges intelligencia által készített szöveg eredeti műként való bemutatása vagy a mesterséges intelligencia által készített "forrásra" való támaszkodás sérti a tudományos integritást. A könyvtáros egy útmutató, aki megtanítja a felhasználókat az ellenőrzésre, valamint az eredetiség és a plágium határaira.
Figyelem: Még olyan esetekben is, amikor egy mesterséges intelligencia által generált idézet szóról szóra pontosnak tűnik, és valódi szerzőnek tulajdonítják, az idézet kitalált lehet. Ellenőrizze az idézetet úgy, hogy csak a szerző tényleges munkájában találja meg; Nem elég az a logika, hogy "ez a szerző mondhatott ilyesmit".
három mini tok
1. eset – A tanulót megtanították az ellenőrzésre. Egy könyvtáros 5 mesterséges intelligencia-forrást látott egy diák feladatában. Közösen ellenőrizték a katalógusban: 2 forrás készült. A diák saját bőrén tapasztalta meg a leckét, hogy "nem helyes, ha valódinak tűnik", és ismét megszokta, hogy minden forrást ellenőriz.
2. eset – Hamisított történelmi dokumentum. Egy kutató "1919-es újságjelentést" kapott az AI-tól; A dátum, az újságnév és a tartalom rendkívül meggyőző volt. A könyvtáros átnézte az újság archívumát: akkor még nem volt ilyen hír. Egy koholt elsődleges forrást még azelőtt elkaptak, mielőtt cikk lett volna belőle.
3. eset – Rosszul besorolt idézet. Az AI egy idézetet tulajdonított egy híres gondolkodónak. A könyvtáros kereste ezt a szót a gondolkodó műveiben, és nem találta; A szót nem említették sehol. A keresztellenőrzés megakadályozta a hibás idézet terjesztését.
A téves információk terjedésének láncolata és a könyvtáros szerepe
A félretájékoztatás gyakran egyetlen koholt kimenettel kezdődik, de nem ér véget. A felhasználó hamis mesterséges intelligencia által generált erőforrást helyez el egy hozzárendelésbe; a megbízás kiadvány lesz; a publikációt mások idézik, így egy fiktív forrás az "igazság" látszatát kelti az ismételten hivatkozva. Nevezhetjük ezt az attribúciót szennyeződésnek: a hamis információ azáltal nyer legitimációt, hogy újra és újra megismétlődik. A könyvtáros áll a legkritikusabb láncszemnél; mert ez az utolsó vezérlőpont, ahol a rendszerbe való belépés előtt az információkat ellenőrizzük. Attól, hogy egy forrás "sok helyen előfordul", még nem teszi igazzá; Ugyanazok a hamis információk sok helyen megjelenhetnek úgy, hogy egymásról másolják őket. Ezért a keresztmegerősítésnek azon a kérdésen kell alapulnia, hogy "hány megbízható forrás erősíti meg egymástól függetlenül", nem pedig a "hány helyen jelenik meg?" Tíz, ugyanazt az állítást megismétlő másodlagos forrás nem ér annyit, mint egyetlen független elsődleges forrás. A könyvtárosnak ezt a megkülönböztetést (a függetlenséget az ismétléssel nem összetévesztve) mind saját ellenőrzése, mind a felhasználó tanítása középpontjába kell helyeznie.
Figyelem: Az információ megjelenése a keresőben vagy számos weboldalon nem bizonyítja azok pontosságát. Ugyanez a hiba úgy terjedhetett el, hogy forrásról forrásra másolták. Az elterjedtség és a pontosság különböző dolgok; A megerősítéshez független és megbízható forrás szükséges.
Négy másolható sablon
1) Erőforrás entitás lekérdezése:
Soroljon fel minden forráshivatkozást és idézetet az alábbi szövegben. Mindegyiknél: szerző, cím, év és publikációs adatok (ha vannak). Tételenként kivonja az ellenőrizendő információkat; ne add hozzá.Szöveg: [itt]
2) Megerősítési értékelés:
A következő állítások mindegyikénél különítse el azokat a tényszerű elemeket (dátum, név, szám, idézet), amelyeket ellenőrizni kell. Javasoljuk, hogy milyen típusú forrás (katalógus, elsődleges dokumentum, adatbázis) alapján ellenőrizhető. Ne ítélje el a pontosságot, csak mutassa meg az ellenőrzési utat. Állítások: [itt]
3) A hegesztés megbízhatóságának ellenőrző listája:
Értékelje a következő forrás hitelességét: ki írta, mikor, milyen céllal, van-e bizonyíték, aktuális-e, lehetséges-e elfogultság? Csak hagyatkozzon az általam adott információkra, és írja be, hogy "ismeretlen" ahol hiányzik. Forrás információ: [itt]
4) Információs műveltség oktatási terv:
Készítsen egy rövid, 20 perces oktatóanyagot a forrásellenőrzésről és a hallucinációkról a mesterséges intelligencia korában a következő felhasználói csoportok számára (pl. egyetemisták): célok, 3 példa, 1 alkalmazás. Csoport: [itt]
Gyenge felszólítás / Erős felszólítás
Gyenge felszólítás:
Írjon összefoglalót erről a témáról megbízható forrásokból.
A „megbízható forrásokkal” mondás arra ösztönzi az AI-t, hogy valódinak tűnő hamis forrásokat állítson elő; Nincs érvényesítési horog.
Erőteljes felszólítás:
Az Ön szerepe: információs műveltség asszisztens. összefoglaló írása a következő témában; Ehelyett sorolja fel azokat a ténykérdéseket, amelyeket a felhasználónak ellenőriznie kell, és azt, hogy milyen típusú megbízható forrásból tudja ezeket ellenőrizni. Ne gyártson semmilyen forráshivatkozást; Jelölje be azt a területet, amelyben nem biztos, hogy "ellenőrizendő". Tárgy: [itt]
Erőteljes felszólítás; Az AI-t útmutatóként használja, amely megmutatja az ellenőrzéshez vezető utat, nem pedig válaszokat ad, és szerkezetileg megakadályozza a gyártást.
Hitelesítési rétegek táblázata
réteg
kérdés
módszer
entitás
Valódi ez a forrás?
Keresés a katalógusban/adatbázisban
elsőbbséget
Ez a legközelebbi forrás?
Hozzáférés az eredeti dokumentumhoz
Megerősítés
Más forrás megerősíti ezt?
Független keresztellenőrzés
megbízhatóság
Mennyire szilárd a forrás?
Szerző, dátum, cél, bizonyíték
őszinteség
Biztos vagyok benne?
Állami bizonytalanság egyértelműen
Gyakori hibák
- Azt gondolni, hogy ami meggyőz, az igaz. A jó megjelenés nem az igazságosság bizonyítéka.
- Megelégedni egyetlen forrással. A kritikus információk független keresztmegerősítést igényelnek.
- Nem a forrásnál keresem az idézetet. Így terjednek el a rosszul tulajdonított szavak.
- A bizonytalanság elrejtése. Az „ellenőrizhetetlen” jobb, mint a hamis bizonyosság.
- Nem tanítja meg a felhasználót hitelesítésre. Az információs műveltség a könyvtáros küldetése.
Összefoglalva
A forrásellenőrzés és az információs műveltség a könyvtárügy legkritikusabb feladatai a mesterséges intelligencia korában. A hallucinációk meggyőző, de kitalált információkat termelnek, és különösen veszélyesek a humán/társadalomtudományokban. A fegyelem egyértelmű: ellenőrizze az egyes források meglétét, menjen az elsődleges forráshoz, végezzen független keresztellenőrzést, kérdőjelezze meg a forrás hitelességét, és őszintén fejezze ki a bizonytalanságot. A könyvtáros ezt az igazolási kultúrát nemcsak a gyakorlatában terjeszti, hanem a felhasználók tanításával is; Az eredetiség és az akadémiai feddhetetlenség szerves része ennek a küldetésnek.
Pályázati feladat
Kérjen 6 forrást és 2 idézetet az AI-tól a saját területén. Ellenőrizze az egyes forrásokat úgy, hogy megkeresi őket egy tényleges katalógusban, és minden hivatkozást a szerző tényleges munkájában; Jegyezze meg, hány kitaláció van. Ezután az „Információs műveltségi oktatási terv” sablon segítségével készítsen egy 20 perces oktatóanyagot, amely elmagyarázza a forrásellenőrzést egy felhasználói csoportnak, és adjon meg valós példákat, amelyeket maga talált.
ellenőrző lista
- [ ] Függetlenül ellenőriztem, hogy minden forrás valóban létezik.
- [ ] Lehetőség szerint elsődleges forrásokat használtam.
- [ ] A kritikai állításokat legalább két független forrással összevetettem.
- [ ] Az idézeteket a szerző tényleges munkájában keresve ellenőriztem.
- [ ] Az ellenőrizhetetlen információt egyértelműen "ellenőrizhetetlen"-ként jelöltem meg.