zisky:
- Schopnosť zachytiť halucináciu overením existencie každého zdroja, prechodom na primárny zdroj a nezávislými krokmi krížového potvrdenia
- Schopnosť zachovať originalitu a akademickú integritu voči vymysleným citáciám a dokumentom v humanitných a spoločenských vedách
- Schopnosť naučiť používateľov overovaniu zdrojov a zručnostiam informačnej gramotnosti vo veku AI
Základom sociálneho poslania knihovníctva je jediný prísľub: spoľahlivé informácie. Knihovník privádza užívateľa nielen k informáciám, ale aj k overeným informáciám a učí ho, ako tieto informácie sám vyhodnocovať. V dobe umelej inteligencie sa táto misia stala ťažšou a dôležitejšou; pretože AI dokáže vytvárať dezinformácie veľmi presvedčivým spôsobom. V tomto bloku sa budeme zaoberať rozpoznávaním halucinácií, disciplínou overovania zdroja a výučbou informačnej gramotnosti vo veku AI.
Definujme si pojmy. Halucinácia je, keď AI produkuje informácie, zdroje, citáty alebo udalosti, ktoré v skutočnosti neexistujú, ako keby boli skutočné. Overenie zdroja je potvrdenie, že informácie sú založené na skutočnom, spoľahlivom a primárnom zdroji. Informačná gramotnosť je schopnosť človeka vyhľadávať informácie, hodnotiť ich, spochybňovať ich spoľahlivosť a eticky ich využívať. Táto jednotka je zameraná na to, aby knihovník posilnil tieto zručnosti vo svojej vlastnej praxi, ako aj pri výučbe používateľa.
Krok za krokom: disciplína overovania zdroja
1. Vyžiadajte si zdroj a overte jeho existenciu. Keď AI poskytne tvrdenie alebo citáciu, „z akého zdroja to je?“ a skontrolujte, či zdroj skutočne existuje v nezávislom katalógu, databáze alebo primárnom dokumente.
2. Prejdite na primárny zdroj. Najspoľahlivejšou formou informácií je ich zdroj z prvej ruky. Neuspokojte sa so súhrnom AI alebo sekundárnym textom; Ak je to možné, pristupujte k pôvodnému dokumentu, údajom alebo publikácii.
3. Krížovo potvrdiť. Overte kritické tvrdenie aspoň z dvoch spoľahlivých zdrojov, ktoré sú na sebe nezávislé. Jeden zdroj, najmä zdroj AI, nestačí.
4. Zhodnoťte dôveryhodnosť zdroja. Kto to napísal, kedy, za akým účelom, na základe akých dôkazov? Je to aktuálne? Existencia informácií ich nerobí pravdivými; Spýtajte sa aj na povahu zdroja.
5. Vyjadrite neistotu čestne. Ak informácie nemožno overiť, povedzte to jasne. Vždy je lepšie povedať „nepotvrdené“, ako ponúkať vymyslenú istotu.
Tip: Keď získate citát alebo zdroj od AI, najprv vyhľadajte názov a autora v skutočnom katalógu. Ihneď sa tu objavia neexistujúce zdroje. Táto 30-sekundová kontrola zabráni vymyslenému zdroju vstúpiť do bibliografie, úlohy alebo publikácie.
Autenticita a overovanie v humanitných a spoločenských vedách
Humanitné a spoločenské vedy sú obzvlášť zraniteľné voči riziku halucinácií. V týchto oblastiach sú dôkazy často založené na konkrétnom dokumente, dátume, citácii alebo zdroji komentára. Umelá inteligencia môže produkovať vysoko špecifické, ale úplne vymyslené tvrdenia, ako napríklad „to povedal historik“ alebo „hovorí ten dokument z roku 1923“. V literárnom, historickom alebo právnom diele to znamená falošný reťazec dôkazov.
Originalita je navyše základnou hodnotou týchto oblastí: záleží na tom, komu text, výklad alebo preklad skutočne patrí. Prezentácia textu vytvoreného AI ako pôvodného diela alebo spoliehanie sa na „zdroj“ vytvorený AI porušuje akademickú integritu. Knihovník je sprievodca, ktorý používateľov učí overovaniu aj hraniciam originality a plagiátorstva.
Upozornenie: Dokonca aj v prípadoch, keď sa citát vygenerovaný umelou inteligenciou javí slovo za slovom presný a je pripísaný skutočnému autorovi, môže byť tento citát vymyslený. Overte si citát tak, že ho nájdete iba v skutočnej práci autora; Logika „tento autor mohol povedať niečo také“ nestačí.
tri mini prípady
Prípad 1 – Študent sa učil overovanie. Knihovník videl v zadaní študenta 5 zdrojov z AI. Spoločne to skontrolovali v katalógu: 2 zdroje boli vyrobené. Študent si na vlastnej koži vyskúšal poučenie, že „nie je správne, aby to vyzeralo reálne“ a opäť získal zvyk overovať si každý zdroj.
Prípad 2 – Spracovaný historický dokument. Výskumník dostal „novinovú správu z roku 1919“ od AI; Dátum, názov novín a obsah boli mimoriadne presvedčivé. Knihovník naskenoval archív novín: v tom čase také správy neboli. Vymyslený primárny zdroj bol chytený skôr, ako sa z neho stal článok.
Prípad 3 – Nesprávne priradená cenová ponuka. AI pripísala citát slávnemu mysliteľovi. Knihovník hľadal toto slovo v dielach mysliteľov a nemohol ho nájsť; To slovo nebolo nikde spomenuté. Krížová kontrola zabránila šíreniu nesprávne priradenej cenovej ponuky.
Reťazec šírenia dezinformácií a úloha knihovníka
Dezinformácie často začínajú jediným vymysleným výstupom, no tým to nekončí. Používateľ vloží do úlohy falošný zdroj vygenerovaný AI; zo zadania sa stáva publikácia; publikácia je citovaná inými, takže fiktívny zdroj opakovaným citovaním nadobúda zdanie „pravdy“. Toto pripisovanie môžeme nazvať kontaminácia: nepravdivé informácie získavajú legitimitu opakovaným opakovaním. Knihovník stojí v najkritickejšom článku tohto reťazca; pretože je to posledný kontrolný bod, kde sa overujú informácie pred vstupom do systému. Len preto, že sa zdroj „vyskytuje na mnohých miestach“, neznamená to, že je pravdivý; Rovnaké falošné informácie sa môžu objaviť na mnohých miestach tak, že sú navzájom skopírované. Krížové potvrdenie by preto malo vychádzať z otázky „koľko spoľahlivých zdrojov to nezávisle od seba potvrdzuje“, nie „na koľkých miestach sa vyskytuje?“. Desať sekundárnych zdrojov opakujúcich to isté tvrdenie nemá takú hodnotu ako jeden nezávislý primárny zdroj. Knihovník by mal umiestniť toto rozlíšenie (nezamieňať si nezávislosť s opakovaním) do centra svojho vlastného overovania aj svojho učenia pre používateľa.
Pozor: Vzhľad informácií vo vyhľadávači alebo na mnohých webových stránkach nie je dôkazom ich presnosti. Rovnaká chyba sa mohla rozšíriť kopírovaním zo zdroja na zdroj. Prevalencia a presnosť sú rôzne veci; Potvrdenie vyžaduje nezávislý a spoľahlivý zdroj.
Štyri kopírovateľné šablóny
1) Dotaz entity zdroja:
V texte nižšie uveďte všetky citácie a citácie zdroja. Pre každý: autor, názov, rok a informácie o publikácii (ak existujú). Extrahujte položku po položke informácie, ktoré potrebujem overiť; nepridávať.Text: [tu]
2) Posúdenie potvrdenia:
Pri každom z nasledujúcich tvrdení izolujte faktické prvky (dátum, meno, číslo, citát), ktoré je potrebné overiť. Navrhnite, proti akému typu zdroja (katalóg, primárny dokument, databáza) možno overiť. Neposudzujte presnosť, len ukážte overovaciu cestu. Tvrdenia: [tu]
3) Kontrolný zoznam spoľahlivosti zvárania:
Zhodnoťte dôveryhodnosť nasledujúceho zdroja: kto to napísal, kedy, na aký účel, existujú dôkazy, sú aktuálne, je možná zaujatosť? Stačí sa spoľahnúť na informácie, ktoré som uviedol, napísať „neznámy“, kde chýba. Zdroj informácií: [tu]
4) Plán výučby informačnej gramotnosti:
Vytvorte krátky 20-minútový návod na overenie zdroja a halucinácie vo veku AI pre nasledujúcu skupinu používateľov (napr. vysokoškolákov): ciele, 3 príklady, 1 aplikácia. Skupina: [tu]
Slabá výzva / Silná výzva
Slabá výzva:
Napíšte zhrnutie na túto tému so spoľahlivými zdrojmi.
Výrok „so spoľahlivými zdrojmi“ povzbudzuje AI, aby vytvárala falošné zdroje, ktoré sa zdajú byť skutočné; Neexistuje žiadny overovací háčik.
Výkonná výzva:
Vaša úloha: asistent informačnej gramotnosti. NAPÍSANIE zhrnutia na nasledujúcu tému; Namiesto toho uveďte faktické otázky, ktoré musí používateľ overiť, a typ spoľahlivého zdroja, pomocou ktorého si ich môže overiť. Nevymýšľajte si žiadne citácie zdroja; Označte oblasť, ktorou si nie ste istí, ako „musí byť overená“. Predmet: [tu]
Výkonná výzva; Používa AI ako sprievodcu, ktorý ukazuje cestu k overeniu, a nie vytváraniu odpovedí, a štrukturálne zabraňuje výrobe.
Tabuľka vrstiev overenia
vrstva
Otázka
Metóda
subjekt
Je tento zdroj skutočný?
Vyhľadávanie v katalógu/databáze
prvenstvo
Je to najbližší zdroj?
Prístup k pôvodnému dokumentu
Potvrdenie
Potvrdzuje to aj iný zdroj?
Nezávislá krížová kontrola
spoľahlivosť
Aký pevný je zdroj?
Autor, dátum, účel, dôkaz
čestnosť
som si istý?
Jasne uveďte neistotu
Časté chyby
- Myslieť si, že to, čo je presvedčivé, je pravda. Vyzerať dobre nie je dôkazom spravodlivosti.
- Byť spokojný s jediným zdrojom. Kritické informácie vyžadujú nezávislé krížové potvrdenie.
- Nehľadám citát pri jeho zdroji. Takto sa šíria nesprávne priradené slová.
- Skrytie neistoty. „Neoveriteľné“ je lepšie ako falošná istota.
- Nenaučí používateľa autentifikovať sa. Informačná gramotnosť je poslaním knihovníka.
V súhrne
Overovanie zdrojov a informačná gramotnosť sú najdôležitejšie úlohy knihovníctva vo veku AI. Halucinácie vytvárajú presvedčivé, ale vymyslené informácie a sú obzvlášť nebezpečné v humanitných/spoločenských vedách. Disciplína je jasná: overte si existenciu každého zdroja, prejdite k primárnemu zdroju, vykonajte nezávislú krížovú kontrolu, spochybňujte dôveryhodnosť zdroja a čestne vyjadrite neistotu. Knihovník šíri túto kultúru overovania nielen vo svojej praxi, ale aj učením používateľov; Originalita a akademická integrita sú neoddeliteľnou súčasťou tohto poslania.
Aplikačná úloha
Vyžiadajte si 6 zdrojov a 2 citácie od AI vo vašom odbore. Overte každý zdroj tak, že ho vyhľadáte v aktuálnom katalógu a každú citáciu v skutočnej práci autora; Všimnite si, koľko je výmyslov. Potom pomocou šablóny „Plán výučby informačnej gramotnosti“ navrhnite 20-minútový tutoriál, ktorý vysvetlí overovanie zdroja skupine používateľov a zahrnie skutočné príklady, ktoré ste sami našli.
kontrolný zoznam
- [ ] Nezávisle som si overil, že každý zdroj skutočne existuje.
- [ ] Použil som primárne zdroje všade, kde to bolo možné.
- [ ] Kritické tvrdenia som skontroloval aspoň s dvoma nezávislými zdrojmi.
- [ ] Citáty som overoval tak, že som ich vyhľadal v skutočnej tvorbe autora.
- [ ] Neoveriteľné informácie som jasne označil ako „neoveriteľné“.