zisky:
- Schopnost zachytit halucinace ověřením existence každého zdroje, přechodem na primární zdroj a nezávislými kroky křížového potvrzení
- Schopnost zachovat originalitu a akademickou integritu proti smyšleným citacím a dokumentům v humanitních a společenských vědách
- Schopnost naučit uživatele ověřování zdrojů a dovednostem informační gramotnosti ve věku umělé inteligence
Jádrem společenského poslání knihovnictví je jediný příslib: spolehlivé informace. Knihovník přivádí uživatele nejen k informacím, ale k informacím ověřeným a učí ho, jak tyto informace sám vyhodnocovat. V době umělé inteligence se tato mise stala obtížnější i důležitější; protože umělá inteligence dokáže produkovat dezinformace vysoce přesvědčivým způsobem. V této části se budeme zabývat rozpoznáváním halucinací, disciplínou ověřování zdrojů a výukou informační gramotnosti ve věku umělé inteligence.
Pojďme si definovat pojmy. Halucinace je, když AI produkuje informace, zdroje, citace nebo události, které ve skutečnosti neexistují, jako by byly skutečné. Ověření zdroje je potvrzení, že informace jsou založeny na skutečném, spolehlivém a primárním zdroji. Informační gramotnost je schopnost člověka vyhledávat informace, vyhodnocovat je, zpochybňovat jejich spolehlivost a používat je eticky. Tato jednotka si klade za cíl, aby si knihovník tyto dovednosti upevnil jak ve vlastní praxi, tak při výuce uživatele.
Krok za krokem: disciplína ověřování zdroje
1. Vyžádejte si zdroj a ověřte jeho existenci. Když AI uvede tvrzení nebo citaci, „z jakého zdroje to je?“ a zkontrolujte, zda zdroj skutečně existuje v nezávislém katalogu, databázi nebo primárním dokumentu.
2. Přejděte na primární zdroj. Nejspolehlivější formou informací je jejich zdroj z první ruky. Nespokojte se se shrnutím AI nebo sekundárním textem; Pokud je to možné, získejte přístup k původnímu dokumentu, datům nebo publikaci.
3. Křížově potvrďte. Ověřte kritické tvrzení s alespoň dvěma spolehlivými zdroji, které jsou na sobě nezávislé. Jeden zdroj, zejména zdroj AI, nestačí.
4. Zhodnoťte důvěryhodnost zdroje. Kdo to napsal, kdy, za jakým účelem, na základě jakých důkazů? je to aktuální? Existence informace ji nedělá pravdivou; Také se ptejte na povahu zdroje.
5. Poctivě vyjadřujte nejistotu. Pokud nelze informace ověřit, řekněte to jasně. Vždy je lepší říct „nepotvrzeno“, než nabízet smyšlenou jistotu.
Tip: Když získáte citaci nebo zdroj od AI, nejprve vyhledejte název a autora ve skutečném katalogu. Ihned se zde objeví neexistující zdroje. Tato 30sekundová kontrola zabrání tomu, aby umělý zdroj vstoupil do bibliografie, úkolu nebo publikace.
Autenticita a ověřování v humanitních a společenských vědách
Humanitní a společenské vědy jsou zvláště zranitelné vůči riziku halucinací. V těchto oblastech jsou důkazy často založeny na konkrétním dokumentu, datu, citaci nebo zdroji komentáře. Umělá inteligence může produkovat vysoce konkrétní, ale zcela vymyšlená tvrzení, jako například „ten historik řekl“ nebo „říká ten dokument z roku 1923“. V literárním, historickém nebo právnickém díle to znamená falešný řetězec důkazů.
Originalita je navíc základní hodnotou těchto oborů: záleží, komu text, výklad nebo překlad skutečně patří. Prezentace textu vytvořeného umělou inteligencí jako originální dílo nebo spoléhání se na „zdroj“ vytvořený umělou inteligencí porušuje akademickou integritu. Knihovník je průvodce, který uživatele učí jak ověřování, tak mezím originality a plagiátorství.
Upozornění: I v případech, kdy se citát vygenerovaný umělou inteligencí jeví slovo od slova přesný a je připisován skutečnému autorovi, může být tento citát vymyšlený. Ověřte citaci tak, že ji najdete pouze ve skutečném díle autora; Logika „tento autor mohl něco takového říct“ nestačí.
tři mini pouzdra
Případ 1 – Student byl vyučován ověřování. Knihovník viděl v úkolu studenta 5 zdrojů z AI. Společně to zkontrolovali v katalogu: 2 zdroje byly vyrobeny. Student si na vlastní kůži vyzkoušel poučení, že „není správné, aby to vypadalo jako skutečné“ a opět získal návyk ověřovat každý zdroj.
Případ 2 – Vymyšlený historický dokument. Výzkumník obdržel „novinovou zprávu z roku 1919“ od AI; Datum, název novin a obsah byly mimořádně přesvědčivé. Knihovnice prohlédla archiv novin: v té době žádná taková zpráva nebyla. Udělaný primární zdroj byl zachycen ještě předtím, než se z něj stal článek.
Případ 3 – Nesprávně přiřazená citace. AI připsala citát slavnému mysliteli. Knihovník hledal toto slovo v dílech myslitele a nemohl je najít; To slovo nebylo nikde zmíněno. Křížová kontrola zabránila šíření chybně přiřazené nabídky.
Řetězec šíření dezinformací a role knihovníka
Dezinformace často začínají jedním vymyšleným výstupem, ale nekončí tam. Uživatel vloží do úkolu falešný zdroj generovaný AI; zadání se stává publikací; publikace je citována ostatními, takže fiktivní zdroj získává opakovaným citováním zdání „pravdy“. Tuto atribuci můžeme nazvat kontaminací: nepravdivé informace získávají legitimitu tím, že se znovu a znovu opakují. Knihovník stojí u nejkritičtějšího článku tohoto řetězce; protože je to poslední kontrolní bod, kde se informace ověřují před vstupem do systému. Jen proto, že se zdroj "vyskytuje na mnoha místech", neznamená to, že je pravdivý; Stejné falešné informace se mohou objevit na mnoha místech tím, že jsou navzájem zkopírovány. Křížové potvrzení by proto mělo být založeno na otázce "kolik spolehlivých zdrojů to nezávisle na sobě potvrzuje", nikoli "na kolika místech se vyskytuje?" Deset sekundárních zdrojů opakujících stejné tvrzení nemá takovou hodnotu jako jeden nezávislý primární zdroj. Knihovník by měl toto rozlišení (nezaměňovat nezávislost s opakováním) klást do středu jak svého vlastního ověřování, tak svého učení pro uživatele.
Pozor: Vzhled informací ve vyhledávači nebo na mnoha webových stránkách není důkazem jejich přesnosti. Stejná chyba se mohla rozšířit kopírováním ze zdroje na zdroj. Prevalence a přesnost jsou různé věci; Potvrzení vyžaduje nezávislý a spolehlivý zdroj.
Čtyři kopírovatelné šablony
1) Dotaz entity zdroje:
Uveďte všechny citace zdroje a citace v textu níže. U každého: autor, název, rok a informace o publikaci (pokud existují). Extrahujte položku po položce informace, které potřebuji ověřit; nepřidávejte.Text: [zde]
2) Posouzení konfirmace:
U každého z následujících tvrzení izolujte faktické prvky (datum, jméno, číslo, citát), které je třeba ověřit. Navrhněte, proti jakému typu zdroje (katalog, primární dokument, databáze) lze ověřit. Neposuzujte přesnost, pouze ukažte cestu ověření. Tvrzení: [zde]
3) Kontrolní seznam spolehlivosti svařování:
Zhodnoťte důvěryhodnost následujícího zdroje: kdo to napsal, kdy, za jakým účelem, existují důkazy, jsou aktuální, je možná zkreslení? Stačí se spolehnout na informace, které jsem uvedl, napsat "neznámý", kde chybí. Zdroj informací: [zde]
4) Plán výuky informační gramotnosti:
Vytvořte krátký 20minutový tutoriál o ověřování zdroje a halucinacích ve věku AI pro následující skupinu uživatelů (např. vysokoškoláci): cíle, 3 příklady, 1 aplikace. Skupina: [zde]
Slabá výzva / Silná výzva
Slabá výzva:
Napište shrnutí na toto téma se spolehlivými zdroji.
Rčení „se spolehlivými zdroji“ povzbuzuje AI k vytváření falešných zdrojů, které se zdají být skutečné; Neexistuje žádný ověřovací háček.
Výkonná výzva:
Vaše role: asistent informační gramotnosti. PSANÍ shrnutí na následující téma; Místo toho uveďte faktické otázky, které uživatel potřebuje ověřit, a typ spolehlivého zdroje, pomocí kterého je může ověřit. Nevytvářejte žádné citace zdrojů; Označte oblast, kterou si nejste jisti, jako „musí být ověřena“. Předmět: [zde]
Výkonná výzva; Používá umělou inteligenci jako vodítko, které ukazuje cestu k ověření, spíše než vytváření odpovědí, a strukturálně zabraňuje výrobě.
Tabulka vrstev ověřování
vrstva
Otázka
Metoda
entita
Je tento zdroj skutečný?
Vyhledávání v katalogu/databázi
prvenství
Je to nejbližší zdroj?
Přístup k původnímu dokumentu
Potvrzení
Potvrzuje to jiný zdroj?
Nezávislá křížová kontrola
spolehlivost
Jak pevný je zdroj?
Autor, datum, účel, důkaz
poctivost
Jsem si jistý?
Jasně uveďte nejistotu
Časté chyby
- Myslet si, že to, co je přesvědčivé, je pravda. Vypadat dobře není důkazem spravedlnosti.
- Spokojenost s jediným zdrojem. Kritické informace vyžadují nezávislé křížové potvrzení.
- Nehledejte citát u jeho zdroje. Takto se šíří nesprávně přiřazená slova.
- Skrývání nejistoty. „Neověřitelné“ je lepší než falešná jistota.
- Nenaučí uživatele se autentizovat. Informační gramotnost je posláním knihovníka.
V souhrnu
Ověřování zdrojů a informační gramotnost jsou nejkritičtějšími úkoly knihovnictví ve věku AI. Halucinace produkuje přesvědčivé, ale vymyšlené informace a je zvláště nebezpečná v humanitních/společenských vědách. Disciplína je jasná: ověřit existenci každého zdroje, přejít k primárnímu zdroji, provést nezávislou křížovou kontrolu, zpochybnit důvěryhodnost zdroje a čestně vyjádřit nejistotu. Knihovník šíří tuto kulturu ověřování nejen ve své praxi, ale také výukou uživatelů; Originalita a akademická integrita jsou nedílnou součástí tohoto poslání.
Aplikační úkol
Vyžádejte si 6 zdrojů a 2 citace z AI ve vašem oboru. Ověřte každý zdroj jeho vyhledáním ve skutečném katalogu a každou citaci v autorově skutečném díle; Všimněte si, kolik je výmyslů. Poté pomocí šablony „Plán výuky informační gramotnosti“ navrhněte 20minutový tutoriál, který skupině uživatelů vysvětlí ověření zdroje a zahrne skutečné příklady, které jste sami našli.
kontrolní seznam
- [ ] Nezávisle jsem ověřil, že každý zdroj skutečně existuje.
- [ ] Použil jsem primární zdroje všude, kde to bylo možné.
- [ ] Kritická tvrzení jsem zkontroloval alespoň se dvěma nezávislými zdroji.
- [ ] Citace jsem ověřil tak, že jsem je hledal ve skutečném díle autora.
- [ ] Neověřitelné informace jsem jasně označil jako „neověřitelné“.