zisky:
- Byť schopný rozlíšiť, kde umelá inteligencia šetrí čas v knihovníckej práci (metadáta, súhrn, vyhľadávanie, návrh) a kde sú presnosť, spoľahlivosť zdroja a rozhodnutia o súkromí ponechané na ľudí, v závislosti od úrovne rizika.
- Schopnosť uplatniť disciplínu, ktorá overí každý výstup jeho prepojením so zdrojom, potvrdením v nezávislom zdroji a prechodom cez filter skreslenia.
- Pochopenie toho, prečo sú halucinácie, vymyslené zdroje a súkromie používateľov riziká, s ktorými treba v tejto profesii počítať už od začiatku.
Keď si ráno katalogizátor sadne za svoj stôl, môže mať desiatky novoprijatých kníh, stovky dokumentov z darovacej zbierky a archívnu schránku, ktorá čaká na digitalizáciu. Referenčný knihovník (odborník, ktorý pomáha používateľom nájsť informácie) počas dňa odpovedá na otázky typu „kde je spoľahlivý zdroj na túto tému?“ Informačný manažér je zodpovedný za to, aby boli tisíce dokumentov organizácie vyhľadateľné a spoľahlivé. V tomto bloku si objasníme, kde presne umelá inteligencia (v skratke AI; veľké jazykové modely a podobné nástroje) pri týchto úlohách šetrí čas a kde úsudok, voľba a zodpovednosť zostávajú na človeku.
Začnime definíciou: umelá inteligencia, pod ktorou rozumieme softvérové nástroje na generovanie jazyka a rozpoznávanie vzorov trénované na veľkom množstve textu. Tieto nástroje sumarizujú, prekladajú, navrhujú klasifikáciu, generujú koncept textu a označujú vzory vo veľkých kúskoch údajov. Nevie však, či zdroj skutočne existuje, či sú informácie správne alebo či je chránené súkromie používateľa. To je dôvod, prečo je AI v knihovníctve a informačnom manažmente pomocníkom, nie rozhodovateľom.
Kde umelá inteligencia funguje a kde nefunguje?
Rozdeľme si pracovný postup knihovníctva do troch vrstiev. Prvou vrstvou sú mechanické a opakujúce sa úlohy: extrahovanie konceptov metadát z vedľajšieho riadku knihy, zhrnutie dlhej správy, preklad textu z jedného jazyka do druhého, čistenie tabuľky údajov. AI je tu výkonná a šetrí veľa času.
Druhou vrstvou je kvázi-súdna práca: aký predmet dokumentu dať, či zaradiť zdroj do zbierky, aký zdroj odporučiť používateľovi. AI tu produkuje návrhy, ale posledné slovo má odborník, ktorý pozná politiku inštitúcie a skutočné potreby používateľa.
Treťou vrstvou je čistý úsudok a zodpovednosť: potvrdenie, že informácie sú presné, rozhodnutie o autorských právach, či zverejniť citlivé osobné údaje, potvrdenie spoľahlivosti zdroja. Na tejto vrstve je výstup AI len východiskovým bodom; Zodpovednosť je výlučne na ľuďoch.
Tip: Pred zadaním úlohy AI si položte otázku: „Čo sa stane, ak je tento výstup nesprávny? Ak je odpoveď „premárnim nejaký čas“, pokojne použite AI. Ak je odpoveď „šírený falošný zdroj, zavádzanie používateľa alebo únik osobných údajov“, určite si výstup overte.
Halucinácie: najväčšie nebezpečenstvo pre knihovníka
Halucinácia je, keď AI produkuje neexistujúce informácie, zdroj alebo citát, ako keby to bolo skutočné, a v mimoriadne presvedčivom jazyku. Toto je obzvlášť nebezpečné pre knihovníctvo a správu informácií; pretože podstatou našej profesie je autentickosť a spoľahlivosť zdroja.
Keď poviete AI, aby „navrhla päť akademických prác na túto tému“, môže vygenerovať názvy, autorov a názvy časopisov, ktoré sa zdajú skutočné, ale vôbec neexistujú. Tieto vymyslené zdroje sú natoľko presvedčivé, že ich môže patrón alebo dokonca knihovník pridať do bibliografie bez toho, aby si ich overil. V humanitných a spoločenských vedách je nebezpečenstvo ešte väčšie: keď je „ten dokument z roku 1897“ vymyslený pre historika alebo „to rozhodnutie súdu“ pre právnika, výsledkom sú vážne dezinformácie.
Upozornenie: Žiadna citácia zdroja, citát alebo odkaz vytvorený AI by sa nemal nikam prenášať bez overenia v skutočnom katalógu, databáze alebo v samotnom zdroji. To, že to „vyzerá presvedčivo“, ešte neznamená, že je to pravda.
Overovacia disciplína: tri kroky
Základná disciplína, ktorú musí knihovník pri práci s AI uplatňovať, je táto:
1. Pripojte sa k zdroju. Každý fakt, údaj, dátum a odtlačok musia byť založené na pôvodnom zdroji. Opýtajte sa AI „povedzte mi, z akého zdroja ste získali tieto informácie“ a skontrolujte tento zdroj nezávisle.
2. Nezávisle potvrdiť. Overte kritické informácie aspoň v jednom dôveryhodnom zdroji mimo AI (autentický katalóg, oficiálna databáza, primárny dokument).
3. Prejdite cez predpäťový filter. AI nesie zaujatosti údajov, na ktorých je trénovaná. Navrhovaná téma, zoznam návrhov alebo zhrnutie môžu zvýrazniť určité uhly pohľadu a iné zakryť. Opýtajte sa, kto je vynechaný, aká perspektíva chýba.
Súkromie a súkromie používateľov
Jedným z najzákladnejších etických princípov knihovníckej profesie je súkromie používateľa: to, čo človek číta, čo hľadá a aký predmet ho zaujíma, je dôverné. Zadávanie údajov do nástrojov AI, najmä verejných nástrojov, ktoré fungujú cez internet, ktoré zahŕňajú totožnosť používateľov, históriu vyhľadávania alebo vypožičané zdroje, môže túto zásadu porušovať; pretože tieto údaje môžu ísť do systémov tretích strán.
Podobne v organizácii by sa do všeobecného nástroja AI nemali nahrávať neutajované, ale citlivé dokumenty (personálne informácie, zmluvy, interná korešpondencia). Pre tento typ údajov sú preferované nástroje bežiace na vlastnom zabezpečenom, uzavretom systéme inštitúcie.
Tip: Pred zadaním akýchkoľvek údajov do AI sa opýtajte „Sú tieto informácie verejné?“ spýtaj sa. Ak je odpoveď nie, alebo si nie ste istí, uveďte tieto údaje v odosobnenom, anonymnom formáte alebo použite iba bezpečné nástroje schválené inštitúciou.
tri mini prípady
Prípad 1 – Návrh metadát pre 400 dokumentov. Univerzitná knižnica musela skatalogizovať archív 400 dokumentov, ktoré daroval profesor. Expert vytiahol z prvej strany každého dokumentu pomocou AI názov konceptu, dátum a návrh témy: priemerný čas na jeden dokument sa znížil z 12 minút na 4 minúty. Ale každý návrh tiráž bol porovnaný s pôvodným dokumentom a schválený odborníkom; V tomto kroku bolo zachytených 17 nesprávnych dátumov vytvorených AI.
Prípad 2 – Zachytený falošný zdroj. Poradný knihovník dostal od YZ 6 návrhov článkov, keď hľadal zdroje o „klimatickej migrácii“ pre vysokoškoláka. Knihovníčka ich všetky prehľadala v databáze inštitúcie: 2 zo 6 článkov vôbec neexistovali. Overovací krok zabránil tomu, aby študent dostal vymyslený zdroj.
Prípad 3 – Zabránenie porušeniu dôvernosti. Knižnica uvažovala o použití všeobecného nástroja AI na analýzu toho, „ktorý používateľ sa zaujíma o akú tému“ zo záznamov pri pokladni. Správca informácií si uvedomil, že by bolo porušením súkromia, keby sa tieto údaje dostali von s ID používateľa; údaje boli najprv anonymizované a spracované výlučne ako agregované štatistiky bez identifikácie.
Štyri kopírovateľné šablóny
1) Začnite definovať roly a hranice:
Vaša úloha: skúsený asistent špecialistu na katalogizáciu a správu informácií. Vaša úloha: vypracovať návrh z informácií v zdroji, ktorý som vám dal. Pravidlá: (1) Používajte iba informácie v texte, ktorý som vám dal, nepridávajte svoje vlastné informácie. (2) Ak si nie ste istí, označte „[musí byť overené]“. (3) Nevymýšľajte si žiadne dátumy, mená ani odtlačky. Ak rozumiete, začnite. Zdroj: [tu]
2) Overovacia otázka:
V texte nižšie uveďte každé skutkové tvrdenie (dátum, názov, číslo, citácia zdroja). Pre každú: kde v texte ste získali túto informáciu? Ak to v texte nie je jasné, napíšte „nie je v texte“. Text: [tu]
3) Kontrola skreslenia a chýbajúcej perspektívy:
Ktoré perspektívy zdôrazňuje nasledujúce zhrnutie/odporúčanie a ktoré vynecháva? Aké skupiny, regióny alebo zobrazenia môžu chýbať? Spoľahnite sa len na text, nešpekulujte. Text: [tu]
4) Predbežná kontrola súkromia:
Obsahuje nižšie uvedený text osobné údaje (meno, IČO, kontakt, história čítania/hľadania) alebo citlivé firemné informácie? Ak áno, uveďte ho a navrhnite, ako ho možno anonymizovať. Text: [tu]
Slabá výzva / Silná výzva
Slabá výzva:
Nájdite mi nejaké zdroje na túto tému.
Táto výzva vyzýva AI, aby vytvorila falošné zdroje. Neexistujú žiadne roly, hranice, pravidlá overovania a zdroje. Umelá inteligencia môže produkovať dôveryhodné, ale neexistujúce značky.
Výkonná výzva:
Vaša úloha: referentský asistent knižnice. Vyberte tie, ktoré súvisia s témou „klimatická migrácia“ z katalógových záznamov, ktoré som vám dal nižšie, a vysvetlite, prečo sú relevantné. Nepridávajte žiadne zdroje, ktoré nie sú na zozname, nevymýšľajte si zdroje. Keď si nie ste istí, povedzte „nie sú uvedené žiadne vhodné zdroje“. Katalógové záznamy: [tu]
Rozdiel je jasný: silná výzva núti AI pracovať z daného skutočného zdroja, nie z vlastnej pamäte, a zabraňuje výrobe.
Tabuľka vrstiev a zodpovednosti
obchodná vrstva
vzorová úloha
Úloha AI
rozhodnutie človeka
mechanické
Koncept metadát, zhrnutie, preklad
Rýchlo vytvára návrhy
overenie, schválenie
kvázi súdne
Názov témy, návrh zdroja
ponúka návrhy
Výber podľa politiky
čistý súd
Autentifikácia, rozhodnutie o autorských právach
Len predbežné informácie
Plná zodpovednosť leží na človeku
Časté chyby
- Nahradenie výstupu AI za zdroj. AI je asistent, nie zdroj; Každý výstup je overený.
- Prijatie vymysleného zdroja ako presvedčivého. To, že to vyzerá dobre, ešte neznamená, že je to správne.
- Zadávanie osobných/citlivých údajov do verejného nástroja. Súkromie používateľov a firemná dôvernosť sú rešpektované od samého začiatku.
- Ignorovanie predsudkov. AI nesie perspektívy údajov, na ktorých je trénovaná; Opýtajte sa, čo chýba.
- Ponechanie rozsudku na AI. Rozhodnutia týkajúce sa presnosti, autorských práv a súkromia patria ľuďom.
V súhrne
umelá inteligencia; Je to výkonný pomocník na zhrnutie, navrhovanie, preklad a označovanie vzorov v knihovníctve a správe informácií. Šetrí veľa času pri mechanickej práci; poskytuje poradenstvo v kvázi súdnych záležitostiach; Ale overovanie presnosti, spoľahlivosti zdroja, súkromia používateľov a etických rozhodnutí patrí ľuďom. Halucinácie sú najväčším nebezpečenstvom pre túto profesiu: bez overenia sa nepoužívajú žiadne zdroje ani citácie. Spustite AI s jasnými pravidlami roly, hraníc a overovania; Potvrďte každý kritický výstup nezávislým zdrojom.
Aplikačná úloha
Vyberte si skutočnú tému z vášho odboru. Požiadajte AI o 5 odporúčaní zdrojov na túto tému, potom každé z nich vyhľadajte v skutočnom katalógu alebo databáze a všimnite si, koľko ich skutočne existuje. Potom pomocou šablóny „Spustenie definujúce roly a hranice“ povedzte AI, aby pracovala iba z textu, ktorý poskytnete, a porovnajte výstup oboch prístupov. Napíšte, ktorý prístup bráni montáži.
kontrolný zoznam
- [ ] Určil som, na ktorej vrstve (mechanická, polosúdna, čistý úsudok) sa úloha nachádza.
- [ ] "Čo sa stane, ak je tento výstup nesprávny?" položil som otázku.
- [ ] Každý kredit a citáciu som overil na základe nezávislého zdroja.
- [ ] Skontroloval som, že v údajoch vstupujúcich do AI nie sú žiadne osobné/citlivé informácie.
- [ ] Konečné rozhodnutie a zodpovednosť som si ponechal podľa vlastného uváženia.