zisky:
- Schopnosť navrhnúť poradenského robota zodpovedne tak, aby sa pripájal iba k overeným podnikovým informáciám a poskytoval fakty s uvedením zdroja.
- Schopnosť adresovať lekárske, právne a citlivé otázky odborníkom a spoľahlivým zdrojom, vyhýbať sa radám a v prípade potreby ich preniesť na ľudí
- Ochrana súkromia údajov chatu a transparentnosť pre používateľa v súvislosti s používaním AI
Miesto, kde sa knižnica stretáva s ľuďmi, je informačný pult. Študent hľadá zdroje pre svoju domácu úlohu, občan sa pýta, ako sa dostať k oficiálnemu dokumentu, výskumník sa chce naučiť používať databázu. Toto sa nazýva referenčná služba: jej úlohou je pochopiť informačné potreby používateľa a dodať ich správnemu zdroju a správnej metóde. V tejto lekcii sa naučíte, ako zodpovedne používať chatbotov založených na umelej inteligencii (softvér, ktorý pomáha korešpondenciou s používateľom) a poradenstvo založené na AI.
Jedna definícia: referenčný rozhovor je dialóg, v ktorom knihovník kladie otázky na objasnenie skutočnej potreby používateľa. Pretože väčšinu času používateľ nemôže úplne vyjadriť to, čo hľadá; Niekto, kto hovorí „niečo o histórii“, možno v skutočnosti hľadá špecifický aspekt konkrétnej udalosti. Táto ľudská, empatická a odsudzujúca práca je jadrom knihovníctva a AI ju nemôže úplne prevziať.
Krok za krokom: Konzultácie založené na AI
1. Ujasnite si potrebu. Či už je to človek alebo robot, dobrá konzultácia najprv pochopí potrebu. AI môže používateľovi navrhnúť objasňujúce otázky; ale úlohou človeka je čítať kontext a emócie používateľa.
2. Odvolávajte sa na zdroj, nevymýšľajte si odpoveď. Úlohou robota knižnice je nasmerovať používateľa na skutočné zdroje; Nejde o generovanie odpovedí zo všeobecných vedomostí. Bot by mal povedať „pozri sa na túto databázu, túto zbierku pre túto tému“; Musí uviesť faktické tvrdenia s uvedením zdroja.
3. Nastavte limit. Robot by nemal poskytovať lekárske, právne alebo finančné poradenstvo; namiesto toho by vás mal odkázať na spoľahlivé zdroje a v prípade potreby na odborníka. Ak by AI poskytla používateľovi nesprávnu lekársku alebo právnu „odpoveď“, došlo by k vážnemu poškodeniu.
4. Delegovať na ľudí. Keď na to bot nevie prísť alebo je téma citlivá, mal by používateľa nasmerovať na skutočného knihovníka. Dobrý systém pozná limity robota.
5. Buďte transparentní. Používateľ musí vedieť, že hovorí s robotom. Knižnica nesmie používateľa zavádzať skrytým robotom, ktorý sa vydáva za človeka.
Tip: Nastavte si poradenského robota ako systém citovania zdrojov na základe vašej zbierky a informácií (často kladené otázky). Mať robota ako asistenta, ktorý vám „nájde ten správny zdroj“ namiesto toho, aby „všetko vedel“, zachováva dôveru aj presnosť.
Limity a riziká chatbota
Knižničný chatbot vyzerá príťažlivo: funguje 24 hodín denne, 7 dní v týždni, pomáha viacerým používateľom naraz, rýchlo odpovedá na jednoduché otázky. Ale riziká sú reálne. Robot môže mať halucinácie a povedať používateľovi o neexistujúcom zdroji, nesprávnom čase spustenia alebo chybnom postupe. Robot môže nesprávne spracovať citlivú otázku používateľa (zdravotné obavy, osobná kríza). A ak robot zaznamená, čo používateľ zadá, existuje riziko ochrany osobných údajov.
Preto nie je robot umiestnený ako náhrada za ľudského poradcu, ale ako vrstva, ktorá uľahčuje jeho bremeno. Robot prijíma jednoduché, opakujúce sa otázky; Ľudia riešia zložité, citlivé a úsudok vyžadujúce otázky.
Upozornenie: Otázky, ktoré používateľ zadáva do chatbota, môžu byť citlivé (zdravotné, právne, osobné situácie). Záznam o tejto korešpondencii by mal byť z hľadiska súkromia chránený rovnako ako záznamy o výpožičke. Poskytovanie údajov z chatu všeobecným nástrojom AI na školenie porušuje dôveru používateľov.
tri mini prípady
Prípad 1 – Loď odľahčila náklad. Univerzitná knižnica vytvorila robota založeného na zbere informácií a často kladených otázkach, ktoré odpovedajú na bežné otázky, ako napríklad „otváracie hodiny, výpožičná lehota, prístup k databáze“. Robot vybavil približne 40 % otázok prichádzajúcich na informačný pult; knihovníci mohli venovať viac času zložitým výskumným otázkam. Robot vo svojich odpovediach vždy odkazoval na oficiálnu stránku.
Prípad 2 – Opravený nesprávny čas. Robot povedal, že „knižnica je v nedeľu zatvorená“ zo svojej globálnej pamäte; zatiaľ čo knižničné trhy boli otvorené. Používateľ by bol kvôli tomu zbytočný. Tím prekonfiguroval robota tak, aby sa pripájal iba k aktuálnym, overeným informáciám organizácie; Zakázaná odpoveď z globálnej pamäte.
Prípad 3 – Došlo k prenosu na človeka. Používateľ sa robota spýtal na obavy o osobné zdravie. Namiesto poskytovania lekárskej rady robot nasmeroval používateľov na spoľahlivé zdroje zdravotných informácií a ponúkol možnosť odovzdať sa človeku so slovami „ak chcete, môžete sa porozprávať s knihovníkom“. Citlivá téma spracovaná správne.
Dostupnosť a inkluzívnosť
Dobrá používateľská služba slúži všetkým; toto je priame rozšírenie hodnoty rovnakého prístupu knižnice. Nástroje AI tu prinášajú príležitosť aj riziko. Strana príležitostí: AI dokáže preložiť zložitý text do jednoduchého jazyka, generovať odpovede v rôznych jazykoch, urobiť dlhý dokument čitateľným pre zrakovo postihnutého používateľa alebo uľahčiť interakciu s hlasovým asistentom. To prináša používateľov, ktorí boli predtým zo služby vylúčení. Riziková stránka: Nástroje AI často fungujú lepšie v určitých jazykoch a pri určitých používateľských profiloch; V jazyku s nízkymi zdrojmi alebo na inej úrovni gramotnosti môže kvalita odpovede klesnúť, čím sa posilní nerovnosť. Knihovník by mal sledovať, v ktorých skupinách používateľov robot alebo nástroj AI funguje dobre a v ktorých funguje zle, a tam, kde je slabý, by mal zapojiť ľudskú podporu. Výstup zjednodušenia alebo prekladu, podobne ako akákoľvek iná faktická odpoveď, by sa mal preskúmať, aby sa zabezpečilo, že neskresľuje význam; Nepravdivé zjednodušenie môže byť zavádzajúce, najmä v citlivých textoch, ako je zdravotníctvo, zákon alebo vládne konanie.
Upozornenie: Pri zjednodušovaní alebo preklade textu môže AI neúmyselne zmeniť význam alebo vynechať dôležité upozornenie. Výstup vytvorený na účely prístupnosti by mal byť tiež kontrolovaný z hľadiska presnosti; Keď sa hovorí „malo by sa to dostať ku každému“, treba si dávať pozor, aby sa nešírili nepravdivé informácie.
Štyri kopírovateľné šablóny
1) Otázky na poradenský pohovor:
Navrhnite 3-4 zdvorilé, otvorené otázky, ktoré by ste mali položiť, aby ste objasnili nasledujúcu nejasnú otázku používateľa (rozsah, úroveň, účel, typ). Nepredpokladajte zámer používateľa. Otázka: [tu]
2) Odpoveď robota smerujúca k zdroju:
Vaša úloha: informačný robot z knižnice. Nižšie je uvedená používateľská otázka a náš zoznam zdrojov/príručiek. Na základe tohto zoznamu napíšte krátku zdvorilú odpoveď, ktorá používateľa nasmeruje na príslušný zdroj. Pri skutkovom tvrdení uveďte zdroj; Ak nie je na zozname, povedzte „dovoľte mi, aby som vás nasmeroval na knihovníka“. Otázka: [tu] / Zoznam: [tu]
3) Reakcia limitu a obratu:
Obsahuje nasledujúca používateľská otázka lekárske/právne/finančné rady alebo citlivejšie osobné témy? Ak áno, navrhnite odpoveď, ktorá zdvorilo nasmeruje používateľa na dôveryhodný zdroj a odborníka/knihovníka, BEZ RADY. Otázka: [tu]
4) Kontrola faktov na odpovede na najčastejšie otázky:
Sú všetky faktické informácie (čas, trvanie, postup, zdroj) v odpovedi robota nižšie založené na oficiálnom často kladenom/informačnom texte, ktorý som poskytol? Označte každý nárok ako „prítomný/neprítomný v zdroji“. Odpoveď: [tu] / FAQ: [tu]
Slabá výzva / Silná výzva
Slabá výzva:
Odpovedzte na otázku tohto používateľa.
Robot generuje odpovede zo svojej všeobecnej pamäte; môže uviesť nesprávny čas, nesprávny zdroj alebo chybný postup; Nerešpektuje hranice a obdobia.
Výkonná výzva:
Vaša úloha: informačný robot z knižnice. Spoľahnite sa výlučne na aktuálne inštitucionálne informácie a zoznam zdrojov, ktoré som uviedol nižšie; Neuvádzajte iné informácie ako tieto. Ak je potrebná lekárska/právna pomoc, obráťte sa na odborníka. Odpoveď buďte stručná a zdvorilá, uveďte zdroj skutočnosti a ak neexistujú žiadne informácie, povedzte „dovoľte mi, aby som vás nasmeroval na knihovníka“. Otázka používateľa: [tu] / Informácie o organizácii: [tu]
Výkonná výzva; Spája robota s overenými podnikovými informáciami, nastavuje limity a definuje cestu prenosu.
Tabuľka typu poradnej otázky
Typ otázky
Je topánka vhodná?
Prístup
Otváracia doba, trvanie, postup
áno
Odpoveď z aktuálnych informácií o inštitúcii
Jednoduché smerovanie zdroja
áno
Odkaz na zbierku/kontakt
komplexný výskum
čiastočne
Ujasnite si potrebu, preneste ju na ľudí
Lekárske/právne/citlivé
č
Priamo na odborníka a dôveryhodný zdroj
Časté chyby
- Ponechanie robota reagovať z globálnej pamäte. Riziko dezinformácií a vymyslených zdrojov.
- Podanie vecnej odpovede bez uvedenia zdrojov. Používateľ nemôže overiť.
- Poskytovanie lekárskeho/právneho poradenstva. Spôsobuje vážne poškodenie; by sa malo poskytnúť usmernenie.
- Nestanovuje cestu prenosu na človeka. Zložité a citlivé otázky zostávajú nevyriešené.
- Ponechanie dát chatu nechránené. Došlo by k narušeniu súkromia.
V súhrne
V používateľských službách preberajú AI a chatboty jednoduché, opakujúce sa otázky, čo umožňuje knihovníkovi sústrediť sa na zložité, citlivé a úsudok vyžadujúce úlohy. Robot by však mal byť vytvorený ako vrstva, ktorá zmierňuje záťaž, a nie namiesto človeka: mal by sa spoliehať iba na overené firemné informácie, poskytovať fakty ako zdroje, vyhýbať sa lekárskym/právnym radám a odkazovať na špecialistu, delegovať citlivé otázky na človeka a chrániť súkromie údajov z chatu. Transparentnosť je nevyhnutná: používateľ musí vedieť, že hovorí s robotom.
Aplikačná úloha
Pripravte si krátky „zoznam aktuálnych informácií + zdrojov“ pre vašu inštitúciu (hodiny, pravidlá pôžičky, niekoľko sprievodcov). Vygenerujte odpovede na tri rôzne otázky používateľov pomocou šablóny „Odpoveď robota na zdroj“ a pomocou „Kontrola faktov odpovede na najčastejšie otázky“ skontrolujte, či je každá skutočnosť založená na zdroji. Nakoniec vytvorte správny text výzvy pre citlivú otázku pomocou šablóny „Odpoveď na limit a obrat“.
kontrolný zoznam
- [ ] Pripojil som robota iba k overeným firemným informáciám.
- [ ] Vo vecných odpovediach som uviedol zdroje.
- [ ] Nastavil som smerovanie a odovzdávanie pre lekárske/právne/citlivé otázky.
- [ ] Transparentne som uviedol, že používateľ hovoril s robotom.
- [ ] Chránil som súkromie údajov chatu.