zisky:
- Schopnost zodpovědně navrhnout poradenského bota tak, aby se připojoval pouze k ověřeným firemním informacím a poskytoval fakta s uvedením zdroje.
- Schopnost směřovat lékařské, právní a citlivé otázky na odborníky a spolehlivé zdroje, vyhýbat se radám a v případě potřeby je předávat lidem
- Ochrana soukromí dat chatu a transparentnost pro uživatele ohledně používání AI
Místem, kde se knihovna setkává s lidmi, je informační pult. Student hledá zdroje pro svůj domácí úkol, občan se ptá, jak se dostat k oficiálnímu dokumentu, výzkumník se chce naučit používat databázi. Tomu se říká referenční služba: je to úkol porozumět informačním potřebám uživatele a dodat je správnému zdroji a správnou metodou. V této lekci se naučíte, jak zodpovědně používat chatboty založené na umělé inteligenci (software, který pomáhá korespondencí s uživatelem) a poradenství založené na umělé inteligenci.
Jedna definice: referenční rozhovor je dialog, ve kterém knihovník klade otázky k objasnění skutečné potřeby uživatele. Protože uživatel většinou nemůže plně vyjádřit, co hledá; Někdo, kdo říká „něco o historii“, může ve skutečnosti hledat konkrétní aspekt konkrétní události. Tato lidská, empatická a odsuzující práce je jádrem knihovnictví a umělá inteligence ji nemůže zcela převzít.
Krok za krokem: konzultace s umělou inteligencí
1. Ujasněte si potřebu. Ať už se jedná o člověka nebo robota, dobrá konzultace nejprve pochopí potřebu. Umělá inteligence může uživateli navrhnout objasňující otázky; ale je úkolem člověka číst kontext a emoce uživatele.
2. Podívejte se na zdroj, odpověď si nevymýšlejte. Úkolem knihovního bota je nasměrovat uživatele ke skutečným zdrojům; Nejde o generování odpovědí z obecných znalostí. Bot by měl říct „podívejte se na tuto databázi, tuto kolekci pro toto téma“; Musí uvést faktická tvrzení s uvedením zdroje.
3. Nastavte limit. Bot by neměl poskytovat lékařské, právní nebo finanční poradenství; místo toho by vás měl odkázat na spolehlivé zdroje a v případě potřeby na odborníka. Pokud by AI uživateli poskytla nesprávnou lékařskou nebo právní „odpověď“, došlo by k vážnému poškození.
4. Delegujte na lidi. Když na to bot nemůže přijít nebo je téma citlivé, měl by uživatele nasměrovat na skutečného knihovníka. Dobrý systém zná limity robota.
5. Buďte transparentní. Uživatel musí vědět, že mluví s robotem. Knihovna nesmí uživatele uvádět v omyl skrytým robotem vydávajícím se za člověka.
Tip: Nastavte si poradního robota jako systém citování zdrojů na základě vaší sbírky a informací o FAQ (často kladené otázky). Mít robota jako asistenta, který vám „najde správný zdroj“, spíše než „vědět všechno“, zachovává důvěru i přesnost.
Limity a rizika chatbota
Knihovní chatbot vypadá lákavě: funguje 24/7, pomáhá více uživatelům najednou, rychle odpovídá na jednoduché otázky. Ale rizika jsou reálná. Bot může mít halucinace a sdělit uživateli neexistující zdroj, nesprávný čas spouštění nebo chybný postup. Robot může nesprávně zpracovat citlivou otázku uživatele (zdravotní problém, osobní krize). A pokud robot zaznamená, co uživatel zadá, existuje riziko ochrany soukromí.
Proto není bot umístěn jako náhrada za lidského poradce, ale jako vrstva, která jeho zátěž ulehčuje. Robot přijímá jednoduché, opakující se otázky; Lidé zvládají složité, citlivé a úsudek vyžadující otázky.
Upozornění: Otázky, které uživatel zadá do chatbota, mohou být citlivé (zdravotní, právní, osobní situace). Záznam této korespondence by měl být z hlediska soukromí chráněn stejně jako záznamy o výpůjčkách. Poskytování dat chatu obecným nástrojům umělé inteligence pro školení porušuje důvěru uživatelů.
tři mini pouzdra
Případ 1 – Loď odlehčila náklad. Univerzitní knihovna postavila robota založeného na sbírce a často kladených dotazech, který odpovídá na běžné otázky, jako je „otvírací doba, výpůjční doba, přístup k databázi“. Bot zpracoval přibližně 40 % otázek přicházejících na informační pult; knihovníci mohli věnovat více času složitým výzkumným otázkám. Bot ve svých odpovědích vždy odkazoval na oficiální stránku.
Případ 2 – Opraven nesprávný čas. Bot řekl ze své globální paměti „knihovna je v neděli zavřená“; zatímco trhy knihoven byly otevřené. Uživatel by byl kvůli tomu zbytečný. Tým překonfiguroval robota tak, aby se připojoval pouze k aktuálním ověřeným informacím organizace; Zakázala odpověď z globální paměti.
Případ 3 – Došlo k přenosu na člověka. Uživatel se robota zeptal na osobní zdravotní problém. Namísto lékařského poradenství nasměroval robot uživatele ke spolehlivým zdrojům zdravotních informací a nabídl jim možnost předání člověku se slovy „můžete si promluvit s knihovníkem, pokud chcete“. Citlivé téma zpracováno správně.
Dostupnost a inkluzivita
Dobré uživatelské služby slouží všem; toto je přímé rozšíření hodnoty rovného přístupu knihovny. Nástroje AI zde nesou příležitost i riziko. Strana příležitostí: Umělá inteligence dokáže přeložit složitý text do srozumitelného jazyka, generovat odpovědi v různých jazycích, učinit dlouhý dokument čitelným pro zrakově postiženého uživatele nebo usnadnit interakci s hlasovým asistentem. To přivádí uživatele, kteří byli dříve ze služby vyloučeni. Riziková stránka: Nástroje umělé inteligence často fungují lépe v určitých jazycích a s určitými uživatelskými profily; V jazyce s nízkými zdroji nebo na jiné úrovni gramotnosti může kvalita odezvy klesat, což posiluje nerovnost. Knihovník by měl sledovat, ve kterých skupinách uživatelů robot nebo nástroj AI funguje dobře a ve kterých špatně, a tam, kde je slabý, zapojit lidskou podporu. Výstup zjednodušení nebo překladu, stejně jako jakákoli jiná faktická odpověď, by měl být přezkoumán, aby bylo zajištěno, že nezkresluje význam; Falešné zjednodušení může být zavádějící, zejména v citlivých textech, jako je zdraví, zákony nebo vládní postupy.
Upozornění: Při zjednodušování nebo překladu textu může AI neúmyslně změnit význam nebo vynechat důležité upozornění. Výstup vytvořený pro účely přístupnosti by měl být také kontrolován z hlediska přesnosti; Zatímco říkáte „mělo by se to dostat ke všem“, je třeba dbát na to, aby se nešířily nepravdivé informace.
Čtyři kopírovatelné šablony
1) Otázky na poradenský pohovor:
Navrhněte 3–4 zdvořilé, otevřené otázky, které byste měli položit, abyste objasnili následující vágní uživatelskou otázku (rozsah, úroveň, účel, typ). Nepředpokládejte záměr uživatele. Otázka: [zde]
2) Odpověď robota směřující ke zdroji:
Vaše role: knihovní informační bot. Níže je uživatelská otázka a náš seznam zdrojů/příruček. Pouze na základě tohoto seznamu napište krátkou zdvořilou odpověď, která uživatele nasměruje na příslušný zdroj. Při skutkovém tvrzení uveďte zdroj; Pokud není na seznamu, řekněte „nechte mě nasměrovat vás na knihovníka“. Otázka: [zde] / Seznam: [zde]
3) Odezva limitu a obratu:
Obsahuje následující uživatelská otázka lékařské/právní/finanční rady nebo citlivější osobní témata? Pokud ano, navrhněte odpověď, která uživatele zdvořile nasměruje na důvěryhodný zdroj a na odborníka/knihovníka, BEZ poskytování rady. Otázka: [zde]
4) Kontrola faktů odpovědí na nejčastější dotazy:
Jsou všechny faktické informace (čas, doba trvání, postup, zdroj) v níže uvedené odpovědi robota založeny na oficiálním textu FAQ/informací, který jsem poskytl? Označte každý nárok jako „přítomný/nepřítomný ve zdroji“. Odpověď: [zde] / FAQ: [zde]
Slabá výzva / Silná výzva
Slabá výzva:
Odpovězte na otázku tohoto uživatele.
Robot generuje odpovědi ze své obecné paměti; může uvést nesprávný čas, nesprávný zdroj nebo chybný postup; Nerespektuje hranice a období.
Výkonná výzva:
Vaše role: knihovní informační bot. Spolehněte se pouze na aktuální institucionální informace a seznam zdrojů, které jsem uvedl níže; Neuvádějte jiné informace než tyto. Pokud je požadována lékařská/právní pomoc, obraťte se na odborníka. Udržujte odpověď stručnou a zdvořilou, uveďte zdroj skutečnosti, a pokud nejsou žádné informace, řekněte „dovolte mi, abych vás nasměroval na knihovníka“. Dotaz uživatele: [zde] / Informace o organizaci: [zde]
Výkonná výzva; Připojuje robota k ověřeným podnikovým informacím, nastavuje limity a definuje cestu přenosu.
Tabulka typu poradní otázky
Typ otázky
Je bota vhodná?
Přístup
Otevírací doba, doba trvání, postup
Ano
Odpověď z aktuálních informací o instituci
Jednoduché směrování zdroje
Ano
Odkaz na sbírku/kontakt
komplexní výzkum
částečně
Ujasněte si potřebu, přeneste ji na lidi
Lékařské/právní/citlivé
ne
Přímo na odborníka a důvěryhodný zdroj
Časté chyby
- Nechání robota reagovat z globální paměti. Riziko dezinformací a vymyšlených zdrojů.
- Věcná odpověď bez uvedení zdrojů. Uživatel nemůže ověřit.
- Poskytování lékařského/právního poradenství. Způsobuje vážné poškození; by měl být poskytnut návod.
- Nestanovení cesty přenosu na člověka. Složité a citlivé otázky zůstávají nevyřešeny.
- Ponechání dat chatu nechráněných. Došlo by k narušení soukromí.
V souhrnu
V uživatelských službách přebírají AI a chatboti jednoduché, opakující se otázky, což umožňuje knihovníkovi soustředit se na složité, citlivé a úsudek vyžadující úkoly. Ale robot by měl být postaven jako vrstva, která ulehčuje zátěž, nikoli místo člověka: měl by se spoléhat pouze na ověřené firemní informace, poskytovat fakta jako zdroje, vyhýbat se lékařským/právním radám a odkazovat na odborníka, delegovat citlivé otázky na člověka a chránit soukromí dat chatu. Transparentnost je zásadní: uživatel musí vědět, že mluví s robotem.
Aplikační úkol
Připravte si krátký „seznam aktuálních informací + zdrojů“ pro vaši instituci (otevírací doba, pravidla půjček, pár průvodců). Vygenerujte odpovědi na tři různé uživatelské otázky pomocí šablony „Bot response to source“ a zkontrolujte, zda je každý fakt založen na zdroji pomocí „FAQ response fact check“. Nakonec vytvořte správný text výzvy pro citlivou otázku pomocí šablony „Odpověď na limit a obrat“.
kontrolní seznam
- [ ] Připojil jsem robota pouze k ověřeným firemním informacím.
- [ ] Ve věcných odpovědích jsem uvedl zdroje.
- [ ] Nastavil jsem směrování a předávání pro lékařské/právní/citlivé otázky.
- [ ] Transparentně jsem uvedl, že uživatel mluvil s robotem.
- [ ] Chránil jsem soukromí dat chatu.