Прибуток:
- Здатність відповідально розробити бота-консультанта, щоб він підключався лише до перевіреної корпоративної інформації та надавав факти з посиланням на джерело.
- Здатність направляти медичні, юридичні та делікатні питання експертам і надійним джерелам, уникаючи порад, і передавати їх людям, коли це необхідно
- Захист конфіденційності даних чату та прозорість використання ШІ для користувача
Місце, де бібліотека зустрічає людей – довідкова стійка. Студент шукає джерела для домашнього завдання, громадянин запитує, як отримати доступ до офіційного документа, дослідник хоче навчитися користуватися базою даних. Це називається довідковою службою: це робота з розуміння інформаційних потреб користувача та доставки її до потрібного джерела та правильним способом. У цьому розділі ви навчитеся відповідально використовувати чат-боти на основі штучного інтелекту (програмне забезпечення, яке допомагає листуватися з користувачем) і консультування на основі ШІ.
Одне визначення: довідкове інтерв’ю – це діалог, у якому бібліотекар ставить запитання, щоб з’ясувати справжню потребу користувача. Оскільки найчастіше користувач не може повністю висловити те, що він шукає; Той, хто каже «щось про історію», насправді може шукати певний аспект конкретної події. Ця людяна, співчутлива та виважена робота є основою бібліотечної справи, і штучний інтелект не може повністю її взяти на себе.
Крок за кроком: консультація на основі AI
1. Уточнити потребу. Будь то людина чи бот, хороша консультація спочатку розуміє потребу. ШІ може запропонувати користувачеві уточнюючі запитання; але робота людини — читати контекст і емоції користувача.
2. Посилайтесь на джерело, не вигадуйте відповіді. Робота бібліотечного бота полягає в тому, щоб направляти користувача до реальних ресурсів; Йдеться не про генерування відповідей із загальних знань. Бот повинен сказати «подивіться цю базу даних, цю колекцію для цієї теми»; Має надавати фактичні твердження з посиланням на джерело.
3. Встановіть ліміт. Бот не повинен надавати медичні, юридичні чи фінансові консультації; замість цього він має направити вас до надійних джерел і, якщо необхідно, до експерта. Якщо штучний інтелект надасть неправильну медичну чи юридичну «відповідь» користувачеві, це призведе до серйозної шкоди.
4. Делегувати людям. Якщо бот не може це зрозуміти або тема делікатна, він повинен направити користувача до справжнього бібліотекаря. Хороша система знає межі бота.
5. Будьте прозорими. Користувач повинен знати, що він спілкується з ботом. Бібліотека не повинна вводити користувача в оману за допомогою прихованого бота, який видає себе за людину.
Порада: налаштуйте бота-консультанта як систему цитування ресурсів на основі вашої колекції та інформації з поширених запитань. Наявність бота як помічника, який «знаходить вам потрібний ресурс», а не «знає все», зберігає як довіру, так і точність.
Обмеження та ризики чат-бота
Бібліотечний чат-бот виглядає привабливо: працює 24/7, допомагає кільком користувачам одночасно, швидко відповідає на прості запитання. Але ризики реальні. Бот може галюцинувати та повідомляти користувачеві про неіснуючий ресурс, неправильний час завантаження або неправильну процедуру. Бот може неправильно обробити делікатне запитання користувача (занепокоєння здоров’ям, особиста криза). І якщо бот записує те, що вводить користувач, існує ризик конфіденційності.
Тому бот позиціонується не як заміна людини-порадника, а як прошарок, що полегшує його навантаження. Прості питання, що повторюються, надходять до бота; Люди вирішують складні, делікатні запитання, які вимагають суджень.
Застереження: запитання, які користувач вводить у чат-боті, можуть бути делікатними (про здоров’я, право, особисті ситуації). Записи цього листування мають бути захищені для конфіденційності так само, як і записи позик. Надання даних чату загальним інструментам ШІ для навчання порушує довіру користувачів.
три міні-чохла
Випадок 1 — Човен полегшив вантаж. Університетська бібліотека створила бота на основі колекції та поширених запитань, який відповідає на такі поширені запитання, як «години роботи, термін видачі, доступ до бази даних». Бот обробив приблизно 40% запитань, які надходять на довідкову; бібліотекарі змогли більше часу приділяти складним дослідницьким питанням. У відповідях бот завжди посилався на офіційну сторінку.
Випадок 2 — Виправлено неправильний час. Бот повідомив, що «бібліотека закрита по неділях» зі своєї глобальної пам’яті; тоді як бібліотечні ринки були відкриті. Через це користувач буде втрачений. Команда переконфігурувала бота, щоб підключатися лише до поточної, перевіреної інформації організації; Вимкнено відповідь із глобальної пам'яті.
Випадок 3 — відбулася передача людині. Користувач запитав у бота про особисте занепокоєння здоров’ям. Замість того, щоб надавати медичну консультацію, бот спрямовував користувачів до надійних джерел інформації про здоров’я та пропонував можливість передати її людині, сказавши, що «ви можете поговорити з бібліотекарем, якщо хочете». Делікатну тему оброблено правильно.
Доступність та інклюзивність
Добре обслуговування користувачів обслуговує всіх; це пряме розширення значення рівного доступу до бібліотеки. Інструменти ШІ несуть тут як можливості, так і ризики. Можливість: штучний інтелект може перекладати складний текст простою мовою, генерувати відповіді різними мовами, робити довгий документ читабельним для користувача з вадами зору або полегшувати взаємодію з голосовим помічником. Це призводить до користувачів, які раніше були виключені зі служби. Сторона ризику: інструменти ШІ часто працюють краще на певних мовах і з певними профілями користувачів; У малодоступній мові або на іншому рівні грамотності якість відповідей може погіршитися, посилюючи нерівність. Бібліотекар має спостерігати, в яких групах користувачів бот або інструмент ШІ працює добре, а в яких погано, і залучати підтримку людей, де вона слабка. Результат спрощення або перекладу, як і будь-яку іншу фактичну відповідь, слід переглянути, щоб переконатися, що він не спотворює значення; Помилкове спрощення може ввести в оману, особливо в делікатних текстах, таких як здоров’я, законодавство чи державні процедури.
Увага: під час спрощення або перекладу тексту ШІ може ненавмисно змінити значення або пропустити важливе попередження. Вихідні дані, створені для цілей доступності, також повинні бути перевірені на точність; Говорячи «це має дійти до кожного», слід бути обережним, щоб не поширювати неправдиву інформацію.
Чотири шаблони, які можна копіювати
1) Питання консультаційної бесіди:
Запропонуйте 3-4 ввічливих відкритих запитання, щоб роз’яснити наступне невизначене запитання користувача (обсяг, рівень, мета, тип). Не припускайте наміри користувача. Питання: [тут]
2) Відповідь бота на джерело:
Ваша роль: бібліотечний інформаційний бот. Нижче наведено запитання користувача та наш список ресурсів/посібників. Грунтуючись виключно на цьому списку, напишіть коротку ввічливу відповідь, яка спрямовуватиме користувача до відповідного ресурсу. Коли ви стверджуєте факти, вкажіть джерело; Якщо його немає в списку, скажіть «дозвольте направити вас до бібліотекаря». Питання: [тут] / Список: [тут]
3) Відповідь на ліміт і оборот:
Чи містить наступне запитання користувача медичні/юридичні/фінансові поради чи більш делікатні особисті теми? Якщо так, складіть відповідь, яка ввічливо спрямовує користувача до надійного джерела та експерта/бібліотекаря, БЕЗ надання порад. Питання: [тут]
4) Відповідь на поширені запитання Перевірка фактів:
Чи кожна фактична інформація (час, тривалість, процедура, джерело) у відповіді бота нижче базується на офіційному тексті поширених запитань/інформаційному тексті, який я надав? Позначте кожне твердження як «є/немає в джерелі». Відповідь: [тут] / FAQ: [тут]
Слабка підказка / Сильна підказка
Слабка підказка:
Дайте відповідь на запитання цього користувача.
Бот генерує відповіді зі своєї загальної пам'яті; може вказати хибний час, хибне джерело або неправильну процедуру; Не поважає кордонів і періодів.
Потужна підказка:
Ваша роль: бібліотечний інформаційний бот. Покладайтеся виключно на поточну інституційну інформацію та список ресурсів, які я надав нижче; Не надавайте іншу інформацію, крім цієї. Якщо потрібна медична/юридична консультація, зверніться до спеціаліста. Відповідайте коротко і ввічливо, вкажіть джерело факту, а якщо інформації немає, скажіть «дозвольте направити вас до бібліотекаря». Питання користувача: [тут] / Інформація про організацію: [тут]
Потужна підказка; Він підключає бота до перевіреної корпоративної інформації, встановлює обмеження та визначає шлях передачі.
Таблиця типів консультативних питань
Тип питання
Черевик підходить?
Підхід
Час відкриття, тривалість, процедура
так
Відповідь від актуальної інформації установи
Проста маршрутизація джерела
так
Посилання на колекцію/контакт
комплексне дослідження
частково
Уточніть потребу, передайте її людям
Медичні/юридичні/делікатні
немає
Зверніться до експерта та надійного джерела
Поширені помилки
- Залишення бота відповідати з глобальної пам’яті. Ризик дезінформації та сфабрикованих джерел.
- Фактична відповідь без посилання на джерела. Користувач не може підтвердити.
- Надання медичних/юридичних консультацій. Заподіює серйозну шкоду; повинні бути надані вказівки.
- Не встановлено шлях передачі людині. Складні та делікатні питання залишаються невирішеними.
- Залишення даних чату незахищеними. Було б порушення конфіденційності.
Підсумовуючи
У службах для користувачів штучний інтелект і чат-боти беруть на себе прості запитання, що повторюються, дозволяючи бібліотекарю зосередитися на складних, делікатних і вимагаючих суджень завдань. Але бот має створюватися як рівень, який полегшує тягар, а не замість людини: він має покладатися лише на перевірену корпоративну інформацію, надавати факти як джерела, уникати медичних/юридичних консультацій і направляти до спеціаліста, делегувати делікатні запитання людині та захищати конфіденційність даних чату. Прозорість є важливою: користувач повинен знати, що він спілкується з ботом.
Аплікаційне завдання
Підготуйте короткий «список поточної інформації + ресурсів» для вашої установи (години роботи, правила позики, кілька посібників). Згенеруйте відповіді на три різні запитання користувача за допомогою шаблону «Відповідь бота на джерело» та перевірте, чи кожен факт базується на джерелі за допомогою «Перевірки фактів відповіді на поширені запитання». Нарешті, створіть правильний текст підказки для делікатного запитання за допомогою шаблону «Відповідь на ліміт і оборот».
контрольний список
- [ ] Я підключив бота лише до перевіреної корпоративної інформації.
- [ ] Я цитував джерела у фактичних відповідях.
- [ ] Я налаштував маршрутизацію та передачу для медичних/юридичних/делікатних питань.
- [ ] Я прозоро заявив, що користувач спілкувався з ботом.
- [ ] Я захистив конфіденційність даних чату.