Прибыль:
- Способность ответственно разработать консультативного бота, чтобы он подключался только к проверенной корпоративной информации и предоставлял факты со ссылкой на источник.
- Способность направлять медицинские, юридические и деликатные вопросы экспертам и надежным источникам, избегая советов, и при необходимости передавать их людям.
- Защита конфиденциальности данных чата и прозрачность для пользователя использования ИИ.
Место, где библиотека встречает людей, — это информационная стойка. Студент ищет источники для выполнения домашнего задания, гражданин спрашивает, как получить доступ к официальному документу, исследователь хочет научиться пользоваться базой данных. Это называется справочной службой: это работа по пониманию информационных потребностей пользователя и доставке их к правильному источнику и правильному методу. В этом модуле вы узнаете, как ответственно использовать чат-боты на основе искусственного интеллекта (программное обеспечение, которое помогает переписываться с пользователем) и консультирование на основе искусственного интеллекта.
Одно из определений: справочное интервью – это диалог, в котором библиотекарь задает вопросы, чтобы прояснить истинные потребности пользователя. Потому что большую часть времени пользователь не может полностью выразить то, что он ищет; Тот, кто говорит «что-то об истории», возможно, на самом деле ищет конкретный аспект конкретного события. Эта человечная, чуткая и осуждающая работа лежит в основе библиотечного дела, и ИИ не может полностью взять на себя ее работу.
Шаг за шагом: консультация с помощью искусственного интеллекта
1. Выясните необходимость. Будь то человек или бот, хорошая консультация сначала понимает необходимость. ИИ может предложить задать пользователю уточняющие вопросы; но работа человека — читать контекст и эмоции пользователя.
2. Ссылайтесь на источник, не выдумывайте ответ. Задача библиотечного бота — направить пользователя к реальным ресурсам; Речь идет не о получении ответов на основе общих знаний. Бот должен сказать «посмотрите эту базу данных, эту коллекцию по этой теме»; Необходимо предоставить фактические утверждения со ссылкой на источник.
3. Установите лимит. Бот не должен предоставлять медицинские, юридические или финансовые консультации; вместо этого он должен направить вас к надежным источникам и, при необходимости, к эксперту. Если ИИ даст пользователю неправильный медицинский или юридический «ответ», это может привести к серьезному вреду.
4. Делегируйте людям. Если бот не может разобраться или тема деликатная, он должен направить пользователя к настоящему библиотекарю. Хорошая система знает пределы возможностей бота.
5. Будьте прозрачными. Пользователь должен знать, что общается с ботом. Библиотека не должна вводить пользователя в заблуждение скрытым ботом, выдающим себя за человека.
Совет: настройте консультативного бота в качестве системы цитирования ресурсов на основе вашей коллекции и информации часто задаваемых вопросов (часто задаваемые вопросы). Наличие бота в качестве помощника, который «находит вам нужный ресурс», а не «знает все», сохраняет доверие и точность.
Ограничения и риски чат-бота
Чат-бот библиотеки выглядит привлекательно: работает круглосуточно, помогает сразу нескольким пользователям, быстро отвечает на простые вопросы. Но риски реальны. Бот может галлюцинировать и сообщить пользователю о несуществующем ресурсе, неправильном времени загрузки или ошибочной процедуре. Бот может неправильно ответить на деликатный вопрос пользователя (проблема со здоровьем, личный кризис). А если бот записывает то, что вводит пользователь, возникает риск конфиденциальности.
Поэтому бот позиционируется не как замена человеку-советнику, а как прослойка, облегчающая его ношу. Бот получает простые повторяющиеся вопросы; Люди решают сложные, деликатные и требующие суждений вопросы.
Внимание: вопросы, которые пользователь вводит в чат-бот, могут быть деликатными (здоровье, юридические вопросы, личные ситуации). Запись этой переписки должна быть так же защищена с точки зрения конфиденциальности, как и записи о кредитах. Предоставление данных чата общим инструментам искусственного интеллекта для обучения подрывает доверие пользователей.
три мини-кейса
Случай 1 — Лодка облегчила груз. Университетская библиотека создала бота на основе коллекции и информации часто задаваемых вопросов, который отвечает на распространенные вопросы, такие как «часы работы, период кредита, доступ к базе данных». Бот обрабатывал примерно 40% вопросов, поступающих в справочную; библиотекари смогли уделять больше времени сложным исследовательским вопросам. В своих ответах бот всегда ссылается на официальную страницу.
Случай 2 — Исправлено неправильное время. Бот сообщил, что «библиотека закрыта по воскресеньям» из своей глобальной памяти; тогда как библиотечные рынки были открыты. Из-за этого пользователь будет потрачен впустую. Команда перенастроила бота так, чтобы он подключался только к текущей проверенной информации организации; Отключил ответ из глобальной памяти.
Случай 3 — Произошла передача человеку. Пользователь спросил бота о личной проблеме со здоровьем. Вместо предоставления медицинских консультаций бот направлял пользователей к надежным источникам медицинской информации и предлагал возможность передать информацию человеку, говоря: «Если хотите, вы можете поговорить с библиотекарем». Деликатная тема раскрыта правильно.
Доступность и инклюзивность
Хорошее обслуживание пользователей обслуживает всех; это прямое расширение значения равного доступа библиотеки. Инструменты ИИ несут в себе как возможности, так и риски. Сторона возможностей: ИИ может переводить сложный текст на простой язык, генерировать ответы на разных языках, делать длинный документ читабельным для пользователя с ослабленным зрением или облегчать взаимодействие с голосовым помощником. Это приведет к привлечению пользователей, которые ранее были исключены из сервиса. Сторона риска: инструменты ИИ часто работают лучше на определенных языках и с определенными профилями пользователей; На языке с ограниченными ресурсами или на другом уровне грамотности качество ответов может снизиться, что усилит неравенство. Библиотекарю следует наблюдать, в каких группах пользователей бот или инструмент искусственного интеллекта работают хорошо, а в каких плохо, и задействовать человеческую поддержку там, где она слаба. Результаты упрощения или перевода, как и любой другой фактический ответ, должны быть проверены, чтобы гарантировать, что они не искажают смысл; Ложное упрощение может ввести в заблуждение, особенно в деликатных текстах, таких как здравоохранение, законодательство или государственные процедуры.
Внимание: при упрощении или переводе текста ИИ может непреднамеренно изменить смысл или пропустить важное предупреждение. Результаты, полученные в целях доступности, также должны проверяться на предмет точности; Говоря «оно должно дойти до всех», следует позаботиться о том, чтобы не распространять ложную информацию.
Четыре копируемых шаблона
1) Консультативные вопросы на собеседовании:
Предложите 3–4 вежливых открытых вопроса, чтобы прояснить следующий расплывчатый вопрос пользователя (объем, уровень, цель, тип). Не предполагайте намерения пользователя. Вопрос: [здесь]
2) Ответ бота с направлением к источнику:
Ваша роль: информационный бот библиотеки. Ниже приведен вопрос пользователя и наш список ресурсов/руководств. Основываясь исключительно на этом списке, напишите короткий вежливый ответ, который направит пользователя на соответствующий ресурс. Делая фактическое утверждение, укажите источник; Если его нет в списке, скажите: «Позвольте мне направить вас к библиотекарю». Вопрос: [здесь] / Список: [здесь]
3) Реакция лимита и оборота:
Содержит ли следующий вопрос пользователя медицинские/юридические/финансовые советы или более деликатные личные темы? Если да, составьте ответ, который вежливо направляет пользователя к надежному источнику и эксперту/библиотекарю, БЕЗ советов. Вопрос: [здесь]
4) Проверка фактов ответов на часто задаваемые вопросы:
Вся фактическая информация (время, продолжительность, процедура, источник) в ответе бота ниже основана на официальном тексте часто задаваемых вопросов/информации, который я предоставил? Отметьте каждое утверждение как «присутствует/отсутствует в источнике». Ответ: [здесь] / FAQ: [здесь]
Слабая подсказка / Сильная подсказка
Слабая подсказка:
Ответьте на вопрос этого пользователя.
Бот генерирует ответы из своей общей памяти; может указывать ложное время, ложный источник или ошибочную процедуру; Он не уважает границ и периодов.
Мощная подсказка:
Ваша роль: информационный бот библиотеки. Полагайтесь исключительно на текущую институциональную информацию и список ресурсов, которые я предоставил ниже; Не предоставляйте иную информацию, кроме этой. Если требуется медицинская/юридическая консультация, обратитесь к специалисту. Ответьте коротко и вежливо, укажите источник факта, а если информации нет, скажите: «Позвольте мне направить вас к библиотекарю». Вопрос пользователя: [здесь] / Информация об организации: [здесь]
Мощная подсказка; Он подключает бота к проверенной корпоративной информации, устанавливает ограничения и определяет путь передачи.
Таблица типов консультативных вопросов
Тип вопроса
Ботинок подойдет?
Подход
Время открытия, продолжительность, порядок действий
Да
Ответ на основе текущей информации об учреждении
Простая маршрутизация источника
Да
Ссылка на коллекцию/контакт
комплексное исследование
частично
Выяснить потребность, передать ее людям
Медицинский/юридический/деликатный
нет
Прямо к экспертному и надежному источнику
Распространенные ошибки
- Оставляем боту отвечать из глобальной памяти. Риск дезинформации и сфабрикованных источников.
- Дайте фактический ответ без ссылки на источники. Пользователь не может подтвердить.
- Предоставление медицинских/юридических консультаций. Наносит серьезный вред; должно быть дано руководство.
- Не установлен путь передачи человеку. Сложные и деликатные вопросы остаются нерешенными.
- Оставляя данные чата незащищенными. Это будет нарушение конфиденциальности.
В заключение
В сфере обслуживания пользователей искусственный интеллект и чат-боты берут на себя простые, повторяющиеся вопросы, позволяя библиотекарю сосредоточиться на сложных, деликатных и требующих суждения задачах. Но бот должен быть построен как слой, облегчающий бремя, а не вместо человека: он должен полагаться только на проверенную корпоративную информацию, предоставлять факты в качестве источников, избегать медицинских/юридических консультаций и обращаться к специалисту, делегировать деликатные вопросы человеку и защищать конфиденциальность данных чата. Прозрачность имеет важное значение: пользователь должен знать, что он разговаривает с ботом.
Задача приложения
Подготовьте краткий «список текущей информации + ресурсов» для вашего учреждения (часы работы, правила кредитования, несколько руководств). Сгенерируйте ответы на три разных вопроса пользователя с помощью шаблона «Ответ бота источнику» и проверьте, основан ли каждый факт на источнике, с помощью «Проверка фактов ответа на часто задаваемые вопросы». Наконец, создайте правильный текст подсказки для деликатного вопроса с помощью шаблона «Ответ по лимиту и обороту».
контрольный список
- [ ] Я подключал бота только к проверенной корпоративной информации.
- [ ] Я привел источники в фактических ответах.
- [ ] Я настроил маршрутизацию и передачу сообщений для медицинских/юридических/деликатных вопросов.
- [ ] Я прозрачно заявил, что пользователь общается с ботом.
- [ ] Я защитил конфиденциальность данных чата.