Прибыль:
- Способность различать подходы к рекомендациям на основе контента и совместные рекомендации и предотвращать поддельные источники, проверяя каждую рекомендацию в реальной коллекции.
- Способность разрушить пузырь фильтров с помощью сознательного разнообразия и представить предложения с прозрачными обоснованиями.
- Защита конфиденциальности пользовательского чтения и истории поиска, а также безопасная обработка этих данных.
Читатель может спросить: «Я закончил эту книгу, что мне читать дальше?» ', хороший библиотекарь рекомендует ресурсы, соответствующие его или ее интересам, уровню и целям. В цифровом мире системы рекомендаций делают это в масштабе: они рекомендуют новые ресурсы, учитывая прошлый интерес пользователя или характеристики ресурса. В этом модуле вы узнаете, как работают системы рекомендаций на основе искусственного интеллекта, что они приносят в библиотеку и как управлять такими рисками, как конфиденциальность, предвзятость и «пузырь фильтров».
Давайте определимся с понятиями. Рекомендации на основе содержания учитывают характеристики источника (тема, автор, жанр) и рекомендуют похожие источники: «Если вам понравилась эта книга по истории, вам может понравиться и эта, охватывающая тот же период». Совместная фильтрация работает по принципу «другим пользователям, которым понравились такие же ресурсы, как и вы, также понравились эти». Пузырь фильтров — это когда система рекомендаций блокирует пользователя постоянно на одном и том же контенте и удерживает его от новых, разных точек зрения. Хорошая рекомендация библиотеки одновременно вызывает интерес и разрушает пузырь.
Шаг за шагом: ответственный подход к консультированию
1. Уточните цель. На что направлено предложение? Хотите ли вы, чтобы пользователь продолжал читать, расширял свой кругозор или находил ресурсы для решения конкретного исследовательского вопроса? Цель определяет тип рекомендации.
2. Проверьте источник и подлинность. ИИ может создавать несуществующие книги, внося предложения. Убедитесь, что каждый предлагаемый ресурс действительно существует в коллекции или в надежном каталоге.
3. Поддерживайте разнообразие. Рекомендация только «наиболее похожего» создает пузырь фильтров. Сознательно включайте разные точки зрения, разных авторов и разные уровни. Задача библиотеки – открывать горизонты, а не ограничивать их экологией.
4. Защитите конфиденциальность. Персонализированные рекомендации используют историю чтения пользователя и являются чрезвычайно точными. Не предоставляйте эти данные общим инструментам искусственного интеллекта; Обрабатывайте только в защищенных системах учреждения с согласия пользователя.
5. Будьте прозрачными. Объясните пользователю, почему была дана рекомендация: «Этот ресурс рекомендован, поскольку он связан с интересующей вас темой». Прозрачность укрепляет доверие и информационную грамотность.
Совет: сознательно добавьте «немного другой» ресурс в список предложений и укажите: «Это близко к вашей области интересов; я добавил этот для повышения квалификации». Это одновременно разрушает пузырь фильтров и демонстрирует ценность библиотеки для открытия.
Этический аспект предложения
Системы рекомендаций кажутся невинными, но дают мощный эффект. То, какие ресурсы рекомендуются пользователю, формирует его информационный мир. Если система выделяет только популярные источники или только с определенной точки зрения, голоса меньшинства, различные точки зрения и менее известные ценные источники будут невидимы. ИИ может усилить эту тенденцию, унаследовав популярность и предвзятость в обучающих данных.
Именно здесь проявляется ценность библиотечного дела: библиотека не является коммерческим рекомендательным механизмом; Его миссия – обеспечить равный и разнообразный доступ к информации. Ответственность за то, чтобы привести систему рекомендаций в соответствие с этой ценностью, лежит на библиотекаре.
Внимание: история чтения и поиска пользователя является одним из наиболее конфиденциальных данных о конфиденциальности. То, что человек читает, может раскрыть информацию о его или ее здоровье, политических взглядах, убеждениях или личном кризисе. Никогда не передавайте эти данные вместе с их идентификационными данными во внешние системы; Анонимизация и согласие необходимы.
три мини-кейса
Случай 1 — Рекомендация на основе контента сработала. Школьная библиотека использовала систему, основанную на содержании, чтобы рекомендовать учащимся ресурсы, похожие на книгу, которую они читают. Один студент закончил научно-фантастический роман; Система рекомендовала три книги на одну и ту же тему, но от разных авторов. Студент одолжил два; Привычка к чтению сохранилась. Библиотекарь ранее подтвердил, что все предложения действительно существуют в коллекции.
Случай 2. Обнаружено ложное предложение. Библиотекарь попросил ИИ порекомендовать пользователю 8 книг. Он сверился со списком в каталоге: 3 из 8 книг отсутствовали вообще; ИИ составил правдоподобные заголовки. Этап проверки предотвратил рекомендацию пользователю несуществующих книг.
Случай 3 — Разрыв баллона фильтра. Исследователь постоянно работал с источниками с одной и той же точкой зрения, и система всегда предлагала схожие. Библиотекарь намеренно включил два источника, которые представили противоположный подход к теме и прояснили это. Лишь благодаря этим противоположным источникам исследователь осознал незавершенность своего исследования.
Холодный старт и проблема с новым пользователем
Известная проблема рекомендательных систем — проблема холодного старта: система не знает, что порекомендовать новому пользователю или только что добавленному в коллекцию ресурсу, по которому нет исторических данных. В этом случае многие системы обращаются к самым популярным ресурсам как к безопасному варианту; Это значит, что малоизвестные ценные ресурсы вообще не рекомендуются и популярность подпитывает сама себя. С точки зрения библиотечного дела это противоречит ценности равного доступа. Решение состоит в том, чтобы задать новому пользователю короткий и четкий вопрос о предпочтениях (какие темы, какой уровень, какая цель), прежде чем давать рекомендации и выделять вновь добавленные ресурсы на основе характеристик их контента. На этом этапе, анализируя тематику и особенности ресурса, ИИ может связать с соответствующим пользователем даже книгу, которая никогда не одалживалась; при условии, что предложение исходит из реальной коллекции и проверено. Таким образом, система делает видимым не только «очень любимое», но и «актуальное и ценное».
Совет: При настройке рекомендаций для нового пользователя основывайте их на текущих потребностях пользователя, а не на исторических данных системы. Один хороший вопрос («Это для исследования, для удовольствия, в какой степени?») часто дает более точную рекомендацию, чем месяцы поведенческих данных.
Четыре копируемых шаблона
1) Рекомендация аналогичного ресурса на основе контента:
Ниже приведена тема/краткое содержание ресурса, который понравился пользователю. Я также привел список существующих ресурсов в нашей коллекции. Просто из этого списка предложите 5 ресурсов, схожих по тематике, и для каждого напишите обоснование в одно предложение. Предлагаются источники, не указанные в списке. Любимый источник: [здесь] / Список сборников: [здесь]
2) Предложение, добавляющее разнообразия:
К списку предложений ниже добавьте 2 ресурса, которые расширят кругозор пользователя и предложат другую точку зрения или подтему (только из предоставленного мной списка коллекции). Объясните, почему они разные и ценные. Список: [здесь] / Коллекция: [здесь]
3) Объяснение причины рекомендации:
Для каждой приведенной ниже рекомендации напишите короткое и прозрачное обоснование, которое можно будет показать пользователю: «Этот ресурс был рекомендован, потому что...» Никаких преувеличений, никакого намека на личные данные. Предложения: [здесь]
4) Предварительная проверка конфиденциальности:
Содержит ли следующая запись предложения информацию, идентифицирующую пользователя, или конфиденциальную информацию (намекающую на здоровье, убеждения, политические взгляды)? Если да, отметьте его и предложите, как его анонимизировать. Ввод: [здесь]
Слабая подсказка / Сильная подсказка
Слабая подсказка:
Порекомендуйте этому пользователю прочитать 10 книг.
ИИ генерирует предложения из своей глобальной памяти, не зная коллекции; Он может создавать книги, которых не существует, и не уважает разнообразие и конфиденциальность.
Мощная подсказка:
Ваша роль: помощник читателя-консультанта. Ниже представлена понравившаяся пользователю тема и список реальных источников в нашей коллекции. (1) Предложите из списка 5 источников по теме. (2) Также добавьте 2 источника с разными ракурсами, которые откроют вам глаза. (3) Напишите прозрачное обоснование каждого предложения. Не вычеркивайте из списка, не фабрикуйте источники и не подразумевайте персональные данные. Тема: [здесь] / Коллекция: [здесь]
Мощная подсказка; он ограничивает его фактической коллекцией, требует разнообразия и добавляет оправдание и правило конфиденциальности.
Сравнительная таблица типов рекомендаций
Тип предложения
сильная сторона
риск
Обязанность библиотекаря
основанный на контенте
Хорошо привлекает внимание
пузырьковый фильтр
Добавьте разнообразие
совместный
неожиданное открытие
Конфиденциальность, предвзятость популярности
Анонимность, баланс
Список продукции ИИ
быстро
выдуманный источник
проверить реальность
Распространенные ошибки
- Предложения без проверки. ИИ может создавать несуществующие источники.
- Просто рекомендую «наиболее похожий». Пузырь фильтров сужает кругозор пользователя.
- Экспорт истории чтения во внешний инструмент. Это наиболее конфиденциальные данные конфиденциальности.
- Представление предложения без обоснования. Прозрачность поддерживает доверие и грамотность.
- Игнорирование предвзятости популярности. Ценные, но малоизвестные ресурсы теряются.
В заключение
Системы рекомендаций — это мощные инструменты, которые облегчают обнаружение путем учета интересов пользователей; Подходы, основанные на контенте, и подходы, основанные на сотрудничестве, несут в себе разные сильные стороны и риски. ИИ быстро генерирует предложения, но может изобретать несуществующие источники, фильтруя пузыри и усиливая предвзятость. Работа библиотекаря; Проверить каждое предложение в реальной коллекции, разрушить пузырь сознательного разнообразия, защитить конфиденциальность пользователей и сохранить ценность равного и разнообразного доступа к библиотеке, представляя предложения с прозрачными причинами.
Задача приложения
Подготовьте краткий список фактических коллекций (10-15 источников). Создайте рекомендацию для пользователя с помощью шаблона «рекомендации похожих ресурсов на основе контента» и убедитесь, что все они действительно существуют в списке. Затем добавьте в список источники с разными точками зрения с помощью шаблона «Предложение, добавляющее разнообразия». Наконец, создайте прозрачное объяснение для каждого предложения с помощью шаблона «Обоснование предложения» и спланируйте, как вы представите его пользователю.
контрольный список
- [ ] Я проверил, что каждое предложение действительно существует в коллекции.
- [ ] Я добавил разнообразия, чтобы разрушить пузырь фильтров.
- [ ] Я сохранил историю чтения/поиска пользователя в безопасности и не передал ее внешнему инструменту.
- [ ] Я подготовил прозрачное обоснование каждого предложения.
- [ ] Чтобы избежать предвзятости по поводу популярности, я следил за менее известными и ценными источниками.