Прибуток:
- Здатність розрізняти підходи до рекомендацій на основі контенту та спільні та запобігати фальшивим джерелам шляхом перевірки кожної рекомендації в реальній колекції
- Здатність розірвати бульбашку фільтрів за допомогою свідомої різноманітності та представити пропозиції з прозорими обґрунтуваннями
- Захист конфіденційності історії читання та пошуку користувача та безпечна обробка цих даних
Читач може запитати: «Я закінчив цю книгу, що мені читати далі?» », хороший бібліотекар рекомендує ресурси, які відповідають його або її інтересам, рівню та меті. У цифровому світі системи рекомендацій роблять це в масштабі: вони рекомендують нові ресурси, дивлячись на минулі інтереси користувача або характеристики ресурсу. У цьому розділі ви дізнаєтеся, як працюють системи рекомендацій на основі штучного інтелекту, що вони приносять бібліотеці та як керувати такими ризиками, як конфіденційність, упередженість і «міхур фільтра».
Давайте визначимося з поняттями. Рекомендація на основі вмісту розглядає характеристики джерела (тему, автора, жанр) і рекомендує схожі джерела: «Якщо вам сподобалася ця історична книга, вам також може сподобатися ця, яка охоплює той самий період». Спільна фільтрація працює за принципом «іншим користувачам, яким сподобалися такі ж ресурси, як і ви, також сподобалися ці». Бульбашка фільтра – це коли система рекомендацій блокує користувача на постійно схожому вмісті та утримує його від нових, інших точок зору. Хороша бібліотечна рекомендація викликає інтерес і розриває бульбашку.
Крок за кроком: відповідальний підхід поради
1. Уточнення мети. На що спрямована пропозиція? Чи бажаєте ви, щоб користувач продовжував читати, розширював свій кругозір або знаходив ресурси для конкретного наукового питання? Мета визначає вид рекомендації.
2. Перевірте джерело та автентичність. ШІ може створювати неіснуючі книги, надаючи пропозиції. Переконайтеся, що кожен запропонований ресурс дійсно існує в колекції або в надійному каталозі.
3. Зберігайте різноманітність. Якщо рекомендувати лише «найбільш схожий», створюється бульбашка фільтра. Свідомо включайте різні точки зору, різних авторів і різні рівні. Завдання бібліотеки – відкривати горизонти, а не обмежувати їх екологією.
4. Захист конфіденційності. Персоналізована рекомендація використовує історію читання користувача та є надзвичайно точною. Не надавайте ці дані загальним інструментам ШІ; Обробляти лише в захищених системах закладу за згодою користувача.
5. Будьте прозорими. Поясніть користувачеві, чому була зроблена рекомендація: «Цей ресурс було рекомендовано, оскільки він пов’язаний з темою, яка вас цікавить». Прозорість зміцнює довіру та інформаційну грамотність.
Порада: свідомо додайте «трохи інший» ресурс до списку пропозицій і скажіть: «Вони близькі до вашої сфери інтересів; я додав цей, щоб відновити увагу». Це водночас розриває бульбашку фільтрів і демонструє цінність відкриття бібліотеки.
Етичний вимір пропозиції
Системи рекомендацій здаються невинними, але створюють потужні ефекти. Ресурси, рекомендовані користувачеві, формують його чи її інформаційний світ. Якщо система виділяє лише популярні джерела або лише з певної точки зору, голоси меншин, різні погляди та менш відомі цінні джерела будуть непомітними. ШІ може підсилити цю тенденцію, успадкувавши популярність і упередженість у навчальних даних.
Ось тут і полягає цінність бібліотечної справи: бібліотека не є комерційною системою рекомендацій; Його місія — забезпечити рівний і різноманітний доступ до інформації. Бібліотекар відповідає за узгодження системи рекомендацій із цією цінністю.
Увага: історія читання та пошуку користувача є однією з найбільш конфіденційних даних. Те, що людина читає, може розкрити інформацію про її здоров’я, політичні погляди, переконання чи особисту кризу. Ніколи не передавайте ці дані з їхньою ідентифікацією зовнішнім системам; Анонімність і згода є важливими.
три міні-чохла
Випадок 1. Рекомендація на основі вмісту спрацювала. Шкільна бібліотека використовувала систему на основі вмісту, щоб рекомендувати учням ресурси, схожі на книгу, яку вони читали. Один учень закінчив науково-фантастичний роман; Система рекомендувала три книги на одну тему, але від іншого автора. Учень позичив два; Звичка читати продовжувалася. Бібліотекар попередньо підтвердила, що всі пропозиції дійсно є в колекції.
Випадок 2 — виявлено фальшиву пропозицію. Бібліотекар попросив ШІ порекомендувати користувачеві 8 книг. Перевірив список у каталозі: 3 із 8 книг взагалі не вистачало; AI вигадав правдоподібні заголовки. Етап перевірки не дозволив користувачеві рекомендувати неіснуючі книги.
Випадок 3 — балон фільтра розірвався. Дослідник постійно працював з джерелами з однаковою точкою зору, і система завжди пропонувала схожі. Бібліотекар навмисне включила два джерела, які представили контрастний підхід до теми та зробили це зрозумілим. Лише завдяки цим протилежним джерелам дослідник усвідомив незавершеність свого дослідження.
Проблема з холодним запуском і новим користувачем
Добре відомою проблемою систем рекомендацій є проблема холодного запуску: система не знає, що рекомендувати новому користувачеві або ресурсу, який щойно додано до колекції, для якої немає історичних даних. У цьому випадку багато систем звертаються до найпопулярніших ресурсів як до безпечного варіанту; Це означає, що маловідомі цінні ресурси взагалі не рекомендуються, а популярність живиться сама собою. З точки зору бібліотечної справи, це суперечить цінності рівного доступу. Рішення полягає в тому, щоб поставити новому користувачеві коротке, чітке запитання про переваги (які теми, який рівень, яка мета) перед тим, як дати рекомендацію та виділити щойно додані ресурси на основі їхніх характеристик вмісту. На цьому етапі, аналізуючи тему та особливості ресурсу, ШІ може зв’язати з відповідним користувачем навіть книгу, яка ніколи не була позичена; якщо пропозиція походить із реальної колекції та перевірена. Таким чином, система робить видимим не лише «дуже улюблене», а й «актуальне та цінне».
Порада. Налаштовуючи рекомендації для нового користувача, спирайтеся на поточні потреби користувача, а не на історичні дані системи. Одне хороше запитання («це для дослідження, для задоволення, якою мірою?») часто дає точнішу рекомендацію, ніж місяці поведінкових даних.
Чотири шаблони, які можна копіювати
1) Рекомендація схожого ресурсу на основі вмісту:
Нижче наведено тему/резюме ресурсу, який сподобався користувачеві. Я також надав список існуючих ресурсів у нашій колекції. Лише з цього списку запропонуйте 5 ресурсів, схожих на тему, і напишіть обґрунтування одним реченням для кожного. Джерела пропозицій не вказані. Улюблене джерело: [тут] / Список колекцій: [тут]
2) Пропозиція, яка вносить різноманітність:
До наведеного нижче списку пропозицій додайте 2 ресурси, які розширять кругозір користувача та запропонують іншу точку зору або підтему (лише зі списку колекції, який я надав). Поясніть, чому вони різні і цінні. Список: [тут] / Колекція: [тут]
3) Пояснення причини рекомендації:
Для кожної рекомендації нижче напишіть коротке, прозоре обґрунтування, яке можна буде показати користувачеві: «Цей ресурс було рекомендовано, тому що...» Без перебільшень, без натяку на особисті дані. Пропозиції: [тут]
4) Попередня перевірка конфіденційності:
Чи містить наведена нижче пропозиція ідентифікаційну або конфіденційну інформацію (натяк на здоров’я, переконання, політичні погляди)? Якщо так, позначте це та запропонуйте, як зробити його анонімним. Вхід: [тут]
Слабка підказка / Сильна підказка
Слабка підказка:
Порекомендуйте 10 книг для читання цьому користувачеві.
AI генерує пропозиції зі своєї глобальної пам’яті, не знаючи колекції; Він може вигадувати книги, яких не існує, і не поважає різноманітність і приватність.
Потужна підказка:
Ваша роль: помічник-консультант читача. Нижче наведено тему, яка сподобалася користувачеві, і список реальних джерел у нашій колекції. (1) Запропонуйте зі списку 5 джерел, пов’язаних із темою. (2) Також додайте 2 джерела з різними ракурсами, які відкриють вам очі. (3) Напишіть прозоре обґрунтування кожної пропозиції. Не виходьте зі списку, не вигадуйте джерела та не натякайте на особисті дані. Тема: [тут] / Колекція: [тут]
Потужна підказка; воно обмежує його фактичною колекцією, вимагає різноманітності та додає обґрунтування та правило конфіденційності.
Порівняльна таблиця типів рекомендацій
Тип пропозиції
сильна сторона
ризик
Обов'язки бібліотекаря
на основі змісту
Добре привертає увагу
бульбашка фільтра
Додайте різноманітності
спільний
несподіване відкриття
Конфіденційність, упередженість популярності
Анонімність, збалансованість
Список продукції ШІ
швидко
створене джерело
перевірити реальність
Поширені помилки
- Пропозиція без підтвердження. ШІ може створити неіснуючі джерела.
- Просто рекомендую "найбільш схожий". Бульбашка фільтра звужує кругозір користувача.
- Експорт історії читання у зовнішній інструмент. Це найбільш конфіденційні дані конфіденційності.
- Подання пропозиції без обґрунтування. Прозорість підтримує довіру та грамотність.
- Ігнорування упередженості популярності. Втрачаються цінні, але маловідомі ресурси.
Підсумовуючи
Системи рекомендацій — це потужні інструменти, які полегшують відкриття, привертаючи інтерес користувачів; Підходи, що базуються на вмісті та на основі співпраці, мають різні переваги та ризики. ШІ швидко генерує пропозиції, але може винаходити неіснуючі джерела, фільтруючи бульбашки та посилюючи упередженість. Робота бібліотекаря; Перевірити кожну пропозицію в реальній колекції, розірвати міхур свідомої різноманітності, захистити конфіденційність користувачів і зберегти цінність рівного та різноманітного доступу до бібліотеки, подаючи пропозиції з прозорими причинами.
Аплікаційне завдання
Підготуйте короткий список фактографічних збірок (10-15 джерел). Створіть рекомендацію для користувача за допомогою шаблону «рекомендації щодо схожих ресурсів на основі вмісту» та переконайтеся, що всі вони дійсно існують у списку. Потім додайте до списку джерела з різними точками зору за допомогою шаблону «Пропозиція, яка додає різноманітності». Нарешті, створіть прозоре пояснення для кожної пропозиції за допомогою шаблону «Пояснення обґрунтування пропозиції» та сплануйте, як ви подасте його користувачеві.
контрольний список
- [ ] Я переконався, що кожна пропозиція дійсно існує в колекції.
- [ ] Я додав різноманітності, щоб розбити бульбашку фільтра.
- [ ] Я зберігав історію читання/пошуку користувача в безпеці, я не передавав її зовнішньому інструменту.
- [ ] Для кожної пропозиції я підготував прозоре обґрунтування.
- [ ] Щоб уникнути упередженості щодо популярності, я стежив за менш відомими та цінними джерелами.