Добици:
- Способност одговорног дизајнирања саветодавног бота тако да се повезује само са провереним корпоративним информацијама и пружа чињенице наводећи извор.
- Способност да се медицинска, правна и осетљива питања усмере стручњацима и поузданим изворима, избегавајући савете, и пренесу их на људе када је то потребно
- Заштита приватности података ћаскања и транспарентност за корисника у вези са употребом вештачке интелигенције
Место где се библиотека среће са људима је информациони пулт. Ученик тражи изворе за свој домаћи задатак, грађанин пита како да приступи званичном документу, истраживач жели да научи како да користи базу података. Ово се зове референтна услуга: то је посао разумевања потреба корисника за информацијама и достављања их правом извору и правом методу. У овој јединици ћете научити како да одговорно користите четботе засноване на вештачкој интелигенцији (софтвер који помаже дописивањем са корисником) и саветовање које покреће вештачка интелигенција.
Једна дефиниција: референтни интервју је дијалог у коме библиотекар поставља питања како би разјаснио стварну потребу корисника. Зато што већину времена корисник не може у потпуности да изрази оно што тражи; Неко ко каже „нешто о историји“ можда заправо тражи одређени аспект одређеног догађаја. Овај људски, емпатичан и рад са просуђивањем је у срцу библиотекарства и АИ не може да га преузме у потпуности.
Корак по корак: консултације са вештачком интелигенцијом
1. Разјасните потребу. Било да је у питању човек или бот, добра консултација прво разуме потребу. АИ може предложити разјашњавајућа питања која треба поставити кориснику; али је људски посао да прочита корисников контекст и емоције.
2. Позовите се на извор, не измишљајте одговор. Посао библиотечког бота је да усмери корисника на стварне ресурсе; Не ради се о генерисању одговора из општег знања. Бот треба да каже „погледај ову базу података, ову колекцију за ову тему“; Мора дати чињеничне тврдње наводећи извор.
3. Поставите границу. Бот не би требало да пружа медицинске, правне или финансијске савете; уместо тога, требало би да вас упути на поуздане изворе и, када је потребно, на стручњака. Озбиљна штета би настала ако би АИ кориснику дао погрешан медицински или правни „одговор“.
4. Делегати људима. Када бот не може да схвати или је тема осетљива, требало би да усмери корисника на правог библиотекара. Добар систем познаје границе бота.
5. Будите транспарентни. Корисник мора да зна да разговара са ботом. Библиотека не сме да обмањује корисника са скривеним ботом који се представља као човек.
Савет: Поставите саветодавног бота као систем цитирања ресурса на основу информација о вашој колекцији и честим питањима (честа питања). Имати бота као помоћника који вам „пронађе прави ресурс“ уместо да „зна све“ чува и поверење и тачност.
Цхатбот ограничења и ризици
Библиотечки цхатбот изгледа привлачно: ради 24/7, помаже више корисника одједном, брзо одговара на једноставна питања. Али ризици су стварни. Бот може халуцинирати и рећи кориснику непостојећи ресурс, нетачно време покретања или погрешну процедуру. Бот може погрешно да одговори на осетљиво питање корисника (забринутост за здравље, лична криза). А ако бот сними шта корисник унесе, постоји ризик за приватност.
Због тога се бот не поставља као замена за људског саветника, већ као слој који му олакшава терет. Бот прима једноставна питања која се понављају; Људи се баве сложеним, осетљивим питањима која захтевају просуђивање.
Опрез: Питања која корисник унесе у цхатбот могу бити осетљива (здравствене, правне, личне ситуације). Евиденција ове преписке треба да буде заштићена због приватности као и евиденција о позајмици. Пружање података ћаскања општим АИ алатима за обуку нарушава поверење корисника.
три мини кофера
Случај 1 — Чамац је олакшао терет. Универзитетска библиотека је направила бот на основу информација о колекцији и честим питањима који одговара на уобичајена питања као што су „радно време, период позајмице, приступ бази података“. Бот је решавао око 40% питања која су долазила на шалтер за информације; библиотекари су могли више времена да посвете сложеним истраживачким питањима. Бот је увек повезивао званичну страницу у својим одговорима.
Случај 2 — Исправљено је погрешно време. Бот је рекао да је „библиотека затворена недељом“ из свог глобалног сећања; док су библиотечке пијаце биле отворене. Корисник би због тога био изгубљен. Тим је реконфигурисао бота да се повеже само са актуелним, верификованим информацијама организације; Онемогућен је одговор из глобалне меморије.
Случај 3 — Дошло је до преноса на човека. Корисник је питао бота о личним здравственим проблемима. Уместо да пружи медицинске савете, бот је кориснике усмерио на поуздане изворе здравствених информација и понудио опцију да се преда човеку, рекавши „можете да разговарате са библиотекаром ако желите“. Осетљива тема је правилно обрађена.
Приступачност и инклузивност
Добра корисничка услуга служи свима; ово је директно проширење вредности једнаког приступа библиотеке. АИ алати овде носе и прилику и ризик. Страна могућности: АИ може да преведе сложени текст на обичан језик, да генерише одговоре на различитим језицима, учини дугачак документ читљивим за особе са оштећеним видом или олакша интеракцију са гласовним асистентом. Ово доводи до корисника који су претходно били искључени из услуге. Страна ризика: АИ алати често боље функционишу на одређеним језицима и са одређеним корисничким профилима; На језику са малим ресурсима или на другом нивоу писмености, квалитет одговора може опасти, појачавајући неједнакост. Библиотекар треба да посматра у којим групама корисника бот или АИ алат ради добро, а у којим лоше, и да ангажује људску подршку тамо где је слаб. Резултат поједностављења или превода, као и сваки други чињенични одговор, треба прегледати како би се осигурало да не искривљује значење; Лажно поједностављивање може да доведе у заблуду, посебно у осетљивим текстовима као што су здравствени, закон или владина процедура.
Опрез: Када поједностављује или преводи текст, АИ може ненамерно променити значење или изоставити важно упозорење. Резултате произведене у сврху приступачности такође треба извршити ревизију тачности; Док се каже „треба да стигне до свих“, треба пазити да се не шире лажне информације.
Четири шаблона за копирање
1) Питања за саветодавни интервју:
Предложите 3-4 љубазна, отворена питања која ћете поставити да бисте разјаснили следеће нејасно корисничко питање (обим, ниво, сврха, тип). Немојте претпостављати намеру корисника. Питање: [овде]
2) Одговор бота који упућује на извор:
Ваша улога: библиотечки информациони бот. Испод је корисничко питање и наша листа ресурса/водича. На основу само ове листе, напишите кратак, љубазан одговор који упућује корисника на одговарајући ресурс. Када износите чињеничну тврдњу, наведите извор; Ако није на списку, реците „да вас упутим код библиотекара“. Питање: [овде] / Листа: [овде]
3) Лимит и одговор на промет:
Да ли следеће корисничко питање садржи медицинске/правне/финансијске савете или осетљивије личне теме? Ако јесте, саставите одговор који учтиво упућује корисника на поуздани извор и стручњака/библиотека, БЕЗ давања савета. Питање: [овде]
4) Одговор на честа питања провера чињеница:
Да ли су све чињеничне информације (време, трајање, процедура, извор) у одговору бота у наставку засноване на званичном тексту са честим питањима/информацијама који сам дао? Означите сваку тврдњу као „присутно/неприсутно у извору“. Одговор: [овде] / Честа питања: [овде]
Слаби промпт / Јаки промпт
Слабо обавештење:
Одговорите на питање овог корисника.
Бот генерише одговоре из своје опште меморије; може дати лажно време, лажан извор или погрешну процедуру; Не поштује границе и периоде.
Снажан упит:
Ваша улога: библиотечки информациони бот. Ослоните се искључиво на тренутне институционалне информације и листу ресурса коју сам навео у наставку; Немојте давати друге информације осим ове. Ако се захтева медицински/правни савет, обратите се специјалисту. Нека одговор буде кратак и љубазан, наведите извор чињенице, а ако нема информација, реците „да вас упутим до библиотекара“. Питање корисника: [овде] / Информације о организацији: [овде]
Снажан промпт; Он повезује бота са верификованим информацијама о предузећу, поставља ограничења и дефинише путању преноса.
Табела типова саветодавног питања
Врста питања
Да ли је чизма прикладна?
Приступ
Време отварања, трајање, поступак
Да
Одговор из актуелних информација институције
Једноставно изворно рутирање
Да
Линк до колекције/контакта
комплексна истраживања
делимично
Разјасните потребу, пренесите је на људе
Медицински/правни/осетљиви
бр
Директно до стручног и поузданог извора
Уобичајене грешке
- Остављајући бот да одговори из глобалне меморије. Ризик од дезинформација и измишљених извора.
- Давање чињеничног одговора без навођења извора. Корисник не може да потврди.
- Пружање медицинских/правних савета. Проузрокује озбиљну штету; треба дати упутства.
- Не успостављање пута преношења на људе. Сложена и осетљива питања остају нерешена.
- Остављање података ћаскања незаштићеним. Дошло би до повреде приватности.
Укратко
У корисничким услугама, вештачка интелигенција и чет-ботови преузимају једноставна питања која се понављају, омогућавајући библиотекару да се фокусира на сложене, осетљиве задатке и задатке који захтевају просуђивање. Али бот би требало да буде изграђен као слој који олакшава терет, а не уместо човека: требало би да се ослања само на проверене корпоративне информације, да даје чињенице као изворе, избегава медицинске/правне савете и упућује на специјалисте, делегира осетљива питања на човека и штити приватност података ћаскања. Транспарентност је неопходна: корисник мора знати да разговара са ботом.
Задатак апликације
Припремите кратку „листу актуелних информација + ресурса“ за своју институцију (радни сати, правила зајма, неколико водича). Генеришите одговоре на три различита корисничка питања помоћу шаблона „Одговор бота на извор“ и проверите да ли је свака чињеница заснована на извору помоћу „Провера чињеница одговора на честа питања“. Коначно, креирајте исправан текст за осетљиво питање помоћу шаблона „Ограничење и одговор на промет“.
контролна листа
- [ ] Повезао сам бота само са провереним корпоративним информацијама.
- [ ] Навео сам изворе у чињеничним одговорима.
- [ ] Подесио сам рутирање и примопредаје за медицинска/правна/осетљива питања.
- [ ] Ја сам транспарентно изјавио да је корисник разговарао са ботом.
- [ ] Заштитио сам приватност података ћаскања.