Ieguvumi:
- Spēja izstrādāt padomdevēju robotu atbildīgi tā, lai tas savienotos tikai ar pārbaudītu korporatīvo informāciju un sniegtu faktus, atsaucoties uz avotu.
- Spēja novirzīt medicīniskus, juridiskus un sensitīvus jautājumus ekspertiem un uzticamiem avotiem, izvairoties no padoma, un vajadzības gadījumā nodot tos cilvēkiem
- Tērzēšanas datu privātuma aizsardzība un lietotājam pārredzamība par AI izmantošanu
Vieta, kur bibliotēka tiekas ar cilvēkiem, ir informācijas galds. Students meklē avotus mājasdarbam, pilsonis jautā, kā piekļūt oficiālam dokumentam, pētnieks vēlas iemācīties izmantot datubāzi. To sauc par atsauces pakalpojumu: tas ir darbs, lai izprastu lietotāja informācijas vajadzības un piegādātu to pareizajam avotam un pareizai metodei. Šajā nodaļā jūs uzzināsiet, kā atbildīgi izmantot uz mākslīgo intelektu balstītus tērzēšanas robotus (programmatūru, kas palīdz sarakstoties ar lietotāju) un AI vadītas konsultācijas.
Viena definīcija: atsauces intervija ir dialogs, kurā bibliotekārs uzdod jautājumus, lai noskaidrotu lietotāja patiesās vajadzības. Jo lielāko daļu laika lietotājs nevar pilnībā izteikt to, ko viņš meklē; Kāds, kurš saka "kaut ko par vēsturi", patiesībā var meklēt konkrētu konkrēta notikuma aspektu. Šis cilvēciskais, empātiskais un vērtējošais darbs ir bibliotēku darbības pamatā, un AI nevar to pilnībā pārņemt.
Soli pa solim: konsultācija ar mākslīgo intelektu
1. Precizējiet nepieciešamību. Neatkarīgi no tā, vai tas ir cilvēks vai bots, laba konsultācija vispirms saprot nepieciešamību. AI var ieteikt precizējošus jautājumus, ko uzdot lietotājam; taču cilvēka uzdevums ir lasīt lietotāja kontekstu un emocijas.
2. Atsaucieties uz avotu, neizdomājiet atbildi. Bibliotēkas robota uzdevums ir novirzīt lietotāju uz reāliem resursiem; Runa nav par atbilžu ģenerēšanu no vispārējām zināšanām. Botam vajadzētu teikt: "Paskatieties uz šo datu bāzi, šo kolekciju par šo tēmu"; Jāsniedz faktiskie apgalvojumi, atsaucoties uz avotu.
3. Iestatiet ierobežojumu. Robots nedrīkst sniegt medicīniskas, juridiskas vai finansiālas konsultācijas; tā vietā jums jānosūta uzticami avoti un, ja nepieciešams, eksperts. Ja mākslīgais intelekts lietotājam sniegtu nepareizu medicīnisku vai juridisku “atbildi”, tiktu radīts nopietns kaitējums.
4. Deleģēt cilvēkiem. Ja robots to nevar izdomāt vai tēma ir sensitīva, tam ir jānovirza lietotājs pie īsta bibliotekāra. Laba sistēma zina robota robežas.
5. Esi caurspīdīgs. Lietotājam ir jāzina, ka viņš runā ar robotprogrammatūru. Bibliotēka nedrīkst maldināt lietotāju ar slēptu robotprogrammatūru, kas uzdodas par cilvēku.
Padoms. Iestatiet padomdevēju robotu kā resursu citēšanas sistēmu, pamatojoties uz jūsu kolekcijas un FAQ (bieži uzdotajiem jautājumiem) informāciju. Izmantojot robotprogrammatūru kā palīgu, kas "atrod jums pareizo resursu", nevis "zina visu", tiek saglabāta gan uzticība, gan precizitāte.
Chatbot ierobežojumi un riski
Bibliotēkas tērzēšanas robots izskatās pievilcīgs: darbojas visu diennakti, palīdz vairākiem lietotājiem vienlaikus, ātri atbild uz vienkāršiem jautājumiem. Bet riski ir reāli. Bots var izraisīt halucinācijas un paziņot lietotājam par neesošu resursu, nepareizu sāknēšanas laiku vai kļūdainu procedūru. Robots var nepareizi apstrādāt lietotāja jutīgo jautājumu (bažas par veselību, personiska krīze). Un, ja robotprogrammatūra ieraksta to, ko lietotājs ieraksta, pastāv privātuma risks.
Tāpēc bots tiek novietots nevis kā cilvēka padomdevēja aizstājējs, bet gan kā slānis, kas atvieglo viņa slogu. Bots saņem vienkāršus, atkārtotus jautājumus; Cilvēki risina sarežģītus, jutīgus un spriedumu prasošus jautājumus.
Uzmanību! Jautājumi, ko lietotājs ieraksta tērzēšanas robotā, var būt sensitīvi (veselības, juridiskas, personiskas situācijas). Šīs sarakstes ierakstam ir jābūt tikpat aizsargātam kā aizdevuma ierakstiem. Tērzēšanas datu nodrošināšana vispārīgiem AI rīkiem apmācībai pārkāpj lietotāju uzticību.
trīs mini futrāļi
1. gadījums — laiva atviegloja kravu. Universitātes bibliotēka izveidoja robotprogrammu, kuras pamatā ir kolekcija un FAQ informācija, kas atbild uz bieži uzdotiem jautājumiem, piemēram, "darba laiks, aizdevuma periods, piekļuve datubāzei". Bots apstrādāja aptuveni 40% no jautājumiem, kas tika saņemti uz informācijas galdu; bibliotekāri varēja vairāk laika veltīt sarežģītiem pētniecības jautājumiem. Robots savās atbildēs vienmēr bija saistīts ar oficiālo lapu.
2. gadījums — labots nepareizs laiks. Bot teica, ka "bibliotēka ir slēgta svētdienās" no savas globālās atmiņas; tā kā bibliotēku tirgi bija atvērti. Lietotājs būtu izšķērdēts šī iemesla dēļ. Komanda pārkonfigurēja robotu, lai izveidotu savienojumu tikai ar organizācijas pašreizējo, pārbaudīto informāciju; Atspējota atbilde no globālās atmiņas.
3. gadījums — notikusi pārnešana uz cilvēku. Kāds lietotājs jautāja robotam par personīgās veselības problēmām. Tā vietā, lai sniegtu medicīnisku padomu, robotprogrammatūra novirzīja lietotājus uz uzticamiem veselības informācijas avotiem un piedāvāja iespēju nodot to cilvēka rokās, sakot: "Ja vēlaties, varat runāt ar bibliotekāru". Pareizi apstrādāta sensitīva tēma.
Pieejamība un iekļautība
Labs lietotāju serviss kalpo ikvienam; tas ir tiešs bibliotēkas vienlīdzīgas piekļuves vērtības paplašinājums. AI rīki šeit sniedz gan iespējas, gan risku. Iespējas puse: AI var tulkot sarežģītu tekstu vienkāršā valodā, ģenerēt atbildes dažādās valodās, padarīt garu dokumentu lasāmu lietotājiem ar redzes traucējumiem vai atvieglot mijiedarbību ar balss palīgu. Tādējādi tiek piesaistīti lietotāji, kuri iepriekš tika izslēgti no pakalpojuma. Riska puse: AI rīki bieži darbojas labāk noteiktās valodās un ar noteiktiem lietotāju profiliem; Mazresursu valodā vai citā lasītprasmes līmenī atbildes kvalitāte var pasliktināties, pastiprinot nevienlīdzību. Bibliotekāram ir jānovēro, kurās lietotāju grupās robotprogrammatūra vai AI rīks darbojas labi un kurās slikti, un jāsaņem cilvēku atbalsts, kur tas ir vājš. Vienkāršošanas vai tulkojuma rezultāts, tāpat kā jebkura cita faktiska atbilde, ir jāpārskata, lai nodrošinātu, ka tas neizkropļo nozīmi; Viltus vienkāršošana var būt maldinoša, jo īpaši sensitīvos tekstos, piemēram, veselības, tiesību aktos vai valdības procedūrās.
Uzmanību: vienkāršojot vai tulkojot tekstu, mākslīgais intelekts var netīši mainīt nozīmi vai izlaist svarīgu brīdinājumu. Pieejamības nolūkos saražotās produkcijas precizitāte būtu arī jāpārbauda; Sakot "tam vajadzētu sasniegt visus", jāuzmanās, lai neizplatītu nepatiesu informāciju.
Četras kopējamas veidnes
1) Konsultācijas intervijas jautājumi:
Iesakiet 3–4 pieklājīgus, atvērtus jautājumus, ko uzdot, lai precizētu tālāk norādīto neskaidro lietotāja jautājumu (joma, līmenis, mērķis, veids). Neuzņemieties lietotāja nodomu. Jautājums: [šeit]
2) Bota atbilde, kas novirza uz avotu:
Jūsu loma: bibliotēkas informācijas robots. Tālāk ir sniegts lietotāja jautājums un mūsu resursu/ceļvežu saraksts. Pamatojoties tikai uz šo sarakstu, uzrakstiet īsu, pieklājīgu atbildi, kas novirza lietotāju uz atbilstošo resursu. Izsakot faktu apgalvojumu, norādiet avotu; Ja tas nav sarakstā, sakiet "ļaujiet man novirzīt jūs pie bibliotekāra". Jautājums: [šeit] / Saraksts: [šeit]
3) Limita un apgrozījuma reakcija:
Vai šajā lietotāja jautājumā ir ietverti medicīniski/juridiski/finansiāli padomi vai sensitīvākas personiskas tēmas? Ja tā, uzmetiet atbildi, kurā lietotājs pieklājīgi tiek novirzīts uz uzticamu avotu un ekspertu/bibliotekāru, NEsniedzot padomu. Jautājums: [šeit]
4) FAQ atbilžu faktu pārbaude:
Vai visa faktiskā informācija (laiks, ilgums, procedūra, avots) tālāk sniegtajā robotprogrammatūras atbildē ir balstīta uz manis sniegto oficiālo FAQ/informācijas tekstu? Atzīmējiet katru apgalvojumu kā "klāt/nav avotā". Atbilde: [šeit] / FAQ: [šeit]
Vāja uzvedne / spēcīga uzvedne
Vāja uzvedne:
Atbildiet uz šī lietotāja jautājumu.
Bots ģenerē atbildes no savas vispārējās atmiņas; var norādīt nepatiesu laiku, viltus avotu vai kļūdainu procedūru; Tas neievēro robežas un periodus.
Spēcīga uzvedne:
Jūsu loma: bibliotēkas informācijas robots. Paļaujieties tikai uz pašreizējo institucionālo informāciju un resursu sarakstu, ko esmu sniedzis tālāk; Nesniedziet citu informāciju, izņemot šo. Ja tiek pieprasīta medicīniskā/juridiskā palīdzība, vērsieties pie speciālista. Saglabājiet atbildi īsu un pieklājīgu, norādiet fakta avotu un, ja informācijas nav, sakiet "ļaujiet man novirzīt jūs pie bibliotekāra". Lietotāja jautājums: [šeit] / Organizācijas informācija: [šeit]
Spēcīga uzvedne; Tas savieno robotu ar pārbaudītu uzņēmuma informāciju, nosaka ierobežojumus un definē pārsūtīšanas ceļu.
Konsultatīvā jautājuma tipa tabula
Jautājuma veids
Vai zābaks ir piemērots?
Pieeja
Atvēršanas laiks, ilgums, procedūra
Jā
Atbilde no pašreizējās iestādes informācijas
Vienkārša avota maršrutēšana
Jā
Saite uz kolekciju/kontaktpersonu
komplekss pētījums
daļēji
Noskaidrot nepieciešamību, nodot to cilvēkiem
Medicīniskā/juridiskā/jutīgā
nē
Tieši pie eksperta un uzticama avota
Biežas kļūdas
- Atstājot robotu, lai reaģētu no globālās atmiņas. Dezinformācijas un izdomātu avotu risks.
- Sniedzot faktisku atbildi, neatsaucoties uz avotiem. Lietotājs nevar pārbaudīt.
- Medicīnisko/juridisko konsultāciju sniegšana. Izraisa nopietnu kaitējumu; jāsniedz norādījumi.
- Nenosaka ceļu pārejai uz cilvēkiem. Sarežģīti un jutīgi jautājumi paliek neatrisināti.
- Tērzēšanas dati tiek atstāti neaizsargāti. Tas būtu privātuma pārkāpums.
Rezumējot
Lietotāju pakalpojumos mākslīgais intelekts un tērzēšanas roboti pārņem vienkāršus, atkārtotus jautājumus, ļaujot bibliotekāram koncentrēties uz sarežģītiem, sensitīviem un spriedumu prasīgiem uzdevumiem. Taču robots ir jāveido kā slānis, kas atvieglo slogu, nevis cilvēka vietā: tam vajadzētu paļauties tikai uz pārbaudītu uzņēmuma informāciju, sniegt faktus kā avotus, izvairīties no medicīniskās/juridiskās konsultācijas un vērsties pie speciālista, deleģēt sensitīvus jautājumus cilvēkam un aizsargāt tērzēšanas datu privātumu. Pārredzamība ir būtiska: lietotājam ir jāzina, ka viņš runā ar robotprogrammatūru.
Lietojumprogrammas uzdevums
Sagatavojiet īsu "pašreizējās informācijas + resursu sarakstu" savai iestādei (laiks, aizdevuma noteikumi, daži ceļveži). Ģenerējiet atbildes uz trim dažādiem lietotāju jautājumiem, izmantojot veidni "Bot atbilde uz avotu", un pārbaudiet, vai katrs fakts ir balstīts uz avotu, izmantojot "FAQ atbildes faktu pārbaudi". Visbeidzot, izveidojiet pareizo uzvednes tekstu sensitīvam jautājumam, izmantojot veidni “Limita un apgrozījuma atbilde”.
kontrolsaraksts
- [ ] Es savienoju robotu tikai ar pārbaudītu uzņēmuma informāciju.
- [ ] Faktiskās atbildēs minēju avotus.
- [ ] Esmu iestatījis maršrutēšanu un nodošanu medicīniskiem/juridiskiem/sensitīviem jautājumiem.
- [ ] Es skaidri norādīju, ka lietotājs runā ar robotu.
- [ ] Esmu aizsargājis tērzēšanas datu privātumu.