Dobici:
- Sposobnost odgovornog dizajniranja savjetodavnog bota tako da se povezuje samo s provjerenim korporativnim informacijama i pruža činjenice navodeći izvor.
- Sposobnost da se medicinska, pravna i osjetljiva pitanja usmjere stručnjacima i pouzdanim izvorima, izbjegavajući savjete, te ih po potrebi prenesu na ljude
- Zaštita privatnosti podataka za ćaskanje i transparentnost za korisnika u pogledu upotrebe AI
Mjesto gdje se biblioteka sastaje sa ljudima je info pult. Student traži izvore za svoj domaći zadatak, građanin pita kako da pristupi službenom dokumentu, istraživač želi da nauči kako da koristi bazu podataka. Ovo se zove referentna usluga: to je posao razumijevanja korisničkih potreba za informacijama i dostavljanja ih pravom izvoru i pravom metodu. U ovoj jedinici naučit ćete kako da odgovorno koristite chatbote zasnovane na umjetnoj inteligenciji (softver koji pomaže dopisivanjem s korisnikom) i savjetovanje koje pokreće AI.
Jedna definicija: referentni intervju je dijalog u kojem bibliotekar postavlja pitanja kako bi razjasnio stvarne potrebe korisnika. Zato što većinu vremena korisnik ne može u potpunosti izraziti ono što traži; Neko ko kaže "nešto o istoriji" možda zapravo traži određeni aspekt određenog događaja. Ovaj ljudski, empatičan i prosuđujući rad je u srcu bibliotekarstva i AI ga ne može u potpunosti preuzeti.
Korak po korak: konsultacije uz pomoć umjetne inteligencije
1. Pojasnite potrebu. Bilo da je u pitanju čovjek ili bot, dobra konsultacija prvo razumije potrebu. AI može predložiti pojašnjavajuća pitanja koja treba postaviti korisniku; ali ljudski je posao da pročita korisnikov kontekst i emocije.
2. Pozovite se na izvor, ne izmišljajte odgovor. Posao bibliotečkog bota je da usmjeri korisnika na stvarne resurse; Ne radi se o generiranju odgovora iz opšteg znanja. Bot bi trebao reći "pogledaj ovu bazu podataka, ovu kolekciju za ovu temu"; Mora dati činjenične tvrdnje navodeći izvor.
3. Postavite ograničenje. Bot ne bi trebao pružati medicinske, pravne ili finansijske savjete; umjesto toga, trebalo bi da vas uputi na pouzdane izvore i, kada je potrebno, na stručnjaka. Ozbiljna šteta bi nastala ako bi AI korisniku dao pogrešan medicinski ili pravni "odgovor".
4. Delegirajte ljudima. Kada bot to ne može shvatiti ili je tema osjetljiva, trebao bi uputiti korisnika na pravog bibliotekara. Dobar sistem poznaje granice bota.
5. Budite transparentni. Korisnik mora znati da razgovara sa botom. Biblioteka ne smije obmanuti korisnika sa skrivenim botom koji se predstavlja kao čovjek.
Savjet: Postavite savjetodavnog bota kao sistem citiranja resursa na osnovu informacija o vašoj kolekciji i FAQ (često postavljana pitanja). Imati bota kao pomoćnika koji vam "pronađe pravi resurs" umjesto da "zna sve" čuva i povjerenje i tačnost.
Ograničenja i rizici chatbot-a
Bibliotečki chatbot izgleda privlačno: radi 24/7, pomaže više korisnika odjednom, brzo odgovara na jednostavna pitanja. Ali rizici su stvarni. Bot može halucinirati i reći korisniku nepostojeći resurs, netačno vrijeme pokretanja ili pogrešnu proceduru. Bot može pogrešno odgovoriti na osjetljivo pitanje korisnika (briga za zdravlje, lična kriza). A ako bot bilježi ono što korisnik upisuje, postoji rizik za privatnost.
Stoga se bot ne postavlja kao zamjena za ljudskog savjetnika, već kao sloj koji mu olakšava teret. Bot prima jednostavna pitanja koja se ponavljaju; Ljudi rješavaju složena, osjetljiva pitanja koja zahtijevaju prosuđivanje.
Oprez: Pitanja koja korisnik unese u chatbot mogu biti osjetljiva (zdravstvene, pravne, lične situacije). Zapis o ovoj korespondenciji treba da bude zaštićen zbog privatnosti kao i evidencija o pozajmici. Pružanje podataka ćaskanja općim AI alatima za obuku narušava povjerenje korisnika.
tri mini kofera
Slučaj 1 — Čamac je olakšao teret. Univerzitetska biblioteka je napravila bot na osnovu informacija o kolekciji i čestim pitanjima koji odgovara na uobičajena pitanja kao što su "radno vrijeme, period posudbe, pristup bazi podataka". Bot je rješavao otprilike 40% pitanja koja su dolazila na šalter za informacije; bibliotekari su mogli posvetiti više vremena složenim istraživačkim pitanjima. Bot je u svojim odgovorima uvijek povezivao zvaničnu stranicu.
Slučaj 2 — Ispravljeno pogrešno vrijeme. Bot je rekao da je "biblioteka zatvorena nedjeljom" iz svoje globalne memorije; dok su bibliotečke pijace bile otvorene. Korisnik bi zbog toga bio izgubljen. Tim je rekonfigurirao bota da se poveže samo sa trenutnim, provjerenim informacijama organizacije; Onemogućen odgovor iz globalne memorije.
Slučaj 3 — Došlo je do prijenosa na čovjeka. Korisnik je pitao bota o ličnim zdravstvenim problemima. Umjesto pružanja medicinskih savjeta, bot je usmjeravao korisnike na pouzdane izvore zdravstvenih informacija i nudio opciju da ih preda čovjeku, rekavši "možete razgovarati s bibliotekarom ako želite". Osetljiva tema je ispravno obrađena.
Pristupačnost i inkluzivnost
Dobra korisnička usluga služi svima; ovo je direktno proširenje vrijednosti jednakog pristupa biblioteke. AI alati ovdje nose i priliku i rizik. Strana mogućnosti: AI može prevesti složeni tekst na običan jezik, generirati odgovore na različitim jezicima, učiniti dugačak dokument čitljivim za osobe sa oštećenim vidom ili olakšati interakciju s glasovnim asistentom. Ovo dovodi do korisnika koji su prethodno bili isključeni iz usluge. Strana rizika: AI alati često bolje rade na određenim jezicima i sa određenim korisničkim profilima; Na jeziku sa niskim resursima ili na drugom nivou pismenosti, kvalitet odgovora može opasti, pojačavajući nejednakost. Bibliotekar treba da posmatra u kojim grupama korisnika bot ili AI alat radi dobro, a u kojim loše, i da angažuje ljudsku podršku tamo gde je slab. Rezultat pojednostavljenja ili prijevoda, kao i svaki drugi činjenični odgovor, treba pregledati kako bi se osiguralo da ne iskrivljuje značenje; Lažno pojednostavljivanje može dovesti u zabludu, posebno u osjetljivim tekstovima kao što su zdravstveni, zakon ili vladina procedura.
Oprez: Kada pojednostavljuje ili prevodi tekst, AI može nenamjerno promijeniti značenje ili izostaviti važno upozorenje. Rezultate proizvedene u svrhu pristupačnosti takođe treba izvršiti reviziju tačnosti; Dok se kaže „trebalo bi doći do svih“, treba paziti da se ne šire lažne informacije.
Četiri šablona za kopiranje
1) Pitanja za savjetodavni intervju:
Predložite 3-4 ljubazna, otvorena pitanja koja ćete postaviti da razjasnite sljedeće nejasno korisničko pitanje (opseg, nivo, svrha, vrsta). Nemojte pretpostavljati namjeru korisnika. Pitanje: [ovdje]
2) Odgovor bota koji upućuje na izvor:
Vaša uloga: bibliotečki informacioni bot. Ispod je korisničko pitanje i naša lista resursa/vodiča. Na osnovu samo ove liste, napišite kratak, ljubazan odgovor koji upućuje korisnika na odgovarajući resurs. Kada iznosite činjeničnu tvrdnju, navedite izvor; Ako nije na listi, recite "da vas uputim do bibliotekara". Pitanje: [ovdje] / Lista: [ovdje]
3) Limit i odgovor na promet:
Da li sljedeće korisničko pitanje sadrži medicinske/pravne/finansijske savjete ili osjetljivije lične teme? Ako je tako, sastavite odgovor koji učtivo upućuje korisnika na pouzdani izvor i stručnjaka/knjižničara, BEZ davanja savjeta. Pitanje: [ovdje]
4) Odgovor na FAQ provjera činjenica:
Jesu li sve činjenične informacije (vrijeme, trajanje, postupak, izvor) u odgovoru bota u nastavku zasnovane na službenom FAQ/informacionom tekstu koji sam dao? Označite svaku tvrdnju kao "prisutno / nije prisutno u izvoru". Odgovor: [ovdje] / FAQ: [ovdje]
Slaba prompt / Jaka prompt
Slab upit:
Odgovorite na pitanje ovog korisnika.
Bot generiše odgovore iz svoje opšte memorije; može dati lažno vrijeme, lažan izvor ili pogrešnu proceduru; Ne poštuje granice i periode.
Snažan upit:
Vaša uloga: bibliotečki informacioni bot. Oslonite se isključivo na trenutne institucionalne informacije i listu resursa koju sam naveo u nastavku; Nemojte davati druge informacije osim ovih. Ako je zatražen medicinski/pravni savjet, obratite se specijalistu. Neka odgovor bude kratak i ljubazan, navedite izvor činjenice, a ako nema informacija, recite "da vas uputim k bibliotekaru". Pitanje korisnika: [ovdje] / Informacije o organizaciji: [ovdje]
Snažan prompt; On povezuje bota sa verifikovanim informacijama o preduzeću, postavlja ograničenja i definiše putanju prenosa.
Tablica tipova savjetodavnih pitanja
Vrsta pitanja
Da li je čizma prikladna?
Pristup
Vrijeme otvaranja, trajanje, procedura
Da
Odgovor iz trenutnih informacija o instituciji
Jednostavno izvorno rutiranje
Da
Link do kolekcije/kontakta
kompleksno istraživanje
djelomično
Razjasnite potrebu, prenesite je na ljude
Medicinski/pravni/osjetljivi
br
Direktno do stručnog i pouzdanog izvora
Uobičajene greške
- Ostavljamo bot da odgovori iz globalne memorije. Rizik od dezinformacija i lažnih izvora.
- Davanje činjeničnog odgovora bez navođenja izvora. Korisnik ne može potvrditi.
- Pružanje medicinskih/pravnih savjeta. Uzrokuje ozbiljnu štetu; treba dati smjernice.
- Ne uspostavljanje puta prenošenja na ljude. Složena i osjetljiva pitanja ostaju neriješena.
- Ostavljanje podataka chata nezaštićenim. Došlo bi do povrede privatnosti.
Ukratko
U korisničkim uslugama, AI i chatbotovi preuzimaju jednostavna pitanja koja se ponavljaju, omogućavajući bibliotekaru da se fokusira na složene, osjetljive zadatke i zadatke koji zahtijevaju prosuđivanje. Ali bot bi trebao biti izgrađen kao sloj koji olakšava teret, a ne umjesto čovjeka: trebao bi se oslanjati samo na provjerene korporativne informacije, pružati činjenice kao izvore, izbjegavati medicinske/pravne savjete i upućivati se na specijaliste, delegirati osjetljiva pitanja na čovjeka i štititi privatnost podataka ćaskanja. Transparentnost je neophodna: korisnik mora znati da razgovara sa botom.
Zadatak aplikacije
Pripremite kratku "listu aktuelnih informacija + resursa" za svoju instituciju (radno vrijeme, pravila zajma, nekoliko vodiča). Generirajte odgovore na tri različita korisnička pitanja pomoću šablona "Odgovor bota na izvor" i provjerite da li je svaka činjenica zasnovana na izvoru pomoću "Provjere činjenica odgovora na FAQ". Konačno, kreirajte ispravan tekst upita za osjetljivo pitanje pomoću predloška „Ograničenje i odgovor na promet“.
kontrolna lista
- [ ] Povezao sam bota samo sa provjerenim korporativnim informacijama.
- [ ] Naveo sam izvore u činjeničnim odgovorima.
- [ ] Postavio sam rutiranje i primopredaje za medicinska/pravna/osjetljiva pitanja.
- [ ] Jasno sam rekao da je korisnik razgovarao sa botom.
- [ ] Zaštitio sam privatnost podataka ćaskanja.