Dobički:
- Sposobnost razlikovati, kje umetna inteligenca prihrani čas v knjižničarskem delovnem toku (metapodatki, povzetek, iskanje, predlogi) in kje so odločitve o natančnosti, zanesljivosti vira in zasebnosti prepuščene ljudem, odvisno od stopnje tveganja.
- Sposobnost uporabe discipline, ki preveri vsak izhod tako, da ga poveže z virom, potrdi v neodvisnem viru in prenese skozi pristranski filter.
- Razumevanje, zakaj so halucinacije, izmišljeni viri in zasebnost uporabnikov tveganja, ki jih je treba v tem poklicu upoštevati že od samega začetka.
Ko strokovnjak za katalogizacijo zjutraj sede za svojo mizo, ima morda na desetine na novo prispelih knjig, na stotine dokumentov iz zbirke donacij in arhivsko škatlo, ki čaka na digitalizacijo. Referenčni knjižničar (strokovnjak, ki uporabnikom pomaga najti informacije) ves dan odgovarja na vprašanja, kot je "kje je zanesljiv vir o tej temi?" Upravitelj informacij je odgovoren za to, da je na tisoče dokumentov organizacije vidnih in zanesljivih. V tej enoti bomo razjasnili, kje točno umetna inteligenca (na kratko AI; veliki jezikovni modeli in podobna orodja) pri teh opravilih prihrani čas in kje presoja, izbira in odgovornost ostajajo pri človeku.
Začnimo z definicijo: umetna inteligenca, s katero mislimo na programska orodja za ustvarjanje jezikov in prepoznavanje vzorcev, usposobljena za velike količine besedila. Ta orodja povzemajo, prevajajo, predlagajo klasifikacijo, ustvarjajo osnutek besedila in označujejo vzorce v velikih delih podatkov. Ne ve pa, ali vir res obstaja, ali je informacija pravilna in ali je varovana zasebnost uporabnika. Zato je umetna inteligenca v knjižničarstvu in upravljanju informacij pomočnik, ne tisti, ki sprejema odločitve.
Kje umetna inteligenca deluje in kje ne?
Delovni potek knjižničarstva razdelimo na tri plasti. Prva plast so mehanske in ponavljajoče se naloge: ekstrahiranje osnutkov metapodatkov iz avtorske vrstice knjige, povzemanje dolgega poročila, prevajanje besedila iz enega jezika v drugega, čiščenje tabele s podatki. Umetna inteligenca je tukaj močna in prihrani veliko časa.
Druga plast je kvazisodniško delo: katero predmetno rubriko dati dokumentu, ali vir vključiti v zbirko, kateri vir priporočiti uporabniku. Umetna inteligenca tu daje predloge, a zadnjo besedo ima strokovnjak, ki pozna politiko institucije in dejanske potrebe uporabnika.
Tretja plast je čista presoja in odgovornost: potrditev, da so informacije točne, odločanje o avtorskih pravicah, ali naj se razkrijejo občutljivi osebni podatki, potrditev zanesljivosti vira. Na tej ravni je rezultat AI le izhodišče; Odgovornost je v celoti na ljudeh.
Namig: preden umetni inteligenci dodelite nalogo, se vprašajte: »Kaj se zgodi, če je ta rezultat napačen?« Če je odgovor "izgubil bom nekaj časa", lahko uporabite AI. Če je odgovor "širi se lažni vir, uporabnik je zaveden ali uhajajo osebni podatki", preverite izpis.
Halucinacija: knjižničarjeva največja nevarnost
Halucinacija je, ko umetna inteligenca proizvede neobstoječo informacijo, vir ali citat, kot da bi bili resnični, in to v izjemno prepričljivem jeziku. To je še posebej nevarno za knjižničarstvo in upravljanje informacij; saj je bistvo našega poklica pristnost in zanesljivost vira.
Ko umetni inteligenci rečete, naj »predlaga pet akademskih člankov o tej temi«, lahko ustvari naslove, avtorje in imena revij, ki se zdijo resnične, a sploh ne obstajajo. Ti izmišljeni viri so tako prepričljivi, da jih lahko pokrovitelj ali celo knjižničar doda v bibliografijo, ne da bi jih preveril. V humanistiki in družboslovju je nevarnost še večja: ko se za zgodovinarja izmisli "tisti dokument iz leta 1897" ali za pravnika "tista sodna odločba", je rezultat huda dezinformacija.
Pozor: Nobena navedba vira, citat ali referenca, ki jo ustvari AI, se ne sme nikamor prenašati brez preverjanja v pravem katalogu, bazi podatkov ali samem viru. Samo zato, ker "izgleda prepričljivo", še ne pomeni, da je res.
Disciplina preverjanja: trije koraki
Osnovna disciplina, ki jo mora knjižničar upoštevati pri delu z umetno inteligenco, je naslednja:
1. Povežite se z virom. Vsako dejstvo, številka, datum in odtis mora temeljiti na izvirnem viru. Vprašajte AI "povejte mi, iz katerega vira ste dobili te informacije" in neodvisno preverite ta vir.
2. Neodvisno potrdite. Preverite kritične informacije v vsaj enem zanesljivem viru zunaj AI (verodostojni katalog, uradna zbirka podatkov, primarni dokument).
3. Spustite ga skozi prednapetostni filter. AI prenaša pristranskosti podatkov, na katerih se usposablja. Predlagana tema, seznam predlogov ali povzetek lahko izpostavijo določena stališča in zakrijejo druga. Vprašajte se, kdo je izpuščen, kakšna perspektiva manjka.
Zasebnost in zasebnost uporabnikov
Eno najbolj temeljnih etičnih načel knjižničarskega poklica je zasebnost uporabnika: zaupno je, kaj človek bere, kaj išče in katera tema ga zanima. Vnos podatkov v orodja AI, zlasti javna orodja, ki delujejo prek interneta, ki vključujejo identitete uporabnikov, zgodovino iskanja ali izposojene vire, lahko krši to načelo; ker lahko gredo ti podatki v sisteme tretjih oseb.
Podobno se v organizaciji nerazvrščenih, vendar občutljivih dokumentov (podatki o osebju, pogodbe, notranja korespondenca) ne sme nalagati v splošno orodje AI. Za to vrsto podatkov so prednostna orodja, ki delujejo v varnem, zaprtem sistemu institucije.
Nasvet: Preden vnesete podatke v AI, vprašajte "Ali so te informacije javne?" vprašaj. Če je odgovor ne ali če niste prepričani, shranite te podatke v depersonalizirano, anonimno obliko ali uporabite samo varna orodja, ki jih je odobrila institucija.
trije mini kovčki
Primer 1 – Osnutek metapodatkov za 400 dokumentov. Univerzitetna knjižnica je morala katalogizirati arhiv 400 dokumentov, ki jih je podaril profesor. Strokovnjak je z umetno inteligenco izluščil osnutek naslova, datuma in predloga teme s prve strani vsakega dokumenta: povprečni čas na dokument se je zmanjšal z 12 minut na 4 minute. Toda vsak osnutek odtisa je bil primerjan z izvirnim dokumentom in odobren s strani strokovnjaka; V tem koraku je bilo ujetih 17 napačnih datumov, ki jih je izmislil AI.
Primer 2 – Ujet lažni vir. Svetovalni knjižničar je prejel 6 predlogov člankov od YZ, medtem ko je iskal vire o "podnebnih migracijah" za dodiplomskega študenta. Knjižničarka jih je vse preiskala v bazi zavoda: 2 od 6 člankov sploh nista obstajala. Korak preverjanja je preprečil, da bi študent dobil izmišljen vir.
Primer 3 – Preprečena kršitev zaupnosti. Knjižnica je razmišljala o uporabi splošnega orodja umetne inteligence za analizo "katerega uporabnika zanima katera tema" iz zapisov o blagajni. Upravitelj informacij je ugotovil, da bi bila kršitev zasebnosti, če bi ti podatki odšli skupaj z ID-jem uporabnika; podatki so bili najprej anonimizirani in obdelani izključno kot združeni, deidentificirani statistični podatki.
Štiri predloge za kopiranje
1) Začnite določati vloge in meje:
Vaša vloga: izkušen pomočnik specialist za katalogizacijo in upravljanje informacij. Vaša naloga: pripraviti osnutek iz informacij v viru, ki sem vam ga dal. Pravila: (1) Uporabite le podatke v besedilu, ki sem vam ga dal, ne dodajajte svojih podatkov. (2) Označite "[mora biti preverjeno]", kjer niste prepričani. (3) Ne izmišljajte nobenih datumov, imen ali odtisov. Če razumeš, začni. Vir: [tukaj]
2) Vprašanje za preverjanje veljavnosti:
Navedite vsako dejansko trditev (datum, ime, številka, navedba vira) v spodnjem besedilu. Za vsako: kje v besedilu ste dobili ta podatek? Če v besedilu ni jasno, napišite "ni v besedilu". Besedilo: [tukaj]
3) Preverjanje pristranskosti in manjkajoče perspektive:
Katere perspektive izpostavlja naslednji povzetek/priporočilo in katere izpušča? Katere skupine, regije ali pogledi morda manjkajo? Samo zanašajte se na besedilo, ne ugibajte. Besedilo: [tukaj]
4) Predhodno preverjanje zasebnosti:
Ali spodnje besedilo vsebuje osebne podatke (ime, osebno številko, kontakt, zgodovino branja/iskanja) ali občutljive informacije podjetja? Če je tako, ga navedite in predlagajte, kako ga lahko anonimizirate. Besedilo: [tukaj]
Šibek poziv/močan poziv
Šibek poziv:
Poišči mi nekaj virov o tej temi.
Ta poziv vabi AI, da ustvari lažne vire. Ni vlog, meja, validacijskih pravil in virov. AI lahko ustvari verjetne, a neobstoječe oznake.
Močan poziv:
Vaša vloga: referenčna knjižničarka. Iz kataloških vnosov, ki sem vam jih dal spodaj, izberite tiste, ki so povezani s temo "podnebne migracije", in razložite, zakaj so relevantni. Ne dodajajte virov, ki jih ni na seznamu, ne izmišljujte virov. Če niste prepričani, recite "ni navedenih ustreznih virov." Kataloški vnosi: [tukaj]
Razlika je jasna: močan poziv prisili AI, da deluje iz danega pravega vira, ne iz lastnega pomnilnika, in preprečuje izdelavo.
Tabela slojev in odgovornosti
poslovni sloj
vzorčna naloga
Vloga AI
človekova odločitev
mehanski
Osnutek metapodatkov, povzetek, prevod
Hitro ustvarja osnutke
preverjanje, odobritev
kvazisodno
Naslov teme, predlog vira
ponuja predloge
Izbira po politiki
čista presoja
Preverjanje pristnosti, odločitev o avtorskih pravicah
Samo predhodne informacije
Popolna odgovornost je na osebi
Pogoste napake
- Zamenjava izhoda AI za vir. AI je pomočnik, ne vir; Vsak izhod je potrjen.
- Sprejemanje izmišljenega vira kot prepričljivega. Samo zato, ker izgleda dobro, še ne pomeni, da je prav.
- Vnos osebnih/občutljivih podatkov v javno orodje. Zasebnost uporabnikov in poslovno zaupnost spoštujemo od vsega začetka.
- Ignoriranje predsodkov. AI prenaša perspektive podatkov, na podlagi katerih se usposablja; Vprašajte, kaj manjka.
- Prepuščanje presoje AI. Odločitve o točnosti, avtorskih pravicah in zasebnosti pripadajo ljudem.
Če povzamem
umetna inteligenca; Je močan pomočnik za povzemanje, pripravo, prevajanje in označevanje vzorcev v knjižničarstvu in upravljanju informacij. Prihrani veliko časa pri mehanskem delu; svetuje o kvazipravosodnih zadevah; Toda preverjanje točnosti, zanesljivosti vira, zasebnosti uporabnikov in etičnih odločitev pripada ljudem. Halucinacije so največja nevarnost za ta poklic: brez preverjanja se ne uporabljajo viri ali citati. Zaženite AI z jasnimi vlogami, mejami in pravili za preverjanje; Vsak kritični rezultat potrdite z neodvisnim virom.
Aplikacijska naloga
Izberite pravo temo s svojega področja. Prosite umetno inteligenco za 5 priporočil glede virov na to temo, nato poiščite vsakega v dejanskem katalogu ali bazi podatkov in zabeležite, koliko jih dejansko obstaja. Nato s predlogo »Zagon, ki določa vloge in meje«, umetni inteligenci povejte, naj deluje samo na podlagi besedila, ki ga posredujete, in primerjajte rezultate obeh pristopov. Napišite, kateri pristop preprečuje prileganje.
kontrolni seznam
- [ ] Določil sem, na kateri ravni (mehanski, polsodni, čista presoja) je naloga.
- [ ] "Kaj se zgodi, če je ta izhod nepravilen?" Postavil sem vprašanje.
- [ ] Vsako zaslugo in navedbo sem preveril glede na neodvisen vir.
- [ ] Preveril sem, da v podatkih, ki vstopajo v AI, ni osebnih/občutljivih podatkov.
- [ ] Končno odločitev in odgovornost sem zadržal po lastni presoji.