Mga nadagdag:
- Ang kakayahang tukuyin kung saan ang artificial intelligence ay nakakatipid ng oras sa daloy ng trabaho sa librarianship (metadata, buod, paghahanap, mungkahi) at kung saan ang katumpakan, pagiging maaasahan ng pinagmulan at mga desisyon sa privacy ay ipinaubaya sa mga tao, depende sa antas ng panganib.
- Kakayahang maglapat ng disiplina na nagpapatunay sa bawat output sa pamamagitan ng pag-link nito sa pinagmulan, pagkumpirma nito sa isang independiyenteng pinagmulan, at pagpasa nito sa isang bias na filter.
- Ang pag-unawa kung bakit ang guni-guni, gawa-gawang pinagmumulan at privacy ng user ay mga panganib na dapat isaalang-alang sa propesyon na ito sa simula pa lang.
Kapag nakaupo ang isang espesyalista sa pag-cataloging sa kanyang mesa sa umaga, maaaring mayroon siyang dose-dosenang mga bagong dating na libro, daan-daang dokumento mula sa koleksyon ng donasyon, at isang archive box na naghihintay na ma-digitize. Ang isang reference na librarian (ang eksperto na tumutulong sa mga user na makahanap ng impormasyon) ay sumasagot sa mga tanong sa buong araw tulad ng "nasaan ang mapagkakatiwalaang source sa paksang ito?" Ang isang information manager ay may pananagutan sa pagpapanatiling ang libu-libong dokumento ng isang organisasyon ay matutuklasan at maaasahan. Sa yunit na ito, linawin natin kung saan eksaktong artificial intelligence (AI sa madaling salita; malalaking modelo ng wika at katulad na mga tool) ang nakakatipid ng oras sa mga gawaing ito, at kung saan nananatili ang paghatol, pagpili at responsibilidad sa tao.
Magsimula tayo sa isang kahulugan: artificial intelligence, kung saan ang ibig nating sabihin ay ang pagbuo ng wika at pagkilala sa pattern na mga tool ng software na sinanay sa malalaking halaga ng teksto. Ang mga tool na ito ay nagbubuod, nagsasalin, nagmumungkahi ng pag-uuri, bumubuo ng draft na teksto, at nag-flag ng mga pattern sa malalaking piraso ng data. Ngunit hindi nito alam kung talagang may pinagmulan, kung tama ang isang impormasyon, o kung pinoprotektahan ang privacy ng isang user. Kaya naman sa librarianship at information management, ang AI ay isang assistant, hindi isang decision maker.
Saan gumagana ang artificial intelligence at saan ito hindi gumagana?
Hatiin natin sa tatlong layer ang workflow ng librarianship. Ang unang layer ay mekanikal at paulit-ulit na mga gawain: pagkuha ng draft na metadata mula sa byline ng isang libro, pagbubuod ng mahabang ulat, pagsasalin ng teksto mula sa isang wika patungo sa isa pa, paglilinis ng talahanayan ng data. Makapangyarihan ang AI dito at nakakatipid ng malaking oras.
Ang pangalawang layer ay quasi-judicial work: anong paksa ang heading na ibibigay sa isang dokumento, kung magsasama ng resource sa isang koleksyon, anong resource ang irerekomenda sa isang user. Gumagawa ang AI ng mga mungkahi dito, ngunit ang eksperto na nakakaalam ng patakaran ng institusyon at ang mga tunay na pangangailangan ng user ang may huling salita.
Ang ikatlong layer ay purong paghuhusga at pananagutan: pagkumpirma na ang impormasyon ay tumpak, pagpapasya sa isang copyright, kung isisiwalat ang sensitibong personal na data, pagkumpirma sa pagiging maaasahan ng isang pinagmulan. Sa layer na ito, ang output ng AI ay isang panimulang punto lamang; Ang responsibilidad ay ganap na nakasalalay sa mga tao.
Tip: Bago magbigay ng gawain sa AI, tanungin ang iyong sarili: "Ano ang mangyayari kung mali ang output na ito?" Kung ang sagot ay "Mag-aaksaya ako ng oras", huwag mag-atubiling gumamit ng AI. Kung ang sagot ay "nakakalat ang isang maling pinagmulan, nalinlang ang isang user, o na-leak ang personal na data", tiyaking i-verify ang output.
Hallucination: ang pinakamalaking panganib ng librarian
Ang Hallucination ay kapag ang AI ay gumagawa ng hindi umiiral na impormasyon, pinagmulan, o sipi na para bang ito ay totoo, at sa isang lubhang nakakumbinsi na wika. Ito ay partikular na mapanganib para sa librarianship at pamamahala ng impormasyon; dahil ang esensya ng ating propesyon ay ang authenticity at reliability ng source.
Kapag sinabi mo sa AI na "magmungkahi ng limang akademikong papel sa paksang ito," maaari itong bumuo ng mga pamagat, may-akda, at mga pangalan ng journal na mukhang totoo ngunit wala talaga. Ang mga gawa-gawang mapagkukunang ito ay napakakumbinsi na ang isang patron o kahit isang librarian ay maaaring idagdag ang mga ito sa isang bibliograpiya nang hindi ito bini-verify. Sa humanities at social sciences, mas malaki ang panganib: kapag ang "dokumentong iyon mula 1897" ay gawa-gawa para sa isang historyador o "ang desisyon ng korte" para sa isang hukom, ang resulta ay malubhang maling impormasyon.
Pansin: Walang source citation, quote o reference na ginawa ng AI ang dapat ilipat kahit saan nang walang pag-verify sa isang tunay na catalogue, database o ang source mismo. Dahil lang sa ito ay "mukhang kapani-paniwala" ay hindi nangangahulugan na ito ay totoo.
Disiplina sa pagpapatunay: tatlong hakbang
Ang pangunahing disiplina na dapat ilapat ng librarian kapag nagtatrabaho sa AI ay ito:
1. Kumonekta sa pinagmulan. Ang bawat katotohanan, figure, petsa at imprint ay dapat na nakabatay sa orihinal na pinagmulan. Tanungin ang AI na "sabihin sa akin mula sa kung saan mo nakuha ang impormasyong ito" at suriin ang pinagmulang iyon nang nakapag-iisa.
2. Malayang kumpirmahin. I-verify ang kritikal na impormasyon sa hindi bababa sa isang maaasahang mapagkukunan sa labas ng AI (tunay na catalogue, opisyal na database, pangunahing dokumento).
3. Ipasa ito sa bias filter. Ang AI ay nagdadala ng mga bias ng data kung saan ito sinanay. Ang isang iminungkahing paksa, isang listahan ng mga mungkahi, o isang buod ay maaaring i-highlight ang ilang mga punto ng view at malabo ang iba. Itanong kung sino ang naiwan, anong pananaw ang kulang.
Privacy at privacy ng user
Ang isa sa mga pinakapangunahing etikal na prinsipyo ng propesyon ng librarianship ay ang privacy ng gumagamit: kung ano ang binabasa ng isang tao, kung ano ang kanyang hinahanap, at kung anong paksa ang interesado siya ay kumpidensyal. Ang pagpasok ng data sa mga tool ng AI, lalo na ang mga pampublikong tool na gumagana sa Internet, na kinabibilangan ng mga pagkakakilanlan ng mga user, kasaysayan ng paghahanap, o hiniram na mapagkukunan ay maaaring lumabag sa prinsipyong ito; dahil ang data na ito ay maaaring mapunta sa mga third party system.
Gayundin, sa isang organisasyon, hindi dapat i-upload sa isang pangkalahatang tool ng AI ang mga hindi inuri ngunit sensitibong dokumento (impormasyon ng tauhan, kontrata, panloob na sulat). Ang mga tool na tumatakbo sa sariling secure at closed system ng institusyon ay mas gusto para sa ganitong uri ng data.
Tip: Bago maglagay ng anumang data sa AI, itanong ang "Pampubliko ba ang impormasyong ito?" magtanong. Kung ang sagot ay hindi, o hindi ka sigurado, ilagay ang data na iyon sa isang de-personalized, anonymous na format o gumamit lamang ng mga secure na tool na inaprubahan ng institusyon.
tatlong mini case
Case 1 — Draft metadata para sa 400 na dokumento. Kinailangan ng isang library ng unibersidad na mag-catalog ng archive ng 400 na dokumentong naibigay ng isang propesor. Kinuha ng eksperto ang isang draft na pamagat, petsa at mungkahi sa paksa mula sa unang pahina ng bawat dokumento na may AI: ang average na oras sa bawat dokumento ay bumaba mula 12 minuto hanggang 4 na minuto. Ngunit ang bawat draft na imprint ay inihambing sa orihinal na dokumento at inaprubahan ng eksperto; 17 maling petsa na ginawa ng AI ay nahuli sa hakbang na ito.
Case 2 — Huling source nahuli. Nakatanggap ang isang advisory librarian ng 6 na mungkahi sa artikulo mula sa YZ habang naghahanap ng mga mapagkukunan sa "paglipat ng klima" para sa isang undergraduate na estudyante. Hinanap ng librarian silang lahat sa database ng institusyon: 2 sa 6 na artikulo ay wala talaga. Pinigilan ng hakbang sa pag-verify ang mag-aaral na mabigyan ng gawa-gawang pinagmulan.
Kaso 3 — Napigilan ang paglabag sa pagiging kumpidensyal. Isang library na isinasaalang-alang ang paggamit ng isang pangkalahatang tool ng AI upang suriin ang "kung sinong user ang interesado sa aling paksa" mula sa mga talaan ng pag-checkout. Napagtanto ng tagapamahala ng impormasyon na ito ay isang paglabag sa privacy para sa data na ito na lumabas kasama ang user ID; ang data ay unang na-anonymize at naproseso lamang bilang pinagsama-samang, hindi natukoy na mga istatistika.
Apat na maaaring kopyahin na mga template
1) Simulan ang pagtukoy ng mga tungkulin at hangganan:
Ang iyong tungkulin: may karanasan na assistant cataloging at information management specialist. Ang iyong gawain: gumawa ng draft mula sa impormasyon sa pinagmulan na ibinigay ko sa iyo. Panuntunan: (1) Gamitin lamang ang impormasyon sa tekstong ibinigay ko sa iyo, huwag magdagdag ng iyong sariling impormasyon. (2) Markahan ang "[dapat ma-verify]" kung saan hindi ka sigurado. (3) Huwag gumawa ng anumang petsa, pangalan o imprint. Kung naiintindihan mo, simulan mo. Pinagmulan: [dito]
2) Tanong sa pagsusuri ng pagpapatunay:
Ilista ang bawat factual claim (petsa, pangalan, numero, source citation) sa text sa ibaba. Para sa bawat isa: saan sa teksto mo nakuha ang impormasyong ito? Kung hindi malinaw sa text, isulat ang "not in the text". Teksto: [dito]
3) Pagsusuri ng bias at nawawalang pananaw:
Aling mga pananaw ang itinatampok ng sumusunod na buod/rekomendasyon at alin ang hindi nito iniiwan? Anong mga grupo, rehiyon o view ang maaaring kulang? Umasa ka lang sa text, huwag mag-speculate. Teksto: [dito]
4) Paunang pagsusuri sa privacy:
Naglalaman ba ang teksto sa ibaba ng personal na data (pangalan, numero ng ID, contact, kasaysayan ng pagbabasa/paghahanap) o sensitibong impormasyon ng kumpanya? Kung gayon, ilista ito at imungkahi kung paano ito ma-anonymize. Teksto: [dito]
Mahinang prompt / Malakas na prompt
Mahinang prompt:
Maghanap ako ng ilang mapagkukunan sa paksang ito.
Iniimbitahan ng prompt na ito ang AI na bumuo ng mga pekeng mapagkukunan. Walang mga tungkulin, hangganan, panuntunan sa pagpapatunay at mapagkukunan. Ang AI ay maaaring gumawa ng mga kapani-paniwala ngunit hindi umiiral na mga tag.
Napakahusay na prompt:
Ang iyong tungkulin: sangguniang librarian assistant. Piliin ang mga nauugnay sa paksa ng "paglipat ng klima" mula sa mga entry sa katalogo na ibinigay ko sa iyo sa ibaba at ipaliwanag kung bakit nauugnay ang mga ito. Huwag magdagdag ng anumang mga mapagkukunan na wala sa listahan, huwag gumawa ng mga mapagkukunan. Kapag hindi ka sigurado, sabihin ang "walang nakalistang angkop na mapagkukunan." Mga entry sa katalogo: [dito]
Malinaw ang pagkakaiba: pinipilit ng malakas na prompt ang AI na gumana mula sa ibinigay na tunay na pinagmulan, hindi mula sa sarili nitong memorya, at pinipigilan ang katha.
Layer at talahanayan ng responsibilidad
layer ng negosyo
halimbawang gawain
Papel ng AI
desisyon ng tao
mekanikal
Draft metadata, buod, pagsasalin
Mabilis na gumagawa ng mga draft
pagpapatunay, pag-apruba
parang hudisyal
Pamagat ng paksa, mungkahi ng pinagmulan
nag-aalok ng mga mungkahi
Pagpili ayon sa patakaran
puro paghuhusga
Pagpapatunay, desisyon sa copyright
Paunang impormasyon lamang
Ang buong responsibilidad ay nasa tao
Mga karaniwang pagkakamali
- Pinapalitan ang output ng AI para sa pinagmulan. Ang AI ay isang katulong, hindi isang mapagkukunan; Ang bawat output ay napatunayan.
- Ang pagtanggap sa gawa-gawang pinagmulan bilang kapani-paniwala. Hindi ibig sabihin na maganda ang hitsura nito ay tama na.
- Paglalagay ng personal/sensitibong data sa pampublikong tool. Ang privacy ng user at pagiging kompidensiyal ng kumpanya ay iginagalang mula pa sa simula.
- Hindi pinapansin ang pagtatangi. Ang AI ay nagdadala ng mga pananaw ng data kung saan ito sinanay; Itanong kung ano ang kulang.
- Iniiwan ang paghatol sa AI. Ang mga desisyon ng katumpakan, copyright, at privacy ay pag-aari ng mga tao.
Sa buod
artipisyal na katalinuhan; Ito ay isang makapangyarihang katulong para sa pagbubuod, pagbalangkas, pagsasalin at pagmarka ng pattern sa librarianship at pamamahala ng impormasyon. Nakakatipid ito ng maraming oras sa gawaing mekanikal; nagbibigay ng payo sa mga bagay na parang hudisyal; Ngunit ang pag-verify ng katumpakan, pagiging maaasahan ng pinagmulan, privacy ng user, at mga etikal na desisyon ay pagmamay-ari ng mga tao. Ang hallucination ay ang pinakamalaking panganib sa propesyon na ito: walang source credits o quotes na ginagamit nang walang verification. Patakbuhin ang AI na may malinaw na tungkulin, hangganan, at mga panuntunan sa pagpapatunay; Kumpirmahin ang bawat kritikal na output gamit ang isang independiyenteng pinagmulan.
Gawain ng aplikasyon
Pumili ng totoong paksa mula sa iyong larangan. Humingi sa AI ng 5 rekomendasyon sa mapagkukunan sa paksang iyon, pagkatapos ay hanapin ang bawat isa sa isang aktwal na catalog o database at tandaan kung ilan ang aktwal na umiiral. Pagkatapos, gamit ang template na “Startup defining roles and boundaries,” sabihin sa AI na gumana lang mula sa isang text na iyong ibinigay at ihambing ang output ng dalawang approach. Isulat kung aling diskarte ang pumipigil sa angkop.
checklist
- [ ] Natukoy ko kung saang layer (mekanikal, semi-judicial, purong paghuhusga) ang gawain.
- [ ] "Ano ang mangyayari kung mali ang output na ito?" tanong ko.
- [ ] Na-verify ko na ang bawat credit at citation laban sa isang independent source.
- [ ] Sinuri ko na walang personal/sensitibong impormasyon sa data na pumapasok sa AI.
- [ ] Iningatan ko ang huling desisyon at responsibilidad sa sarili kong pagpapasya.