Hagnaður:
- Að geta greint hvar gervigreind sparar tíma í verkflæði bókasafnsþjónustu (lýsigögn, samantekt, leit, uppástungur) og hvar nákvæmni, áreiðanleiki heimilda og persónuverndarákvarðanir eru látnar í hendur mönnum, allt eftir áhættustigi.
- Geta til að beita fræðigrein sem sannreynir hvert úttak með því að tengja það við upprunann, staðfesta það í óháðri heimild og fara í gegnum hlutdrægni síu.
- Að skilja hvers vegna ofskynjanir, uppspuni heimildir og friðhelgi notenda eru áhættur sem þarf að taka tillit til í þessari starfsgrein frá upphafi.
Þegar skráningarsérfræðingur sest við skrifborðið sitt á morgnana gæti hann átt tugi nýkominna bóka, hundruð skjala úr gjafasafni og skjalasafn sem bíður þess að verða stafrænt. Tilvísunarbókavörður (sérfræðingurinn sem hjálpar notendum að finna upplýsingar) svarar spurningum allan daginn eins og "hvar er áreiðanleg heimild um þetta efni?" Upplýsingastjóri er ábyrgur fyrir því að þúsundir skjala fyrirtækis séu uppgötvaðar og áreiðanlegar. Í þessari einingu munum við skýra hvar nákvæmlega gervigreind (gervigreind í stuttu máli; stór tungumálalíkön og svipuð verkfæri) sparar tíma í þessum verkefnum og hvar dómgreind, val og ábyrgð er hjá manninum.
Byrjum á skilgreiningu: gervigreind, en þá er átt við hugbúnaðarverkfæri sem búa til tungumál og þekkja mynstur sem eru þjálfuð á mikið magn af texta. Þessi verkfæri draga saman, þýða, stinga upp á flokkun, búa til textadrög og flagga mynstur í stórum gagnaklumpum. En það veit ekki hvort heimild sé raunverulega til, hvort upplýsingar séu réttar eða hvort friðhelgi notanda sé vernduð. Þess vegna er gervigreind í bókasafni og upplýsingastjórnun aðstoðarmaður en ekki ákvarðanatöku.
Hvar virkar gervigreind og hvar virkar hún ekki?
Við skulum skipta verkflæði bókasafnsþjónustu í þrjú lög. Fyrsta lagið er vélræn og endurtekin verkefni: draga drög að lýsigögnum úr aðallínu bókar, draga saman langa skýrslu, þýða texta úr einu tungumáli á annað, hreinsa gagnatöflu. AI er öflugt hér og sparar stóran tíma.
Annað lagið er hálfgerð dómsstörf: hvaða efnisfyrirsögn á að gefa skjal, hvort eigi að hafa tilföng í safni, hvaða úrræði eigi að mæla með fyrir notanda. Gerð gervigreind kemur hér með tillögur en sérfræðingurinn sem þekkir stefnu stofnunarinnar og raunverulegar þarfir notandans á síðasta orðið.
Þriðja lagið er hrein dómgreind og ábyrgð: staðfesta að upplýsingar séu réttar, ákvörðun um höfundarrétt, hvort birta eigi viðkvæmar persónuupplýsingar, staðfesta áreiðanleika heimildar. Í þessu lagi er framleiðsla gervigreindar aðeins upphafspunktur; Ábyrgðin er alfarið hjá mönnum.
Ábending: Áður en gervigreindinni er falið verkefni skaltu spyrja sjálfan þig: „Hvað gerist ef þessi framleiðsla er röng? Ef svarið er „Ég mun eyða tíma“ skaltu ekki hika við að nota gervigreind. Ef svarið er „röng heimild er dreift, notandi er afvegaleiddur eða persónulegum gögnum lekið“, vertu viss um að staðfesta úttakið.
Ofskynjanir: stærsta hætta bókasafnsfræðingsins
Ofskynjanir er þegar gervigreind framleiðir upplýsingar sem ekki eru til, heimildir eða tilvitnanir eins og þær séu raunverulegar og á afar sannfærandi tungumáli. Þetta er sérstaklega hættulegt fyrir bókasafnsstörf og upplýsingastjórnun; vegna þess að kjarni starfs okkar er áreiðanleiki og áreiðanleiki heimildarinnar.
Þegar þú segir gervigreindinni að „leggja til fimm fræðilegar greinar um þetta efni,“ getur það búið til titla, höfunda og tímaritsnöfn sem virðast raunveruleg en eru alls ekki til. Þessar tilbúnu heimildir eru svo sannfærandi að verndari eða jafnvel bókavörður getur bætt þeim við heimildaskrá án þess að sannreyna þær. Í hugvísindum og félagsvísindum er hættan enn meiri: þegar "þetta skjal frá 1897" er tilbúið fyrir sagnfræðing eða "þessi dómsúrskurður" fyrir lögfræðing, er niðurstaðan alvarlegar rangar upplýsingar.
Athugið: Engar heimildatilvitnanir, tilvitnanir eða tilvísanir framleiddar af gervigreindum ættu að vera fluttar neins staðar án sannprófunar í raunverulegum vörulista, gagnagrunni eða heimildinni sjálfri. Bara vegna þess að það "lítur sannfærandi út" þýðir ekki að það sé satt.
Sannprófunargrein: þrjú skref
Grunngreinin sem bókavörður verður að beita þegar hann vinnur með gervigreind er þessi:
1. Tengdu við uppruna. Sérhver staðreynd, mynd, dagsetning og áletrun verða að vera byggð á upprunalegri heimild. Spyrðu gervigreindina „segðu mér frá hvaða heimild þú fékkst þessar upplýsingar“ og athugaðu þá heimild sjálfstætt.
2. Staðfestu sjálfstætt. Staðfestu mikilvægar upplýsingar í að minnsta kosti einni áreiðanlegri heimild utan gervigreindar (ekta vörulista, opinber gagnagrunnur, aðalskjal).
3. Látið það í gegnum biasíuna. AI ber hlutdrægni gagna sem það er þjálfað á. Tillögur um efni, listi með ábendingum eða samantekt geta dregið fram ákveðin sjónarmið og hulið önnur. Spyrðu hver er skilinn útundan, hvaða sjónarhorn vantar.
Persónuvernd og friðhelgi notenda
Ein af grundvallar siðferðisreglum bókasafnsstarfsins er friðhelgi notenda: það sem einstaklingur les, það sem hann leitar að og hvaða efni hann hefur áhuga á er trúnaðarmál. Að slá inn gögn í gervigreind verkfæri, sérstaklega opinber verkfæri sem starfa yfir internetið, sem innihalda auðkenni notenda, leitarferil eða lánað tilföng getur brotið gegn þessari meginreglu; vegna þess að þessi gögn gætu farið í kerfi þriðja aðila.
Sömuleiðis, í stofnun, ætti ekki að hlaða óflokkuðum en viðkvæmum skjölum (starfsmannaupplýsingar, samningar, innri bréfaskipti) upp í almenn gervigreindartæki. Verkfæri sem keyra á eigin öruggu, lokuðu kerfi stofnunarinnar eru æskileg fyrir þessa tegund gagna.
Ábending: Áður en gögn eru færð inn í gervigreind skaltu spyrja "Eru þessar upplýsingar opinberar?" spyrja. Ef svarið er nei, eða þú ert ekki viss, settu þau gögn á ópersónusniðið, nafnlaust snið eða notaðu aðeins örugg verkfæri sem stofnunin samþykkir.
þrjú smámál
Mál 1 — Drög að lýsigögnum fyrir 400 skjöl. Háskólabókasafn þurfti að skrá skjalasafn með 400 skjölum sem prófessor gaf. Sérfræðingurinn dró út drög að titli, dagsetningu og efnistillögu af fyrstu síðu hvers skjals með gervigreind: meðaltími á hvert skjal minnkaði úr 12 mínútum í 4 mínútur. En hvert uppkast var borið saman við upprunalega skjalið og samþykkt af sérfræðingnum; 17 rangar dagsetningar sem gervigreindin mynduðu voru gripnar í þessu skrefi.
Mál 2 - Fölsuð heimild veidd. Ráðgefandi bókasafnsfræðingur fékk 6 greinartillögur frá YZ á meðan hann leitaði að auðlindum um „loftslagsflutninga“ fyrir grunnnema. Bókavörður leitaði í þeim öllum í gagnagrunni stofnunarinnar: 2 af hverjum 6 greinum voru alls ekki til. Sannprófunarskrefið kom í veg fyrir að nemandinn fengi uppspuna heimild.
Mál 3 — Þagnarskyldubrot komið í veg fyrir. Bókasafn íhugaði að nota almennt gervigreindarverkfæri til að greina „hvaða notanda hefur áhuga á hvaða efni“ úr greiðsluskrám. Upplýsingastjóri gerði sér grein fyrir því að það væri brot á friðhelgi einkalífsins að þessi gögn færu út með notandakenni; gögnin voru fyrst nafnlaus og unnin eingöngu sem samanlögð, afgreind tölfræði.
Fjögur afritanleg sniðmát
1) Byrjaðu að skilgreina hlutverk og mörk:
Hlutverk þitt: reyndur aðstoðarmaður í skráningu og upplýsingastjórnun. Verkefni þitt: að búa til drög út frá upplýsingum í heimildinni sem ég gaf þér. Reglur: (1) Notaðu aðeins upplýsingarnar í textanum sem ég gaf þér, ekki bæta við eigin upplýsingum. (2) Merktu við „[verður að vera staðfest]“ þar sem þú ert ekki viss. (3) Ekki búa til neinar dagsetningar, nöfn eða áletrun. Ef þú skilur, byrjaðu. Heimild: [hér]
2) Spurning um sannprófun:
Skráðu hverja staðreyndafullyrðingu (dagsetningu, nafn, númer, heimildartilvitnun) í textanum hér að neðan. Fyrir hvern: hvar í textanum fékkstu þessar upplýsingar? Ef það er ekki skýrt í textanum, skrifaðu "ekki í textanum". Texti: [hér]
3) Athugun á hlutdrægni og vantandi sjónarhorni:
Hvaða sjónarmið undirstrikar eftirfarandi samantekt/tilmæli og hver sleppir hún? Hvaða hópa, svæði eða skoðanir gæti vantað? Treystu bara á textann, ekki spekúlera. Texti: [hér]
4) Forskoðun persónuverndar:
Inniheldur textinn hér að neðan persónulegar upplýsingar (nafn, kennitölu, tengilið, lestrar-/leitarsögu) eða viðkvæmar fyrirtækjaupplýsingar? Ef svo er skaltu skrá það og benda á hvernig hægt er að nafngreina það. Texti: [hér]
Veik kvaðning / Sterk kvaðning
Veik kvaðning:
Finndu mér heimildir um þetta efni.
Þessi hvetja býður gervigreindinni að búa til falsa auðlindir. Það eru engin hlutverk, mörk, löggildingarreglur og úrræði. AI getur framleitt trúverðug en engin merki.
Öflug tilvitnun:
Hlutverk þitt: aðstoðarmaður bókasafns. Veldu þær sem tengjast viðfangsefninu „loftslagsflutningar“ úr vörulistafærslunum sem ég hef gefið þér hér að neðan og útskýrðu hvers vegna þær eiga við. Ekki bæta við neinum heimildum sem eru ekki á listanum, ekki búa til heimildir. Þegar þú ert ekki viss skaltu segja "það eru engar viðeigandi heimildir skráðar." Vörulistafærslur: [hér]
Munurinn er skýr: sterk hvetja neyðir gervigreindina til að vinna frá tilteknum raunverulegum uppruna, ekki frá eigin minni, og kemur í veg fyrir tilbúning.
Laga- og ábyrgðartafla
viðskiptalag
sýnishorn verkefni
Hlutverk gervigreindar
ákvörðun mannsins
vélrænni
Drög að lýsigögnum, samantekt, þýðing
Framleiðir drög fljótt
sannprófun, samþykki
hálfgerður dómstóll
Titill efnis, heimildatillaga
kemur með tillögur
Val eftir stefnu
hreinn dómgreind
Auðkenning, höfundarréttarákvörðun
Aðeins bráðabirgðaupplýsingar
Full ábyrgð er hjá viðkomandi
Algeng mistök
- Að skipta út AI úttakinu fyrir upprunann. AI er aðstoðarmaður, ekki auðlind; Sérhver framleiðsla er staðfest.
- Að samþykkja uppspuni heimildina sem sannfærandi. Þó það líti vel út þýðir það ekki að það sé rétt.
- Að slá inn persónuleg/viðkvæm gögn í opinbera tólið. Friðhelgi notenda og trúnaður fyrirtækja er virtur frá fyrstu tíð.
- Hunsa fordóma. AI ber sjónarhorn gagna sem það er þjálfað á; Spurðu hvað vantar.
- Lætur dómgreindina eftir til AI. Ákvarðanir um nákvæmni, höfundarrétt og friðhelgi einkalífsins tilheyra mönnum.
Í stuttu máli
gervigreind; Það er öflugur aðstoðarmaður til að draga saman, semja, þýða og merkja mynstur í bókasafni og upplýsingastjórnun. Það sparar mikinn tíma í vélrænni vinnu; veitir ráðgjöf um hálfgerð dómsmál; En sannprófun á nákvæmni, áreiðanleika upprunans, friðhelgi notenda og siðferðilegar ákvarðanir tilheyra mönnum. Ofskynjanir eru mesta hættan fyrir þessa starfsgrein: engar heimildir eða tilvitnanir eru notaðar án sannprófunar. Keyra gervigreind með skýrum hlutverki, mörkum og löggildingarreglum; Staðfestu hverja mikilvæga útkomu með óháðum uppruna.
Umsóknarverkefni
Veldu alvöru efni úr þínu sviði. Biddu gervigreindina um 5 ráðleggingar um tilföng um það efni, leitaðu síðan í hverja og eina í raunverulegum vörulista eða gagnagrunni og athugaðu hversu margar eru til í raun og veru. Síðan, með sniðmátinu „Byrjun skilgreinir hlutverk og mörk“, segðu gervigreindinni að vinna aðeins út frá texta sem þú gefur upp og berðu saman úttak aðferðanna tveggja. Skrifaðu hvaða nálgun kemur í veg fyrir að passa.
gátlisti
- [ ] Ég ákvað í hvaða lagi (vélrænt, hálf-dómslegt, hreint mat) verkefnið er.
- [ ] "Hvað gerist ef þetta úttak er rangt?" Ég spurði spurningarinnar.
- [ ] Ég hef sannreynt hverja inneign og tilvitnun gegn óháðri heimild.
- [ ] Ég hef athugað að engar persónulegar/viðkvæmar upplýsingar séu í gögnunum sem fara inn í gervigreind.
- [ ] Ég hélt lokaákvörðuninni og ábyrgðinni eftir eigin geðþótta.