Kasu:
- Oskus teha vahet, kus tehisintellekt säästab raamatukogunduse töövoos aega (metaandmed, kokkuvõte, otsing, soovitus) ning kus täpsus, allika usaldusväärsus ja privaatsusotsused jäetakse olenevalt riskitasemest inimeste teha.
- Võimalus rakendada distsipliini, mis kontrollib iga väljundit, sidudes selle allikaga, kinnitades selle sõltumatus allikas ja läbides selle nihkefiltri.
- Arusaamine, miks hallutsinatsioonid, väljamõeldud allikad ja kasutajate privaatsus on riskid, millega tuleb selle eriala puhul algusest peale arvestada.
Kui kataloogimise spetsialist istub hommikul oma laua taha, võib tal olla kümneid äsja saabunud raamatuid, sadu dokumente annetuste kogust ja arhiivikarp, mis ootavad digiteerimist. Teatmeraamatukoguhoidja (ekspert, kes aitab kasutajatel teavet leida) vastab päeva jooksul küsimustele, nagu "kus on selle teema usaldusväärne allikas?" Infohaldur vastutab selle eest, et organisatsiooni tuhanded dokumendid oleksid leitavad ja usaldusväärsed. Selles üksuses selgitame, kus täpselt tehisintellekt (lühidalt AI; suured keelemudelid jms tööriistad) säästab nende ülesannete täitmisel aega ning kus jääb otsustusvõime, valik ja vastutus inimese kanda.
Alustame definitsiooniga: tehisintellekt, mille all peame silmas keelt genereerivaid ja mustreid tuvastavaid tarkvaratööriistu, mis on treenitud suurel hulgal tekstil. Need tööriistad võtavad kokku, tõlgivad, soovitavad klassifitseerimist, genereerivad mustandit ja märgistavad mustrid suurtes andmehulkides. Kuid ta ei tea, kas allikas on tõesti olemas, kas teave on õige või kas kasutaja privaatsus on kaitstud. Seetõttu on AI raamatukogunduses ja teabehalduses assistent, mitte otsustaja.
Kus tehisintellekt töötab ja kus mitte?
Jagame raamatukogunduse töövoo kolmeks kihiks. Esimene kiht on mehaanilised ja korduvad ülesanded: mustandi metaandmete eraldamine raamatu kõrvalrealt, pika aruande kokkuvõtte tegemine, teksti tõlkimine ühest keelest teise, andmetabeli puhastamine. AI on siin võimas ja säästab palju aega.
Teine kiht on kvaasijuriidiline töö: millise teemapealkirjaga dokumendile anda, kas lisada ressurssi kogusse, millist ressurssi kasutajale soovitada. AI toodab siin ettepanekuid, kuid viimane sõna jääb eksperdile, kes tunneb asutuse poliitikat ja kasutaja tegelikke vajadusi.
Kolmas kiht on puhas otsustusvõime ja vastutus: teabe õigsuse kinnitamine, autoriõiguse otsustamine, delikaatsete isikuandmete avaldamise otsustamine, allika usaldusväärsuse kinnitamine. Sellel kihil on AI väljund vaid lähtepunkt; Vastutus lasub täielikult inimestel.
Näpunäide. Enne tehisintellektile ülesande andmist küsige endalt: "Mis juhtub, kui see väljund on vale?" Kui vastus on "Ma raiskan natuke aega", kasutage julgelt AI-d. Kui vastus on "levitatakse valeallikat, kasutajat eksitatakse või isikuandmed lekivad", kontrollige kindlasti väljundit.
Hallutsinatsioonid: raamatukoguhoidja suurim oht
Hallutsinatsioonid on siis, kui tehisintellekt toodab olematut teavet, allikat või tsitaati, nagu see oleks tõeline, ja äärmiselt veenvas keeles. See on eriti ohtlik raamatukogunduse ja teabehalduse jaoks; sest meie elukutse olemus on allika autentsus ja usaldusväärsus.
Kui käsite tehisintellektil „soovitada sellel teemal viit akadeemilist dokumenti”, võib see genereerida pealkirju, autoreid ja ajakirjade nimesid, mis tunduvad tõelised, kuid mida pole üldse olemas. Need väljamõeldud allikad on nii veenvad, et patroon või isegi raamatukoguhoidja võib need bibliograafiasse lisada ilma neid kontrollimata. Humanitaar- ja sotsiaalteadustes on oht veelgi suurem: kui ajaloolasele fabritseeritakse "see dokument aastast 1897" või õigusteadlasele "see kohtuotsus", on tulemuseks tõsine valeinformatsioon.
Tähelepanu. Ühtegi tehisintellekti koostatud allika tsitaati, tsitaati ega viidet ei tohi kuhugi üle kanda ilma tõelises kataloogis, andmebaasis või allikas endas kontrollimata. See, et see "näib veenev välja", ei tähenda, et see on tõsi.
Kontrollimise distsipliin: kolm sammu
Põhiline distsipliin, mida raamatukoguhoidja peab AI-ga töötades järgima, on järgmine:
1. Ühendage allikaga. Iga fakt, arv, kuupäev ja jäljend peab põhinema algallikal. Küsige tehisintellektil "ütle mulle, mis allikast te selle teabe saite" ja kontrollige seda allikat iseseisvalt.
2. Kinnitage iseseisvalt. Kontrollige kriitilist teavet vähemalt ühes usaldusväärses allikas väljaspool tehisintellekti (autentne kataloog, ametlik andmebaas, esmane dokument).
3. Laske see läbi kaldfiltri. AI kannab endas koolitatud andmete eelarvamusi. Soovitatud teema, soovituste loend või kokkuvõte võib esile tuua teatud vaatenurgad ja varjutada teisi. Küsige, kes on kõrvale jäetud, milline perspektiiv puudub.
Privaatsus ja kasutaja privaatsus
Raamatukoguhoidja elukutse üks fundamentaalsemaid eetilisi põhimõtteid on kasutaja privaatsus: see, mida inimene loeb, mida otsib ja mis teema teda huvitab, on konfidentsiaalne. Andmete sisestamine tehisintellekti tööriistadesse, eriti Interneti kaudu töötavatesse avalikesse tööriistadesse, mis hõlmavad kasutajate identiteeti, otsinguajalugu või laenatud ressursse, võib seda põhimõtet rikkuda; sest need andmed võivad minna kolmandate osapoolte süsteemidesse.
Samuti ei tohiks organisatsioonis üldisesse tehisintellekti tööriista üles laadida salastamata, kuid tundlikke dokumente (personali teave, lepingud, sisemine kirjavahetus). Seda tüüpi andmete puhul eelistatakse asutuse enda turvalises suletud süsteemis töötavaid tööriistu.
Näpunäide. Enne tehisintellekti andmete sisestamist küsige "Kas see teave on avalik?" küsi. Kui vastus on eitav või te pole kindel, sisestage need andmed isikupärastatud, anonüümsesse vormingusse või kasutage ainult turvalisi tööriistu, mille asutus on heaks kiitnud.
kolm minikarpi
Juhtum 1 – 400 dokumendi metaandmete mustand. Ülikooli raamatukogu pidi kataloogima professori kingitud 400 dokumendist koosneva arhiivi. Ekspert valis tehisintellektiga iga dokumendi esimeselt lehelt pealkirja, kuupäeva ja teema soovituse mustandi: keskmine aeg dokumendi kohta vähenes 12 minutilt 4 minutile. Kuid iga jäljendi mustandit võrreldi originaaldokumendiga ja ekspert kiitis heaks; Selles etapis tabati 17 AI poolt välja mõeldud vale kuupäeva.
Juhtum 2 – tabati võltsallikas. Nõuandva raamatukoguhoidja sai YZ-lt 6 artiklisoovitust, otsides bakalaureuseõppe üliõpilase jaoks ressursse kliimarände kohta. Raamatukoguhoidja otsis need kõik asutuse andmebaasist: 2 artiklit 6-st ei eksisteerinud üldse. Kontrollimise samm takistas õpilasele fabritseeritud allika andmist.
Juhtum 3 – konfidentsiaalsuse rikkumine on välistatud. Raamatukogu kaalus üldise tehisintellekti tööriista kasutamist, et analüüsida, milline kasutaja millise teema vastu huvi tunneb. Infohaldur sai aru, et nende andmete kasutajatunnusega välja minemine oleks privaatsuse rikkumine; andmed muudeti esmalt anonüümseks ja neid töödeldi ainult koondatud, identifitseerimata statistikana.
Neli kopeeritavat malli
1) Alustage rollide ja piiride määratlemist:
Sinu roll: kogenud kataloogimise ja infohalduse assistent. Teie ülesanne: koostada mustand minu antud allika teabest. Reeglid: (1) Kasutage ainult minu antud tekstis sisalduvat teavet, ärge lisage oma andmeid. (2) Kui te pole kindel, märkige "[peab olema kinnitatud]". (3) Ärge tehke kuupäevi, nimesid ega jäljendeid. Kui saate aru, alustage. Allikas: [siin]
2) Valideerimiskontrolli küsimus:
Loetlege allolevas tekstis kõik faktilised väited (kuupäev, nimi, number, viide allikale). Igaühe kohta: kust te selle teabe saite? Kui see ei ole tekstis selgelt kirjas, kirjutage "mitte tekstis". Tekst: [siin]
3) Kallutatuse ja puuduva perspektiivi kontroll:
Milliseid vaatenurki järgnev kokkuvõte/soovitus tõstab esile ja millised jätab välja? Millised rühmad, piirkonnad või vaated võivad puududa? Toetuge lihtsalt tekstile, ärge spekuleerige. Tekst: [siin]
4) Privaatsuse eelkontroll:
Kas allolev tekst sisaldab isikuandmeid (nimi, ID-number, kontakt, lugemis-/otsinguajalugu) või tundlikku ettevõtteteavet? Kui jah, siis loetlege see ja soovitage, kuidas seda anonüümseks muuta. Tekst: [siin]
Nõrk viip / Tugev viip
Nõrk viip:
Otsige mulle selle teema kohta ressursse.
See viip kutsub AI-d üles looma võltsressursse. Rolle, piire, valideerimisreegleid ja ressursse pole. AI suudab toota usutavaid, kuid olematuid silte.
Võimas viip:
Sinu roll: teatmeraamatukoguhoidja assistent. Valige allpool toodud kataloogikirjetest need, mis on seotud teemaga "kliima ränne", ja selgitage, miks need on asjakohased. Ärge lisage allikaid, mida loendis pole, ärge fabritseerige allikaid. Kui te pole kindel, öelge "loetletud pole sobivaid allikaid". Kataloogi kirjed: [siin]
Erinevus on selge: tugev viip sunnib AI-d töötama antud reaalsest allikast, mitte oma mälust, ja takistab valmistamist.
Kiht- ja vastutustabel
ärikiht
näidisülesanne
AI roll
mehe otsus
mehaanilised
Metaandmete mustand, kokkuvõte, tõlge
Toodab kiiresti mustandeid
kontrollimine, kinnitamine
kvaasikohtulik
Teema pealkiri, allika soovitus
pakub ettepanekuid
Valik poliitika järgi
puhas kohtuotsus
Autentimine, autoriõiguse otsus
Ainult esialgne teave
Täielik vastutus lasub inimesel
Levinud vead
- AI väljundi asendamine allikaga. AI on assistent, mitte ressurss; Iga väljund on kinnitatud.
- Fabritseeritud allika aktsepteerimine veenvana. See, et see näeb hea välja, ei tähenda, et see on õige.
- Isiklike/tundlike andmete sisestamine avalikku tööriista. Kasutajate privaatsust ja ettevõtte konfidentsiaalsust austatakse algusest peale.
- Eelarvamuste eiramine. AI kannab endas nende andmete vaatenurki, mille põhjal seda koolitatakse; Küsi, mis puudu on.
- Kohtuotsuse jätmine tehisintellektile. Otsused täpsuse, autoriõiguse ja privaatsuse kohta kuuluvad inimestele.
Kokkuvõttes
tehisintellekt; See on võimas abiline raamatukogunduses ja teabehalduses kokkuvõtete tegemisel, koostamisel, tõlkimisel ja mustrite märgistamisel. See säästab palju aega mehaanilisel tööl; annab nõu kohtuasjadega mitteseotud küsimustes; Kuid täpsuse, allika usaldusväärsuse, kasutaja privaatsuse ja eetiliste otsuste kontrollimine kuulub inimestele. Hallutsinatsioonid on selle elukutse jaoks kõige suurem oht: allikatekste ega tsitaate ei kasutata ilma kontrollimiseta. Käivitage tehisintellekt selgete rolli-, piiri- ja valideerimisreeglitega; Kinnitage iga kriitiline väljund sõltumatu allikaga.
Rakenduse ülesanne
Valige oma valdkonnast tõeline teema. Küsige AI-lt selle teema kohta 5 ressursisoovitust, seejärel otsige igaüks neist tegelikust kataloogist või andmebaasist ja märkige, kui palju neid tegelikult on. Seejärel öelge malliga „Käivitamine rollide ja piiride määratlemine” AI-l töötama ainult teie esitatud teksti põhjal ja võrrelge kahe lähenemisviisi väljundit. Kirjutage, milline lähenemine takistab sobitamist.
kontrollnimekiri
- [ ] Määrasin, millises kihis (mehaaniline, pooljuriidiline, puhas otsustusvõime) ülesanne on.
- [ ] "Mis juhtub, kui see väljund on vale?" esitasin küsimuse.
- [ ] Olen kontrollinud iga krediiti ja tsitaati sõltumatu allika põhjal.
- [ ] Olen kontrollinud, et tehisintellekti sisestatavates andmetes ei oleks isiklikku/tundlikku teavet.
- [ ] Jätsin lõpliku otsuse ja vastutuse enda otsustada.