Pelnas:
- Gebėjimas atskirti, kur dirbtinis intelektas sutaupo laiką bibliotekininkystės darbo eigoje (metaduomenys, santrauka, paieška, pasiūlymas), o kur tikslumo, šaltinio patikimumo ir privatumo sprendimai paliekami žmonėms, priklausomai nuo rizikos lygio.
- Gebėjimas taikyti discipliną, kuri patikrina kiekvieną išvestį susiejant ją su šaltiniu, patvirtinant nepriklausomame šaltinyje ir perduodant per šališkumo filtrą.
- Supratimas, kodėl haliucinacijos, išgalvoti šaltiniai ir vartotojų privatumas yra rizika, į kurią šioje profesijoje reikia atsižvelgti nuo pat pradžių.
Kai katalogavimo specialistas ryte atsisėda prie savo stalo, jis gali turėti dešimtis naujai atvežtų knygų, šimtus dokumentų iš aukų kolekcijos ir archyvo dėžutę, kurios laukia skaitmeninimo. Informacinis bibliotekininkas (ekspertas, padedantis vartotojams rasti informaciją) visą dieną atsako į klausimus, pavyzdžiui, „kur yra patikimas šaltinis šia tema? Informacijos valdytojas yra atsakingas už tai, kad tūkstančiai organizacijos dokumentų būtų atrandami ir patikimi. Šiame skyriuje išsiaiškinsime, kur tiksliai dirbtinis intelektas (trumpiau AI; dideli kalbos modeliai ir panašūs įrankiai) sutaupo laiko atliekant šias užduotis, o kur sprendimas, pasirinkimas ir atsakomybė lieka žmogui.
Pradėkime nuo apibrėžimo: dirbtinis intelektas, kuriuo turime omenyje kalbos generavimo ir modelių atpažinimo programinės įrangos įrankius, išmokytus naudoti didelius teksto kiekius. Šie įrankiai apibendrina, verčia, siūlo klasifikaciją, generuoja teksto juodraštį ir žymi šablonus didelėse duomenų dalyse. Tačiau ji nežino, ar šaltinis tikrai egzistuoja, ar informacija yra teisinga, ar apsaugotas vartotojo privatumas. Štai kodėl bibliotekininkystėje ir informacijos valdyme AI yra asistentas, o ne sprendimų priėmėjas.
Kur dirbtinis intelektas veikia ir kur neveikia?
Bibliotekininkystės darbo eigą padalinkime į tris sluoksnius. Pirmasis sluoksnis yra mechaninės ir pasikartojančios užduotys: juodraščio metaduomenų ištraukimas iš knygos eilutės, ilgos ataskaitos apibendrinimas, teksto vertimas iš vienos kalbos į kitą, duomenų lentelės valymas. AI čia yra galingas ir sutaupo daug laiko.
Antrasis lygmuo yra beveik teisminis darbas: kokia temos antraštė duoti dokumentui, ar įtraukti šaltinį į rinkinį, kokį šaltinį rekomenduoti vartotojui. AI čia pateikia pasiūlymus, tačiau paskutinį žodį taria ekspertas, išmanantis institucijos politiką ir tikruosius vartotojo poreikius.
Trečiasis lygmuo yra grynas sprendimas ir atskaitomybė: patvirtinimas, kad informacija yra tiksli, sprendimas dėl autorių teisių, ar atskleisti jautrius asmens duomenis, patvirtinti šaltinio patikimumą. Šiame lygmenyje AI išvestis yra tik atskaitos taškas; Visa atsakomybė tenka žmonėms.
Patarimas: prieš pateikdami užduotį AI, paklauskite savęs: „Kas nutiks, jei ši išvestis neteisinga? Jei atsakymas yra „švaisčiau šiek tiek laiko“, nedvejodami naudokite AI. Jei atsakymas yra „paskleistas klaidingas šaltinis, vartotojas suklaidinamas arba nutekėjo asmens duomenys“, būtinai patikrinkite išvestį.
Haliucinacijos: didžiausias bibliotekininko pavojus
Haliucinacijos yra tada, kai dirbtinis intelektas pateikia neegzistuojančią informaciją, šaltinį ar citatą, tarsi ji būtų tikra, ir itin įtikinama kalba. Tai ypač pavojinga bibliotekininkystei ir informacijos valdymui; nes mūsų profesijos esmė – šaltinio autentiškumas ir patikimumas.
Kai liepiate AI „pasiūlyti penkis akademinius darbus šia tema“, jis gali generuoti pavadinimus, autorius ir žurnalų pavadinimus, kurie atrodo tikri, bet iš viso neegzistuoja. Šie išgalvoti šaltiniai yra tokie įtikinami, kad mecenatas ar net bibliotekininkas gali įtraukti juos į bibliografiją jų nepatikrinęs. Humanitariniuose ir socialiniuose moksluose pavojus dar didesnis: kai istorikui sufabrikuojamas „tas 1897 metų dokumentas“ arba teisininkui „tas teismo sprendimas“, rezultatas – rimta dezinformacija.
Dėmesio: Jokia AI sukurta šaltinio citata, citata ar nuoroda neturėtų būti niekur perkeliama be patikrinimo tikrame kataloge, duomenų bazėje ar pačiame šaltinyje. Vien todėl, kad tai „atrodo įtikinamai“, dar nereiškia, kad tai tiesa.
Tikrinimo disciplina: trys žingsniai
Pagrindinė disciplina, kurią bibliotekininkas turi taikyti dirbdamas su AI, yra ši:
1. Prisijunkite prie šaltinio. Kiekvienas faktas, skaičius, data ir įspaudas turi būti pagrįsti pirminiu šaltiniu. Paklauskite AI „pasakykite, iš kokio šaltinio gavote šią informaciją“ ir patikrinkite tą šaltinį atskirai.
2. Patvirtinti savarankiškai. Patikrinkite svarbią informaciją bent viename patikimame šaltinyje už AI (autentiškas katalogas, oficiali duomenų bazė, pirminis dokumentas).
3. Praleiskite jį per poslinkio filtrą. AI neša duomenų, kuriais jis mokomas, šališkumą. Siūloma tema, pasiūlymų sąrašas arba santrauka gali išryškinti tam tikrus požiūrius, o kitus užtemdyti. Paklauskite, kas liko nuošalyje, kokios perspektyvos trūksta.
Privatumas ir vartotojo privatumas
Vienas iš pagrindinių bibliotekininko profesijos etinių principų yra vartotojo privatumas: tai, ką žmogus skaito, ko ieško ir kokia tema domisi, yra konfidencialu. Duomenų įvedimas į dirbtinio intelekto įrankius, ypač viešuosius įrankius, veikiančius internetu, įskaitant naudotojų tapatybes, paieškos istoriją ar pasiskolintus išteklius, gali pažeisti šį principą; nes šie duomenys gali patekti į trečiųjų šalių sistemas.
Taip pat organizacijoje neįslaptinti, bet jautrūs dokumentai (personalo informacija, sutartys, vidinė korespondencija) neturėtų būti įkeliami į bendrą AI įrankį. Šio tipo duomenims pirmenybė teikiama priemonėms, veikiančioms pačios įstaigos saugioje, uždaroje sistemoje.
Patarimas: prieš įvesdami bet kokius duomenis į AI, paklauskite „Ar ši informacija vieša? paklausti. Jei atsakymas yra neigiamas arba nesate tikri, pateikite tuos duomenis nuasmenintu, anoniminiu formatu arba naudokite tik saugias institucijos patvirtintas priemones.
trys mini dėklai
1 atvejis – 400 dokumentų metaduomenų projektas. Universiteto biblioteka turėjo kataloguoti 400 profesoriaus dovanotų dokumentų archyvą. Ekspertas iš kiekvieno dokumento su AI pirmojo puslapio ištraukė pavadinimo juodraštį, datą ir temos pasiūlymą: vidutinis dokumento laikas sumažėjo nuo 12 minučių iki 4 minučių. Bet kiekvienas atspaudo juodraštis buvo lyginamas su pirminiu dokumentu ir patvirtintas eksperto; Šiame žingsnyje buvo užfiksuota 17 neteisingų AI nustatytų datų.
2 atvejis – pagautas netikras šaltinis. Patariamoji bibliotekininkė gavo 6 straipsnių pasiūlymus iš YZ, ieškodama išteklių apie „klimato migraciją“ bakalauro studentams. Bibliotekininkė juos visus ieškojo įstaigos duomenų bazėje: 2 iš 6 straipsnių iš viso nebuvo. Patikrinimo veiksmas neleido studentui pateikti išgalvoto šaltinio.
3 atvejis. Užkirstas kelias konfidencialumo pažeidimui. Biblioteka svarstė galimybę naudoti bendrąjį AI įrankį, kad iš atsiskaitymo įrašų analizuotų „kuris vartotojas kokia tema domisi“. Informacijos valdytojas suprato, kad šių duomenų išėjimas su vartotojo ID būtų privatumo pažeidimas; duomenys pirmiausia buvo anonimizuoti ir tvarkomi tik kaip apibendrinta, identifikuota statistika.
Keturi kopijuojami šablonai
1) Pradėkite apibrėžti vaidmenis ir ribas:
Jūsų vaidmuo: patyręs katalogavimo ir informacijos valdymo specialisto padėjėjas. Jūsų užduotis: parengti juodraštį iš informacijos šaltinyje, kurį jums pateikiau. Taisyklės: (1) Naudokite tik mano pateikto teksto informaciją, nepridėkite savo informacijos. (2) Pažymėkite „[būtina patikrinti]“, kur nesate tikri. (3) Nedarykite jokių datų, vardų ar įspaudų. Jei supranti, pradėk. Šaltinis: [čia]
2) Patvirtinimo patikrinimo klausimas:
Toliau esančiame tekste išvardykite kiekvieną faktinį teiginį (data, pavadinimas, numeris, šaltinio citata). Kiekvienam: kur tekste gavote šią informaciją? Jei tekste nėra aiškiai, parašykite „ne tekste“. Tekstas: [čia]
3) Poslinkio ir trūkstamos perspektyvos tikrinimas:
Kokias perspektyvas išryškina toliau pateikta santrauka/rekomendacija, o kurios jos nepaisoma? Kokių grupių, regionų ar požiūrių gali trūkti? Tiesiog pasikliaukite tekstu, nespėliokite. Tekstas: [čia]
4) Išankstinė privatumo patikra:
Ar toliau pateiktame tekste yra asmens duomenų (vardas, pavardė, ID numeris, kontaktas, skaitymo / paieškos istorija) arba neskelbtinos įmonės informacijos? Jei taip, išvardykite jį ir pasiūlykite, kaip jį anonimizuoti. Tekstas: [čia]
Silpnas raginimas / Stiprus raginimas
Silpnas raginimas:
Raskite man keletą išteklių šia tema.
Šis raginimas ragina AI generuoti netikrus išteklius. Nėra vaidmenų, ribų, patvirtinimo taisyklių ir išteklių. AI gali sukurti patikimas, bet neegzistuojančias žymas.
Galingas raginimas:
Jūsų vaidmuo: bibliotekininko padėjėjas. Iš žemiau pateiktų katalogo įrašų pasirinkite tuos, kurie yra susiję su „klimato migracijos“ tema, ir paaiškinkite, kodėl jie aktualūs. Nepridėkite šaltinių, kurių nėra sąraše, nekurkite šaltinių. Kai nesate tikri, pasakykite „nėra tinkamų šaltinių sąraše“. Katalogo įrašai: [čia]
Skirtumas aiškus: stiprus raginimas verčia dirbtinį intelektą dirbti iš nurodyto tikrojo šaltinio, o ne iš savo atminties, ir neleidžia kurti.
Sluoksnių ir atsakomybės lentelė
verslo sluoksnis
užduoties pavyzdys
AI vaidmuo
vyro sprendimas
mechaninis
Metaduomenų juodraštis, santrauka, vertimas
Greitai sukuria juodraščius
patikrinimas, patvirtinimas
kvaziteisminis
Temos pavadinimas, šaltinio pasiūlymas
siūlo pasiūlymus
Pasirinkimas pagal politiką
grynas nuosprendis
Autentifikavimas, sprendimas dėl autorių teisių
Tik išankstinė informacija
Visa atsakomybė tenka žmogui
Dažnos klaidos
- AI išvesties pakeitimas šaltiniu. AI yra asistentas, o ne šaltinis; Kiekviena išvestis yra patvirtinta.
- Sugalvoto šaltinio priėmimas kaip įtikinamas. Vien todėl, kad atrodo gerai, dar nereiškia, kad tai teisinga.
- Asmeninių / neskelbtinų duomenų įvedimas į viešąjį įrankį. Nuo pat pradžių gerbiamas vartotojų privatumas ir įmonės konfidencialumas.
- Ignoruojant išankstinį nusistatymą. DI neša duomenų, kuriais remdamasis yra mokomas, perspektyvas; Paklausk, ko trūksta.
- Palikti sprendimą AI. Sprendimai dėl tikslumo, autorių teisių ir privatumo priklauso žmonėms.
Apibendrinant
dirbtinis intelektas; Tai galingas asistentas apibendrinant, rengiant, verčiant ir žymint šablonus bibliotekininkystės ir informacijos valdymo srityse. Tai sutaupo daug laiko atliekant mechaninius darbus; teikia konsultacijas kvaziteisminiais klausimais; Tačiau tikslumo, šaltinio patikimumo, vartotojo privatumo ir etinių sprendimų patikrinimas priklauso žmonėms. Haliucinacijos šiai profesijai kelia didžiausią pavojų: jokie šaltinio kreditai ar citatos nenaudojami be patikrinimo. Vykdykite AI su aiškiomis vaidmenimis, ribomis ir patvirtinimo taisyklėmis; Patvirtinkite kiekvieną kritinę išvestį naudodami nepriklausomą šaltinį.
Taikymo užduotis
Pasirinkite tikrą temą iš savo srities. Paprašykite AI pateikti 5 išteklių rekomendacijas ta tema, tada ieškokite kiekvieno iš jų tikrame kataloge ar duomenų bazėje ir pažymėkite, kiek jų iš tikrųjų yra. Tada naudodami šabloną „Paleistis, apibrėžiantys vaidmenis ir ribas“, nurodykite AI dirbti tik pagal jūsų pateiktą tekstą ir palyginkite dviejų metodų išvestį. Parašykite, kuris metodas neleidžia pritaikyti.
kontrolinis sąrašas
- [ ] Nustačiau, kuriame lygmenyje (mechaninis, pusiau teisminis, grynasis sprendimas) yra užduotis.
- [ ] "Kas atsitiks, jei ši išvestis bus neteisinga?" Aš uždaviau klausimą.
- [ ] Kiekvieną kreditą ir citatą patikrinau pagal nepriklausomą šaltinį.
- [ ] Patikrinau, kad į AI įvedamuose duomenyse nėra asmeninės / neskelbtinos informacijos.
- [ ] Galutinį sprendimą ir atsakomybę pasilikau savo nuožiūra.