Dobici:
- Sposobnost razlikovati gdje umjetna inteligencija štedi vrijeme u knjižničarskom tijeku rada (metapodaci, sažetak, pretraživanje, prijedlozi), a gdje su točnost, pouzdanost izvora i odluke o privatnosti prepuštene ljudima, ovisno o razini rizika.
- Sposobnost primjene discipline koja provjerava svaki izlaz povezujući ga s izvorom, potvrđujući ga u neovisnom izvoru i propuštajući ga kroz filter pristranosti.
- Razumijevanje zašto su halucinacije, izmišljeni izvori i privatnost korisnika rizici koji se moraju uzeti u obzir u ovoj profesiji od samog početka.
Kad stručnjak za katalogizaciju ujutro sjedne za svoj stol, možda ima desetke novopristiglih knjiga, stotine dokumenata iz zbirke donacija i arhivsku kutiju koja čeka na digitalizaciju. Referentni knjižničar (stručnjak koji pomaže korisnicima pronaći informacije) odgovara na pitanja tijekom dana poput "gdje je pouzdan izvor o ovoj temi?" Upravitelj informacija odgovoran je za održavanje tisuća dokumenata organizacije dostupnima i pouzdanima. U ovoj cjelini razjasnit ćemo gdje točno umjetna inteligencija (ukratko AI; veliki jezični modeli i slični alati) štedi vrijeme u tim zadacima, a gdje prosudba, izbor i odgovornost ostaju na čovjeku.
Počnimo s definicijom: umjetna inteligencija, pod kojom mislimo na softverske alate za generiranje jezika i prepoznavanje uzoraka uvježbane na velikim količinama teksta. Ovi alati sažimaju, prevode, predlažu klasifikaciju, generiraju nacrt teksta i označavaju uzorke u velikim dijelovima podataka. Ali ne zna postoji li izvor doista, je li informacija točna ili je li zaštićena privatnost korisnika. Zato je u knjižničarstvu i upravljanju informacijama AI pomoćnik, a ne donositelj odluka.
Gdje umjetna inteligencija radi, a gdje ne?
Podijelimo radni tijek knjižničarstva u tri sloja. Prvi sloj su mehanički i ponavljajući zadaci: izdvajanje nacrta metapodataka iz reda autora knjige, sažimanje dugog izvješća, prevođenje teksta s jednog jezika na drugi, čišćenje tablice podataka. AI je ovdje moćan i štedi puno vremena.
Drugi sloj je kvazisudski rad: koju predmetnu odrednicu dati dokumentu, treba li izvor uključiti u zbirku, koji izvor preporučiti korisniku. AI ovdje daje sugestije, ali zadnju riječ ima stručnjak koji poznaje politiku ustanove i stvarne potrebe korisnika.
Treći sloj je čista prosudba i odgovornost: potvrda da su informacije točne, odlučivanje o autorskim pravima, hoće li se otkriti osjetljivi osobni podaci, potvrda pouzdanosti izvora. Na ovom sloju, izlaz umjetne inteligencije je samo početna točka; Odgovornost je u potpunosti na ljudima.
Savjet: Prije nego što AI-ju date zadatak, zapitajte se: "Što se događa ako je ovaj rezultat pogrešan?" Ako je odgovor "izgubit ću malo vremena", slobodno upotrijebite AI. Ako je odgovor "širi se lažni izvor, korisnik je doveden u zabludu ili cure osobni podaci", svakako provjerite izlaz.
Halucinacije: najveća opasnost za knjižničara
Halucinacija je kada AI proizvodi nepostojeću informaciju, izvor ili citat kao da je stvaran, i to na izuzetno uvjerljivom jeziku. To je posebno opasno za knjižničarstvo i upravljanje informacijama; jer bit naše profesije je autentičnost i pouzdanost izvora.
Kada kažete umjetnoj inteligenciji da "predloži pet akademskih radova na ovu temu", ona može generirati naslove, autore i nazive časopisa koji izgledaju stvarni, ali uopće ne postoje. Ovi izmišljeni izvori toliko su uvjerljivi da ih pokrovitelj ili čak knjižničar može dodati u bibliografiju bez da ih provjeri. U humanističkim i društvenim znanostima opasnost je još veća: kad se za povjesničara izmisli "onaj dokument iz 1897.", a za pravnika "ona sudska odluka", rezultat su ozbiljne dezinformacije.
Pažnja: Nijedan izvorni citat, citat ili referenca proizvedena od strane AI ne smije se prenositi nigdje bez provjere u stvarnom katalogu, bazi podataka ili samom izvoru. Samo zato što "izgleda uvjerljivo" ne znači da je istina.
Disciplina provjere: tri koraka
Osnovna disciplina koju knjižničar mora primijeniti kada radi s umjetnom inteligencijom je sljedeća:
1. Spojite se na izvor. Svaka činjenica, brojka, datum i otisak moraju se temeljiti na izvornom izvoru. Zamolite AI "reci mi iz kojeg si izvora dobio ovu informaciju" i provjeri taj izvor neovisno.
2. Samostalno potvrditi. Provjerite kritične informacije u barem jednom pouzdanom izvoru izvan AI (autentičan katalog, službena baza podataka, primarni dokument).
3. Propustite ga kroz prednaponski filtar. AI nosi pristranosti podataka na kojima se trenira. Predložena tema, popis prijedloga ili sažetak mogu istaknuti određena stajališta, a zakloniti druga. Pitajte tko je izostavljen, koja perspektiva nedostaje.
Privatnost i privatnost korisnika
Jedno od temeljnih etičkih načela knjižničarske profesije je privatnost korisnika: povjerljivo je ono što osoba čita, što traži i koja je tema zanima. Unošenje podataka u alate umjetne inteligencije, posebno javne alate koji rade preko interneta, koji uključuju identitete korisnika, povijest pretraživanja ili posuđene resurse može prekršiti ovo načelo; jer ti podaci mogu ići u sustave trećih strana.
Isto tako, u organizaciji, neklasificirani, ali osjetljivi dokumenti (podaci o osoblju, ugovori, interna prepiska) ne bi se trebali učitavati u opći alat AI. Alati koji rade na vlastitom sigurnom, zatvorenom sustavu ustanove preferiraju se za ovu vrstu podataka.
Savjet: prije unosa bilo kakvih podataka u AI, pitajte "Jesu li ove informacije javne?" pitati. Ako je odgovor negativan ili niste sigurni, stavite te podatke u depersonalizirani, anonimni format ili koristite samo sigurne alate koje je odobrila institucija.
tri mini kućišta
Slučaj 1 — Nacrt metapodataka za 400 dokumenata. Sveučilišna knjižnica morala je katalogizirati arhivu od 400 dokumenata koje je donirao jedan profesor. Stručnjak je pomoću umjetne inteligencije izvukao nacrt naslova, datuma i prijedloga teme s prve stranice svakog dokumenta: prosječno vrijeme po dokumentu smanjeno je s 12 minuta na 4 minute. Ali svaki nacrt otiska uspoređen je s izvornim dokumentom i odobren od strane stručnjaka; U ovom je koraku uhvaćeno 17 netočnih datuma koje je smislila AI.
Slučaj 2 — Uhvaćen lažni izvor. Knjižničar savjetnik dobio je 6 prijedloga članaka od YZ dok je tražio izvore o "klimatskim migracijama" za studenta dodiplomskog studija. Knjižničarka ih je sve pretražila u bazi podataka ustanove: 2 od 6 članaka uopće nisu postojala. Korak provjere spriječio je da student dobije izmišljeni izvor.
Slučaj 3 — Spriječena povreda povjerljivosti. Knjižnica je razmatrala korištenje općeg alata umjetne inteligencije za analizu "koji je korisnik zainteresiran za koju temu" iz zapisa o naplati. Upravitelj informacija shvatio je da bi bilo kršenje privatnosti ako bi ti podaci izašli s korisničkim ID-om; podaci su prvo anonimizirani i obrađeni isključivo kao agregirana, deidentificirana statistika.
Četiri predloška za kopiranje
1) Počnite definirati uloge i granice:
Vaša uloga: iskusni pomoćni stručnjak za katalogizaciju i upravljanje informacijama. Vaš zadatak: izraditi nacrt iz informacija u izvoru koji sam vam dao. Pravila: (1) Koristite samo podatke u tekstu koji sam vam dao, nemojte dodavati svoje podatke. (2) Označite "[mora biti potvrđeno]" tamo gdje niste sigurni. (3) Nemojte izmišljati nikakve datume, imena ili otiske. Ako razumiješ, počni. Izvor: [ovdje]
2) Pitanje za provjeru valjanosti:
Navedite svaku činjeničnu tvrdnju (datum, ime, broj, navod izvora) u donjem tekstu. Za svaki: gdje ste u tekstu dobili te podatke? Ako nije jasno u tekstu, napišite "nije u tekstu". Tekst: [ovdje]
3) Provjera pristranosti i nedostajuće perspektive:
Koje perspektive sljedeći sažetak/preporuka ističe, a koje izostavlja? Koje grupe, regije ili pogledi možda nedostaju? Oslonite se samo na tekst, nemojte nagađati. Tekst: [ovdje]
4) Prethodna provjera privatnosti:
Sadrži li donji tekst osobne podatke (ime, osobni broj, kontakt, povijest čitanja/pretraživanja) ili osjetljive korporativne podatke? Ako je tako, navedite ga i predložite kako se može anonimizirati. Tekst: [ovdje]
Slab upit / Jak upit
Slab upit:
Pronađite mi neke resurse o ovoj temi.
Ovaj upit poziva AI da generira lažne resurse. Ne postoje uloge, granice, pravila provjere valjanosti i resursi. AI može proizvesti uvjerljive, ali nepostojeće oznake.
Snažan upit:
Vaša uloga: stručni knjižničar. Odaberite one koje se odnose na temu "klimatske migracije" iz kataloških unosa koje sam vam dao u nastavku i objasnite zašto su relevantni. Nemojte dodavati izvore koji nisu na popisu, nemojte izmišljati izvore. Ako niste sigurni, recite "nema navedenih prikladnih izvora." Unosi u katalog: [ovdje]
Razlika je jasna: snažan prompt prisiljava AI da radi iz danog stvarnog izvora, a ne iz vlastite memorije, i sprječava fabrikaciju.
Tablica slojeva i odgovornosti
poslovni sloj
ogledni zadatak
Uloga umjetne inteligencije
čovjekova odluka
mehanički
Nacrt metapodataka, sažetak, prijevod
Brzo proizvodi nacrte
verifikacija, odobrenje
kvazisudski
Naslov teme, prijedlog izvora
nudi prijedloge
Odabir prema politici
čista prosudba
Autentifikacija, odluka o autorskim pravima
Samo preliminarne informacije
Potpuna odgovornost leži na osobi
Uobičajene greške
- Zamjena AI izlaza za izvor. AI je pomoćnik, a ne resurs; Svaki izlaz je validiran.
- Prihvaćajući izmišljeni izvor kao uvjerljiv. Samo zato što izgleda dobro ne znači da je ispravno.
- Unos osobnih/osjetljivih podataka u javni alat. Privatnost korisnika i korporativna povjerljivost poštuju se od samog početka.
- Ignoriranje predrasuda. AI nosi perspektive podataka na kojima se obučava; Pitaj što nedostaje.
- Prepuštajući prosudbu AI-u. Odluke o točnosti, autorskim pravima i privatnosti pripadaju ljudima.
Ukratko
umjetna inteligencija; To je moćan pomoćnik za sažimanje, izradu nacrta, prevođenje i označavanje uzoraka u knjižničarstvu i upravljanju informacijama. Štedi puno vremena u mehaničkom radu; daje savjete o kvazisudskim stvarima; Ali provjera točnosti, pouzdanosti izvora, privatnosti korisnika i etičkih odluka pripadaju ljudima. Halucinacija je najveća opasnost za ovu profesiju: nikakvi izvori ili citati ne koriste se bez provjere. Pokrenite AI s jasnom ulogom, granicama i pravilima provjere valjanosti; Potvrdite svaki kritični rezultat s neovisnim izvorom.
Zadatak aplikacije
Odaberite pravu temu iz svog područja. Zamolite AI za 5 preporuka resursa na tu temu, zatim pretražite svaki u stvarnom katalogu ili bazi podataka i zabilježite koliko ih zapravo postoji. Zatim, s predloškom "Pokretanje definira uloga i granica", recite umjetnoj inteligenciji da radi samo na temelju teksta koji ste dali i usporedite rezultate dvaju pristupa. Napiši koji pristup sprječava uklapanje.
popis za provjeru
- [ ] Odredio sam na kojem se sloju (mehanički, polusudski, čista prosudba) nalazi zadatak.
- [ ] "Što se događa ako ovaj izlaz nije točan?" Ja sam postavio pitanje.
- [ ] Provjerio sam svaku zaslugu i citat u odnosu na neovisni izvor.
- [ ] Provjerio sam da nema osobnih/osjetljivih informacija u podacima koji ulaze u AI.
- [ ] Konačnu odluku i odgovornost zadržao sam po vlastitom nahođenju.