Gevinster:
- At kunne skelne, hvor kunstig intelligens sparer tid i bibliotekarets arbejdsgang (metadata, resumé, søgning, forslag), og hvor nøjagtighed, kildepålidelighed og privatlivsbeslutninger overlades til mennesker, afhængigt af risikoniveauet.
- Evne til at anvende en disciplin, der verificerer hvert output ved at linke det til kilden, bekræfte det i en uafhængig kilde og sende det gennem et biasfilter.
- At forstå, hvorfor hallucinationer, opdigtede kilder og brugernes privatliv er risici, der skal tages i betragtning i denne profession lige fra begyndelsen.
Når en katalogiseringsspecialist sætter sig ved sit skrivebord om morgenen, kan han have snesevis af nyligt ankomne bøger, hundredvis af dokumenter fra en donationssamling og en arkivboks, der venter på at blive digitaliseret. En referencebibliotekar (eksperten, der hjælper brugere med at finde information) besvarer spørgsmål i løbet af dagen som "hvor er den pålidelige kilde om dette emne?" En informationschef er ansvarlig for at holde en organisations tusindvis af dokumenter synlige og pålidelige. I denne enhed vil vi afklare, hvor netop kunstig intelligens (AI kort sagt; store sprogmodeller og lignende værktøjer) sparer tid i disse opgaver, og hvor dømmekraft, valg og ansvar forbliver hos mennesket.
Lad os starte med en definition: kunstig intelligens, hvormed vi mener sproggenererende og mønstergenkendende softwareværktøjer trænet på store mængder tekst. Disse værktøjer opsummerer, oversætter, foreslår klassificering, genererer udkast til tekst og markerer mønstre i store bidder af data. Men den ved ikke, om en kilde virkelig eksisterer, om en information er korrekt, eller om en brugers privatliv er beskyttet. Derfor er AI en assistent, ikke en beslutningstager i biblioteks- og informationsstyring.
Hvor virker kunstig intelligens, og hvor virker det ikke?
Lad os opdele bibliotekararbejdet i tre lag. Det første lag er mekaniske og gentagne opgaver: at udtrække kladdemetadata fra en bogs byline, opsummere en lang rapport, oversætte tekst fra et sprog til et andet, rense en tabel med data. AI er kraftfuld her og sparer meget tid.
Det andet lag er kvasi-retligt arbejde: hvilken emneoverskrift skal et dokument give, om der skal inkluderes en ressource i en samling, hvilken ressource der skal anbefale til en bruger. AI producerer forslag her, men eksperten, der kender institutionens politik og brugerens reelle behov, har det sidste ord.
Det tredje lag er ren dømmekraft og ansvarlighed: bekræftelse af, at oplysningerne er nøjagtige, beslutning om ophavsret, om følsomme personoplysninger skal videregives, bekræftelse af en kildes pålidelighed. På dette lag er AI'ens output kun et udgangspunkt; Ansvaret ligger udelukkende hos mennesker.
Tip: Før du giver en opgave til AI, spørg dig selv: "Hvad sker der, hvis dette output er forkert?" Hvis svaret er "Jeg vil spilde noget tid", er du velkommen til at bruge AI. Hvis svaret er "en falsk kilde spredes, en bruger er vildledt, eller personlige data er lækket", skal du sørge for at verificere outputtet.
Hallucination: bibliotekarens største fare
Hallucination er, når AI producerer ikke-eksisterende information, kilde eller citat, som om det var ægte, og i et ekstremt overbevisende sprog. Dette er særligt farligt for bibliotekar og informationshåndtering; fordi essensen af vores profession er kildens autenticitet og pålidelighed.
Når du fortæller AI om at "foreslå fem akademiske artikler om dette emne", kan den generere titler, forfattere og tidsskriftsnavne, der virker ægte, men som slet ikke eksisterer. Disse opdigtede kilder er så overbevisende, at en protektor eller endda en bibliotekar kan tilføje dem til en bibliografi uden at verificere dem. Inden for humaniora og samfundsvidenskab er faren endnu større: Når "det dokument fra 1897" er opdigtet til en historiker eller "den retsafgørelse" for en jurist, er resultatet alvorlig misinformation.
Bemærk: Ingen kildehenvisninger, citater eller referencer produceret af AI bør overføres nogen steder uden verifikation i et rigtigt katalog, database eller selve kilden. Bare fordi det "ser overbevisende ud", betyder det ikke, at det er sandt.
Verifikationsdisciplin: tre trin
Den grundlæggende disciplin, som bibliotekaren skal anvende, når han arbejder med AI, er denne:
1. Tilslut til kilden. Hver kendsgerning, figur, dato og aftryk skal være baseret på en original kilde. Spørg AI'en "fortæl mig fra hvilken kilde du har disse oplysninger" og tjek den kilde uafhængigt.
2. Bekræft uafhængigt. Bekræft kritisk information i mindst én pålidelig kilde uden for AI (autentisk katalog, officiel database, primært dokument).
3. Før det gennem biasfilteret. AI bærer skævhederne i de data, den er trænet på. Et foreslået emne, en liste med forslag eller et resumé kan fremhæve bestemte synspunkter og skjule andre. Spørg hvem der er udeladt, hvilket perspektiv der mangler.
Privatliv og brugernes privatliv
Et af de mest grundlæggende etiske principper i bibliotekarfaget er brugernes privatliv: hvad en person læser, hvad han søger efter, og hvilket emne han er interesseret i er fortroligt. Indtastning af data i AI-værktøjer, især offentlige værktøjer, der fungerer over internettet, som omfatter brugeres identitet, søgehistorik eller lånte ressourcer, kan være i strid med dette princip; fordi disse data kan gå til tredjeparts systemer.
Ligeledes bør uklassificerede, men følsomme dokumenter (personaleoplysninger, kontrakter, intern korrespondance) ikke uploades til et generelt AI-værktøj i en organisation. Værktøjer, der kører på institutionens eget sikre, lukkede system foretrækkes til denne type data.
Tip: Inden du indtaster data i AI, skal du spørge "Er disse oplysninger offentlige?" spørge. Hvis svaret er nej, eller du ikke er sikker, så læg disse data i et de-personaliseret, anonymt format eller brug kun sikre værktøjer godkendt af institutionen.
tre minisager
Sag 1 — Udkast til metadata for 400 dokumenter. Et universitetsbibliotek skulle katalogisere et arkiv med 400 dokumenter doneret af en professor. Eksperten udtog et udkast til titel, dato og emneforslag fra den første side af hvert dokument med AI: den gennemsnitlige tid pr. dokument faldt fra 12 minutter til 4 minutter. Men hvert udkast til aftryk blev sammenlignet med det originale dokument og godkendt af eksperten; 17 forkerte datoer lavet af AI blev fanget i dette trin.
Sag 2 — Falsk kilde fanget. En rådgivende bibliotekar modtog 6 artikelforslag fra YZ, mens han søgte efter ressourcer om "klimamigrering" for en bachelorstuderende. Bibliotekaren søgte i dem alle i institutionens database: 2 ud af 6 artikler eksisterede slet ikke. Verifikationstrinnet forhindrede eleven i at få en opdigtet kilde.
Sag 3 — Fortrolighedsbrud forhindret. Et bibliotek overvejede at bruge et generelt AI-værktøj til at analysere "hvilken bruger er interesseret i hvilket emne" fra kassen. Informationschefen indså, at det ville være en krænkelse af privatlivets fred for disse data at gå ud med bruger-id'et; dataene blev først anonymiseret og behandlet udelukkende som aggregeret, afidentificeret statistik.
Fire kopierbare skabeloner
1) Begynd at definere roller og grænser:
Din rolle: erfaren assistent katalogisering og informationshåndtering specialist. Din opgave: at udarbejde et udkast ud fra oplysningerne i den kilde, jeg gav dig. Regler: (1) Brug kun oplysningerne i den tekst, jeg gav dig, tilføj ikke dine egne oplysninger. (2) Marker "[skal verificeres]", hvor du ikke er sikker. (3) Undlad at finde på datoer, navne eller aftryk. Hvis du forstår, så start. Kilde: [her]
2) Spørgsmål om validering:
Angiv hver faktisk påstand (dato, navn, nummer, kildehenvisning) i teksten nedenfor. For hver: hvor i teksten har du fået disse oplysninger? Hvis det ikke står tydeligt i teksten, så skriv "ikke i teksten". Tekst: [her]
3) Bias og manglende perspektivkontrol:
Hvilke perspektiver fremhæver følgende opsummering/anbefaling, og hvilke udelader den? Hvilke grupper, regioner eller synspunkter mangler måske? Bare stol på teksten, lad være med at spekulere. Tekst: [her]
4) Forhåndskontrol af privatlivets fred:
Indeholder teksten nedenfor persondata (navn, ID-nummer, kontaktperson, læse-/søgehistorik) eller følsomme virksomhedsoplysninger? Hvis det er tilfældet, skal du liste det og foreslå, hvordan det kan anonymiseres. Tekst: [her]
Svag prompt / Stærk prompt
Svag prompt:
Find mig nogle ressourcer om dette emne.
Denne prompt inviterer AI til at generere falske ressourcer. Der er ingen roller, grænser, valideringsregler og ressourcer. AI kan producere troværdige, men ikke-eksisterende tags.
Kraftig prompt:
Din rolle: referencebibliotekarassistent. Vælg dem, der er relateret til emnet "klimamigration" fra de katalogposter, jeg har givet dig nedenfor, og forklar, hvorfor de er relevante. Tilføj ikke kilder, der ikke er på listen, fabriker ikke kilder. Når du ikke er sikker, så sig "der er ingen egnede kilder på listen." Katalogposter: [her]
Forskellen er klar: stærk prompt tvinger AI til at arbejde fra den givne reelle kilde, ikke fra sin egen hukommelse, og forhindrer fremstilling.
Lag- og ansvarstabel
forretningslag
prøveopgave
AI's rolle
mands beslutning
mekanisk
Udkast til metadata, resumé, oversættelse
Fremstiller hurtigt udkast
verifikation, godkendelse
kvasi-retslig
Emnetitel, kildeforslag
giver forslag
Valg efter politik
ren dømmekraft
Autentificering, beslutning om ophavsret
Kun foreløbige oplysninger
Det fulde ansvar ligger hos personen
Almindelige fejl
- Erstatning af AI-output for kilden. AI er en assistent, ikke en ressource; Hvert output er valideret.
- Accepterer den opdigtede kilde som overbevisende. Bare fordi det ser godt ud, betyder det ikke, at det er rigtigt.
- Indtastning af personlige/følsomme data i det offentlige værktøj. Brugernes privatliv og virksomhedens fortrolighed respekteres lige fra begyndelsen.
- Ignorerer fordomme. AI bærer perspektiverne af de data, som den er trænet på; Spørg hvad der mangler.
- Overlader dommen til AI. Beslutninger om nøjagtighed, ophavsret og privatliv tilhører mennesker.
Sammenfattende
kunstig intelligens; Det er en kraftfuld assistent til at opsummere, udarbejde, oversætte og markere mønster i biblioteks- og informationshåndtering. Det sparer meget tid i mekanisk arbejde; giver råd om kvasi-retlige spørgsmål; Men verifikation af nøjagtighed, pålidelighed af kilden, brugernes privatliv og etiske beslutninger tilhører mennesker. Hallucination er den største fare for dette erhverv: ingen kildeangivelser eller citater bruges uden verifikation. Kør AI med klare rolle-, grænse- og valideringsregler; Bekræft hvert kritisk output med en uafhængig kilde.
Ansøgningsopgave
Vælg et rigtigt emne fra dit felt. Bed AI om 5 ressourceanbefalinger om det emne, søg derefter hver enkelt i et faktisk katalog eller database og noter, hvor mange der faktisk findes. Derefter, med skabelonen "Opstart definerer roller og grænser", fortæl AI'en om kun at arbejde ud fra en tekst, du leverer, og sammenlign outputtet fra de to tilgange. Skriv hvilken tilgang der forhindrer tilpasning.
tjekliste
- [ ] Jeg bestemte hvilket lag (mekanisk, semi-retligt, ren dømmekraft) opgaven er på.
- [ ] "Hvad sker der, hvis dette output er forkert?" Jeg stillede spørgsmålet.
- [ ] Jeg har verificeret hver kredit og citat mod en uafhængig kilde.
- [ ] Jeg har kontrolleret, at der ikke er nogen personlige/følsomme oplysninger i de data, der kommer ind i AI.
- [ ] Jeg holdt den endelige beslutning og ansvar efter eget skøn.