Winst:
- Onderscheid kunnen maken waar kunstmatige intelligentie tijd bespaart in de workflow van het bibliotheekwezen (metadata, samenvattingen, zoeken, suggestie) en waar nauwkeurigheid, bronbetrouwbaarheid en privacybeslissingen aan mensen worden overgelaten, afhankelijk van het risiconiveau.
- Mogelijkheid om een discipline toe te passen die elke output verifieert door deze aan de bron te koppelen, deze in een onafhankelijke bron te bevestigen en deze door een biasfilter te laten gaan.
- Begrijpen waarom hallucinatie, verzonnen bronnen en de privacy van gebruikers risico's zijn waarmee in dit beroep vanaf het begin rekening moet worden gehouden.
Als een catalogiseerspecialist 's ochtends aan zijn bureau zit, heeft hij mogelijk tientallen nieuw binnengekomen boeken, honderden documenten uit een schenkingscollectie en een archiefdoos die wacht om te worden gedigitaliseerd. Een referentiebibliothecaris (de expert die gebruikers helpt informatie te vinden) beantwoordt de hele dag vragen als “waar is de betrouwbare bron over dit onderwerp?” Een informatiemanager is verantwoordelijk voor het vindbaar en betrouwbaar houden van de duizenden documenten van een organisatie. In deze unit zullen we duidelijk maken waar kunstmatige intelligentie (kortweg AI; grote taalmodellen en soortgelijke tools) precies tijd bespaart bij deze taken, en waar oordeel, keuze en verantwoordelijkheid bij de mens blijven.
Laten we beginnen met een definitie: kunstmatige intelligentie, waarmee we taalgenererende en patroonherkennende softwaretools bedoelen die zijn getraind op grote hoeveelheden tekst. Deze tools vatten, vertalen, suggereren classificatie, genereren concepttekst en markeren patronen in grote hoeveelheden gegevens. Maar het weet niet of een bron werkelijk bestaat, of informatie correct is, of dat de privacy van een gebruiker beschermd is. Daarom is AI op het gebied van bibliotheek- en informatiebeheer een assistent en geen beslisser.
Waar werkt kunstmatige intelligentie en waar niet?
Laten we de workflow van het bibliotheekwezen in drie lagen verdelen. De eerste laag bestaat uit mechanische en repetitieve taken: het extraheren van concept-metagegevens uit de naamregel van een boek, het samenvatten van een lang rapport, het vertalen van tekst van de ene taal naar de andere, het opschonen van een tabel met gegevens. AI is hier krachtig en bespaart veel tijd.
De tweede laag is quasi-judicieel werk: welke onderwerptitel moet een document worden gegeven, of een bron in een collectie moet worden opgenomen, welke bron moet worden aanbevolen aan een gebruiker. AI komt hier met suggesties, maar de expert die het beleid van de instelling en de werkelijke behoeften van de gebruiker kent, heeft het laatste woord.
De derde laag is puur oordeel en verantwoordelijkheid: bevestigen dat informatie juist is, beslissen over auteursrecht, of gevoelige persoonlijke gegevens openbaar moeten worden gemaakt, bevestigen van de betrouwbaarheid van een bron. Op deze laag is de output van de AI slechts een startpunt; De verantwoordelijkheid ligt volledig bij de mens.
Tip: Voordat u een taak aan de AI geeft, moet u uzelf de vraag stellen: “Wat gebeurt er als deze uitvoer verkeerd is?” Als het antwoord is: "Ik zal wat tijd verspillen", voel je vrij om AI te gebruiken. Als het antwoord luidt: "Er wordt een valse bron verspreid, een gebruiker wordt misleid of er worden persoonlijke gegevens gelekt", zorg ervoor dat u de uitvoer verifieert.
Hallucinatie: het grootste gevaar van de bibliothecaris
Van hallucinatie is sprake wanneer AI niet-bestaande informatie, bron of citaat produceert alsof deze echt is, en wel in een uiterst overtuigende taal. Dit is vooral gevaarlijk voor het bibliotheekwezen en het informatiebeheer; omdat de essentie van ons vak de authenticiteit en betrouwbaarheid van de bron is.
Wanneer je de AI opdracht geeft “vijf wetenschappelijke artikelen over dit onderwerp voor te stellen”, kan deze titels, auteurs en tijdschriftnamen genereren die echt lijken, maar helemaal niet bestaan. Deze verzonnen bronnen zijn zo overtuigend dat een opdrachtgever of zelfs een bibliothecaris ze aan een bibliografie kan toevoegen zonder ze te verifiëren. In de geestes- en sociale wetenschappen is het gevaar zelfs nog groter: wanneer “dat document uit 1897” wordt verzonnen voor een historicus of “die rechterlijke beslissing” voor een jurist, is het resultaat ernstige verkeerde informatie.
Let op: Geen enkele bronvermelding, citaat of verwijzing geproduceerd door AI mag ergens heen worden overgedragen zonder verificatie in een echte catalogus, database of de bron zelf. Dat het ‘er overtuigend uitziet’ betekent niet dat het waar is.
Verificatiediscipline: drie stappen
De basisdiscipline die de bibliothecaris moet toepassen bij het werken met AI is deze:
1. Maak verbinding met de bron. Elk feit, cijfer, datum en afdruk moet gebaseerd zijn op een originele bron. Vraag de AI “vertel me uit welke bron je deze informatie hebt” en controleer die bron onafhankelijk.
2. Onafhankelijk bevestigen. Verifieer kritische informatie in ten minste één betrouwbare bron buiten de AI (authentieke catalogus, officiële database, primair document).
3. Leid het door het biasfilter. AI draagt de vooroordelen over van de gegevens waarop het is getraind. Een voorgesteld onderwerp, een lijst met suggesties of een samenvatting kan bepaalde gezichtspunten belichten en andere verdoezelen. Vraag wie er buitengesloten wordt, welk perspectief ontbreekt.
Privacy en gebruikersprivacy
Een van de meest fundamentele ethische principes van het beroep van bibliothecaris is de privacy van gebruikers: wat iemand leest, waar hij naar zoekt en in welk onderwerp hij geïnteresseerd is, is vertrouwelijk. Het invoeren van gegevens in AI-tools, vooral publieke tools die via internet werken, waaronder de identiteit van gebruikers, zoekgeschiedenis of geleende bronnen, kan dit principe schenden; omdat deze gegevens naar systemen van derden kunnen gaan.
Op dezelfde manier mogen in een organisatie niet-geclassificeerde maar gevoelige documenten (personeelsinformatie, contracten, interne correspondentie) niet worden geüpload naar een algemene AI-tool. Voor dit soort gegevens wordt de voorkeur gegeven aan tools die draaien op het eigen beveiligde, gesloten systeem van de instelling.
Tip: Voordat u gegevens in de AI invoert, vraagt u zich af: "Is deze informatie openbaar?" vragen. Als het antwoord nee is, of als u het niet zeker weet, plaats de gegevens dan in een niet-gepersonaliseerd, anoniem formaat of gebruik alleen beveiligde tools die door de instelling zijn goedgekeurd.
drie minikoffers
Geval 1 — Ontwerp metadata voor 400 documenten. Een universiteitsbibliotheek moest een archief van 400 documenten, geschonken door een professor, catalogiseren. De expert haalde met AI een concepttitel, datum en onderwerpsuggestie uit de eerste pagina van elk document: de gemiddelde tijd per document daalde van 12 minuten naar 4 minuten. Maar elke conceptafdruk werd vergeleken met het originele document en goedgekeurd door de deskundige; In deze stap werden 17 door de AI verzonnen onjuiste datums onderschept.
Geval 2 — Valse bron ontdekt. Een adviserende bibliothecaris ontving zes artikelsuggesties van YZ terwijl hij op zoek was naar bronnen over "klimaatmigratie" voor een niet-gegradueerde student. De bibliothecaris doorzocht ze allemaal in de database van de instelling: 2 van de 6 artikelen bestonden helemaal niet. Door de verificatiestap werd voorkomen dat de student een verzonnen bron kreeg.
Geval 3 — Schending van de vertrouwelijkheid voorkomen. Een bibliotheek overwoog een algemene AI-tool te gebruiken om te analyseren “welke gebruiker geïnteresseerd is in welk onderwerp” uit afrekenrecords. De informatiemanager besefte dat het een schending van de privacy zou zijn als deze gegevens samen met de user-ID zouden worden verspreid; de gegevens werden eerst geanonimiseerd en uitsluitend verwerkt als geaggregeerde, geanonimiseerde statistieken.
Vier kopieerbare sjablonen
1) Begin met het definiëren van rollen en grenzen:
Jouw rol: ervaren assistent-catalogus- en informatiemanagementspecialist. Jouw taak: een concept maken op basis van de informatie in de bron die ik je heb gegeven. Regels: (1) Gebruik alleen de informatie in de tekst die ik je heb gegeven, voeg niet je eigen informatie toe. (2) Markeer "[moet worden geverifieerd]" als u het niet zeker weet. (3) Verzin geen data, namen of afdrukken. Als je het begrijpt, begin dan. Bron: [hier]
2) Validatiecontrolevraag:
Vermeld elke feitelijke claim (datum, naam, nummer, bronvermelding) in de onderstaande tekst. Voor elk: waar in de tekst heb je deze informatie vandaan? Als het niet duidelijk in de tekst staat, schrijf dan "niet in de tekst". Tekst: [hier]
3) Vooringenomenheid en ontbrekende perspectiefcontrole:
Welke perspectieven worden in de volgende samenvatting/aanbeveling benadrukt en welke worden buiten beschouwing gelaten? Welke groepen, regio's of visies ontbreken mogelijk? Vertrouw gewoon op de tekst, speculeer niet. Tekst: [hier]
4) Privacycontrole vooraf:
Bevat onderstaande tekst persoonlijke gegevens (naam, ID-nummer, contact, lees-/zoekgeschiedenis) of gevoelige bedrijfsinformatie? Zo ja, vermeld deze dan en stel voor hoe deze kan worden geanonimiseerd. Tekst: [hier]
Zwakke prompt/sterke prompt
Zwakke prompt:
Vind wat bronnen over dit onderwerp.
Deze prompt nodigt de AI uit om nepbronnen te genereren. Er zijn geen rollen, grenzen, validatieregels en middelen. AI kan geloofwaardige maar niet-bestaande tags produceren.
Krachtige prompt:
Jouw rol: assistent referentiebibliothecaris. Kies degene die verband houden met het onderwerp ‘klimaatmigratie’ uit de catalogusitems die ik u hieronder heb gegeven en leg uit waarom ze relevant zijn. Voeg geen bronnen toe die niet op de lijst staan, verzin geen bronnen. Als je het niet zeker weet, zeg dan 'er zijn geen geschikte bronnen vermeld'. Catalogusgegevens: [hier]
Het verschil is duidelijk: een sterke prompt dwingt de AI om vanuit de gegeven echte bron te werken, niet vanuit zijn eigen geheugen, en voorkomt fabricage.
Lagen- en verantwoordelijkhedentabel
zakelijke laag
voorbeeld taak
Rol van AI
de beslissing van de mens
mechanisch
Concept-metagegevens, samenvatting, vertaling
Maakt snel concepten
verificatie, goedkeuring
quasi-gerechtelijk
Onderwerptitel, bronsuggestie
biedt suggesties
Selectie op basis van beleid
puur oordeel
Authenticatie, copyrightbeslissing
Alleen voorlopige informatie
De volledige verantwoordelijkheid ligt bij de persoon
Veel voorkomende fouten
- Vervanging van de AI-uitvoer door de bron. AI is een assistent, geen hulpbron; Elke output wordt gevalideerd.
- De verzonnen bron als overtuigend aanvaarden. Dat het er goed uitziet, betekent niet dat het ook goed is.
- Persoonlijke/gevoelige gegevens invoeren in de openbare tool. De privacy van gebruikers en de bedrijfsgeheimen worden vanaf het begin gerespecteerd.
- Vooroordelen negeren. AI draagt de perspectieven over van de gegevens waarop het is getraind; Vraag wat er ontbreekt.
- Laat het oordeel over aan AI. Beslissingen over nauwkeurigheid, auteursrecht en privacy behoren toe aan mensen.
Samengevat
kunstmatige intelligentie; Het is een krachtige assistent voor het samenvatten, opstellen, vertalen en patroontekenen in bibliotheek- en informatiebeheer. Het bespaart veel tijd bij mechanisch werk; geeft advies over quasi-juridische zaken; Maar de verificatie van de nauwkeurigheid, de betrouwbaarheid van de bron, de privacy van gebruikers en ethische beslissingen zijn mensenzaken. Hallucinatie is het grootste gevaar voor dit beroep: er worden geen bronvermeldingen of citaten gebruikt zonder verificatie. Voer AI uit met duidelijke rol-, grens- en validatieregels; Bevestig elke kritieke output met een onafhankelijke bron.
Applicatie taak
Kies een echt onderwerp uit jouw vakgebied. Vraag de AI om vijf aanbevelingen voor bronnen over dat onderwerp, doorzoek ze allemaal in een echte catalogus of database en noteer hoeveel er daadwerkelijk bestaan. Vertel de AI vervolgens met de sjabloon ‘Startup definiëren van rollen en grenzen’ alleen om te werken op basis van de tekst die u aanlevert, en vergelijk de resultaten van de twee benaderingen. Schrijf op welke aanpak het passen verhindert.
controlelijst
- [ ] Ik heb bepaald op welke laag (mechanisch, semi-judicieel, puur oordeel) de opgave zich bevindt.
- [ ] "Wat gebeurt er als deze uitvoer onjuist is?" Ik stelde de vraag.
- [ ] Ik heb elke credit en citatie geverifieerd aan de hand van een onafhankelijke bron.
- [ ] Ik heb gecontroleerd of de gegevens die de AI binnenkomen geen persoonlijke/gevoelige informatie bevatten.
- [ ] Ik behield de uiteindelijke beslissing en verantwoordelijkheid naar eigen goeddunken.