Winst:
- Mogelijkheid om de hallucinatie vast te leggen door het bestaan van elke bron te verifiëren, naar de primaire bron te gaan en onafhankelijke kruisbevestigingsstappen te volgen
- Vermogen om originaliteit en academische integriteit te behouden tegen verzonnen citaten en documenten in de geesteswetenschappen en sociale wetenschappen
- Mogelijkheid om gebruikers bronverificatie en informatievaardigheden te leren in het AI-tijdperk
De kern van de sociale missie van het bibliotheekwezen bestaat uit één enkele belofte: betrouwbare informatie. Een bibliothecaris brengt de gebruiker niet alleen naar informatie, maar ook naar geverifieerde informatie, en leert hem hoe hij deze informatie zelf kan evalueren. In het tijdperk van kunstmatige intelligentie is deze missie zowel moeilijker als belangrijker geworden; omdat AI op een zeer overtuigende manier desinformatie kan produceren. In deze unit behandelen we de herkenning van hallucinaties, de discipline van bronverificatie en het aanleren van informatievaardigheden in het tijdperk van AI.
Laten we de concepten definiëren. Van hallucinatie is sprake wanneer AI informatie, bronnen, citaten of gebeurtenissen produceert die niet echt bestaan, alsof ze echt zijn. Bronverificatie is de bevestiging dat informatie gebaseerd is op een echte, betrouwbare en primaire bron. Informatievaardigheden zijn het vermogen van een persoon om informatie te vinden, te evalueren, de betrouwbaarheid ervan in twijfel te trekken en deze op een ethische manier te gebruiken. Deze unit heeft tot doel dat de bibliothecaris deze vaardigheden versterkt, zowel in zijn eigen praktijk als in het lesgeven aan de gebruiker.
Stap voor stap: bronverificatiediscipline
1. Vraag de bron op en verifieer het bestaan ervan. Als de AI een claim of citaat geeft: “uit welke bron komt dit?” en controleer of de bron daadwerkelijk bestaat in een onafhankelijke catalogus, database of primair document.
2. Ga naar de primaire bron. De meest betrouwbare vorm van informatie is de bron uit de eerste hand. Neem geen genoegen met een samenvatting van AI of een secundaire tekst; Raadpleeg indien mogelijk het originele document, de gegevens of de publicatie.
3. Kruisbevestiging. Controleer een kritische claim met minimaal twee betrouwbare bronnen, onafhankelijk van elkaar. Eén hulpbron, vooral AI-hulpbron, is niet genoeg.
4. Evalueer de geloofwaardigheid van de bron. Wie schreef het, wanneer, met welk doel, op basis van welk bewijs? Is het actueel? Het bestaan van informatie maakt het niet waar; Vraag ook naar de aard van de bron.
5. Druk onzekerheid eerlijk uit. Als informatie niet kan worden geverifieerd, zeg dat dan duidelijk. Het is altijd beter om 'onbevestigd' te zeggen dan een verzonnen zekerheid te bieden.
Tip: Wanneer je een citaat of bron van AI krijgt, zoek dan eerst de titel en auteur in een echte catalogus. Niet-bestaande bronnen verschijnen hier onmiddellijk. Deze controle van 30 seconden voorkomt dat een verzonnen bron in een bibliografie, opdracht of publicatie terechtkomt.
Authenticiteit en verificatie in de geestes- en sociale wetenschappen
De geestes- en sociale wetenschappen zijn bijzonder kwetsbaar voor het risico van hallucinaties. Op deze gebieden is bewijs vaak gebaseerd op een specifiek document, een datum, een citaat of de bron van een opmerking. AI kan zeer specifieke maar volledig verzonnen beweringen voortbrengen, zoals ‘die historicus zei’ of ‘dat document uit 1923 zegt’. In een literair, historisch of juridisch werk betekent dit een valse bewijsketen.
Bovendien is originaliteit de fundamentele waarde van deze vakgebieden: het maakt uit aan wie een tekst, een interpretatie of een vertaling werkelijk toebehoort. Het presenteren van een door AI geproduceerde tekst als origineel werk of het vertrouwen op een door AI verzonnen ‘bron’ schendt de wetenschappelijke integriteit. De bibliothecaris is een gids die gebruikers zowel verificatie als de grenzen van originaliteit en plagiaat leert.
Let op: zelfs in gevallen waarin een door AI gegenereerd citaat woord voor woord accuraat lijkt en wordt toegeschreven aan een echte auteur, kan dat citaat verzonnen zijn. Controleer een citaat door het alleen in het daadwerkelijke werk van de auteur te vinden; De logica van ‘deze auteur heeft misschien zoiets gezegd’ is niet genoeg.
drie minikoffers
Geval 1 – De leerling heeft verificatie geleerd. Een bibliothecaris zag vijf bronnen van AI in de opdracht van een leerling. Samen controleerden ze het in de catalogus: er waren 2 bronnen verzonnen. De student ervoer uit de eerste hand de les dat "het niet juist is dat het er echt uitziet" en kreeg opnieuw de gewoonte om elke bron te verifiëren.
Geval 2 — Verzonnen historisch document. Een onderzoeker ontving van AI een "krantenbericht uit 1919"; De datum, de krantennaam en de inhoud waren uiterst overtuigend. De bibliothecaris scande het krantenarchief: dergelijk nieuws was er toen nog niet. Een verzonnen primaire bron werd ontdekt voordat er zelfs maar een artikel van werd gemaakt.
Geval 3 — Verkeerd toegeschreven citaat. AI schreef een citaat toe aan een beroemde denker. De bibliothecaris zocht naar dit woord in de werken van de denker en kon het niet vinden; Het woord werd nergens genoemd. Door kruiscontroles werd de verspreiding van een verkeerd toegeschreven citaat voorkomen.
De keten van verspreiding van desinformatie en de rol van de bibliothecaris
Verkeerde informatie begint vaak met een enkele verzonnen output, maar daar stopt het niet. Een gebruiker stopt een nep-AI-gegenereerde bron in een opdracht; de opdracht wordt een publicatie; de publicatie wordt door anderen geciteerd, zodat een fictieve bron door herhaaldelijk geciteerd te worden de schijn van ‘waarheid’ krijgt. We kunnen dit attributiebesmetting noemen: valse informatie wint aan legitimiteit doordat deze keer op keer wordt herhaald. De bibliothecaris staat aan de meest kritische schakel in deze keten; omdat dit het laatste controlepunt is waar informatie wordt geverifieerd voordat deze het systeem binnenkomt. Het feit dat een bron ‘op veel plaatsen voorkomt’ betekent niet dat deze waar is; Dezelfde valse informatie kan op veel plaatsen verschijnen doordat ze van elkaar worden gekopieerd. Daarom moet kruisbevestiging gebaseerd zijn op de vraag "hoeveel betrouwbare bronnen bevestigen dit onafhankelijk van elkaar", en niet "op hoeveel plaatsen komt het voor?" Tien secundaire bronnen die dezelfde bewering herhalen, zijn niet zoveel waard als één enkele onafhankelijke primaire bron. De bibliothecaris moet dit onderscheid (zonder onafhankelijkheid met herhaling te verwarren) centraal stellen in zowel zijn eigen verificatie als zijn onderwijs aan de gebruiker.
Let op: de verschijning van informatie in een zoekmachine of op veel webpagina's is geen bewijs van de juistheid ervan. Dezelfde fout kan wijdverbreid zijn geworden doordat deze van bron naar bron werd gekopieerd. Prevalentie en nauwkeurigheid zijn verschillende dingen; Voor bevestiging is een onafhankelijke en betrouwbare bron vereist.
Vier kopieerbare sjablonen
1) Query van de resource-entiteit:
Vermeld elke bronvermelding en citatie in de onderstaande tekst. Voor elk: auteur, titel, jaar en publicatie-informatie (indien aanwezig). Extraheer item voor item de informatie die ik nodig heb om te verifiëren; niet toevoegen.Tekst: [hier]
2) Bevestigbaarheidsbeoordeling:
Isoleer voor elk van de volgende claims de feitelijke elementen (datum, naam, nummer, citaat) die moeten worden geverifieerd. Geef aan met welk type bron (catalogus, primair document, database) het kan worden geverifieerd. Beoordeel de nauwkeurigheid niet, maar laat alleen het verificatiepad zien. Beweringen: [hier]
3) Controlelijst voor lasbetrouwbaarheid:
Evalueer de geloofwaardigheid van de volgende bron: wie heeft het geschreven, wanneer, met welk doel, is er bewijs, is het actueel, is er sprake van mogelijke vooringenomenheid? Vertrouw gewoon op de informatie die ik heb gegeven en schrijf "onbekend" waar deze ontbreekt. Broninformatie: [hier]
4) Lesplan informatievaardigheden:
Maak een korte tutorial van 20 minuten over bronverificatie en hallucinatie in het AI-tijdperk voor de volgende gebruikersgroep (bijvoorbeeld studenten): doelstellingen, 3 voorbeelden, 1 toepassing. Groep: [hier]
Zwakke prompt/sterke prompt
Zwakke prompt:
Schrijf een samenvatting over dit onderwerp met betrouwbare bronnen.
Het zeggen van ‘met betrouwbare bronnen’ moedigt de AI aan om valse bronnen te produceren die echt lijken; Er is geen validatiehook.
Krachtige prompt:
Jouw rol: assistent informatievaardigheden. EEN samenvatting SCHRIJVEN over het volgende onderwerp; Vermeld in plaats daarvan de feitelijke vragen die een gebruiker moet verifiëren en het type betrouwbare bron waarmee hij deze kan verifiëren. Verzin geen bronvermeldingen; Markeer het gebied waarvan u niet zeker bent als "moet worden geverifieerd". Onderwerp: [hier]
Krachtige prompt; Het gebruikt AI als gids die de weg naar verificatie wijst, in plaats van antwoorden te geven, en verzinsels structureel voorkomt.
Tabel met authenticatielagen
laag
Vraag
Methode
entiteit
Is deze bron echt?
Zoeken in catalogus/database
primaat
Is dit de dichtstbijzijnde bron?
Toegang tot het originele document
Bevestiging
Bevestigt een andere bron dit?
Onafhankelijke kruiscontrole
betrouwbaarheid
Hoe solide is de bron?
Auteur, datum, doel, bewijsmateriaal
eerlijkheid
Weet ik het zeker?
Geef de onzekerheid duidelijk weer
Veel voorkomende fouten
- Denken dat wat overtuigend is, waar is. Er goed uitzien is geen bewijs van gerechtigheid.
- Tevreden zijn met één enkele bron. Kritieke informatie vereist onafhankelijke kruisbevestiging.
- Niet op zoek naar het citaat bij de bron. Dit is hoe verkeerd toegeschreven woorden zich verspreiden.
- Het verbergen van onzekerheid. ‘Niet verifieerbaar’ is beter dan valse zekerheid.
- De gebruiker leert zich niet te authenticeren. Informatievaardigheden is de missie van de bibliothecaris.
Samengevat
Bronverificatie en informatievaardigheden zijn de meest cruciale taken van het bibliotheekwezen in het tijdperk van AI. Hallucinatie levert overtuigende maar verzonnen informatie op en is vooral gevaarlijk in de geestes- en sociale wetenschappen. De discipline is duidelijk: verifieer het bestaan van elke bron, ga naar de primaire bron, voer onafhankelijke kruiscontroles uit, twijfel aan de geloofwaardigheid van de bron en uit onzekerheid eerlijk. De bibliothecaris verspreidt deze verificatiecultuur niet alleen in zijn of haar praktijk, maar ook door gebruikers les te geven; Originaliteit en wetenschappelijke integriteit vormen een integraal onderdeel van deze missie.
Applicatie taak
Vraag 6 bronnen en 2 citaten aan van AI in jouw vakgebied. Verifieer elke bron door ernaar te zoeken in een echte catalogus en elke citatie in het feitelijke werk van de auteur; Merk op hoeveel verzinsels er zijn. Gebruik vervolgens het sjabloon ‘Leerplan voor informatievaardigheden’ en stel een tutorial van 20 minuten op om de bronverificatie aan een gebruikersgroep uit te leggen en echte voorbeelden op te nemen die u zelf hebt gevonden.
controlelijst
- [ ] Ik heb onafhankelijk geverifieerd dat elke bron daadwerkelijk bestaat.
- [ ] Ik heb waar mogelijk gebruik gemaakt van primaire bronnen.
- [ ] Ik heb kritische beweringen vergeleken met ten minste twee onafhankelijke bronnen.
- [ ] Ik heb de citaten geverifieerd door ernaar te zoeken in het eigenlijke werk van de auteur.
- [ ] Ik heb de niet-verifieerbare informatie duidelijk gemarkeerd als "niet-verifieerbaar".