Gevinster:
- Evne til å fange hallusinasjonen ved å verifisere eksistensen av hver kilde, gå til primærkilden og uavhengige kryssbekreftelsestrinn
- Evne til å opprettholde originalitet og akademisk integritet mot oppdiktede sitater og dokumenter innen humaniora og samfunnsvitenskap
- Evne til å lære brukere kildeverifisering og informasjonskompetanse i AI-alderen
I hjertet av bibliotekarets samfunnsoppdrag er et enkelt løfte: pålitelig informasjon. En bibliotekar bringer brukeren ikke bare til informasjon, men til verifisert informasjon, og lærer ham hvordan han kan vurdere denne informasjonen selv. I den kunstige intelligensens tidsalder har dette oppdraget blitt både vanskeligere og viktigere; fordi AI kan produsere feilinformasjon på en svært overbevisende måte. I denne enheten vil vi dekke hallusinasjonsgjenkjenning, disiplinen kildeverifisering og undervisning i informasjonskunnskap i AI-alderen.
La oss definere begrepene. Hallusinasjon er når AI produserer informasjon, kilder, sitater eller hendelser som faktisk ikke eksisterer som om de var ekte. Kildeverifisering er bekreftelsen på at informasjon er basert på en reell, pålitelig og primær kilde. Informasjonskompetanse er en persons evne til å finne informasjon, vurdere den, stille spørsmål ved dens pålitelighet og bruke den etisk. Denne enheten tar sikte på at bibliotekaren skal styrke disse ferdighetene både i egen praksis og i undervisningen av brukeren.
Trinn for trinn: disiplin for kildebekreftelse
1. Be om kilden og bekreft at den eksisterer. Når AI gir en påstand eller et sitat, "hvilken kilde er dette fra?" og kontroller at kilden faktisk finnes i en uavhengig katalog, database eller primærdokument.
2. Gå til primærkilden. Den mest pålitelige formen for informasjon er dens førstehåndskilde. Ikke nøy deg med et sammendrag av AI eller en sekundær tekst; Hvis mulig, få tilgang til originaldokumentet, dataene eller publikasjonen.
3. Kryssbekreft. Bekreft en kritisk påstand med minst to pålitelige kilder, uavhengig av hverandre. Én ressurs, spesielt AI-ressurs, er ikke nok.
4. Vurder troverdigheten til kilden. Hvem skrev det, når, med hvilket formål, på hvilke bevis? Er den oppdatert? Eksistensen av informasjon gjør det ikke sant; Still også spørsmål ved kildens natur.
5. Gi uttrykk for usikkerhet ærlig. Hvis informasjon ikke kan verifiseres, si det tydelig. Det er alltid bedre å si «ubekreftet» enn å gi en oppdiktet sikkerhet.
Tips: Når du får et sitat eller en kilde fra AI, søk først etter tittelen og forfatteren i en faktisk katalog. Ikke-eksisterende ressurser vises umiddelbart her. Denne 30-sekunders kontrollen forhindrer at en oppdiktet kilde kommer inn i en bibliografi, en oppgave eller en publikasjon.
Autentisitet og verifikasjon innen humaniora og samfunnsvitenskap
Humaniora og samfunnsvitenskap er spesielt utsatt for fare for hallusinasjoner. I disse områdene er bevis ofte basert på et spesifikt dokument, en dato, et sitat eller kilden til en kommentar. AI kan produsere svært spesifikke, men fullstendig fabrikkerte påstander, for eksempel "den historikeren sa" eller "det står i dokumentet fra 1923". I et verk med litteratur, historie eller jus betyr dette en falsk kjede av bevis.
Dessuten er originalitet den grunnleggende verdien av disse feltene: det spiller noen rolle hvem en tekst, en tolkning eller en oversettelse egentlig tilhører. Å presentere en tekst produsert av AI som et originalt verk eller å stole på en "kilde" laget av AI krenker akademisk integritet. Bibliotekaren er en guide som lærer brukerne både verifisering og grensene for originalitet og plagiering.
Forsiktig: Selv i tilfeller der et AI-generert sitat virker ord for ord nøyaktig og tilskrives en ekte forfatter, kan det sitatet være fabrikkert. Bekreft et sitat ved å finne det bare i forfatterens faktiske arbeid; Logikken med «denne forfatteren kan ha sagt noe slikt» er ikke nok.
tre minisaker
Tilfelle 1 – Eleven ble undervist i verifisering. En bibliotekar så 5 ressurser fra AI i en elevs oppgave. Sammen sjekket de det i katalogen: 2 kilder ble fabrikkert. Eleven opplevde selv leksjonen om at "det er ikke riktig at det ser ekte ut" og fikk igjen en vane med å verifisere hver kilde.
Sak 2 — Fabrisert historisk dokument. En forsker mottok en «1919 avisreportasje» fra AI; Datoen, avisnavnet og innholdet var ekstremt overbevisende. Bibliotekaren skannet avisarkivet: det var ingen slike nyheter på den tiden. En fabrikkert primærkilde ble fanget før den i det hele tatt ble til en artikkel.
Sak 3 - Feilaktig sitat. AI tilskrev et sitat til en kjent tenker. Bibliotekaren lette etter dette ordet i tenkerens verk og fant det ikke; Ordet ble ikke nevnt noe sted. Krysssjekking forhindret spredning av et feiltilskrevet sitat.
Kjeden med spredning av feilinformasjon og bibliotekarens rolle
Feilinformasjon starter ofte med en enkelt fabrikkert utgang, men det stopper ikke der. En bruker legger en falsk AI-generert ressurs inn i en oppgave; oppgaven blir en publikasjon; publikasjonen er sitert av andre, slik at en fiktiv kilde får inntrykk av "sannhet" ved å bli sitert gjentatte ganger. Vi kan kalle denne attribusjonen forurensning: falsk informasjon får legitimitet ved å gjentas igjen og igjen. Bibliotekaren står ved det mest kritiske leddet i denne kjeden; fordi det er det siste kontrollpunktet hvor informasjonen verifiseres før den kommer inn i systemet. Bare fordi en kilde "forekommer mange steder" gjør den ikke sann; Den samme falske informasjonen kan dukke opp mange steder ved å bli kopiert fra hverandre. Derfor bør kryssbekreftelse baseres på spørsmålet "hvor mange pålitelige kilder bekrefter det uavhengig av hverandre", ikke "hvor mange steder vises det?" Ti sekundærkilder som gjentar samme påstand er ikke like mye verdt som en enkelt uavhengig primærkilde. Bibliotekaren bør sette denne distinksjonen (ikke forveksle uavhengighet med repetisjon) i sentrum av både sin egen verifisering og undervisningen til brukeren.
Oppmerksomhet: Utseendet til informasjon i en søkemotor eller på mange nettsider er ikke bevis på nøyaktigheten. Den samme feilen kan ha blitt utbredt ved å bli kopiert fra kilde til kilde. Prevalens og nøyaktighet er forskjellige ting; Bekreftelse krever en uavhengig og pålitelig kilde.
Fire kopierbare maler
1) Ressursenhetsspørring:
List opp hver kildehenvisning og sitering i teksten nedenfor. For hver: forfatter, tittel, år og publikasjonsinformasjon (hvis noen). Trekk ut element for element informasjonen jeg trenger for å bekrefte; ikke legg til. Tekst: [her]
2) Bekreftelsesvurdering:
For hvert av de følgende påstandene, isoler de faktiske elementene (dato, navn, nummer, sitat) som må verifiseres. Foreslå hvilken type kilde (katalog, primærdokument, database) den kan verifiseres mot. Ikke bedøm nøyaktigheten, bare vis bekreftelsesbanen. Påstander: [her]
3) Sjekkliste for sveisepålitelighet:
Vurder troverdigheten til følgende kilde: hvem skrev den, når, for hvilket formål, er det bevis, er den aktuell, er det mulig skjevhet? Bare stol på informasjonen jeg ga, skriv "ukjent" der den mangler. Kildeinformasjon: [her]
4) Undervisningsplan for informasjonskompetanse:
Lag en kort 20-minutters veiledning om kildeverifisering og hallusinasjoner i en alder av AI for følgende brukergruppe (f.eks. studenter): mål, 3 eksempler, 1 søknad. Gruppe: [her]
Svak forespørsel / Sterk forespørsel
Svak melding:
Skriv et sammendrag om dette emnet med pålitelige kilder.
Å si "med pålitelige kilder" oppmuntrer AI til å produsere falske kilder som ser ut til å være ekte; Det er ingen valideringskrok.
Kraftig ledetekst:
Din rolle: informasjonskompetanseassistent. SKRIVE et sammendrag om følgende emne; List i stedet opp faktaspørsmålene en bruker må bekrefte og hvilken type pålitelig kilde de kan verifisere dem med. Ikke fabriker noen kildehenvisninger; Merk området du ikke er sikker på som "må verifiseres". Emne: [her]
Kraftig ledetekst; Den bruker AI som en guide som viser veien til verifisering, i stedet for å produsere svar, og strukturelt forhindrer fabrikasjon.
Tabell for autentiseringslag
lag
Spørsmål
Metode
enhet
Er denne kilden ekte?
Katalog/databasesøk
forrang
Er dette den nærmeste kilden?
Få tilgang til originaldokumentet
Bekreftelse
Bekrefter en annen kilde dette?
Uavhengig krysssjekk
pålitelighet
Hvor solid er kilden?
Forfatter, dato, formål, bevis
ærlighet
Er jeg sikker?
Angi usikkerhet tydelig
Vanlige feil
- Tenker at det som er overbevisende er sant. Å se bra ut er ikke bevis på rettferdighet.
- Å være fornøyd med en enkelt kilde. Kritisk informasjon krever uavhengig kryssbekreftelse.
- Leter ikke etter sitatet ved kilden. Dette er hvordan feiltilskrevne ord sprer seg.
- Skjuler usikkerhet. "Uverifiserbar" er bedre enn falsk sikkerhet.
- Lærer ikke brukeren å autentisere. Informasjonskompetanse er bibliotekarens oppdrag.
Oppsummert
Kildeverifisering og informasjonskunnskap er de mest kritiske oppgavene for bibliotekar i en tidsalder med kunstig intelligens. Hallusinasjon produserer overbevisende, men oppdiktet informasjon og er spesielt farlig innen humaniora/samfunnsvitenskap. Disiplinen er klar: verifiser eksistensen av hver kilde, gå til primærkilden, utfør uavhengig krysssjekking, sett spørsmålstegn ved kildens troverdighet og uttrykk usikkerhet ærlig. Bibliotekaren sprer denne verifiseringskulturen ikke bare i sin praksis, men også ved å undervise brukere; Originalitet og akademisk integritet er integrert i dette oppdraget.
Søknadsoppgave
Be om 6 kilder og 2 sitater fra AI i ditt felt. Bekreft hver kilde ved å søke etter den i en faktisk katalog og hver sitering i forfatterens faktiske arbeid; Legg merke til hvor mange som er fabrikasjoner. Deretter, ved å bruke malen for undervisningsplan for informasjonskompetanse, kan du lage en 20-minutters veiledning for å forklare kildebekreftelse til en brukergruppe og inkludere ekte eksempler du har funnet selv.
sjekkliste
- [ ] Jeg har uavhengig bekreftet at hver kilde faktisk eksisterer.
- [ ] Jeg har brukt primærkilder der det er mulig.
- [ ] Jeg har krysssjekket kritiske påstander med minst to uavhengige kilder.
- [ ] Jeg bekreftet sitatene ved å søke etter dem i forfatterens faktiske verk.
- [ ] Jeg merket tydelig den uverifiserbare informasjonen som "uverifiserbar".