Gevinster:
- Evne til at fange hallucinationen ved at verificere eksistensen af hver kilde, gå til den primære kilde og uafhængige krydsbekræftelsestrin
- Evne til at bevare originalitet og akademisk integritet mod opdigtede citater og dokumenter inden for humaniora og samfundsvidenskab
- Evne til at lære brugerne kildebekræftelse og informationskompetence i AI-alderen
Kernen i bibliotekarets sociale mission er et enkelt løfte: pålidelig information. En bibliotekar bringer brugeren ikke kun til information, men til verificeret information, og lærer ham, hvordan han selv vurderer denne information. I en tidsalder med kunstig intelligens er denne mission blevet både sværere og vigtigere; fordi AI kan producere misinformation på en yderst overbevisende måde. I denne enhed vil vi dække hallucinationsgenkendelse, disciplinen kildebekræftelse og undervisning i informationskompetence i AI-alderen.
Lad os definere begreberne. Hallucination er, når AI producerer information, kilder, citater eller begivenheder, der faktisk ikke eksisterer, som om de var virkelige. Kildebekræftelse er bekræftelsen af, at information er baseret på en reel, pålidelig og primær kilde. Informationskompetence er en persons evne til at finde information, vurdere den, sætte spørgsmålstegn ved dens pålidelighed og bruge den etisk. Denne enhed sigter mod, at bibliotekaren styrker disse færdigheder både i egen praksis og i undervisningen af brugeren.
Trin for trin: kildebekræftelsesdisciplin
1. Anmod om kilden og bekræft dens eksistens. Når AI giver en påstand eller et citat, "hvilken kilde er dette fra?" og kontrollere, at kilden faktisk findes i et uafhængigt katalog, database eller primært dokument.
2. Gå til den primære kilde. Den mest pålidelige form for information er dens førstehåndskilde. Lad dig ikke nøjes med et resumé af kunstig intelligens eller en sekundær tekst; Hvis det er muligt, få adgang til det originale dokument, data eller publikation.
3. Krydsbekræft. Bekræft en kritisk påstand med mindst to pålidelige kilder, uafhængige af hinanden. Én ressource, især AI-ressource, er ikke nok.
4. Vurder kildens troværdighed. Hvem skrev det, hvornår, med hvilket formål, på hvilket bevis? Er det opdateret? Eksistensen af information gør det ikke sandt; Sæt også spørgsmålstegn ved kildens art.
5. Udtryk usikkerhed ærligt. Hvis oplysningerne ikke kan verificeres, så sig det tydeligt. Det er altid bedre at sige "ubekræftet" end at give en opdigtet sikkerhed.
Tip: Når du får et citat eller en kilde fra AI, skal du først søge efter titlen og forfatteren i et egentligt katalog. Ikke-eksisterende ressourcer vises med det samme her. Denne 30-sekunders kontrol forhindrer en opdigtet kilde i at indtaste en bibliografi, en opgave eller en publikation.
Autenticitet og verifikation i humaniora og samfundsvidenskab
Humaniora og samfundsvidenskab er særligt sårbare over for risikoen for hallucinationer. I disse områder er beviser ofte baseret på et specifikt dokument, en dato, et citat eller kilden til en kommentar. AI kan producere meget specifikke, men fuldstændig opdigtede påstande, såsom "den historiker sagde" eller "det dokument fra 1923 siger". I et værk af litteratur, historie eller jura betyder dette en falsk kæde af beviser.
Desuden er originalitet den grundlæggende værdi af disse felter: det betyder noget, hvem en tekst, en fortolkning eller en oversættelse egentlig tilhører. At præsentere en tekst produceret af AI som et originalt værk eller at stole på en "kilde" lavet af AI krænker den akademiske integritet. Bibliotekaren er en guide, der lærer brugerne både verifikation og grænserne for originalitet og plagiat.
Forsigtig: Selv i tilfælde, hvor et AI-genereret citat forekommer ord-for-ord nøjagtigt og tilskrives en rigtig forfatter, kan dette citat være opdigtet. Bekræft et citat ved kun at finde det i forfatterens faktiske arbejde; Logikken i "denne forfatter kunne have sagt noget som dette" er ikke nok.
tre minisager
Case 1 - Eleven blev undervist i verifikation. En bibliotekar så 5 ressourcer fra AI i en elevs opgave. Sammen tjekkede de det i kataloget: 2 kilder blev fremstillet. Eleven oplevede på egen hånd lektionen om, at "det ikke er rigtigt, at det ser rigtigt ud" og fik igen en vane med at verificere hver kilde.
Sag 2 — Fremstillet historisk dokument. En forsker modtog en "1919 avisrapport" fra AI; Datoen, avisens navn og indhold var yderst overbevisende. Bibliotekaren gennemsøgte avisarkivet: sådanne nyheder var der ikke på det tidspunkt. En fabrikeret primær kilde blev fanget, før den overhovedet blev til en artikel.
Sag 3 — Forkert citat. AI tilskrev et citat til en berømt tænker. Bibliotekaren ledte efter dette ord i tænkerens værker og kunne ikke finde det; Ordet blev ikke nævnt nogen steder. Krydstjek forhindrede spredning af et forkert tilskrevet citat.
Kæden af spredning af misinformation og bibliotekarens rolle
Misinformation starter ofte med et enkelt fremstillet output, men det stopper ikke der. En bruger sætter en falsk AI-genereret ressource i en opgave; opgaven bliver til en publikation; publikationen er citeret af andre, således at en fiktiv kilde får udseende af "sandhed" ved at blive citeret gentagne gange. Vi kan kalde denne tilskrivning forurening: falsk information opnår legitimitet ved at blive gentaget igen og igen. Bibliotekaren står ved det mest kritiske led i denne kæde; fordi det er det sidste kontrolpunkt, hvor oplysninger verificeres, inden de kommer ind i systemet. Bare fordi en kilde "forekommer mange steder" gør den ikke sand; De samme falske oplysninger kan dukke op mange steder ved at blive kopieret fra hinanden. Derfor bør krydsbekræftelse baseres på spørgsmålet "hvor mange pålidelige kilder bekræfter det uafhængigt af hinanden", ikke "hvor mange steder optræder det?" Ti sekundære kilder, der gentager den samme påstand, er ikke så meget værd som en enkelt uafhængig primær kilde. Bibliotekaren bør placere denne skelnen (ikke at forveksle uafhængighed med gentagelse) i centrum for både sin egen verifikation og sin undervisning til brugeren.
Bemærk: Forekomsten af information i en søgemaskine eller på mange websider er ikke et bevis på dets nøjagtighed. Den samme fejl kan være blevet udbredt ved at blive kopieret fra kilde til kilde. Udbredelse og nøjagtighed er forskellige ting; Bekræftelse kræver en uafhængig og pålidelig kilde.
Fire kopierbare skabeloner
1) Ressourceenhedsforespørgsel:
Angiv alle kildehenvisninger og citater i teksten nedenfor. For hver: forfatter, titel, årstal og publikationsoplysninger (hvis nogen). Uddrag punkt for punkt de oplysninger, jeg har brug for at verificere; tilføj ikke.Tekst: [her]
2) Bekræftelsesvurdering:
For hvert af de følgende krav skal du isolere de faktuelle elementer (dato, navn, nummer, citat), der skal verificeres. Foreslå hvilken type kilde (katalog, primært dokument, database) den kan verificeres mod. Døm ikke nøjagtigheden, vis blot bekræftelsesstien. Påstande: [her]
3) Tjekliste for svejsepålidelighed:
Vurder troværdigheden af følgende kilde: hvem skrev den, hvornår, til hvilket formål, er der beviser, er den aktuel, er der mulig bias? Stol bare på de oplysninger, jeg gav, skriv "ukendt", hvor den mangler. Kildeinformation: [her]
4) Undervisningsplan i informationskompetence:
Lav en kort 20-minutters selvstudie om kildebekræftelse og hallucination i en alder af AI for følgende brugergruppe (f.eks. studerende): mål, 3 eksempler, 1 ansøgning. Gruppe: [her]
Svag prompt / Stærk prompt
Svag prompt:
Skriv et resumé om dette emne med pålidelige kilder.
At sige "med pålidelige kilder" tilskynder AI til at producere falske kilder, der ser ud til at være ægte; Der er ingen valideringskrog.
Kraftig prompt:
Din rolle: informationskompetenceassistent. SKRIVE et resumé om følgende emne; Angiv i stedet de faktuelle spørgsmål, som en bruger skal verificere, og den type pålidelige kilde, de kan verificere dem med. Fremstil ikke nogen kildehenvisninger; Marker det område, du ikke er sikker på, som "skal verificeres". Emne: [her]
Kraftig prompt; Den bruger AI som en guide, der viser vejen til verifikation, snarere end at producere svar, og strukturelt forhindrer fabrikation.
Tabel med godkendelseslag
lag
Spørgsmål
Metode
enhed
Er denne kilde ægte?
Katalog/databasesøgning
forrang
Er dette den nærmeste kilde?
Adgang til det originale dokument
Bekræftelse
Bekræfter en anden kilde dette?
Uafhængig krydstjek
pålidelighed
Hvor solid er kilden?
Forfatter, dato, formål, bevis
ærlighed
Er jeg sikker?
Angiv usikkerhed klart
Almindelige fejl
- Tænker, at det, der er overbevisende, er sandt. At se godt ud er ikke et bevis på retfærdighed.
- At være tilfreds med en enkelt kilde. Kritisk information kræver uafhængig krydsbekræftelse.
- Leder ikke efter citatet ved dets kilde. Sådan spredes forkerte ord.
- Skjuler usikkerhed. "Uverificerbar" er bedre end falsk sikkerhed.
- Ikke at lære brugeren at godkende. Informationskompetence er bibliotekarens mission.
Sammenfattende
Kildebekræftelse og informationskompetence er de mest kritiske opgaver for bibliotekar i en tidsalder med kunstig intelligens. Hallucination producerer overbevisende, men opdigtede informationer og er særligt farlige inden for humaniora/samfundsvidenskab. Disciplinen er klar: verificer eksistensen af hver kilde, gå til den primære kilde, foretag uafhængig krydstjek, sætter spørgsmålstegn ved kildens troværdighed og udtryk usikkerhed ærligt. Bibliotekaren spreder denne verifikationskultur ikke kun i sin praksis, men også ved at undervise brugere; Originalitet og akademisk integritet er en integreret del af denne mission.
Ansøgningsopgave
Anmod om 6 kilder og 2 citater fra AI inden for dit felt. Bekræft hver kilde ved at søge efter den i et faktisk katalog og hvert citat i forfatterens faktiske arbejde; Bemærk, hvor mange der er fabrikationer. Brug derefter skabelonen "Undervisningsplan for informationskompetence" og udarbejde et 20-minutters selvstudie for at forklare kildebekræftelse til en brugergruppe og inkludere rigtige eksempler, du selv har fundet.
tjekliste
- [ ] Jeg har uafhængigt verificeret, at hver kilde faktisk eksisterer.
- [ ] Jeg har brugt primære kilder, hvor det har været muligt.
- [ ] Jeg har krydstjekket kritiske påstande med mindst to uafhængige kilder.
- [ ] Jeg bekræftede citaterne ved at søge efter dem i forfatterens faktiske arbejde.
- [ ] Jeg har tydeligt markeret de ikke-verificerbare oplysninger som "uverificerbare".