Gevinster:
- Å vite hvorfor hallusinasjonen er skjult i det menneskelige domenet og å kunne sende hver kilde gjennom fem-trinns verifiseringskjeden (eksistens, avtrykk, sitat, kontekst, attribusjon)
- Evne til å bekrefte kildeautentisitet med konkrete identiteter som DOI, ISBN og katalog.
- Forstå disiplinen med å forby kunstig intelligens fra å lage fabrikasjoner og aldri delegere verifisering av sitat og ærlighet til det.
Verdien av en tekst på menneskelige og sosiale felt avhenger av autentisiteten og nøyaktige overføringen av kildene den er basert på. Et litterært essay, en avhandling, et forelesningsnotat – alt er avhengig av pålitelige kilder og ærlig attribusjon (som viser hvem/hvor du fikk informasjon eller et sitat). AI tilbyr stor bekvemmelighet på dette feltet, men det innebærer også den største faren: hallusinasjoner, det vil si å produsere en ikke-eksisterende kilde, sitat eller fakta som ekte. Denne enheten er dedikert til å etablere en "verifiseringsrustning" mot denne faren.
En-setningsregel: Ingen AI-generert kilde, sitat, dato eller nummer kan skrive inn teksten uten førstepersonsbekreftelse fra en primær eller pålitelig kilde. Denne regelen er den mest gjentatte og minst fleksible regelen i denne modulen.
Hvorfor er hallusinasjoner så farlig på dette feltet?
Hvis AI tar feil på et teknisk spørsmål, vil det ofte bli lagt merke til; men i den menneskelige sfære er hallusinasjonen dyktig skjult:
- Realistisk byline: AI kombinerer navnet på en ekte forfatter med en tittel som passer til feltet og et rimelig årstall. Resultatet er en kilde som ikke eksisterer, men som ser helt ekte ut.
- Sitat som passer til stilen: AI kan imitere stilen til en forfatter og presentere en setning som ikke tilhører ham som "hans ord".
- Nær men feil dato: Året for et arbeid kan forskyves med ett eller to år; Dette slipper den uforsiktige leseren unna.
- Forvirret attribusjon: Kan tilskrive en idé til feil person.
Alle disse kan i det stille infiltrere teksten til en forfatter med ærlige intensjoner, og hvis de ikke fanges opp, skade både forfatterens omdømme og leserens tillit.
Forsiktig: Bare fordi en ressurs virker "realistisk" for AI betyr det ikke at den er ekte. Realisme og virkelighet er to forskjellige ting; AI er en mester i det første, det kan ikke garantere det siste.
Verifikasjonsrustning: trinn for trinn
Følg denne kjeden for hver kilde og sitat:
- Er det? Søk etter kilden i bibliotekkatalogen, en pålitelig database eller utgiverens nettsted. Hvis den ikke finnes, eksisterer den ikke – ikke bruk den.
- Er avtrykket riktig? Forfatter, tittel, utgiver/tidsskrift, år, side – alle må samsvare nøyaktig.
- Er sitatet ekte? Finn sitatet i selve kilden, på den angitte siden, og sammenlign det ordrett.
- Er konteksten riktig? Er sitatet brukt bokstavelig, eller er det forvrengt?
- Er attribusjonen ærlig? Er ideen tilskrevet rett person, er noe hentet fra en sekundær kilde fremstilt som primær?
Hvis til og med ett ledd i denne kjeden er brutt, kan den ikke legge inn kildeteksten.
Tips: Instruer AI fra starten: "Ikke gi ut noen kilde du ikke er sikker på eksisterer; hvis du ikke er sikker, si 'Jeg kunne ikke finne kilden'." Dette avslutter ikke hallusinasjonen helt, men det får AI til å si "Jeg vet ikke" i stedet for å gjøre opp.
Sitering og sitatdisiplin
Sammen med verifisering er ærlig attribusjon også en disiplin:
- Gi det direkte sitatet med sitater og side; La det være bokstavelig talt.
- Knytt også indirekte sitat (oppsummerer med egne ord) til kilden; Hvis ideen ikke er din, trenger den attribusjon.
- Oppgi AI-bidraget åpent i henhold til organisasjonens regel; AI er ikke en "ressurs", men hvis den brukes, må den deklareres.
- Ikke framstill sekundærkilden som primær; Hvis du tok et sitat fra en forfatter fra en annen bok, angi dette.
tre minisaker
Sak 1 — To av de fem kildene viste seg å være fiktive. En forsker gikk gjennom verifiseringsprosessen av 5 kilder gitt av AI. 2 var ikke i katalogen i det hele tatt, 1 hadde feil årstall, 2 var ekte og korrekte. Bare de 2 verifiserte ble brukt; artikkel beskyttet mot fiktiv attribusjon.
Tilfelle 2 — Sitatforvrengning fanget. En student fant et sitat fra AI i en faktisk bok, men sitatet betydde det stikk motsatte i den opprinnelige konteksten. AI hadde tatt setningen ut av kontekst. Eleven korrigerte sitatet med dets korrekte kontekst.
Sak 3 – Feil attribusjon rettet. I ett forelesningsnotat tilskrev AI en mening til feil forfatter. Da læreren krysssjekket det med to pålitelige kilder, fant han den rettmessige eieren og fikset det. Seddelen overlevde uten å gå galt til eleven.
Fire kopierbare maler
1) Instruks om fabrikasjonsforbud:
Fra nå av: IKKE produsere noen kilde, sitat, dato eller tall som du ikke er sikker på eksisterer. Hvis du ikke er sikker, si «trenger bekreftelse» eller «Jeg fant den ikke». Gi aldri en merkelapp som er realistisk, men du kan ikke garantere at den er ekt. Følg denne regelen med hvert svar.
2) Veikart for kildebekreftelse:
Jeg vil selv bekrefte kilden nedenfor. Fortell meg hvor jeg skal lete etter denne ressursen (katalog, database, utgiver) og med hvilken nøkkelinformasjon. DU bekrefter at ressursen eksisterer; bare gi bekreftelsestrinnene. Kilde: [lim inn kreditt]
3) Sitatkontekstsjekk:
Nedenfor er et sitat og selve avsnittet der det forekommer. Er sitatet brukt i sin opprinnelige kontekst eller er det forvrengt? Bare stol på teksten jeg ga deg; legge til en kommentar.Sitat: [...] Originalt avsnitt: [...]
4) Revisjon av attribusjonsintegritet:
I teksten min nedenfor: hvilke setninger krever en kilde, men forblir utilskrevet, hvilken idé kan tilhøre noen andre, er det et sted hvor jeg viser sekundærkilden som primær? Foreslå fabrikerte kilder; bare påpek manglende henvisninger.Tekst: [lim inn tekst]
Svak forespørsel / Sterk forespørsel
Svak: "Gi 5 akademiske kilder og sitater om dette emnet."
Güçlü: "Fortell meg hva slags kilder og nøkkelord jeg bør se etter mens jeg forsker på dette emnet. Ikke skriv noen referanser eller sitater som du ikke er sikker på at eksisterer; hvis du ikke er sikker, si 'Jeg kunne ikke finne det'. Jeg skal gi deg kildene jeg finner senere; jeg vil bekrefte sitatene fra bøkene."
Den kraftige meldingen lukker døren for hallusinasjoner og overlater verifisering til mennesket. Den svake ledeteksten inviterer direkte til imaginær ressursproduksjon.
Valideringskjedetabell
trinn
Spørsmål
bekreftelsessted
enhet
Finnes kilden virkelig?
Katalog / database
avtrykk
Er forfatteren, årstall, side korrekt?
Forlag/forlag
sitat
Står det ordrett i teksten?
selve kilden
Kontekst
Er meningen forvrengt?
hovedparagraf
Sitering
Til rett person?
krysssjekk
Verifikasjon med permanent lenke og avtrykk
Det er konkrete måter å raskt og pålitelig bekrefte om en ressurs faktisk eksisterer. De fleste moderne akademiske publikasjoner har en DOI (Digital Object Identifier – en uforanderlig unik ID som permanent tildeles en publikasjon; den fungerer som en lenke og fører direkte til publikasjonen). Hvis du får tilgang til den faktiske publikasjonen når du skriver inn DOI-en til en artikkel i en nettleser, eksisterer den kilden; Hvis du ikke finner den eller DOI ikke eksisterer i det hele tatt, vær mistenksom. AI-genererte "DOIer" er ofte laget og går ingen vei; Dette er en av de mest praktiske testene for å fange den imaginære kilden.
ISBN (International Standard Book Number) gir en lignende identifikasjon for bøker; Du kan bekrefte ektheten til boken ved å søke etter den med ISBN i en bibliotekskatalog eller en pålitelig bokdatabase. For tidsskrifter, sjekk journalnavnet og volum/utgaveinformasjon på forlagets offisielle nettsted. Disse konkrete identitetene er svaret på spørsmålet "Er kilden ekte?" Den svarer tydelig på spørsmålet ditt i løpet av minutter.
Disse metodene gjør verifisering til en "transaksjon" i stedet for en "aksje": når du åpner og ser hver kilde personlig, i katalogen, av DOI eller på utgiversiden, er risikoen for fantomattribusjon i stor grad eliminert.
Tips: Når du er ferdig med bibliografien din, gjør en "klikktur": åpne faktisk DOI- eller katalogposten for hver kilde. Selv en enkelt ressurs som ikke åpnes er en advarsel; enten korriger den med riktig avtrykk eller fjern den fra listen.
Vanlige feil
- Forveksler realisme med virkelighet. En AIs plausible identitet beviser ikke dens eksistens.
- Ikke bekrefter sitatet fra kilden. Fabriserte eller forvrengte sitater kan lekke.
- Hente historikk fra én enkelt kilde. Krysssjekk med minst to pålitelige kilder.
- Få det sekundære til å se ut som det primære. Oppgi overføringskjeden ærlig.
- Siterer AI som kilde. AI er ikke en ressurs; bruken er erklært, det henvises til primærkilden.
Oppsummert
Ærlighet i humaniora er avhengig av kilde- og siteringsnøyaktighet. Den største faren ved AI er at den produserer kilder og sitater som ser realistiske ut, men som ikke eksisterer. Send hver kilde og sitering gjennom fem-trinns bekreftelseskjeden (enhet, kreditt, sitat, kontekst, attribusjon). Forby AI fra å lage fra starten og deleger aldri bekreftelse til den. Denne disiplinen er garantien for din pålitelighet i dette yrket.
Søknadsoppgave
Prøv å la AI foreslå noen kilder og et sitat om et emne. Kjør hver kilde gjennom verifiseringskjeden: hvor mange eksisterer faktisk, hvor mange har riktig attribusjon, er sitatet faktisk i kilden? Skriv resultatene i en tabell. Denne erfaringen vil konkret vise grensene for AI på dette feltet.
sjekkliste
- [ ] Jeg bekreftet eksistensen av hver ressurs i katalogen.
- [ ] Jeg har bekreftet hvert sitat ordrett fra originalkilden.
- [ ] Jeg har sjekket at konteksten til sitatet ikke er forvrengt.
- [ ] Jeg har krysssjekket datoene med minst to kilder.
- [ ] Jeg forbød AI fra å lage og delegerte ikke bekreftelse til den.