Gevinster:
- At vide, hvorfor hallucinationen er skjult i det menneskelige domæne og være i stand til at sende hver kilde gennem den fem-trins verifikationskæde (eksistens, aftryk, citat, kontekst, tilskrivning)
- Evne til at bekræfte kildeægtheden med konkrete identiteter som DOI, ISBN og katalog.
- Forstå disciplinen med at forbyde kunstig intelligens at lave fabrikationer og aldrig uddelegere bekræftelse af citat og ærlighed til det.
Værdien af en tekst på menneskelige og sociale områder afhænger af ægtheden og nøjagtige overførsel af de kilder, den er baseret på. Et litterært essay, en afhandling, en forelæsningsnote – alle er afhængige af pålidelige kilder og ærlig tilskrivning (som viser hvem/hvor du har fået information eller et citat). AI tilbyder stor bekvemmelighed på dette felt, men det rummer også den største fare: hallucination, det vil sige at producere en ikke-eksisterende kilde, et citat eller en kendsgerning som reel. Denne enhed er dedikeret til at etablere en "verifikationsrustning" mod denne fare.
Regel med én sætning: Ingen AI-genereret kilde, citat, dato eller nummer kan indtaste teksten uden førstepersonsbekræftelse fra en primær eller pålidelig kilde. Denne regel er den mest gentagne og mindst fleksible regel i dette modul.
Hvorfor er hallucinationer så farlige på dette område?
Hvis AI er forkert på et teknisk spørgsmål, vil det ofte blive bemærket; men i den menneskelige sfære er hallucinationen dygtigt skjult:
- Realistisk byline: AI kombinerer navnet på en rigtig forfatter med en titel, der passer til feltet og et rimeligt årstal. Resultatet er en kilde, der ikke eksisterer, men som ser helt ægte ud.
- Citat passende til stilen: AI kan efterligne en forfatters stil og præsentere en sætning, der ikke tilhører ham, som "hans ord".
- Tæt, men forkert dato: Året for et arbejde kan flyttes med et eller to år; Dette undslipper den skødesløse læser.
- Forvirret tilskrivning: Kan tilskrive en idé til den forkerte person.
Alle disse kan i det stille infiltrere en forfatters tekst med ærlige hensigter, og hvis de ikke fanges, skade både forfatterens omdømme og læserens tillid.
Forsigtig: Bare fordi en ressource virker "realistisk" for AI, betyder det ikke, at den er ægte. Realisme og virkelighed er to forskellige ting; AI er en mester i det første, det kan ikke garantere det sidste.
Verifikationsrustning: trin for trin
Følg denne kæde for hver kilde og citat:
- Er der? Søg efter kilden i bibliotekets katalog, en pålidelig database eller udgiverens websted. Hvis det ikke kan findes, eksisterer det ikke - brug det ikke.
- Er aftrykket korrekt? Forfatter, titel, forlag/tidsskrift, årstal, side – alle skal matche nøjagtigt.
- Er citatet ægte? Find citatet i selve kilden, på den angivne side, og sammenlign det ordret.
- Er konteksten korrekt? Er citatet brugt bogstaveligt, eller er det blevet forvrænget?
- Er tilskrivningen ærlig? Er ideen tilskrevet den rigtige person, er noget taget fra en sekundær kilde portrætteret som primært?
Hvis blot ét led i denne kæde er brudt, kan det ikke indtaste kildeteksten.
Tip: Instruer AI fra starten: "Giv ikke nogen kilde, du ikke er sikker på eksisterer; hvis du ikke er sikker, så sig 'Jeg kunne ikke finde kilden'." Dette afslutter ikke hallucinationen fuldstændigt, men det får AI til at sige "Jeg ved det ikke" i stedet for at gøre op.
Citat og citatdisciplin
Sammen med verifikation er ærlig tilskrivning også en disciplin:
- Giv det direkte citat med citater og side; Lad det være bogstaveligt.
- Knyt også indirekte citat (sammenfattende med dine egne ord) til kilden; Hvis ideen ikke er din, skal den tilskrives.
- Angiv AI-bidraget gennemsigtigt i henhold til din organisations regel; AI er ikke en "ressource", men hvis den bruges, skal den erklæres.
- Fremstil ikke den sekundære kilde som primær; Hvis du har taget et citat fra en forfatter fra en anden bog, skal du angive dette.
tre minisager
Sag 1 — To af de fem kilder viste sig at være fiktive. En forsker gennemgik verifikationsprocessen af 5 kilder givet af AI. 2 var slet ikke i kataloget, 1 havde det forkerte årstal, 2 var rigtige og korrekte. Kun de 2 verificerede blev brugt; artikel beskyttet mod fiktiv tilskrivning.
Sag 2 — Citatforvrængning fanget. En elev fandt et citat fra AI i en egentlig bog, men citatet betød det stik modsatte i den oprindelige sammenhæng. AI havde taget sætningen ud af kontekst. Eleven rettede citatet med dets korrekte kontekst.
Sag 3 — Forkert tilskrivning rettet. I en forelæsningsnote tilskrev AI en mening til den forkerte forfatter. Da læreren krydstjekkede det med to pålidelige kilder, fandt han den retmæssige ejer og fiksede det. Sedlen overlevede uden at gå galt for eleven.
Fire kopierbare skabeloner
1) Instruktion om fremstillingsforbud:
Fra nu af: Fremstil IKKE nogen kilde, citat, dato eller nummer, som du ikke er sikker på eksisterer. Hvis du ikke er sikker, kan du sige "skal bekræftes" eller "Jeg kunne ikke finde det". Giv aldrig et mærke, der er realistisk, men du kan ikke garantere dets ægthed. Følg denne regel ved hvert svar.
2) Køreplan for kildebekræftelse:
Jeg vil selv verificere kilden nedenfor. Fortæl mig, hvor jeg skal lede efter denne ressource (katalog, database, udgiver) og med hvilke nøgleoplysninger. DU bekræfter, at ressourcen findes; giv blot bekræftelsestrinnene. Kilde: [indsæt kredit]
3) Tjek af citatkontekst:
Nedenfor er et citat og det faktiske afsnit, hvor det forekommer. Er citatet brugt i sin oprindelige sammenhæng, eller er det blevet forvrænget? Stol bare på den tekst, jeg gav dig; tilføjer en kommentar.Citat: [...] Originalt afsnit: [...]
4) Tilskrivningsintegritetsrevision:
I min tekst nedenfor: hvilke sætninger kræver en kilde, men forbliver utilskrevet, hvilken idé kan tilhøre en anden, er der et sted, hvor jeg viser den sekundære kilde som primær? Foreslå fabrikerede kilder; bare påpeg manglende citater.Tekst: [indsæt tekst]
Svag prompt / Stærk prompt
Svag: "Giv 5 akademiske kilder og citater om dette emne."
Güçlü: "Fortæl mig, hvilken slags kilder og nøgleord, jeg skal kigge efter, mens jeg undersøger dette emne. Fremstil ikke nogen referencer eller citater, som du ikke er sikker på eksisterer; hvis du ikke er sikker, så sig 'Jeg kunne ikke finde det'. Jeg giver dig de kilder, jeg finder senere; jeg vil bekræfte citaterne fra bøgerne."
Den kraftfulde prompt lukker døren til hallucinationer og overlader verifikation til mennesket. Den svage prompt inviterer direkte til imaginær ressourceproduktion.
Valideringskædetabel
trin
Spørgsmål
verifikationsplacering
enhed
Findes kilden virkelig?
Katalog / database
aftryk
Er forfatter, årstal, side korrekte?
Forlag/aftryk
citat
Står det ordret i teksten?
selve kilden
Kontekst
Er betydningen forvrænget?
hovedafsnit
Citation
Til den rigtige person?
krydstjek
Verifikation med permanent link og aftryk
Der er konkrete måder til hurtigt og pålideligt at bekræfte, om en ressource faktisk eksisterer. De fleste moderne akademiske publikationer har en DOI (Digital Object Identifier - et uforanderligt unikt ID, der permanent tildeles en publikation; det fungerer som et link og fører direkte til publikationen). Hvis du får adgang til den faktiske publikation, når du indtaster DOI for en artikel i en browser, eksisterer denne kilde; Hvis du ikke kan finde det, eller DOI'en slet ikke eksisterer, skal du være mistænksom. AI-genererede "DOI'er" er ofte sammensat og går ingen vegne; Dette er en af de mest praktiske tests til at fange den imaginære kilde.
ISBN (International Standard Book Number) giver en lignende identifikation for bøger; Du kan verificere bogens ægthed ved at søge efter den via ISBN i et bibliotekskatalog eller en pålidelig bogdatabase. For tidsskrifter, tjek tidsskriftsnavnet og bind/udgaveoplysninger på forlagets officielle hjemmeside. Disse konkrete identiteter er svaret på spørgsmålet "Er kilden ægte?" Det besvarer dit spørgsmål klart inden for få minutter.
Disse metoder gør verifikation til en "transaktion" snarere end en "aktie": Når du åbner og ser hver kilde personligt, i kataloget, af DOI eller på udgiverwebstedet, er risikoen for fantomtilskrivning stort set elimineret.
Tip: Når du er færdig med din bibliografi, lav en "kliktur": åbn faktisk DOI- eller katalogposten for hver kilde. Selv en enkelt ressource, der ikke åbner, er en advarsel; enten rette det med det korrekte aftryk eller fjerne det fra listen.
Almindelige fejl
- Forveksler realisme med virkelighed. En AI's plausible identitet beviser ikke dens eksistens.
- Ikke at verificere citatet fra kilden. Fremstillede eller forvrængede citater kan lække.
- Hent historie fra en enkelt kilde. Krydstjek med mindst to pålidelige kilder.
- Få det sekundære til at ligne det primære. Angiv transmissionskæden ærligt.
- Citerer AI som kilde. AI er ikke en ressource; dens brug er erklæret, henvises til den primære kilde.
Sammenfattende
Ærlighed i humaniora er afhængig af kilde- og citationsnøjagtighed. Den største fare ved AI er, at den producerer kilder og citater, der ser realistiske ud, men som ikke eksisterer. Send hver kilde og citat gennem fem-trins bekræftelseskæden (entitet, kredit, citat, kontekst, tilskrivning). Forbyd AI fra at fremstille fra starten og overdrag aldrig bekræftelse til den. Denne disciplin er garantien for din pålidelighed i dette erhverv.
Ansøgningsopgave
Prøv at få AI til at foreslå et par kilder og et citat om et emne. Kør hver kilde gennem verifikationskæden: hvor mange findes der faktisk, hvor mange har korrekt tilskrivning, er citatet faktisk i kilden? Skriv resultaterne i en tabel. Denne erfaring vil konkret vise grænserne for AI på dette felt.
tjekliste
- [ ] Jeg bekræftede eksistensen af hver ressource i kataloget.
- [ ] Jeg har bekræftet hvert citat ordret fra den originale kilde.
- [ ] Jeg har kontrolleret, at konteksten af citatet ikke er blevet fordrejet.
- [ ] Jeg har krydstjekket datoerne med mindst to kilder.
- [ ] Jeg forbød AI fra at fremstille og uddelegerede ikke verifikation til den.