Vinster:
- Att veta varför hallucinationen är gömd i den mänskliga domänen och att kunna skicka varje källa genom femstegsverifieringskedjan (existens, avtryck, citat, sammanhang, tillskrivning)
- Möjlighet att bekräfta källäktheten med konkreta identiteter som DOI, ISBN och katalog.
- Förstå disciplinen att förbjuda artificiell intelligens från att göra påhitt och aldrig delegera verifiering av citat och tillskrivningsärlighet till den.
Värdet av en text inom mänskliga och sociala områden beror på äktheten och korrekt överföring av källorna den bygger på. En litterär uppsats, en avhandling, en föreläsningsanteckning – allt förlitar sig på tillförlitliga källor och ärlig tillskrivning (som visar vem/var du fick information eller ett citat). AI erbjuder stor bekvämlighet inom detta område, men det medför också den största faran: hallucinationer, det vill säga att producera en icke-existerande källa, citat eller fakta som verklig. Denna enhet är dedikerad till att etablera en "verifieringsrustning" mot denna fara.
En meningsregel: Ingen AI-genererad källa, citat, datum eller nummer kan skriva in texten utan förstapersonsbekräftelse från en primär eller pålitlig källa. Denna regel är den mest upprepade och minst flexibla regeln i denna modul.
Varför är hallucinationer så farliga på detta område?
Om AI har fel i en teknisk fråga kommer det ofta att märkas; men i den mänskliga sfären är hallucinationen skickligt dold:
- Realistisk byline: AI kombinerar namnet på en verklig författare med en titel som passar området och ett rimligt årtal. Resultatet är en källa som inte finns men som ser exakt verklig ut.
- Citat som passar stilen: AI kan imitera en författares stil och presentera en mening som inte tillhör honom som "hans ord".
- Nära men fel datum: Året för ett arbete kan flyttas med ett eller två år; Detta undgår den slarviga läsaren.
- Förvirrad tillskrivning: Kan tillskriva en idé till fel person.
Alla dessa kan tyst infiltrera en författares text med ärliga avsikter, och om de inte fångas skada både författarens rykte och läsarens förtroende.
Varning: Bara för att en resurs verkar "realistisk" för AI betyder det inte att den är verklig. Realism och verklighet är två olika saker; AI är en mästare på det förra, det kan inte garantera det senare.
Verifieringsrustning: steg för steg
Följ denna kedja för varje källa och citat:
- Finns det? Sök efter källan i bibliotekskatalogen, en pålitlig databas eller förlagets webbplats. Om den inte kan hittas finns den inte – använd den inte.
- Är stämpeln korrekt? Författare, titel, förlag/tidskrift, år, sida – alla måste matcha exakt.
- Är citatet verkligt? Hitta citatet i själva källan, på den angivna sidan, och jämför det ordagrant.
- Är sammanhanget korrekt? Används citatet ordagrant eller har det blivit förvrängt?
- Är tillskrivningen ärlig? Tillskrivs idén rätt person, framställs något hämtat från en sekundär källa som primärt?
Om ens en länk i denna kedja är bruten, kan den inte skriva in källtexten.
Tips: Instruera AI från början: "Ge inte ut någon källa som du inte är säker på att den existerar; om du inte är säker, säg 'Jag kunde inte hitta källan'." Detta avslutar inte hallucinationen helt, men det uppmanar AI:n att säga "jag vet inte" istället för att göra upp.
Citerings- och citeringsdisciplin
Tillsammans med verifiering är ärlig tillskrivning också en disciplin:
- Ge det direkta citatet med citat och sida; Låt det vara bokstavligt.
- Koppla även indirekt citat (sammanfatta med egna ord) till källan; Om idén inte är din behöver den tillskrivas.
- Ange AI-bidraget öppet enligt din organisations regel; AI är inte en "resurs", men om den används måste den deklareras.
- Framställ inte den sekundära källan som primär; Om du tog ett citat från en författare från en annan bok, ange detta.
tre minifodral
Fall 1 — Två av de fem källorna visade sig vara fiktiva. En forskare gick igenom verifieringsprocessen av 5 källor från AI. 2 fanns inte alls i katalogen, 1 hade fel årtal, 2 var riktiga och korrekta. Endast de 2 verifierade användes; artikel skyddad från fiktiv tillskrivning.
Fall 2 — Citatförvrängning fångad. En elev hittade ett citat från AI i en verklig bok, men citatet betydde raka motsatsen i det ursprungliga sammanhanget. AI hade tagit meningen ur sitt sammanhang. Eleven rättade citatet med dess korrekta sammanhang.
Fall 3 – Felaktig tillskrivning rättad. I en föreläsningsanteckning tillskrev AI en åsikt till fel författare. När läraren korskontrollerade det med två pålitliga källor hittade han den rättmätige ägaren och fixade det. Anteckningen överlevde utan att gå fel för eleven.
Fyra kopierbara mallar
1) Instruktion för tillverkningsförbud:
Från och med nu: Ta INTE fram någon källa, citat, datum eller nummer som du inte är säker på existerar. Om du är osäker säger du "behöver verifiering" eller "Jag kunde inte hitta den." Ge aldrig en tagg som är realistisk men du kan inte garantera dess äkthet. Följ denna regel vid varje svar.
2) Färdkarta för källverifiering:
Jag ska själv verifiera källan nedan. Berätta för mig var jag ska leta efter denna resurs (katalog, databas, utgivare) och med vilken nyckelinformation. DU bekräftar att resursen finns; ge bara verifieringsstegen. Källa: [klistra in kredit]
3) Citatkontextkontroll:
Nedan är ett citat och det faktiska stycket där det förekommer. Används citatet i sitt ursprungliga sammanhang eller har det förvrängts? Lita bara på texten jag gav dig; lägga till en kommentar.Citat: [...] Ursprungligt stycke: [...]
4) Granskning av attributionsintegritet:
I min text nedan: vilka meningar kräver en källa men förblir otillskrivna, vilken idé kan tillhöra någon annan, finns det någon plats där jag visar sekundärkällan som primär? Föreslå påhittade källor; bara påpeka saknade citat.Text: [klistra in text]
Svag prompt / Stark prompt
Svag: "Ge 5 akademiska källor och citat om detta ämne."
Güçlü: "Berätta för mig vilken typ av källor och nyckelord jag ska leta efter när jag forskar om detta ämne. Ta inte fram några referenser eller citat som du inte är säker på att existerar; om du inte är säker, säg 'Jag kunde inte hitta det'. Jag ska ge dig källorna jag hittar senare; jag kommer att bekräfta citaten från böckerna."
Den kraftfulla uppmaningen stänger dörren till hallucinationer och lämnar verifiering till människan. Den svaga uppmaningen inbjuder direkt till imaginär resursproduktion.
Validering kedjetabell
steg
Fråga
verifieringsplats
enhet
Finns källan verkligen?
Katalog / databas
avtryck
Stämmer författaren, årtalet, sidan?
Förlag/förlag
citat
Står det ordagrant i texten?
själva källan
Sammanhang
Är innebörden förvrängd?
huvudstycke
Citation
Till rätt person?
krysskontroll
Verifiering med permanent länk och avtryck
Det finns konkreta sätt att snabbt och tillförlitligt bekräfta om en resurs faktiskt finns. De flesta moderna akademiska publikationer har en DOI (Digital Object Identifier – ett oföränderligt unikt ID som permanent tilldelas en publikation; det fungerar som en länk och leder direkt till publikationen). Om du kommer åt den faktiska publikationen när du skriver in DOI för en artikel i en webbläsare, finns den källan; Om du inte kan hitta den eller om DOI inte existerar alls, var misstänksam. AI-genererade "DOIs" är ofta påhittade och går ingenstans; Detta är ett av de mest praktiska testerna för att fånga den imaginära källan.
ISBN (International Standard Book Number) ger en liknande identifiering för böcker; Du kan verifiera bokens äkthet genom att söka efter den med ISBN i en bibliotekskatalog eller en pålitlig bokdatabas. För tidskrifter, kontrollera tidskriftens namn och volym/nummerinformation på förlagets officiella webbplats. Dessa konkreta identiteter är svaret på frågan "Är källan verklig?" Den svarar tydligt på din fråga inom några minuter.
Dessa metoder förvandlar verifiering till en "transaktion" snarare än en "aktie": när du öppnar och tittar på varje källa personligen, i katalogen, av DOI eller på utgivarens webbplats, är risken för fantomtillskrivning i stort sett eliminerad.
Tips: När du är klar med din bibliografi, gör en "klicktur": öppna faktiskt DOI- eller katalogposten för varje källa. Även en enskild resurs som inte öppnas är en varning; antingen korrigera det med rätt avtryck eller ta bort det från listan.
Vanliga misstag
- Att missförstå realism med verklighet. En AI:s trovärdiga identitet bevisar inte dess existens.
- Inte verifiera citatet från källan. Tillverkade eller förvrängda citat kan läcka.
- Hämta historik från en enda källa. Korskontrollera med minst två tillförlitliga källor.
- Få det sekundära att se ut som det primära. Ange överföringskedjan ärligt.
- Citerar AI som källa. AI är inte en resurs; dess användning är deklarerad, hänvisning görs till den primära källan.
Sammanfattningsvis
Ärlighet inom humaniora förlitar sig på källan och citeringens noggrannhet. Den största faran med AI är att den producerar källor och citat som ser realistiska ut men som inte existerar. Skicka varje källa och citat genom femstegsverifieringskedjan (enhet, kredit, offert, sammanhang, attribution). Förbjud AI från att tillverka från början och delegera aldrig verifiering till den. Denna disciplin är garantin för din tillförlitlighet i detta yrke.
Applikationsuppgift
Försök att låta AI föreslå några källor och ett citat om ett ämne. Kör varje källa genom verifieringskedjan: hur många finns det faktiskt, hur många har korrekt tillskrivning, finns citatet verkligen i källan? Skriv resultaten i en tabell. Denna erfarenhet kommer konkret att visa gränserna för AI på detta område.
checklista
- [ ] Jag bekräftade förekomsten av varje resurs i katalogen.
- [ ] Jag har verifierat varje citat ordagrant från originalkällan.
- [ ] Jag har kontrollerat att sammanhanget för citatet inte har förvrängts.
- [ ] Jag har krysskollat datumen med minst två källor.
- [ ] Jag förbjöd AI:n från att tillverka och delegerade inte verifiering till den.