Bronverificatie, hallucinatie en attributiediscipline

Winst:

• Weten waarom de hallucinatie verborgen is in het menselijke domein en in staat zijn om elke bron door de vijfstapsverificatieketen te laten gaan (bestaan, afdruk, citaat, context, attributie)
• Mogelijkheid om de authenticiteit van de bron te bevestigen met concrete identiteiten zoals DOI, ISBN en catalogus.
• Begrijp de discipline van het verbieden van kunstmatige intelligentie om verzinsels te maken en het nooit delegeren van de verificatie van citaten en het toekennen van eerlijkheid daaraan.

De waarde van een tekst op menselijk en sociaal gebied hangt af van de authenticiteit en nauwkeurige overdracht van de bronnen waarop deze is gebaseerd. Een literair essay, een scriptie, een collegenota - ze zijn allemaal afhankelijk van betrouwbare bronnen en eerlijke toeschrijving (laten zien wie/waar je informatie of een citaat hebt gekregen). AI biedt op dit gebied veel gemak, maar brengt ook het grootste gevaar met zich mee: hallucinatie, dat wil zeggen het als reëel produceren van een niet-bestaande bron, citaat of feit. Deze eenheid is toegewijd aan het opzetten van een "verificatiepantser" tegen dit gevaar.

Regel van één zin: Geen enkele door AI gegenereerde bron, citaat, datum of nummer kan de tekst invoeren zonder bevestiging door een primaire of betrouwbare bron. Deze regel is de meest herhaalde en minst flexibele regel van deze module.

Waarom is hallucinatie op dit gebied zo gevaarlijk?

Als AI het bij het verkeerde eind heeft op een technisch vraagstuk, zal dat vaak opgemerkt worden; maar in de menselijke sfeer wordt de hallucinatie vakkundig verborgen:

• Realistische naamregel: AI combineert de naam van een echte auteur met een titel die past bij het vakgebied en een redelijk jaartal. Het resultaat is een bron die niet bestaat, maar er precies echt uitziet.
• Citaat passend bij de stijl: AI kan de stijl van een auteur imiteren en een zin die niet van hem is, als "zijn woord" presenteren.
• Bijna maar verkeerde datum: Het jaartal van een werk kan een of twee jaar verschoven zijn; Dit ontgaat de onzorgvuldige lezer.
• Verwarde attributie: Kan een idee aan de verkeerde persoon toeschrijven.

Deze kunnen allemaal stilletjes de tekst van een auteur met eerlijke bedoelingen infiltreren, en als ze niet worden opgemerkt, zowel de reputatie van de auteur als het vertrouwen van de lezer beschadigen.

Let op: het feit dat een hulpbron voor de AI 'realistisch' lijkt, betekent niet dat deze echt is. Realisme en realiteit zijn twee verschillende dingen; AI is een meester in het eerste, maar kan het laatste niet garanderen.

Verificatiepantser: stap voor stap

Volg voor elke bron en citaat deze keten:

1. Is dat zo? Zoek de bron in de bibliotheekcatalogus, een betrouwbare database of de site van de uitgever. Als het niet kan worden gevonden, bestaat het niet – gebruik het niet.
2. Is de afdruk correct? Auteur, titel, uitgever/tijdschrift, jaar, pagina: alles moet exact overeenkomen.
3. Is het citaat echt? Zoek het citaat in de bron zelf, op de opgegeven pagina, en vergelijk het woordelijk.
4. Klopt de context? Wordt het citaat letterlijk gebruikt of is het verdraaid?
5. Is de toeschrijving eerlijk? Wordt het idee aan de juiste persoon toegeschreven, wordt iets uit een secundaire bron als primair afgeschilderd?

Als zelfs maar één schakel van deze keten verbroken wordt, kan deze de brontekst niet invoeren.

Tip: Instrueer de AI vanaf het begin: "Geef geen bronnen waarvan je niet zeker weet of ze bestaan; als je het niet zeker weet, zeg dan 'Ik kon de bron niet vinden'." Dit maakt geen volledig einde aan de hallucinatie, maar het zet de AI ertoe aan om "Ik weet het niet" te zeggen in plaats van het goed te maken.

Citatie en citatiediscipline

Naast verificatie is eerlijke attributie ook een discipline:

• Geef de directe offerte met offertes en pagina; Laat het letterlijk zijn.
• Koppel ook indirect citaat (samenvattend in je eigen woorden) aan de bron; Als het idee niet van jou is, heeft het attributie nodig.
• Vermeld transparant de AI-bijdrage volgens de regel van jouw organisatie; AI is geen ‘hulpbron’, maar als het wordt gebruikt, moet het worden aangegeven.
• Stel de secundaire bron niet voor als primair; Als je een citaat van een auteur uit een ander boek hebt overgenomen, geef dit dan aan.

drie minikoffers

Casus 1 — Twee van de vijf bronnen bleken fictief te zijn. Een onderzoeker doorliep het verificatieproces van 5 bronnen gegeven door AI. 2 stonden helemaal niet in de catalogus, 1 had het verkeerde jaartal, 2 waren echt en correct. Alleen de 2 geverifieerde werden gebruikt; artikel beschermd tegen fictieve toeschrijving.

Geval 2 – Er is sprake van vertekening van de citaten. Eén student vond een citaat van AI in een echt boek, maar het citaat betekende precies het tegenovergestelde in de oorspronkelijke context. De AI had de zin uit zijn context gehaald. De student corrigeerde het citaat in de juiste context.

Geval 3 — Onjuiste toeschrijving gecorrigeerd. In één collegeaantekening schreef AI een mening toe aan de verkeerde auteur. Toen de leraar het met twee betrouwbare bronnen controleerde, vond hij de rechtmatige eigenaar en repareerde het. Het briefje overleefde zonder dat er iets misging bij de student.

Vier kopieerbare sjablonen

1) Instructie voor een fabricageverbod:

Vanaf nu: Vermeld GEEN bron, citaat, datum of nummer waarvan u niet zeker weet of deze bestaat. Als u het niet zeker weet, zegt u 'Verificatie vereist' of 'Ik kon het niet vinden'. Geef nooit een tag die realistisch is, maar je kunt de authenticiteit ervan niet garanderen. Volg deze regel bij elke reactie.

2) Routekaart voor bronverificatie:

Ik zal de onderstaande bron zelf verifiëren. Vertel me waar ik deze bron moet zoeken (catalogus, database, uitgever) en met welke belangrijke informatie. U bevestigt dat de bron bestaat; geef gewoon de verificatiestappen op. Bron: [paste credit]

3) Citaatcontextcontrole:

Hieronder vindt u een citaat en de daadwerkelijke paragraaf waarin het voorkomt. Wordt het citaat in de oorspronkelijke context gebruikt of is het verdraaid? Vertrouw gewoon op de tekst die ik je gaf; een commentaar toevoegen. Citaat: [...] Oorspronkelijke paragraaf: [...]

4) Audit van de attributie-integriteit:

In mijn tekst hieronder: welke zinnen hebben een bron nodig maar blijven ongeattribueerd, welk idee kan van iemand anders zijn, is er een plek waar ik de secundaire bron als primair toon? Het suggereren van verzonnen bronnen; wijs gewoon ontbrekende citaten aan.Tekst: [plak tekst]

Zwakke prompt/sterke prompt

Zwak: "Geef vijf academische bronnen en citaten over dit onderwerp."

Güçlü: "Vertel me naar wat voor soort bronnen en trefwoorden ik moet zoeken als ik onderzoek doe naar dit onderwerp. Geef geen referenties of citaten waarvan je niet zeker weet of ze bestaan; als je het niet zeker weet, zeg dan 'Ik kon het niet vinden'. Ik zal je de bronnen geven die ik later vind; ik zal de citaten uit de boeken bevestigen."

De krachtige prompt sluit de deur voor hallucinaties en laat de verificatie over aan de mens. De zwakke prompt nodigt rechtstreeks uit tot denkbeeldige productie van hulpbronnen.

Validatieketentabel

stap

Vraag

verificatie locatie

entiteit

Bestaat de bron echt?

Catalogus / database

afdruk

Kloppen de auteur, het jaartal, de pagina?

Uitgever/afdruk

citaat

Staat het letterlijk in de tekst?

de bron zelf

Context

Is de betekenis vervormd?

hoofdparagraaf

Citaat

Bij de juiste persoon?

kruiscontrole

Verificatie met permanente link en impressum

Er zijn concrete manieren om snel en betrouwbaar te bevestigen of een hulpbron daadwerkelijk bestaat. De meeste moderne academische publicaties hebben een DOI (Digital Object Identifier – een onveranderlijke unieke ID die permanent aan een publicatie wordt toegewezen; deze fungeert als een link en leidt rechtstreeks naar de publicatie). Als u de daadwerkelijke publicatie opent wanneer u de DOI van een artikel in een browser typt, bestaat die bron; Als u deze niet kunt vinden of als de DOI helemaal niet bestaat, wees dan achterdochtig. Door AI gegenereerde ‘DOI’s’ zijn vaak verzonnen en leiden nergens toe; Dit is een van de meest praktische tests voor het vastleggen van de denkbeeldige bron.

ISBN (International Standard Book Number) biedt een soortgelijke identificatie voor boeken; U kunt de authenticiteit van het boek verifiëren door ernaar te zoeken op ISBN in een bibliotheekcatalogus of een betrouwbare boekendatabase. Controleer voor tijdschriften de naam van het tijdschrift en de informatie over het volume/nummer op de officiële website van de uitgever. Deze concrete identiteiten zijn het antwoord op de vraag 'Is de bron reëel?' Het beantwoordt uw vraag duidelijk binnen enkele minuten.

Deze methoden maken van verificatie een ‘transactie’ in plaats van een ‘voorraad’: wanneer u elke bron persoonlijk opent en bekijkt, in de catalogus, via DOI of op de site van de uitgever, wordt het risico van fantoomattributie grotendeels geëlimineerd.

Tip: Wanneer u klaar bent met uw bibliografie, doe dan een “click tour”: open daadwerkelijk het DOI- of catalogusrecord van elke bron. Zelfs een enkele bron die niet wordt geopend, is een waarschuwing; Corrigeer het met de juiste afdruk of verwijder het uit de lijst.

Veel voorkomende fouten

• Realisme verwarren met realiteit. De plausibele identiteit van een AI bewijst niet het bestaan ​​ervan.
• Het citaat van de bron niet verifiëren. Verzonnen of verdraaide citaten kunnen lekken.
• Geschiedenis verkrijgen uit één enkele bron. Voer een kruiscontrole uit met ten minste twee betrouwbare bronnen.
• Het secundaire eruit laten zien als het primaire. Geef de transmissieketen eerlijk weer.
• AI wordt als bron genoemd. AI is geen hulpbron; het gebruik ervan wordt aangegeven, er wordt verwezen naar de primaire bron.

Samengevat

Eerlijkheid in de geesteswetenschappen is afhankelijk van de nauwkeurigheid van bronnen en citaties. Het grootste gevaar van AI is dat het bronnen en citaten oplevert die realistisch lijken maar niet bestaan. Voer elke bron en citatie door de verificatieketen van vijf stappen (entiteit, credit, quote, context, attributie). Verbied de AI vanaf het begin om te fabriceren en delegeer de verificatie nooit aan haar. Deze discipline is de garantie voor jouw betrouwbaarheid in dit vak.

Applicatie taak

Probeer de AI een paar bronnen en een citaat over een onderwerp te laten voorstellen. Voer elke bron door de verificatieketen: hoeveel bestaan ​​er daadwerkelijk, hoeveel hebben de juiste bronvermelding, staat het citaat daadwerkelijk in de bron? Schrijf de resultaten in een tabel. Deze ervaring zal concreet de grenzen van AI op dit gebied laten zien.

controlelijst

• [ ] Ik heb het bestaan van elke bron in de catalogus bevestigd.
• [ ] Ik heb elk citaat woordelijk geverifieerd vanuit de originele bron.
• [ ] Ik heb gecontroleerd of de context van het citaat niet is verdraaid.
• [ ] Ik heb de data gecontroleerd met ten minste twee bronnen.
• [ ] Ik verbood de AI om te fabriceren en delegeerde de verificatie niet aan haar.