Onderzoek en feitenverificatie: risico van bronnen, citaten en verzonnen bronnen — Kunstmatige intelligentie bij schrijven en redigeren

Winst:

Vermogen om kunstmatige intelligentie als startkaart in het onderzoeksproces te gebruiken en elk feit en citaat te verbinden met de primaire bron
Vermogen om het risico van verzonnen bronnen, valse citaten en valse data (hallucinaties) te herkennen en systematische verificatie toe te passen
Mogelijkheid om onderzoeksnotities, bibliografie en feitenchecklist te bewerken met ondersteuning voor kunstmatige intelligentie en de betrouwbaarheid van het artikel te behouden

De onzichtbare ruggengraat van goed schrijven is onderzoek. Een datum, een statistiek, een citaat, een wetenschappelijke bevinding: deze dragen de geloofwaardigheid van de tekst in zich. Eén enkel vals feit kan de geloofwaardigheid van een heel werk vernietigen. Kunstmatige intelligentie (AI) lijkt verleidelijk nuttig in het onderzoeksproces: het biedt een onmiddellijk, vloeiend en zelfverzekerd antwoord op elke vraag. Maar hierin ligt de gevaarlijkste valkuil van auteurschap: AI kan bronnen, citaten, data en bevindingen produceren die niet echt bestaan, alsof ze waar zijn. We kunnen deze eenheid in één zin samenvatten: AI kan het startpunt voor onderzoek zijn, maar nooit de uiteindelijke hulpbron.

Hallucinatie: het meest verraderlijke risico

Er is sprake van hallucinatie wanneer AI niet-bestaande informatie presenteert in een veilige en vloeiende taal. Volgens onderzoek zijn de gevaarlijkste vormen hiervan:

Verzonnen bron: AI kan een boek, artikel of rapport verzinnen dat niet echt bestaat; Bovendien met realistische auteursnaam, jaartal en tijdschriftinformatie. "Yılmaz, A. (2019). Digitale geletterdheid. Journal of Communication, 14(2)." - klinkt echt, maar is het misschien niet.

Valse quote: AI kan een quote aan een echte persoon toeschrijven die hij of zij nooit heeft gezegd. Geeft de naam van een beroemde schrijver en een zin die die schrijver nog nooit heeft uitgesproken.

Onjuiste datum/nummer: Kan een onjuiste datum van een gebeurtenis, een statistiek of een percentage weergeven; allemaal met dezelfde precieze toon.

Verward feit: Kan twee ware feiten verwarren en een valse combinatie opleveren (zoals het toeschrijven van de verklaring van de ene persoon aan de andere).

Wat deze risico's gemeen hebben: ze zien er allemaal vloeiend en overtuigend uit. Vloeiendheid is geen nauwkeurigheid. De enige bescherming is een systematische verificatie die verband houdt met de primaire bron.

Let op: Vraag de AI "is deze bron echt?" Vragen is GEEN verificatiemethode. AI kan ook bevestigen dat de bron die het heeft verzonnen ‘ja, het is echt’. Verificatie gebeurt buiten de AI, bij de primaire bron: het openen van het tijdschrift, het boek, de database zelf en het vinden ervan.

Legitieme onderzoeksrol van AI

Ondanks al deze kanttekeningen is AI niet waardeloos in onderzoek; alleen zijn rol is beperkt. Legitiem gebruik:

Startkaart: Bepalen waar je met een onderwerp moet beginnen, welke subkoppen er zijn en welke concepten onderzocht moeten worden. Dit zijn lijsten met dingen waarnaar u moet zoeken, geen antwoorden.

Conceptverduidelijking: een onbekende term uit de eerste hand begrijpen (om deze vervolgens aan de bron te verifiëren).

Vraaggeneratie: "Welke vragen moet ik hierover stellen, wat heb ik misschien gemist?" AI is goed in het wijzen op blindheidspunten.

Bewerken: het samenvatten, categoriseren en opmaken van de bibliografie van uw verzamelde (geverifieerde) aantekeningen.

De onderstaande tabel vat samen waar AI wel en niet goed voor is in onderzoek:

Zoektocht

Is AI geschikt?

opmerking

Introductiekaart voor het onderwerp

Alleen richting, geen antwoord

Vragen genereren om te zoeken

Toont blindheidspunten

Geef bron/citaat

nee

Het kan worden verzonnen; verifiëren vanaf primair

Geschiedenis/statistieken exporteren

nee

Het kan verkeerd zijn; kopen bij de bron

Bewerk geverifieerde notities

Jij verzamelt, AI organiseert

Systematische verificatiestroom

Voor elk feit geldt één regel: ga naar de primaire bron. Een primaire bron is waar informatie voor het eerst wordt gepubliceerd: origineel onderzoeksartikel, officieel statistisch bureau, iemands eigen boek/interview, origineel document. Wat de AI (en zelfs secundaire samenvattingen) zeggen is een ‘claim’ totdat deze is geverifieerd, en geen ‘feit’.

Verificatiestroom:

Markeren: Terwijl u schrijft, markeert u elk feit, elke datum, elk citaat en elk nummer met de tag [VERIFY].
Zoek primaire bron: Open zelf de bron voor elk getagd item; Is die er, komt de inhoud overeen met wat er wordt gezegd?
Kruiscontrole: verifieer kritische feiten uit ten minste twee onafhankelijke, betrouwbare bronnen.
Houd gegevens bij: Noteer de bron van elk geverifieerd feit; In publicatie is de bibliografie afkomstig van deze notitie.

U kunt AI gebruiken in het bewerkingsgedeelte van deze stroom:

Context: Hieronder staan de aantekeningen die ik heb verzameld en GEVERIFIEERD uit de PRIMAIRE bron, waarbij de bron naast elke aantekening is geschreven. Taak: Groepeer deze aantekeningen op thema en stel een titel voor elke groep voor. VOEG GEEN claims toe zonder bron; Feiten, data of citaten die ik niet heb gegeven, zijn NEP. Markeer de ontbrekende delen als "de bron ontbreekt hier".

Je kunt AI ook als ‘scepticus’ gebruiken:

Taak: Maak een lijst van ALLE feitelijke beweringen, data, cijfers en citaten die moeten worden geverifieerd in de onderstaande tekst. Schrijf voor elke bron op: "Welk type primaire bron moet worden geverifieerd?" Beantwoord het NIET zelf; Alleen de verificatielijst verschijnt.

Primaire, secundaire en tertiaire bron

Het kennen van de bronhiërarchie bij validatie maakt uw taak duidelijk. Een primaire bron is waar informatie uit de eerste hand wordt geproduceerd: het originele onderzoeksartikel, de officiële statistische tabel, het eigen boek, de rechterlijke beslissing, het originele document. Een secundaire bron is de tekst die de primaire bron interpreteert of overbrengt: een nieuwsbericht, een recensie, een encyclopedieartikel. Tertiaire bronnen zijn samenvattingen die secundaire bronnen samenstellen. De output van de AI is op zijn best als een tertiaire samenvatting; Meestal is het zelfs zwakker dan dat, omdat het de bron ervan niet kan aantonen en het wel kan verzinnen. Regel: hoe kritischer een feit, hoe primairer je moet zijn. Een secundaire bron kan voldoende zijn voor de sfeer van een roman; Voor een gezondheidsclaim, een datum of een verklaring die aan een persoon wordt toegeschreven, is een primaire bron vereist. Gebruik AI op de laag ‘waar moet ik kijken’ onderaan deze piramide, nooit op de laag ‘dit is de waarheid’ bovenaan.

Tip: Wanneer u een niet-geverifieerd feit in uw tekst plaatst, laat dan een zichtbare [VERIFY]-tag ernaast staan en lever de tekst niet in met zinnen die deze tag dragen. Etiketten zijn een eenvoudige maar levensreddende gewoonte die vergeten feiten zichtbaar maakt en zegt: "Ik zal er later naar kijken".

drie minikoffers

Geval 1 — Vals artikel. Een auteur schreef dat YZ "2020, Journal of Media Studies, Demir et al." gaf. plaats de bron rechtstreeks in de bibliografie. Een lezer ontdekte dat een dergelijk artikel niet bestaat. De auteur moest de volledige bibliografie vanaf de primaire bibliografie opnieuw verifiëren, wat resulteerde in nog twee apocriefe bronnen. Les: er wordt geen bron in het artikel opgenomen zonder dat deze persoonlijk wordt gevonden.

Geval 2 — Correct gebruik. Een journalist begon een complex onderwerp met AI: het extraheren van subkoppen en vragen om te stellen. Vervolgens verzamelde hij elk feit van het officiële statistiekbureau en van één-op-één interviews; Hij gebruikte de AI alleen om aantekeningen te bewerken die hij had geverifieerd. Het schrijven kwam snel en solide uit; Geen enkel verzonnen feit werd doorgegeven.

Geval 3 — Valse quote. Eén spreker nam in zijn presentatie een ‘inspirerend’ citaat op dat werd toegeschreven aan een beroemde AI-wetenschapper. De belofte was verzonnen; iemand in het publiek merkte het op en de geloofwaardigheid van de spreker werd geschaad. De juiste manier: was door het citaat uit het eigen boek/toespraak te verifiëren.

Zwakke prompt/sterke prompt

Zwakke prompt:

Geef mij vijf academische bronnen en één citaat over dit onderwerp.

Deze prompt nodigt de AI uit om middelen te fabriceren; De uitvoer ziet er realistisch uit, maar is waarschijnlijk niet verifieerbaar.

Krachtige prompt:

Jouw rol: onderzoeksrichtingsassistent. Onderwerp: [onderwerp]. Taak: Er zijn 6 SUB-RUBBERS die ik over dit onderwerp moet onderzoeken en 2 vragen die ik voor elk onderwerp moet stellen. Verwijs mij ook naar "in wat voor soort primaire bronnen (officiële statistieken, peer-reviewed tijdschriften, één-op-één interviews) kan ik zoeken?" Laat me gewoon zien waar ik moet kijken.

Verschil: AI wordt om richting gevraagd, niet om antwoorden; De deur van de fabricage is gesloten, de verificatie ligt bij de auteur.

Veel voorkomende fouten

Gebruik maken van de door AI geleverde bronnen zonder deze te verifiëren. De verzonnen bron wordt een leugen die met uw handtekening wordt gepubliceerd.
De AI vragen “is dit waar” en vertrouwen op zijn antwoord. AI kan ook zijn eigen uitvinding bevestigen.
Het niet verifiëren van citaten uit eigen bron. Valse citaten vernietigen de geloofwaardigheid.
Tevreden zijn met één enkele bron. Cruciale feiten vereisen een kruiscontrole van ten minste twee onafhankelijke bronnen.
AI beschouwen als de ‘laatste hulpbron’ in plaats van als de ‘startkaart’. AI geeft richting; De primaire bron geeft het feit weer.

Samengevat

In onderzoek is AI een krachtige startkaart en organisator: het extraheren van subkoppen, het genereren van vragen, het verzamelen van geverifieerde aantekeningen. Maar het leveren van bronnen, citaten, data en statistieken kan nooit vertrouwd worden; omdat hij het allemaal overtuigend kan verzinnen (hallucinatie). Gouden regel: verbind elk feit met de primaire bron, controleer de kritische, gebruik geen enkele door de AI gegeven bron zonder deze zelf te vinden. AI vertelt waar te kijken; Jij bepaalt wat je vindt.

Applicatie taak

Kies een onderwerp. Haal eerst ondertitels en vragen van de AI met het sjabloon ‘richting’ (NIET de bron). Vraag de AI dan bewust om een bron/citaat en probeer die bron als primair te verifiëren: bestaat die werkelijk, komt de inhoud overeen met wat er gezegd wordt? Noteer uw bevindingen (hoeveel bronnen zijn geverifieerd, hoeveel zijn er niet gevonden). Maak ten slotte een verificatielijst van uw eigen tekst met behulp van het sjabloon "sceptisch".

controlelijst

[ ] Heb ik AI gebruikt om richting te geven en vragen te stellen, en niet om middelen te genereren?
[ ] Heb ik elk feit, datum, citaat en nummer gemarkeerd met [VERIFY]?
[ ] Heb ik elke bron persoonlijk gevonden en geverifieerd bij de primaire bron?
[ ] Heb ik kritische feiten vergeleken met ten minste twee onafhankelijke bronnen?
[ ] Heb ik de citaten geverifieerd met de eigen bron van het individu?
[ ] Heb ik expliciet de regel "bron/citatievervaardiging" aan de AI gegeven?