Forskning og faktaverifisering: Risiko for kilder, sitater og oppdiktede kilder

Gevinster:

• Evne til å bruke kunstig intelligens som et startkart i forskningsprosessen og koble hvert faktum og sitat til primærkilden
• Evne til å gjenkjenne risikoen for fabrikkerte kilder, falske sitater og falske datoer (hallusinasjoner) og bruke systematisk verifisering
• Evne til å redigere forskningsnotater, bibliografi og faktasjekkliste med støtte for kunstig intelligens og opprettholde påliteligheten til artikkelen

Den usynlige ryggraden i god skriving er forskning. En dato, en statistikk, et sitat, et vitenskapelig funn – disse bærer på troverdigheten til teksten. Et enkelt falskt faktum kan ødelegge troverdigheten til et helt verk. Kunstig intelligens (AI) virker forførende nyttig i forskningsprosessen: den gir et umiddelbart, flytende, sikkert svar på hvert spørsmål. Men her ligger forfatterskapets farligste felle: AI kan produsere kilder, sitater, datoer og funn som faktisk ikke eksisterer, som om de var sanne. Vi kan oppsummere denne enheten i én setning: AI kan være startkartet for forskning, men det kan aldri bli den endelige ressursen.

Hallusinasjoner: den mest lumske risikoen

Hallusinasjon er når AI presenterer ikke-eksisterende informasjon på et trygt og flytende språk. I følge forskning er de farligste formene for dette:

Fabrisert kilde: AI kan lage en bok, artikkel eller rapport som faktisk ikke eksisterer; Dessuten med realistisk forfatternavn, årstall og journalinformasjon. "Yılmaz, A. (2019). Digital Literacy. Journal of Communication, 14(2)." – Høres ekte ut, men er kanskje ikke det.

Falsk sitat: AI kan tilskrive et sitat til en ekte person som de aldri sa. Gir navnet på en kjent forfatter og en setning som den forfatteren aldri har uttalt.

Feil dato/tall: Kan gi feil dato for en hendelse, en statistikk, en prosentandel; alle med samme presise tone.

Forvirret faktum: Kan forveksle to sanne fakta og produsere en falsk kombinasjon (for eksempel å tilskrive en persons uttalelse til en annen).

Hva disse risikoene har til felles: de ser alle flytende og overbevisende ut. Flytende er ikke nøyaktighet. Den eneste beskyttelsen er systematisk verifikasjonskobling til primærkilden.

Forsiktig: Spør AI "er denne kilden ekte?" Å spørre er IKKE en verifiseringsmetode. AI kan også bekrefte kilden den laget som "ja, den er ekte". Verifisering gjøres utenfor AI, ved primærkilden: åpne journalen, boken, selve databasen og finne den.

Legitime forskningsrolle til AI

Til tross for alle disse forbeholdene er AI ikke verdiløs i forskning; bare dens rolle er begrenset. Legitime bruksområder:

Startkart: Bestemme hvor man skal begynne med et emne, hvilke underoverskrifter det er, og hvilke begreper som må forskes på. Dette er lister over ting å se etter, ikke svar.

Konseptavklaring: Forstå et ukjent begrep på egen hånd (for så å bekrefte det fra kilden).

Spørsmålsgenerering: "Hvilke spørsmål bør jeg stille om dette, hva kan jeg ha gått glipp av?" AI er flink til å peke på blindhetspunkter.

Redigering: Oppsummering, kategorisering og formatering av bibliografien til dine innsamlede (verifiserte) notater.

Tabellen nedenfor oppsummerer hva AI er og ikke er bra for i forskning:

Quest

Er AI egnet?

merk

Introduksjonskart til temaet

Ja

Bare veiledning, ikke svar

Generer spørsmål for å søke

Ja

Viser blindhetspunkter

Oppgi kilde/sitering

nei

Det kan gjøres opp; verifisere fra primær

Eksporter historikk/statistikk

nei

Det kan være feil; kjøpe fra kilden

Rediger bekreftede notater

Ja

Du samler, AI organiserer

Systematisk verifikasjonsflyt

En regel for hvert faktum: gå til primærkilden. En primærkilde er hvor informasjon først publiseres: original forskningsartikkel, offisielt statistisk byrå, egen bok/intervju, originaldokument. Det AI (og til og med sekundære sammendrag) sier er et "krav" inntil det er bekreftet, ikke et "faktum".

Bekreftelsesflyt:

1. Merk: Mens du skriver, merk hvert faktum, dato, sitat og tall med [VERIFY]-taggen.
2. Finn primærkilde: Åpne kilden selv for hvert merkede element; Er det noen, stemmer innholdet med det som blir sagt?
3. Krysssjekk: Bekreft kritiske fakta fra minst to uavhengige pålitelige kilder.
4. Hold oversikt: Legg merke til kilden til hvert bekreftet faktum; I publisering kommer litteraturlisten fra dette notatet.

Du kan bruke AI i redigeringsdelen av denne flyten:

Kontekst: Nedenfor er notatene jeg har samlet inn og VERIFISERT fra PRIMÆRkilden, med kilden skrevet ved siden av hvert notat. Oppgave: Grupper disse notatene etter tema og foreslå en tittel for hver gruppe. IKKE LEGG TIL noen påstander uten kilde; Fakta, datoer eller sitater som jeg ikke oppga er FAKE. Merk de manglende delene som "kilden mangler her".

Du kan også bruke AI som en "skeptiker":

Oppgave: List opp ALLE faktiske påstander, datoer, tall og sitater som må bekreftes i teksten nedenfor. For hver enkelt, skriv ned "hvilken type primærkilde bør verifiseres?" IKKE svar på det selv; Bare bekreftelseslisten vises.

Primær, sekundær og tertiær kilde

Å kjenne kildehierarkiet i validering gjør jobben din tydelig. En primær kilde er hvor informasjon produseres på førstehånd: den originale forskningsartikkelen, den offisielle statistiske tabellen, ens egen bok, rettsavgjørelsen, originaldokumentet. En sekundærkilde er teksten som tolker eller formidler det primære: en nyhetsreportasje, en anmeldelse, en leksikonartikkel. Tertiære kilder er sammendrag som samler sekundære kilder. Utgangen av AI er som en tertiær fordøyelse i beste fall; Mesteparten av tiden er den enda svakere enn det, fordi den ikke kan vise kilden sin og kan gjøre opp. Regel: jo mer kritisk faktum, jo ​​mer primært bør du gå. En sekundær kilde kan være tilstrekkelig for atmosfæren i en roman; Det kreves en primærkilde for en helsepåstand, en dato eller en uttalelse som tilskrives en person. Bruk AI på "hvor skal jeg se"-laget nederst i denne pyramiden, aldri på "dette er sannheten"-laget øverst.

Tips: Når du plasserer et ubekreftet faktum i teksten din, la en synlig [VERIFY]-kode stå ved siden av den og ikke send inn teksten med noen setninger som har denne taggen. Etiketter er en enkel, men livreddende vane som gjør glemte fakta synlige, og sier «jeg skal se på dem senere».

tre minisaker

Sak 1 – Falsk artikkel. En forfatter skrev at YZ ga "2020, Journal of Media Studies, Demir et al." sette kilden direkte inn i litteraturlisten. En leser fant ut at en slik artikkel ikke eksisterer. Forfatteren måtte verifisere hele bibliografien fra den primære, noe som resulterte i ytterligere to apokryfe kilder. Leksjon: ingen kilde er inkludert i artikkelen uten å være funnet personlig.

Tilfelle 2 – Riktig bruk. En journalist startet et komplekst emne med kunstig intelligens: trekke ut underoverskrifter og spørsmål å stille. Deretter samlet han hvert fakta fra det offisielle statistikkbyrået og fra en-til-en-intervjuer; Han brukte kun AI for å redigere notater som han bekreftet. Skriften kom raskt og solid ut; Ikke et eneste oppdiktet faktum ble bestått.

Sak 3 - Falsk sitat. En foredragsholder inkluderte i sin presentasjon et "inspirerende" sitat tilskrevet en kjent AI-forsker. Løftet ble gjort opp; noen i salen la merke til og foredragsholderens troverdighet ble skadet. Den riktige måten: var å verifisere sitatet fra egen bok/tale.

Svak forespørsel / Sterk forespørsel

Svak melding:

Gi meg 5 akademiske kilder og ett sitat om dette emnet.

Denne forespørselen inviterer AI til å lage ressurser; Utgangen ser realistisk ut, men er sannsynligvis ikke verifiserbar.

Kraftig ledetekst:

Din rolle: forskningslederassistent. Emne: [emne]. Oppgave: Det er 6 UNDEROVERSKRIFTER jeg trenger for å undersøke om dette emnet og 2 spørsmål jeg må stille for hver. Henvis meg også til "hva slags primærkilder (offisiell statistikk, fagfellevurderte tidsskrifter, en-til-en intervjuer) kan jeg søke?" Bare vis meg hvor jeg skal se.

Forskjell: AI blir spurt om retning, ikke svar; Døren til fabrikasjon er lukket, verifisering er hos forfatteren.

Vanlige feil

• Bruke ressursen levert av AI uten å verifisere den. Den oppdiktede kilden blir en løgn publisert med din signatur.
• Å spørre AI "er dette sant" og stole på svaret. AI kan også bekrefte sin egen oppfinnelse.
• Ikke verifisere sitater fra egen kilde. Falske sitater ødelegger troverdigheten.
• Å være fornøyd med en enkelt kilde. Kritiske fakta krever krysssjekking fra minst to uavhengige kilder.
• Tenker på AI som den "siste ressursen" i stedet for "startkartet". AI viser retning; Den primære kilden gir fakta.

Oppsummert

I forskning er AI et kraftig startkart og en arrangør: trekke ut underoverskrifter, generere spørsmål, samle bekreftede notater. Men jobben med å gi kilder, sitater, datoer og statistikk kan aldri stoles på; fordi han kan finne på det hele på en overbevisende måte (hallusinasjon). Gylden regel: koble hvert faktum til primærkilden, krysssjekk det kritiske, ikke bruk noen kilde gitt av AI uten å finne den selv. AI forteller hvor du skal lete; Du bestemmer hva du finner.

Søknadsoppgave

Velg et emne. Først, få underoverskrifter og spørsmål fra AI med "retnings"-malen (IKKE kilden). Be så bevisst AI om en kilde/sitat og prøv å bekrefte den kilden som primær: eksisterer den virkelig, stemmer innholdet med det som blir sagt? Legg merke til funnene dine (hvor mange kilder som ble bekreftet, hvor mange ble ikke funnet). Lag til slutt en verifiseringsliste over din egen tekst ved å bruke malen "skeptisk".

sjekkliste

• [ ] Brukte jeg AI til å generere retning og spørsmål, ikke for ressurser?
• [ ] Har jeg merket alle fakta, dato, sitat og tall med [VERIFY]?
• [ ] Har jeg personlig funnet og verifisert hver kilde ved primærkilden?
• [ ] Har jeg krysssjekket kritiske fakta mot minst to uavhengige kilder?
• [ ] Har jeg verifisert sitatene med individets egen kilde?
• [ ] Har jeg eksplisitt gitt "kilde-/siteringsfabrikasjon"-regelen til AI?