Istraživanje i provjera činjenica: rizik od izvora, citata i izmišljenih izvora

Dobici:

• Sposobnost korištenja umjetne inteligencije kao početne mape u procesu istraživanja i povezivanje svake činjenice i citata s primarnim izvorom
• Sposobnost prepoznavanja rizika od izmišljenih izvora, lažnih citata i lažnih datuma (halucinacije) i primjene sistematske provjere
• Sposobnost uređivanja bilješki o istraživanju, bibliografije i kontrolne liste činjenica uz podršku umjetne inteligencije i održavanje pouzdanosti članka

Nevidljiva okosnica dobrog pisanja je istraživanje. Datum, statistika, citat, naučno otkriće – oni nose kredibilitet teksta. Jedna lažna činjenica može uništiti kredibilitet cijelog djela. Umjetna inteligencija (AI) se čini zavodljivo korisnom u procesu istraživanja: pruža trenutan, fluidan, siguran odgovor na svako pitanje. Ali tu leži najopasnija zamka autorstva: AI može proizvesti izvore, citate, datume i nalaze koji zapravo ne postoje, kao da su istiniti. Ovu jedinicu možemo sažeti u jednu rečenicu: AI može biti početna mapa za istraživanje, ali nikada ne može biti konačni resurs.

Halucinacije: najpodmukliji rizik

Halucinacija je kada AI predstavlja nepostojeće informacije na sigurnom i tečnom jeziku. Prema istraživanjima, najopasniji oblici ovoga su:

Izmišljeni izvor: AI može izraditi knjigu, članak ili izvještaj koji zapravo ne postoji; Štaviše, sa realističnim imenom autora, godinom i podacima o časopisu. "Yılmaz, A. (2019). Digitalna pismenost. Journal of Communication, 14(2)." — zvuči stvarno, ali možda i nije.

Lažni citat: AI može pripisati citat stvarnoj osobi koju nikada nije rekla. Daje ime poznatog pisca i rečenicu koju taj pisac nikada nije izgovorio.

Netačan datum/broj: Može dati netačan datum događaja, statistiku, procenat; sve sa istim preciznim tonom.

Zbunjena činjenica: Može pomiješati dvije istinite činjenice i proizvesti lažnu kombinaciju (kao što je pripisivanje izjave jedne osobe drugoj).

Ono što je zajedničko ovim rizicima: svi izgledaju fluidno i uvjerljivo. Tečnost nije tačnost. Jedina zaštita je sistematska provjera povezivanja na primarni izvor.

Oprez: Pitajte AI "da li je ovaj izvor stvaran?" Pitanje NIJE metoda verifikacije. AI također može potvrditi izvor koji je izmislio kao "da, to je stvaran". Verifikacija se vrši izvan AI, na primarnom izvoru: otvaranje časopisa, knjige, same baze podataka i njeno pronalaženje.

Legitimna istraživačka uloga AI

Uprkos svim ovim upozorenjima, AI nije bezvrijedan u istraživanju; samo je njegova uloga ograničena. Legitimne upotrebe:

Početna mapa: Određivanje gdje početi s temom, koji podnaslovi postoje i koje koncepte treba istražiti. Ovo su spiskovi stvari koje treba tražiti, a ne odgovori.

Pojašnjenje koncepta: Razumijevanje nepoznatog pojma iz prve ruke (da bi ga onda provjerili iz izvora).

Generisanje pitanja: "Koja pitanja da postavim o ovome, šta sam možda propustio?" AI je dobar u ukazivanjem na tačke sljepoće.

Uređivanje: Sažimanje, kategorizacija i formatiranje bibliografije vaših prikupljenih (provjerenih) bilješki.

Tabela u nastavku rezimira šta AI jeste i za šta nije dobra u istraživanju:

Quest

Da li je AI pogodan?

napomena

Mapa uvoda u temu

Da

Samo smjer, a ne odgovor

Generisanje pitanja za pretragu

Da

Pokazuje tačke sljepila

Navedite izvor/citiranje

br

Može se izmisliti; provjeriti sa primarnog

Izvoz historije/statistike

br

Možda je pogrešno; kupiti od izvora

Uredite provjerene bilješke

Da

Vi sakupljate, AI organizuje

Sistematski tok verifikacije

Jedno pravilo za svaku činjenicu: idite na primarni izvor. Primarni izvor je mjesto gdje se informacije prvi put objavljuju: originalni istraživački članak, službena statistička agencija, vlastita knjiga/intervju, originalni dokument. Ono što AI (pa čak i sekundarni sažetci) kažu je "tvrdnja" dok se ne potvrdi, a ne "činjenica".

Tok verifikacije:

1. Označi: Dok pišete, označite svaku činjenicu, datum, citat i broj oznakom [VERIFY].
2. Pronađite primarni izvor: sami otvorite izvor za svaku označenu stavku; Da li postoji, da li se njegov sadržaj podudara sa onim što je rečeno?
3. Unakrsna provjera: Provjerite kritične činjenice iz najmanje dva nezavisna pouzdana izvora.
4. Vodite evidenciju: Zabilježite izvor svake provjerene činjenice; U publikaciji, bibliografija dolazi iz ove napomene.

Možete koristiti AI u dijelu za uređivanje ovog toka:

Kontekst: Ispod su bilješke koje sam prikupio i PROVERIO iz PRIMARNOG izvora, s izvorom napisanim pored svake bilješke. Zadatak: Grupirajte ove bilješke prema temi i predložite naslov za svaku grupu. NEMOJTE DODATI nikakve tvrdnje bez izvora; Činjenice, datumi ili citati koje nisam dao su LAŽNI. Označite dijelove koji nedostaju kao "ovdje nedostaje izvor".

Također možete koristiti AI kao "skeptika":

Zadatak: Navedite SVE činjenične tvrdnje, datume, brojeve i citate koje je potrebno provjeriti u tekstu ispod. Za svaki od njih napišite "koju vrstu primarnog izvora treba provjeriti?" NEMOJTE sami odgovoriti; Pojavljuje se samo lista za provjeru.

Primarni, sekundarni i tercijarni izvor

Poznavanje izvorne hijerarhije u validaciji čini vaš posao jasnim. Primarni izvor je mjesto gdje se informacije proizvode iz prve ruke: originalni istraživački članak, zvanična statistička tabela, vlastita knjiga, sudska odluka, originalni dokument. Sekundarni izvor je tekst koji tumači ili prenosi primarni: izvještaj vijesti, pregled, članak iz enciklopedije. Tercijarni izvori su sažetci koji sastavljaju sekundarne izvore. Izlaz AI-a je u najboljem slučaju kao tercijarni sažetak; Većinu vremena je čak i slabiji od toga, jer ne može pokazati svoj izvor i može ga nadoknaditi. Pravilo: što je kritičnija činjenica, to bi trebalo da budete primarniji. Sekundarni izvor može biti dovoljan za atmosferu romana; Za zdravstvenu tvrdnju, datum ili izjavu koja se pripisuje osobi potreban je primarni izvor. Koristite AI na sloju "gdje da pogledam" na dnu ove piramide, nikada na sloju "ovo je istina" na vrhu.

Savjet: Prilikom postavljanja neprovjerene činjenice u svoj tekst, ostavite vidljivu oznaku [VERIFY] pored nje i nemojte slati tekst s rečenicama koje nose ovu oznaku. Etikete su jednostavna, ali spasonosna navika koja čini zaboravljene činjenice vidljivim, govoreći: "Pogledaću ih kasnije".

tri mini kofera

Slučaj 1 — Lažni članak. Autor je napisao da je YZ dao "2020, Journal of Media Studies, Demir et al." stavite izvor direktno u bibliografiju. Čitalac je otkrio da takav članak ne postoji. Autor je morao ponovo provjeriti cjelokupnu bibliografiju iz primarne, što je rezultiralo još dva apokrifna izvora. Pouka: nijedan izvor nije uključen u članak a da se ne pronađe lično.

Slučaj 2 — Ispravna upotreba. Novinar je započeo složenu temu sa AI: izdvajanje podnaslova i pitanja koja treba postaviti. Zatim je prikupio svaku činjenicu od službene statističke agencije i iz intervjua jedan na jedan; Koristio je AI samo za uređivanje bilješki koje je provjerio. Pisanje je izašlo brzo i čvrsto; Nije donesena niti jedna izmišljena činjenica.

Slučaj 3 — Lažni citat. Jedan govornik je u svoju prezentaciju uključio "inspirativni" citat koji se pripisuje poznatom naučniku AI. Obećanje je izmišljeno; neko u publici je primijetio i kredibilitet govornika je narušen. Ispravan način: bio je provjeriti citat iz vlastite knjige/govora.

Slaba prompt / Jaka prompt

Slab upit:

Dajte mi 5 akademskih izvora i jedan citat na ovu temu.

Ovaj upit poziva AI da izmisli resurse; Izlaz izgleda realno, ali je vjerovatno neprovjerljiv.

Snažan upit:

Vaša uloga: asistent smjera istraživanja. Tema: [tema].Zadatak: Postoji 6 PODNAGLAVA koje moram istražiti na ovu temu i 2 pitanja koja trebam postaviti za svaki. Također, uputite me na "koje vrste primarnih izvora (zvanične statistike, recenzirani časopisi, intervjui jedan na jedan) mogu pretraživati?" Samo mi pokaži gde da tražim.

Razlika: AI se traži za smjer, a ne za odgovore; Vrata izrade su zatvorena, overa kod autora.

Uobičajene greške

• Korištenje resursa koje pruža AI bez provjere. Izmišljeni izvor postaje laž objavljena s vašim potpisom.
• Pitati AI "da li je ovo istina" i vjerovati njegovom odgovoru. AI također može potvrditi vlastiti izum.
• Ne provjerava citate iz vlastitog izvora. Lažni citati uništavaju kredibilitet.
• Biti zadovoljan sa jednim izvorom. Kritične činjenice zahtijevaju unakrsnu provjeru iz najmanje dva nezavisna izvora.
• Razmišljanje o AI-u kao o "posljednjem resursu", a ne o "početnoj mapi". AI pokazuje smjer; Primarni izvor daje činjenicu.

Ukratko

U istraživanju, AI je moćna početna mapa i organizator: izdvajanje podnaslova, generiranje pitanja, prikupljanje provjerenih bilješki. Ali posao obezbjeđivanja izvora, citata, datuma i statistike nikada se ne može vjerovati; jer sve to može uvjerljivo izmisliti (halucinacija). Zlatno pravilo: povežite svaku činjenicu s primarnim izvorom, unakrsno provjerite kritično, nemojte koristiti nijedan izvor koji vam je dala AI a da ga sami ne pronađete. AI govori gdje treba tražiti; Vi odlučujete šta ćete naći.

Zadatak aplikacije

Odaberite temu. Prvo, uzmite podnaslove i pitanja od AI s predloškom "smjer" (NE izvorom). Zatim namjerno zatražite od AI izvor/citat i pokušajte provjeriti taj izvor kao primarni: da li zaista postoji, da li se njegov sadržaj podudara s onim što je rečeno? Zabilježite svoje nalaze (koliko izvora je provjereno, koliko nije pronađeno). Konačno, napravite verifikacionu listu svog teksta koristeći "skeptični" šablon.

kontrolna lista

• [ ] Jesam li koristio AI za generiranje smjernica i pitanja, a ne za resurse?
• [ ] Jesam li svaku činjenicu, datum, citat i broj označio sa [PROVERI]?
• [ ] Jesam li lično pronašao i provjerio svaki izvor na primarnom izvoru?
• [ ] Da li sam unakrsno provjerio kritične činjenice u odnosu na najmanje dva nezavisna izvora?
• [ ] Jesam li provjerio citate sa vlastitim izvorom pojedinca?
• [ ] Jesam li eksplicitno dao pravilo "izmišljanja izvora/citata" AI?