Istraživanje i provjera činjenica: rizik od izvora, citata i izmišljenih izvora

Dobici:

• Sposobnost korištenja umjetne inteligencije kao početne karte u procesu istraživanja i povezivanja svake činjenice i citata s primarnim izvorom
• Sposobnost prepoznavanja rizika od izmišljenih izvora, lažnih citata i lažnih datuma (halucinacija) i primjene sustavne provjere
• Sposobnost uređivanja bilješki istraživanja, bibliografije i popisa činjenica uz podršku umjetne inteligencije i održavanje pouzdanosti članka

Nevidljiva okosnica dobrog pisanja je istraživanje. Datum, statistika, citat, znanstveno otkriće – nosi vjerodostojnost teksta. Jedna lažna činjenica može uništiti vjerodostojnost čitavog djela. Čini se da je umjetna inteligencija (AI) zavodljivo korisna u istraživačkom procesu: pruža neposredan, fluidan, pouzdan odgovor na svako pitanje. Ali ovdje leži najopasnija zamka autorstva: AI može proizvesti izvore, citate, datume i nalaze koji zapravo ne postoje, kao da su istiniti. Ovu jedinicu možemo sažeti u jednu rečenicu: AI može biti početna karta za istraživanje, ali nikada ne može biti konačni izvor.

Halucinacije: najpodmukliji rizik

Halucinacija je kada AI predstavlja nepostojeće informacije na sigurnom i tečnom jeziku. Prema istraživanjima, najopasniji oblici ovoga su:

Izmišljeni izvor: AI može izmisliti knjigu, članak ili izvješće koje zapravo ne postoji; Štoviše, s realnim imenom autora, godinom i podacima o časopisu. "Yılmaz, A. (2019). Digitalna pismenost. Journal of Communication, 14(2)." — zvuči stvarno, ali možda i nije.

Lažni citat: AI može pripisati citat stvarnoj osobi koji ona nikada nije rekla. Navodi ime poznatog pisca i rečenicu koju taj pisac nikada nije izgovorio.

Netočan datum/broj: Može dati netočan datum događaja, statistiku, postotak; sve s istim preciznim tonom.

Zbunjena činjenica: može pomiješati dvije istinite činjenice i proizvesti lažnu kombinaciju (kao što je pripisivanje izjave jedne osobe drugoj).

Ono što je zajedničko ovim rizicima: svi izgledaju fluidno i uvjerljivo. Tečnost nije točnost. Jedina zaštita je sustavna provjera povezivanja s primarnim izvorom.

Oprez: Pitajte AI ​​"je li ovaj izvor stvaran?" Pitanja NIJE metoda provjere. AI također može potvrditi izvor koji je izmislio kao "da, stvaran je". Provjera se vrši izvan AI-a, na primarnom izvoru: otvaranje časopisa, knjige, same baze podataka i pronalaženje iste.

Legitimna istraživačka uloga umjetne inteligencije

Unatoč svim ovim upozorenjima, umjetna inteligencija nije bezvrijedna u istraživanju; samo je njegova uloga ograničena. Legitimne upotrebe:

Početna karta: Određivanje gdje započeti s temom, koji podnaslovi postoje i koje koncepte treba istražiti. Ovo su popisi stvari koje treba tražiti, a ne odgovori.

Pojašnjenje koncepta: Razumijevanje nepoznatog izraza iz prve ruke (da bi se potom potvrdio iz izvora).

Generiranje pitanja: "Koja pitanja trebam postaviti o ovome, što sam možda propustio?" AI je dobra u isticanju točaka sljepoće.

Uređivanje: Sažimanje, kategoriziranje i oblikovanje bibliografije vaših prikupljenih (provjerenih) bilješki.

Tablica u nastavku sažima za što AI jest, a za što nije dobra istraživanja:

Potraga

Je li AI prikladan?

bilješka

Karta uvoda u temu

da

Samo smjer, ne odgovor

Generiranje pitanja za pretraživanje

da

Pokazuje točke sljepoće

Navedite izvor/navod

br

Može se nadoknaditi; potvrditi iz primarne

Povijest/statistika izvoza

br

Možda je pogrešno; kupiti iz izvora

Uredite potvrđene bilješke

da

Vi skupljate, AI organizira

Tijek sustavne provjere

Jedno pravilo za svaku činjenicu: idite na primarni izvor. Primarni izvor je mjesto gdje se informacija prvi put objavi: izvorni istraživački članak, službena statistička agencija, vlastita knjiga/intervju, izvorni dokument. Ono što AI (pa čak i sekundarni sažeci) kaže je "tvrdnja" dok se ne potvrdi, a ne "činjenica".

Tijek provjere:

1. Označite: Dok pišete, svaku činjenicu, datum, citat i broj označite oznakom [VERIFY].
2. Pronađite primarni izvor: sami otvorite izvor za svaku označenu stavku; Ima li ga, odgovara li njegov sadržaj onome što je rečeno?
3. Unakrsna provjera: Provjerite kritične činjenice iz najmanje dva neovisna pouzdana izvora.
4. Vodite evidenciju: Zabilježite izvor svake provjerene činjenice; U publikaciji, bibliografija dolazi iz ove bilješke.

Možete koristiti AI u dijelu za uređivanje ovog toka:

Kontekst: Ispod su bilješke koje sam prikupio i PROVJERIO iz PRIMARNOG izvora, s izvorom napisanim pored svake bilješke. Zadatak: Grupirajte ove bilješke po temi i predložite naslov za svaku grupu. NEMOJTE DODAVATI nikakve tvrdnje bez izvora; Činjenice, datumi ili citati koje nisam naveo su LAŽNI. Označite dijelove koji nedostaju kao "ovdje nedostaje izvor".

AI možete koristiti i kao "skeptik":

Zadatak: Navedite SVE činjenične tvrdnje, datume, brojeve i citate koje je potrebno provjeriti u donjem tekstu. Za svaki napišite "koju vrstu primarnog izvora treba provjeriti?" NEMOJTE sami odgovarati; Pojavljuje se samo verifikacijski popis.

Primarni, sekundarni i tercijarni izvor

Poznavanje hijerarhije izvora u validaciji čini vaš posao jasnijim. Primarni izvor je mjesto gdje se informacije proizvode iz prve ruke: izvorni istraživački članak, službena statistička tablica, vlastita knjiga, sudska odluka, izvorni dokument. Sekundarni izvor je tekst koji tumači ili prenosi primarni: vijest, prikaz, enciklopedijski članak. Tercijarni izvori su sažeci koji kompiliraju sekundarne izvore. Izlaz AI je u najboljem slučaju poput tercijarnog sažetka; Većinu vremena čak je i slabiji od toga, jer ne može pokazati svoj izvor, a može ga nadoknaditi. Pravilo: što je činjenica kritičnija, to biste trebali biti primarniji. Sekundarni izvor može biti dovoljan za atmosferu romana; Za zdravstvenu tvrdnju, datum ili izjavu koja se pripisuje osobi potreban je primarni izvor. Koristite umjetnu inteligenciju na sloju "gdje da gledam" na dnu ove piramide, nikada na sloju "ovo je istina" na vrhu.

Savjet: Kada stavljate neprovjerenu činjenicu u svoj tekst, ostavite vidljivu oznaku [VERIFY] pored nje i nemojte slati tekst s rečenicama koje nose ovu oznaku. Oznake su jednostavna, ali spasonosna navika koja zaboravljene činjenice čini vidljivima, govoreći "Pogledat ću ih kasnije".

tri mini kućišta

Slučaj 1 — Lažni članak. Autor je napisao da je YZ dao "2020, Journal of Media Studies, Demir et al." staviti izvor izravno u bibliografiju. Čitatelj je otkrio da takav članak ne postoji. Autor je morao ponovno provjeriti cjelokupnu bibliografiju od primarne, što je rezultiralo s još dva apokrifna izvora. Pouka: nijedan izvor nije uključen u članak, a da nije pronađen osobno.

Slučaj 2 — Ispravna uporaba. Novinar je započeo složenu temu pomoću umjetne inteligencije: izdvajajući podnaslove i pitanja koja treba postaviti. Zatim je prikupio svaku činjenicu iz službene agencije za statistiku i iz intervjua jedan na jedan; Koristio je AI samo za uređivanje bilješki koje je provjerio. Pisanje je ispalo brzo i čvrsto; Niti jedna izmišljena činjenica nije donesena.

Slučaj 3 — Lažni citat. Jedan je govornik u svoju prezentaciju uključio "inspirativan" citat koji se pripisuje poznatom znanstveniku za umjetnu inteligenciju. Obećanje je ispunjeno; primijetio je netko iz publike i narušen je kredibilitet govornika. Ispravan način: bio je provjeriti citat iz vlastite knjige/govora.

Slab upit / Jak upit

Slab upit:

Daj mi 5 akademskih izvora i jedan citat o ovoj temi.

Ovaj upit poziva AI da izradi resurse; Rezultat izgleda realno, ali se vjerojatno ne može provjeriti.

Snažan upit:

Vaša uloga: pomoćnik smjera istraživanja. Tema: [tema].Zadatak: Postoji 6 PODNASLOVA koje trebam istražiti o ovoj temi i 2 pitanja koja moram postaviti za svaki. Također, uputite me na "koju vrstu primarnih izvora (službene statistike, recenzirani časopisi, intervjui jedan na jedan) mogu pretraživati?" Samo mi pokaži gdje da tražim.

Razlika: AI se traži smjer, a ne odgovori; Vrata fabrikacije su zatvorena, provjera je kod autora.

Uobičajene greške

• Korištenje resursa koje pruža AI bez njegove provjere. Izmišljeni izvor postaje laž objavljena uz vaš potpis.
• Pitati AI "je li to istina" i vjerovati njegovom odgovoru. AI također može potvrditi vlastiti izum.
• Neprovjeravanje citata iz vlastitog izvora. Lažni citati uništavaju vjerodostojnost.
• Biti zadovoljan s jednim izvorom. Kritične činjenice zahtijevaju unakrsnu provjeru iz najmanje dva neovisna izvora.
• Razmišljanje o umjetnoj inteligenciji kao o "posljednjem resursu", a ne o "početnoj karti". AI pokazuje smjer; Primarni izvor daje činjenicu.

Ukratko

U istraživanju, AI je moćna početna karta i organizator: izvlačenje podnaslova, generiranje pitanja, prikupljanje provjerenih bilješki. Ali nikada se ne može vjerovati poslu pružanja izvora, citata, datuma i statistike; jer sve to može uvjerljivo izmisliti (halucinacija). Zlatno pravilo: poveži svaku činjenicu s primarnim izvorom, unakrsno provjeri kritično, ne koristi nijedan izvor koji je dao AI bez da ga sam pronađeš. AI govori gdje tražiti; Vi odlučujete što ćete pronaći.

Zadatak aplikacije

Odaberite temu. Prvo preuzmite podnaslove i pitanja od AI-a pomoću predloška "smjer" (NE izvor). Zatim namjerno zatražite od umjetne inteligencije izvor/citat i pokušajte potvrditi taj izvor kao primarni: postoji li doista, odgovara li njegov sadržaj onome što je rečeno? Zabilježite svoja otkrića (koliko je izvora provjereno, koliko nije pronađeno). Na kraju, napravite popis za provjeru vlastitog teksta pomoću predloška "skeptic".

popis za provjeru

• [ ] Jesam li koristio AI za generiranje smjernica i pitanja, a ne za resurse?
• [ ] Jesam li svaku činjenicu, datum, citat i broj označio s [VERIFY]?
• [ ] Jesam li osobno pronašao i provjerio svaki izvor na primarnom izvoru?
• [ ] Jesam li kritične činjenice unakrsno provjerio s najmanje dva neovisna izvora?
• [ ] Jesam li potvrdio citate s vlastitim izvorom pojedinca?
• [ ] Jesam li AI-u izričito dao pravilo "tvorba izvora/navoda"?