Výzkum a ověřování faktů: Riziko pramenů, citací a vymyšlených zdrojů

zisky:

• Schopnost použít umělou inteligenci jako výchozí mapu v procesu výzkumu a propojit každý fakt a citaci s primárním zdrojem
• Schopnost rozpoznat riziko smyšlených zdrojů, falešných citací a falešných dat (halucinace) a aplikovat systematické ověřování
• Schopnost upravovat poznámky k výzkumu, bibliografii a kontrolní seznam faktů s podporou umělé inteligence a udržovat spolehlivost článku

Neviditelnou páteří dobrého psaní je výzkum. Datum, statistika, citát, vědecký poznatek – to v sobě nese věrohodnost textu. Jediný nepravdivý fakt může zničit věrohodnost celého díla. Umělá inteligence (AI) se zdá být ve výzkumném procesu svůdně užitečná: poskytuje okamžitou, plynulou a sebevědomou odpověď na každou otázku. Zde však leží nejnebezpečnější past autorství: AI může vytvářet zdroje, citace, data a nálezy, které ve skutečnosti neexistují, jako by byly pravdivé. Tuto jednotku můžeme shrnout do jedné věty: AI může být výchozí mapou pro výzkum, ale nikdy nemůže být konečným zdrojem.

Halucinace: nejzákeřnější riziko

Halucinace je, když AI prezentuje neexistující informace bezpečným a plynulým jazykem. Podle výzkumu jsou nejnebezpečnějšími formami:

Vymyšlený zdroj: AI dokáže vyrobit knihu, článek nebo zprávu, která ve skutečnosti neexistuje; Navíc s realistickým jménem autora, rokem a informacemi z časopisu. "Yılmaz, A. (2019). Digitální gramotnost. Journal of Communication, 14(2)." - zní to skutečně, ale nemusí být.

Falešný citát: Umělá inteligence může skutečné osobě připsat citát, který nikdy neřekl. Uvádí jméno slavného spisovatele a větu, kterou tento spisovatel nikdy nepronesl.

Nesprávné datum/číslo: Může uvádět nesprávné datum události, statistiku, procento; všechny se stejným přesným tónem.

Zmatený fakt: Může zaměnit dvě pravdivá fakta a vytvořit nepravdivou kombinaci (jako je připisování výroku jedné osoby jiné osobě).

Co mají tato rizika společné: všechna vypadají plynule a přesvědčivě. Plynulost není přesnost. Jedinou ochranou je systematické ověřování propojení s primárním zdrojem.

Upozornění: Zeptejte se AI „je tento zdroj skutečný? Dotaz NENÍ metodou ověření. AI může také potvrdit zdroj, který si vymyslela, jako „ano, je to skutečné“. Ověření se provádí mimo AI, u primárního zdroje: otevření deníku, knihy, samotné databáze a její nalezení.

Legitimní výzkumná role AI

Přes všechna tato upozornění není AI ve výzkumu bezcenná; pouze jeho role je omezená. Legitimní použití:

Výchozí mapa: Určení, kde začít s tématem, jaké tam jsou podnadpisy a jaké pojmy je třeba prozkoumat. Toto jsou seznamy věcí, které je třeba hledat, nikoli odpovědi.

Vyjasnění konceptu: Pochopení neznámého termínu z první ruky (a následné ověření ze zdroje).

Generování otázek: "Jaké otázky bych se k tomu měl zeptat, co jsem mohl přehlédnout?" Umělá inteligence je dobrá v upozorňování na body slepoty.

Úpravy: Shrnutí, kategorizace a formátování bibliografie vašich shromážděných (ověřených) poznámek.

Níže uvedená tabulka shrnuje, k čemu AI ve výzkumu je a k čemu není dobrá:

Quest

Je AI vhodná?

poznámka

Úvodní mapa k tématu

Ano

Jen směr, ne odpověď

Generování otázek k vyhledávání

Ano

Zobrazuje body slepoty

Uveďte zdroj/citaci

ne

Dá se to vymyslet; ověřit z primární

Export historie/statistiky

ne

Může to být špatně; koupit ze zdroje

Upravit ověřené poznámky

Ano

Vy sbíráte, AI organizuje

Tok systematického ověřování

Jedno pravidlo pro každou skutečnost: přejděte k primárnímu zdroji. Primárním zdrojem je místo, kde jsou informace poprvé publikovány: původní výzkumný článek, oficiální statistická agentura, vlastní kniha/rozhovor, původní dokument. To, co AI ​​(a dokonce i sekundární shrnutí) říká, je „tvrzení“, dokud není ověřeno, nikoli „fakt“.

Ověřovací postup:

1. Označit: Při psaní označujte každý fakt, datum, citát a číslo tagem [VERIFY].
2. Najít primární zdroj: Otevřete zdroj pro každou označenou položku; Existuje nějaký, odpovídá jeho obsah tomu, co se říká?
3. Křížová kontrola: Ověřte kritická fakta z alespoň dvou nezávislých spolehlivých zdrojů.
4. Uchovávejte záznamy: Poznamenejte si zdroj každé ověřené skutečnosti; V publikaci bibliografie pochází z této poznámky.

Umělou inteligenci můžete použít v části úprav tohoto postupu:

Kontext: Níže jsou uvedeny poznámky, které jsem shromáždil a OVĚŘIL z PRIMÁRNÍHO zdroje, přičemž zdroj je uveden vedle každé poznámky. Úkol: Seskupte tyto poznámky podle tématu a navrhněte název pro každou skupinu. NEPŘIDÁVEJTE žádné nároky bez zdroje; Fakta, data nebo citace, které jsem neuvedl, jsou FAKE. Chybějící části označte jako „zde chybí zdroj“.

AI můžete také použít jako „skeptika“:

Úkol: V níže uvedeném textu uveďte VŠECHNA faktická tvrzení, data, čísla a citace, které je třeba ověřit. U každého napište "jaký typ primárního zdroje by měl být ověřen?" NEODPOVÍDEJTE na to sami; Zobrazí se pouze seznam ověření.

Primární, sekundární a terciární zdroj

Díky znalosti hierarchie zdrojů při ověřování je vaše práce jasná. Primární zdroj je tam, kde jsou informace vytvářeny z první ruky: původní výzkumný článek, oficiální statistická tabulka, vlastní kniha, soudní rozhodnutí, originální dokument. Sekundárním zdrojem je text, který interpretuje nebo zprostředkovává primární: zpravodajská zpráva, recenze, článek v encyklopedii. Terciární zdroje jsou souhrny, které sestavují sekundární zdroje. Výstup AI je v nejlepším případě jako terciární digest; Většinou je to ještě slabší, protože neumí ukázat svůj zdroj a umí si ho vymyslet. Pravidlo: čím kritičtější je fakt, tím primárnější byste měli být. Pro atmosféru románu může stačit sekundární zdroj; Pro zdravotní tvrzení, datum nebo prohlášení připisované osobě je vyžadován primární zdroj. Umělou inteligenci používejte na vrstvu „kam se mám podívat“ ve spodní části této pyramidy, nikdy ne na vrstvu „toto je pravda“ nahoře.

Tip: Když do textu umístíte neověřenou skutečnost, ponechte vedle ní viditelný štítek [VERIFY] a neodesílejte text s žádnými větami s tímto štítkem. Štítky jsou jednoduchým, ale život zachraňujícím zvykem, který zviditelní zapomenutá fakta a říká „podívám se na ně později“.

tři mini pouzdra

Případ 1 – Falešný článek. Autor napsal, že YZ dal "2020, Journal of Media Studies, Demir et al." uveďte zdroj přímo do seznamu literatury. Čtenář zjistil, že takový článek neexistuje. Autor musel znovu ověřit celou bibliografii z primární, což vedlo k dalším dvěma apokryfním zdrojům. Poučení: v článku není uveden žádný zdroj, aniž by byl osobně nalezen.

Případ 2 – Správné použití. Novinář začal s AI složité téma: extrahování podnadpisů a otázek, které je třeba položit. Poté shromáždil každou skutečnost z oficiální statistické agentury az individuálních rozhovorů; AI používal pouze k úpravě poznámek, které ověřil. Psaní vyšlo rychle a pevně; Neprošel ani jeden vykonstruovaný fakt.

Případ 3 – Falešná nabídka. Jeden řečník zahrnul do své prezentace „inspirativní“ citát připisovaný slavnému vědci AI. Slib byl vymyšlen; někdo z publika si toho všiml a důvěryhodnost řečníka byla poškozena. Správný způsob: bylo ověřit citát z vlastní knihy/projevu.

Slabá výzva / Silná výzva

Slabá výzva:

Dejte mi 5 akademických zdrojů a jeden citát na toto téma.

Tato výzva vyzve AI k výrobě zdrojů; Výstup vypadá realisticky, ale je pravděpodobně neověřitelný.

Výkonná výzva:

Vaše role: asistent vedení výzkumu. Téma: [téma]. Úkol: Existuje 6 PODHLÁŠEK, které musím prozkoumat na toto téma, a 2 otázky, které musím položit pro každý z nich. Také mě nasměrujte na "jaký druh primárních zdrojů (oficiální statistiky, recenzované časopisy, individuální rozhovory) mohu vyhledávat?" Jen mi ukaž, kde hledat.

Rozdíl: AI je žádána o směr, nikoli o odpovědi; Dveře výroby jsou zavřené, ověření je u autora.

Časté chyby

• Použití zdroje poskytovaného umělou inteligencí bez jeho ověření. Vymyšlený zdroj se stává lží zveřejněnou s vaším podpisem.
• Ptát se AI „je to pravda“ a důvěřovat její odpovědi. AI může také potvrdit svůj vlastní vynález.
• Neověřování citací z vlastního zdroje. Falešné citace ničí důvěryhodnost.
• Spokojenost s jediným zdrojem. Kritická fakta vyžadují křížovou kontrolu z alespoň dvou nezávislých zdrojů.
• Uvažovat o AI jako o „posledním zdroji“ spíše než o „startovní mapě“. AI ukazuje směr; Primární zdroj uvádí fakt.

V souhrnu

Ve výzkumu je umělá inteligence mocnou výchozí mapou a organizátorem: získávání podnadpisů, generování otázek, shromažďování ověřených poznámek. Ale práci poskytování zdrojů, citací, dat a statistik nelze nikdy věřit; protože si to všechno dokáže přesvědčivě vymyslet (halucinace). Zlaté pravidlo: připojte každou skutečnost k primárnímu zdroji, křížově zkontrolujte kritické, nepoužívejte žádný zdroj poskytnutý AI, aniž byste jej sami našli. AI říká, kde hledat; Vy rozhodujete, co najdete.

Aplikační úkol

Vyberte téma. Nejprve získejte podnadpisy a otázky od AI pomocí šablony „směr“ (NE zdroj). Poté schválně požádejte umělou inteligenci o zdroj/cenu a pokuste se tento zdroj ověřit jako primární: skutečně existuje, odpovídá jeho obsah tomu, co je řečeno? Poznamenejte si svá zjištění (kolik zdrojů bylo ověřeno, kolik nebylo nalezeno). Nakonec si udělejte ověřovací seznam vlastního textu pomocí šablony „skeptik“.

kontrolní seznam

• [ ] Použil jsem umělou inteligenci ke generování směru a otázek, nikoli ke zdrojům?
• [ ] Označil jsem každý fakt, datum, citát a číslo pomocí [OVĚŘIT]?
• [ ] Osobně jsem našel a ověřil každý zdroj u primárního zdroje?
• [ ] Porovnal jsem kritická fakta s alespoň dvěma nezávislými zdroji?
• [ ] Ověřil jsem citace s vlastním zdrojem dané osoby?
• [ ] Dal jsem výslovně AI pravidlo „vytvoření zdroje/citace“?