zisky:
- Vědět, proč je halucinace skryta v lidské doméně, a být schopen projít každý zdroj pětistupňovým ověřovacím řetězcem (existence, otisk, citace, kontext, přiřazení)
- Schopnost potvrdit pravost zdroje pomocí konkrétních identit, jako je DOI, ISBN a katalog.
- Pochopte disciplínu spočívající v zákazu umělé inteligence vytvářet výmysly a nikdy na ni nedelegovat ověřování citace a poctivosti připisování.
Hodnota textu v lidské a sociální oblasti závisí na autenticitě a přesném přenosu zdrojů, z nichž vychází. Literární esej, diplomová práce, poznámka k přednášce – to vše se spoléhá na spolehlivé zdroje a čestné uvedení autora (ukazuje, kdo/kde jste získali informace nebo citát). Umělá inteligence nabízí v této oblasti velké pohodlí, ale také s sebou nese největší nebezpečí: halucinace, tedy produkování neexistujícího zdroje, citace nebo skutečnosti jako skutečné. Tato jednotka se věnuje vytvoření „ověřovacího brnění“ proti tomuto nebezpečí.
Pravidlo jedné věty: Žádný zdroj, citace, datum nebo číslo generované umělou inteligencí nemůže zadat text bez potvrzení první osobou z primárního nebo spolehlivého zdroje. Toto pravidlo je nejvíce opakované a nejméně flexibilní pravidlo tohoto modulu.
Proč jsou halucinace v tomto oboru tak nebezpečné?
Pokud se AI v technické otázce mýlí, často si toho všimneme; ale v lidské sféře je halucinace dovedně skryta:
- Realistický vedlejší řádek: AI kombinuje jméno skutečného autora s názvem odpovídajícím oboru a přiměřeným rokem. Výsledkem je zdroj, který neexistuje, ale vypadá přesně jako skutečný.
- Citace odpovídající stylu: AI dokáže napodobit styl autora a prezentovat větu, která mu nepatří, jako „jeho slovo“.
- Blízké, ale špatné datum: Rok díla může být posunut o jeden nebo dva roky; To neopatrnému čtenáři uniká.
- Zmatená atribuce: Může přiřadit nápad nesprávné osobě.
To vše může v tichosti proniknout do textu autora s poctivými úmysly, a není-li zachyceno, poškodit jak autorovu pověst, tak čtenářovu důvěru.
Upozornění: To, že se zdroj zdá AI „realistický“, neznamená, že je skutečný. Realismus a realita jsou dvě různé věci; AI je mistrem v prvním, nemůže zaručit to druhé.
Ověřovací brnění: krok za krokem
Pro každý zdroj a citaci postupujte podle tohoto řetězce:
- je tam? Vyhledejte zdroj v katalogu knihovny, spolehlivé databázi nebo na webu vydavatele. Pokud ji nelze najít, neexistuje – nepoužívejte ji.
- Je otisk správný? Autor, název, vydavatel/časopis, rok, stránka — vše se musí přesně shodovat.
- Je citát skutečný? Najděte citaci v samotném zdroji na zadané stránce a doslovně ji porovnejte.
- Je kontext správný? Je citace použita doslovně, nebo byla překroucena?
- Je atribuce čestná? Je myšlenka připisována správné osobě, je něco převzatého ze sekundárního zdroje zobrazeno jako primární?
Pokud je přerušen byť jen jeden článek tohoto řetězce, nemůže zadat zdrojový text.
Tip: Dejte AI od začátku pokyn: "Neuvádějte žádný zdroj, o jehož existenci si nejste jisti; pokud si nejste jisti, řekněte 'Nemohl jsem najít zdroj'." Tím halucinace úplně neukončí, ale vyzve AI, aby místo vymýšlení řekla „nevím“.
Citace a citační disciplína
Spolu s ověřováním je čestné připisování také disciplínou:
- Uveďte přímou nabídku s uvozovkami a stránkou; Ať je to doslova.
- Propojte také nepřímou citaci (shrnutí vlastními slovy) se zdrojem; Pokud nápad není váš, potřebuje uvedení zdroje.
- Transparentně uveďte příspěvek AI podle pravidla vaší organizace; AI není „zdroj“, ale pokud je použit, musí být deklarován.
- Nezobrazujte sekundární zdroj jako primární; Pokud jste převzali citát od autora z jiné knihy, uveďte to.
tři mini pouzdra
Případ 1 — Dva z pěti zdrojů se ukázaly jako fiktivní. Výzkumník prošel procesem ověření 5 zdrojů poskytnutých AI. 2 nebyly v katalogu vůbec, 1 měl špatný rok, 2 byly skutečné a správné. Byly použity pouze 2 ověřené; článek chráněn před fiktivním uvedením zdroje.
Případ 2 – Bylo zjištěno zkreslení nabídky. Jeden student našel citát z AI ve skutečné knize, ale citát znamenal v původním kontextu přesný opak. AI vytrhla větu z kontextu. Student opravil citát se správným kontextem.
Případ 3 – Opraveno nesprávné přiřazení. V jedné poznámce z přednášky AI připsala názor nesprávnému autorovi. Když jej učitel zkontroloval se dvěma spolehlivými zdroji, našel právoplatného majitele a opravil jej. Poznámka přežila, aniž by se studentovi pokazila.
Čtyři kopírovatelné šablony
1) Pokyny k zákazu výroby:
Od nynějška: NEPŘEDVÁDĚJTE žádný zdroj, citaci, datum nebo číslo, o kterých si nejste jisti, že existují. Pokud si nejste jisti, řekněte „potřebuje ověření“ nebo „Nemohl jsem to najít“. Nikdy nedávejte štítek, který je realistický, ale nemůžete zaručit jeho pravost. Toto pravidlo dodržujte u každé odpovědi.
2) Plán ověření zdroje:
Zdroj níže si ověřím sám. Řekněte mi, kde tento zdroj hledat (katalog, databáze, vydavatel) a s jakými klíčovými informacemi. POtvrdíte, že zdroj existuje; stačí zadat ověřovací kroky.Zdroj: [vložit kredit]
3) Kontrola kontextu citace:
Níže je citace a skutečný odstavec, ve kterém se vyskytuje. Je citát použit v původním kontextu nebo byl zkreslený? Stačí se spolehnout na text, který jsem vám dal; přidání komentáře.Citace: [...] Původní odstavec: [...]
4) Audit integrity atribuce:
V mém textu níže: které věty vyžadují zdroj, ale zůstávají nepřipsány, která myšlenka může patřit někomu jinému, existuje místo, kde ukazuji sekundární zdroj jako primární? Navrhování umělých zdrojů; jen upozorněte na chybějící citace.Text: [vložit text]
Slabá výzva / Silná výzva
Slabé: "Uveďte 5 akademických zdrojů a citátů na toto téma."
Güçlü: "Řekněte mi, jaké zdroje a klíčová slova bych měl hledat při bádání na toto téma. Nevytvářejte žádné odkazy nebo citáty, u kterých si nejste jisti, že existují; pokud si nejste jisti, řekněte 'Nemohl jsem to najít'. Zdroje, které najdu, vám poskytnu později; citace z knih potvrdím."
Mocná výzva zavře dveře halucinacím a nechá ověření na člověku. Slabá výzva přímo vyzývá k produkci imaginárních zdrojů.
Tabulka validačního řetězce
krok
Otázka
místo ověření
entita
Opravdu ten zdroj existuje?
Katalog / databáze
otisk
Jsou autor, rok, stránka správně?
Vydavatel / tiráž
citovat
Je to v textu doslovně?
samotný zdroj
Kontext
Je význam zkreslený?
hlavní odstavec
Citace
Ke správné osobě?
křížová kontrola
Ověření s trvalým odkazem a otiskem
Existují konkrétní způsoby, jak rychle a spolehlivě potvrdit, zda zdroj skutečně existuje. Většina moderních akademických publikací má DOI (Digital Object Identifier – neměnné jedinečné ID trvale přiřazené k publikaci; funguje jako odkaz a vede přímo k publikaci). Pokud přistoupíte ke skutečné publikaci, když zadáte DOI článku do prohlížeče, tento zdroj existuje; Pokud jej nemůžete najít nebo DOI vůbec neexistuje, buďte podezřívaví. „DOI“ generované AI jsou často vymyšlené a nikam nevedou; Jedná se o jeden z nejpraktičtějších testů zachycení imaginárního zdroje.
ISBN (International Standard Book Number) poskytuje podobnou identifikaci knih; Pravost knihy si můžete ověřit vyhledáním podle ISBN v katalogu knihovny nebo ve spolehlivé databázi knih. U periodik zkontrolujte název časopisu a informace o ročníku/vydání na oficiálních stránkách vydavatele. Tyto konkrétní identity jsou odpovědí na otázku "Je zdroj skutečný?" Odpoví na vaši otázku jasně během několika minut.
Tyto metody mění ověření na „transakci“ spíše než na „akcii“: když otevřete a prohlížíte každý zdroj osobně, v katalogu, podle DOI nebo na webu vydavatele, je riziko fiktivního přiřazení do značné míry eliminováno.
Tip: Když dokončíte bibliografii, proveďte „prohlídku kliknutím“: ve skutečnosti otevřete záznam DOI nebo katalog každého zdroje. I jediný zdroj, který se neotevře, je varováním; buď jej opravte se správným otiskem, nebo jej odstraňte ze seznamu.
Časté chyby
- Záměna realismu za realitu. Pravděpodobná identita AI nedokazuje její existenci.
- Neověření citace ze zdroje. Udělané nebo zkreslené uvozovky mohou unikat.
- Získávání historie z jednoho zdroje. Zkontrolujte si alespoň dva spolehlivé zdroje.
- Tím, že sekundární bude vypadat jako primární. Poctivě uveďte převodový řetězec.
- Cituji AI jako zdroj. AI není zdroj; jeho použití je deklarováno, je uveden odkaz na primární zdroj.
V souhrnu
Poctivost v humanitních oborech závisí na přesnosti zdroje a citace. Největší nebezpečí AI spočívá v tom, že vytváří zdroje a citace, které vypadají realisticky, ale neexistují. Projděte každý zdroj a citaci pětifázovým ověřovacím řetězcem (entita, kredit, citace, kontext, atribuce). Zakažte AI výrobu od začátku a nikdy na ni nedelegujte ověření. Tato disciplína je zárukou vaší spolehlivosti v této profesi.
Aplikační úkol
Zkuste nechat AI navrhnout několik zdrojů a citaci na téma. Proveďte každý zdroj ověřovacím řetězcem: kolik jich skutečně existuje, kolik má správnou atribuci, je citace skutečně ve zdroji? Výsledky zapište do tabulky. Tato zkušenost konkrétně ukáže limity umělé inteligence v této oblasti.
kontrolní seznam
- [ ] Potvrdil jsem existenci každého zdroje v katalogu.
- [ ] Ověřil jsem každou citaci doslovně z původního zdroje.
- [ ] Ověřil jsem si, že kontext citátu nebyl zkreslený.
- [ ] Zkontroloval jsem data s nejméně dvěma zdroji.
- [ ] Zakázal jsem AI vyrábět a nepověřil jsem ji ověřením.