zisky:
- Vedieť, prečo je halucinácia ukrytá v ľudskej doméne a byť schopný prejsť každý zdroj cez päťstupňový overovací reťazec (existencia, odtlačok, citát, kontext, prisudzovanie)
- Schopnosť potvrdiť pravosť zdroja konkrétnymi identitami, ako sú DOI, ISBN a katalóg.
- Pochopte disciplínu spočívajúcu v zákaze umelej inteligencie vyrábať výmysly a nikdy na ňu nedelegovať overovanie poctivosti citácií a pripisovania.
Hodnota textu v ľudskej a sociálnej oblasti závisí od autentickosti a presného prenosu zdrojov, z ktorých vychádza. Literárna esej, diplomová práca, poznámka z prednášky – všetky sa spoliehajú na spoľahlivé zdroje a čestné uvedenie zdroja (ukazujúce, kto/kde ste získali informácie alebo citát). Umelá inteligencia ponúka v tejto oblasti veľké pohodlie, no nesie so sebou aj najväčšie nebezpečenstvo: halucinácie, teda produkovanie neexistujúceho zdroja, citátu alebo faktu ako skutočného. Táto jednotka je určená na vytvorenie "overovacieho brnenia" proti tomuto nebezpečenstvu.
Pravidlo jednej vety: Žiadny zdroj, citát, dátum alebo číslo vygenerovaný AI nemôže zadať text bez potvrdenia prvou osobou z primárneho alebo spoľahlivého zdroja. Toto pravidlo je najviac opakované a najmenej flexibilné pravidlo tohto modulu.
Prečo sú halucinácie v tejto oblasti také nebezpečné?
Ak sa AI mýli v technickej otázke, často si to všimneme; ale v ľudskej sfére je halucinácia zručne ukrytá:
- Realistický vedľajší riadok: AI kombinuje meno skutočného autora s názvom primeraným odboru a primeraným rokom. Výsledkom je zdroj, ktorý neexistuje, ale vyzerá presne ako skutočný.
- Citát vhodný k štýlu: AI dokáže napodobniť štýl autora a prezentovať vetu, ktorá mu nepatrí, ako „jeho slovo“.
- Blízky, ale nesprávny dátum: Rok diela sa môže posunúť o jeden alebo dva roky; Toto uniká neopatrnému čitateľovi.
- Zmätené priraďovanie: Môže pripísať nápad nesprávnej osobe.
To všetko môže v tichosti preniknúť do textu autora s čestnými úmyslami, a ak nie je zachytené, poškodiť tak povesť autora, ako aj dôveru čitateľa.
Upozornenie: To, že sa zdroj javí AI „realistický“, neznamená, že je skutočný. Realizmus a realita sú dve rôzne veci; AI je majstrom v prvom, nemôže zaručiť to druhé.
Overovacie brnenie: krok za krokom
Pre každý zdroj a citáciu postupujte podľa tohto reťazca:
- je tam? Vyhľadajte zdroj v katalógu knižnice, dôveryhodnej databáze alebo na stránke vydavateľa. Ak sa nedá nájsť, neexistuje – nepoužívajte ho.
- Je odtlačok správny? Autor, názov, vydavateľ/časopis, rok, strana — všetko sa musí presne zhodovať.
- Je citát skutočný? Nájdite citát v samotnom zdroji na uvedenej stránke a porovnajte ho doslovne.
- Je kontext správny? Je citát použitý doslovne, alebo bol skreslený?
- Je pripisovanie čestné? Je myšlienka pripísaná správnej osobe, je niečo prevzaté zo sekundárneho zdroja zobrazené ako primárne?
Ak je čo i len jeden článok tejto reťaze prerušený, nemôže zadať zdrojový text.
Tip: Od začiatku povedzte AI : „Neuvádzajte žiadny zdroj, o ktorom si nie ste istí, že existuje; ak si nie ste istý, povedzte „Nemohol som nájsť zdroj“. Tým sa halucinácie úplne neskončia, ale vyzve AI, aby namiesto vymýšľania povedala „neviem“.
Citácia a citačná disciplína
Spolu s overovaním je čestné prisudzovanie tiež disciplínou:
- Uveďte priamu cenovú ponuku s úvodzovkami a stránkou; Nech je to doslova.
- Prepojte aj nepriamu citáciu (zhrnutie vlastnými slovami) so zdrojom; Ak nápad nie je váš, vyžaduje si uvedenie zdroja.
- Transparentne uveďte príspevok AI podľa pravidla vašej organizácie; AI nie je „zdroj“, ale ak sa použije, musí byť deklarovaný.
- Nezobrazujte sekundárny zdroj ako primárny; Ak ste prevzali citát od autora z inej knihy, uveďte to.
tri mini prípady
Prípad 1 – Dva z piatich zdrojov sa ukázali ako fiktívne. Výskumník prešiel overovacím procesom 5 zdrojov poskytnutých AI. 2 neboli v katalógu vôbec, 1 mal nesprávny rok, 2 boli skutočné a správne. Boli použité iba 2 overené; článok chránený pred fiktívnym uvedením zdroja.
Prípad 2 – Zachytené skreslenie cenovej ponuky. Jeden študent našiel citát z AI v skutočnej knihe, ale citát znamenal v pôvodnom kontexte presný opak. AI vytrhla vetu z kontextu. Žiak opravil citát so správnym kontextom.
Prípad 3 – Opravené nesprávne priradenie. V jednej poznámke z prednášky AI pripísala názor nesprávnemu autorovi. Keď ho učiteľ skontroloval z dvoch spoľahlivých zdrojov, našiel právoplatného majiteľa a opravil ho. Poznámka prežila bez toho, aby sa študentovi pokazila.
Štyri kopírovateľné šablóny
1) Pokyny na zákaz výroby:
Odteraz: NEVYKLADAJTE žiadny zdroj, cenovú ponuku, dátum alebo číslo, o ktorých si nie ste istí, že existujú. Ak si nie ste istí, povedzte „potrebuje overenie“ alebo „Nemohol som to nájsť“. Nikdy nedávajte štítok, ktorý je realistický, ale nemôžete zaručiť jeho pravosť. Toto pravidlo dodržiavajte pri každej odpovedi.
2) Plán overenia zdroja:
Zdroj nižšie si overím sám. Povedzte mi, kde hľadať tento zdroj (katalóg, databáza, vydavateľ) a s akými kľúčovými informáciami. POtvrdíte, že zdroj existuje; stačí zadať overovacie kroky.Zdroj: [prilepiť kredit]
3) Kontrola kontextu citácie:
Nižšie je uvedený citát a skutočný odsek, v ktorom sa vyskytuje. Je citát použitý v pôvodnom kontexte alebo bol skreslený? Spoľahnite sa na text, ktorý som vám dal; pridanie komentára.Citácia: [...] Pôvodný odsek: [...]
4) Audit integrity priradenia:
V mojom texte nižšie: ktoré vety vyžadujú zdroj, ale zostávajú nepripísané, ktorá myšlienka môže patriť niekomu inému, existuje miesto, kde uvádzam sekundárny zdroj ako primárny? Navrhovanie umelých zdrojov; len poukázať na chýbajúce citácie.Text: [prilepiť text]
Slabá výzva / Silná výzva
Slabé: "Uveďte 5 akademických zdrojov a citátov na túto tému."
Güçlü: "Povedzte mi, aké zdroje a kľúčové slová by som mal hľadať pri výskume na túto tému. Nevytvárajte žiadne odkazy alebo citáty, o ktorých si nie ste istí, že existujú; ak si nie ste istý, povedzte 'Nemohol som to nájsť'. Zdroje, ktoré nájdem, vám dám neskôr; potvrdím citácie z kníh."
Silná výzva zatvára dvere pred halucináciami a necháva overenie na človeka. Slabá výzva priamo vyzýva k imaginárnej produkcii zdrojov.
Tabuľka overovacieho reťazca
krok
Otázka
overovacie miesto
subjekt
Naozaj existuje zdroj?
Katalóg / databáza
odtlačok
Sú autor, rok, strana správne?
Vydavateľ/tlač
citovať
Je to v texte doslovne?
samotný zdroj
Kontext
Je význam skreslený?
hlavný odsek
Citácia
Správnej osobe?
krížová kontrola
Overenie s trvalým odkazom a odtlačkom
Existujú konkrétne spôsoby, ako rýchlo a spoľahlivo potvrdiť, či zdroj skutočne existuje. Väčšina moderných akademických publikácií má DOI (Digital Object Identifier – nemenné jedinečné ID trvalo priradené publikácii; funguje ako odkaz a vedie priamo k publikácii). Ak pristúpite k aktuálnej publikácii, keď zadáte DOI článku do prehliadača, tento zdroj existuje; Ak ho nemôžete nájsť alebo DOI vôbec neexistuje, buďte podozrievaví. „DOI“ generované AI sú často vymyslené a nikam nevedú; Toto je jeden z najpraktickejších testov zachytenia imaginárneho zdroja.
ISBN (International Standard Book Number) poskytuje podobnú identifikáciu pre knihy; Pravosť knihy si overíte vyhľadaním podľa ISBN v katalógu knižnice alebo v dôveryhodnej databáze kníh. V prípade periodík skontrolujte názov časopisu a informácie o ročníku/čísle na oficiálnej webovej stránke vydavateľa. Tieto konkrétne identity sú odpoveďou na otázku "Je zdroj skutočný?" Jasne odpovie na vašu otázku v priebehu niekoľkých minút.
Tieto metódy zmenia overenie na „transakciu“ a nie na „akciu“: keď otvoríte a prezeráte každý zdroj osobne, v katalógu, podľa DOI alebo na stránke vydavateľa, riziko fantómového priradenia je do značnej miery eliminované.
Tip: Keď dokončíte bibliografiu, urobte si „prehliadku“: v skutočnosti otvorte DOI alebo katalógový záznam každého zdroja. Dokonca aj jeden zdroj, ktorý sa neotvorí, je varovaním; buď ho opravte so správnym tirážom alebo ho odstráňte zo zoznamu.
Časté chyby
- Zámena realizmu za realitu. Pravdepodobná identita AI nedokazuje jej existenciu.
- Neoverenie citácie zo zdroja. Vymyslené alebo skreslené úvodzovky môžu uniknúť.
- Získavanie histórie z jedného zdroja. Krížovo overte aspoň dva spoľahlivé zdroje.
- Aby sekundárne vyzeralo ako primárne. Uveďte prevodový reťazec čestne.
- Ako zdroj uvádzame AI. AI nie je zdroj; jeho použitie je deklarované, odkazuje sa na primárny zdroj.
V súhrne
Poctivosť v humanitných vedách sa spolieha na presnosť zdroja a citácií. Najväčšie nebezpečenstvo AI je, že produkuje zdroje a citácie, ktoré vyzerajú realisticky, ale neexistujú. Prejdite každý zdroj a citáciu cez päťstupňový overovací reťazec (entita, kredit, citácia, kontext, uvedenie zdroja). Zakážte umelej inteligencii vyrábať od začiatku a nikdy na ňu nedelegujte overovanie. Táto disciplína je zárukou vašej spoľahlivosti v tejto profesii.
Aplikačná úloha
Skúste nechať AI navrhnúť niekoľko zdrojov a citát na tému. Prejdite každý zdroj cez overovací reťazec: koľko ich skutočne existuje, koľko má správne uvedenie zdroja, je citát skutočne v zdroji? Výsledky zapíšte do tabuľky. Táto skúsenosť konkrétne ukáže limity AI v tejto oblasti.
kontrolný zoznam
- [ ] Potvrdil som existenciu každého zdroja v katalógu.
- [ ] Každý citát som overil doslovne z pôvodného zdroja.
- [ ] Skontroloval som, či kontext citátu nebol skreslený.
- [ ] Skontroloval som dátumy s najmenej dvoma zdrojmi.
- [ ] Zakázal som umelej inteligencii vyrábať a nedelegoval som jej overenie.