Dobički:
- Vedeti, zakaj je halucinacija skrita v človeški domeni, in biti sposoben prenesti vsak vir skozi petstopenjsko verigo preverjanja (obstoj, odtis, citat, kontekst, pripis)
- Sposobnost potrditve pristnosti vira s konkretnimi identitetami, kot so DOI, ISBN in katalog.
- Razumite disciplino prepovedi umetni inteligenci izdelovanja izmišljotin in nikoli ne prenesete preverjanja poštenosti citatov in pripisovanja.
Vrednost besedila na človeškem in družbenem področju je odvisna od pristnosti in natančnega prenosa virov, na katerih temelji. Literarni esej, diplomska naloga, zapisek predavanja – vsi se zanašajo na zanesljive vire in pošteno pripisovanje (ki prikazuje, od koga/kje ste dobili informacije ali citat). Umetna inteligenca na tem področju ponuja veliko udobje, vendar nosi tudi največjo nevarnost: halucinacije, torej proizvajanje neobstoječega vira, citata ali dejstva kot resničnega. Ta enota je namenjena vzpostavitvi "verifikacijskega oklepa" proti tej nevarnosti.
Pravilo enega stavka: noben vir, citat, datum ali številka, ki jih je ustvaril AI, ne more vnesti besedila brez prvoosebne potrditve primarnega ali zanesljivega vira. To pravilo je največkrat ponavljajoče se in najmanj prilagodljivo pravilo tega modula.
Zakaj so halucinacije na tem področju tako nevarne?
Če se AI moti pri tehničnem vprašanju, bo to pogosto opaženo; v človeški sferi pa je halucinacija spretno prikrita:
- Realistična črka avtorja: AI združuje ime pravega avtorja z naslovom, ki ustreza področju, in razumno letnico. Rezultat je vir, ki ne obstaja, vendar je videti popolnoma resničen.
- Citat, primeren slogu: AI lahko posnema stil avtorja in stavek, ki mu ne pripada, predstavi kot "njegovo besedo".
- Blizu, vendar napačen datum: leto dela se lahko premakne za eno ali dve leti; To neprevidnemu bralcu uide.
- Zmedeno pripisovanje: lahko idejo pripiše napačni osebi.
Vsi ti se lahko tiho vdrejo v besedilo avtorja s poštenimi nameni in, če jih ne ujamejo, škodijo tako avtorjevemu ugledu kot zaupanju bralcev.
Pozor: samo zato, ker se vir zdi "realističen" AI še ne pomeni, da je resničen. Realizem in resničnost sta dve različni stvari; AI je mojster prvega, drugega pa ne more zagotoviti.
Oklep za preverjanje: korak za korakom
Za vsak vir in citat sledite tej verigi:
- Ali obstaja? Poiščite vir v knjižničnem katalogu, zanesljivi bazi podatkov ali na spletnem mestu založnika. Če ga ni mogoče najti, ne obstaja – ne uporabljajte ga.
- Je odtis pravilen? Avtor, naslov, založnik/revija, leto, stran — vse se mora natančno ujemati.
- Ali je citat resničen? Poiščite citat v samem viru, na navedeni strani, in ga dobesedno primerjajte.
- Ali je kontekst pravilen? Ali je citat uporabljen dobesedno ali je bil popačen?
- Ali je pripis pošten? Ali je ideja pripisana pravi osebi, ali je nekaj, vzeto iz sekundarnega vira, prikazano kot primarno?
Če je vsaj en člen te verige pretrgan, ne more vstopiti v izvorno besedilo.
Namig: Umetni inteligenci že na začetku dajte navodila: "Ne izdajajte nobenega vira, za katerega niste prepričani, da obstaja; če niste prepričani, recite 'Nisem našel vira'." To ne konča popolnoma halucinacije, vendar spodbudi AI, da reče "ne vem", namesto da se pomiri.
Citiranje in citatna disciplina
Poleg preverjanja je pošteno pripisovanje tudi disciplina:
- Podajte neposredni citat z narekovaji in stranjo; Naj bo dobesedno.
- Povežite tudi posredni citat (povzemanje z lastnimi besedami) na vir; Če ideja ni vaša, potrebuje pripis.
- Pregledno navedite prispevek AI v skladu s pravilom vaše organizacije; AI ni »vir«, a če se uporablja, ga je treba prijaviti.
- Ne prikazujte sekundarnega vira kot primarnega; Če ste citat avtorja vzeli iz druge knjige, to označite.
trije mini kovčki
1. primer – Dva od petih virov sta se izkazala za izmišljena. Raziskovalec je šel skozi postopek preverjanja 5 virov, ki jih je dal AI. 2 sploh nista bili v katalogu, 1 je imel napačno letnico, 2 sta bili pravi in pravilni. Uporabljena sta bila le 2 preverjena; članek zaščiten pred fiktivnim pripisom.
2. primer – ulovljeno izkrivljanje ponudbe. En študent je našel citat iz AI v dejanski knjigi, vendar je citat v prvotnem kontekstu pomenil ravno nasprotno. AI je stavek vzel iz konteksta. Študent je popravil citat s pravilnim kontekstom.
Primer 3 – Nepravilno pripisovanje popravljeno. V nekem zapisku predavanja je AI mnenje pripisal napačnemu avtorju. Ko ga je učitelj navzkrižno preveril pri dveh zanesljivih virih, je našel pravega lastnika in ga popravil. Zapisek je preživel, ne da bi se zmotil študenta.
Štiri predloge za kopiranje
1) Navodilo za prepoved izdelave:
Od zdaj naprej: NE izdajajte nobenega vira, citata, datuma ali številke, za katero niste prepričani, da obstaja. Če niste prepričani, recite "potrebno preverjanje" ali "Nisem našel." Nikoli ne dajte oznake, ki je realistična, vendar ne morete zagotoviti njene pristnosti. Upoštevajte to pravilo pri vsakem odgovoru.
2) Načrt preverjanja vira:
Spodaj bom sam preveril vir. Povejte mi, kje naj iščem ta vir (katalog, podatkovno bazo, založnika) in s katerimi ključnimi informacijami. VI potrdite, da vir obstaja; samo navedite korake za preverjanje. Vir: [prilepite kredit]
3) Preverjanje konteksta citata:
Spodaj je citat in dejanski odstavek, v katerem se pojavi. Ali je citat uporabljen v izvirnem kontekstu ali je bil popačen? Samo zanašajte se na besedilo, ki sem vam ga dal; dodajanje komentarja.Citat: [...] Izvirni odstavek: [...]
4) Revizija integritete dodeljevanja:
V mojem spodnjem besedilu: kateri stavki zahtevajo vir, vendar ostanejo nedodeljeni, katera ideja morda pripada nekomu drugemu, ali obstaja mesto, kjer sekundarni vir prikažem kot primarni? Namigovanje izmišljenih virov; samo pokažite na manjkajoče citate. Besedilo: [prilepite besedilo]
Šibek poziv/močan poziv
Slab: "Navedite 5 akademskih virov in citatov o tej temi."
Güçlü: "Povejte mi, kakšne vire in ključne besede naj iščem, ko raziskujem to temo. Ne navajajte nobenih referenc ali citatov, za katere niste prepričani, da obstajajo; če niste prepričani, recite 'Nisem našel'. Vire, ki jih najdem, vam bom dal pozneje; potrdil bom citate iz knjig."
Močan poziv zapre vrata halucinacijam in prepusti preverjanje človeku. Šibek poziv neposredno vabi namišljeno proizvodnjo virov.
Tabela validacijske verige
korak
vprašanje
mesto preverjanja
subjekt
Ali vir res obstaja?
Katalog / baza podatkov
odtis
Ali so avtor, leto, stran pravilni?
Založba/impresum
citat
Ali je v besedilu dobesedno?
vir sam
Kontekst
Je pomen popačen?
glavni odstavek
Citiranje
Pravi osebi?
navzkrižno preverjanje
Preverjanje s stalno povezavo in impresumom
Obstajajo konkretni načini za hitro in zanesljivo potrditev, ali vir dejansko obstaja. Večina sodobnih akademskih publikacij ima DOI (Digital Object Identifier – nespremenljiv edinstven ID, ki je trajno dodeljen publikaciji; deluje kot povezava in vodi neposredno do publikacije). Če dostopate do dejanske objave, ko v brskalnik vnesete DOI članka, ta vir obstaja; Če ga ne najdete ali DOI sploh ne obstaja, bodite sumljivi. »DOI«, ki jih ustvari umetna inteligenca, so pogosto izmišljeni in ne vodijo nikamor; To je eden najbolj praktičnih testov zajemanja namišljenega vira.
ISBN (mednarodna standardna knjižna številka) zagotavlja podobno identifikacijo za knjige; Pristnost knjige lahko preverite tako, da jo poiščete po ISBN v knjižničnem katalogu ali zanesljivi zbirki podatkov o knjigah. Za periodične publikacije preverite ime revije in podatke o obsegu/izdaji na uradni spletni strani založnika. Te konkretne identitete so odgovor na vprašanje "Ali je vir resničen?" V nekaj minutah jasno odgovori na vaše vprašanje.
Te metode spremenijo preverjanje v »transakcijo« in ne v »zalogo«: ko odprete in si ogledate vsak vir osebno, v katalogu, po DOI ali na spletnem mestu založnika, je tveganje fantomskega pripisovanja v veliki meri odpravljeno.
Nasvet: Ko končate bibliografijo, naredite »predstavitev s klikom«: dejansko odprite DOI ali kataloški zapis vsakega vira. Tudi en vir, ki se ne odpre, je opozorilo; ali ga popravite s pravilnim odtisom ali pa ga odstranite s seznama.
Pogoste napake
- Zamenjati realizem z resničnostjo. Verjetna identiteta AI ne dokazuje njegovega obstoja.
- Ne preverjam citata iz vira. Izmišljeni ali izkrivljeni citati lahko uhajajo.
- Pridobivanje zgodovine iz enega vira. Navzkrižno preverite pri vsaj dveh zanesljivih virih.
- Da bo sekundarno videti kot primarno. Iskreno navedite prenosno verigo.
- Navajanje AI kot vira. AI ni vir; njegova uporaba je deklarirana, naveden je sklic na primarni vir.
Če povzamem
Iskrenost v humanistiki temelji na točnosti vira in citatov. Največja nevarnost umetne inteligence je, da proizvaja vire in citate, ki so videti realistični, a ne obstajajo. Vsak vir in navedbo prenesite skozi petstopenjsko verigo preverjanja (entiteta, avtorstvo, citat, kontekst, pripis). Umetni inteligenci že od samega začetka prepovejte izdelovanje in ji nikoli ne zaupajte preverjanja. Ta disciplina je jamstvo za vašo zanesljivost v tem poklicu.
Aplikacijska naloga
Poskusite, da AI predlaga nekaj virov in citat o temi. Vsak vir preglejte skozi verigo preverjanja: koliko jih dejansko obstaja, koliko jih je pravilno pripisano, ali je citat dejansko v viru? Rezultate zapiši v tabelo. Ta izkušnja bo konkretno pokazala meje umetne inteligence na tem področju.
kontrolni seznam
- [ ] Potrdil sem obstoj vsakega vira v katalogu.
- [ ] Vsak citat sem dobesedno preveril iz izvirnega vira.
- [ ] Preveril sem, da kontekst citata ni bil popačen.
- [ ] Datume sem navzkrižno preveril pri vsaj dveh virih.
- [ ] Umetni inteligenci sem prepovedal izdelovanje in ji nisem prenesel preverjanja.