Dobici:
- Znati zašto je halucinacija skrivena u ljudskoj domeni i moći proći svaki izvor kroz lanac provjere od pet koraka (postojanje, impresum, citat, kontekst, atribucija)
- Sposobnost potvrde izvorne autentičnosti konkretnim identitetima kao što su DOI, ISBN i katalog.
- Shvatite disciplinu zabrane umjetnoj inteligenciji da stvara izmišljotine i nikada joj ne delegirate provjeru citata i poštenja pripisivanja.
Vrijednost teksta u ljudskom i društvenom polju ovisi o autentičnosti i točnom prijenosu izvora na kojima se temelji. Književni esej, teza, bilješka s predavanja—svi se oslanjaju na pouzdane izvore i poštenu atribuciju (pokazujući od koga/gdje ste dobili informacije ili citat). AI nudi veliku pogodnost u ovom polju, ali nosi i najveću opasnost: halucinacije, odnosno proizvođenje nepostojećeg izvora, citata ili činjenice kao stvarnog. Ova jedinica posvećena je uspostavi "oklopa za provjeru" protiv ove opasnosti.
Pravilo jedne rečenice: izvor, citat, datum ili broj generiran umjetnom inteligencijom ne mogu ući u tekst bez potvrde iz prvog lica iz primarnog ili pouzdanog izvora. Ovo pravilo je pravilo koje se najviše ponavlja i najmanje je fleksibilno u ovom modulu.
Zašto su halucinacije tako opasne na ovom polju?
Ako AI griješi u tehničkom pitanju, to će se često primijetiti; ali u ljudskoj sferi halucinacija je vješto prikrivena:
- Realistična autorska linija: AI kombinira ime pravog autora s naslovom koji odgovara području i razumnom godinom. Rezultat je izvor koji ne postoji, ali izgleda potpuno stvaran.
- Citat primjeren stilu: AI može oponašati stil autora i rečenicu koja mu ne pripada prikazati kao "njegovu riječ".
- Blizu, ali pogrešan datum: Godina djela može se pomaknuti za jednu ili dvije godine; Ovo izmiče nemarnom čitatelju.
- Zbunjeno pripisivanje: Može pripisati ideju pogrešnoj osobi.
Svi oni mogu se tiho uvući u tekst autora s poštenim namjerama, a ako ne budu uhvaćeni, naštetiti i autorovom ugledu i povjerenju čitatelja.
Oprez: samo zato što se resurs čini "realističnim" AI-u ne znači da je stvaran. Realizam i stvarnost dvije su različite stvari; AI je majstor za prvo, ne može jamčiti za drugo.
Provjera oklopa: korak po korak
Za svaki izvor i citat slijedite ovaj lanac:
- postoji li Potražite izvor u knjižničnom katalogu, pouzdanoj bazi podataka ili na stranici izdavača. Ako se ne može pronaći, znači da ne postoji — nemojte ga koristiti.
- Je li otisak točan? Autor, naslov, izdavač/časopis, godina, stranica — sve se mora točno podudarati.
- Je li citat stvaran? Pronađite citat u samom izvoru, na navedenoj stranici, i doslovno ga usporedite.
- Je li kontekst točan? Je li citat upotrijebljen doslovno ili je iskrivljen?
- Je li atribucija poštena? Je li ideja pripisana pravoj osobi, je li nešto preuzeto iz sekundarnog izvora prikazano kao primarno?
Ako je i jedna karika ovog lanca prekinuta, ne može ući u izvorni tekst.
Savjet: uputite umjetnu inteligenciju od samog početka: "Nemojte odavati nijedan izvor za koji niste sigurni da postoji; ako niste sigurni, recite 'Nisam mogao pronaći izvor'." Ovo ne prekida halucinaciju u potpunosti, ali potiče AI da kaže "ne znam" umjesto da se pomiri.
Citiranje i citatna disciplina
Uz provjeru, pošteno pripisivanje također je disciplina:
- Navedite izravan citat s navodnicima i stranicom; Neka bude doslovno.
- Također povežite neizravni citat (sažimanje vlastitim riječima) s izvorom; Ako ideja nije vaša, potrebno ju je atribuirati.
- Transparentno navedite doprinos umjetne inteligencije prema pravilu vaše organizacije; AI nije "resurs", ali ako se koristi, mora se deklarirati.
- Ne prikazujte sekundarni izvor kao primarni; Ako ste citat autora preuzeli iz druge knjige, naznačite to.
tri mini kućišta
Slučaj 1 — Pokazalo se da su dva od pet izvora fiktivna. Istraživač je prošao kroz proces provjere 5 izvora koje je dao AI. 2 uopće nisu bila u katalogu, 1 je imala krivu godinu, 2 su bila prava i točna. Korištena su samo 2 provjerena; članak zaštićen od fiktivnog pripisivanja.
Slučaj 2 — Uhvaćena distorzija citata. Jedan student pronašao je citat iz AI-ja u stvarnoj knjizi, ali je citat značio upravo suprotno u izvornom kontekstu. AI je izvukao rečenicu iz konteksta. Učenik je ispravio citat ispravnim kontekstom.
Slučaj 3 — Ispravljeno netočno pripisivanje. U jednoj bilješci s predavanja AI je mišljenje pripisao pogrešnom autoru. Kad ga je učitelj provjerio s dva pouzdana izvora, pronašao je pravog vlasnika i popravio ga. Bilješka je preživjela, a nije pogriješila učenika.
Četiri predloška za kopiranje
1) Uputa o zabrani proizvodnje:
Od sada: NEMOJTE objavljivati nikakav izvor, citat, datum ili broj za koji niste sigurni da postoji. Ako niste sigurni, recite "potrebna je provjera" ili "Nisam mogao pronaći." Nikada nemojte davati oznaku koja je realna, ali ne možete jamčiti njezinu autentičnost. Slijedite ovo pravilo sa svakim odgovorom.
2) Plan provjere izvora:
Sam ću provjeriti izvor ispod. Recite mi gdje da tražim ovaj izvor (katalog, bazu podataka, izdavača) i s kojim ključnim informacijama. VI potvrđujete da resurs postoji; samo navedite korake provjere. Izvor: [zalijepi kredit]
3) Provjera konteksta citata:
Ispod je citat i stvarni odlomak u kojem se pojavljuje. Je li citat korišten u izvornom kontekstu ili je iskrivljen? Osloni se samo na tekst koji sam ti dao; dodavanje komentara.Citat: [...] Izvorni odlomak: [...]
4) Revizija integriteta atribucije:
U mom tekstu ispod: koje rečenice zahtijevaju izvor, ali ostaju neatribuirane, koja ideja može pripadati nekome drugom, postoji li mjesto gdje sekundarni izvor prikazujem kao primarni? Sugeriranje izmišljenih izvora; samo istaknite citate koji nedostaju.Tekst: [zalijepi tekst]
Slab upit / Jak upit
Slab: "Navedite 5 akademskih izvora i citata o ovoj temi."
Güçlü: "Recite mi kakve izvore i ključne riječi trebam tražiti dok istražujem ovu temu. Nemojte navoditi nikakve reference ili citate za koje niste sigurni da postoje; ako niste sigurni, recite 'Nisam to mogao pronaći'. Kasnije ću vam dati izvore koje pronađem; potvrdit ću citate iz knjiga."
Snažan poticaj zatvara vrata halucinacijama i prepušta provjeru čovjeku. Slab poticaj izravno poziva na proizvodnju imaginarnih resursa.
Tablica lanca validacije
korak
Pitanje
mjesto provjere
entitet
Postoji li izvor stvarno?
Katalog / baza podataka
otisak
Jesu li autor, godina, stranica točni?
Izdavač/impresum
citat
Je li doslovno u tekstu?
sam izvor
Kontekst
Je li značenje iskrivljeno?
glavni paragraf
Citiranje
Pravoj osobi?
unakrsna provjera
Ovjera trajnom vezom i impresumom
Postoje konkretni načini za brzu i pouzdanu potvrdu postoji li neki resurs. Većina modernih akademskih publikacija ima DOI (Digital Object Identifier—nepromjenjivi jedinstveni ID koji je trajno dodijeljen publikaciji; djeluje kao poveznica i vodi izravno do publikacije). Ako pristupite stvarnoj publikaciji kada upišete DOI članka u preglednik, taj izvor postoji; Ako ga ne možete pronaći ili DOI uopće ne postoji, budite sumnjičavi. "DOI" generirani umjetnom inteligencijom često su izmišljeni i ne idu nikamo; Ovo je jedan od najpraktičnijih testova hvatanja imaginarnog izvora.
ISBN (International Standard Book Number) pruža sličnu identifikaciju za knjige; Autentičnost knjige možete provjeriti traženjem prema ISBN-u u katalogu knjižnice ili pouzdanoj bazi podataka knjiga. Za periodične publikacije provjerite naziv časopisa i informacije o svesku/izdanju na službenoj web stranici izdavača. Ovi konkretni identiteti odgovor su na pitanje "Je li izvor stvaran?" Jasno odgovara na vaše pitanje u roku od nekoliko minuta.
Ove metode provjeru pretvaraju u "transakciju", a ne u "zalihu": kada otvorite i pogledate svaki izvor osobno, u katalogu, prema DOI-ju ili na web-mjestu izdavača, rizik od fantomskog pripisivanja je uvelike eliminiran.
Savjet: Kada završite svoju bibliografiju, napravite "obilazak klikom": zapravo otvorite DOI ili kataloški zapis svakog izvora. Čak i jedan izvor koji se ne otvori je upozorenje; ili ga ispravite ispravnim otiskom ili ga uklonite s popisa.
Uobičajene greške
- Miješajući realizam sa stvarnošću. Uvjerljivi identitet AI-a ne dokazuje njegovo postojanje.
- Nepotvrđivanje citata iz izvora. Izmišljeni ili iskrivljeni citati mogu procuriti.
- Dobivanje povijesti iz jednog izvora. Provjerite s najmanje dva pouzdana izvora.
- Učiniti da sekundar izgleda kao primarni. Iskreno navedite lanac prijenosa.
- Navodeći AI kao izvor. AI nije resurs; njegova uporaba je deklarirana, referenca je napravljena na primarni izvor.
Ukratko
Iskrenost u humanističkim znanostima oslanja se na točnost izvora i citata. Najveća opasnost od umjetne inteligencije je da proizvodi izvore i citate koji izgledaju realno, ali ne postoje. Provedite svaki izvor i citat kroz lanac provjere u pet koraka (entitet, zasluga, citat, kontekst, atribucija). Zabranite umjetnoj inteligenciji da proizvodi od samog početka i nikada joj ne delegirajte verifikaciju. Ova disciplina jamstvo je vaše pouzdanosti u ovoj profesiji.
Zadatak aplikacije
Pokušajte dati AI-ju da predloži nekoliko izvora i citat o temi. Provedite svaki izvor kroz lanac provjere: koliko ih zapravo postoji, koliko ima točnu atribuciju, je li citat doista u izvoru? Rezultate upiši u tablicu. Ovo iskustvo će konkretno pokazati granice AI u ovom polju.
popis za provjeru
- [ ] Potvrdio sam postojanje svakog izvora u katalogu.
- [ ] Provjerio sam svaki citat doslovno iz izvornog izvora.
- [ ] Provjerio sam da kontekst citata nije iskrivljen.
- [ ] Unakrsno sam provjerio datume s najmanje dva izvora.
- [ ] Zabranio sam umjetnoj inteligenciji da proizvodi i nisam joj delegirao verifikaciju.