Dobici:
- Znati zašto je halucinacija skrivena u ljudskom domenu i biti u stanju proći svaki izvor kroz lanac verifikacije od pet koraka (postojanje, otisak, citat, kontekst, atribucija)
- Sposobnost da se potvrdi autentičnost izvora konkretnim identitetima kao što su DOI, ISBN i katalog.
- Shvatite disciplinu zabrane umjetnoj inteligenciji da pravi izmišljotine i nikada joj ne delegirati provjeru citiranja i iskrenosti pripisivanja.
Vrijednost teksta u ljudskom i društvenom polju ovisi o autentičnosti i preciznom prijenosu izvora na kojima se zasniva. Književni esej, teza, bilješka s predavanja—svi se oslanjaju na pouzdane izvore i iskrenu atribuciju (pokazujući od koga/gdje ste dobili informaciju ili citat). AI nudi veliku pogodnost na ovom polju, ali nosi i najveću opasnost: halucinaciju, odnosno stvaranje nepostojećeg izvora, citata ili činjenice kao stvarne. Ova jedinica je posvećena uspostavljanju "oklopa za provjeru" protiv ove opasnosti.
Pravilo jedne rečenice: nijedan izvor, citat, datum ili broj koji je generirala umjetna inteligencija ne može unijeti tekst bez potvrde u prvom licu iz primarnog ili pouzdanog izvora. Ovo pravilo je najčešće ponavljano i najmanje fleksibilno pravilo ovog modula.
Zašto su halucinacije tako opasne na ovom polju?
Ako AI griješi u tehničkom pitanju, to će se često primijetiti; ali u ljudskoj sferi halucinacija je vješto prikrivena:
- Realističan autorski tekst: AI kombinuje ime pravog autora sa naslovom koji odgovara toj oblasti i razumnom godinom. Rezultat je izvor koji ne postoji, ali izgleda potpuno stvarno.
- Citat primjeren stilu: AI može oponašati stil autora i predstaviti rečenicu koja mu ne pripada kao "svoju riječ".
- Blizan, ali pogrešan datum: Godina rada može se pomjeriti za jednu ili dvije godine; Ovo izmiče nemarnom čitaocu.
- Zbunjena atribucija: Može pripisati ideju pogrešnoj osobi.
Sve to može nečujno uvući se u tekst autora s poštenim namjerama, a ako nije uhvaćeno, narušiti i ugled autora i povjerenje čitatelja.
Oprez: Samo zato što se izvor čini "realnim" za AI ne znači da je stvaran. Realizam i stvarnost su dvije različite stvari; AI je majstor u prvom, ne može garantovati ovo drugo.
Provjera oklopa: korak po korak
Za svaki izvor i citat pratite ovaj lanac:
- Ima li? Potražite izvor u bibliotečkom katalogu, pouzdanoj bazi podataka ili na web lokaciji izdavača. Ako se ne može pronaći, ne postoji — nemojte ga koristiti.
- Da li je otisak tačan? Autor, naslov, izdavač/časopis, godina, stranica — sve se mora tačno podudarati.
- Da li je citat stvaran? Pronađite citat u samom izvoru, na navedenoj stranici, i uporedite ga doslovno.
- Da li je kontekst tačan? Da li se citat koristi doslovno ili je iskrivljen?
- Da li je atribucija poštena? Da li se ideja pripisuje pravoj osobi, da li je nešto preuzeto iz sekundarnog izvora prikazano kao primarno?
Ako je čak i jedna karika ovog lanca prekinuta, ne može ući u izvorni tekst.
Savjet: Uputite AI od početka: "Nemojte davati nijedan izvor za koji niste sigurni da postoji; ako niste sigurni, recite 'Nisam mogao pronaći izvor'." Ovo ne završava halucinaciju u potpunosti, ali navodi AI da kaže "ne znam" umjesto da se pomiri.
Citiranje i citatna disciplina
Uz verifikaciju, pošteno pripisivanje je također disciplina:
- Dajte direktan citat sa citatima i stranicom; Neka bude bukvalno.
- Također povežite indirektni citat (sažimajući svojim riječima) sa izvorom; Ako ideja nije vaša, potrebno joj je pripisivanje.
- Transparentno navedite doprinos AI prema pravilu vaše organizacije; AI nije „resurs“, ali ako se koristi, mora biti deklarisan.
- Ne predstavljajte sekundarni izvor kao primarni; Ako ste uzeli citat nekog autora iz druge knjige, navedite ovo.
tri mini kofera
Slučaj 1 — Ispostavilo se da su dva od pet izvora fiktivna. Istraživač je prošao kroz proces verifikacije 5 izvora koje je dala AI. 2 uopće nisu bila u katalogu, 1 je imala pogrešnu godinu, 2 su bila stvarna i tačna. Korištena su samo 2 provjerena; članak zaštićen od fiktivnog pripisivanja.
Slučaj 2 — Uhvaćeno je izobličenje citata. Jedan student je pronašao citat iz AI u stvarnoj knjizi, ali je citat značio upravo suprotno u originalnom kontekstu. AI je izvukao rečenicu iz konteksta. Učenik je ispravio citat sa njegovim ispravnim kontekstom.
Slučaj 3 — Ispravljena netačna atribucija. U jednoj belešci sa predavanja, AI je pripisao mišljenje pogrešnom autoru. Kada ga je učitelj unakrsno provjerio sa dva pouzdana izvora, pronašao je pravog vlasnika i popravio ga. Bilješka je preživjela, a da studentu nije pogriješila.
Četiri šablona za kopiranje
1) Uputstvo za zabranu izrade:
Od sada: NEMOJTE navoditi nijedan izvor, citat, datum ili broj za koji niste sigurni da postoji. Ako niste sigurni, recite "potrebna je verifikacija" ili "Nisam ga mogao pronaći". Nikada nemojte davati oznaku koja je realna, ali ne možete garantovati njenu autentičnost. Slijedite ovo pravilo sa svakim odgovorom.
2) Mapa puta za provjeru izvora:
Sam ću provjeriti izvor ispod. Recite mi gdje da potražim ovaj resurs (katalog, baza podataka, izdavač) i s kojim ključnim informacijama. VI potvrđujete da resurs postoji; samo dajte korake za verifikaciju. Izvor: [zalijepi kredit]
3) Provjera konteksta citata:
Ispod je citat i stvarni pasus u kojem se pojavljuje. Je li citat korišten u izvornom kontekstu ili je iskrivljen? Samo se oslonite na tekst koji sam vam dao; dodajući komentar. Citat: [...] Originalni paragraf: [...]
4) Revizija integriteta atribucije:
U mom tekstu ispod: koje rečenice zahtijevaju izvor, ali ostaju nepripisane, koja ideja može pripadati nekom drugom, postoji li mjesto gdje prikazujem sekundarni izvor kao primarni? Predlaganje izmišljenih izvora; samo ukažite na citate koji nedostaju.Text: [paste text]
Slaba prompt / Jaka prompt
Slabo: "Navedite 5 akademskih izvora i citata o ovoj temi."
Güçlü: "Recite mi koje izvore i ključne riječi trebam tražiti dok istražujem o ovoj temi. Nemojte davati nikakve reference ili citate za koje niste sigurni da postoje; ako niste sigurni, recite 'Nisam mogao pronaći'. Dat ću vam izvore koje pronađem kasnije; potvrdit ću citate iz knjiga."
Snažan nagoveštaj zatvara vrata halucinacijama i prepušta verifikaciju čovjeku. Slab prompt direktno poziva na imaginarnu proizvodnju resursa.
Tabela lanca validacije
korak
Pitanje
lokacija za provjeru
entiteta
Da li izvor zaista postoji?
Katalog / baza podataka
otisak
Da li je autor, godina, stranica tačni?
Izdavač/impresum
citat
Da li je to doslovno u tekstu?
sam izvor
Kontekst
Da li je značenje iskrivljeno?
glavni paragraf
Citiranje
Pravoj osobi?
unakrsna provjera
Verifikacija sa trajnim linkom i otiskom
Postoje konkretni načini da se brzo i pouzdano potvrdi da li resurs zaista postoji. Većina modernih akademskih publikacija ima DOI (Digitalni identifikator objekta—nepromjenjivi jedinstveni ID koji je trajno dodijeljen publikaciji; djeluje kao veza i vodi direktno do publikacije). Ako pristupite stvarnoj publikaciji kada unesete DOI članka u pretraživač, taj izvor postoji; Ako ga ne možete pronaći ili DOI uopće ne postoji, budite sumnjičavi. „DOI“ generisane veštačkom inteligencijom često su izmišljene i nikuda ne idu; Ovo je jedan od najpraktičnijih testova hvatanja imaginarnog izvora.
ISBN (Međunarodni standardni broj knjige) pruža sličnu identifikaciju za knjige; Autentičnost knjige možete provjeriti tako što ćete je pretražiti prema ISBN-u u bibliotečkom katalogu ili pouzdanoj bazi podataka knjiga. Za periodične publikacije provjerite naziv časopisa i informacije o broju/izdanju na službenoj web stranici izdavača. Ovi konkretni identiteti su odgovor na pitanje "Da li je izvor stvaran?" Jasno odgovara na vaše pitanje u roku od nekoliko minuta.
Ove metode pretvaraju verifikaciju u „transakciju“ a ne u „zalihu“: kada otvorite i pogledate svaki izvor osobno, u katalogu, od strane DOI-a ili na web stranici izdavača, rizik od fantomske atribucije je u velikoj mjeri eliminisan.
Savjet: Kada završite sa bibliografijom, napravite „obilazak klikom”: zapravo otvorite DOI ili kataloški zapis svakog izvora. Čak i jedan izvor koji se ne otvori je upozorenje; ili ispravite ispravnim otiskom ili ga uklonite sa liste.
Uobičajene greške
- Rješenje realizma za stvarnost. Vjerojatan identitet AI ne dokazuje njegovo postojanje.
- Ne provjeravam citat iz izvora. Izmišljeni ili iskrivljeni citati mogu procuriti.
- Preuzimanje istorije iz jednog izvora. Unakrsna provjera s najmanje dva pouzdana izvora.
- Učiniti da sekundar izgleda kao primarni. Iskreno navedite lanac prijenosa.
- Navodeći AI kao izvor. AI nije resurs; deklarisana je njegova upotreba, upućuje se na primarni izvor.
Ukratko
Iskrenost u humanističkim naukama oslanja se na tačnost izvora i citata. Najveća opasnost od AI je to što proizvodi izvore i citate koji izgledaju realno, ali ne postoje. Prođite svaki izvor i citat kroz lanac verifikacije u pet koraka (entitet, kredit, citat, kontekst, atribucija). Zabranite AI da izmišlja od samog početka i nikada joj ne delegirajte verifikaciju. Ova disciplina je garancija vaše pouzdanosti u ovoj profesiji.
Zadatak aplikacije
Pokušajte da AI predloži nekoliko izvora i citat o nekoj temi. Provedite svaki izvor kroz lanac provjere: koliko ih stvarno postoji, koliko ima tačnu atribuciju, da li je citat zapravo u izvoru? Rezultate zapišite u tabelu. Ovo iskustvo će konkretno pokazati granice AI u ovoj oblasti.
kontrolna lista
- [ ] Potvrdio sam postojanje svakog izvora u katalogu.
- [ ] Provjerio sam svaki citat doslovno iz originalnog izvora.
- [ ] Provjerio sam da kontekst citata nije iskrivljen.
- [ ] Unakrsno sam provjerio datume sa najmanje dva izvora.
- [ ] Zabranio sam AI da izmišlja i nisam delegirao verifikaciju na njega.