Ieguvumi:
- Zinot, kāpēc halucinācijas ir paslēptas cilvēka sfērā, un spēja nodot katru avotu cauri piecu soļu verifikācijas ķēdei (esamība, nospiedums, citāts, konteksts, attiecinājums)
- Spēja apstiprināt avota autentiskumu ar konkrētām identitātēm, piemēram, DOI, ISBN un katalogu.
- Izprotiet disciplīnu, kas attiecas uz aizliegumu mākslīgajam intelektam radīt izdomājumus un nekad tam nedeleģēt citātu un attiecinājuma godīguma pārbaudi.
Teksta vērtība cilvēciskajā un sociālajā jomā ir atkarīga no tā pamatā esošo avotu autentiskuma un precīzas nodošanas. Literāra eseja, disertācija, lekciju piezīme — tas viss ir balstīts uz uzticamiem avotiem un godīgu attiecinājumu (norāda, kurš/kur jūs ieguvāt informāciju vai citātu). AI piedāvā lielas ērtības šajā jomā, taču tajā ir arī vislielākās briesmas: halucinācijas, tas ir, neesoša avota, citāta vai fakta iegūšana kā īsts. Šī vienība ir paredzēta, lai izveidotu "pārbaudes bruņas" pret šīm briesmām.
Viena teikuma noteikums: neviens AI ģenerēts avots, citāts, datums vai numurs nevar ievadīt tekstu bez pirmās personas apstiprinājuma no primārā vai uzticama avota. Šis noteikums ir visvairāk atkārtotais un vismazāk elastīgais šī moduļa noteikums.
Kāpēc halucinācijas šajā jomā ir tik bīstamas?
Ja AI kļūdās kādā tehniskā jautājumā, tas bieži tiks pamanīts; bet cilvēka sfērā halucinācijas tiek prasmīgi noslēptas:
- Reālistiska rindiņa: AI apvieno īsta autora vārdu ar jomai atbilstošu nosaukumu un saprātīgu gadu. Rezultāts ir avots, kas neeksistē, bet izskatās tieši reāls.
- Stilam atbilstošs citāts: AI var atdarināt autora stilu un viņam nepiederošu teikumu pasniegt kā "viņa vārdu".
- Aizvērts, bet nepareizs datums: Darba gads var tikt pārcelts par vienu vai diviem gadiem; Tas izvairās no neuzmanīga lasītāja.
- Apmulsis attiecinājums: var attiecināt ideju uz nepareizu personu.
Tas viss var klusībā iefiltrēties godīgu nolūku autora tekstā un, ja netiek pieķerts, sabojāt gan autora reputāciju, gan lasītāja uzticību.
Uzmanību: tas, ka resurss AI šķiet "reālistisks", nenozīmē, ka tas ir reāls. Reālisms un realitāte ir divas dažādas lietas; AI ir meistars pirmajā, tas nevar garantēt otro.
Pārbaudes bruņas: soli pa solim
Katram avotam un citātam sekojiet šai ķēdei:
- Vai ir? Meklējiet avotu bibliotēkas katalogā, uzticamā datu bāzē vai izdevēja vietnē. Ja to nevar atrast, tas neeksistē — nelietojiet to.
- Vai nospiedums ir pareizs? Autors, nosaukums, izdevējs/žurnāls, gads, lapa — visiem precīzi jāatbilst.
- Vai citāts ir īsts? Atrodiet citātu pašā avotā, norādītajā lapā un salīdziniet to burtiski.
- Vai konteksts ir pareizs? Vai citāts lietots burtiski, vai arī tas ir sagrozīts?
- Vai attiecinājums ir godīgs? Vai ideja tiek attiecināta uz pareizo cilvēku, vai kaut kas ņemts no sekundāra avota, tiek attēlots kā primārais?
Ja ir bojāts kaut viens šīs ķēdes posms, tas nevar ievadīt avota tekstu.
Padoms: no sākuma norādiet AI: "Nenorādiet nevienu avotu, par kuru neesat pārliecināts; ja neesat pārliecināts, sakiet "Es nevarēju atrast avotu". Tas pilnībā neizbeidz halucinācijas, taču tas mudina AI teikt "es nezinu", nevis izdomāt.
Citēšana un citēšanas disciplīna
Līdzās verifikācijai godīga attiecināšana ir arī disciplīna:
- Sniedziet tiešo citātu ar citātiem un lapu; Lai tas būtu burtiski.
- Saistiet arī netiešo citātu (kopsavilkums ar saviem vārdiem) ar avotu; Ja ideja nav jūsu, tai ir nepieciešams attiecinājums.
- Pārredzami norādiet AI ieguldījumu saskaņā ar jūsu organizācijas noteikumiem; AI nav “resurss”, taču, ja to izmanto, tas ir jādeklarē.
- Neattēlot sekundāro avotu kā primāro; Ja ņēmāt citātu no autora no citas grāmatas, norādiet to.
trīs mini futrāļi
1. gadījums — divi no pieciem avotiem izrādījās fiktīvi. Pētnieks pārbaudīja piecus AI sniegtos avotus. 2 vispār nebija katalogā, 1 bija nepareizs gads, 2 bija īsti un pareizi. Tika izmantoti tikai 2 pārbaudītie; raksts aizsargāts no fiktīvas attiecināšanas.
2. gadījums — fiksēts citāta izkropļojums. Viens students atrada citātu no AI faktiskā grāmatā, bet citāts sākotnējā kontekstā nozīmēja tieši pretējo. AI bija izņēmusi teikumu no konteksta. Students laboja citātu ar tā pareizo kontekstu.
3. gadījums — izlabots nepareizs attiecinājums. Vienā lekciju piezīmē AI piedēvēja viedokli nepareizam autoram. Kad skolotājs to pārbaudīja ar diviem uzticamiem avotiem, viņš atrada likumīgo īpašnieku un to salaboja. Zīmīte izdzīvoja, skolēnam nekļūdoties.
Četras kopējamas veidnes
1) Izgatavošanas aizlieguma norādījumi:
No šī brīža: NENOrādiet avotus, citātus, datumus vai numurus, par kuriem neesat pārliecināts. Ja neesat pārliecināts, sakiet “nepieciešama verifikācija” vai “Es nevarēju to atrast”. Nekad nepievienojiet atzīmi, kas ir reālistiska, taču jūs nevarat garantēt tās autentiskumu. Ievērojiet šo noteikumu ar katru atbildi.
2) Avota verifikācijas ceļvedis:
Tālāk es pārbaudīšu avotu pats. Sakiet, kur meklēt šo resursu (katalogā, datu bāzē, izdevniecībā) un ar kādu galveno informāciju. JŪS apstiprināt, ka resurss pastāv; vienkārši norādiet verifikācijas darbības.Avots: [paste credit]
3) Citāta konteksta pārbaude:
Zemāk ir citāts un faktiskā rindkopa, kurā tas notiek. Vai citāts ir izmantots tā sākotnējā kontekstā vai arī tas ir sagrozīts? Vienkārši paļaujieties uz manis sniegto tekstu; pievienojot komentāru.Citāts: [...] Sākotnējā rindkopa: [...]
4) Attiecinājuma integritātes audits:
Manā tekstā zemāk: kuri teikumi prasa avotu, bet paliek neattiecināti, kura ideja var piederēt kādam citam, vai ir vieta, kur es parādu sekundāro avotu kā primāro? izdomātu avotu ieteikšana; vienkārši norādiet trūkstošos citātus.Teksts: [ielīmēt tekstu]
Vāja uzvedne / spēcīga uzvedne
Vāji: "Sniedziet 5 akadēmiskus avotus un citātus par šo tēmu."
Güçlü: "Pastāstiet man, kādi avoti un atslēgvārdi man būtu jāmeklē, pētot šo tēmu. Neizveidojiet nekādas atsauces vai citātus, par kuriem neesat pārliecināts; ja neesat pārliecināts, sakiet "Es nevarēju to atrast". Es jums sniegšu vēlāk atrastos avotus; es apstiprināšu citātus no grāmatām."
Spēcīgā uzvedne aizver durvis halucinācijām un atstāj verifikāciju cilvēka ziņā. Vāja uzvedne tieši aicina iedomātu resursu ražošanu.
Validācijas ķēdes tabula
solis
Jautājums
verifikācijas vieta
entītija
Vai avots tiešām pastāv?
Katalogs / datubāze
nospiedums
Vai autors, gads, lapa ir pareizi?
Izdevējs/iespiedums
citāts
Vai tekstā tas ir burtiski?
pats avots
Konteksts
Vai nozīme ir izkropļota?
galvenā rindkopa
Citāts
Pareizajam cilvēkam?
krusta pārbaude
Verifikācija ar pastāvīgu saiti un nospiedumu
Ir konkrēti veidi, kā ātri un droši apstiprināt, vai resurss patiešām pastāv. Lielākajai daļai mūsdienu akadēmisko publikāciju ir DOI (Digital Object Identifier — nemainīgs unikāls ID, kas pastāvīgi piešķirts publikācijai; tas darbojas kā saite un ved tieši uz publikāciju). Ja piekļūstat faktiskajai publikācijai, kad pārlūkprogrammā ierakstāt raksta DOI, šis avots pastāv; Ja nevarat to atrast vai DOI vispār nepastāv, esiet aizdomīgs. AI ģenerētie “DOI” bieži ir izdomāti un nekur nenonāk; Šis ir viens no praktiskākajiem iedomātā avota tveršanas testiem.
ISBN (starptautiskais standarta grāmatas numurs) nodrošina līdzīgu grāmatu identifikāciju; Jūs varat pārbaudīt grāmatas autentiskumu, meklējot to pēc ISBN bibliotēkas katalogā vai uzticamā grāmatu datubāzē. Periodiskajiem izdevumiem pārbaudiet žurnāla nosaukumu un informāciju par sējumu/izdevumu izdevēja oficiālajā vietnē. Šīs konkrētās identitātes ir atbilde uz jautājumu "Vai avots ir īsts?" Tas sniedz skaidru atbildi uz jūsu jautājumu dažu minūšu laikā.
Šīs metodes pārvērš verifikāciju par "darījumu", nevis par "krājumu": atverot un apskatot katru avotu klātienē, katalogā, DOI vai izdevēja vietnē, fantoma attiecinājuma risks lielā mērā tiek novērsts.
Padoms. Kad esat pabeidzis bibliogrāfiju, veiciet “klikšķināšanas ceļvedi”: faktiski atveriet katra avota DOI vai kataloga ierakstu. Pat viens resurss, kas netiek atvērts, ir brīdinājums; vai nu labojiet to ar pareizo nospiedumu vai izņemiet to no saraksta.
Biežas kļūdas
- Reālisma jaukšana ar realitāti. AI ticamā identitāte nepierāda tā esamību.
- Netiek pārbaudīts citāts no avota. Var noplūst izdomātas vai izkropļotas pēdiņas.
- Vēstures iegūšana no viena avota. Salīdziniet ar vismaz diviem uzticamiem avotiem.
- Padarot sekundāro izskatu kā primāro. Godīgi norādiet pārraides ķēdi.
- Citējot AI kā avotu. AI nav resurss; ir deklarēts tā lietojums, ir atsauce uz primāro avotu.
Rezumējot
Godīgums humanitārajās zinātnēs ir atkarīgs no avota un citātu precizitātes. AI lielākās briesmas ir tādas, ka tas rada avotus un citātus, kas izskatās reālistiski, bet neeksistē. Nododiet katru avotu un citātu piecu soļu verifikācijas ķēdē (entītija, kredīts, citāts, konteksts, attiecinājums). Aizliedziet mākslīgā intelekta veidošanu no paša sākuma un nekad nedeleģējiet tam verifikāciju. Šī disciplīna ir jūsu uzticamības garantija šajā profesijā.
Lietojumprogrammas uzdevums
Mēģiniet likt AI ieteikt dažus avotus un citātu par tēmu. Izpildiet katru avotu cauri verifikācijas ķēdei: cik daudzi faktiski pastāv, cik tiem ir pareizs attiecinājums, vai citāts patiešām ir avotā? Ierakstiet rezultātus tabulā. Šī pieredze konkrēti parādīs AI robežas šajā jomā.
kontrolsaraksts
- [ ] Es apstiprināju katra resursa esamību katalogā.
- [ ] Esmu verbatificējis katru citātu no sākotnējā avota.
- [ ] Esmu pārbaudījis, vai citāta konteksts nav sagrozīts.
- [ ] Esmu salīdzinājis datumus ar vismaz diviem avotiem.
- [ ] Es aizliedzu mākslīgā intelekta veidošanu un nedeleģēju tam verifikāciju.