Dobici:
- Mogućnost razlikovanja gdje umjetna inteligencija štedi stvarno vrijeme u toku akademskog istraživačkog rada (književnost, dizajn, analiza, pisanje) i gdje naučna prosudba i odgovornost ostaju na istraživaču, u skladu sa nivoom rizika zadatka
- Biti u stanju primijeniti disciplinu koja povezuje i provjerava svaki izlaz umjetne inteligencije na izvor i razumijevanje problema halucinacije (fabricirane) atribucije, što je najkritičniji rizik akademije.
- Sposobnost usvajanja okvira korištenja koji je u skladu sa institucionalnim i časopisnim politikama korištenja umjetne inteligencije, akademskom poštenjem i principima transparentnosti.
Posao istraživača uključuje mnogo više pisanja, čitanja i uređivanja nego što se čini: skeniranje stotina članaka, njihovo sumiranje, usavršavanje istraživačkog pitanja, dizajniranje metoda, analiziranje podataka, transkribiranje rezultata, formatiranje citata, odabir časopisa, odgovaranje na komentare recenzenata. Veliki dio ovog posla se ponavlja, oduzima vrijeme i ometa; Ona krade od onoga što je zaista vrijedno, originalno razmišljanje i tumačenje. Umjetna inteligencija (AI) — kompjuterski programi koji mogu razumjeti ljudski jezik i proizvesti rezultate poput teksta, sažetaka, koda, nacrta, itd. — moćna je pomoć za ubrzavanje ovog tereta koji se ponavlja. Kroz ovaj modul, AI ne smatramo magičnim izvorom informacija; Naučićemo da ga koristimo kao istraživački asistent, praveći nacrte, dajući ideje i uređujući.
Ali od samog početka, stavimo najvažniju rečenicu specifičnu za akademiju: AI ne donosi naučne odluke umjesto istraživača; izrađuje nacrt, naučni sud i odgovornost pripada istraživaču. U akademskoj zajednici je ovo pravilo još strože nego u drugim profesijama, jer je valuta nauke povjerenje, a osnova tog povjerenja je da je svaka tvrdnja povezana sa provjerljivim izvorom.
Ova prva jedinica uspostavlja tri osnove: razlikovanje gdje AI radi i gdje treba ostati u toku istraživačkog rada; provjera svakog izlaza; Usvojiti princip akademskog poštenja i transparentnosti. Ova tri su osnovna sigurnosna osnova za sve naredne jedinice.
Gdje AI štedi vrijeme, gdje odluka pripada istraživaču?
Pomaže da se istraživački zadaci razmišljaju u smislu nivoa rizika. Nivo rizika je kolika bi šteta nanela naučnom zapisu ako se uradi pogrešno.
Zadaci niskog rizika koje AI uvelike ubrzava: generiranje strategije pretraživanja (ključna riječ, sinonim), izrada početnog sažetka dugog teksta, pojednostavljivanje jezika pasusa, sugeriranje naslova tablice, razmišljanje, objašnjavanje koncepta na različite načine, smišljanje strukture nacrta. Ovdje AI rješava problem “prazne stranice”; ispravljate, provjeravate i obogaćujete.
Zadaci srednjeg rizika, napravljeni od umjetne inteligencije koji zahtijevaju rigoroznu verifikaciju: preporuka za odabir statističkih testova, nacrt koda, formatiranje citata, nacrt tumačenja nalaza, poređenje opcija metoda. Ovdje AI daje brzinu, ali svaki broj, svaki tag, svaki logički korak moraju biti potvrđeni ručno.
Zadaci visokog rizika gdje je odluka prepuštena isključivo istraživaču: konačno utvrđivanje hipoteze i metode, odlučivanje o značenju podataka, prosuđivanje da li je nalaz smislen, odluke unutar etičkog odbora (IRB), odlučivanje da li izvor zaista postoji i podržava tvrdnju, izjava o autorstvu i doprinosu. Ove odluke određuju pouzdanost naučnog zapisa; Odgovornost i konačna riječ uvijek pripada istraživaču.
Oprez: "AI je rekao" nije opravdanje. Urednik časopisa ili žiri teze neće prihvatiti izjavu "moj model ga je proizveo ovako." Neprovjereni izlaz umjetne inteligencije je poput neprovjerene glasine.
Zašto je verifikacija neophodna? Halucinacije i izmišljena atribucija
AI proizvodi tekst ne "znajući" već "predviđanjem moguće riječi". Zato ponekad daje izuzetno tečne, ali zapravo netačne informacije. To se zove halucinacija (fabrikacija). Najopasniji oblik ovoga u akademskoj zajednici je lažna atribucija: AI generiše ime autora, godinu, časopis ili čak DOI (identifikator digitalnog objekta — stalna adresa publikacije) koji se čini stvarnim, ali taj izvor nikada nije postojao. Ako istraživač koristi ovo bez provjere, on ili ona iznosi tvrdnju na osnovu studije koja ne postoji; To dovodi do odbacivanja teze, povlačenja članka i gubitka ugleda.
Drugi problem je izobličenje: kada sumira rad, AI može preuveličati nalaz, sumirajući studiju koja kaže da "nije bilo značajne razlike" jer je "pronađena značajna razlika". Treća je pristrasnost: AI ponavlja trendove u podacima na kojima se obučava; Može istaći određenu školu, jezik ili stanovište i učiniti da literatura izgleda iskrivljena.
Zbog ovih ograničenja, predlažemo jednostavnu disciplinu validacije koja se primjenjuje na svaki izlaz:
- Povežite ga sa izvorom. Pronađite i provjerite stvarni izvor (članak, baza podataka, DOI) za svaku činjenicu, datum, broj, citat i posebno svaki citat.
- Provjerite ponovo. Ručno provjerite numeričke ili logičke izlaze (statistički rezultat, izračun uzorka).
- Naučni filter. „Da li je ova tvrdnja u skladu sa poznatom literaturom iz moje oblasti?“ riješite to sa vlastitom stručnošću.
- Preuzmi odgovornost. U trenutku kada je stavite u svoju publikaciju ili tezu, ta rečenica je vaša; Sve greške su vaša odgovornost.
Akademska iskrenost i transparentnost
Akademski integritet osigurava da je rad zaista vaš originalni doprinos i da su svi izvori citirani iskreno. Upotreba AI ne eliminiše ovaj princip, već dodaje novu odgovornost: transparentnost. Većina časopisa i univerziteta sada zahtijevaju eksplicitnu deklaraciju o korištenju AI. Zajednička uređivačka linija (na primjer, principi etičkih tijela za objavljivanje kao što su ICMJE i COPE) jasno govore dvije stvari: AI ne može biti autor (jer ne može preuzeti odgovornost, ne može proglasiti sukob interesa), a korištenje AI nije skriveno, već je otkriveno u odjeljku metoda ili priznanja.
Savjet: Prije lijepljenja teksta u bilo koji alat, postavite dva pitanja: (1) Kako ovaj alat pohranjuje podatke, da li se koristi u obrazovanju? (2) Šta kaže politika AI moje institucije i ciljnog časopisa? Ne počinjite a da ne znate ovo dvoje.
tri mini kofera
Slučaj 1 — Izmišljena atribucija kompromitovana teza. Diplomirani student je zatražio od YZ 12 izvora za uvod u svoju tezu i sve ih je dobio s njihovim citatima. Njegov savjetnik nasumično je tražio 4 od njih na Google Scholar-u; 2 od njih uopšte nisu postojala, 1 je imao DOI koji ide na drugi članak. Student je morao jedan po jedan provjeriti cijelu listu i koristio je samo 7 autentičnih izvora. Verifikacija je trajala 40 minuta; ali da je dostavljen sa fiktivnom referencom, povjerenje porote bi bilo potpuno poljuljano.
Slučaj 2 — Ušteda vremena. Postdoktorski istraživač proveo je 6 sati skenirajući i rezimirajući 15-20 novih članaka svake sedmice. Počeo je da koristi veštačku inteligenciju kao svoj prvi generator sažetka: AI sažima sažetak i uvod svakog članka, produbljujući ga sopstvenim kritičkim čitanjem i verifikovanjem nalaza iz originalnog teksta. Vrijeme je smanjeno sa 6 sati sedmično na ~2,5 sata; Vrijeme koje je zaradio posvetio je pisanju originalne sinteze.
Slučaj 3 — Povratak iz skrovitosti. Društveni naučnik se spremao da zalijepi neobjavljene terenske podatke i svjedočanstva učesnika u AI radi analize. Shvatio je da sadrži akreditive; Umjesto da podijeli neobrađene podatke, samo je tražio anonimni, sažeti uzorak i plan analize. Dobio je vrijednu preporuku za metodu, ali nisu izašli osjetljivi podaci.
Predlošci koji se mogu kopirati
1) Razdvajanje zadatka prema nivou rizika:
Vaša uloga: akademski asistent koji pomaže istraživaču. Podijelite sljedeće istraživačke zadatke na tri liste: (A) zadaci niskog rizika za koje AI može sigurno proizvesti rukopis, (B) zadaci srednjeg rizika za koje AI može izraditi rukopis i zahtijevaju rigoroznu provjeru, (C) zadaci visokog rizika za koje konačna odluka mora biti na istraživaču. Napišite obrazloženje od jedne rečenice za svaki zadatak. Zadaci: [zalijepi vlastite zadatke]
2) Prompt za provjeru valjanosti:
Označite svaku rečenicu u tekstu ispod koja sadrži činjenicu, datum, broj, citat ili atribuciju i označite je kao "potrebna je provjera". Jasno navedite gdje niste sigurni. NE izmišljajte izvor ili broj; Ako ne znate, napišite "ne znam". Tekst: [zalijepi nacrt]
3) Nacrt deklaracije o upotrebi AI:
Za odjeljak o metodama/potvrdama u članku, napišite nacrt od 2-3 rečenice "Izjava o upotrebi AI" koja transparentno objašnjava u kojim fazama sam koristio AI (npr. ispravka jezika, nacrt nacrta). Upotreba: [objasniti]
4) Lista za verifikaciju izvora:
Generirajte kontrolnu listu za svaki izvor na sljedećoj listi citata: [autor, godina, naslov, DOI, provjereno?]. Ne možete provjeriti; Dajte mi praznu tabelu koju ću ručno provjeriti. Lista: [zalijepi citate]
Slaba prompt / Jaka prompt
Slab upit:
Pronađite mi izvore za uvod u moju tezu.
Bez konteksta i opasno: AI izbacuje lažne lične karte i vi mislite da su stvarni.
Snažan upit:
Vaša uloga: konsultant za metodologiju. Lokacija: "Motivacija učenika u obrazovanju na daljinu". NEMOJTE MI PRONAĆI IZVOR; Umjesto toga, predložite 8 ključnih riječi, 3 grupe sinonima i logički niz za pretraživanje za pretraživanje ove teme u Scopusu. Pravi članak autora FAKE. Provjeriću izvore koje sam pronašao.
Quest
Nivo rizika
Uloga AI
konačna odluka
Generiranje strategije pretraživanja
nisko
Predlaže ključnu riječ/string
istraživač
Nacrt sažetka članka
Nisko-srednje
Generiše nacrt
Istraživač potvrđuje
Preporuka za testiranje statistike
srednje
Pruža opcije
Istraživač bira/potvrđuje
Lista citata
visoko
Pomoćnik za formatiranje
Svaki otisak se ovjerava ručno
Pronalaženje interpretacije/hipoteze
visoko
daje ideje
usamljeni istraživač
Uobičajene greške
- Korištenje citata bez provjere. Izmišljena atribucija je najčešća i najrazornija greška u akademskoj zajednici; dovodi do povlačenja.
- Zamjena sažetka za izvor. Sažetak AI može iskriviti nalaz; Nijedan citat se ne navodi bez vraćanja na izvorni tekst.
- Preskakanje transparentnosti. Skrivanje upotrebe je etičko kršenje kada se otkrije.
- Neka AI donosi naučne odluke. Odluke o hipotezama, interpretacijama i metodima pripadaju istraživaču.
- Učitavanje povjerljivih podataka u otvoreni alat. Neobjavljeni podaci i informacije o učesnicima su van vaše kontrole.
Savjet: Zamislite svaku AI sesiju kao rad s iskusnim, ali nepouzdanim pripravnikom: on je brz i marljiv, ali vi provjerite sve što kaže prije nego što potpišete.
Ukratko
AI je moćan pomoćnik koji olakšava istraživaču teret ponavljanja čitanja i pisanja; ali zbog halucinacije, distorzije i pristrasnosti, svaki izlaz zahtijeva verifikaciju. Najkritičniji rizik u akademskoj zajednici je lažno citiranje: svaki izvor mora biti provjeren kroz DOI i bazu podataka. Odvojite zadatke prema nivou rizika, zaštitite podatke, transparentno proglasite upotrebu. Najkraće pravilo: nacrt je od AI, naučna odgovornost je od istraživača.
Zadatak aplikacije
Navedite 8 zadataka iz vašeg trenutnog istraživačkog projekta i označite svaki kao nizak/srednji/visoki rizik. Zatim odaberite zadatak niskog rizika i napišite prompt s kontekstom, kao što je "Moćni upit" iznad. Označite najmanje 3 elementa (broj, otisak, tvrdnju) koje trebate provjeriti u izlazu i napišite kako ćete to provjeriti.
kontrolna lista
- [ ] Da li sam razdvojio zadatke po nivou rizika?
- [ ] Planiram li provjeriti svaki citat i broj u AI izlazu?
- [ ] Da li znam politiku zadržavanja podataka o vozilu koje koristim?
- [ ] Da li sam pročitao politiku veštačke inteligencije svoje institucije i ciljnog časopisa?
- [ ] Jesam li siguran da zadržavam konačnu naučnu presudu?