Dobici:
- Sposobnost razlikovati gdje umjetna inteligencija štedi stvarno vrijeme u tijeku akademskog istraživanja (literatura, dizajn, analiza, pisanje), a gdje znanstvena prosudba i odgovornost ostaju na istraživaču, u skladu s razinom rizika zadatka
- Biti sposoban primijeniti disciplinu koja povezuje i provjerava svaki izlaz umjetne inteligencije s izvorom i razumjeti problem halucinacije (fabricirane) atribucije, što je najkritičniji rizik akademije.
- Sposobnost usvajanja okvira korištenja koji je u skladu s institucionalnim i časopisnim politikama korištenja umjetne inteligencije, načelima akademskog poštenja i transparentnosti.
Posao istraživača uključuje puno više pisanja, čitanja i uređivanja nego što se čini: skeniranje stotina članaka, njihovo sažimanje, brušenje istraživačkog pitanja, osmišljavanje metoda, analiziranje podataka, prepisivanje rezultata, oblikovanje citata, odabir časopisa, odgovaranje na komentare recenzenata. Velik dio ovog posla se ponavlja, oduzima puno vremena i ometa; Krade ono što je uistinu vrijedno, originalno razmišljanje i tumačenje. Umjetna inteligencija (AI) — računalni programi koji mogu razumjeti ljudski jezik i proizvesti izlazne podatke kao što su tekst, sažeci, kod, nacrti itd. — moćna je pomoć za ubrzavanje ovog ponavljajućeg tereta. Kroz ovaj modul, AI ne smatramo čarobnim izvorom informacija; Naučit ćemo ga koristiti kao asistenta u istraživanju, stvarajući nacrte, dajući ideje i uređujući.
No, od samog početka, stavimo najvažniju rečenicu specifičnu za akademsku zajednicu: AI ne donosi znanstvene odluke umjesto istraživača; izrađuje nacrt, znanstvena prosudba i odgovornost pripada istraživaču. U akademskoj zajednici to je pravilo još strože nego u drugim profesijama, jer valuta znanosti je povjerenje, a temelj tog povjerenja je da je svaka tvrdnja povezana s provjerljivim izvorom.
Ova prva cjelina uspostavlja tri temelja: razlikovanje gdje umjetna inteligencija radi, a gdje treba ostati u tijeku istraživanja; provjera svakog izlaza; Usvojiti načelo akademskog poštenja i transparentnosti. Ovo troje je temeljna sigurnosna osnova za sve sljedeće jedinice.
Gdje AI štedi vrijeme, gdje odluka pripada istraživaču?
Pomaže razmišljati o istraživačkim zadacima u smislu razine rizika. Razina rizika je koliko bi štete prouzročilo znanstvenim zapisima ako se učini na pogrešan način.
Niskorizični zadaci koje umjetna inteligencija znatno ubrzava: Generiranje strategije pretraživanja (ključna riječ, sinonim), izrada početnog sažetka dugog teksta, pojednostavljenje jezika odlomka, predlaganje naslova tablice, razmišljanje, objašnjavanje koncepta na različite načine, osmišljavanje strukture nacrta. Ovdje AI rješava problem "prazne stranice"; ispravljate, provjeravate i obogaćujete.
Srednje rizični zadaci proizvedeni AI-om koji zahtijevaju rigoroznu provjeru: preporuka za izbor statističkog testa, nacrt koda, oblikovanje citata, nacrt tumačenja nalaza, usporedba opcija metoda. Ovdje AI daje brzinu, ali svaki broj, svaka oznaka, svaki logički korak mora biti potvrđen ručno.
Zadaci visokog rizika kod kojih je odluka prepuštena isključivo istraživaču: konačno određivanje hipoteze i metode, odlučivanje što podaci znače, prosudba ima li nalaz smisla, odluke unutar etičkog povjerenstva (IRB), odlučivanje postoji li izvor i podržava li tvrdnju, izjava o autorstvu i doprinosu. Ove odluke određuju pouzdanost znanstvenog zapisa; Odgovornost i posljednja riječ uvijek pripada istraživaču.
Oprez: "AI je rekao" nije opravdanje. Urednik časopisa ili žiri za doktorski rad neće prihvatiti izjavu "moj model to je proizveo ovako." Neprovjereni izlaz AI-a je poput neprovjerene glasine.
Zašto je potrebna verifikacija? Halucinacija i izmišljeno pripisivanje
Umjetna inteligencija ne proizvodi tekst "znanjem", već "predviđanjem moguće riječi". Zato ponekad daje vrlo tečne, ali zapravo netočne informacije. To se zove halucinacija (izmišljotina). Najopasniji oblik ovoga u akademskoj zajednici je lažno pripisivanje: AI generira ime autora, godinu, časopis ili čak DOI (identifikator digitalnog objekta — stalna adresa publikacije) koji se čini stvarnim, ali taj izvor nikada nije postojao. Ako istraživač ovo koristi bez provjere, on ili ona iznosi tvrdnju temeljenu na studiji koja ne postoji; To dovodi do odbacivanja teze, povlačenja članka i gubitka ugleda.
Drugi problem je iskrivljenje: kada sažima rad, umjetna inteligencija može preuveličati nalaz, sažimajući studiju koja kaže da "nije bilo značajne razlike" kao "pronađena je značajna razlika". Treće je pristranost: umjetna inteligencija ponavlja trendove u podacima na kojima se obučava; Može istaknuti određenu školu, jezik ili gledište i učiniti da literatura izgleda iskrivljeno.
Zbog ovih ograničenja, predlažemo jednostavnu disciplinu provjere valjanosti koja se primjenjuje na svaki izlaz:
- Spojite ga na izvor. Pronađite i provjerite stvarni izvor (članak, baza podataka, DOI) za svaku činjenicu, datum, broj, citat i posebno svaki citat.
- Provjerite ponovno. Ručno provjerite numeričke ili logičke izlaze (statistički rezultat, izračun uzorka).
- Znanstveni filter. "Je li ova tvrdnja u skladu s poznatom literaturom u mom području?" riješite to svojom stručnošću.
- Preuzmi odgovornost. Onog trenutka kada je stavite u svoju publikaciju ili tezu, ta rečenica je vaša; Sve greške su vaša odgovornost.
Akademsko poštenje i transparentnost
Akademska čestitost osigurava da je rad uistinu vaš izvorni doprinos i da su svi izvori pošteno navedeni. Korištenje umjetne inteligencije ne eliminira ovo načelo, već dodaje novu odgovornost: transparentnost. Većina časopisa i sveučilišta sada zahtijeva eksplicitnu deklaraciju o korištenju umjetne inteligencije. Uobičajena urednička linija (na primjer, načela tijela za etičku publikaciju kao što su ICMJE i COPE) jasno govori dvije stvari: AI ne može biti autor (jer ne može preuzeti odgovornost, ne može proglasiti sukob interesa), a upotreba AI-ja nije skrivena, već se otkriva u odjeljku o metodi ili zahvalama.
Savjet: Prije lijepljenja teksta u bilo koji alat, postavite dva pitanja: (1) Kako ovaj alat pohranjuje podatke, koristi li se u obrazovanju? (2) Što kaže politika umjetne inteligencije moje ustanove i ciljanog časopisa? Ne počinjite bez poznavanja ovo dvoje.
tri mini kućišta
Slučaj 1 — Izmišljena atribucija kompromitirala tezu. Diplomant je od YZ-a zatražio 12 izvora za uvod u svoju tezu i sve ih je dobio s njihovim citatima. Njegov savjetnik nasumično je pretražio 4 od njih na Google Scholar; 2 od njih uopće nisu postojala, 1 od njih je imao DOI koji ide u drugi članak. Student je morao provjeriti cijeli popis jedan po jedan i koristio se samo 7 autentičnih izvora. Provjera je trajala 40 minuta; ali da je dostavljena s izmišljenom referencom, povjerenje žirija bilo bi potpuno poljuljano.
Slučaj 2 — Ušteda vremena. Postdoktorand je proveo 6 sati skenirajući i sažimajući 15-20 novih članaka svaki tjedan. Počeo je koristiti AI kao svoj prvi generator sažetaka: AI je sažimao sažetak i uvod svakog članka, produbljujući ga vlastitim kritičkim čitanjem i provjeravajući nalaze iz izvornog teksta. Vrijeme se smanjilo sa 6 sati tjedno na ~2,5 sata; Zarađeno vrijeme posvetio je pisanju originalnih sinteza.
Slučaj 3 — Povratak iz nevidljivosti. Društveni znanstvenik spremao se zalijepiti neobjavljene terenske podatke i svjedočanstva sudionika u AI za analizu. Shvatio je da sadrži vjerodajnice; Umjesto dijeljenja neobrađenih podataka, tražio je samo anonimizirani, sažeti uzorak i plan analize. Dobio je vrijednu preporuku metode, ali nikakvi osjetljivi podaci nisu izašli.
Predlošci koji se mogu kopirati
1) Razdvajanje zadatka prema razini rizika:
Vaša uloga: akademski asistent koji pomaže istraživaču. Podijelite sljedeće istraživačke zadatke na tri popisa: (A) zadaci niskog rizika za koje AI može sigurno izraditi rukopis, (B) zadaci srednjeg rizika za koje AI može proizvesti rukopis i zahtijevaju rigoroznu provjeru, (C) zadaci visokog rizika za koje konačna odluka mora biti na istraživaču. Za svaki zadatak napišite obrazloženje u jednoj rečenici. Misije: [zalijepi vlastite misije]
2) Upit za provjeru valjanosti:
Označite svaku rečenicu u donjem tekstu koja sadrži činjenicu, datum, broj, citat ili atribuciju i označite je kao "potrebna je provjera". Jasno navedite gdje niste sigurni. NEMOJTE izmišljati izvor ili broj; Ako ne znate, napišite "Ne znam".Tekst: [zalijepi nacrt]
3) Nacrt deklaracije o upotrebi umjetne inteligencije:
Za odjeljak o metodama/zahvalama u članku, napišite nacrt od 2-3 rečenice "Izjava o korištenju umjetne inteligencije" koja transparentno objašnjava u kojim sam fazama koristio AI (npr. ispravak jezika, nacrt nacrta). Upotreba: [objasniti]
4) Popis za provjeru izvora:
Generirajte kontrolni list za provjeru za svaki izvor na sljedećem popisu citata: [autor, godina, naslov, DOI, potvrđeno?]. Ne možete potvrditi; Daj mi praznu tablicu koju ću ručno provjeriti. Popis: [zalijepi citate]
Slab upit / Jak upit
Slab upit:
Pronađi mi izvore za uvod u moju tezu.
Bez konteksta i opasno: AI izbacuje lažne osobne iskaznice, a vi mislite da su prave.
Snažan upit:
Vaša uloga: metodološki savjetnik. Lokacija: "motivacija učenika u obrazovanju na daljinu". NE PRONAĐI MI IZVOR; Umjesto toga, predložite 8 ključnih riječi, 3 grupe sinonima i Booleov niz za pretraživanje za pretraživanje ove teme u Scopusu. Pravi članak byline FAKE. Provjerit ću izvore koje sam pronađem.
Potraga
Razina rizika
Uloga umjetne inteligencije
konačna odluka
Generiranje strategije pretraživanja
nizak
Predlaže ključnu riječ/niz
istraživač
Nacrt sažetka članka
Nisko-srednje
Generira nacrt
Istraživač potvrđuje
Preporuka za test statistike
srednji
Pruža opcije
Istraživač odabire/potvrđuje
Popis citata
visoka
Pomoćnik za formatiranje
Svaki otisak se ručno ovjerava
Pronalaženje interpretacije/hipoteze
visoka
daje ideje
usamljeni istraživač
Uobičajene greške
- Korištenje citata bez provjere. Izmišljeno pripisivanje je najčešća i najrazornija pogreška u akademskoj zajednici; dovodi do povlačenja.
- Zamjena izvora sažetkom. AI sažetak može iskriviti nalaz; Nijedan citat se ne navodi bez povratka na izvorni tekst.
- Preskakanje prozirnosti. Prikrivanje upotrebe je etički prekršaj kada se otkrije.
- Neka AI donosi znanstvene odluke. Hipoteze, interpretacije i odluke o metodama pripadaju istraživaču.
- Prijenos povjerljivih podataka u otvoreni alat. Neobjavljeni podaci i informacije o sudionicima su izvan vaše kontrole.
Savjet: Zamislite svaku sesiju umjetne inteligencije kao da radite s iskusnim, ali nepouzdanim pripravnikom: on je brz i vrijedan, ali vi provjerite sve što kaže prije nego potpišete.
Ukratko
AI je moćan pomoćnik koji istraživaču olakšava teret ponavljanja čitanja i pisanja; ali zbog halucinacija, iskrivljenja i pristranosti, svaki rezultat zahtijeva provjeru. Najkritičniji rizik u akademskoj zajednici je lažno citiranje: svaki izvor mora biti verificiran kroz DOI i bazu podataka. Odvojite zadatke prema razini rizika, zaštitite podatke, transparentno deklarirajte korištenje. Najkraće pravilo: nacrt je od umjetne inteligencije, znanstvena odgovornost je od istraživača.
Zadatak aplikacije
Navedite 8 zadataka iz vašeg trenutnog istraživačkog projekta i označite svaki kao niski/srednji/visoki rizik. Zatim odaberite zadatak niskog rizika i napišite upit s kontekstom, kao što je gore navedeni "Moćni upit". U izlazu označite najmanje 3 elementa (broj, impresum, zahtjev) koje trebate provjeriti i napišite kako ćete to provjeriti.
popis za provjeru
- [ ] Jesam li razdvojio zadatke prema razini rizika?
- [ ] Planiram li provjeriti svaki citat i računati u AI izlazu?
- [ ] Znam li pravila zadržavanja podataka vozila koje koristim?
- [ ] Jesam li pročitao politiku AI svoje ustanove i ciljanog časopisa?
- [ ] Jesam li siguran da zadržavam konačnu znanstvenu prosudbu?