Pelnas:
- Gebėjimas atskirti, kur dirbtinis intelektas sutaupo realų laiką akademinio tyrimo darbo eigoje (literatūra, dizainas, analizė, rašymas), o kur mokslinis sprendimas ir atsakomybė lieka tyrėjui, atsižvelgiant į užduoties rizikos lygį.
- Gebėjimas taikyti discipliną, kuri kiekvieną dirbtinio intelekto išvestį susieja ir patikrina su šaltiniu, ir suprasti haliucinacijų (sugalvoto) priskyrimo problemą, kuri yra pati svarbiausia akademijos rizika.
- Gebėjimas pritaikyti naudojimo sistemą, atitinkančią institucijų ir žurnalų dirbtinio intelekto naudojimo politiką, akademinio sąžiningumo ir skaidrumo principus.
Tyrėjo darbas apima daug daugiau rašymo, skaitymo ir redagavimo, nei atrodo: nuskaityti šimtus straipsnių, juos apibendrinti, šlifuoti tyrimo klausimą, kurti metodus, analizuoti duomenis, transkribuoti rezultatus, formatuoti citatas, parinkti žurnalus, atsakyti į recenzentų komentarus. Didžioji šio darbo dalis kartojasi, užima daug laiko ir blaško dėmesį; Jis vagia iš to, kas tikrai vertinga, originalaus mąstymo ir interpretacijos. Dirbtinis intelektas (AI) – kompiuterinės programos, galinčios suprasti žmonių kalbą ir sukurti tekstą, santraukas, kodą, juodraščius ir t. t. – yra galinga pagalba paspartinant šią pasikartojančią naštą. Šiame modulyje AI nelaikome magišku informacijos šaltiniu; Mokysimės juo naudotis kaip mokslinio tyrimo asistentu, rengiant juodraščius, siūlant idėjas ir redaguojant.
Tačiau iš pat pradžių įdėkime patį svarbiausią sakinį, būdingą akademinei bendruomenei: AI nepriima mokslinių sprendimų vietoj tyrėjo; rengia projektą, mokslinis sprendimas ir atsakomybė priklauso tyrėjui. Akademinėje bendruomenėje ši taisyklė yra dar griežtesnė nei kitose profesijose, nes mokslo valiuta yra pasitikėjimas, o to pasitikėjimo pagrindas yra tai, kad kiekvienas teiginys yra susietas su patikrinamu šaltiniu.
Šis pirmasis skyrius nustato tris pagrindus: atskirti, kur dirbtinis intelektas veikia ir kur jis turėtų likti tyrimo darbo eigoje; tikrinti kiekvieną išvestį; Perimti akademinio sąžiningumo ir skaidrumo principą. Šie trys yra visų tolesnių įrenginių saugumo pagrindas.
Kur DI taupo laiką, kur sprendimas priklauso tyrėjui?
Tai padeda mąstyti apie tyrimo užduotis rizikos lygio požiūriu. Rizikos lygis yra tai, kiek žalos jis padarytų moksliniams įrašams, jei būtų atliktas neteisingai.
Mažos rizikos užduotys, kurias dirbtinis intelektas labai pagreitina: paieškos strategijos (raktinio žodžio, sinonimo) sukūrimas, pradinės ilgo teksto santraukos sudarymas, pastraipos kalbos supaprastinimas, lentelės antraštės pasiūlymas, minčių šturmas, sąvokos paaiškinimas įvairiais būdais, metmenų struktūros kūrimas. Čia AI išsprendžia „tuščio puslapio“ problemą; pataisote, patikrinate ir praturtinate.
Vidutinės rizikos, dirbtinio intelekto sukurtos užduotys, kurioms reikalingas griežtas patikrinimas: statistinio testo pasirinkimo rekomendacija, kodo juodraštis, citatos formatavimas, išvados interpretacijos juodraštis, metodo variantų palyginimas. Čia AI suteikia greitį, tačiau kiekvienas skaičius, kiekviena žyma, kiekvienas loginis žingsnis turi būti patvirtintas rankiniu būdu.
Didelės rizikos užduotys, kai sprendimas paliekamas tik tyrėjui: galutinis hipotezės ir metodo nustatymas, duomenų reikšmės sprendimas, išvados prasmingumo įvertinimas, etikos komiteto (IRB) sprendimai, sprendimas, ar šaltinis iš tikrųjų egzistuoja ir patvirtina teiginį, autorystės pareiškimas ir indėlis. Šie sprendimai lemia mokslinio įrašo patikimumą; Atsakomybė ir galutinis žodis visada priklauso tyrėjui.
Atsargiai: „AI pasakė“ nėra pateisinimas. Žurnalo redaktorius ar baigiamųjų darbų žiuri nepriims teiginio „mano modelis sukūrė tai taip“. Nepatvirtinta AI išvestis yra tarsi nepatikrintas gandas.
Kodėl reikalingas patikrinimas? Haliucinacijos ir išgalvota priskyrimas
AI kuria tekstą ne „žinodamas“, o „numatydamas galimą žodį“. Štai kodėl kartais ji pateikia itin sklandžią, bet iš tikrųjų neteisingą informaciją. Tai vadinama haliucinacija (išsigalvojimu). Pavojingiausia to forma akademinėje bendruomenėje yra netikras priskyrimas: AI generuoja autoriaus vardą, pavardę, metus, žurnalą ar net DOI (skaitmeninio objekto identifikatorius – nuolatinis leidinio adresas), kuris atrodo tikras, tačiau to šaltinio niekada nebuvo. Jei tyrėjas tai naudoja nepatikrinęs, jis pareiškia pretenziją, remdamasis tyrimu, kurio nėra; Tai veda prie disertacijos atmetimo, straipsnio atsiėmimo ir reputacijos praradimo.
Antroji problema yra iškraipymas: apibendrindamas darbą AI gali perdėti išvadą, apibendrindamas tyrimą, kuriame teigiama, kad „nebuvo jokio reikšmingo skirtumo“ kaip „buvo rastas reikšmingas skirtumas“. Trečiasis yra šališkumas: dirbtinis intelektas pakartoja duomenų, kuriais jis mokomas, tendencijas; Tai gali išryškinti tam tikrą mokyklą, kalbą ar požiūrį, todėl literatūra atrodo iškraipyta.
Dėl šių apribojimų siūlome paprastą patvirtinimo discipliną, taikytiną kiekvienam išėjimui:
- Prijunkite jį prie šaltinio. Raskite ir patikrinkite kiekvieno fakto, datos, numerio, citatos ir ypač kiekvienos citatos tikrąjį šaltinį (straipsnį, duomenų bazę, DOI).
- Patikrinkite dar kartą. Rankiniu būdu patikrinkite skaitmeninius arba loginius išėjimus (statistinį rezultatą, pavyzdinį skaičiavimą).
- Mokslinis filtras. „Ar šis teiginys atitinka mano srities žinomą literatūrą? tvarkyk tai turėdamas savo kompetenciją.
- Prisiimk atsakomybę. Kai įdedate jį į savo publikaciją ar baigiamąjį darbą, tas sakinys priklauso jūsų; Bet kokios klaidos yra jūsų atsakomybė.
Akademinis sąžiningumas ir skaidrumas
Akademinis sąžiningumas užtikrina, kad darbas tikrai yra jūsų originalus indėlis ir kad visi šaltiniai yra nuoširdžiai cituojami. AI naudojimas nepanaikina šio principo, o prideda naują atsakomybę: skaidrumą. Dauguma žurnalų ir universitetų dabar reikalauja aiškiai deklaruoti AI naudojimą. Bendra redakcinė linija (pavyzdžiui, leidinių etikos institucijų, tokių kaip ICMJE ir COPE, principai) aiškiai pasako du dalykus: AI negali būti autorius (nes negali prisiimti atsakomybės, negali deklaruoti interesų konflikto), o AI naudojimas nėra paslėptas, o atskleidžiamas metodo ar padėkų skiltyje.
Patarimas: prieš įklijuodami tekstą į bet kurį įrankį, užduokite du klausimus: (1) Kaip šis įrankis saugo duomenis, ar jis naudojamas švietime? (2) Ką sako mano institucijos ir tikslinio žurnalo AI politika? Nepradėkite nežinodami šių dviejų.
trys mini dėklai
1 atvejis – sugalvotas priskyrimas pažeistas disertacija. Absolventas paprašė YZ pateikti 12 šaltinių savo baigiamojo darbo įvadui ir gavo visus juos su citatomis. Jo patarėjas atsitiktinai ieškojo 4 iš jų „Google Scholar“; 2 iš jų iš viso neegzistavo, 1 iš jų turėjo DOI, einantį į kitą straipsnį. Studentas turėjo po vieną patikrinti visą sąrašą ir naudojo tik 7 autentiškus šaltinius. Patvirtinimas užtruko 40 minučių; bet jei jis būtų pateiktas su fiktyviomis nuorodomis, žiuri pasitikėjimas būtų visiškai sukrėtęs.
2 atvejis – laiko taupymas. Podoktorantas kas savaitę praleido 6 valandas skenuodamas ir apibendrindamas 15–20 naujų straipsnių. Jis pradėjo naudoti dirbtinį intelektą kaip savo pirmąjį santraukų generatorių: DI apibendrino kiekvieno straipsnio santrauką ir įvadą, pagilino jį savo kritiniu skaitymu ir patikrino pirminio teksto išvadas. Laikas sumažėjo nuo 6 valandų per savaitę iki ~2,5 valandos; Uždirbtą laiką jis skyrė originalios sintezės rašymui.
3 atvejis – grįžimas iš slapto. Socialinis mokslininkas ketino įklijuoti nepaskelbtus lauko duomenis ir dalyvių liudijimus į AI analizei. Jis suprato, kad jame yra įgaliojimai; Užuot pasidalinęs neapdorotais duomenimis, jis paprašė tik anoniminio, apibendrinto mėginio ir analizės plano. Jis gavo vertingą metodo rekomendaciją, tačiau jokių jautrių duomenų nepateko.
Kopijuojami šablonai
1) Užduoties atskyrimas pagal rizikos lygį:
Jūsų vaidmuo: akademinis asistentas, padedantis tyrėjui. Padalinkite šias tyrimo užduotis į tris sąrašus: (A) mažos rizikos užduotys, kurioms dirbtinis intelektas gali saugiai parengti rankraštį, (B) vidutinės rizikos užduotys, kurioms dirbtinis intelektas gali parengti rankraštį ir reikalaujantis griežto patikrinimo, (C) didelės rizikos užduotys, dėl kurių galutinį sprendimą turi priimti tyrėjas. Kiekvienai užduočiai parašykite vieno sakinio pagrindimą. Užduotys: [įklijuoti savo užduotis]
2) Patvirtinimo patikrinimo raginimas:
Žemiau esančiame tekste pažymėkite kiekvieną sakinį, kuriame yra faktas, data, skaičius, citata ar priskyrimas, ir pažymėkite kaip „reikia patvirtinimo“. Aiškiai nurodykite, kur nesate tikri. NENAUDOKITE šaltinio ar numerio; Jei nežinote, parašykite "Aš nežinau". Tekstas: [įklijuoti juodraštį]
3) AI naudojimo deklaracijos projektas:
Straipsnio metodų / padėkų skyriui parašykite 2–3 sakinių juodraštį „AI naudojimo pareiškimas“, kuriame aiškiai paaiškinama, kokiais etapais naudojau AI (pvz., kalbos taisymas, kontūro juodraštis). Naudojimas: [paaiškinti]
4) Šaltinio patvirtinimo sąrašas:
Sugeneruokite patikrinimo lapą kiekvienam šaltiniui šiame citatų sąraše: [autorius, metai, pavadinimas, DOI, patikrinta?]. Negalite patikrinti; Duokite man tuščią lentelę, kurią patikrinsiu rankiniu būdu. Sąrašas: [įklijuoti citatas]
Silpnas raginimas / Stiprus raginimas
Silpnas raginimas:
Raskite šaltinius mano baigiamojo darbo įvadui.
Jokio konteksto ir pavojinga: AI išspjauna netikrus ID, o jūs manote, kad jie tikri.
Galingas raginimas:
Jūsų vaidmuo: metodinis konsultantas. Vieta: „studentų motyvacija nuotoliniu būdu“. NERASK MAN ŠALTINIO; Vietoj to, norėdami ieškoti šios temos Scopus, pasiūlykite 8 raktinius žodžius, 3 sinonimų grupes ir Būlio paieškos eilutę. Tikras straipsnis pagal eilutę FAKE. Aš pats patikrinsiu šaltinius, kuriuos rasiu.
Quest
Rizikos lygis
AI vaidmuo
galutinis sprendimas
Paieškos strategijos generavimas
žemas
Pasiūlo raktinį žodį/eilutę
tyrinėtojas
Straipsnio abstraktus projektas
Žemas-Vidutinis
Sukuria juodraštį
Tyrėjas patvirtina
Statistikos testo rekomendacija
vidutinis
Suteikia galimybes
Tyrėjas pasirenka/patvirtina
Citatų sąrašas
aukštas
Formatavimo asistentas
Kiekvienas įspaudas tikrinamas ranka
Interpretacijos/hipotezės radimas
aukštas
suteikia idėjų
vienišas tyrinėtojas
Dažnos klaidos
- Citatų naudojimas be patvirtinimo. Sugalvotas priskyrimas yra dažniausia ir niokojanti klaida akademinėje bendruomenėje; veda į pasitraukimą.
- Šaltinio pakeitimas santrauka. AI santrauka gali iškraipyti radinį; Jokia citata neteikiama negrįžus prie pradinio teksto.
- Praleidžiamas skaidrumas. Naudojimo slėpimas yra etikos pažeidimas, kai jis aptinkamas.
- Tegul AI priima mokslinius sprendimus. Hipotezės, interpretacijos ir metodų sprendimai priklauso tyrėjui.
- Konfidencialių duomenų įkėlimas į atidarymo įrankį. Nepaskelbtų duomenų ir dalyvių informacijos jūs negalite valdyti.
Patarimas: Pagalvokite apie kiekvieną AI seansą kaip apie darbą su patyrusiu, bet nepatikimu praktikantu: jis greitas ir kruopštus, bet prieš pasirašydami patikrinkite viską, ką jis sako.
Apibendrinant
AI yra galingas asistentas, palengvinantis tyrėjo pasikartojančio skaitymo ir rašymo naštą; bet dėl haliucinacijų, iškraipymo ir šališkumo kiekvieną išvestį reikia patikrinti. Didžiausia rizika akademinėje bendruomenėje yra klaidinga citata: kiekvienas šaltinis turi būti patikrintas per DOI ir duomenų bazę. Atskirkite užduotis pagal rizikos lygį, apsaugokite duomenis, skaidriai deklaruokite naudojimą. Trumpiausia taisyklė: planas yra iš AI, mokslinė atsakomybė tenka tyrėjo.
Taikymo užduotis
Išvardykite 8 užduotis iš savo dabartinio tyrimo projekto ir pažymėkite kiekvieną kaip mažą/vidutinę/didelę riziką. Tada pasirinkite mažos rizikos užduotį ir parašykite raginimą su kontekstu, pvz., „Galingas raginimas“ aukščiau. Išvestyje pažymėkite bent 3 elementus (skaičius, įspaudas, pretenzija), kuriuos turite patikrinti ir parašykite, kaip tai tikrinsite.
kontrolinis sąrašas
- [ ] Ar atskyriau užduotis pagal rizikos lygį?
- [ ] Ar planuoju patikrinti kiekvieną citatą ir skaičiuoti AI išvestyje?
- [ ] Ar žinau naudojamos transporto priemonės duomenų saugojimo politiką?
- [ ] Ar perskaičiau savo institucijos ir tikslinio žurnalo AI politiką?
- [ ] Ar esu tikras, kad pasilieku galutinį mokslinį sprendimą?