Добици:
- Бити у стању да разликује где вештачка интелигенција штеди реално време у току рада академског истраживања (књижевност, дизајн, анализа, писање) и где научни суд и одговорност остају на истраживачу, у складу са нивоом ризика задатка
- Бити у стању да примени дисциплину која повезује и верификује сваки излаз вештачке интелигенције на извор и разумевање проблема халуцинације (фабрициране) атрибуције, што је најкритичнији ризик за академију.
- Способност усвајања оквира коришћења који је у складу са институционалним и часописним политикама коришћења вештачке интелигенције, академским поштењем и принципима транспарентности.
Посао истраживача укључује много више писања, читања и уређивања него што се чини: скенирање стотина чланака, њихово сумирање, усавршавање истраживачког питања, дизајнирање метода, анализирање података, транскрибовање резултата, форматирање цитата, одабир часописа, одговарање на коментаре рецензената. Велики део овог посла се понавља, одузима време и омета; Она краде од онога што је заиста вредно, оригинално размишљање и тумачење. Вештачка интелигенција (АИ) — компјутерски програми који могу да разумеју људски језик и производе резултате као што су текст, резимеи, кодови, нацрти, итд. — је моћна помоћ за убрзавање овог терета који се понавља. Кроз овај модул, АИ не сматрамо магичним извором информација; Научићемо да га користимо као истраживачки асистент, правимо нацрте, дајемо идеје и уређујемо.
Али од самог почетка, ставимо најважнију реченицу специфичну за академију: АИ не доноси научне одлуке уместо истраживача; производи нацрт, научни суд и одговорност припада истраживачу. У академској заједници ово правило је још строже него у другим професијама, јер је валута науке поверење, а основа тог поверења је да је свака тврдња повезана са проверљивим извором.
Ова прва јединица успоставља три основе: разликовање где АИ ради и где треба да остане у току истраживачког рада; провера сваког излаза; Усвојити принцип академског поштења и транспарентности. Ова три су основна безбедносна основа за све наредне јединице.
Где АИ штеди време, где одлука припада истраживачу?
Помаже да се истраживачки задаци размишљају у смислу нивоа ризика. Ниво ризика је колико би штете нанео научном запису ако се уради погрешно.
Задаци ниског ризика које АИ умногоме убрзава: генерисање стратегије претраживања (кључна реч, синоним), прављење почетног резимеа дугог текста, поједностављивање језика пасуса, сугерисање наслова табеле, размишљање, објашњавање концепта на различите начине, осмишљавање структуре нацрта. Овде АИ решава проблем „празне странице“; исправљаш, провераваш и обогаћујеш.
Задаци средњег ризика, направљени од вештачке интелигенције који захтевају ригорозну верификацију: препорука за избор статистичких тестова, нацрт кода, форматирање цитата, нацрт тумачења налаза, поређење опција метода. Овде АИ даје брзину, али сваки број, свака ознака, сваки логички корак морају бити потврђени ручно.
Задаци високог ризика у којима је одлука препуштена искључиво истраживачу: коначно утврђивање хипотезе и методе, одлучивање шта значе подаци, процена да ли је налаз смислен, одлуке у оквиру етичког комитета (ИРБ), одлучивање да ли извор заиста постоји и подржава тврдњу, изјава о ауторству и доприносу. Ове одлуке одређују поузданост научног записа; Одговорност и коначна реч увек припада истраживачу.
Опрез: „АИ је рекао“ није оправдање. Уредник часописа или жири тезе неће прихватити изјаву „мој модел га је овако произвео“. Непроверени излаз вештачке интелигенције је као непроверена гласина.
Зашто је верификација неопходна? Халуцинације и измишљено приписивање
АИ производи текст не „знајући“ већ „предвиђањем могуће речи“. Зато понекад даје изузетно течне, али заправо нетачне информације. Ово се зове халуцинација (фабрикација). Најопаснији облик овога у академској заједници је лажно приписивање: АИ генерише име аутора, годину, часопис или чак ДОИ (идентификатор дигиталног објекта — стална адреса публикације) који изгледа као стваран, али тај извор никада није постојао. Ако истраживач користи ово без провере, он или она износи тврдњу на основу студије која не постоји; То доводи до одбацивања тезе, повлачења чланка и губитка угледа.
Други проблем је изобличење: када сумира рад, АИ може преувеличати налаз, сумирајући студију која каже да „није било значајне разлике“ јер је „пронађена значајна разлика“. Трећа је пристрасност: АИ понавља трендове у подацима на којима се обучава; Може истаћи одређену школу, језик или тачку гледишта и учинити да литература изгледа искривљена.
Због ових ограничења, предлажемо једноставну дисциплину валидације која се примењује на сваки излаз:
- Повежите га са извором. Пронађите и проверите стварни извор (чланак, база података, ДОИ) за сваку чињеницу, датум, број, цитат и посебно сваки цитат.
- Проверите поново. Ручно проверите нумеричке или логичке излазе (статистички резултат, израчунавање узорка).
- Научни филтер. „Да ли је ова тврдња у складу са познатом литературом из моје области?“ носите то са сопственом стручношћу.
- Преузми одговорност. Оног тренутка када је ставите у своју публикацију или тезу, та реченица је ваша; Све грешке су ваша одговорност.
Академска искреност и транспарентност
Академски интегритет осигурава да је дело заиста ваш оригинални допринос и да су сви извори цитирани искрено. Употреба вештачке интелигенције не елиминише овај принцип, већ додаје нову одговорност: транспарентност. Већина часописа и универзитета сада захтевају експлицитну декларацију о употреби вештачке интелигенције. Заједничка уређивачка линија (на пример, принципи етичких тела за објављивање као што су ИЦМЈЕ и ЦОПЕ) јасно говоре две ствари: АИ не може бити аутор (јер не може да преузме одговорност, не може да прогласи сукоб интереса), а употреба вештачке интелигенције није скривена, већ се открива у одељку о методама или признањима.
Савет: Пре него што налепите текст у било коју алатку, поставите два питања: (1) Како овај алат чува податке, да ли се користи у образовању? (2) Шта каже политика вештачке интелигенције моје институције и циљног часописа? Не почињите а да не знате ово двоје.
три мини кофера
Случај 1 — Измишљена атрибуција компромитована теза. Један дипломирани студент је тражио од ИЗ 12 извора за увод у своју тезу и све их је добио са њиховим цитатима. Његов саветник насумично је тражио 4 од њих на Гоогле Сцхолар-у; 2 од њих уопште нису постојала, 1 је имао ДОИ за други чланак. Студент је морао да проверава цео списак један по један и користио је само 7 аутентичних извора. Верификација је трајала 40 минута; али да је достављен са фиктивном референцом, поверење пороте би било потпуно пољуљано.
Случај 2 — Уштеда времена. Постдокторски истраживач је провео 6 сати скенирајући и резимирајући 15-20 нових чланака сваке недеље. Почео је да користи АИ као свој први генератор резимеа: да АИ сумира апстракт и увод сваког чланка, продубљујући га сопственим критичким читањем и проверавајући налазе из оригиналног текста. Време је смањено са 6 сати недељно на ~2,5 сата; Време које је зарадио посветио је писању оригиналне синтезе.
Случај 3 — Повратак из скривености. Друштвени научник се спремао да залепи необјављене податке са терена и сведочења учесника у АИ ради анализе. Схватио је да садржи акредитиве; Уместо да дели необрађене податке, он је само тражио анонимни, сажети узорак и план анализе. Добио је вредну препоруку методе, али нису изашли осетљиви подаци.
Шаблони који се могу копирати
1) Раздвајање задатка према нивоу ризика:
Ваша улога: академски асистент који помаже истраживачу. Поделите следеће истраживачке задатке на три листе: (А) задаци ниског ризика за које АИ може безбедно да произведе рукопис, (Б) задаци средњег ризика за које АИ може да произведе рукопис и захтевају ригорозну проверу, (Ц) задаци високог ризика за које коначна одлука мора бити на истраживачу. Напишите образложење од једне реченице за сваки задатак. Задаци: [налепите сопствене задатке]
2) Промпт за проверу ваљаности:
Означите сваку реченицу у тексту испод која садржи чињеницу, датум, број, цитат или атрибуцију и означите је као „потребна је верификација“. Јасно наведите где нисте сигурни. НЕ измишљајте извор или број; Ако не знаш, напиши "не знам". Текст: [налепи нацрт]
3) Нацрт декларације о употреби АИ:
За одељак о методама/признањима у чланку, напишите нацрт од 2-3 реченице „Изјава о коришћењу АИ“ која транспарентно објашњава у којим фазама сам користио АИ (нпр. исправка језика, нацрт нацрта). Употреба: [објаснити]
4) Листа за верификацију извора:
Генеришите контролну листу за сваки извор на следећој листи цитата: [аутор, година, наслов, ДОИ, верификовано?].Не можете да проверите; Дајте ми празну табелу коју ћу ручно проверити. Листа: [налепи цитате]
Слаби промпт / Јаки промпт
Слабо обавештење:
Пронађите ми изворе за увод у моју тезу.
Без контекста и опасно: АИ избацује лажне личне карте и ви мислите да су стварни.
Снажан упит:
Ваша улога: консултант за методологију. Локација: „мотивација ученика у образовању на даљину“. НЕМОЈТЕ МИ ПРОНАЋИ ИЗВОР; Уместо тога, предложите 8 кључних речи, 3 групе синонима и логички низ за претрагу да бисте претражили ову тему у Сцопусу. Прави чланак аутора ФАКЕ. Проверићу изворе које сам пронашао.
Куест
Ниво ризика
Улога АИ
коначну одлуку
Генерисање стратегије претраживања
ниско
Предлаже кључну реч/стринг
истраживач
Нацрт сажетка чланка
Ниско-средње
Генерише нацрт
Истраживач потврђује
Препорука за тестирање статистике
средње
Пружа опције
Истраживач бира/потврђује
Листа цитата
висока
Помоћник за форматирање
Сваки отисак се оверава ручно
Проналажење интерпретације/хипотезе
висока
даје идеје
усамљени истраживач
Уобичајене грешке
- Коришћење цитата без провере. Измишљена атрибуција је најчешћа и најразорнија грешка у академској заједници; доводи до повлачења.
- Замена сажетка за извор. Сажетак АИ може искривити налаз; Ниједан цитат се не наводи без враћања на оригинални текст.
- Прескакање транспарентности. Скривање употребе је етичко кршење када се открије.
- Нека АИ доноси научне одлуке. Одлуке о хипотезама, тумачењима и методима припадају истраживачу.
- Отпремање поверљивих података у отворени алат. Необјављени подаци и информације о учесницима су ван ваше контроле.
Савет: Замислите сваку сесију вештачке интелигенције као рад са искусним, али непоузданим приправником: он је брз и вредан, али ви проверите све што каже пре него што потпишете.
Укратко
АИ је моћан помоћник који олакшава истраживачу терет понављања читања и писања; али због халуцинације, дисторзије и пристрасности, сваки излаз захтева проверу. Најкритичнији ризик у академској заједници је лажно цитирање: сваки извор мора бити проверен кроз ДОИ и базу података. Одвојите задатке према нивоу ризика, заштитите податке, транспарентно прогласите употребу. Најкраће правило: нацрт је од вештачке интелигенције, научна одговорност је од истраживача.
Задатак апликације
Наведите 8 задатака из свог тренутног истраживачког пројекта и означите сваки као низак/средњи/високи ризик. Затим изаберите задатак ниског ризика и напишите упит са контекстом, као што је горенаведено „Моћно обавештење“. Означите најмање 3 елемента (број, отисак, тврдњу) које треба да проверите у излазу и напишите како ћете то верификовати.
контролна листа
- [ ] Да ли сам раздвојио задатке према нивоу ризика?
- [ ] Да ли планирам да проверим сваки цитат и број у АИ излазу?
- [ ] Да ли знам политику задржавања података о возилу које користим?
- [ ] Да ли сам прочитао политику вештачке интелигенције своје институције и циљног часописа?
- [ ] Да ли сам сигуран да задржавам коначну научну пресуду?