Печалби:
- Да можеш да разграничиш къде изкуственият интелект спестява реално време в работния процес на академичните изследвания (литература, дизайн, анализ, писане) и къде научната преценка и отговорност остават за изследователя, според нивото на риска на задачата
- Възможност за прилагане на дисциплина, която свързва и проверява всеки изход от изкуствен интелект към източника и разбиране на проблема с халюцинациите (измислено) приписване, което е най-критичният риск на академията.
- Възможност за приемане на рамка за използване, която е в съответствие с политиките за използване на изкуствен интелект на институциите и списанията, принципите за академична честност и прозрачност.
Работата на изследователя включва много повече писане, четене и редактиране, отколкото изглежда: сканиране на стотици статии, обобщаването им, усъвършенстване на изследователския въпрос, проектиране на методи, анализиране на данни, транскрибиране на резултати, форматиране на цитати, подбор на списания, отговаряне на коментари на рецензенти. Голяма част от тази работа се повтаря, отнема време и разсейва; Краде се от това, което е наистина ценно, оригинално мислене и интерпретация. Изкуственият интелект (AI) – компютърни програми, които могат да разбират човешкия език и да произвеждат изход като текст, резюмета, код, чернови и т.н. – е мощна помощ за ускоряване на това повтарящо се бреме. В целия този модул ние разглеждаме ИИ не като магически източник на информация; Ще се научим да го използваме като изследователски асистент, създавайки чернови, давайки идеи и редактиране.
Но от самото начало, нека поставим най-важното изречение, специфично за академичните среди: AI не взема научни решения вместо изследователя; изготвя проекта, научната преценка и отговорност принадлежи на изследователя. В академичните среди това правило е още по-строго, отколкото в други професии, защото валутата на науката е доверието, а основата на това доверие е, че всяко твърдение е свързано с проверим източник.
Тази първа единица установява три основи: разграничаване къде AI работи и къде трябва да остане в изследователския работен процес; проверка на всеки изход; Да възприемат принципа на академичната честност и прозрачност. Тези три са основната основа за сигурност за всички следващи единици.
Къде AI спестява време, къде решението принадлежи на изследователя?
Помага да се мисли за изследователските задачи по отношение на нивото на риск. Нивото на риск е колко вреда би причинило на научните записи, ако се направи неправилно.
Задачи с нисък риск, които изкуственият интелект ускорява много: Генериране на стратегия за търсене (ключова дума, синоним), създаване на първоначално резюме на дълъг текст, опростяване на езика на абзац, предлагане на заглавие на таблица, мозъчна атака, обяснение на концепция по различни начини, измисляне на структурата на схема. Тук AI решава проблема с „празната страница“; коригирате, проверявате и обогатявате.
Задачи със среден риск, произведени от AI, които изискват стриктна проверка: Препоръка за избор на статистически тест, чернова на код, форматиране на цитат, чернова на интерпретация на констатация, сравнение на опции за метод. Тук AI дава скорост, но всяко число, всеки таг, всяка логическа стъпка трябва да бъдат потвърдени ръчно.
Задачи с висок риск, при които решението е оставено единствено на изследователя: окончателно определяне на хипотезата и метода, вземане на решение какво означават данните, преценка дали дадена констатация е значима, решения в рамките на комисията по етика (IRB), решаване дали източник действително съществува и подкрепя твърдението, изявление за авторство и принос. Тези решения определят надеждността на научните записи; Отговорността и последната дума винаги принадлежат на изследователя.
Внимание: „AI каза“ не е оправдание. Редактор на списание или жури за дисертация няма да приеме твърдението „моят модел го е произвел по този начин“. Непроверен резултат от AI е като непроверен слух.
Защо е необходима проверка? Халюцинации и измислено приписване
AI произвежда текст не чрез „познаване“, а чрез „предсказване на възможната дума“. Ето защо понякога дава изключително плавна, но всъщност невярна информация. Това се нарича халюцинация (измислица). Най-опасната форма на това в академичните среди е фалшивото приписване: AI генерира име на автор, година, списание или дори DOI (идентификатор на цифров обект — постоянният адрес на публикация), което изглежда реално, но този източник никога не е съществувал. Ако изследовател използва това без проверка, той или тя прави твърдение въз основа на изследване, което не съществува; Това води до отхвърляне на тезата, оттегляне на статията и загуба на репутация.
Вторият проблем е изкривяването: когато обобщава документ, изкуственият интелект може да преувеличи констатацията, обобщавайки проучване, което казва, че „няма значителна разлика“ като „открита е значителна разлика“. Третото е пристрастие: AI повтаря тенденциите в данните, върху които се обучава; То може да подчертае определена школа, език или гледна точка и да накара литературата да изглежда изкривена.
Поради тези ограничения предлагаме проста дисциплина за валидиране, която да се прилага към всеки изход:
- Свържете го към източника. Намерете и проверете действителния източник (статия, база данни, DOI) за всеки факт, дата, номер, цитат и особено всеки цитат.
- Проверете отново. Ръчна проверка на числови или логически изходи (статистически резултат, изчисление на извадка).
- Научен филтър. „Това твърдение съответства ли на известната литература в моята област?“ справете се със собствения си опит.
- Поеми отговорност. В момента, в който го поставите във вашата публикация или дипломна работа, това изречение е ваше; Всички грешки са ваша отговорност.
Академична честност и прозрачност
Академичната почтеност гарантира, че работата е наистина вашият оригинален принос и че всички източници са цитирани честно. Използването на AI не премахва този принцип, а по-скоро добавя нова отговорност: прозрачност. Повечето списания и университети вече изискват изрична декларация за използване на AI. Общата редакционна линия (например принципите на органите за етика на публикуване като ICMJE и COPE) ясно казва две неща: AI не може да бъде автор (тъй като не може да поеме отговорност, не може да декларира конфликт на интереси) и използването на AI не е скрито, а се разкрива в раздела за метод или признания.
Съвет: Преди да поставите текст в който и да е инструмент, задайте два въпроса: (1) Как този инструмент съхранява данни, използва ли се в образованието? (2) Какво гласи политиката за ИИ на моята институция и целевото списание? Не започвайте без да познавате тези двамата.
три мини калъфа
Случай 1 — Изфабрикувана компрометирана теза за приписване. Завършил студент помоли YZ за 12 източника за представянето на дисертацията си и получи всичките с техните цитати. Неговият съветник потърси на случаен принцип 4 от тях в Google Scholar; 2 от тях изобщо не съществуваха, 1 от тях имаше DOI към друга статия. Студентът трябваше да провери целия списък един по един и използва само 7 автентични източника. Проверката отне 40 минути; но ако беше доставена с фиктивна референция, доверието на журито щеше да бъде напълно разклатено.
Случай 2 — Спестяване на време. Постдокторант прекарва 6 часа в сканиране и обобщаване на 15-20 нови статии всяка седмица. Той започва да използва AI като своя първи генератор на резюмета: кара AI да обобщава резюмето и въведението на всяка статия, задълбочавайки го със собствен критичен прочит и проверявайки констатациите от оригиналния текст. Времето намаля от 6 часа на седмица до ~2,5 часа; Той посвещава времето, което печели, за писане на оригинален синтез.
Случай 3 — Връщане от стелт. Социален учен се канеше да постави непубликувани полеви данни и свидетелства на участници в AI за анализ. Той разбра, че съдържа пълномощия; Вместо да сподели необработените данни, той поиска само анонимна, обобщена извадка и план за анализ. Той получи ценна препоръка за метод, но не излязоха чувствителни данни.
Копируеми шаблони
1) Разделяне на задачата по ниво на риск:
Вашата роля: академичен асистент, подпомагащ изследовател. Разделете следните изследователски задачи на три списъка: (A) задачи с нисък риск, за които AI може безопасно да създаде ръкопис, (B) задачи със среден риск, за които AI може да създаде ръкопис и изисква стриктна проверка, (C) задачи с висок риск, за които крайното решение трябва да бъде взето от изследователя. Напишете обосновка от едно изречение за всяка задача. Мисии: [поставете собствени мисии]
2) Подкана за проверка на валидността:
Маркирайте всяко изречение в текста по-долу, което съдържа факт, дата, номер, цитат или приписване, и го маркирайте като „нуждае се от проверка“. Посочете ясно къде не сте сигурни. НЕ измисляйте източника или номера; Ако не знаете, напишете "не знам". Текст: [поставете чернова]
3) Проект на декларация за използване на AI:
За раздела за методи/потвърждения на дадена статия напишете чернова от 2-3 изречения „Декларация за използване на AI“, която прозрачно обяснява на какви етапи съм използвал AI (напр. езикова корекция, чернова на схема). Употреба: [обяснете]
4) Списък за проверка на източника:
Генерирайте контролен лист за проверка за всеки източник в следния списък с цитати: [автор, година, заглавие, DOI, проверен?]. Не можете да потвърдите; Дайте ми празна таблица, която ще проверя ръчно. Списък: [поставете цитати]
Слаба подкана / Силна подкана
Слаба подкана:
Намерете ми източници за въведението към дисертацията ми.
Без контекст и опасно: AI изплюва фалшиви документи за самоличност и вие си мислите, че са истински.
Мощна подкана:
Вашата роля: консултант по методология. Място: „Мотивация на учениците в дистанционното обучение“. НЕ МИ НАМИРАЙТЕ ИЗТОЧНИК; Вместо това предложете 8 ключови думи, 3 синонимни групи и булев низ за търсене, за да търсите тази тема в Scopus. Автор на истинска статия FAKE. Ще проверя източниците, които сам намеря.
Мисия
Ниво на риск
Роля на AI
окончателно решение
Генериране на стратегия за търсене
ниско
Предлага ключова дума/низ
изследовател
Проект на резюме на статията
Ниска-Средна
Генерира чернова
Изследователят потвърждава
Препоръка за статистически тест
среден
Предоставя опции
Изследователят избира/потвърждава
Списък с цитирания
високо
Асистент за форматиране
Всеки отпечатък се заверява на ръка
Намиране на интерпретация/хипотеза
високо
дава идеи
самотен изследовател
Често срещани грешки
- Използване на цитати без проверка. Изфабрикуваното приписване е най-честата и опустошителна грешка в академичните среди; води до оттегляне.
- Замяна на източника с резюмето. Резюмето на AI може да изкриви констатацията; Не се дава цитат без връщане към оригиналния текст.
- Пропускане на прозрачност. Скриването на употреба е етично нарушение, когато бъде открито.
- Нека AI взема научни решения. Хипотезата, интерпретацията и методичните решения принадлежат на изследователя.
- Инструмент за качване на поверителни данни за отваряне. Непубликувани данни и информация за участниците са извън вашия контрол.
Съвет: Мислете за всяка сесия на AI като за работа с опитен, но ненадежден стажант: той е бърз и усърден, но вие проверявате всичко, което казва, преди да подпишете.
В обобщение
AI е мощен помощник, който облекчава натоварването на изследователя от повтарящо се четене и писане; но поради халюцинация, изкривяване и пристрастие, всеки резултат изисква проверка. Най-критичният риск в академичните среди е фалшивото цитиране: всеки източник трябва да бъде проверен чрез DOI и база данни. Разделете задачите по ниво на риск, защитете данните, декларирайте използването прозрачно. Най-краткото правило: планът е от AI, научната отговорност е от изследователя.
Задача за приложение
Избройте 8 задачи от текущия си изследователски проект и маркирайте всяка като нисък/среден/висок риск. След това изберете задача с нисък риск и напишете подкана с контекст, като „Мощна подкана“ по-горе. Маркирайте поне 3 елемента (номер, отпечатък, претенция), които трябва да проверите в изхода и напишете как ще го проверите.
контролен списък
- [ ] Разделил ли съм задачите по ниво на риск?
- [ ] Планирам ли да проверя всяко цитиране и броене в изхода на AI?
- [ ] Знам ли политиката за запазване на данни на автомобила, който използвам?
- [ ] Прочетох ли политиката за ИИ на моята институция и целевото списание?
- [ ] Сигурен ли съм, че запазвам окончателната научна преценка?