Добици:
- Способност разумевања да обични алати за ћаскање производе лажне референце и примењују дисциплину верификације сваког извора у стварној бази података.
- Способност смањења халуцинација повезивањем синтезе литературе са стварним документима са РАГ приступом (генерисање зависно од ресурса)
- Способност да се хипотезе тумаче као почетак, а не као докази коришћењем вештачке интелигенције за прелиминарни скрининг у систематском прегледу и задржавање коначне одлуке и транспарентности у рукама људи
Експлозија знања у биоинжењерингу је прави проблем: стотине хиљада чланака се објављују сваке године, акумулирајући хиљаде студија о једној теми. Пре успостављања хипотезе, избора методе или тумачења резултата, инжењер треба да скенира релевантну литературу; али ово траје недељама ручно. АИ је једна од области у којој штеди највише времена у прегледу литературе, сажимању и синтези информација. Али то је и најопаснији извор халуцинација: АИ може произвести непостојеће чланке, измишљене ДОИ и лажне налазе. Главна лекција ове јединице је дисциплина повезивања сваке тврдње са оригиналним извором када се АИ користи у литератури.
У овој јединици ћете научити како да користите АИ у безбедном прегледу литературе, зашто је приступ РАГ (Ретриевал-Аугментед Генератион — АИ проналази и производи одговор из реалне базе података докумената, а не из своје меморије) поузданији, подршка систематском прегледу и генерисање хипотеза.
Зашто је обичан алат за ћаскање опасан?
Када језичком моделу кажете да „пронађе чланке о томе, то значи флуидне, али измишљене референце: имена аутора, часописе, године и ДОИ као да су стварни. Стога никада не кршите два правила у прегледу литературе: (1) проверите сваку референцу у стварној бази података (ПубМед, Гоогле Сцхолар, страница часописа), (2) ако је могуће, користите РАГ-ове алате за чланке, Цонсенуцх-ове повезане са правим алатима за чланке (Цонсенуцх).
Опрез: Сведочење вештачке интелигенције може изгледати аутентично — у исправном формату, познатом часопису, разумној години. Ово не значи да постоји. Сматрајте чланак постојећим само када га пронађете и отворите у ПубМед/ДОИ. Укључивање измишљене референце у вашу публикацију је грешка која може уништити вашу научну репутацију.
РАГ: производња зависна од ресурса
У РАГ приступу, АИ прво проналази релевантне одломке из стварног спремишта докумената (било ПДФ-ова које отпремите или научне базе података), затим генерише одговор на основу тих пасуса и указује на извор. Ово у великој мери смањује халуцинације јер модел мора да „цитира“ уместо да „замишља“. Дати сопствену ПДФ библиотеку РАГ алату и питати „шта ових 40 чланака говори о томе и том” много је поузданије од директног разговора; међутим, погледајте одломак сваког цитата у стварном чланку.
Савет: Чак и када користите РАГ, изричито наведите „цитирајте извор и одговорите само из документације коју дам, немојте додавати информације које нису документе“. Затим пронађите пасус на који модел указује у стварном документу. Ова два корака чине вашу синтезу одбраном.
Систематски преглед и генерисање хипотеза
Систематски преглед—одговарање на одређено питање скенирањем све релевантне литературе на транспарентан и поновљив метод—захтева високу методолошку строгост: стратегију претраживања, критеријуме за укључивање/искључивање, издвајање података. АИ убрзава механичке делове овог процеса (апстрактни скрининг, почетни скрининг, нацрт екстракције података), али одговорност и транспарентност сваке одлуке (да ли укључити или искључити рад) лежи на истраживачу. АИ такође инспирише стварање хипотеза указујући на празнине у литератури; али хипотеза коју производи је полазна тачка, а не доказ.
три мини кофера
Случај 1 — Скенирање је убрзано 10к. Тим за рецензију морао је да прегледа 1.850 сажетака чланака. Са алатом заснованим на РАГ-у, претквалификација за укључивање/искључивање је трајала од 3 дана до 5 сати. Али два истраживача су независно проверила 120 чланака које је вештачка интелигенција сматрала „искљученим“ и повратила 9 лажних елиминација; АИ је направио селекцију, човек је донео коначну одлуку.
Случај 2 — Ухваћена фабрикована референца. Студент докторских студија тражио је од ИЗ 15 референци за унос тезе. Када је проверио на ПубМед-у, открио је да 6 њих уопште не постоји, а 3 су приписана погрешном аутору. Обична алатка за ћаскање произвела је реалистичну, али лажну библиографију. Верификација је спречила академску катастрофу.
Случај 3 — Инспирација хипотезом. Тим за метаболички инжењеринг предао је вештачкој интелигенцији корпус од 60 радова и питао "који путеви су недовољно проучавани?" АИ је указао на непроверену комбинацију ензима. Тим је ово узео као хипотезу, потврдио је у литератури и осмислио експеримент; На крају су дошли до правог открића које је повећало продуктивност. Инспирација је дошла из вештачке интелигенције, доказ је дошао из експеримента.
Четири шаблона за копирање
1) Синтеза литературе у вези са извором (РАГ):
Ваша улога: асистент за научну рецензију. Одговорите САМО из докумената које сам поставио; Немојте додавати никакве додатне информације о документу. За сваки захтев наведите назив изворног документа и релевантни одломак. На питање на које у документима нема одговора, реците „нема га у документима“. Референца, ДОИ или проналажење ФИТТИНГ. Питање: [питање]
2) Дисциплина верификације референци:
Даћу вам тему. Предложите могуће кључне речи и стратегију претраге (са ПубМед синтаксом). Али ВАШ списак чланака је ЛАЖАН; Ја ћу сам обавити позив. Реците ми које термине, филтере и критеријуме за укључивање/искључивање треба да користим уместо њих.
3) Помоћ за елиминисање систематске компилације:
Даћу вам наслов чланка + резиме. Предложите укључивање/искључивање/нејасно за сваки на основу следећих критеријума за укључивање (укључује: [критеријуме]) и напишите своје ОБРАЗЛОЖЕЊЕ. Ручно ћу прегледати оне „неизвесне“. Имајте на уму да је одлука прелиминарна, а не коначна; Не елиминишите ниједан чланак без оправдања.
4) Генерисање хипотеза (пажљиво):
Даћу вам резиме налаза о некој теми. Предложите ми 3 хипотезе које се могу проверити на основу ГАПС-а у литератури и непроверених комбинација. За сваку хипотезу: наведите основу, како ће се тестирати и да је то СТАРТ, а не доказ. Немојте се ослањати на непостојеће доказе.
Слаби промпт / Јаки промпт
Слабо обавештење:
Пронађи и сумирај за мене 10 чланака о ензимском инжењерингу са ЦРИСПР-ом.
Модел не врши стварне претраге; ће највероватније генерисати лажне референце.
Снажан упит:
Ваша улога: помоћник у изградњи. На основу САМО 12 ПДФ-ова које сам поставио, синтетизујем главне налазе на тему „ензимског инжењеринга заснованог на ЦРИСПР-у“. За сваки налаз покажите из ког ПДФ-а је дошао и цео одломак. Немојте додавати студије, ДОИ или резултате који нису у ПДФ-овима. Означите све подтеме које нису обухваћене као „није обухваћене овим документима“.
Разлика: повезивање са стварним документима, услов извор + пролаз, забрана измишљања и искреност обима.
Задаци из књижевности и поуздан приступ
Куест
ризичан пут
сигуран начин
верификација
Пронађите чланак
У разговору кажете „пронађи“.
ПубМед + РАГ алат
Потврда у ДОИ
сумирајући
Резиме без документације
Резиме из учитаног ПДФ-а
Погледајте прави одломак
елиминација
Слепо поверење у АИ
АИ претквалификација + човек
Други рецензент
синтеза
слободна производња
Синтеза зависна од извора
Провера цитата
хипотеза
погрешно га сматрам "доказом"
полазна тачка
експериментални тест
Уобичајене грешке
- Не проверавамо референце. АИ производи реалне, али лажне ресурсе; сваки треба да се појави у бази података.
- Грешка обичног ћаскања за позив. Модел генерише из меморије; стварна претрага захтева РАГ/базу података.
- Потпуно делегирање одлуке о елиминацији. Нетачна елиминација ће прекинути компилацију; Потребан је други рецензент.
- Погрешка хипотеза за доказ. Хипотеза коју генерише АИ је спекулација док се не тестира експериментом.
- Претеривање обима. АИ може оставити утисак да сам „све скенирао“; Ви документујете стварни обим.
Укратко
Преглед литературе је област у којој АИ штеди највише времена, али производи највише халуцинација. Обични алати за ћаскање могу произвести реалистична, али лажна сведочења; тако да проверите сваки извор у односу на стварну базу података и, ако је могуће, користите алате засноване на РАГ-у који зависе од стварних докумената. У систематском прегледу, АИ врши прелиминарни скрининг, али коначна одлука и транспарентност припадају истраживачу. АИ инспирише стварање хипотеза; Та хипотеза је полазна тачка, а не доказ, док се не потврди експериментом.
Задатак апликације
Изаберите тему и реците АИ (преко обичног алата за ћаскање) „пронађите 8 чланака о овој теми и сумирајте их“. Потврдите сваку референцу коју даје у односу на ПубМед или ДОИ, једну по једну, и пребројите колико је оригиналних. Затим поновите исти задатак помоћу РАГ алата или тако што ћете учитати неколико ПДФ-ова које сте сами преузели и уз упутство „одговори само из ових докумената“. Напишите кратко поређење поузданости ова два приступа.
контролна листа
- [ ] Проверио сам сваку референцу коју је АИ дао у односу на стварну базу података.
- [ ] Користио сам приступ зависан од извора (РАГ/учитани документ) у синтези литературе.
- [ ] Проверио сам одлуке о скринингу са другим рецензентом.
- [ ] Сматрао сам хипотезу коју је произвела АИ не као доказ, већ као почетак тестирања.
- [ ] Видео сам пасус сваког цитата у оригиналном чланку.
- [ ] Искрено сам документовао прави обим и ограничења скенирања.