Добивки:
- Способност да се разбере дека обичните алатки за разговор произведуваат лажни референци и ја применуваат дисциплината за проверка на секој извор во вистинската база на податоци.
- Способност да се намали халуцинацијата со поврзување на синтезата на литературата со вистински документи со пристапот RAG (генерација зависна од ресурси).
- Способност да се толкуваат хипотезите како почеток наместо доказ со користење на вештачка интелигенција за прелиминарен скрининг при систематски преглед и задржување на конечната одлука и транспарентност во рацете на луѓето
Експлозијата на знаење во биоинженерството е вистински проблем: стотици илјади статии се објавуваат секоја година, акумулирајќи илјадници студии на една тема. Пред да воспостави хипотеза, да избере метод или да интерпретира резултат, инженерот треба да ја скенира релевантната литература; но за ова се потребни недели рачно. Вештачката интелигенција е една од областите каде што заштедува најмногу време при преглед на литература, сумирање и синтеза на информации. Но, тоа е и најопасниот извор на халуцинации: вештачката интелигенција може да произведе непостоечки написи, фабрикувани DOI и лажни наоди. Главната лекција од оваа единица е дисциплината за поврзување на секое тврдење со оригиналниот извор кога се користи вештачката интелигенција во литературата.
Во оваа единица, ќе научите како да ја користите вештачката интелигенција во безбедно прегледување на литературата, зошто пристапот RAG (Retrieval-Augmented Generation — AI го наоѓа и произведува одговорот од вистинската база на податоци на документи, а не од нејзината меморија) е посигурен, систематска поддршка за преглед и генерирање хипотези.
Зошто е опасна алатката за обичен разговор?
Кога ќе му кажете на јазичниот модел „да пронајде статии за Ова значи течни, но измислени референци: имиња на автори, списанија, години и DOI како да се реални. Затоа, никогаш не прекршувајте две правила во прегледот на литературата: (1) проверете ја секоја референца во вистинската база на податоци (PubMed, Google Scholar, страница на списанија), (2) ако е можно, користете RAGsit-such-based Scite).
Внимание: Сведочењето од вештачка интелигенција може да изгледа оригинално - во правилен формат, познато списание, разумна година. Ова не значи дека постои. Сметајте ја статијата за постоечка само кога ќе ја најдете и отворите во PubMed/DOI. Вклучувањето на измислена референца во вашата публикација е грешка што може да ја уништи вашата научна репутација.
RAG: производство зависно од ресурси
Во пристапот RAG, вештачката интелигенција прво наоѓа релевантни пасуси од вистинско складиште на документи (или PDF-датотеки што ги поставувате или научна база на податоци), потоа го генерира одговорот врз основа на тие пасуси и укажува на изворот. Ова во голема мера ја намалува халуцинацијата бидејќи моделот треба да „цитира“ наместо да „замислува“. Да ја дадете вашата сопствена PDF библиотека на алатката RAG и да прашате „што велат овие 40 статии за тоа и она“ е многу посигурно од директниот разговор; сепак, видете го пасусот од секој цитат во вистинската статија.
Совет: Дури и кога користите RAG, експлицитно наведете „наведи извор и одговори само од документацијата што ја давам, не додавај информации што не се документи“. Потоа пронајдете го пасусот на кој укажува моделот во вистинскиот документ. Овие два чекори ја прават вашата синтеза да се одбрани.
Систематски преглед и генерирање хипотези
Систематски преглед - одговарање на конкретно прашање со скенирање на целата релевантна литература на транспарентен и репродуктивен метод - бара висока методолошка строгост: стратегија за пребарување, критериуми за вклучување/исклучување, екстракција на податоци. Вештачката интелигенција ги забрзува механичките делови на овој процес (апстрактно скрининг, првичен скрининг, нацрт за извлекување податоци), но одговорноста и транспарентноста на секоја одлука (дали да се вклучи или исклучи хартија) е на истражувачот. Вештачката интелигенција исто така инспирира генерирање хипотези со посочување на празнините во литературата; но хипотезата што ја произведува е почетна точка, а не доказ.
три мини футроли
Случај 1 — Скенирањето забрзано 10x. Рецензентскиот тим мораше да прелие 1.850 апстракти на статии. Со алатка заснована на RAG, претквалификацијата за вклучување/исклучување отиде од 3 дена на 5 часа. Но, двајца истражувачи независно провериле 120 статии кои вештачката интелигенција ги сметала за „исклучени“ и откриле 9 лажни елиминации; ВИ го направи изборот, човекот ја донесе конечната одлука.
Случај 2 - Фабрикувана референца фатена. Еден докторант побара од YZ 15 референци за неговиот влез во тезата. Кога проверил на PubMed, открил дека 6 од нив воопшто не постојат, а 3 се припишуваат на погрешен автор. Обичната алатка за разговор произведе реална, но лажна библиографија. Потврдата спречи академска катастрофа.
Случај 3 - инспирација на хипотеза. Тим од метаболичко инженерство и предал на вештачката интелигенција корпус од 60 трудови и прашал „кои патишта се недоволно проучени? АИ укажа на непроверена ензимска комбинација. Тимот го сфати ова како хипотеза, го потврди во литературата и дизајнираше експеримент; На крајот, тие дојдоа до вистинско откритие дека ја зголемува продуктивноста. Инспирацијата дојде од вештачката интелигенција, доказот дојде од експериментот.
Четири шаблони за копирање
1) Синтеза на литература поврзана со извори (RAG):
Вашата улога: асистент за научен преглед. Одговори САМО од документите што ги подигнав; Не додавајте никакви дополнителни информации за документи. За секое тврдење, наведете го името на изворниот документ и соодветниот пасус. На прашање кое нема одговор во документите, кажете „го нема во документите“. Референца, DOI или наоѓање FITTING. Прашање: [прашање]
2) Дисциплина за верификација на референца:
Ќе ти дадам тема. Предложете можни клучни зборови и стратегија за пребарување (со синтакса на PubMed). Но, списокот на написи ВИЕ е ЛАЖЕН; Сам ќе се јавам. Кажете ми кои термини, филтри и критериуми за вклучување/исклучување треба да ги користам наместо тоа.
3) Систематска помош за елиминација на компилација:
Ќе ви дадам наслов+резимеа на статијата. Предложете вклучување/исклучување/нејасно за секој врз основа на следните критериуми за вклучување (вклучуваат: [критериуми]) и напишете го вашето ОБРАЗЛОЖУВАЊЕ. Рачно ќе ги прегледам „неизвесните“. Забележете дека одлуката е прелиминарна, а не конечна; Не елиминирајте ниту еден член без оправдување.
4) Генерирање хипотеза (внимателно):
Ќе ви дадам резиме на наодите на една тема. Предложете ми 3 хипотези кои може да се тестираат врз основа на GAPS во литературата и непроверени комбинации. За секоја хипотеза: наведете ја основата, како ќе се тестира и дека тоа е СТАРТ, а не доказ. Не се потпирајте на непостоечки докази.
Слаб промпт / Силен промпт
Слаба навестување:
Најдете и сумирајте 10 статии за мене за ензимско инженерство со CRISPR.
Моделот не врши вистински пребарувања; најверојатно ќе генерира лажни референци.
Моќен потсетник:
Вашата улога: асистент за градење. Врз основа на САМО 12-те PDF-датотеки што ги подигнав, ги синтетизирам главните наоди на тема „ензимско инженерство базирано на CRISPR“. За секое откритие, покажете од кој PDF потекнува и целосниот пасус. Не додавајте никакви студии, DOI или резултати што ги нема во PDF-датотеките. Обележете ги сите поттеми што не се опфатени како „не опфатени во овие документи“.
Разлика: поврзување со вистинските документи, барање извор+пасус, забрана за изработка и чесност на опсегот.
Литературни задачи и сигурен пристап
Потрага
ризичен пат
безбеден начин
верификација
Најдете статија
Велејќи „најди“ на разговорот
PubMed + RAG алатка
Потврда во DOI
сумирање
Резиме без документација
Резиме од вчитаниот PDF
Видете го вистинскиот пасус
елиминација
Слепа доверба во вештачката интелигенција
ВИ претквалификација + човек
Втор рецензент
синтеза
бесплатно производство
Синтеза зависна од изворот
Проверка на цитати
хипотеза
погрешно за „доказ“
почетна точка
експериментален тест
Вообичаени грешки
- Не се потврдуваат референци. ВИ произведува реални, но лажни ресурси; секој треба да се појави во базата на податоци.
- Помешање на обичниот разговор за повик. Моделот генерира од меморија; вистинското пребарување бара RAG/база на податоци.
- Целосно делегирање на одлуката за елиминација. Неправилната елиминација ќе ја скрши компилацијата; Потребен е втор рецензент.
- Заблуда на хипотеза за доказ. Хипотезата генерирана од вештачката интелигенција е шпекулација додека не се тестира со експеримент.
- Преувеличување на опсегот. ВИ може да остави впечаток дека „скенирав сè“; Вие го документирате вистинскиот опсег.
Сумирано
Прегледот на литературата е областа каде што вештачката интелигенција заштедува најмногу време, но произведува најмногу халуцинации. Обичните алатки за разговор можат да произведат реални, но лажни сведоштва; затоа проверете го секој извор во однос на вистинската база на податоци и, ако е можно, користете алатки базирани на RAG кои зависат од вистинските документи. Во систематски преглед, вештачката интелигенција врши прелиминарен скрининг, но конечната одлука и транспарентноста му припаѓаат на истражувачот. ВИ инспирира генерирање хипотези; Таа хипотеза е почетна точка, а не доказ, додека не се потврди со експеримент.
Задача за апликација
Изберете тема и кажете му на вештачката интелигенција (преку обична алатка за разговор) „најдете 8 статии на оваа тема и сумирајте“. Потврдете ја секоја референца што ја дава наспроти PubMed или DOI, една по една и избројте колку се вистински. Потоа повторете ја истата задача со RAG алатка или со прикачување на неколку PDF-датотеки што самите сте ги презеле и со инструкцијата „одговор само од овие документи“. Напишете кратка споредба на веродостојноста на двата пристапа.
листа за проверка
- [ ] Ја потврдив секоја референца дадена од вештачката интелигенција во однос на вистинската база на податоци.
- [ ] Користев пристап зависен од изворот (RAG/вчитан документ) во синтезата на литературата.
- [ ] Ги ревидирав одлуките за скрининг со втор рецензент.
- [ ] Ја сметав хипотезата произведена од ВИ не како доказ, туку како почеток што треба да се тестира.
- [ ] Го видов пасусот од секој цитат во оригиналната статија.
- [ ] Искрено го документирав вистинскиот обем и ограничувања на скенирањето.