سود:
- توانایی درک اینکه ابزارهای چت ساده ارجاعات جعلی تولید می کنند و نظم و انضباط تأیید هر منبع را در پایگاه داده واقعی اعمال می کنند.
- توانایی کاهش توهم با اتصال سنتز ادبیات به اسناد واقعی با رویکرد RAG (تولید وابسته به منابع)
- توانایی تفسیر فرضیه ها به عنوان یک شروع و نه شواهد با استفاده از هوش مصنوعی برای غربالگری اولیه در بررسی سیستماتیک و حفظ تصمیم نهایی و شفافیت در دست انسان
انفجار دانش در مهندسی زیستی یک مشکل واقعی است: صدها هزار مقاله هر سال منتشر می شود که هزاران مطالعه را در مورد یک موضوع جمع می کند. قبل از ایجاد یک فرضیه، انتخاب یک روش، یا تفسیر یک نتیجه، یک مهندس باید ادبیات مربوطه را اسکن کند. اما این کار به صورت دستی هفته ها طول می کشد. هوش مصنوعی یکی از زمینههایی است که بیشترین صرفهجویی در زمان را در بررسی متون، خلاصهسازی و ترکیب اطلاعات دارد. اما این خطرناکترین منبع توهم است: هوش مصنوعی میتواند مقالاتی که وجود ندارند، DOIهای ساختگی و یافتههای جعلی تولید کند. درس اصلی این واحد نظم و انضباط اتصال هر ادعا به منبع اصلی هنگام استفاده از هوش مصنوعی در ادبیات است.
در این بخش، نحوه استفاده از هوش مصنوعی در بررسی متون ایمن را یاد خواهید گرفت، چرا RAG (نسل بازیابی-افزوده - AI پاسخ را از پایگاه داده اسناد واقعی مییابد و تولید میکند، نه از حافظه آن) قابل اعتمادتر است، پشتیبانی مرور سیستماتیک و تولید فرضیه.
چرا ابزار چت ساده خطرناک است؟
هنگامی که به یک مدل زبان می گویید "مقالاتی را بیابید این به معنای مراجع روان اما ساخته شده است: نام نویسنده، مجلات، سال ها، و DOI هایی که گویی واقعی هستند. بنابراین، هرگز دو قانون را در بررسی متون زیر نقض نکنید: (1) هر مرجع را در پایگاه داده واقعی (PubMed، Google Scholar، صفحه مجله)، (2) در صورت امکان، از RAG-such-bassited assliced استفاده کنید. Scite).
احتیاط: یک گواهی از یک هوش مصنوعی ممکن است واقعی به نظر برسد - در قالب صحیح، مجله آشنا، سال معقول. این به این معنی نیست که وجود دارد. یک مقاله را تنها زمانی موجود در نظر بگیرید که آن را در PubMed/DOI پیدا کرده و باز کنید. درج یک مرجع ساختگی در نشریه اشتباهی است که می تواند اعتبار علمی شما را از بین ببرد.
RAG: تولید وابسته به منابع
در رویکرد RAG، هوش مصنوعی ابتدا متنهای مربوطه را از یک مخزن اسناد واقعی (چه PDFهایی که آپلود میکنید یا یک پایگاه داده علمی) پیدا میکند، سپس پاسخ را بر اساس آن متنها تولید میکند و به منبع اشاره میکند. این به میزان زیادی توهم را کاهش می دهد زیرا مدل باید به جای «تصور» «نقل قول» کند. دادن کتابخانه PDF خود به ابزار RAG و پرسیدن "این 40 مقاله در مورد فلان و فلان چه می گویند" بسیار قابل اعتمادتر از گفتگوی مستقیم است. با این حال، قسمت هر نقل قول را در مقاله واقعی ببینید.
نکته: حتی هنگام استفاده از RAG، به صراحت دستور دهید "منبع را ذکر کنید و فقط از اسنادی که ارائه میدهم پاسخ دهید، اطلاعات غیر مستند را اضافه نکنید". سپس قسمتی را که مدل به آن اشاره می کند در سند واقعی پیدا کنید. این دو مرحله سنتز شما را قابل دفاع می کند.
بررسی سیستماتیک و تولید فرضیه
یک بررسی سیستماتیک - پاسخ دادن به یک سوال خاص با اسکن تمام متون مرتبط با روشی شفاف و قابل تکرار - مستلزم دقت روش شناختی بالایی است: استراتژی جستجو، معیارهای گنجاندن/خروج، استخراج داده ها. هوش مصنوعی بخش های مکانیکی این فرآیند (غربالگری انتزاعی، غربالگری اولیه، پیش نویس استخراج داده ها) را سرعت می بخشد، اما مسئولیت و شفافیت هر تصمیم (اعم از گنجاندن یا حذف مقاله) بر عهده محقق است. هوش مصنوعی همچنین با اشاره به شکافهای موجود در ادبیات، الهامبخش ایجاد فرضیه است. اما فرضیه ای که ایجاد می کند یک نقطه شروع است، نه شواهد.
سه کیف کوچک
مورد 1 - سرعت اسکن 10 برابر افزایش یافت. یک تیم بررسی مجبور شد 1850 چکیده مقاله را بررسی کند. با ابزار مبتنی بر RAG، پیشصلاحیت گنجاندن/حذف از 3 روز به 5 ساعت رسید. اما دو محقق به طور مستقل 120 مقاله را که هوش مصنوعی آن ها را «مستثنی» تشخیص داده بود، بررسی کردند و 9 مقاله حذفی نادرست را بازیابی کردند. هوش مصنوعی انتخاب را انجام داد، انسان تصمیم نهایی را گرفت.
مورد 2 - مرجع ساختگی دستگیر شد. یک دانشجوی دکترا از YZ 15 مرجع برای ورودی پایان نامه خود درخواست کرد. هنگامی که او در PubMed بررسی کرد، متوجه شد که 6 مورد از آنها اصلا وجود ندارند و 3 مورد به نویسنده اشتباه نسبت داده شده اند. ابزار چت ساده یک کتابشناسی واقعی اما جعلی تولید کرد. راستیآزمایی از یک فاجعه تحصیلی جلوگیری کرد.
مورد 3 - الهام از فرضیه. یک تیم مهندسی متابولیک مجموعه ای متشکل از 60 مقاله را به هوش مصنوعی دادند و پرسیدند "کدام مسیرها مورد مطالعه قرار نگرفته اند؟" هوش مصنوعی به یک ترکیب آنزیمی آزمایش نشده اشاره کرد. تیم این را به عنوان یک فرضیه در نظر گرفت، آن را در ادبیات تایید کرد و آزمایشی را طراحی کرد. در نهایت، آنها به یک یافته واقعی رسیدند که بهره وری را افزایش داد. الهام از هوش مصنوعی بود، اثبات از آزمایش.
چهار قالب قابل کپی
1) سنتز ادبیات مرتبط با منبع (RAG):
نقش شما: دستیار بررسی علمی. پاسخ فقط از روی اسنادی که من آپلود کردم. هیچ اطلاعات اضافی سند اضافه نکنید. برای هر ادعا، نام سند منبع و متن مربوطه را ذکر کنید. در مورد سوالی که در اسناد جوابی ندارد بگویید "در اسناد نیست". مرجع، DOI، یا یافتن FITTING.سوال: [سوال]
2) رشته تأیید مرجع:
من به شما یک موضوع می دهم. پیشنهاد کلمات کلیدی ممکن و استراتژی جستجو (با نحو PubMed). اما لیست مقالات شما جعلی است. خودم تماس میگیرم به من بگویید به جای آن از چه اصطلاحات، فیلترها و معیارهای گنجاندن/حذف استفاده کنم.
3) کمک حذف تدوین سیستماتیک:
عنوان مقاله + خلاصه به شما می دهم. برای هرکدام بر اساس معیارهای گنجاندن زیر (شامل: [معیارها]) پیشنهاد دهید و منطق خود را بنویسید. من به صورت دستی موارد "نامشخص" را بررسی خواهم کرد. توجه داشته باشید که تصمیم اولیه است، نه نهایی. هیچ مقاله ای را بدون توجیه حذف نکنید.
4) فرضیه سازی (با دقت):
من خلاصه ای از یافته ها را در مورد یک موضوع به شما ارائه خواهم داد. 3 فرضیه قابل آزمایش بر اساس GAPS در ادبیات و ترکیبات آزمایش نشده به من پیشنهاد دهید. برای هر فرضیه: مبنای، نحوه آزمایش آن را بیان کنید و اینکه این یک شروع است نه مدرک. به شواهدی که وجود ندارند تکیه نکنید.
اعلان ضعیف / اعلان قوی
اعلان ضعیف:
10 مقاله در مورد مهندسی آنزیم با CRISPR برای من پیدا کنید و خلاصه کنید.
مدل جستجوهای واقعی را انجام نمی دهد. به احتمال زیاد ارجاعات جعلی ایجاد خواهد کرد.
اعلان قدرتمند:
نقش شما: دستیار ساخت. تنها بر اساس 12 فایل PDF که آپلود کردم، یافته های اصلی را در مورد "مهندسی آنزیم مبتنی بر CRISPR" ترکیب می کنم. برای هر یافته، نشان دهید که از کدام PDF آمده است و متن کامل آن. هیچ مطالعه، DOI یا نتیجه ای که در فایل های PDF نیست اضافه نکنید. موضوعات فرعی که پوشش داده نمی شوند را به عنوان "در این اسناد پوشش نمی دهند" علامت گذاری کنید.
تفاوت: پیوند به اسناد واقعی، نیاز منبع + متن، ممنوعیت جعل، و صداقت دامنه.
وظایف ادبیات و رویکرد قابل اعتماد
تلاش
جاده پر خطر
راه امن
تایید
یک مقاله پیدا کنید
گفتن "یافتن" به چت
ابزار PubMed + RAG
تایید در DOI
خلاصه کردن
خلاصه بدون مستندات
خلاصه از PDF بارگذاری شده
قسمت واقعی را ببینید
حذف
اعتماد کور به هوش مصنوعی
پیش صلاحیت هوش مصنوعی + انسان
داور دوم
سنتز
تولید رایگان
سنتز وابسته به منبع
بررسی نقل قول
فرضیه
اشتباه گرفتن آن با "شواهد"
نقطه شروع
تست تجربی
اشتباهات رایج
- عدم تایید مراجع هوش مصنوعی منابع واقعی اما جعلی تولید می کند. هر کدام باید در پایگاه داده ظاهر شوند.
- اشتباه گرفتن چت ساده با یک تماس. مدل از حافظه تولید می کند. جستجوی واقعی به RAG/پایگاه داده نیاز دارد.
- تفویض کامل تصمیم حذف. حذف نادرست مجموعه را از بین می برد. بازبینی دوم مورد نیاز است.
- اشتباه فرضیه با شواهد فرضیه ایجاد شده توسط AI حدس و گمان است تا زمانی که توسط آزمایش آزمایش شود.
- اغراق در دامنه. هوش مصنوعی ممکن است این تصور را ایجاد کند که "من همه چیز را اسکن کردم". شما دامنه واقعی را مستند می کنید.
به طور خلاصه
بررسی ادبیات حوزه ای است که هوش مصنوعی بیشترین صرفه جویی در زمان را دارد اما بیشترین توهم را ایجاد می کند. ابزارهای چت ساده می توانند گواهی های واقعی اما جعلی تولید کنند. بنابراین هر منبع را در برابر پایگاه داده واقعی بررسی کنید و در صورت امکان از ابزارهای مبتنی بر RAG که به اسناد واقعی بستگی دارد استفاده کنید. در یک بررسی سیستماتیک، هوش مصنوعی غربالگری اولیه را انجام می دهد، اما تصمیم نهایی و شفافیت متعلق به محقق است. هوش مصنوعی الهام بخش تولید فرضیه است. این فرضیه یک نقطه شروع است، نه اثبات، تا زمانی که توسط آزمایش تایید شود.
وظیفه کاربردی
موضوعی را انتخاب کنید و به هوش مصنوعی بگویید (از طریق یک ابزار چت ساده) «8 مقاله در مورد این موضوع پیدا کنید و خلاصه کنید». هر مرجعی را که در برابر PubMed یا DOI ارائه میکند، یک به یک بررسی کنید و شمارش کنید که چقدر واقعی هستند. سپس همین کار را با ابزار RAG یا با آپلود چند فایل PDF که خودتان دانلود کرده اید و با دستور «فقط از این اسناد پاسخ دهید» تکرار کنید. مقایسه مختصری از قابلیت اطمینان این دو رویکرد بنویسید.
چک لیست
- [ ] من هر مرجعی را که هوش مصنوعی ارائه کرده بود در برابر پایگاه داده واقعی تأیید کردم.
- [ ] من از رویکرد وابسته به منبع (RAG/ سند بارگذاری شده) در ترکیب ادبیات استفاده کردم.
- [ ] من تصمیمات غربالگری را با یک بازبین دوم ممیزی کردم.
- [ ] من فرضیه تولید شده توسط هوش مصنوعی را نه به عنوان مدرک، بلکه به عنوان آغازی برای آزمایش در نظر گرفتم.
- [ ] من قسمت هر نقل قول را در مقاله اصلی دیدم.
- [ ] من صادقانه میزان واقعی و محدودیت های اسکن را مستند کرده ام.