پروژه پایان به انتها: گردش کار مهندسی زیستی به کمک هوش مصنوعی و اعتبار سنجی با پایتون

سود:

• امکان طراحی گردش کار هفت مرحله ای از سوال تا نتیجه تایید شده با قرار دادن یک گیت تایید در هر مرحله
• امکان تایید کد پایتون نوشته شده توسط هوش مصنوعی با داده های تست شناخته شده و تشخیص تفاوت بین "کد کار" و "کد صحیح"
• تجزیه و تحلیل را قابل تکرار (نسخه، رسانه، بذر، سند) و گزارش با تأیید مرطوب، شفافیت و تأیید کارشناسی کنید.

ما قطعات را در نه بخش قبلی آموختیم: تجزیه و تحلیل توالی، omics، مدل سازی پروتئین، طراحی تجربی، داده های آزمایشگاهی، پردازش زیستی، ادبیات، و اخلاق. در این بخش نهایی، ما قطعات را کنار هم می‌گذاریم و یک جریان کاری سرتاسر ایجاد می‌کنیم - زنجیره‌ای از یک سوال تحقیقاتی تا یک نتیجه‌گیری معتبر، که در آن هوش مصنوعی در هر مرحله کمک می‌کند، اما انسان هر تصمیم و تأیید حیاتی را می‌گیرد. ما همچنین پایتون را که ستون فقرات این زنجیره است و رشته تکرارپذیری را پوشش خواهیم داد - توانایی تکرار تجزیه و تحلیل توسط شخص دیگری، با داده های مشابه، برای به دست آوردن نتیجه یکسان.

هدف انتقال ابزارهای فردی نیست، بلکه یک طرز فکر گردش کار مسئولانه است: شما خواهید دانست که هوش مصنوعی را کجا قرار دهید، یک دروازه تأیید را کجا قرار دهید، و چگونه کل فرآیند را قابل ردیابی کنید.

چرا پایتون؟

زبان بیوانفورماتیک و زیست شناسی محاسباتی پایتون (و R) است. زیرا می‌توانید تقریباً هر مرحله را با کتابخانه‌های منبع باز (Biopython برای تجزیه و تحلیل توالی، پانداها برای جداول داده، scikit-learn برای یادگیری ماشینی، matplotlib برای تجسم) خودکار کرده و تکرار کنید. هوش مصنوعی در نوشتن کدهای پایتون بسیار قدرتمند است. اما پذیرفتن کدی که بدون اجرا تولید می‌کند و تأیید آن خطرناک است - ممکن است کد بی‌صدا نتیجه اشتباه را برگرداند (یک خطای واحد، یک ستون اشتباه، یک فیلتر از دست رفته).

توجه: حتی اگر کد نوشته شده توسط هوش مصنوعی کار کند، ممکن است درست نباشد. "بدون خطا کار کرد" و "نتیجه درست را داد" دو چیز متفاوت هستند. هر کد را با داده‌های کوچک و شناخته‌شده تست امتحان کنید: آیا ورودی-خروجی آن‌طور است که انتظار دارید؟ این تنها راه برای تشخیص خطاهای خاموش است.

آناتومی گردش کار

یک گردش کار مهندسی زیستی مسئول با قابلیت هوش مصنوعی از این چارچوب پیروی می کند:

1. سوال و فرضیه. یک سوال واضح و قابل آزمایش (هوش مصنوعی می تواند الهام بخش باشد؛ شما توضیح دهید.)
2. جمع آوری داده ها و کنترل حریم خصوصی. داده ها از کجا هستند، رسانه شخصی یا تایید شده؟ (واحد 9.)
3. پیش پردازش و کنترل کیفیت. تمیز کردن، عادی سازی، کنترل دسته ای. (واحد 2-3.)
4. تجزیه و تحلیل. آمار، مدل سازی، پیش بینی. (دریچه تأیید در هر مرحله.)
5. نظر دهید. ضربه زدن به ذهن بیولوژیکی، تمایز همبستگی-علیت.
6. تایید آزمایشگاهی مرطوب فرضیه بحرانی به صورت تجربی آزمایش می شود. (واحد 1، 4، 5.)
7. گزارش دهی و شفافیت کد قابل تکرار، بیانیه هوش مصنوعی، تایید کارشناس. (واحد 8-9.)

هر مرحله دارای یک نقطه بازرسی است - نقطه ای که در آن خروجی قبل از رفتن به مرحله بعدی تأیید می شود. هوش مصنوعی یک مرحله را شتاب می دهد، بدون عبور از در نمی توانید به مرحله بعدی بروید.

نکته: گردش کار خود را به عنوان یک اسکریپت و یک دفترچه ذخیره کنید. اجازه دهید ورودی، خروجی و تصمیم هر مرحله مستند شود. توانایی پاسخ دادن به این سوال "چگونه به این نتیجه رسیدم" در عرض چند دقیقه پس از ماه ها برای علم و حسابرسی ارزش طلایی دارد.

تکرارپذیری: بیمه نتیجه

یک نتیجه تنها در صورتی قابل اعتماد است که بتواند توسط شخص دیگری تکرار شود. چهار ستون تکرارپذیری عبارتند از: (1) کد در کنترل نسخه (با git) است، (2) محیط ثابت است (نسخه های کتابخانه ثبت شده است، به عنوان مثال محیط الزامات.txt یا conda)، (3) داده ها و دانه های تصادفی ثبت می شوند، (4) هر مرحله مستند شده است. هوش مصنوعی به ساخت این زیرساخت کمک می کند، اما این به شما بستگی دارد که نظم و انضباط را اجرا کنید.

سه کیف کوچک

مورد 1 - خطای کد خاموش شناسایی شد. یک تیم از یک اسکریپت عادی سازی استفاده کرد که هوش مصنوعی نوشت. کد بدون خطا کار می کرد. وقتی آنها آن را با داده های آزمایشی شناخته شده امتحان کردند، دریافتند که خروجی با ضریب 1000 تغییر می کند - اسکریپت تبدیل واحد نادرستی را انجام می دهد. داده های کوچک آزمون خطایی را دریافت کردند که کل تجزیه و تحلیل را مختل کرد.

مورد 2 - تکرارپذیری ذخیره شده است. پس از پخش، داور درخواست تکرار یک نتیجه را داد. تیم تجزیه و تحلیل را به طور کلمه به کلمه در 20 دقیقه بازتولید کرد، زیرا کد را در Git و یک محیط پین شده نسخه شده بود. یک گروه رقیب که محیط را ضبط نکرد، هفته ها نتوانست همان درخواست را برآورده کند.

مورد 3 - تأیید پایان به انتها. در یک پروژه آنزیمی، گردش کار به این صورت بود: هوش مصنوعی یک فرضیه از ادبیات ارائه کرد (تأیید شد)، مدل پروتئینی جهش‌های کاندید را رتبه‌بندی کرد (تست آزمایشی)، DoE تعداد آزمایش‌ها را کاهش داد، یکی از سه جهش فعالیت را 1.9 برابر افزایش داد. هوش مصنوعی در هر مرحله شتاب می گرفت، انسان در هر دری تأیید می شود. نتیجه هم سریع و هم قابل دفاع بود.

چهار قالب قابل کپی

1) ایجاد یک اسکلت گردش کار:

نقش شما: مشاور پروژه زیست شناسی محاسباتی. برای پاسخ به سوال زیر یک گردش کار پایان به انتها طراحی کنید: [سوال]. برای هر مرحله، (1) چه کاری باید انجام شود، (2) جایی که هوش مصنوعی کمک می کند، (3) چارچوب اعتبارسنجی باید چگونه باشد، (4) از چه ابزاری استفاده کنیم. شامل اعتبار سنجی آزمایشگاهی مرطوب و مرحله شفافیت.

2) کد پایتون + درخواست تست:

نقش شما: توسعه دهنده بیوانفورماتیک. یک تابع پایتون بنویسید که کار زیر را انجام دهد: [job]. کتابخانه: [pandas/Biopython]. همچنین یک مثال اعتبار سنجی با داده های تست کمی شناخته شده اضافه کنید: ورودی چیست، خروجی مورد انتظار چیست. من کد را اجرا می کنم و آن را با داده های آزمایشی بررسی می کنم. برازش تابع/پارامتر وجود ندارد.

3) بازرسی تکرارپذیری:

من می خواهم تجزیه و تحلیل خود را قابل تکرار کنم. یک چک لیست به من بدهید: کنترل نسخه، پین کردن محیط (نیازمندی ها/کاندا)، دانه تصادفی، ثبت منبع داده، مستندات مرحله. یک روش کاربردی عملی برای هر مورد ارائه دهید.

4) بررسی اعتبار نتایج:

من می خواهم قبل از قرار دادن یک نتیجه تجزیه و تحلیل در گزارش، یک بررسی اعتبار نهایی انجام دهم. چک لیستی از این سؤالات به من بدهید: آیا نتیجه از نظر بیولوژیکی قابل قبول است، آیا آمار دقیق است (تست چندگانه، نمونه)، آیا با ابزارهای مستقل تأیید شده است، آیا به منبع وابسته است، آیا آزمایش مرطوب مورد نیاز است، آیا بیانیه AI ارائه شده است؟

اعلان ضعیف / اعلان قوی

اعلان ضعیف:

برای من یک کد پایتون بنویسید که این داده ها را تجزیه و تحلیل کند.

ماموریت مبهم، بدون آزمایش، بدون تایید. مستعد خطای خاموش

اعلان قدرتمند:

نقش شما: توسعه دهنده بیوانفورماتیک. برای CSV (ستون‌ها: gene، control_mean، treatment_mean، pvalue) با پانداها: (1) ستون تغییر log2 برابر اضافه کنید، (2) P-value تصحیح شده BH را محاسبه کنید، (3) padj<0.05 و |log2FC|>1 را فیلتر کنید. همچنین خروجی مورد انتظار را با 5 ردیف داده نمونه نشان دهید تا بتوانم تأیید کنم. از نام ستون اشتباه یا تابعی که وجود ندارد استفاده نکنید.

تفاوت: ماموریت واضح، آمار واضح، اعتبارسنجی با داده های آزمایشی و ممنوعیت ساخت.

دروازه‌های اعتبارسنجی گردش کار سرتاسر

گام

سهم هوش مصنوعی

دروازه تایید

فرضیه

الهام، ادبیات

آیا قابل تست است یا جوشی؟

داده/حریم خصوصی

چک لیست

شناسایی زدایی، محیط تایید شده

پیش پردازش

اسکریپت

کنترل دسته ای / QC

تجزیه و تحلیل

کد، مدل

داده های تست، وسیله نقلیه مستقل

نظر دهید

پیش نویس

ذهن بیولوژیکی، همبستگی - علیت

تایید مرطوب

طرح آزمایش

نتیجه آزمایش واقعی

گزارش دهید

پیش نویس

تکرارپذیری، شفافیت، تایید کارشناسان

اشتباهات رایج

• فکر می کنم که کد کار درست است. "بدون خطا کار کرد" ≠ "نتیجه صحیح"؛ باید با داده های تست امتحان شود.
• دور زدن گیت های تایید عبور از یک در به خاطر سرعت، تمام مراحل بعدی را در معرض خطر قرار می دهد.
• نادیده گرفتن تکرارپذیری بدون ثبت محیط/نسخه، نتیجه قابل تکرار نیست.
• به تأخیر انداختن/عدم تأیید صحت مرطوب. تا زمانی که پیش‌بینی رایانه با آزمایش تأیید نشود، نمی‌توان تصمیم گرفت.
• فراموشی شفافیت و تایید کارشناسی. امضای نهایی و اعلامیه هوش مصنوعی بخشی از گردش کار است.

به طور خلاصه

مهندسی زیستی مسئولانه از هوش مصنوعی نه به عنوان ابزارهای فردی، بلکه به عنوان بخشی از یک جریان کاری انتها به انتها با گیت های اعتبار سنجی استفاده می کند. پایتون و تکرارپذیری ستون فقرات این جریان هستند. هوش مصنوعی کد می نویسد اما شما آن را با داده های آزمایشی تأیید می کنید، زیرا کد کار کد صحیحی نیست. هوش مصنوعی در هر مرحله شتاب می گیرد، انسان در هر دری تایید می کند. فرضیه های بحرانی در آزمایشگاه مرطوب آزمایش می شوند و نتایج به صورت شفاف و با تایید کارشناسان گزارش می شود. ماهیت این ماژول در یک جمله است: سرعت هوش مصنوعی را بگیرید، تصمیم و مسئولیت را در انسان نگه دارید.

وظیفه کاربردی

یک گردش کار شروع تا پایان برای یک سوال تحقیقاتی خودتان طراحی کنید. از هوش مصنوعی بخواهید با الگوی «اسکلت گردش کار» یک برنامه هفت مرحله ای ارائه کند و دروازه تأیید خود را به هر مرحله اضافه کنید. سپس یک اسکریپت با قالب "کد پایتون + درخواست تست" برای یکی از مراحل تجزیه و تحلیل چاپ کنید، آن را با داده های کوچک تست اجرا کنید و ثابت کنید که خروجی درست است. در نهایت، یک لیست "بررسی اعتبار نتایج" تهیه کنید و این گردش کار را برای گزارش آماده کنید. کل فرآیند را در قالب قابل تکرار (کد + رسانه + سند) ضبط کنید.

چک لیست

• [ ] من گردش کار را با هفت مرحله و یک دروازه تأیید در هر مرحله طراحی کردم.
• [ ] من کد نوشته شده توسط هوش مصنوعی را با داده های تست شناخته شده تأیید کردم.
• [ ] تجزیه و تحلیل را قابل تکرار کردم (نسخه، محیط، بذر، سند).
• [ ] من این فرضیه بحرانی را به اعتبارسنجی آزمایشگاهی مرطوب نسبت دادم.
• [ ] من کنترل‌های حفظ حریم خصوصی داده و امنیت زیستی را در جریان کار قرار داده‌ام.
• [ ] من گزارش را با بیانیه هوش مصنوعی شفاف و تایید متخصص تکمیل کردم.

امتحان ماژول

1. کدام یک از موارد زیر دقیق ترین موقعیت یابی هوش مصنوعی در مهندسی زیستی است؟

• الف) هوش مصنوعی ابزار غربالگری و تهیه پیش نویس است. مسئولیت تصمیماتی که معنای بیولوژیکی و ایمنی را تعیین می کند بر عهده انسان است ✔
• ب) هوش مصنوعی می‌تواند مولکول‌های کاندید را مستقیماً بدون تأیید انسان وارد تولید کند
• ج) از آنجایی که هوش مصنوعی همیشه از انسان عینی تر است، تفسیر بیولوژیکی را باید به آن واگذار کرد.
• د) هوش مصنوعی فقط برای خلاصه کردن متن مفید است، ربطی به داده های آزمایشگاهی ندارد

توضیحات: هوش مصنوعی; این یک دستیار است که داده های حجیم و پر سر و صدا را اسکن می کند، الگوها را علامت گذاری می کند و طرح ها را تولید می کند. این متخصص ذیصلاح است که معنای بیولوژیکی، ایمنی و تصمیم نهایی را می گیرد. چاپ تایید نشده می تواند یک بیمار، یک دسته تولیدی یا یک نشریه را در معرض خطر قرار دهد. در حوزه های حیاتی ایمنی، خروجی هوش مصنوعی جایگزین تاییدیه متخصص نیست.

2. هدف از مرحله «پیوند منبع» هنگام تأیید یک خروجی هوش مصنوعی چیست؟

• الف) حذف نتایج ساختگی (توهم آمیز) با اتصال هر ادعا به داده های عینی یا منبع اصلی ✔
• ب) سیال تر کردن خروجی و خوانایی بیشتر
• ج) عدم تایید اعتبار برای پایان سریعتر تجزیه و تحلیل
• د) پذیرش مراجع داده شده توسط هوش مصنوعی همانطور که هست

توضیحات: هوش مصنوعی مسلط است اما گاهی اوقات توهم ایجاد می کند. ممکن است یک ژن، مسیر یا مرجع غیرموجود را واقعی نشان دهد. پیوند دادن هر ادعا به داده های سخت یا منبع اصلی مانع از یافتن یک نتیجه ساختگی در گزارش یا انتشار می شود.

3. هنگام تفسیر یک نتیجه BLAST یا تراز توالی، کدام یک برای ارزیابی تطابق "مطمئن" لازم است؟

• الف) فقط به طول رشته نگاه کنید
• ب) با تکیه مستقیم بر نام نوع داده شده توسط هوش مصنوعی
• ج) ارزیابی معیارهای هم ترازی مانند درصد هویت، پوشش و ارزش الکترونیکی با هم ✔
• د) فقط شمارش چند خط خروجی است

توضیحات: معیارهایی مانند درصد هویت، پوشش و ارزش الکترونیکی برای اعتبار بخشیدن به تفسیر سری مورد نیاز است. یک مقدار کوچک الکترونیکی نشان می دهد که شباهت تصادفی نیست. بدون این معیارها، تعبیر "این پروتئین همان است" قابل تأیید نیست و ممکن است یک توهم باشد.

4. چرا هنگام آزمایش 20000 ژن به طور همزمان در تجزیه و تحلیل بیان دیفرانسیل RNA-seq از "p-value تعدیل شده" (padj) استفاده می شود؟

• الف) برای افزایش تغییر طبقه
• ب) کنترل مثبت کاذب به دلیل آزمایش های متعدد و محدود کردن میزان کشف کاذب ✔
• ج) کاهش حجم نمونه
• د) تسریع در تجزیه و تحلیل

توضیح: وقتی هزاران ژن به طور همزمان آزمایش می شوند، صدها ژن ممکن است حتی به طور تصادفی "مهم" باشند. تصحیح آزمایش های متعدد مانند بنجامینی-هخبرگ نرخ کشف نادرست را محدود می کند. با مقدار p خام، لیست به طور گمراه کننده ای متورم می شود. استفاده از padj برای دفاع علمی ضروری است.

5. تله ای که در تجزیه و تحلیل omics رخ می دهد، زمانی که دو گروه درمانی در روزهای مختلف پردازش می شوند، که منجر به اشتباه گرفتن تفاوت فنی با یک تفاوت بیولوژیکی می شود، چیست؟

• الف) خطای تغییر طبقه
• ب) بهینه سازی کدون
• ج) اثر دسته ای ✔
• د) اثر لبه

توضیح: اثر دسته ای تفاوت فنی ناشی از پردازش نمونه ها توسط روزها، دستگاه ها یا افراد مختلف است و بزرگترین منبع خطا در تحلیل omics است. قبل از شروع تجزیه و تحلیل، لازم است نمودار PCA ترسیم شود و بررسی شود که آیا نمونه ها بر اساس شرایط بیولوژیکی یا دسته ای خوشه بندی شده اند یا خیر.

6. نمره pLDDT برای پیش بینی ساختار پروتئین تولید شده با AlphaFold به چه معناست و چگونه باید از آن استفاده کرد؟

• الف) سطح اطمینان مدل را برای هر منطقه نشان می دهد. از ادعاهای مبتنی بر مناطق کم اعتماد باید اجتناب شود ✔
• ب) سرعت تا شدن پروتئین را اندازه می گیرد و می توان آن را نادیده گرفت
• ج) ثابت می کند که پروتئین ساختار دقیقی دارد که به صورت تجربی حل شده است.
• د) به طور مستقیم میل اتصال را می دهد

توضیحات: pLDDT یک امتیاز اطمینان است که نشان می دهد مدل برای هر اسید آمینه چقدر مطمئن است. مقادیر بالا (> 90) به طور کلی قابل اعتماد هستند. مقادیر پایین تر (<50) اغلب مناطق نامنظم یا نامشخص را نشان می دهد. ادعای مکانیسم های مبتنی بر مناطق کم اعتماد گمراه کننده است. ساختارهای بحرانی باید به صورت تجربی تایید شوند.

7. نمرات اتصال مولکولی در طراحی دارو/آنزیم چگونه باید تفسیر شود؟

• الف) قرابت الزام آور مطلق محسوب شود.
• ب) تضمین می کند که یک مولکول هرگز متصل نمی شود
• ج) ابزاری نسبی برای مرتب سازی مولکول ها قبل از آزمایش است. تصمیم نهایی با اندازه گیری میل ترکیبی تجربی گرفته می شود
• د) به تنهایی برای تایید بالینی کافی است

نظر: امتیازات Docking نسبی هستند و میل اتصال واقعی را پیش‌بینی نمی‌کنند. نرخ مثبت کاذب بالاست. استفاده صحیح این است که هزاران مولکول را قبل از آزمایش ترتیب دهیم و امیدوارکننده ترین آنها را برجسته کنیم. تصمیم نهایی با اندازه گیری تمایل تجربی مانند SPR یا ITC گرفته می شود.

8. نقص اصلی روش "یک متغیر در یک زمان" (OFAT) برای یک مهندس فرآیند زیستی که به دنبال بهینه سازی پنج پارامتر است چیست؟

• الف) تعامل بین پارامترها را از دست می دهد ✔
• ب) همیشه نیاز به آزمایش کمی دارد
• ج) قدرت آماری را افزایش می دهد
• د) به طور خودکار اثر دسته ای را از بین می برد

توضیح: روش OFAT تعامل بین پارامترها را از دست می دهد. شاید دمای بالا فقط در pH پایین خوب باشد. طراحی آزمایش‌ها (DoE) تعاملات را ثبت می‌کند و تعداد آزمایش‌ها را با طرح‌های فاکتوریل که پارامترها را به طور مشترک و متعادل تغییر می‌دهند، کاهش می‌دهد.

9. هنگامی که یک مدل بهینه سازی دمایی را توصیه می کند که کشت را در آزمایشگاه از بین ببرد، رویکرد صحیح چیست؟

• الف) اجرای پیشنهاد به این دلیل که مدل هوشمندتر است
• ب) ارائه محدودیت های ایمنی و فیزیولوژیکی به عنوان محدودیت برای مدل و بررسی هر پیشنهاد با دانش آزمایشگاهی ✔
• ج) کنار گذاشتن بهینه سازی به طور کلی
• د) سعی کنید محدودیت دما را نادیده بگیرید

توضیح: مدل محدودیت های فیزیولوژیکی و ایمنی را نمی شناسد. بهینه ریاضی ممکن است خطرناک یا غیرممکن باشد. رویکرد صحیح این است که محدودیت های ایمنی و فیزیولوژیکی را به عنوان محدودیت برای مدل در نظر بگیریم و هر پیشنهاد را با دانش آزمایشگاهی بررسی کنیم. حد فیزیکی بر بهینه ریاضی غلبه دارد.

10. هنگام ارزیابی نتیجه شمارش سلولی خودکار یا مرتب‌سازی فلورسانس کدام یک الزامی است؟

• الف) پذیرش مستقیم نتیجه، زیرا مدل سریعتر از انسان است
• ب) گزارش فقط تعداد تصاویر
• ج) نگاه کردن فقط به تصویر با بالاترین سیگنال
• د) خروجی نمونه را به صورت دستی بررسی کنید و با کنترل های مناسب (از جمله منفی، رنگ نشده) اعتبار سنجی کنید.

توضیحات: خروجی خودکار باید به صورت دستی بر روی یک نمونه تأیید شود و هر اندازه گیری باید با کنترل های مناسب (مثبت، منفی، خالی، بدون رنگ) تأیید شود. برای مثال، اگر سیگنالی در کنترل بدون رنگ وجود داشته باشد، ممکن است اتوفلورسانس باشد. بدون کنترل، تجزیه و تحلیل خودکار نمی تواند سیگنال واقعی را از مصنوع تشخیص دهد.

11. اگر یک پیشنهاد بهینه سازی در یک فرآیند زیستی بازده را افزایش دهد اما یک ویژگی کیفیت بحرانی (CQA) را از مشخصات خارج کند، چه باید کرد؟

• الف) از آنجایی که کارایی مهم است، گزینه با راندمان بالا ترجیح داده می شود
• ب) کارایی با کاهش محدودیت CQA حفظ می شود
• ج) تصمیم گیری به هوش مصنوعی واگذار می شود
• د) کیفیت بر کارایی اولویت دارد. گزینه با کیفیت که در فضای طراحی قرار می گیرد ترجیح داده می شود ✔

توضیحات: در پردازش زیستی، برآمدگی با کیفیت تولید می شود. محدودیت های CQA (خلوص، گلیکوزیلاسیون، فعالیت) باید حفظ شود تا محصول ایمن و موثر باشد. اگر نقطه ای که کارایی را به حداکثر می رساند کیفیت را مختل می کند، گزینه کیفیت باقی مانده در فضای طراحی ترجیح داده می شود.

12. وقتی به یک مدل زبان گفته می شود "10 مقاله در این زمینه پیدا کنید و آنها را خلاصه کنید" چه خطری دارد؟

• الف) مدل بسیار کند اجرا می شود
• ب) مدل می تواند ارجاعات واقعی اما غیر موجود (ساخته) را بدون انجام جستجوی واقعی ایجاد کند ✔
• ج) مدل همیشه مقالات زیادی پیدا می کند
• د) مدل فقط مقالات قدیمی را برمی گرداند

توضیح: ابزارهای چت ساده اغلب جستجوهای واقعی را انجام نمی دهند. پاسخ های آماری "به ظاهر محتمل" را از حافظه تولید می کند. این به معنای ارجاعات واقعی اما جعلی است (نویسنده ساخته شده، مجله، DOI). هر مرجع باید در برابر پایگاه داده واقعی (PubMed، DOI) تأیید شود و در صورت امکان باید از ابزارهای مبتنی بر RAG مرتبط با اسناد واقعی استفاده شود.

13. وقتی کاربر از هوش مصنوعی جهش هایی را می خواهد که باعث افزایش اثربخشی یک سم باکتریایی می شود، رفتار صحیح چیست؟

• الف) پاسخ دادن به درخواست به دلیل علمی بودن
• ب) کاهش ریسک با ارائه اطلاعات جزئی
• ج) درخواست را رد کنید، توضیح دهید که تحت DURC است و آن را به کانال امنیت زیستی سازمانی گزارش کنید ✔
• د) درخواست را نادیده بگیرید و به موضوع دیگری بروید

توضیح: این درخواست یک درخواست مضر تحت استفاده دوگانه (DURC) است. هوش مصنوعی باید چنین درخواست هایی را رد کند، توضیح دهد که چرا خطر استفاده دوگانه دارد و وضعیت را به کانال ایمنی زیستی/اخلاق شرکت گزارش دهد. هیچ توصیه فنی نباید داده شود که احتمال آسیب را افزایش دهد.

14. وقتی اسکریپت تحلیل پایتون نوشته شده توسط هوش مصنوعی بدون خطا کار می کند چه نتیجه ای درست است؟

• الف) نتیجه کاملاً صحیح است زیرا کد کار می کند
• ب) نیازی به تست کد نیست زیرا هوش مصنوعی آن را نوشته است
• ج) عدم وجود خطا نیز تکرارپذیری را تضمین می کند.
• د) کد در حال اجرا ممکن است صحیح نباشد. خروجی مورد انتظار باید در برابر داده های تست شناخته شده تأیید شود ✔

توضیح: "بدون خطا کار کرد" و "نتیجه درست را داد" دو چیز متفاوت هستند. ممکن است کد به دلیل خطای واحد، ستون اشتباه یا فیلتر از دست رفته، بی‌صدا نتیجه اشتباه را برگرداند. هر کد باید با داده های آزمایشی کوچکی که ورودی و خروجی آن مشخص است، آزمایش شود. با این حال، زمانی که نتیجه مورد انتظار را می دهد، باید قابل اعتماد در نظر گرفته شود.