سود:
- توانایی ترکیب تصویر، سیگنال، داده ها و قطعات تنظیم در یک گردش کار هوش مصنوعی زیست پزشکی
- توانایی اعمال اصول حسابرسی انسان در حلقه، ردیابی و نظارت پس از توزیع
- توانایی حفظ محدودیت در هر مرحله که هوش مصنوعی جایگزین تایید پزشکان و مهندسان نمی شود
امتحان ماژول
1. کدام یک از موارد زیر اصل اساسی است که خطر خروجی هوش مصنوعی را در مهندسی پزشکی تعیین می کند؟
- الف) خطر خروجی برابر با آسیبی است که در صورت نادرست بودن برای بیمار ایجاد می کند. بر این اساس مقیاس های اعتبارسنجی ✔
- ب) خروجی هوش مصنوعی به طور کلی ایمن است زیرا به صورت روان و فنی نوشته شده است
- ج) زمانی که از جدیدترین مدل استفاده می شود، اعتبارسنجی غیر ضروری است
- د) اگر خروجی به دفترچه راهنما اشاره دارد، نیازی به بررسی اضافی نیست
توضیح: در صورتی که خروجی نادرست باشد، خطر یک خروجی برابر است با آسیب به بیمار. در حالی که یک خطای جزئی در خلاصه مقالات کم خطر است، یک خطا در ورود به تشخیص تصویر یا تصمیم بالینی مستقیماً ایمنی بیمار را تهدید می کند. بنابراین، شدت تأیید با آسیب احتمالی مقیاس می شود و هر تصمیمی که مربوط به ایمنی بیمار باشد به تأیید پزشک بستگی دارد.
2. نقش مناسب یک مدل تشخیص با پشتیبانی از هوش مصنوعی در استفاده بالینی در رادیولوژی چیست؟
- الف) تایید خودکار گزارش رادیولوژیست و حذف حجم کار
- ب) بستن موارد با اولویت پایین بدون مراجعه به رادیولوژیست
- ج) اگر احتمال مدل زیاد است، بدون معاینه اضافی تشخیص دهید
- د) ابزار پشتیبانی است که توجه را به یافته جلب می کند و آن را اولویت بندی می کند، اما مسئولیت تشخیص بر عهده رادیولوژیست است ✔
توضیحات: تصویر هوش مصنوعی یک ابزار پشتیبانی تصمیم است: جذب، اولویت بندی، اندازه گیری و پرچم گذاری. با این حال، مسئولیت تشخیصی بر عهده رادیولوژیست است. خروجی مدل جایگزینی برای تصمیم رادیولوژیست نیست، بلکه تنها یک ورودی است. خروجی همراه با ارزیابی بالینی مستقل مورد استفاده قرار می گیرد زیرا مثبت کاذب و منفی کاذب همیشه امکان پذیر است.
3. رایج ترین مشکل هنگام انتقال عملکرد یک مدل هوش مصنوعی از یک آزمایشگاه به آزمایشگاه دیگر در آسیب شناسی دیجیتال چیست؟
- الف) مدل بسیار سریع کار می کند
- ب) فایل های اسلاید خیلی کوچک هستند
- ج) تغییر دامنه ناشی از تفاوت رنگرزی و اسکن ✔
- د) آسیب شناسان اصلاً تمایلی به استفاده از مدل ندارند
توضیحات: پروتکل رنگ آمیزی، نام تجاری اسکنر و ضخامت بخش از آزمایشگاهی به آزمایشگاه دیگر متفاوت است. اگر مدل بر اساس آمار تصویری یک آزمایشگاه یاد گرفته باشد، عملکرد آن در آزمایشگاه دیگر کاهش می یابد. این پدیده تغییر دامنه نامیده می شود و شایع ترین علت شکست در آسیب شناسی دیجیتال است. به همین دلیل است که اعتبار سنجی خارجی و عادی سازی رنگ بسیار مهم است.
4. هنگامی که یک مدل طبقه بندی ECG برچسب "فیبریلاسیون دهلیزی" را می زند، اولین رفلکس تایید مهندس چه باید باشد؟
- الف) نوشتن برچسب مستقیماً در پرونده بیمار به عنوان تشخیص
- ب) سیگنال خام، مصنوعات و قابل قبول بودن فیزیولوژیک را بررسی کنید و تصمیم گیری را به پزشک بسپارید ✔
- ج) در صورت بالا بودن امتیاز اطمینان مدل، نیازی به کنترل دیگری نیست.
- د) هدایت بیمار به سمت درمان دارویی
توضیح: خروجی ابتدا باید از نظر قابل قبول بودن فیزیولوژیکی و کیفیت سیگنال آزمایش شود: رانش خط پایه، آرتیفکت عضلانی یا شل شدن الکترود در ضبط ممکن است ریتم را تقلید کند. اعتماد به برچسب بدون نگاه کردن به سیگنال خام و فواصل R-R اشتباه است. تشخیص نهایی ریتم متعلق به پزشک است. مدل یک سیگنال اولیه تولید می کند، تصمیمی نمی گیرد.
5. ویژگی کلیدی پردازش AI سیگنال های EEG چیست که تأیید را به ویژه دشوار می کند؟
- الف) نسبت سیگنال به نویز کم و آرتیفکت/تغییر بالا ✔
- ب) سیگنال EEG دامنه بسیار بالا و بدون نویز است
- ج) ضبط نوار مغزی تنها از یک کانال
- د) داده های EEG هرگز دیجیتال نیستند
توضیح: EEG یک سیگنال با دامنه بسیار کم (محدوده میکروولت) است و به راحتی توسط مصنوعاتی مانند چشمک زدن، حرکت عضلات، الکترود و نویز شبکه آلوده می شود. علاوه بر این، تنوع بین افراد و ضبط ها زیاد است. این نسبت سیگنال به نویز پایین باعث میشود خروجیهای مدل شکننده باشند و نیاز به تایید متخصص فیزیولوژیست عصبی دارد.
6. مهمترین محدودیت هنگام کار با داده های ضربان قلب از یک دستگاه پوشیدنی مصرف کننده چیست؟
- الف) باتری دستگاه به سرعت تمام می شود
- ب) ذخیره سازی داده ها در فضای ابری
- ج) دستگاه اغلب دارای گواهی پزشکی نیست و سیگنال در معرض مصنوع/سوگیری است ✔
- د) دستگاه بسیار گران است
افشا: اکثر دستگاههای پوشیدنی مصرفکننده بهعنوان دستگاههای پزشکی تأیید نشدهاند. سیگنال PPG (فتوپلتیسموگرافی) تحت تأثیر آرتیفکت حرکتی قرار می گیرد و عواملی مانند رنگ پوست تیره و خالکوبی ممکن است دقت را کاهش دهند. این داده ها برای تمایل/آگاهی ارزشمند هستند، اما اندازه گیری بالینی معتبر و ارزیابی پزشک برای تصمیم گیری تشخیصی مورد نیاز است.
7. هنگام ساخت یک مدل پیش بینی با داده های پرونده الکترونیک سلامت (EHR) "نشت زمانی" به چه معناست؟
- الف) ذخیره سازی رمزگذاری شده داده ها
- ب) نشت اطلاعات آینده به ویژگی هایی که هنوز در زمان پیش بینی وجود ندارد ✔
- ج) داده ها خیلی قدیمی هستند
- د) آموزش خیلی آهسته مدل
توضیح: نشت موقت تداخل ویژگی های آموزشی با اطلاعاتی است که در زمان پیش بینی (آینده) هنوز در دسترس نیست. به عنوان مثال، استفاده از تشخیص ترخیص برای پیش بینی خطر در هنگام پذیرش. این منجر به عملکرد بالا در آزمایشگاه، اما عملکرد ضعیف در استفاده بالینی واقعی میشود و یکی از موذیترین نقصهای مدلهای دادههای بالینی است.
8. زمانی که یک نرم افزار به عنوان "نرم افزار دستگاه پزشکی" (SaMD) توصیف شود، کدام یک از موارد زیر اجباری می شود؟
- الف) فقط سریع کار کردن کافی است
- ب) به هیچ مدرکی نیاز ندارد
- ج) فقط یک رابط زیبا مورد نیاز است
- د) کنترل طراحی، مدیریت ریسک، تأیید/اعتبار و انطباق با مقررات اجباری می شود
توضیحات: SaMD (نرم افزار به عنوان دستگاه پزشکی) نرم افزاری است که برای اهداف تشخیص، درمان یا نظارت کار می کند و به هیچ سخت افزاری وابسته نیست. در این مورد، کنترلهای طراحی، مدیریت ریسک (ISO 14971)، تأیید / اعتبارسنجی و انطباق با مقررات الزامی است. این نرم افزار را نمی توان به عنوان "فقط نرم افزار" در نظر گرفت زیرا شکست آن مستقیماً بر ایمنی بیمار تأثیر می گذارد.
9. زمانی که از هوش مصنوعی یک بند یا شماره استاندارد MDR (دستورالعمل تجهیزات پزشکی) میخواهید، مهمترین خطر چیست؟
- الف) مدل مقاله / مرجع استاندارد جعلی تولید می کند و آنها را با خیال راحت ارائه می کند
- ب) مدل پاسخ را خیلی کوتاه می دهد
- ج) مدل به زبان انگلیسی پاسخ می دهد
- د) مدل خیلی کند پاسخ می دهد
توضیح: مدلهای زبانی میتوانند با اطمینان شماره آیتمهای موجود، نسخههای استاندارد نادرست، و ارجاعات ساخته شده (توهم) را تولید کنند. در انطباق با مقررات، یک مرجع نادرست ماده منجر به شکست جدی در انطباق می شود. بنابراین هر انتساب باید مستقل از متن رسمی تأیید شود، هوش مصنوعی باید فقط برای پیمایش/پیش نویس استفاده شود.
10. داده های سلامت در محدوده KVKK در چه دسته ای قرار می گیرند و این به چه معناست؟
- الف) داده های شخصی معمولی؛ می تواند آزادانه پردازش شود
- ب) داده های شخصی نیست. هیچ محدودیتی وجود ندارد
- ج) دسته های خاص داده های شخصی؛ پردازش شده با شرایط و حفاظت های سخت گیرانه ✔
- د) فقط اسرار تجاری؛ بدون نیاز به حریم خصوصی
توضیح: دادههای بهداشتی در KVKK «دادههای شخصی ویژه» در نظر گرفته میشوند. به عنوان یک قاعده، پردازش به رضایت صریح یا استثنائات مقرر در قانون بستگی دارد و به اقدامات حفاظتی شدیدتری نیاز دارد. بنابراین، داده های بیمار را نمی توان در ابزارهای کنترل نشده وارد کرد. قراردادهای ناشناس، محدودیت دسترسی و پردازش داده ها الزامی است.
11. «کالیبراسیون» در یک مدل هوش مصنوعی بالینی به چه معناست و چرا مهم است؟
- الف) مدل با چه سرعتی اجرا می شود
- ب) مدل چند پارامتر دارد؟
- ج) رنگ رابط مدل
- د) سازگاری احتمالات ارائه شده توسط مدل با فرکانس های رویداد واقعی ✔
توضیح: کالیبراسیون برازش احتمالات داده شده توسط مدل با فرکانس های واقعی است: این رویداد باید در واقع در حدود 20٪ از بیمارانی رخ دهد که برای آنها "20٪ خطر" می گوید. از آنجایی که تصمیمات در کلینیک بر اساس آستانههای احتمالی اتخاذ میشوند، یک مدل ضعیف کالیبرهشده منجر به تصمیمگیریهای آستانه نادرست میشود، حتی اگر به درستی رتبهبندی شود. بنابراین، کالیبراسیون و همچنین تبعیض (AUC) باید تأیید شود.
12. چرا باید «عملکرد زیرگروه» به طور جداگانه در مدلهای دادههای تصویر، سیگنال یا بالینی بررسی شود؟
- الف) فقط دقت کامل همیشه کافی است
- ب) زیرا زیرگروه ها بر سرعت مدل تاثیر می گذارند
- ج) معیارهای عمومی می تواند عملکرد ضعیف و سوگیری را در گروه های خاص بیمار پنهان کند
- د) تجزیه و تحلیل زیر گروه فقط برای بازاریابی ضروری است
توضیح: در حالی که یک مدل ممکن است به طور متوسط خوب به نظر برسد، ممکن است در زیرگروه های خاص (سن، جنسیت، رنگ پوست، نوع دستگاه، بیمارستان) به طور قابل توجهی بدتر عمل کند. معیار کلی این نابرابری را پنهان می کند. در مراقبت های بهداشتی، این منجر به آسیب سیستماتیک در برخی از گروه های بیمار می شود. بنابراین، عملکرد باید به زیر گروه ها تقسیم شود و برای انصاف گزارش شود.
13. بهترین رویکرد در برابر خطر "شناسایی مجدد" هنگام کار با داده های بیمار چیست؟
- الف) فقط حذف نام در هر شرایطی کافی است.
- ب) شناسه های غیر مستقیم و همچنین شناسه های مستقیم را تعمیم دهید و دسترسی را محدود کنید ✔
- ج) در صورتی که داده ها متعلق به تعداد کمی از افراد باشد، نیازی به احتیاط نیست
- د) فقط تغییر نام فایل به جای رمزگذاری
توضیحات: حتی داده های حذف شده با نام را می توان با ترکیبات نادر تشخیص، تاریخ تولد، کد پستی و تاریخ دوباره شناسایی کرد. بنابراین فقط استخراج شناسه های مستقیم کافی نیست. تکنیک هایی مانند تغییر تاریخ، تعمیم، ناشناس بودن k و کنترل دسترسی باید با هم اعمال شوند و متن آزاد حساس نیز باید پاک شود.
14. دلیل اصلی برای حفظ کنترل سرتاسر "انسان در حلقه" در گردش کار هوش مصنوعی زیست پزشکی چیست؟
- الف) کنترل انسان فقط کندی ایجاد می کند و باید حذف شود
- ب) اگر نمره اطمینان مدل بالا باشد، اعتبارسنجی انسانی غیر ضروری است
- ج) دلیل عملی جز الزام قانونی وجود ندارد
- د) هوش مصنوعی در معرض سوگیری و خطا است. تصمیمات ایمنی بیمار و مسئولیت آن باید با متخصص واجد شرایط باقی بماند ✔
توضیحات: هوش مصنوعی فرضیه ها را تولید، اولویت بندی و پیش نویس می کند. اما الگوهایی که از داده ها می آموزد ممکن است ناقص، مغرضانه یا خارج از زمینه باشند. ضروری است که تصمیمات مربوط به ایمنی بیمار با تأیید پزشک و مهندس مجاز باقی بماند، هم برای تشخیص اشتباهات و هم برای حفظ مسئولیت در جای درست. هوش مصنوعی در هیچ مرحله ای جایگزین این تایید نمی شود.