سود:
- توانایی تشخیص اینکه هوش مصنوعی کجا ارزش ایمن در جریان کار زیست پزشکی ایجاد می کند و کدام تصمیم بر عهده پزشک و مهندس مجاز باقی می ماند.
- توانایی اعمال رشته ای که هر خروجی هوش مصنوعی را با ترتیب فیزیولوژیکی بزرگی، قابل قبول بودن بالینی و شواهد مستقل تایید می کند.
- خطرات توهم، نشت داده ها و ایمنی بیمار را بشناسید و با ناشناس کردن زمینه، عادت ایجاد اعلان های ایمن را ایجاد کنید.
مهندسی زیست پزشکی حرفه ای است که در آن پیچیدگی بدن انسان و پیگیری مهندسی برای دقت تلاقی می کند. سیگنال ECG سایه الکتریکی قلب است، تصویر MRI یک پژواک مغناطیسی از بافت است، یک مقدار آزمایشگاهی یک عکس فوری است. همه این اندازه گیری ها غیر مستقیم، پر سر و صدا هستند و نیاز به تفسیر دارند. هوش مصنوعی (AI؛ سیستمهای نرمافزاری که از الگوهای کلان دادهها یاد میگیرند و متن/تصاویر/اعداد تولید میکنند) میتواند این تفسیر را سرعت بخشد، اما همچنین میتواند اشتباهات خود را با زبانی روان پنهان کند. این واحد دو پایه ای را ایجاد می کند که کل ماژول بر روی آنها ساخته می شود: کجا در جریان کار زیست پزشکی هوش مصنوعی ارزش واقعی تولید می کند و چگونه هر خروجی را تأیید می کنیم.
بیایید از همان ابتدا یک خط مطلق ترسیم کنیم: هیچ یک از تکنیک هایی که در طول این ماژول خواهید آموخت، جایگزین تشخیص پزشک متخصص، تأیید یک مهندس صالح و فرآیندهای دستگاه معتبر نمی شود. هوش مصنوعی تشخیص نمی دهد. هوش مصنوعی یک دستیار است. سریع می خواند، سریع امضا می کند، الگوها را می گیرد. اما اگر یک تومور از قلم افتاده باشد، دستگاهی هشدار نادرست بدهد، دوز اشتباه محاسبه شود، مسئولیت آن با نرم افزار نیست، بلکه بر عهده پزشک و مهندس است که تصمیم را گرفته است. این جمله را به اشکال مختلف در هر واحد خواهید دید، زیرا این تنها حقیقتی است که در مهندسی مربوط به ایمنی بیمار است.
هوش مصنوعی کجا در گردش کار زیست پزشکی ارزش ایجاد می کند؟
هفته یک مهندس زیست پزشکی یا تیم فناوری بالینی تقریباً به سه نوع کار تقسیم میشود: آمادهسازی داده (تمیز کردن سیگنال، پیش پردازش تصویر، ویرایش جدول، استخراج گزارش)، تفسیر و تجزیه و تحلیل (تشخیص یافتن، طبقهبندی، مدلسازی پیشبینیکننده، امتیازدهی ریسک)، و ارتباط و مستندسازی (فایل فنی، گزارش اعتبارسنجی، خلاصه ادبیات، راهنمای دستگاه). هوش مصنوعی هر سه حوزه را لمس می کند، اما سهم و ریسک آن در هر کدام متفاوت است.
آماده سازی داده امن ترین و سودآورترین زمینه هوش مصنوعی است. حذف نویز از سیگنال خام، مقیاسبندی تصاویر به اندازه استاندارد، ترجمه یادداشتهای بالینی متن آزاد به فیلدهای ساختاریافته، تراز کردن واحدهای ناسازگار - اینها کارهایی هستند که تکراری، مبتنی بر قانون هستند و به راحتی قابل تأیید هستند. حتی اگر در اینجا خطایی وجود داشته باشد، چند دقیقه طول می کشد تا به منبع (داده های خام) برگردید و آن را بررسی کنید.
حوزه تفسیر و تحلیل دارای بالاترین ارزش و بالاترین ریسک است. هوش مصنوعی می تواند یک ناحیه مشکوک را در یک تصویر مشخص کند، یک آریتمی احتمالی را در یک سیگنال تشخیص دهد. این ممکن است الگویی را نشان دهد که ممکن است در یک کلینیک شلوغ نادیده گرفته شود. اما همین مدل با اطمینان میتواند یافتهای غیرموجود ایجاد کند (این پدیده توهم نامیده میشود: مدل اطلاعات غیرموجود را واقعی نشان میدهد). در این زمینه هوش مصنوعی یک ابزار فرضیه و اولویت بندی است نه تصمیم گیرنده.
شتاب دهنده پیش نویس هوش مصنوعی در ارتباطات و اسناد. بخش روشهای گزارش اعتبارسنجی، خلاصه ادبیات، یا اولین پیشنویس تحلیل ریسک را در چند دقیقه تولید میکند. خطری که در اینجا وجود دارد این است که منابع ساخته شده و اعداد نادرست می توانند بدون توجه به یک متن روان بروند.
انضباط اعتبارسنجی: قانون سه لنگر
قلب این ماژول یک عادت واحد است: عدم استفاده از خروجی هوش مصنوعی در یک تصمیم بالینی یا مهندسی بدون تایید آن. ما اعتبار سنجی را بر اساس سه لنگر مستقل قرار می دهیم.
لنگر اول - ترتیب فیزیولوژیکی قدر. آیا نتیجه در محدوده شناخته شده فیزیولوژی انسان است؟ ضربان قلب در حالت استراحت معمولاً 50-100 ضربه در دقیقه است. اگه مدل 400 میده یا آرتیفکت هست یا خطای ویرایش. دمای بدن بزرگسالان در باند 36-38 درجه سانتیگراد است. 45 درجه سانتی گراد از نظر فیزیولوژیکی با موجودات زنده ناسازگار است. حجم کل خون یک فرد بالغ تقریباً 5 لیتر است. این بررسی چند ثانیه طول می کشد و اکثر خطاها را می گیرد.
لنگر دوم - قابل قبول بودن بالینی. آیا خروجی با سابقه بالینی و منطق پزشکی بیمار مطابقت دارد؟ اگر مدل "اطمینان بالا" را یک یافته پیشرفته برای یک بیمار 25 ساله بدون علامت پیشنهاد می کند، احتمال پیش آزمون کم است و این سیگنال با شک اضافی مشاهده می شود. سن، جنسیت، سابقه و علائم، فیلتر قابل قبولی هستند که هر تفسیری باید از آن عبور کند.
لنگر سوم - شواهد مستقل. این قوی ترین لنگر است. یک تست استاندارد مرجع، یک روش تصویربرداری دوم، تایید آزمایشگاهی، یک نظر دوم متخصص. یافتههای پرچمگذاری شده توسط هوش مصنوعی در برابر روش استاندارد طلایی یا ارزیابی مستقل توسط یک متخصص آزمایش میشود. حقیقت بالینی همیشه برنده است.
سه مورد کوچک: با اعداد
مورد 1 - صرفه جویی در زمان در پیش پردازش سیگنال. یک مهندس بالینی برای یک مطالعه تحقیقاتی، مصنوعات را در 320 نوار ضبط شده ECG به صورت دستی تقسیم بندی و علامت گذاری می کرد. به طور متوسط 7 دقیقه در هر ضبط، تقریباً 37 ساعت در کل. با یک گردش کار پیش پردازش مبتنی بر هوش مصنوعی، نشانه گذاری پیش نویس اول را به 40 ثانیه در هر رکورد کاهش داد و زمان باقی مانده را به بازرسی بصری اختصاص داد. کل زمان به حدود 12 ساعت کاهش یافت. آنچه مهم بود این بود که زمان صرفه جویی شده صرف تأیید اعتبار می شد.
مورد 2 - توهم ضبط شده. هنگامی که یک مهندس زیست پزشکی خلاصهای از ادبیات را برای گزارش ارزیابی بالینی یک دستگاه درخواست کرد، متن شامل جمله «یلماز و همکاران 2019 حساسیت 98 درصدی را گزارش کرد» بود. چنین مقاله ای وجود نداشت. مدل انتساب را با تقلید از یک الگوی واقعی ساخته بود. تأیید منبع (DOI و بررسی مجله) این خطا را قبل از امضای گزارش دریافت کرد.
مورد 3 - خطای واحد. در کمک محاسبه دوز، مدل حجم توصیه شده را 1000 برابر با اشتباه گرفتن غلظت دارو با میکروگرم در میلی لیتر به جای mg/ml تغییر داد. بررسی ترتیب فیزیولوژیکی بزرگی - "به یک بزرگسال 2 میلی لیتر داده می شود، نه 2 لیتر" - بلافاصله خطا را آشکار کرد. این محاسبه همچنان برای تایید نزد داروساز و پزشک رفت. هوش مصنوعی صرفا یک ابزار کنترل میانی بود.
اعلان ضعیف / اعلان قوی
اعلان ضعیف:
به داده های این بیمار نگاه کنید و تشخیص او را بیان کنید.[data]
اعلان قدرتمند:
نقش شما: شما یک تحلیلگر داده های زیست پزشکی هستید (شما تشخیص نمی دهید). اندازه گیری های ناشناس زیر را فقط بر اساس داده های ارائه شده خلاصه کنید. - تشخیص ندهید؛ فقط یافته های عددی و مقایسه محدوده نرمال را ارائه دهید. - هیچ یافته، ارزش یا داستانی را که در داده ها نیست اضافه نکنید. - خط داده ای را که بر اساس آن هستید با پرانتز در کنار هر مشاهده نشان دهید. - در جای نامشخص «داده ناکافی» را بنویسید. - در پایان: یک لیست جداگانه از 3 نکته تهیه کنید که پزشک باید آنها را تأیید کند. داده های ناشناس: [اندازه گیری]
اعلان قدرتمند سه چیز را به مدل تحمیل میکند: پایبندی به منبع، عدم فرض مرجعیت تشخیصی، و علامتگذاری موارد برای تأیید. این توهم را به طور کامل پایان نمی دهد، اما آن را قابل مشاهده می کند و نقش را به درستی قرار می دهد.
چهار قالب قابل کپی
1) ایجاد زمینه ناشناس:
من برای یک ماموریت زیست پزشکی کمک می خواهم. نام بیمار، هویت، تاریخ و اطلاعات موسسه محرمانه است. من آنها را با عبارات نماینده ای مانند "بیمار-A"، "روز-0" می دهم. جستار: [پرسش]. فقط به داده های فنی ناشناس ارائه شده تکیه کنید.
2) سه درخواست تأیید لنگر:
سه بررسی برای خروجی زیر انجام دهید: 1) ترتیب فیزیولوژیکی بزرگی: آیا هر عدد در محدوده انسان است؟ اگر نه، علامت بزنید. 2) معقول بودن بالینی: آیا ادعاهایی مغایر با سن/تاریخچه/علائم وجود دارد؟ 3) فهرست تایید: مواردی که باید توسط آزمایش/کارشناس مستقل تایید شوند.
3) اعمال ابهام:
تفسیر خود را در سه سطح اطمینان ارائه دهید: - اطمینان بالا (به طور مستقیم توسط داده ها پشتیبانی می شود) - اعتماد متوسط (استنتاج معقول) - گمانه زنی (داده های اضافی/آزمایش مورد نیاز) وظیفه: [وظیفه]. داده ها: [داده های ناشناس]
4) تمایز تصمیم/حمایت:
کار زیر را به دو قسمت تقسیم کنید: الف) کار داده/پیش نویسی که هوش مصنوعی می تواند با اطمینان انجام دهد ب) نقاط تصمیم گیری که تأیید پزشک/مهندس مجاز برای آنها الزامی است شرح وظیفه: [تعریف]
نقش هوش مصنوعی: ریسک بر اساس نوع ماموریت
نوع وظیفه
سهم هوش مصنوعی
سطح ریسک
تراکم تأیید
پیش پردازش سیگنال/تصویر
بالا
پایین
چک نقطه ای
یافتن علامت گذاری اولیه
بالا
متوسط
متخصص + معقول
امتیازدهی پیش بینی/خطر
متوسط
بالا
کالیبراسیون + مستقل
تصمیم تشخیص/درمان
محدود است
بسیار بالا
تاییدیه کامل پزشک
پیش نویس گزارش/ادبیات
بالا
متوسط
تایید منبع
تصمیم امنیتی دستگاه
محدود است
بسیار بالا
استاندارد + V&V + تایید
نکته: برای تعیین سطح خطر یک کار، یک سوال بپرسید: "اگر این خروجی نادرست باشد چه اتفاقی برای بیمار می افتد؟" اگر پاسخ «چند دقیقه از دست میدهم» است، به آرامی تأیید کنید. اگر "یک بیمار ممکن است آسیب ببیند"، خروجی را به عنوان یک فرضیه در نظر بگیرید و آن را از طریق فرآیند کامل بالینی/مهندسی اجرا کنید.
توجه: خطرناک ترین ویژگی هوش مصنوعی این نیست که اشتباه می کند، بلکه این است که با اطمینان و به زبان پزشکی اشتباه می کند. یک متن روان، فنی و حرفه ای به معنای صحیح بودن آن نیست. به شواهد اعتماد کنید، نه سبک.
اشتباهات رایج
- اشتباه گرفتن تسلط با دقت مهم نیست که متن چقدر پزشکی به نظر می رسد، ادعاهای واقعی (ارزش، یافته، منبع، دوز) باید به طور مستقل تأیید شوند.
- عدم مقیاس بندی ریسک بر اساس نوع کار. نگاه کردن به حساب دوز مانند پیش نویس ایمیل. اعتبارسنجی با آسیب احتمالی به بیمار مقیاس می شود.
- وارد کردن اطلاعات بیمار بدون فکر کردن داده های بهداشتی داده های شخصی ویژه هستند. قبل از ورود به وسیله نقلیه کنترل نشده ناشناس شوید.
- دادن اختیار تشخیص هوش مصنوعی هوش مصنوعی تشخیص نمی دهد. فرضیه ایجاد می کند تشخیص و تصمیمات درمانی به پزشک تعلق دارد.
- نادیده گرفتن عدم قطعیت فقط به این دلیل که مدل "مطمئن" به نظر می رسد به این معنی نیست که عدم اطمینان از بین می رود. سطح و محدوده اطمینان را بخواهید.
به طور خلاصه
- اندازه گیری های زیست پزشکی غیر مستقیم و پر سر و صدا هستند. هوش مصنوعی می تواند هم سرعت آنها را افزایش دهد و هم خطاهای آنها را پنهان کند.
- هوش مصنوعی ایمنترین و سودآورترین در تهیه دادهها، ارزشمندترین اما خطرناکترین در تفسیر/تحلیل و شتابدهنده در مستندسازی است.
- هر نتیجه با سه لنگر تأیید می شود: ترتیب فیزیولوژیکی بزرگی، قابل قبول بودن بالینی، شواهد مستقل.
- خطر یک نتیجه برابر با آسیبی است که در صورت نادرست بودن برای بیمار ایجاد می کند. بر این اساس مقیاس اعتبار سنجی.
- هوش مصنوعی تشخیص نمی دهد. هر تصمیمی در مورد ایمنی بیمار با تایید پزشک و مهندس مجاز گرفته می شود.
وظیفه کاربردی
پنج کار بیوپزشکی را که در یک هفته از محل کار خود انجام می دهید (به عنوان مثال پاکسازی سیگنال، یافتن قبل از پرواز، بخش گزارش، حاشیه نویسی خطر، آزمایش دستگاه) فهرست کنید. هر کدام را مطابق جدول این بخش در سطح خطر قرار دهید و بپرسید "اگر اشتباه باشد برای بیمار چه می شود؟" در یک جمله به سوال پاسخ دهید. سپس یک اعلان قوی و ناشناس برای کار با کمترین خطر بنویسید و آن را امتحان کنید. خروجی را با سه لنگر بررسی کنید و توجه داشته باشید که کدام لنگر مشکل دارد.
چک لیست
- [ ] من می توانم تشخیص دهم که هوش مصنوعی کجا ارزش ایمن و کجا پرخطر در جریان کار زیست پزشکی ایجاد می کند.
- [ ] من این رفلکس را به دست آورده ام تا هر نتیجه ای را با بزرگی فیزیولوژیکی، قابل قبول بودن بالینی و شواهد مستقل تأیید کنم.
- [ ] سطح خطر یک کار "اگر اشتباه شود برای بیمار چه اتفاقی می افتد؟" من می توانم با سوال تعیین کنم.
- [ ] من می دانم که توهم و عدم اطمینان چیست و چگونه آنها را قابل مشاهده کنم.
- [ ] من درونی کرده ام که هوش مصنوعی تشخیص نمی دهد و تصمیم تشخیص/درمان بر عهده پزشک است.