مقدمه‌ای بر هوش مصنوعی در پزشکی: مرزها، اعتبارسنجی، مسئولیت‌پذیری و اخلاق

سود:

• توانایی تشخیص اینکه هوش مصنوعی کجاها در جریان کار بالینی در زمان واقعی صرفه جویی می کند و مسئولیت تشخیص و درمان باید با پزشک ذیصلاح باقی بماند، با توجه به سطح خطر.
• توانایی اجرای یک رشته اعتبار سنجی چند لایه که هر خروجی هوش مصنوعی را در برابر راهنمایی های فعلی، معاینه بالینی و منابع مستقل آزمایش می کند.
• توانایی به دست آوردن عادت ناشناس کردن زمینه، مطابقت با KVKK و انتخاب یک ابزار امن برای حفظ حریم خصوصی برای محافظت از داده های بیمار.

پزشکی یک زنجیره تصمیم گیری طولانی و مسئولانه است که یک شکایت را به تشخیص صحیح و تشخیص صحیح را به یک درمان ایمن تبدیل می کند. برخی از پیوندهای این زنجیره (مکاتبات، خلاصه، پیش نویس، یادآوری) می توانند به سرعت خودکار شوند. برخی از آنها هرگز نمی توانند به دستگاه منتقل شوند زیرا مستقیماً زندگی انسان را لمس می کنند. هوش مصنوعی (به اختصار AI؛ نرم‌افزاری که الگوها را از مقادیر زیادی داده یاد می‌گیرد و متن، تصویر یا کد تولید می‌کند) یک شتاب‌دهنده بسیار قدرتمند در این زنجیره است: گسترش فهرست تشخیص‌های افتراقی، تهیه پیش‌نویس epicrisis، خلاصه کردن ادبیات، ساده‌سازی یادداشت اطلاعات بیمار. اما هوش مصنوعی یک پزشک نیست. معاینه نمی کند، مسئولیت نمی پذیرد، بیمار را نمی شناسد، امضا نمی کند. در این بخش شما یاد خواهید گرفت که از هوش مصنوعی در کار بالینی کجا استفاده کنید، کجا ایستاده و چگونه هر خروجی را تأیید کنید. هدف این است که شما را به پزشکی تبدیل کنیم که هوش مصنوعی را کنترل می کند، نه فردی که به هوش مصنوعی وابسته است.

اصل کلیدی از ابتدا مشخص است: هوش مصنوعی تشخیص نمی دهد، درمان را آغاز نمی کند. تصمیمات تشخیصی و درمانی با معاینه و قضاوت بالینی یک پزشک متخصص انجام می شود. هوش مصنوعی فقط پیشنهادات و پیش نویس ها را تولید می کند.

هوش مصنوعی در پزشکی چه کاری می تواند انجام دهد و چه کاری نمی تواند انجام دهد؟

قدرت واقعی هوش مصنوعی در تولید زبان ها، الگوها و انواع آن است. یک یادآوری تشخیص افتراقی، یک شرح کلی (سابقه بیمار)، یک چارچوب epicrisis، یک خلاصه شواهد، و یک متن اطلاعات بیمار در چند ثانیه ظاهر می‌شود. در این وظایف، هوش مصنوعی می‌تواند چند دقیقه، گاهی اوقات ساعت‌ها را در شما صرفه‌جویی کند و احتمال نادیده گرفته‌شده را به شما یادآوری کند.

آنچه هوش مصنوعی نمی تواند انجام دهد قضاوت بالینی است که مستلزم مسئولیت است. دیدن، گوش دادن و لمس بیمار؛ تفسیر یافته ها در کل بیمار؛ تصمیم گیری در شرایط عدم اطمینان هوش مصنوعی توهم می‌زند زیرا از متون موجود در اینترنت و کتاب‌ها یاد می‌گیرد: یعنی می‌تواند چیزی را تولید کند که واقعی به نظر می‌رسد اما دوز اشتباه، یک اثر خیالی، یک ماده راهنما که وجود ندارد. در پزشکی، این نوع خطا فقط یک اشتباه تایپی نیست. درمان اشتباه، تشخیص اشتباه به معنای آسیب به بیمار است.

توجه: خروجی هوش مصنوعی یک پیش نویس است، نه یک نظر متخصص. هیچ تصمیم حیاتی برای ایمنی (تشخیص، درمان، دوز، تریاژ) بدون تایید یک پزشک ذیصلاح قابل اتخاذ نیست. هوش مصنوعی جایگزین این رضایت نمی شود و مسئولیت قانونی مشترک ندارد.

سه منطقه با توجه به سطح خطر

عملی ترین راه برای استفاده ایمن از هوش مصنوعی این است که هر کار را بر اساس سطح ریسک به سه منطقه تقسیم کنید. این تمایز به این خلاصه می شود که "آیا هوش مصنوعی باید این کار را انجام دهد؟" به سوالات سریع و دقیق پاسخ می دهد.

منطقه

نمونه کارها

نقش هوش مصنوعی

سطح تأیید

سبز (کم خطر)

یادداشت جلسه، ساده‌سازی زبان، پیش‌نویس ایمیل، قالب‌بندی، خلاصه آموزش

تولید رایگان

بررسی سریع

زرد (خطر متوسط)

پیش نویس آنامنز/اپیکریزیس، خلاصه ادبیات، یادداشت اطلاعات بیمار، یادآوری تشخیص افتراقی، توصیه کدگذاری

پیش نویس + پیشنهاد

کنترل پزشک + تایید منبع

قرمز (امنیتی حیاتی)

تشخیص قطعی، تصمیم درمان/دوز، تریاژ، نسخه، گزارش تصویربرداری

فقط پیش اسکن/یادآوری

معاینه و تایید پزشک صالح الزامی است

در منطقه سبز سریع باشید. از هوش مصنوعی در منطقه زرد استفاده کنید، اما تمام اطلاعات پزشکی و منبع را تأیید کنید. در منطقه قرمز، هوش مصنوعی هرگز حرف آخر را نمی‌زند. این فقط کمکی است که کار پزشک را سرعت می بخشد.

رشته تأیید چند لایه

تأیید چیزی نیست که بتوان آن را به تعویق انداخت و فکر کرد "بعداً بررسی خواهم کرد". بخشی از گردش کار است. یک تایید جامد از پنج لایه تشکیل شده است:

1. بازگشت به منبع. اگر هوش مصنوعی دوز، معیارهای تشخیصی یا توصیه‌ای داده است، آن را در دستورالعمل بالینی فعلی، درج بسته یا مقاله اولیه تأیید کنید.
2. آن را به صورت بالینی آزمایش کنید. توصیه را با یافته های معاینه واقعی، آزمایشگاه و تصویربرداری بیمار مقایسه کنید. پیشنهادی که مطابقت نداشته باشد رد می شود.
3. حساب مستقل یک نتیجه عددی (دوز، کلیرانس کراتینین، محاسبه مایعات) را خودتان یا با یک ابزار معتبر دوباره محاسبه کنید.
4. چشم متخصص اگر تصمیم مربوطه در تخصص شاخه دیگری (رادیولوژی، قلب، پاتولوژی) است، با آن متخصص مشورت کنید یا آن را تایید کنید.
5. نشان خود را بگذارید. در فایل دقت کنید که کدام خروجی و چگونه تایید شده است. بذار بعدا بررسی بشه

اشاره: "AI گفت" یک توجیه نیست. منطق تصمیم بالینی همیشه معاینه، راهنمایی فعلی، آزمایشگاه/تصویربرداری یا نظر متخصص صالح است. هوش مصنوعی به شما کمک می کند تا این توجیهات را تهیه کنید، اما جایگزین آنها نمی شود.

سه کیف کوچک

مورد 1 - استفاده صحیح که باعث صرفه جویی در زمان می شود. یک پزشک عمومی که در حال نوشتن اپیکریزی از یک بیمار 42 ساله با سرفه 3 روزه و تب 38.2 درجه سانتیگراد است، از هوش مصنوعی با یک زمینه ناشناس درخواست می کند. هوش مصنوعی در 4 دقیقه یک اسکلت epicrisis منظم تولید می کند. دکتر هر خط را با پرونده واقعی مقایسه می کند، 2 اصلاح کوچک انجام می دهد و آن را امضا می کند. زمان کل از 25 دقیقه به 8 دقیقه کاهش می یابد. تصمیم و مسئولیت با پزشک است. هوش مصنوعی فقط تایپ را سریعتر کرده است.

مورد 2 - توهم گرفتار شد. یک پزشک برای یک سندرم نادر از منابع هوش مصنوعی درخواست می کند. هوش مصنوعی 3 مقاله بسیار قانع کننده با عنوان "مجله پزشکی نیوانگلند 2021" ارائه می دهد. پزشک این موارد را در PubMed جستجو می کند. 2 تای آنها اصلا وجود ندارند، نتیجه 1 دقیقا برعکس است. هوش مصنوعی زبان امنی ساخته بود. اگر تأییدی وجود نداشت، این منابع در یک مجموعه گنجانده می شد.

مورد 3 - مرز منطقه قرمز. در اتاق اورژانس، یک پزشک از هوش مصنوعی می‌خواهد که تریاژ بیمار مبتلا به درد قفسه سینه را تسریع کند. هوش مصنوعی می گوید "خطر کم". پزشک همچنان نوار قلب می گیرد و تروپونین را تجویز می کند. تروپونین بالاست، سندرم کرونری حاد تشخیص داده می شود. خروجی هوش مصنوعی نمی تواند سوء ظن بالینی را از بین ببرد. در منطقه قرمز، تصمیم گیری متعلق به پزشک است.

گام به گام: معرفی ایمن هوش مصنوعی در یک کار

1. وظیفه را در منطقه قرار دهید. سبز، زرد یا قرمز؟
2. ناشناس کردن زمینه شناسه هایی مانند نام، شناسه TR، شماره فایل (KVKK) را پاک کنید.
3. مختصری واضح بیان کنید. زمینه بالینی، سوال و قالب مورد نظر را به وضوح بنویسید.
4. خروجی را یک پیش نویس در نظر بگیرید. هرگز از آن به عنوان تصمیم نهایی استفاده نکنید.
5. لایه های تأیید را اعمال کنید. منبع، درمانگاه، حساب، کارشناس، ردیابی.
6. تصمیم و دلیل آن را یادداشت کنید.

چهار قالب قابل کپی

نقش: شما یک دستیار نگارش بالینی هستید، نه یک پزشک. وظیفه: یک پیش نویس برای [وظیفه] تهیه کنید. زمینه (ناشناس): سن [...]، جنسیت [...]، شکایت [...]، یافته ها [...]. قانون: برچسب "تأیید لازم است" برای هر دوز/تشخیص/منبعی که در تشخیص آن مطمئن نیستید، B. فقط پیشنهادات و پیش نویس ها را ارائه دهید. قالب: در نقاط گلوله، با دلایل.

وظیفه: فهرستی از تمام ادعاهای پزشکی، مقادیر دوز، معیارهای تشخیصی، و استناد به منبع در متن زیر. برای هر یک یادداشت «منبع باید تأیید شود» اضافه کنید. خودتان آن را تأیید نکنید، فقط آن را علامت بزنید. متن: [...]

وظیفه: این خروجی هوش مصنوعی را بر اساس سطح خطر از دیدگاه پزشک طبقه بندی کنید. برای هر مورد: سبز / زرد / قرمز و یک جمله را توجیه کنید. در اقلام قرمز رنگ "معاینه و تایید پزشک واجد شرایط لازم است" را بنویسید. خروجی: [...]

وظیفه: متن بیمار/مورد زیر را ناشناس کنید. شناسه هایی مانند نام، نام خانوادگی، شناسه TR، شماره پرونده، آدرس، تلفن و تاریخ را با [LABEL] جایگزین کنید. معنای بالینی را حفظ کنید. متن: [...]

اعلان ضعیف / اعلان قوی

ضعیف: "این مریض چی داره، تشخیصش چیه؟"

قوی: "احتمال تشخیص افتراقی برای یک مورد ناشناس را به عنوان یادآوری فهرست کنید: 55 ساله، مرد، تنگی نفس فزاینده به مدت 2 هفته، ادم در ساق پا، سابقه مصرف سیگار.

در اعلان قوی، زمینه، مرز و خروجی مورد انتظار واضح است. مشخص است که هوش مصنوعی در کجا قرار خواهد گرفت.

اشتباهات رایج

• اشتباه گرفتن خروجی هوش مصنوعی با نظر متخصص هوش مصنوعی طرح ها و پیشنهادات را تولید می کند، نه تشخیص.
• واگذاری تصمیم گیری های حیاتی ایمنی به هوش مصنوعی. تشخیص، درمان، دوز، تریاژ هرگز به هوش مصنوعی واگذار نمی شود.
• استفاده از اطلاعات بدون تایید منبع هر دوز، معیار و مرجع باید از منبع فعلی تأیید شود.
• بارگیری مستقیم داده های بیمار ناشناس سازی و انتخاب وسیله نقلیه مطابق با KVKK را نباید نادیده گرفت.
• متوجه توهم نشدن اگرچه هوش مصنوعی ممکن است مطمئن به نظر برسد، اما ممکن است اشتباه باشد. گزاره مطمئن دلیل بر صدق نیست.

به طور خلاصه

هوش مصنوعی یک شتاب دهنده واقعی در پزشکی است، اما جایگزینی برای یک پزشک نیست. وظایف را به مناطق سبز، زرد و قرمز تقسیم کنید. در مورد سبز سریع عمل کنید، روی زرد تأیید کنید، هرگز به هوش مصنوعی حرف آخر را در مورد قرمز ندهید. هر خروجی را یک پیش نویس در نظر بگیرید و آن را از طریق تأیید پنج لایه عبور دهید. حریم خصوصی بیمار و KVKK را جدی بگیرید. مسئولیت تشخیص و درمان همیشه بر عهده پزشک ذیصلاح است. هوش مصنوعی این مسئولیت را ندارد.

وظیفه کاربردی

سه کار را از تمرین خود انتخاب کنید (مثلاً نگارش epicrisis، خلاصه ادبیات، کنترل دوز). هر کدام را به عنوان سبز/زرد/قرمز طبقه بندی کنید. بنویسید که چه لایه‌های تأییدی را برای کارهای زرد و قرمز اعمال می‌کنید و چه مواردی نیاز به بازرسی/تأیید در کار قرمز دارد. همچنین، در سیاست حفظ حریم خصوصی ابزار هوش مصنوعی که استفاده می‌کنید، توجه داشته باشید که آیا از داده‌ها در آموزش استفاده می‌کند یا خیر.

چک لیست

• [ ] من کار را در منطقه خطر قرار دادم.
• [ ] من زمینه را ناشناس کردم (KVKK).
• [ ] من یک خلاصه واضح و مرتبط بالینی ارائه کردم.
• [ ] من خروجی را به عنوان یک پیش نویس در نظر گرفتم.
• [ ] من دوز/تشخیص/منابع را از منبع فعلی تایید کردم.
• [ ] من پیشنهاد را با یافته های بالینی واقعی بیمار آزمایش کردم.
• [ ] من تصمیم حیاتی ایمنی را با معاینه و تأیید یک پزشک واجد شرایط بستم.
• [ ] من ردیابی تأیید را در فایل ذخیره کردم.