مقدمه ای بر هوش مصنوعی در داروسازی: مرزها، اعتبارسنجی، مسئولیت و اخلاق

سود:

• با توجه به سطح خطر، توانایی تشخیص اینکه هوش مصنوعی در چه مکان هایی در زمان واقعی در جریان کار داروخانه صرفه جویی می کند و در کجا مسئولیت حیاتی ایمنی باید با داروساز و پزشک ذیصلاح باقی بماند.
• توانایی اجرای یک رشته تأیید چند لایه که هر خروجی هوش مصنوعی را در برابر اطلاعات به‌روز محصول (SPC/KT)، قوانین قابل اجرا و کنترل متخصص مستقل آزمایش می‌کند.
• توانایی به دست آوردن عادت انتخاب ابزارهای ایمن از نظر ناشناس سازی زمینه، حریم خصوصی (KVKK) و اخلاقیات برای محافظت از داده های شخصی و سلامتی بیمار.

داروسازی حرفه ای است امانت دار که بیمار را پشت نسخه می بیند و دارو را به شیوه ای مطمئن، دقیق و منطقی به او تحویل می دهد. منشأ این اعتماد این است که داروساز هر تصمیمی را مبتنی بر دانش و مسئولیت است. هوش مصنوعی (به اختصار AI؛ نرم افزاری که الگوها را از داده ها می آموزد و متن، جداول و پیشنهادات را تولید می کند) به عنوان یک دستیار بسیار قدرتمند وارد این حرفه می شود: اسکن یک تعامل، نوشتن متن اطلاعات بیمار، تهیه پیش نویس اعلان، خلاصه کردن یک متن قانونی. اما هوش مصنوعی یک داروساز نیست. نه مسئولیت می پذیرد، نه مدرک تحصیلی می گیرد و نه قانوناً مقابل بیمار می ایستد. در این بخش، یاد خواهید گرفت که کجا از هوش مصنوعی در تجارت داروسازی استفاده کنید، کجا ایستاده و چگونه هر خروجی را تأیید کنید. هدف این است که شما را به یک حرفه ای تبدیل کنیم که هوش مصنوعی را کنترل می کند، نه وابسته به آن.

هوش مصنوعی در داروسازی چه کاری می تواند انجام دهد و چه کاری نمی تواند انجام دهد؟

قدرت واقعی هوش مصنوعی تولید زبان، الگوها و طرح‌های اولیه است. بروشور متن مشاوره بیمار، چارچوب گزارش عوارض جانبی (عوارض جانبی)، مصرف منطقی دارو (RAH؛ اصل استفاده از دارو با داروی مناسب، دوز مناسب، برای مدت زمان مناسب)، جدول تجزیه و تحلیل موجودی، و خلاصه ادبیات در چند ثانیه ظاهر می‌شود. در این کارها، هوش مصنوعی باعث صرفه جویی در ساعات شما می شود و بار ذهنی را کاهش می دهد.

کاری که هوش مصنوعی نمی تواند انجام دهد تصمیمی است که مستلزم مسئولیت بالینی است. تنظیم دوز بیمار بر اساس عملکرد کلیه، اینکه آیا تداخل دو دارو از نظر بالینی برای آن بیمار مهم است، ایمنی یک دارو در یک زن باردار، اینکه آیا یک نسخه باید تایید شود. هیچ یک از اینها را نمی توان با منطق "اینطوری که معمولاً اتفاق می افتد" تعیین کرد. هوش مصنوعی توهم می‌زند زیرا از متون موجود در اینترنت و کتاب‌ها یاد می‌گیرد: یعنی می‌تواند دوز، تعامل یا منبع نادرستی ایجاد کند که واقعی به نظر می‌رسد اما نادرست است. در داروخانه، این نوع خطا فقط یک اشتباه تایپی نیست. دوز اشتباه به معنای عوارض جانبی جدی یا حتی آسیب به بیمار است.

توجه: خروجی هوش مصنوعی یک پیش نویس است، نه یک نظر متخصص. هیچ تصمیم مهم ایمنی در مورد دارو، دوز و درمان را نمی توان بدون تأیید داروساز و پزشک ذیصلاح اتخاذ کرد. تصمیم برای تشخیص و درمان متعلق به انسان است. هوش مصنوعی جایگزین این رضایت نمی شود.

سه منطقه با توجه به سطح خطر

عملی ترین راه برای استفاده ایمن از هوش مصنوعی این است که هر کار را بر اساس سطح ریسک به سه منطقه تقسیم کنید. این تمایز پاسخی سریع و دقیق به این سوال ارائه می دهد که "آیا هوش مصنوعی باید این کار را انجام دهد؟"

منطقه

نمونه کارها

نقش هوش مصنوعی

سطح تأیید

سبز (کم خطر)

پیش نویس وبلاگ، برچسب قفسه، یادداشت جلسه، ایمیل، متن اطلاعات عمومی

تولید رایگان

بررسی سریع

زرد (خطر متوسط)

متن اطلاعات بیمار، خلاصه قانونگذاری، تجزیه و تحلیل سهام، خلاصه ادبیات، پیش نویس اطلاع رسانی

پیش نویس + پیشنهاد

کنترل خبره + تاییدیه SmPC/منبع

قرمز (امنیتی حیاتی)

تعیین دوز، تصمیم تداخل، تایید نسخه، ارزیابی گروه ویژه (باردار/کودک/نارسایی)

فقط پیش نمایش/چک لیست

تایید داروساز ذیصلاح و در صورت لزوم پزشک الزامی است.

در منطقه سبز سریع باشید. از هوش مصنوعی در منطقه زرد استفاده کنید، اما هر ادعا و منبع پزشکی را بررسی کنید. در منطقه قرمز، هوش مصنوعی هرگز حرف آخر را نمی‌زند. این صرفا کمکی است که کار متخصص را سرعت می بخشد.

رشته تأیید چند لایه

تأیید چیزی نیست که بتوان آن را به تعویق انداخت و فکر کرد "بعداً بررسی خواهم کرد". بخشی از گردش کار است. اعتبار سنجی قوی در داروخانه شامل پنج لایه است:

1. بازگشت به منبع. اگر هوش مصنوعی دوز، تداخل یا شرایطی داده است، آن را از اطلاعات فعلی محصول (SmPC: اطلاعات خلاصه محصول، اطلاعات رسمی دارو برای پزشک. KT: دستورالعمل استفاده؛ برای بیمار) یا دستورالعمل/قانون قابل اجرا باز کنید و تأیید کنید.
2. حساب مستقل دوز یا غلظت (mg/kg, ml, %) را مجدداً به صورت دستی یا با استفاده از یک روش معتبر محاسبه کنید.
3. تست با زمینه بیمار این ادعا را با سن، وزن، عملکرد کلیه/کبد، بارداری و سایر داروها این بیمار واقعی مقایسه کنید.
4. چشم متخصص اگر تصمیم بالینی است و تردید وجود دارد، با پزشک مشورت کنید. تایید نهایی با داروساز ذیصلاح است.
5. نشان خود را بگذارید. ضبط کنید که کدام خروجی و چگونه تایید شده است. بذار بعدا بررسی بشه

نکته: "هوش مصنوعی گفت" یک توجیه نیست. توجیه تصمیم داروخانه همیشه SmPC/PI فعلی، دستورالعمل/قانون گذاری فعلی، محاسبه مستقل یا تاییدیه متخصص صالح است. هوش مصنوعی به شما کمک می کند تا این توجیهات را آماده کنید، اما جایگزین آنها نمی شود.

حریم خصوصی، KVKK و اخلاق

داده های سلامت حساس ترین نوع داده های شخصی است. این موضوع به عنوان "داده های شخصی ماهیت ویژه" در قانون تحت بالاترین حمایت قرار دارد. نام بیمار، شماره TR ID، تشخیص، داروهای استفاده شده؛ همه اینها محرمانه است. قبل از دادن این داده ها به ابزار هوش مصنوعی مبتنی بر ابر، سه سوال بپرسید: آیا این داده ها واقعا ضروری هستند؟ آیا می توان آن را ناشناس کرد؟ آیا ابزاری که من استفاده می کنم از داده ها در آموزش استفاده می کند؟

بعد اخلاقی به همین جا ختم نمی شود. هوش مصنوعی نمی تواند به طور مستقیم بیمار را تشخیص دهد، درمان را توصیه کند یا پزشک را جایگزین کند. حتی برای محصولات بدون نسخه (OTC)، انتقال خروجی هوش مصنوعی به بیمار بدون عبور از فیلتر داروساز غیرمسئولانه است. از هوش مصنوعی به عنوان یک ابزار داخلی استفاده کنید. هرگز قضاوت حرفه ای بین خود و بیمار را نادیده نگیرید.

سه کیف کوچک

مورد 1 - اعتبار سنجی یک خطا را نشان می دهد. یک داروساز برای بررسی سریع دوز برای یک کودک 18 کیلوگرمی با هوش مصنوعی مشورت کرد. هوش مصنوعی به اشتباه دوز کلی 150 میلی گرم را به جای 15 میلی گرم بر کیلوگرم پیشنهاد کرد. داروساز پرینت را به عنوان یک پیش نویس در نظر گرفت و یک محاسبه مستقل انجام داد: 18 × 15 = 270 میلی گرم در روز. او تفاوت را دید، آن را در SPC تایید کرد و دوز صحیح را اعمال کرد. بدون نظم و انضباط تأیید، کودک تقریباً نیمی از دوز را دریافت می کرد. اعتماد کور به هوش مصنوعی باعث ایجاد خطا می شود.

مورد 2 - حفاظت از محرمانه بودن. داروسازي قصد داشت نام و شماره شناسايي بيمار را بنويسد در حالي كه از هوش مصنوعي در مورد يك مورد پيچيده سوال مي كرد. به لطف عادت خود به ناشناس سازی، او این موارد را با معادل های بالینی مانند «65 ساله، مرد، بیماری مزمن کلیوی» جایگزین کرد. کیفیت خروجی هرگز کاهش نیافته است، اما داده های خصوصی بیمار به هیچ ابری نمی رود. محرمانه بودن بدون به خطر انداختن کیفیت نتایج محافظت شد.

مورد 3 - سرعت در منطقه سبز. همان داروخانه یک روش تحویل با زنجیره سرد برای کارکنان می نویسد. این ماموریت کم خطر (منطقه سبز) بود. داروساز یک پیش نویس از هوش مصنوعی گرفت و آن را با جریان واقعی تطبیق داد و کار ساعتی را به نیم ساعت کاهش داد. از آنجایی که او منطقه بندی صحیح را می دانست، به اینجا سرعت داد، در حالی که در یک تصمیم بالینی، او سرعت خود را کاهش می داد و تأیید می کرد.

گام به گام: معرفی ایمن هوش مصنوعی در یک کار

1. وظیفه را در منطقه قرار دهید. سبز، زرد یا قرمز؟
2. ناشناس کردن زمینه نام واقعی، شناسه، شناسه و اطلاعات شخصی را پاک کنید.
3. مختصری واضح بیان کنید. مشخصات بیمار (سن، وزن، عملکرد)، هدف و قالب را به وضوح بنویسید.
4. خروجی را یک پیش نویس در نظر بگیرید. هرگز از آن مانند محصول نهایی استفاده نکنید.
5. لایه های تأیید را اعمال کنید. منبع، حساب، زمینه بیمار، متخصص، ردیابی.
6. تصمیم و دلیل آن را یادداشت کنید.

چهار قالب قابل کپی

نقش: شما یک دستیار داروخانه هستید (تصمیمات بالینی نمی گیرید). وظیفه: یک پیش نویس برای [وظیفه] تهیه کنید. زمینه: سن بیمار [...]، وزن [...]، وضعیت کلیه/کبد [...]، سایر داروها [...]. (هیچ اطلاعات شناسایی واقعی وجود ندارد.) قانون: برای هر دوز/تداخل/شرایطی که مطمئن نیستید، برچسب "SmPC/SOURCE COFIRMATION Requireded" را بزنید. قالب: در نقاط گلوله، با توجیه.

وظیفه: فهرست ادعاهای پزشکی، مقادیر دوز، و مراجع نظارتی را در متن زیر فهرست کنید. برای هر یک یادداشت «منبع باید تأیید شود» اضافه کنید. خودتان آن را تأیید نکنید، فقط آن را علامت بزنید. متن: [...]

وظیفه: این خروجی هوش مصنوعی را با توجه به سطح خطر از دید یک داروساز طبقه بندی کنید. برای هر مورد: سبز / زرد / قرمز و یک جمله را توجیه کنید. در موارد قرمز عبارت «تأیید داروساز/پزشک واجد شرایط لازم است» را بنویسید. خروجی: [...]

وظیفه: متن بیمار/نسخه زیر را ناشناس کنید. نام واقعی، شناسه، آدرس، تلفن و شناسه را با [TAGET] جایگزین کنید. حفظ معنای بالینی متن: [...]

اعلان ضعیف / اعلان قوی

ضعیف: "به این مریض چه دارویی بدهم؟"

گوچلو: "برای یک بیمار 65 ساله با کلیرانس تخمینی کراتینین 40 میلی لیتر در دقیقه، با استفاده از وارفارین و متفورمین، تداخلات احتمالی یک آنتی بیوتیک جدید تجویز شده توسط پزشک و نیاز به تنظیم دوز را به عنوان یک غربالگری قبل فهرست کنید. بیان کنید که هر مورد باید تایید شود تا یک تصمیم را حذف نکنید."

در اعلان قدرتمند، زمینه بیمار، تعداد، محدودیت و محدودیت به وضوح داده شده است. مشخص است که هوش مصنوعی در کجا قرار خواهد گرفت و تصمیم گیری به عهده داروساز است.

اشتباهات رایج

• اشتباه گرفتن خروجی هوش مصنوعی با نظر متخصص هوش مصنوعی خطوط کلی را تولید می کند، نه تصمیمات بالینی.
• واگذاری تصمیم گیری های حیاتی امنیتی به هوش مصنوعی دوز، تعامل و تایید نسخه هرگز به هوش مصنوعی سپرده نمی شود.
• استفاده از اطلاعات بدون تایید SmPC/منبع. هر دوز، تداخل و شرایط باید از منبع رسمی تایید شود.
• بارگیری مستقیم داده های بیمار ناشناس سازی و انتخاب ابزار ایمن را نباید نادیده گرفت.
• متوجه توهم نشدن اگرچه هوش مصنوعی ممکن است مطمئن به نظر برسد، اما ممکن است اشتباه باشد. گزاره مطمئن دلیل بر صدق نیست.

به طور خلاصه

هوش مصنوعی یک شتاب دهنده واقعی در داروسازی است، اما جایگزینی برای یک داروساز نیست. وظایف را به مناطق سبز، زرد و قرمز تقسیم کنید. در مورد سبز سریع عمل کنید، روی زرد تأیید کنید، هرگز به هوش مصنوعی حرف آخر را در مورد قرمز ندهید. هر خروجی را یک پیش نویس در نظر بگیرید و آن را از طریق تأیید پنج لایه عبور دهید. رازداری بیمار و KVKK را جدی بگیرید. مسئولیت همیشه بر عهده داروساز و پزشک ذیصلاح است. هوش مصنوعی این مسئولیت را ندارد.

وظیفه کاربردی

سه کار را از تمرین روزانه خود انتخاب کنید (به عنوان مثال متن اطلاعات بیمار، خلاصه نظارتی، بررسی دوز بیمار). هر کدام را به عنوان سبز/زرد/قرمز طبقه بندی کنید. بنویسید که چه لایه‌های تأییدی را برای وظایف زرد و قرمز اعمال خواهید کرد و تأییدیه چه کسی برای کار قرمز لازم است. همچنین، در سیاست حفظ حریم خصوصی ابزار هوش مصنوعی که استفاده می‌کنید، توجه داشته باشید که آیا از داده‌های بیمار در آموزش استفاده می‌کند یا خیر.

چک لیست

• [ ] من کار را در منطقه خطر قرار دادم.
• [ ] من زمینه را ناشناس کردم (نام، شناسه، تشخیص واضح است).
• [ ] مختصری واضح و صبورانه ارائه دادم.
• [ ] من خروجی را به عنوان یک پیش نویس در نظر گرفتم.
• [ ] من دوز/تداخل/شرایط را از SmPC/مرجع فعلی تایید کرده ام.
• [ ] من تصمیم حیاتی ایمنی را به داروساز/پزشک صالح واگذار کردم.
• [ ] من ردیابی تأیید را ذخیره کردم.