مقدمة للذكاء الاصطناعي في الطب: الحدود والتحقق والمسؤولية والأخلاق

المكاسب:

• القدرة على التمييز بين أين يوفر الذكاء الاصطناعي الوقت الحقيقي في سير العمل السريري وأين يجب أن تظل مسؤولية التشخيص والعلاج على عاتق الطبيب المختص، وفقًا لمستوى المخاطر.
• القدرة على تنفيذ نظام التحقق متعدد الطبقات الذي يختبر كل مخرجات الذكاء الاصطناعي مقابل التوجيهات الحالية والفحص السريري والمصادر المستقلة
• القدرة على اكتساب عادة إخفاء هوية السياق والامتثال لـ KVKK واختيار أداة آمنة للخصوصية لحماية بيانات المريض.

الطب عبارة عن سلسلة قرارات طويلة ومسؤولة تحول الشكوى إلى تشخيص صحيح، والتشخيص الصحيح إلى علاج آمن. بعض الروابط في هذه السلسلة (المراسلات، الملخص، المسودة، التذكير) يمكن أن تصبح آلية بسرعة؛ لا يمكن أبدًا نقل بعضها إلى الآلة لأنها تمس حياة الإنسان بشكل مباشر. يعد الذكاء الاصطناعي (اختصارًا الذكاء الاصطناعي؛ البرنامج الذي يتعلم الأنماط من كميات كبيرة من البيانات ويولد نصوصًا أو صورًا أو أكوادًا برمجية) مسرعًا قويًا للغاية في هذه السلسلة: توسيع قائمة التشخيص التفريقي، وصياغة الملخص، وتلخيص الأدبيات، وتبسيط مذكرة معلومات المريض. لكن الذكاء الاصطناعي ليس طبيبا؛ لا يفحص، لا يتحمل المسؤولية، لا يعرف المريض، لا يوقع. ستتعلم في هذه الوحدة مكان استخدام الذكاء الاصطناعي في العمل السريري، وأين تقف وكيفية التحقق من صحة كل مخرجات. الهدف هو أن تصبح طبيبًا يتحكم في الذكاء الاصطناعي، وليس شخصًا يعتمد عليه.

المبدأ الأساسي واضح منذ البداية: الذكاء الاصطناعي لا يقوم بالتشخيص، ولا يبدأ العلاج. يتم اتخاذ قرارات التشخيص والعلاج من خلال الفحص والحكم السريري للطبيب المختص؛ الذكاء الاصطناعي ينتج اقتراحات ومسودات فقط.

ما الذي يمكن للذكاء الاصطناعي فعله وما لا يمكنه فعله في الطب؟

تكمن القوة الحقيقية للذكاء الاصطناعي في توليد اللغات والأنماط والمتغيرات. يظهر تذكير بالتشخيص التفريقي، ومخطط تاريخي (تاريخ المريض)، وإطار عمل Epicrisis، وملخص الأدلة، ونص معلومات المريض في ثوانٍ. في هذه المهام، يمكن للذكاء الاصطناعي أن يوفر لك دقائق، وأحيانًا ساعات، ويذكرك باحتمال تم التغاضي عنه.

ما لا يستطيع الذكاء الاصطناعي فعله هو الحكم السريري، الذي يتطلب المسؤولية. رؤية المريض والاستماع إليه وتحسسه؛ تفسير النتائج داخل المريض بأكمله؛ اتخاذ القرارات في ظل عدم اليقين. يهذي الذكاء الاصطناعي لأنه يتعلم من النصوص الموجودة على الإنترنت وفي الكتب: أي أنه يمكن أن ينتج ما يبدو حقيقيًا ولكن بجرعة خاطئة، أو عملاً خياليًا، أو مادة إرشادية غير موجودة. في الطب، هذا النوع من الأخطاء ليس مجرد خطأ مطبعي؛ العلاج الخاطئ والتشخيص المفقود يعني ضررًا للمريض.

تنبيه: مخرجات الذكاء الاصطناعي هي مسودة وليست رأي خبير. لا يمكن اتخاذ أي قرارات حاسمة تتعلق بالسلامة (التشخيص والعلاج والجرعة والفرز) دون موافقة الطبيب المختص. لا تحل منظمة العفو الدولية محل هذه الموافقة ولا تتحمل المسؤولية القانونية.

ثلاث مناطق حسب مستوى الخطورة

الطريقة الأكثر عملية لاستخدام الذكاء الاصطناعي بأمان هي تقسيم كل مهمة إلى ثلاث مناطق بناءً على مستوى المخاطرة. يتلخص هذا التمييز في "هل ينبغي للذكاء الاصطناعي أن يفعل هذا؟" يجيب على الأسئلة بسرعة وبدقة.

المنطقة

مهام العينة

دور الذكاء الاصطناعي

مستوى التحقق

أخضر (منخفض المخاطر)

مذكرة الاجتماع، تبسيط اللغة، مسودة البريد الإلكتروني، التنسيق، ملخص التدريب

إنتاج مجاني

مراجعة سريعة

أصفر (خطر متوسط)

مسودة التاريخ / الملحمة، ملخص الأدبيات، مذكرة معلومات المريض، تذكير التشخيص التفريقي، توصية الترميز

مسودة + اقتراح

مراقبة الطبيب + تأكيد المصدر

أحمر (أمان حرج)

التشخيص النهائي، قرار العلاج/الجرعة، الفرز، الوصفة الطبية، تقرير التصوير

المسح المسبق/التذكير فقط

فحص الطبيب المختص والموافقة إلزامية

كن سريعًا في المنطقة الخضراء. استخدم الذكاء الاصطناعي في المنطقة الصفراء، ولكن تحقق من كل المعلومات والمصادر الطبية. وفي المنطقة الحمراء، ليس للذكاء الاصطناعي الكلمة الأخيرة أبدًا؛ وما هي إلا مادة مساعدة تسرع عمل الطبيب.

نظام التحقق متعدد الطبقات

التحقق ليس شيئًا يمكن تأجيله معتقدًا "سوف أتحقق منه لاحقًا"؛ هو جزء من سير العمل. يتكون التحقق الصلب من خمس طبقات:

1. العودة إلى المصدر. إذا أعطى الذكاء الاصطناعي جرعة أو معايير تشخيصية أو توصية، فقم بتأكيد ذلك في الدليل الإرشادي السريري الحالي أو نشرة الحزمة أو المقالة الأساسية.
2. اختباره سريريا. قارن التوصية بنتائج الفحص الفعلي للمريض والمختبر والتصوير. والاقتراح الذي لا يمتثل مرفوض.
3. حساب مستقل. أعد حساب النتيجة الرقمية (الجرعة، تصفية الكرياتينين، حساب السوائل) بنفسك أو باستخدام أداة معتمدة.
4. عين خبيرة. إذا كان القرار ذو الصلة يتعلق بخبرة فرع آخر (الأشعة، أمراض القلب، علم الأمراض)، فاستشر ذلك الاختصاصي أو احصل على الموافقة عليه.
5. اترك بصمتك. لاحظ في الملف أي مخرجات تم التحقق من صحتها وكيف؛ دعها يتم التحقق منها لاحقا.

تلميح: "قال الذكاء الاصطناعي" ليس مبررًا. الأساس المنطقي للقرار السريري هو دائمًا الفحص أو التوجيه الحالي أو المختبر / التصوير أو رأي الخبراء المختص. يساعدك الذكاء الاصطناعي على إعداد هذه المبررات، ولا يحل محلها.

ثلاث حالات صغيرة

الحالة 1 - الاستخدام السليم الذي يوفر الوقت. طبيب عام يكتب ملحمة لمريض يبلغ من العمر 42 عامًا يعاني من سعال لمدة 3 أيام وحمى تبلغ 38.2 درجة مئوية، يطلب مسودة من الذكاء الاصطناعي بسياق مجهول. يقوم الذكاء الاصطناعي بإنتاج هيكل عظمي منتظم لـ Epicrisis في 4 دقائق؛ يقوم الطبيب بمقارنة كل سطر بالملف الحقيقي، وإجراء تصحيحين صغيرين والتوقيع عليه. ينخفض ​​إجمالي الوقت من 25 دقيقة إلى 8 دقائق. القرار والمسؤولية تقع على عاتق الطبيب. لقد جعل الذكاء الاصطناعي الكتابة أسرع.

الحالة 2 - هلوسة اشتعلت. يطلب الطبيب موارد الذكاء الاصطناعي لعلاج متلازمة نادرة. يقدم الذكاء الاصطناعي 3 مقالات مقنعة للغاية بعنوان "مجلة نيو إنجلاند الطبية 2021". يبحث الطبيب عنها في PubMed؛ 2 منهم غير موجودين على الإطلاق، ونتيجة 1 هي العكس تمامًا. لقد صنع الذكاء الاصطناعي لغة آمنة. إذا لم يكن هناك تأكيد، سيتم تضمين هذه المصادر في تجميع.

الحالة 3 - حدود المنطقة الحمراء. في غرفة الطوارئ، يطلب الطبيب من الذكاء الاصطناعي تسريع عملية فرز المريض الذي يعاني من آلام في الصدر. يقول الذكاء الاصطناعي "منخفض المخاطر". لا يزال الطبيب يأخذ مخطط كهربية القلب ويطلب التروبونين. ارتفاع نسبة التروبونين وتشخيص متلازمة الشريان التاجي الحادة. لا يمكن لمخرجات الذكاء الاصطناعي القضاء على الشكوك السريرية؛ وفي المنطقة الحمراء القرار يعود للطبيب.

خطوة بخطوة: إدخال الذكاء الاصطناعي بأمان في المهمة

1. ضع المهمة في المنطقة. أخضر أم أصفر أم أحمر؟
2. إخفاء هوية السياق. مسح المعرفات مثل الاسم ومعرف TR ورقم الملف (KVKK).
3. إعطاء ملخص واضح. اكتب بوضوح السياق السريري والسؤال والتنسيق المطلوب.
4. النظر في الإخراج مسودة. لا تستخدمه أبدًا كقرار نهائي.
5. تطبيق طبقات التحقق. مصدر، عيادة، حساب، خبير، أثر.
6. سجل القرار وأسبابه.

أربعة قوالب قابلة للنسخ

الدور: أنت مساعد كتابة سريري، ولست طبيبًا. المهمة: إعداد مسودة لـ [مهمة]. السياق (مجهول): العمر [...]، الجنس [...]، الشكوى [...]، النتائج [...]. القاعدة: قم بتسمية "التأكيد مطلوب" لكل جرعة/تشخيص/مصدر لست متأكدًا منه. الحدود: قم بالتشخيص، وابدأ العلاج؛ تقديم الاقتراحات والمسودات فقط. الشكل: في نقاط نقطية، مع الأسباب.

المهمة: قم بإدراج جميع المطالبات الطبية وقيم الجرعات ومعايير التشخيص واستشهادات المصدر في النص أدناه. أضف ملاحظة "يجب التحقق من المصدر" لكل منها. لا تتحقق منه بنفسك، فقط قم بوضع علامة عليه. النص: [...]

المهمة: تصنيف مخرجات الذكاء الاصطناعي هذه وفقًا لمستوى المخاطرة من وجهة نظر الطبيب. لكل عنصر: أخضر / أصفر / أحمر مع إعطاء مبرر جملة واحدة. اكتب "يلزم إجراء فحص طبي مؤهل وموافقته" في العناصر الحمراء. الإخراج: [...]

المهمة: إخفاء هوية نص المريض/الحالة أدناه. استبدل المعرفات مثل الاسم واللقب ومعرف TR ورقم الملف والعنوان والهاتف والتاريخ بـ [LABEL]؛ الحفاظ على المعنى السريري. النص: [...]

موجه ضعيف / موجه قوي

ضعيف: "ماذا لدى هذا المريض، ما هو تشخيصه؟"

سترونج: "اذكر احتمالات التشخيص التفريقي لحالة مجهولة كتذكير: 55 عامًا، ذكر، ضيق متزايد في التنفس لمدة أسبوعين، وذمة في الساق، تاريخ للتدخين. لا تقم بالتشخيص؛ اكتب الفحص/الاختبار الذي سيفرق بين كل احتمال وحدد العلامات الحمراء العاجلة. اذكر أن هذا تذكير، القرار بيد الطبيب."

في المطالبة القوية، يكون السياق والحدود والمخرجات المتوقعة واضحة؛ ومن الواضح أين سيقف الذكاء الاصطناعي.

الأخطاء الشائعة

• الخلط بين مخرجات الذكاء الاصطناعي ورأي الخبراء. ينتج الذكاء الاصطناعي رسومات واقتراحات، وليس تشخيصات.
• تفويض اتخاذ القرارات الحاسمة المتعلقة بالسلامة إلى الذكاء الاصطناعي. لا يتم ترك التشخيص والعلاج والجرعة والفرز للذكاء الاصطناعي أبدًا.
• استخدام المعلومات دون التأكد من مصدرها. يجب التحقق من كل جرعة ومعيار ومرجع من المصدر الحالي.
• تحميل بيانات المريض مباشرة. لا ينبغي إهمال إخفاء الهوية واختيار السيارة المتوافقة مع KVKK.
• عدم ملاحظة الهلوسة. في حين أن الذكاء الاصطناعي قد يبدو واثقًا، إلا أنه قد يكون مخطئًا؛ القول المؤكد ليس دليلا على الحقيقة.

باختصار

يعد الذكاء الاصطناعي مسرعًا حقيقيًا للطب، لكنه ليس بديلاً للطبيب. قسم المهام إلى مناطق خضراء وصفراء وحمراء؛ كن سريعًا عند اللون الأخضر، وأكد عند اللون الأصفر، ولا تمنح الذكاء الاصطناعي مطلقًا الكلمة الأخيرة عند اللون الأحمر. اعتبر كل مخرج بمثابة مسودة وقم بتمريرها من خلال التحقق من خمس طبقات. خذ خصوصية المريض وKVKK على محمل الجد. وتبقى مسؤولية التشخيص والعلاج دائماً على عاتق الطبيب المختص؛ ولا تشارك منظمة العفو الدولية في هذه المسؤولية.

مهمة التطبيق

اختر ثلاث مهام من ممارستك الخاصة (على سبيل المثال، كتابة الملحمة، ملخص الأدبيات، التحكم في الجرعة). صنف كل منها إلى أخضر/أصفر/أحمر. قم بتدوين طبقات التحقق التي ستطبقها على المهام الصفراء والحمراء وما يتطلب الفحص/الموافقة على المهمة الحمراء. يمكنك أيضًا العثور على سياسة الخصوصية الخاصة بأداة الذكاء الاصطناعي التي تستخدمها وملاحظة ما إذا كانت تستخدم البيانات في التدريب أم لا.

قائمة مرجعية

• [ ] لقد وضعت المهمة في منطقة الخطر.
• [ ] لقد قمت بإخفاء هوية السياق (KVKK).
• [ ] لقد قدمت ملخصًا واضحًا وذو صلة سريريًا.
• [ ] لقد تعاملت مع الإخراج كمسودة.
• [ ] لقد قمت بتأكيد الجرعة/التشخيص/المصادر من المصدر الحالي.
• [ ] لقد اختبرت الاقتراح مع النتائج السريرية الفعلية للمريض.
• [ ] لقد أغلقت القرار المتعلق بالسلامة بفحص وموافقة طبيب مؤهل.
• [ ] لقد قمت بحفظ تتبع التحقق في الملف.