المكاسب:
- القدرة على التمييز بين أين ينتج الذكاء الاصطناعي قيمة آمنة في سير العمل الطبي الحيوي وأي القرارات تظل مسؤولية الطبيب والمهندس المعتمد.
- القدرة على تطبيق نظام يتحقق من صحة كل مخرجات الذكاء الاصطناعي مع الترتيب الفسيولوجي من حيث الحجم والمعقولية السريرية والأدلة المستقلة
- التعرف على مخاطر الهلوسة وتسرب البيانات وسلامة المرضى، وتطوير عادة إعداد مطالبات آمنة عن طريق إخفاء هوية السياق.
الهندسة الطبية الحيوية هي مهنة يتقاطع فيها تعقيد جسم الإنسان مع سعي الهندسة لتحقيق الدقة. إشارة تخطيط القلب هي الظل الكهربائي للقلب، وصورة التصوير بالرنين المغناطيسي هي صدى مغناطيسي للأنسجة، والقيمة المختبرية هي لقطة. كل هذه القياسات غير مباشرة وصاخبة وتتطلب تفسيرا. يمكن للذكاء الاصطناعي (الذكاء الاصطناعي؛ أنظمة برمجية تتعلم من أنماط البيانات الضخمة وتنتج نصوصًا/صورًا/أرقامًا) تسريع هذا التفسير، ولكنه يمكنه أيضًا إخفاء أخطائه باستخدام لغة بطلاقة. تضع هذه الوحدة الأساسين اللذين سيتم بناء الوحدة بأكملها عليهما: أين ينتج الذكاء الاصطناعي قيمة حقيقية في سير العمل الطبي الحيوي وكيف يمكننا التحقق من صحة كل ناتج.
دعونا نرسم خطًا مطلقًا من البداية: لن تحل أي من التقنيات التي ستتعلمها خلال هذه الوحدة محل تشخيص الطبيب المؤهل، وموافقة المهندس المختص، وعمليات الجهاز المعتمدة. الذكاء الاصطناعي لا يشخص. الذكاء الاصطناعي مساعد؛ يقرأ بسرعة، ويوقع بسرعة، ويلتقط الأنماط. ولكن إذا لم يتم اكتشاف ورم، فإن الجهاز يعطي إنذارًا كاذبًا، ويتم حساب الجرعة بشكل خاطئ، ولا تقع المسؤولية على عاتق البرنامج، بل على عاتق الطبيب والمهندس الذي اتخذ القرار. سوف ترى هذه الجملة بأشكال مختلفة في كل وحدة، لأن هذه هي الحقيقة الوحيدة في الهندسة التي تتعلق بسلامة المرضى.
أين يخلق الذكاء الاصطناعي قيمة في سير العمل الطبي الحيوي؟
ينقسم أسبوع مهندس الطب الحيوي أو فريق التكنولوجيا السريرية تقريبًا إلى ثلاثة أنواع من العمل: إعداد البيانات (تنظيف الإشارات، المعالجة المسبقة للصور، تحرير الجدول، استخراج السجل)، التفسير والتحليل (العثور على الكشف، التصنيف، النمذجة التنبؤية، تسجيل المخاطر)، والاتصالات والوثائق (الملف الفني، تقرير التحقق من الصحة، ملخص الأدبيات، دليل الجهاز). يمس الذكاء الاصطناعي المجالات الثلاثة، لكن مساهمته ومخاطره تختلف في كل منها.
يعد إعداد البيانات هو مجال الذكاء الاصطناعي الأكثر أمانًا والأكثر ربحية. إن إزالة التشويش من الإشارة الأولية، وتغيير حجم الصور إلى الحجم القياسي، وترجمة الملاحظات السريرية ذات النص الحر إلى حقول منظمة، ومحاذاة الوحدات غير المتناسقة - هذه هي المهام المتكررة، والمبنية على القواعد، وسهلة التحقق. حتى لو كان هناك خطأ هنا، فسيستغرق الأمر دقائق للعودة إلى المصدر (البيانات الأولية) والتحقق منه.
إن مجال التفسير والتحليل يحمل أعلى قيمة وأعلى مخاطرة. يمكن للذكاء الاصطناعي تحديد منطقة مشبوهة في الصورة، والكشف عن عدم انتظام ضربات القلب المحتمل في الإشارة؛ قد يكشف هذا عن نمط قد يتم التغاضي عنه في العيادة المزدحمة. لكن نفس النموذج يمكن أن ينتج بثقة نتيجة غير موجودة (تسمى هذه الظاهرة الهلوسة: يقدم النموذج معلومات غير موجودة على أنها حقيقية). وفي هذا المجال، يعتبر الذكاء الاصطناعي أداة للفرضيات وتحديد الأولويات، وليس صانع قرار.
مشروع مسرع الذكاء الاصطناعي في الاتصالات والتوثيق. يُنتج قسم الأساليب في تقرير التحقق من الصحة، أو ملخص الأدبيات، أو المسودة الأولى لتحليل المخاطر في دقائق. ويكمن الخطر هنا في إمكانية انزلاق المصادر المختلقة والأرقام غير الصحيحة إلى نص متدفق دون أن يتم ملاحظتها.
التحقق من صحة الانضباط: قاعدة المرساة الثلاثة
جوهر هذه الوحدة هو عادة واحدة: عدم دمج أي مخرجات للذكاء الاصطناعي في قرار سريري أو هندسي دون التحقق من صحته. نحن نبني التحقق من الصحة على ثلاث نقاط تثبيت مستقلة.
المرساة الأولى – الترتيب الفسيولوجي للحجم. هل النتيجة ضمن النطاق المعروف لفسيولوجيا الإنسان؟ معدل ضربات القلب أثناء الراحة عادة ما يكون 50-100 نبضة في الدقيقة. إذا أعطى النموذج 400، فهذا يعني إما وجود خطأ أو خطأ في التحرير. تتراوح درجة حرارة الجسم البالغ بين 36-38 درجة مئوية؛ 45 درجة مئوية غير متوافقة من الناحية الفسيولوجية مع الكائنات الحية. يبلغ إجمالي حجم الدم لدى الشخص البالغ حوالي 5 لترات. يستغرق هذا الفحص ثوانٍ ويكتشف معظم الأخطاء.
المرساة الثانية – المعقولية السريرية. هل تتوافق النتائج مع التاريخ السريري للمريض والمبرر الطبي؟ إذا كان النموذج يشير إلى "ثقة عالية" في نتيجة متقدمة لمريض يبلغ من العمر 25 عامًا بدون أعراض، فإن احتمال الاختبار الأولي منخفض ويتم النظر إلى هذه الإشارة بمزيد من الشك. العمر والجنس والتاريخ والأعراض هي مرشح المعقولية الذي يجب أن يمر به كل تفسير.
المرساة الثالثة – الأدلة المستقلة. هذا هو أقوى مرساة. اختبار معياري مرجعي، طريقة تصوير ثانية، تأكيد مختبري، رأي ثانٍ من خبير. يتم اختبار النتيجة التي تم الإبلاغ عنها بواسطة الذكاء الاصطناعي مقابل الطريقة القياسية الذهبية أو التقييم المستقل من قبل خبير. الحقيقة السريرية تفوز دائمًا.
ثلاث حالات صغيرة: بالأرقام
الحالة 1 - توفير الوقت في المعالجة المسبقة للإشارة. كان مهندس سريري يقوم بتقسيم القطع الأثرية ووضع علامة عليها يدويًا في 320 تسجيلًا لتخطيط القلب لإجراء دراسة بحثية؛ بمعدل 7 دقائق لكل تسجيل، أي ما يقرب من 37 ساعة. ومن خلال سير عمل المعالجة المسبقة المدعوم بالذكاء الاصطناعي، تم تقليل مسودة العلامات الأولى إلى 40 ثانية لكل سجل، وتخصيص الوقت المتبقي للفحص البصري. انخفض إجمالي الوقت إلى حوالي 12 ساعة. الأمر المهم هو أن الوقت الذي تم توفيره تم إنفاقه على التحقق.
الحالة 2 - الهلوسة الملتقطة. عندما طلب مهندس الطب الحيوي ملخصًا للأدبيات لتقرير التقييم السريري لأحد الأجهزة، تضمن النص جملة "يلماز وآخرون. 2019 أبلغوا عن حساسية بنسبة 98٪". لم يكن هناك مثل هذا المقال؛ لقد قام النموذج بتلفيق الإسناد من خلال تقليد نمط حقيقي. اكتشف التحقق من المصدر (DOI والتحقق من دفتر اليومية) الخطأ قبل التوقيع على التقرير.
الحالة 3 - خطأ في الوحدة. في أداة مساعدة حساب الجرعة، قام النموذج بتحويل الحجم الموصى به بمقدار 1000 مرة عن طريق الخلط بين تركيز الدواء مع ميكروجرام/مل بدلاً من ملجم/مل. كشف الترتيب الفسيولوجي لفحص الحجم - "يتم إعطاء شخص بالغ 2 ملليلتر، وليس 2 لتر" - عن الخطأ على الفور. لا يزال هذا الحساب يذهب إلى الصيدلي والطبيب للموافقة عليه؛ وكان الذكاء الاصطناعي مجرد أداة تحكم وسيطة.
موجه ضعيف / موجه قوي
حث ضعيف:
انظر إلى بيانات هذا المريض واذكر تشخيصه.[البيانات]
مطالبة قوية:
دورك: أنت محلل بيانات طبية حيوية (لا تقوم بالتشخيص). قم بتلخيص القياسات المجهولة التالية بناءً على البيانات المقدمة فقط. - لا تشخص؛ إعطاء النتائج العددية فقط ومقارنة النطاق الطبيعي. - لا تقم بإضافة أي نتائج أو قيم أو قصص غير موجودة في البيانات. - إظهار خط البيانات الذي تعتمد عليه مع وضع قوسين بجوار كل ملاحظة. - اكتب "البيانات غير كافية" في مكان غير واضح. - في النهاية: قم بعمل قائمة منفصلة من 3 نقاط يجب على الطبيب التأكد منها. بيانات مجهولة: [القياسات]
يفرض الموجه القوي ثلاثة أشياء على النموذج: الالتزام بالمصدر، وعدم افتراض سلطة التشخيص، ووضع علامات على الأشياء للتحقق منها. وهذا لا ينهي الهلوسة تمامًا، لكنه يجعلها مرئية ويضع الدور بشكل صحيح.
أربعة قوالب قابلة للنسخ
1) إنشاء سياق مجهول:
أريد المساعدة في مهمة طبية حيوية. اسم المريض وهويته وتاريخه والمعلومات المؤسسية سرية؛ سأقدم لهم تعبيرات تمثيلية مثل "المريض-أ"، "اليوم-0". السعي: [السعي]. ما عليك سوى الاعتماد على البيانات الفنية المجهولة التي أقدمها.
2) ثلاثة طلبات للتحقق من الإرساء:
قم بإجراء ثلاثة فحوصات للمخرجات التالية: 1) الترتيب الفسيولوجي للحجم: هل كل رقم يقع ضمن النطاق البشري؟ إذا لم يكن الأمر كذلك، ضع علامة.2) المعقولية السريرية: هل هناك ادعاءات غير متوافقة مع العمر/التاريخ/الأعراض؟3) قائمة التحقق: العناصر التي سيتم تأكيدها بواسطة اختبار/خبير مستقل.الإخراج: [نص]
3) فرض الغموض:
قدم تفسيرك على ثلاثة مستويات من الثقة: - ثقة عالية (مدعومة مباشرة بالبيانات) - ثقة متوسطة (استدلال معقول) - تخميني (يتطلب بيانات/اختبارات إضافية)المهمة: [مهمة]. البيانات: [بيانات مجهولة]
4) التمييز بين القرار/ الدعم:
قسّم المهمة التالية إلى قسمين: أ) البيانات/مسودة العمل التي يمكن للذكاء الاصطناعي القيام بها بثقة ب) نقاط القرار التي تكون موافقة الطبيب/المهندس المعتمد عليها إلزاميةوصف المهمة: [تعريف]
دور الذكاء الاصطناعي: المخاطر حسب نوع المهمة
نوع المهمة
مساهمة الذكاء الاصطناعي
مستوى المخاطر
كثافة التحقق
المعالجة المسبقة للإشارة/الصورة
عالية
منخفض
فحص البقعة
العثور على العلامات الأولية
عالية
متوسطة
خبير + معقولية
التنبؤ / تسجيل المخاطر
متوسطة
عالية
معايرة + مستقلة
قرار التشخيص/العلاج
محدودة
عالية جدا
موافقة الطبيب الكاملة
تقرير/مشروع الأدب
عالية
متوسطة
تأكيد المصدر
قرار أمان الجهاز
محدودة
عالية جدا
معيار + V&V + موافقة
نصيحة: لتحديد مستوى خطورة المهمة، اطرح سؤالاً واحدًا: "ماذا يحدث للمريض إذا كانت هذه النتيجة غير صحيحة؟" إذا كانت الإجابة "سأخسر بضع دقائق"، فتحقق قليلاً؛ إذا "كان من الممكن أن يتعرض المريض للأذى"، تعامل مع المخرجات كفرضية وقم بتشغيلها خلال العملية السريرية/الهندسية الكاملة.
تنبيه: أخطر ما يميز الذكاء الاصطناعي ليس أنه يرتكب الأخطاء، بل أنه يرتكب الأخطاء بثقة وبلغة طبية. النص بطلاقة وتقني ومهني لا يعني أنه صحيح. ثق بالأدلة، وليس بالأسلوب.
الأخطاء الشائعة
- الخلط بين الطلاقة والدقة. بغض النظر عن مدى ظهور النص طبيًا، يجب التحقق من الادعاءات الواقعية (القيمة، النتيجة، المصدر، الجرعة) بشكل مستقل.
- عدم قياس المخاطر حسب نوع المهمة. النظر إلى حساب الجرعة بنفس طريقة النظر إلى مسودة البريد الإلكتروني. يتم تحجيم التحقق من الضرر المحتمل للمريض.
- إدخال بيانات المريض دون تفكير. البيانات الصحية هي بيانات شخصية خاصة؛ إخفاء هويته قبل دخول السيارة غير الخاضعة للسيطرة.
- منح سلطة التشخيص للذكاء الاصطناعي. الذكاء الاصطناعي لا يقوم بالتشخيص؛ يولد الفرضيات. قرارات التشخيص والعلاج تعود للطبيب.
- تجاهل عدم اليقين. فمجرد أن النموذج يبدو "واثقًا" لا يعني أن عدم اليقين يختفي؛ اسأل عن مستوى الثقة ونطاقها.
باختصار
- القياسات الطبية الحيوية غير مباشرة وصاخبة؛ يمكن للذكاء الاصطناعي تسريع هذه العمليات وإخفاء أخطائها.
- الذكاء الاصطناعي هو الأكثر أمانًا والأكثر ربحية في إعداد البيانات، والأكثر قيمة ولكنه الأكثر خطورة في التفسير/التحليل، والمسرع في التوثيق.
- يتم التحقق من صحة كل نتيجة من خلال ثلاثة مرتكزات: الترتيب الفسيولوجي للحجم، والمعقولية السريرية، والأدلة المستقلة.
- إن خطر النتيجة يساوي الضرر الذي ستسببه للمريض إذا كانت غير صحيحة؛ مقاييس التحقق وفقًا لذلك.
- الذكاء الاصطناعي لا يقوم بالتشخيص؛ يتم اتخاذ كل قرار يتعلق بسلامة المرضى بموافقة الطبيب والمهندس المعتمد.
مهمة التطبيق
قم بإدراج خمس مهام طبية حيوية تقوم بها خلال أسبوع من عملك (مثل مسح الإشارة، والعثور على الاختبار المبدئي، وقسم التقرير، وشرح المخاطر، واختبار الجهاز). ضع كل منهم على مستوى الخطورة وفقًا للجدول الموجود في هذه الوحدة واسأل "ماذا يحدث للمريض إذا كان مخطئًا؟" أجب عن السؤال بجملة واحدة. ثم اكتب مطالبة قوية ومجهولة المصدر للمهمة الأقل خطورة وقم بتجربتها؛ تحقق من الإخراج باستخدام ثلاث نقاط ارتساء ولاحظ أي نقطة ارتساء تسببت في حدوث مشكلة.
قائمة مرجعية
- [ ] يمكنني التمييز بين أين ينتج الذكاء الاصطناعي قيمة آمنة وقيمة محفوفة بالمخاطر في سير العمل الطبي الحيوي.
- [ ] لقد اكتسبت رد الفعل للتحقق من كل نتيجة من حيث الحجم الفسيولوجي والمعقولية السريرية والأدلة المستقلة.
- [ ] مستوى خطورة المهمة "ماذا يحدث للمريض إذا سارت الأمور بشكل خاطئ؟" يمكنني تحديد مع السؤال.
- [ ] أعرف ما هي الهلوسة وعدم اليقين وكيفية جعلهما مرئيين.
- [ ] لقد أدركت أن الذكاء الاصطناعي لا يقوم بالتشخيص وأن قرار التشخيص/العلاج يعود للطبيب.