المكاسب:
- القدرة على شرح مساهمة الذكاء الاصطناعي في المتطلبات والهندسة المعمارية ومراحل الاختبار في تصميم الأجهزة والبرمجيات الطبية.
- فهم دور مراقبة التصميم وإدارة المخاطر في حالة كون البرنامج نفسه جهازًا طبيًا (SaMD)
- القدرة على فهم أن مخرجات التصميم المدعومة بالذكاء الاصطناعي يجب اختبارها بموافقة المهندس المختص والاختبارات القياسية واختبارات التحقق.
إحدى الوظائف الأساسية لمهندس الطب الحيوي هي تصميم الأجهزة الطبية: من مضخة التسريب إلى جهاز مراقبة المريض، ومن الطرف الاصطناعي إلى برنامج التشخيص. ونظرًا لأن هذه الأجهزة تكون على اتصال مباشر مع المريض، فإن تصميمها يختلف عن تطوير المنتج العادي؛ إن ضوابط التصميم (عملية منضبطة يتم فيها توثيق كل خطوة بدءًا من المتطلبات وحتى التحقق) وإدارة المخاطر هي التزامات قانونية. ويساهم الذكاء الاصطناعي في هذه العمليات من خلال كتابة المتطلبات، والصياغة المعمارية، وتصميم الاختبار، والتوثيق. في هذه الوحدة، سنرى أين يتناسب الذكاء الاصطناعي مع تصميم الجهاز، وكيف يصبح البرنامج نفسه هو الجهاز (SaMD)، ولماذا لا يعد إخراج الذكاء الاصطناعي بديلاً عن موافقة المهندس المختص.
دعونا نذكر من البداية: في هندسة الأجهزة ذات الأهمية الحيوية للسلامة، يعد الذكاء الاصطناعي بمثابة مخطط ومساعد تحكم. إذا كان أحد المتطلبات مفقودًا، أو تم فقدان وضع الفشل، أو كان الاختبار خارج النطاق، فإن المسؤولية تقع على عاتق المهندس الذي قام بالتوقيع. الذكاء الاصطناعي لا يتحقق من التصميم؛ يؤكد المهندس.
تصميم سلسلة التحكم ومكان الذكاء الاصطناعي
احتياجات المستخدم ← مدخلات التصميم (المتطلبات) ← مخرجات التصميم ← التحقق ← التحقق من الصحة ← نقل التصميم. هذه السلسلة هي العمود الفقري لهندسة الأجهزة. يختلف دور الذكاء الاصطناعي في كل حلقة:
- احتياجات المستخدم: يستطيع الذكاء الاصطناعي تلخيص المقابلات مع أصحاب المصلحة والملاحظات الميدانية وموضوعها. التحقق من الصحة: تأكيد أصحاب المصلحة.
- المتطلبات: يقوم الذكاء الاصطناعي بمسح المتطلبات لمعرفة ما إذا كانت "قابلة للاختبار، وفردية، ومتناقضة" ويقترح السيناريوهات المفقودة (حالات الحافة). التحقق من الصحة: مراجعة المهندس.
- الهندسة المعمارية/التصميم: يسرد الذكاء الاصطناعي الأساليب المعمارية البديلة وأنماط التصميم المعروفة. التحقق: الحكم الهندسي والحساب.
- الاختبار: يقوم الذكاء الاصطناعي بإنشاء حالة اختبار واختبار نقطة توقف من المتطلبات. التحقق من الصحة: مصفوفة تغطية الاختبار.
- التوثيق: يقوم الذكاء الاصطناعي بصياغة ملف سجل التصميم والتقارير. التحقق: فحص المحتوى الفني.
إدارة المخاطر: ISO 14971 وFMEA
معيار إدارة المخاطر في الأجهزة الطبية هو ISO 14971؛ ويصف عملية تحديد المخاطر وتقييم المخاطر والتخفيف منها وتبرير المخاطر المتبقية. إحدى الأدوات الشائعة هي FMEA (تحليل وضع الفشل وتأثيراته؛ يسرد بشكل منهجي أوضاع الفشل المحتملة وتأثيراتها ودرجات خطورتها/احتمالها/قابلية اكتشافها). يعتبر الذكاء الاصطناعي فعالاً للغاية في طرح الأفكار المتعلقة بأوضاع الفشل في مخطط FMEA، مما يؤدي إلى تذكير الأوضاع التي يمكن للإنسان تخطيها. لكن حقيقة كل سطر ودرجته وتدبيره المخفف يجب أن يؤكدها حكم المهندس؛ إن "التخفيف" الذي اقترحه الذكاء الاصطناعي قد لا ينجح في الواقع أو قد يؤدي إلى خطر جديد.
إذا كان البرنامج نفسه هو الجهاز: SaMD
في بعض الأحيان يكون البرنامج نفسه جهازًا طبيًا: SaMD (برنامج كجهاز طبي؛ برنامج يعمل لأغراض التشخيص/العلاج/المراقبة دون أن يكون مضمنًا في أي جهاز). ومن الأمثلة على ذلك التطبيق الذي ينتج درجة المخاطرة من صورة أو خوارزمية تفسر الإشارة. مع SaMD، لا يمكن التعامل مع البرنامج على أنه "مجرد برنامج": يعد التحكم في التصميم وإدارة المخاطر والتحقق/التحقق والتحكم في الإصدار والامتثال التنظيمي أمرًا إلزاميًا. يحدد معيار IEC 62304 العمليات الخاصة بدورة حياة البرنامج. أحد التحديات الخاصة في التطوير بمساعدة الذكاء الاصطناعي هو أن سلوك النموذج يتغير مع تحديثه؛ ولهذا السبب يعد التحكم في التغيير وإعادة التحقق من صحته أمرًا بالغ الأهمية.
ثلاث حالات صغيرة: بالأرقام
الحالة 1 - التقاط فجوة المتطلبات. تمت كتابة 140 مسودة متطلبات لمراقبة المريض. وضع المسح المتسق المدعوم بالذكاء الاصطناعي علامة على 12 متطلبًا على أنها غير قابلة للاختبار (مثل "يجب أن تكون سهلة الاستخدام") و3 سيناريوهات إنذار على أنها مفقودة. قام الفريق الهندسي بإصلاح هذه المشكلة؛ لكن "المتطلبات الجديدة" التي اقترحها الذكاء الاصطناعي كانت في الواقع تكرارًا للمتطلبات الحالية وكان لا بد من إزالتها. صافي الربح يتم من خلال التحقق البشري.
الحالة 2 - تسريع FMEA. في دراسة FMEA لمضخة التسريب، أدرج الفريق 60 وضع فشل؛ أنتجت عملية العصف الذهني للذكاء الاصطناعي 18 مرشحًا إضافيًا. وجد المهندسون أن 9 منها أصلية وتم حذفها سابقًا، وقاموا بإزالة 9 منها باعتبارها غير صالحة أو مكررة. لقد كان توفير الوقت أمرًا حقيقيًا، لكن التصفية كانت بالكامل مهمة مهندس.
الحالة 3 - خطر تحديث النموذج. قام فريق SaMD بتحديث النموذج الأساسي بإصدار "أفضل". على الرغم من أن الإصدار الجديد قد حسن الدقة الإجمالية، فقد تراجع أداءه على نوع معين من الأجهزة. بدون التحكم في التغيير وإعادة التحقق من صحته، لكان هذا الانحدار قد وصل إلى الميدان. كل تحديث للنموذج هو تغيير في التصميم ويجب التحقق منه.
موجه ضعيف / موجه قوي
حث ضعيف:
اكتب متطلبات هذا الجهاز.[فكرة]
مطالبة قوية:
دورك: أنت مساعد هندسة متطلبات الأجهزة الطبية (أنت لست جهة الموافقة). قم بإعداد مسودة المتطلبات لمفهوم الجهاز التالي: - اجعل كل مطلب فريدًا وقابلاً للاختبار والتحقق منه. - إنشاء قسم منفصل للسلامة/الإنذار وحالات الحافة. - ضع علامة على العبارات الغامضة/غير القابلة للقياس ("سهلة"، "سريعة") واجعلها قابلة للقياس. - في النهاية، قم بإدراج قائمة "بالنقاط المفتوحة التي يحتاج المهندس إلى اتخاذ قرار بشأنها". - مراجع المعيار/البند كعلامة "سيتم التحقق منها"، إشارة محددة.المفهوم:[وصف]
أربعة قوالب قابلة للنسخ
1) متطلبات فحص الجودة:
قم بتصنيف المتطلبات التالية على أنها "قابلة للاختبار/غامضة/متناقضة/مكررة" واقترح جعل أي متطلبات غامضة قابلة للقياس. القائمة: [المتطلبات]
2) العصف الذهني FMEA:
قم بإدراج أوضاع الفشل المحتملة لهذا النظام الفرعي؛ اقترح التأثيرات والأسباب المحتملة لكل منها. اذكر أن المهندس سيقوم بالتسجيل والتخفيف. النظام الفرعي: [الوصف]
3) إنشاء سيناريو الاختبار:
إنشاء سيناريوهات اختبار عادية وحدودية ومعيبة للإدخال للمتطلبات التالية؛ رقم كل سيناريو يمكن عزوه إلى المتطلبات. المتطلبات: [النص]
4) تحليل تأثير التغيير SaMD:
اكتب مسودة قائمة مرجعية لتحليل التأثير لتحديث إصدار النموذج: المتطلبات المتأثرة، ونطاق إعادة التحقق، ومقارنة أداء المجموعة الفرعية.
دور النموذج: حسب مرحلة التصميم
المرحلة
مساهمة الذكاء الاصطناعي
الحرجية
التحقق
ملخص الحاجة/أصحاب المصلحة
عالية
منخفض
تأكيد أصحاب المصلحة
مسودة المتطلبات/التدقيق
عالية
متوسطة
مراجعة المهندس
الهندسة المعمارية / حساب التفاضل والتكامل
محدودة
عالية
حكم هندسية+حساب
FMEA/العصف الذهني للمخاطر
عالية
عالية
تسجيل المهندس/الموافقة
توليد سيناريو الاختبار
عالية
متوسطة
مصفوفة التغطية
موافقة أمنية
لا شيء
عالية جدا
توقيع المهندس المعتمد
نصيحة: استخدم الذكاء الاصطناعي باعتباره "تذكيرًا بالسيناريو المنسي" في FMEA وتدقيق المتطلبات، وليس باعتباره "صانع قرار". إن أهم قيمة لها هي إبراز المواقف الهامشية التي قد يفوتها المرء؛ لكن كل اقتراح يجب أن يمر عبر مرشح المهندس.
انتبه: في SaMD، يعد كل تحديث للنموذج بمثابة تغيير في التصميم. وقد يتقدم النموذج "الأفضل" في المتوسط الإجمالي ويتراجع في مجموعة فرعية؛ يجب ألا يتم إدخال أي تحديثات إلى الحقل دون التحكم في التغيير وإعادة التحقق من صحته.
الأخطاء الشائعة
- قبول توصية الذكاء الاصطناعي دون تأكيد. قد ينتج عن متطلبات التركيب وضع فشل غير صالح أو تخفيف عديم الفائدة.
- التفكير في أن SaMD هو "مجرد برنامج". تعتبر مراقبة التصميم وإدارة المخاطر والقياس والتحقق إلزامية.
- عدم التحقق من تحديث النموذج. يعد كل إصدار بمثابة تغيير في التصميم ويجب إعادة التحقق من صحته.
- اجتياز الشرط الغامض. لا يمكن اختبار العبارات التي لا يمكن قياسها مثل "سهل/سريع".
- تجاوز موافقة المهندس. قرار السلامة والتوقيع يعود للمهندس المعتمد. الذكاء الاصطناعي ليس سلطة موافقة.
في ملخص
- يعد تصميم الأجهزة الطبية ومراقبة التصميم وإدارة المخاطر عملية إلزامية وموثقة.
- يساهم الذكاء الاصطناعي في المتطلبات والهندسة المعمارية وFMEA ومراحل الاختبار من خلال المسودات والتذكيرات.
- إذا كان البرنامج نفسه هو الجهاز (SaMD)، فيلزم التحكم الكامل في التصميم والتحقق والتحقق والامتثال التنظيمي.
- يعد كل تحديث للنموذج بمثابة تغيير في التصميم ويتطلب إعادة التحقق من الصحة.
- إن مخرجات الذكاء الاصطناعي ليست بديلاً عن موافقة المهندس المؤهل؛ القرار الأمني والتوقيع يعود للمهندس.
مهمة التطبيق
اختر مفهومًا بسيطًا للجهاز الطبي (على سبيل المثال، شاشة SpO2 المحمولة). قم بصياغة خمسة متطلبات باستخدام الموجه القوي؛ متبوعًا بطرح سؤال "هل يمكن اختباره؟" تحقق يدويًا واجعل الأمور الغامضة قابلة للقياس. أخيرًا، قم بتدوين ثلاثة أوضاع فشل لهذا الجهاز والتخفيف من حدة كل منها، ولاحظ أي منها قمت بإزالته مما اقترحه الذكاء الاصطناعي.
قائمة مرجعية
- [ ] أعرف سلسلة التحكم في التصميم ودور الذكاء الاصطناعي في كل رابط.
- [ ] لقد فهمت الغرض من إدارة المخاطر ISO 14971 وFMEA.
- [ ] أفهم مفهوم SaMD والتزاماته.
- [ ] أدرك أن تحديث النموذج هو تغيير في التصميم ويتطلب إعادة التحقق.
- [ ] لقد أدركت أن القرار الأمني والتوقيع يظلان مع المهندس المعتمد.