กำไร:
- ความสามารถในการอธิบายการมีส่วนร่วมของปัญญาประดิษฐ์ต่อข้อกำหนด สถาปัตยกรรม และขั้นตอนการทดสอบในการออกแบบอุปกรณ์ทางการแพทย์และซอฟต์แวร์
- ทำความเข้าใจบทบาทของการควบคุมการออกแบบและการบริหารความเสี่ยง ในกรณีที่ซอฟต์แวร์เป็นอุปกรณ์ทางการแพทย์ (SaMD)
- ความสามารถในการทำความเข้าใจว่าผลลัพธ์การออกแบบที่รองรับ AI จะต้องได้รับการทดสอบด้วยการอนุมัติของวิศวกรที่มีความสามารถ การทดสอบมาตรฐานและการตรวจสอบยืนยัน
งานหลักประการหนึ่งของวิศวกรชีวการแพทย์คือการออกแบบอุปกรณ์ทางการแพทย์ ตั้งแต่ปั๊มฉีดยาไปจนถึงเครื่องมอนิเตอร์ผู้ป่วย จากอวัยวะเทียมไปจนถึงซอฟต์แวร์วินิจฉัย เนื่องจากอุปกรณ์เหล่านี้สัมผัสโดยตรงกับผู้ป่วย การออกแบบจึงแตกต่างจากการพัฒนาผลิตภัณฑ์ทั่วไป การควบคุมการออกแบบ (กระบวนการที่มีระเบียบวินัยซึ่งมีการจัดทำเอกสารทุกขั้นตอนตั้งแต่ข้อกำหนดไปจนถึงการตรวจสอบ) และการบริหารความเสี่ยงถือเป็นภาระผูกพันทางกฎหมาย ปัญญาประดิษฐ์มีส่วนช่วยในกระบวนการเหล่านี้ด้วยการเขียนข้อกำหนด การร่างสถาปัตยกรรม การออกแบบการทดสอบ และเอกสารประกอบ ในหน่วยนี้ เราจะดูว่า AI เหมาะสมกับการออกแบบอุปกรณ์อย่างไร ซอฟต์แวร์จึงกลายเป็นอุปกรณ์ (SaMD) ได้อย่างไร และเหตุใดเอาท์พุต AI จึงไม่สามารถทดแทนการอนุมัติของวิศวกรผู้มีความสามารถได้
เรามาพูดถึงตั้งแต่ต้นกันดีกว่า: ในด้านวิศวกรรมอุปกรณ์ที่มีความสำคัญต่อความปลอดภัยนั้น AI เป็นตัวพิมพ์เขียวและผู้ช่วยในการควบคุม หากไม่มีข้อกำหนด พลาดโหมดความล้มเหลว การทดสอบอยู่นอกขอบเขต ความรับผิดชอบอยู่ที่วิศวกรที่ลงนาม AI ไม่ได้ตรวจสอบการออกแบบ วิศวกรยืนยัน
การออกแบบห่วงโซ่การควบคุมและสถานที่ของ AI
ความต้องการของผู้ใช้ → อินพุตการออกแบบ (ข้อกำหนด) → ผลลัพธ์การออกแบบ → การตรวจสอบ → การตรวจสอบ → การถ่ายโอนการออกแบบ ห่วงโซ่นี้เป็นแกนหลักของวิศวกรรมอุปกรณ์ บทบาทของ AI ในแต่ละวงแหวนจะแตกต่างกัน:
- ความต้องการของผู้ใช้: AI สามารถสรุปและกำหนดรูปแบบการสัมภาษณ์ผู้มีส่วนได้ส่วนเสียและบันทึกภาคสนาม การตรวจสอบ: การยืนยันผู้มีส่วนได้ส่วนเสีย
- ข้อกำหนด: AI สแกนข้อกำหนดเพื่อดูว่าข้อกำหนดเหล่านั้น “สามารถทดสอบได้ เอกพจน์ และขัดแย้งกัน” และแนะนำสถานการณ์ที่ขาดหายไป (Edge Case) การตรวจสอบความถูกต้อง: การทบทวนโดยวิศวกร
- สถาปัตยกรรม/การออกแบบ: AI แสดงรายการแนวทางสถาปัตยกรรมทางเลือกและรูปแบบการออกแบบที่เป็นที่รู้จัก การตรวจสอบ: การตัดสินทางวิศวกรรมและการคำนวณ
- การทดสอบ: AI สร้างกรณีทดสอบและการทดสอบเบรกพอยต์จากข้อกำหนด การตรวจสอบความถูกต้อง: เมทริกซ์ความครอบคลุมการทดสอบ
- เอกสารประกอบ: ไฟล์และรายงานประวัติการออกแบบแบบร่างของ AI การตรวจสอบ: การตรวจสอบเนื้อหาทางเทคนิค
การบริหารความเสี่ยง: ISO 14971 และ FMEA
มาตรฐานการบริหารความเสี่ยงในอุปกรณ์การแพทย์คือ ISO 14971 โดยจะอธิบายกระบวนการในการระบุอันตราย การประเมินความเสี่ยง การบรรเทา และการพิสูจน์ความเสี่ยงที่เหลืออยู่ เครื่องมือทั่วไปคือ FMEA (โหมดความล้มเหลวและการวิเคราะห์ผลกระทบ แสดงรายการโหมดความล้มเหลวที่เป็นไปได้ ผลกระทบ และคะแนนความรุนแรง/ความน่าจะเป็น/ความสามารถในการตรวจจับได้อย่างเป็นระบบ) AI มีประสิทธิภาพมากในการระดมความคิดเกี่ยวกับโหมดความล้มเหลวสำหรับแผนภูมิ FMEA ซึ่งเป็นโหมดเตือนใจที่มนุษย์สามารถข้ามได้ แต่ความจริงของแต่ละบรรทัด คะแนน และมาตรการบรรเทาจะต้องได้รับการยืนยันจากวิจารณญาณของวิศวกร “การบรรเทาผลกระทบ” ที่แนะนำโดย AI อาจไม่ได้ผลจริงหรืออาจทำให้เกิดความเสี่ยงใหม่
หากตัวซอฟต์แวร์คืออุปกรณ์: SaMD
บางครั้งตัวซอฟต์แวร์เองก็คืออุปกรณ์ทางการแพทย์: SaMD (ซอฟต์แวร์ในฐานะอุปกรณ์การแพทย์ ซอฟต์แวร์ที่ทำงานเพื่อการวินิจฉัย/การรักษา/การตรวจติดตามโดยไม่ต้องฝังอยู่ในฮาร์ดแวร์ใดๆ) ตัวอย่างคือแอปพลิเคชันที่สร้างคะแนนความเสี่ยงจากรูปภาพหรืออัลกอริทึมที่ตีความสัญญาณ ด้วย SaMD ซอฟต์แวร์ไม่สามารถถือเป็น “เพียงซอฟต์แวร์” ได้: จำเป็นต้องมีการควบคุมการออกแบบ การจัดการความเสี่ยง การตรวจสอบ/การตรวจสอบ การควบคุมเวอร์ชัน และการปฏิบัติตามกฎระเบียบ มาตรฐาน IEC 62304 กำหนดกระบวนการสำหรับวงจรชีวิตของซอฟต์แวร์ ความท้าทายเฉพาะในการพัฒนาโดยใช้ AI ก็คือพฤติกรรมของแบบจำลองจะเปลี่ยนไปเมื่อมีการอัปเดต นั่นเป็นเหตุผลว่าทำไมการควบคุมการเปลี่ยนแปลงและการตรวจสอบซ้ำจึงมีความสำคัญ
คดีเล็กๆ สามคดี: ตามตัวเลข
กรณีที่ 1 — การจับช่องว่างความต้องการ มีการเขียนข้อกำหนดฉบับร่าง 140 ข้อสำหรับการตรวจสอบผู้ป่วย การสแกนความสอดคล้องที่ขับเคลื่อนโดย AI แจ้งข้อกำหนด 12 ข้อว่าไม่สามารถทดสอบได้ (เช่น “ต้องเป็นมิตรกับผู้ใช้”) และสถานการณ์การแจ้งเตือน 3 รายการขาดหายไป ทีมวิศวกรได้แก้ไขปัญหาเหล่านี้ แต่ “ข้อกำหนดใหม่” สองข้อที่ AI แนะนำนั้นจริงๆ แล้วซ้ำซ้อนกับข้อกำหนดที่มีอยู่และต้องถูกกำจัดออกไป กำไรสุทธินั้นมาจากการตรวจสอบโดยมนุษย์
กรณีที่ 2 — การเร่งความเร็ว FMEA ในการศึกษา FMEA สำหรับปั๊มแช่ ทีมงานได้ระบุโหมดความล้มเหลว 60 โหมด; การระดมความคิดของ AI ทำให้มีผู้สมัครเพิ่มขึ้น 18 คน วิศวกรพบว่า 9 รายการนั้นเป็นของแท้และไม่ได้ละไว้ก่อนหน้านี้ และตัด 9 รายการออกว่าไม่ถูกต้องหรือซ้ำกัน ประหยัดเวลาได้จริง แต่การกรองเป็นงานของวิศวกรโดยสิ้นเชิง
กรณีที่ 3 — ความเสี่ยงในการอัปเดตโมเดล ทีม SaMD อัปเดตโมเดลพื้นฐานด้วยเวอร์ชัน "ดีกว่า" แม้ว่าเวอร์ชันใหม่จะมีการปรับปรุงความแม่นยำโดยรวม แต่ประสิทธิภาพกลับลดลงในอุปกรณ์บางประเภท หากไม่มีการควบคุมการเปลี่ยนแปลงและการตรวจสอบความถูกต้องอีกครั้ง การถดถอยนี้จะไปถึงฟิลด์แล้ว การอัปเดตโมเดลทุกครั้งเป็นการเปลี่ยนแปลงการออกแบบและต้องได้รับการตรวจสอบ
พรอมต์ที่อ่อนแอ / พรอมต์ที่แข็งแกร่ง
พรอมต์ที่อ่อนแอ:
เขียนข้อกำหนดสำหรับอุปกรณ์นี้[แนวคิด]
พรอมต์อันทรงพลัง:
บทบาทของคุณ: คุณเป็นผู้ช่วยวิศวกรด้านข้อกำหนดด้านอุปกรณ์การแพทย์ (คุณไม่ใช่หน่วยงานที่อนุมัติ) สร้างข้อกำหนดฉบับร่างสำหรับแนวคิดอุปกรณ์ต่อไปนี้: - รักษาข้อกำหนดแต่ละข้อให้มีเอกลักษณ์เฉพาะตัว ทดสอบได้ และตรวจสอบได้ - สร้างส่วนแยกต่างหากเพื่อความปลอดภัย/สัญญาณเตือนภัย และเคสขอบ - ทำเครื่องหมายข้อความที่คลุมเครือ/ไม่สามารถวัดผลได้ ("ง่าย", "รวดเร็ว") และทำให้สามารถวัดผลได้ - ในตอนท้าย ให้ระบุ "ประเด็นที่เปิดกว้างซึ่งวิศวกรต้องตัดสินใจ" - การอ้างอิงมาตรฐาน/ข้อเป็นเครื่องหมาย "ต้องตรวจสอบ" ตัวบ่งชี้ที่ชัดเจน แนวคิด:[คำอธิบาย]
เทมเพลตที่คัดลอกได้สี่แบบ
1) การตรวจสอบคุณภาพความต้องการ:
จัดประเภทข้อกำหนดต่อไปนี้เป็น "ทดสอบได้/คลุมเครือ/ขัดแย้ง/ซ้ำกัน" และแนะนำให้ทำการวัดผลที่ไม่ชัดเจนใดๆ รายการ: [ข้อกำหนด]
2) การระดมความคิด FMEA:
แสดงรายการโหมดความล้มเหลวที่เป็นไปได้สำหรับระบบย่อยนี้ เสนอแนะผลกระทบและสาเหตุที่เป็นไปได้สำหรับแต่ละรายการ ระบุว่าวิศวกรจะให้คะแนนและบรรเทาผลกระทบ ระบบย่อย: [คำอธิบาย]
3) การสร้างสถานการณ์ทดสอบ:
สร้างสถานการณ์การทดสอบอินพุตปกติ ขอบเขต และข้อผิดพลาดสำหรับข้อกำหนดต่อไปนี้ หมายเลขแต่ละสถานการณ์ที่ติดตามได้ตามความต้องการ ความต้องการ: [ข้อความ]
4) การวิเคราะห์ผลกระทบการเปลี่ยนแปลง SaMD:
เขียนรายการตรวจสอบการวิเคราะห์ผลกระทบแบบร่างสำหรับการอัปเดตการเผยแพร่โมเดล: ข้อกำหนดที่ได้รับผลกระทบ ขอบเขตการตรวจสอบซ้ำ การเปรียบเทียบประสิทธิภาพของกลุ่มย่อย
บทบาทของแบบจำลอง: ตามขั้นตอนการออกแบบ
เวที
การมีส่วนร่วมของ AI
การวิพากษ์วิจารณ์
การตรวจสอบ
สรุปความต้องการ/ผู้มีส่วนได้ส่วนเสีย
สูง
ต่ำ
การยืนยันผู้มีส่วนได้ส่วนเสีย
ร่างข้อกำหนด/การตรวจสอบ
สูง
ปานกลาง
รีวิววิศวกร
สถาปัตยกรรม/แคลคูลัส
จำกัด
สูง
การตัดสินทางวิศวกรรม + การคำนวณ
FMEA/การระดมความคิดเกี่ยวกับความเสี่ยง
สูง
สูง
การให้คะแนน/การอนุมัติของวิศวกร
ทดสอบการสร้างสถานการณ์จำลอง
สูง
ปานกลาง
เมทริกซ์ความครอบคลุม
การอนุมัติความปลอดภัย
ไม่มี
สูงมาก
ลายเซ็นวิศวกรผู้มีอำนาจ
เคล็ดลับ: ใช้ AI เป็น “ตัวเตือนสถานการณ์ที่ถูกลืม” ใน FMEA และการตรวจสอบข้อกำหนด ไม่ใช่ในฐานะ “ผู้มีอำนาจตัดสินใจ” คุณค่าที่ยิ่งใหญ่ที่สุดคือการนำสถานการณ์ชายขอบที่ใครๆ ก็พลาดไปไว้ข้างหน้า แต่ทุกข้อเสนอแนะต้องผ่านการกรองของวิศวกร
ข้อควรพิจารณา: ใน SaMD การอัปเดตทุกรุ่นคือการเปลี่ยนแปลงการออกแบบ โมเดลที่ "ดีกว่า" อาจก้าวหน้าไปในค่าเฉลี่ยโดยรวมและถดถอยในกลุ่มย่อย ไม่ควรอัปเดตลงในฟิลด์โดยไม่มีการควบคุมการเปลี่ยนแปลงและการตรวจสอบความถูกต้องอีกครั้ง
ข้อผิดพลาดทั่วไป
- การยอมรับคำแนะนำ AI โดยไม่มีการยืนยัน ข้อกำหนดในการติดตั้งอาจทำให้เกิดโหมดความล้มเหลวที่ไม่ถูกต้องหรือการบรรเทาที่ไร้ประโยชน์
- คิดว่า SaMD เป็น "แค่ซอฟต์แวร์" จำเป็นต้องมีการควบคุมการออกแบบ การบริหารความเสี่ยง และ V&V
- ไม่ตรวจสอบการอัปเดตโมเดล แต่ละรุ่นคือการเปลี่ยนแปลงการออกแบบและต้องได้รับการตรวจสอบอีกครั้ง
- ผ่านข้อกำหนดที่คลุมเครือ ข้อความที่ไม่สามารถวัดผลได้ เช่น "ง่าย/เร็ว" ไม่สามารถทดสอบได้
- ผ่านการอนุมัติจากวิศวกร การตัดสินใจด้านความปลอดภัยและลายเซ็นเป็นของวิศวกรที่ได้รับอนุญาต AI ไม่ใช่หน่วยงานอนุมัติ
โดยสรุป
- การออกแบบอุปกรณ์การแพทย์ การควบคุมการออกแบบ และการบริหารความเสี่ยงเป็นกระบวนการบังคับและจัดทำเป็นเอกสาร
- AI มีส่วนสนับสนุนข้อกำหนด สถาปัตยกรรม FMEA และขั้นตอนการทดสอบพร้อมร่างและการแจ้งเตือน
- หากซอฟต์แวร์นั้นเป็นอุปกรณ์ (SaMD) จำเป็นต้องมีการควบคุมการออกแบบเต็มรูปแบบ V&V และการปฏิบัติตามกฎระเบียบ
- การอัปเดตแต่ละรุ่นเป็นการเปลี่ยนแปลงการออกแบบและต้องมีการตรวจสอบความถูกต้องอีกครั้ง
- เอาต์พุต AI ไม่สามารถทดแทนการอนุมัติของวิศวกรที่มีคุณสมบัติเหมาะสมได้ การตัดสินใจด้านความปลอดภัยและลายเซ็นเป็นของวิศวกร
งานสมัคร
เลือกแนวคิดอุปกรณ์ทางการแพทย์ที่เรียบง่าย (เช่น จอภาพ SpO2 แบบพกพา) มีร่างข้อกำหนดห้าข้อโดยใช้พรอมต์อันทรงพลัง แล้วถามแต่ละคนว่า “ทดสอบได้ไหม?” ตรวจสอบด้วยตนเองและทำให้สิ่งที่คลุมเครือสามารถวัดได้ สุดท้าย ให้เขียนโหมดความล้มเหลวสามโหมดสำหรับอุปกรณ์นี้และการบรรเทาผลกระทบสำหรับแต่ละโหมด และจดบันทึกโหมดความล้มเหลวที่คุณตัดออกจากสิ่งที่ AI แนะนำ
รายการตรวจสอบ
- [ ] ฉันรู้ห่วงโซ่การควบคุมการออกแบบและบทบาทของ AI ในแต่ละลิงก์
- [ ] ฉันเข้าใจวัตถุประสงค์ของการบริหารความเสี่ยง ISO 14971 และ FMEA
- [ ] ฉันเข้าใจแนวคิดของ SaMD และภาระหน้าที่ของมัน
- [ ] ฉันเข้าใจว่าการอัปเดตโมเดลเป็นการเปลี่ยนแปลงการออกแบบและต้องมีการตรวจสอบความถูกต้องอีกครั้ง
- [ ] ฉันได้กำหนดไว้แล้วว่าการตัดสินใจด้านความปลอดภัยและลายเซ็นยังคงเป็นของวิศวกรที่ได้รับอนุญาต