ความรู้เบื้องต้นเกี่ยวกับปัญญาประดิษฐ์และวินัยในการตรวจสอบทางวิศวกรรมชีวการแพทย์

กำไร:

• ความสามารถในการแยกแยะว่าปัญญาประดิษฐ์สร้างคุณค่าที่ปลอดภัยในขั้นตอนการทำงานด้านชีวการแพทย์ตรงไหน และการตัดสินใจใดยังคงเป็นความรับผิดชอบของแพทย์และวิศวกรที่ได้รับอนุญาต
• ความสามารถในการใช้ระเบียบวินัยที่ตรวจสอบข้ามผลลัพธ์ AI แต่ละรายการด้วยลำดับความสำคัญทางสรีรวิทยา ความน่าเชื่อถือทางคลินิก และหลักฐานอิสระ
• ตระหนักถึงความเสี่ยงของอาการประสาทหลอน ข้อมูลรั่วไหล และความปลอดภัยของผู้ป่วย และพัฒนานิสัยในการตั้งค่าการแจ้งเตือนที่ปลอดภัยโดยไม่ระบุชื่อบริบท

วิศวกรรมชีวการแพทย์เป็นอาชีพที่ความซับซ้อนของร่างกายมนุษย์และการแสวงหาความแม่นยำของวิศวกรรมมาบรรจบกัน สัญญาณ ECG คือเงาไฟฟ้าของหัวใจ ภาพ MRI คือเสียงสะท้อนแม่เหล็กของเนื้อเยื่อ ค่าห้องปฏิบัติการคือการถ่ายภาพสแน็ปช็อต การวัดทั้งหมดนี้เป็นการวัดทางอ้อม เสียงรบกวน และต้องมีการตีความ ปัญญาประดิษฐ์ (AI; ​​​​ระบบซอฟต์แวร์ที่เรียนรู้จากรูปแบบข้อมูลขนาดใหญ่และสร้างข้อความ/รูปภาพ/ตัวเลข) สามารถเร่งการตีความนี้ให้เร็วขึ้น แต่ยังสามารถซ่อนข้อผิดพลาดด้วยภาษาที่คล่องแคล่วอีกด้วย หน่วยนี้วางรากฐานสองประการสำหรับโมดูลทั้งหมดที่จะถูกสร้างขึ้น: AI สร้างมูลค่าที่แท้จริงในเวิร์กโฟลว์ชีวการแพทย์ตรงไหน และเราจะตรวจสอบความถูกต้องของผลลัพธ์แต่ละรายการได้อย่างไร

เรามาขีดเส้นตายตั้งแต่เริ่มต้นกันดีกว่า ไม่มีเทคนิคใดที่คุณจะได้เรียนรู้ตลอดโมดูลนี้ที่จะมาแทนที่การวินิจฉัยของแพทย์ที่มีคุณสมบัติเหมาะสม การอนุมัติของวิศวกรที่มีความสามารถ และกระบวนการของอุปกรณ์ที่ได้รับการตรวจสอบแล้ว ปัญญาประดิษฐ์ไม่ได้วินิจฉัย ปัญญาประดิษฐ์เป็นผู้ช่วย อ่านเร็ว เซ็นเร็ว จับรูปแบบ แต่หากไม่พบเนื้องอก อุปกรณ์จะส่งสัญญาณเตือนที่ผิดพลาด ปริมาณยาจะถูกคำนวณผิด ความรับผิดชอบไม่ได้อยู่ที่ซอฟต์แวร์ แต่ขึ้นอยู่กับแพทย์และวิศวกรที่เป็นผู้ตัดสินใจ คุณจะเห็นประโยคนี้ในรูปแบบที่แตกต่างกันในแต่ละหน่วย เพราะนี่คือความจริงเดียวในด้านวิศวกรรมที่เกี่ยวข้องกับความปลอดภัยของผู้ป่วย

ปัญญาประดิษฐ์สร้างคุณค่าในกระบวนการทำงานด้านชีวการแพทย์ได้ที่ไหน?

สัปดาห์ของวิศวกรชีวการแพทย์หรือทีมเทคโนโลยีทางคลินิกแบ่งออกเป็นงานสามประเภทคร่าวๆ: การเตรียมข้อมูล (การทำความสะอาดสัญญาณ การประมวลผลภาพล่วงหน้า การแก้ไขตาราง การแยกบันทึก) การตีความและการวิเคราะห์ (การตรวจจับการค้นหา การจำแนกประเภท การสร้างแบบจำลองเชิงคาดการณ์ การให้คะแนนความเสี่ยง) และการสื่อสารและการจัดทำเอกสาร (ไฟล์ทางเทคนิค รายงานการตรวจสอบความถูกต้อง สรุปวรรณกรรม คู่มืออุปกรณ์) AI ครอบคลุมทั้งสามด้าน แต่การมีส่วนร่วมและความเสี่ยงนั้นแตกต่างกันในแต่ละด้าน

การเตรียมข้อมูลเป็นสาขาปัญญาประดิษฐ์ที่ปลอดภัยและให้ผลกำไรมากที่สุด การกำจัดสัญญาณรบกวนออกจากสัญญาณดิบ ปรับขนาดภาพให้เป็นขนาดมาตรฐาน แปลบันทึกทางคลินิกแบบข้อความอิสระลงในฟิลด์ที่มีโครงสร้าง การจัดตำแหน่งหน่วยที่ไม่สอดคล้องกัน งานเหล่านี้เป็นงานที่ทำซ้ำ อิงกฎ และง่ายต่อการตรวจสอบ แม้ว่าจะมีข้อผิดพลาดที่นี่ แต่ก็อาจต้องใช้เวลาไม่กี่นาทีในการกลับไปยังแหล่งที่มา (ข้อมูลดิบ) และตรวจสอบ

สาขาวิชาการตีความและการวิเคราะห์มีคุณค่าสูงสุดและมีความเสี่ยงสูงสุด AI สามารถทำเครื่องหมายบริเวณที่น่าสงสัยในรูปภาพ ตรวจจับจังหวะที่เป็นไปได้ในสัญญาณ ซึ่งอาจเผยให้เห็นรูปแบบที่อาจถูกมองข้ามในคลินิกที่มีผู้คนพลุกพล่าน แต่แบบจำลองเดียวกันสามารถสร้างการค้นพบที่ไม่มีอยู่จริงได้อย่างมั่นใจ (ปรากฏการณ์นี้เรียกว่าภาพหลอน: แบบจำลองนำเสนอข้อมูลที่ไม่มีอยู่จริงตามความเป็นจริง) ในสาขานี้ AI เป็นเครื่องมือในการตั้งสมมติฐานและจัดลำดับความสำคัญ ไม่ใช่ผู้มีอำนาจตัดสินใจ

ตัวเร่งร่าง AI ในการสื่อสารและการจัดทำเอกสาร สร้างส่วนวิธีการของรายงานการตรวจสอบความถูกต้อง เอกสารสรุป หรือร่างแรกของการวิเคราะห์ความเสี่ยงในเวลาไม่กี่นาที ความเสี่ยงที่นี่คือแหล่งที่มาที่สร้างขึ้นและตัวเลขที่ไม่ถูกต้องสามารถหลุดเข้าไปในข้อความต่อเนื่องได้โดยไม่มีใครสังเกตเห็น

ระเบียบวินัยในการตรวจสอบ: กฎสามจุดยึด

หัวใจของโมดูลนี้มีนิสัยเดียว คือ ไม่ต้องรวมเอาท์พุต AI ใดๆ เข้ากับการตัดสินใจทางคลินิกหรือทางวิศวกรรมโดยไม่ตรวจสอบความถูกต้อง เราทำการตรวจสอบความถูกต้องโดยใช้จุดยึดอิสระสามจุด

สมอแรก — ลำดับความสำคัญทางสรีรวิทยา ผลลัพธ์อยู่ภายในขอบเขตทางสรีรวิทยาของมนุษย์ที่ทราบหรือไม่? โดยทั่วไปอัตราการเต้นของหัวใจขณะพักจะอยู่ที่ 50-100 ครั้งต่อนาที หากแบบจำลองให้ 400 แสดงว่ามีสิ่งผิดปกติหรือข้อผิดพลาดในการแก้ไข อุณหภูมิร่างกายของผู้ใหญ่อยู่ในช่วง 36-38 °C; 45 °C เข้ากันไม่ได้กับสิ่งมีชีวิตทางสรีรวิทยา ปริมาตรเลือดรวมของผู้ใหญ่ประมาณ 5 ลิตร การตรวจสอบนี้ใช้เวลาไม่กี่วินาทีและตรวจพบข้อผิดพลาดส่วนใหญ่

สมอที่สอง — ความน่าเชื่อถือทางคลินิก ผลลัพธ์สอดคล้องกับประวัติทางคลินิกและเหตุผลทางการแพทย์ของผู้ป่วยหรือไม่? หากแบบจำลองบ่งชี้ว่ามี "ความมั่นใจสูง" เป็นการค้นพบขั้นสูงสำหรับผู้ป่วยอายุ 25 ปีที่ไม่มีอาการ ความน่าจะเป็นของการทดสอบก่อนจะต่ำ และจะมีการมองสัญญาณนี้ด้วยความสงสัยเป็นพิเศษ อายุ เพศ ประวัติ และอาการเป็นตัวกรองความน่าเชื่อถือที่การตีความทุกครั้งต้องผ่าน

สมอที่สาม — หลักฐานอิสระ นี่คือสมอเรือที่แข็งแกร่งที่สุด การทดสอบมาตรฐานอ้างอิง วิธีการถ่ายภาพครั้งที่สอง การยืนยันจากห้องปฏิบัติการ ความคิดเห็นที่สองของผู้เชี่ยวชาญ การค้นพบที่ AI ทำเครื่องหมายไว้ได้รับการทดสอบกับวิธีมาตรฐานทองคำหรือการประเมินอิสระโดยผู้เชี่ยวชาญ ความจริงทางคลินิกชนะเสมอ

คดีเล็กๆ สามคดี: ตามตัวเลข

กรณีที่ 1 — ประหยัดเวลาในการประมวลผลสัญญาณล่วงหน้า วิศวกรคลินิกคนหนึ่งกำลังแบ่งส่วนและทำเครื่องหมายสิ่งประดิษฐ์ด้วยตนเองในการบันทึก ECG 320 รายการสำหรับการศึกษาวิจัย เฉลี่ยครั้งละ 7 นาที รวมประมาณ 37 ชั่วโมง ด้วยเวิร์กโฟลว์การประมวลผลล่วงหน้าที่ขับเคลื่อนโดย AI ระบบจะลดมาร์กอัปร่างแรกเหลือ 40 วินาทีต่อบันทึก โดยใช้เวลาที่เหลือในการตรวจสอบด้วยภาพ เวลาทั้งหมดลดลงเหลือประมาณ 12 ชั่วโมง; สิ่งที่สำคัญคือเวลาที่ประหยัดได้ถูกใช้ไปในการตรวจสอบ

กรณีที่ 2 — ภาพหลอนที่จับภาพได้ เมื่อวิศวกรชีวการแพทย์ขอเอกสารสรุปสำหรับรายงานการประเมินทางคลินิกของอุปกรณ์ ข้อความดังกล่าวมีประโยค “Yilmaz และคณะ 2019 รายงานความไว 98%” ไม่มีบทความดังกล่าว โมเดลได้สร้างการระบุแหล่งที่มาโดยการเลียนแบบรูปแบบจริง การตรวจสอบแหล่งที่มา (DOI และการตรวจสอบบันทึกประจำวัน) พบข้อผิดพลาดก่อนที่จะลงนามรายงาน

กรณีที่ 3 — ข้อผิดพลาดของหน่วย ในตัวช่วยในการคำนวณขนาดยา แบบจำลองได้เปลี่ยนปริมาตรที่แนะนำ 1,000 เท่าโดยทำให้ความเข้มข้นของยาสับสนด้วย µg/mL แทนที่จะเป็น mg/mL ลำดับทางสรีรวิทยาของการตรวจสอบขนาด “ผู้ใหญ่จะได้รับ 2 มิลลิลิตร ไม่ใช่ 2 ลิตร” เผยให้เห็นข้อผิดพลาดทันที การคำนวณนี้ยังต้องให้เภสัชกรและแพทย์อนุมัติ AI เป็นเพียงเครื่องมือควบคุมระดับกลางเท่านั้น

พรอมต์ที่อ่อนแอ / พรอมต์ที่แข็งแกร่ง

พรอมต์ที่อ่อนแอ:

ดูข้อมูลของผู้ป่วยรายนี้และระบุการวินิจฉัยของเขา[ข้อมูล]

พรอมต์อันทรงพลัง:

บทบาทของคุณ: คุณเป็นนักวิเคราะห์ข้อมูลชีวการแพทย์ (คุณไม่ต้องวินิจฉัย) สรุปการวัดแบบไม่ระบุชื่อต่อไปนี้ตามข้อมูลที่ให้ไว้เท่านั้น - อย่าวินิจฉัย; ให้เฉพาะผลการวิจัยที่เป็นตัวเลขและการเปรียบเทียบช่วงปกติ - ห้ามเพิ่มสิ่งที่ค้นพบ ค่านิยม หรือเรื่องราวใดๆ ที่ไม่ได้อยู่ในข้อมูล - แสดงเส้นข้อมูลที่คุณยึดตามด้วยวงเล็บถัดจากการสังเกตแต่ละครั้ง - เขียน "ข้อมูลไม่เพียงพอ" ในตำแหน่งที่ไม่ชัดเจน - ในตอนท้าย: แยกรายการ 3 ประเด็นที่แพทย์ต้องยืนยันแยกกัน ข้อมูลที่ไม่ระบุชื่อ: [การวัด]

พรอมต์ที่มีประสิทธิภาพกำหนดสามสิ่งในแบบจำลอง: ยึดติดกับแหล่งที่มา ไม่ได้รับสิทธิ์ในการวินิจฉัย และการทำเครื่องหมายสิ่งต่าง ๆ เพื่อตรวจสอบ สิ่งนี้ไม่ได้ยุติภาพหลอนอย่างสมบูรณ์ แต่ทำให้มองเห็นได้และจัดตำแหน่งบทบาทได้อย่างถูกต้อง

เทมเพลตที่คัดลอกได้สี่แบบ

1) การสร้างบริบทที่ไม่เปิดเผยตัวตน:

ฉันต้องการความช่วยเหลือในภารกิจชีวการแพทย์ ชื่อผู้ป่วย ตัวตน วันที่ และข้อมูลสถาบันเป็นความลับ ฉันจะให้สำนวนที่เป็นตัวแทน เช่น "ผู้ป่วย-A", "วันที่-0" ภารกิจ: [ภารกิจ] เพียงอาศัยข้อมูลทางเทคนิคที่ไม่เปิดเผยตัวตนที่ฉันให้ไว้

2) คำขอตรวจสอบจุดยึดสามรายการ:

ตรวจสอบผลลัพธ์ต่อไปนี้สามครั้ง:1) ลำดับความสำคัญทางสรีรวิทยา: แต่ละตัวเลขอยู่ภายในช่วงของมนุษย์หรือไม่? ถ้าไม่ ให้ทำเครื่องหมาย 2) ความน่าเชื่อถือทางคลินิก: มีการกล่าวอ้างที่ไม่สอดคล้องกับอายุ/ประวัติ/อาการหรือไม่ 3) รายการตรวจสอบ: รายการที่จะได้รับการยืนยันโดยการทดสอบ/ผู้เชี่ยวชาญอิสระ ผลลัพธ์: [ข้อความ]

3) การบังคับใช้ความคลุมเครือ:

ให้การตีความของคุณด้วยความมั่นใจสามระดับ:- ความมั่นใจสูง (ข้อมูลสนับสนุนโดยตรง)- ความเชื่อมั่นปานกลาง (อนุมานอย่างสมเหตุสมผล)- การเก็งกำไร (ต้องมีข้อมูลเพิ่มเติม/การทดสอบ) งาน: [งาน] ข้อมูล: [ข้อมูลที่ไม่ระบุชื่อ]

4) ความแตกต่างในการตัดสินใจ/การสนับสนุน:

แบ่งงานต่อไปนี้ออกเป็นสองส่วน:A) งานข้อมูล/ร่างที่ AI สามารถทำได้ด้วยความมั่นใจ B) จุดการตัดสินใจที่การอนุมัติของแพทย์/วิศวกรที่ได้รับอนุญาตเป็น MANDATORYคำอธิบายงาน: [คำจำกัดความ]

บทบาทของ AI: ความเสี่ยงตามประเภทภารกิจ

ประเภทงาน

การมีส่วนร่วมของ AI

ระดับความเสี่ยง

ความหนาแน่นของการตรวจสอบ

การประมวลผลสัญญาณ/ภาพล่วงหน้า

สูง

ต่ำ

ตรวจสอบจุด

ค้นหาเครื่องหมายเบื้องต้น

สูง

ปานกลาง

ผู้เชี่ยวชาญ + ความมีเหตุผล

การทำนาย/การให้คะแนนความเสี่ยง

ปานกลาง

สูง

การสอบเทียบ + อิสระ

การตัดสินใจวินิจฉัย/การรักษา

จำกัด

สูงมาก

ได้รับการอนุมัติจากแพทย์เต็มรูปแบบ

รายงาน/ร่างวรรณกรรม

สูง

ปานกลาง

การยืนยันแหล่งที่มา

การตัดสินใจด้านความปลอดภัยของอุปกรณ์

จำกัด

สูงมาก

มาตรฐาน + V&V + การอนุมัติ

เคล็ดลับ: เพื่อกำหนดระดับความเสี่ยงของงาน ให้ถามคำถามหนึ่งข้อ: “จะเกิดอะไรขึ้นกับผู้ป่วยหากผลลัพธ์นี้ไม่ถูกต้อง” หากคำตอบคือ "ฉันจะเสียเวลาสักสองสามนาที" ให้ยืนยันอย่างสบายๆ หาก "ผู้ป่วยอาจได้รับอันตราย" ให้ถือว่าผลลัพธ์เป็นเพียงสมมติฐาน และดำเนินการผ่านกระบวนการทางคลินิก/วิศวกรรมเต็มรูปแบบ

ข้อควรสนใจ: คุณลักษณะที่อันตรายที่สุดของปัญญาประดิษฐ์ไม่ใช่การทำผิดพลาด แต่ทำผิดพลาดอย่างมั่นใจและในภาษาทางการแพทย์ ข้อความทางเทคนิคที่คล่องแคล่วและเป็นมืออาชีพไม่ได้หมายความว่าข้อความนั้นถูกต้อง หลักฐานที่น่าเชื่อถือ ไม่ใช่สไตล์

ข้อผิดพลาดทั่วไป

• เข้าใจผิดว่าคล่องเพื่อความถูกต้อง ไม่ว่าข้อความจะปรากฏทางการแพทย์เพียงใด การกล่าวอ้างที่เป็นข้อเท็จจริง (คุณค่า สิ่งที่ค้นพบ แหล่งที่มา ปริมาณ) ควรได้รับการตรวจสอบโดยอิสระ
• ไม่ปรับขนาดความเสี่ยงตามประเภทของงาน การดูบัญชีปริมาณรังสีในลักษณะเดียวกับร่างอีเมล การตรวจสอบจะถูกปรับขนาดตามอันตรายที่อาจเกิดขึ้นกับผู้ป่วย
• ป้อนข้อมูลคนไข้โดยไม่ต้องคิด ข้อมูลสุขภาพเป็นข้อมูลส่วนบุคคลพิเศษ ไม่เปิดเผยชื่อก่อนเข้าสู่ยานพาหนะที่ไม่มีการควบคุม
• ให้สิทธิ์ในการวินิจฉัย AI AI ไม่ได้วินิจฉัย สร้างสมมติฐาน การตัดสินใจในการวินิจฉัยและการรักษาเป็นของแพทย์
• โดยละเลยความไม่แน่นอน เพียงเพราะแบบจำลองดู "มั่นใจ" ไม่ได้หมายความว่าความไม่แน่นอนจะหายไป สอบถามระดับความมั่นใจและช่วง

โดยสรุป

• การวัดทางชีวการแพทย์เป็นการวัดทางอ้อมและมีเสียงดัง ปัญญาประดิษฐ์สามารถเร่งความเร็วและซ่อนข้อผิดพลาดได้
• ปัญญาประดิษฐ์เป็นอุปกรณ์ที่ปลอดภัยและให้ผลกำไรมากที่สุดในการเตรียมข้อมูล มีคุณค่าที่สุดแต่มีความเสี่ยงที่สุดในการตีความ/การวิเคราะห์ และเป็นตัวเร่งในการจัดทำเอกสาร
• ผลลัพธ์แต่ละอย่างได้รับการตรวจสอบความถูกต้องโดยปัจจัยสามประการ ได้แก่ ลำดับความสำคัญทางสรีรวิทยา ความน่าเชื่อถือทางคลินิก หลักฐานอิสระ
• ความเสี่ยงของผลลัพธ์จะเท่ากับอันตรายที่จะเกิดกับผู้ป่วยหากไม่ถูกต้อง การตรวจสอบจะปรับขนาดตามลำดับ
• AI ไม่ได้วินิจฉัย การตัดสินใจเกี่ยวกับความปลอดภัยของผู้ป่วยทุกครั้งจะต้องได้รับอนุมัติจากแพทย์และวิศวกรที่ได้รับอนุญาต

งานสมัคร

ระบุงานชีวการแพทย์ห้างานที่คุณทำในหนึ่งสัปดาห์จากงานของคุณเอง (เช่น การเคลียร์สัญญาณ การค้นหาเที่ยวบินล่วงหน้า ส่วนรายงาน คำอธิบายประกอบความเสี่ยง การทดสอบอุปกรณ์) วางแต่ละระดับความเสี่ยงตามตารางในหน่วยนี้แล้วถามว่า “จะเกิดอะไรขึ้นกับผู้ป่วยถ้ามันผิด” ตอบคำถามในหนึ่งประโยค จากนั้นเขียนข้อความแจ้งเตือนที่ชัดเจนและไม่เปิดเผยชื่อไปยังงานที่มีความเสี่ยงต่ำที่สุดแล้วลองทำดู ตรวจสอบเอาต์พุตด้วยพุกสามตัวและสังเกตว่าพุกตัวใดที่เกิดปัญหา

รายการตรวจสอบ

• [ ] ฉันสามารถแยกแยะได้ว่าจุดใดที่ปัญญาประดิษฐ์ก่อให้เกิดความปลอดภัยและจุดใดที่มูลค่าความเสี่ยงในกระบวนการทำงานด้านชีวการแพทย์
• [ ] ฉันได้รับภาพสะท้อนเพื่อตรวจสอบทุกผลลัพธ์ด้วยขนาดทางสรีรวิทยา ความน่าเชื่อถือทางคลินิก และหลักฐานที่เป็นอิสระ
• [ ] ระดับความเสี่ยงของงาน "จะเกิดอะไรขึ้นกับผู้ป่วยหากเกิดข้อผิดพลาด" ฉันสามารถตัดสินใจได้ด้วยคำถาม
• [ ] ฉันรู้ว่าภาพหลอนและความไม่แน่นอนคืออะไร และจะทำให้มองเห็นได้อย่างไร
• [ ] ฉันเข้าใจแล้วว่าปัญญาประดิษฐ์ไม่สามารถวินิจฉัยได้ และการตัดสินใจในการวินิจฉัย/การรักษาขึ้นอยู่กับแพทย์