กำไร:
- ความสามารถในการรวมรูปภาพ สัญญาณ ข้อมูล และส่วนควบคุมต่างๆ ไว้ในเวิร์กโฟลว์ AI ชีวการแพทย์ที่รับผิดชอบเพียงแห่งเดียว
- ความสามารถในการใช้หลักการตรวจสอบโดยมนุษย์ในวง ความสามารถในการตรวจสอบย้อนกลับ และหลักการตรวจสอบหลังการจำหน่าย
- ความสามารถในการรักษาขีดจำกัดในทุกขั้นตอนที่ปัญญาประดิษฐ์ไม่สามารถแทนที่การอนุมัติของแพทย์และวิศวกรได้
การสอบโมดูล
1. ข้อใดต่อไปนี้เป็นหลักการพื้นฐานที่กำหนดความเสี่ยงของเอาท์พุต AI ในวิศวกรรมชีวการแพทย์
- A) ความเสี่ยงของผลลัพธ์เท่ากับอันตรายที่จะเกิดกับผู้ป่วยหากไม่ถูกต้อง การตรวจสอบจะปรับขนาดตามลำดับ✔
- B) โดยทั่วไปเอาต์พุต AI จะปลอดภัยเนื่องจากมีการเขียนอย่างคล่องแคล่วและมีเทคนิค
- C) ไม่จำเป็นต้องตรวจสอบความถูกต้องเมื่อใช้โมเดลล่าสุด
- D) หากเอาต์พุตอ้างอิงถึงคู่มือ ไม่จำเป็นต้องตรวจสอบเพิ่มเติม
คำอธิบาย: ความเสี่ยงของเอาต์พุตเท่ากับอันตรายต่อผู้ป่วยหากเอาต์พุตนั้นไม่ถูกต้อง แม้ว่าข้อผิดพลาดเล็กน้อยในการสรุปวรรณกรรมจะมีความเสี่ยงต่ำ แต่ข้อผิดพลาดในการตรวจจับด้วยภาพหรือการตัดสินใจทางคลินิกจะคุกคามความปลอดภัยของผู้ป่วยโดยตรง ดังนั้น ความเข้มข้นในการตรวจสอบจะปรับขนาดตามความเสี่ยงที่อาจเกิดขึ้น และการตัดสินใจทุกอย่างที่เกี่ยวข้องกับความปลอดภัยของผู้ป่วยจะขึ้นอยู่กับการอนุมัติของแพทย์
2. อะไรคือบทบาทที่เหมาะสมของแบบจำลองการตรวจจับที่รองรับ AI ในการใช้งานทางคลินิกในด้านรังสีวิทยา?
- ก) อนุมัติรายงานของนักรังสีวิทยาโดยอัตโนมัติและขจัดภาระงาน
- B) การปิดคดีที่มีลำดับความสำคัญต่ำโดยไม่ต้องพบนักรังสีวิทยา
- C) หากความน่าจะเป็นของแบบจำลองสูง ให้ทำการวินิจฉัยโดยไม่ต้องตรวจเพิ่มเติม
- ง) เป็นเครื่องมือสนับสนุนที่ดึงดูดความสนใจไปยังสิ่งที่ค้นพบและจัดลำดับความสำคัญ แต่ความรับผิดชอบในการวินิจฉัยยังคงเป็นหน้าที่ของนักรังสีวิทยา ✔
คำอธิบาย: Image AI เป็นเครื่องมือสนับสนุนการตัดสินใจ: ดึงดูด จัดลำดับความสำคัญ มาตรการ และธง; อย่างไรก็ตามความรับผิดชอบในการวินิจฉัยยังคงอยู่กับนักรังสีวิทยา ผลลัพธ์ของแบบจำลองไม่สามารถทดแทนการตัดสินใจของนักรังสีวิทยาได้ แต่เป็นเพียงข้อมูลนำเข้าเท่านั้น ผลลัพธ์จะใช้ร่วมกับการประเมินทางคลินิกอิสระ เนื่องจากผลบวกลวงและผลลบลวงเป็นไปได้เสมอ
3. อะไรคือปัญหาที่พบบ่อยที่สุดในการย้ายประสิทธิภาพของแบบจำลอง AI จากห้องปฏิบัติการหนึ่งไปยังอีกห้องปฏิบัติการหนึ่งในพยาธิวิทยาดิจิทัล
- A) โมเดลทำงานเร็วมาก
- B) ไฟล์สไลด์มีขนาดเล็กเกินไป
- C) การย้ายโดเมนเกิดจากการย้อมสีและการสแกนที่แตกต่างกัน ✔
- D) นักพยาธิวิทยาไม่ต้องการใช้แบบจำลองเลย
คำอธิบาย: เกณฑ์วิธีในการย้อมสี ยี่ห้อสแกนเนอร์ และความหนาของส่วนจะแตกต่างกันไปในแต่ละห้องปฏิบัติการ หากแบบจำลองได้เรียนรู้ตามสถิติภาพของห้องปฏิบัติการหนึ่ง ประสิทธิภาพจะลดลงในห้องปฏิบัติการอื่น ปรากฏการณ์นี้เรียกว่าการเปลี่ยนโดเมน และเป็นสาเหตุที่พบบ่อยที่สุดของความล้มเหลวในพยาธิวิทยาดิจิทัล นั่นเป็นเหตุผลว่าทำไมการตรวจสอบภายนอกและการปรับสีให้เป็นมาตรฐานจึงมีความสำคัญ
4. สิ่งที่ควรเป็นการยืนยันครั้งแรกของวิศวกรเมื่อแบบจำลองการจำแนกประเภท ECG มีป้ายกำกับว่า 'ภาวะหัวใจห้องบน'
- A) การเขียนฉลากลงในไฟล์ผู้ป่วยโดยตรงเพื่อเป็นการวินิจฉัย
- B) ตรวจสอบสัญญาณดิบ สิ่งแปลกปลอม และความน่าเชื่อถือทางสรีรวิทยา แล้วฝากการตัดสินใจไว้กับแพทย์ ✔
- ค) หากคะแนนความเชื่อมั่นของแบบจำลองสูง ก็ไม่จำเป็นต้องมีการควบคุมอื่นใด
- D) การนำผู้ป่วยไปรับการรักษาด้วยยา
คำอธิบาย: อันดับแรกควรทดสอบเอาต์พุตเพื่อตรวจสอบความน่าเชื่อถือทางสรีรวิทยาและคุณภาพของสัญญาณ: การเบี่ยงเบนของเส้นพื้นฐาน ความผิดปกติของกล้ามเนื้อ หรือการคลายตัวของอิเล็กโทรดในการบันทึกอาจเลียนแบบจังหวะ เป็นการผิดที่จะเชื่อถือฉลากโดยไม่ดูสัญญาณดิบและช่วง R-R การวินิจฉัยจังหวะขั้นสุดท้ายเป็นของแพทย์ แบบจำลองจะสร้างสัญญาณเบื้องต้นแต่ไม่ได้ทำการตัดสินใจ
5. คุณลักษณะสำคัญของการประมวลผลสัญญาณ EEG ของ AI ที่ทำให้การตรวจสอบทำได้ยากเป็นพิเศษคืออะไร
- A) อัตราส่วนสัญญาณต่อเสียงรบกวนต่ำและมีสิ่งแปลกปลอม/ความแปรปรวนสูง ✔
- B) สัญญาณ EEG มีแอมพลิจูดสูงมากและไม่มีเสียงรบกวน
- C) บันทึก EEG จากช่องเดียวเท่านั้น
- D) ข้อมูล EEG ไม่เคยเป็นดิจิทัล
คำอธิบาย: EEG เป็นสัญญาณแอมพลิจูดที่ต่ำมาก (ช่วงไมโครโวลต์) และปนเปื้อนได้ง่ายจากสิ่งแปลกปลอม เช่น การกระพริบตา การเคลื่อนไหวของกล้ามเนื้อ อิเล็กโทรด และสัญญาณรบกวนจากเครือข่าย นอกจากนี้ ความแปรปรวนระหว่างบุคคลและการบันทึกยังอยู่ในระดับสูง อัตราส่วนสัญญาณต่อเสียงรบกวนที่ต่ำนี้ทำให้เอาต์พุตของโมเดลมีความเปราะบางและจำเป็นต้องได้รับการตรวจสอบจากนักประสาทสรีรวิทยาจากผู้เชี่ยวชาญ
6. อะไรคือขีดจำกัดที่สำคัญที่สุดเมื่อทำงานกับข้อมูลอัตราการเต้นของหัวใจจากอุปกรณ์สวมใส่ของผู้บริโภค?
- ก) แบตเตอรี่ของอุปกรณ์หมดเร็ว
- B) การจัดเก็บข้อมูลในระบบคลาวด์
- C) อุปกรณ์มักไม่ได้รับการรับรองทางการแพทย์ และสัญญาณไวต่อสิ่งแปลกปลอม/อคติ ✔
- D) อุปกรณ์มีราคาแพงเกินไป
การเปิดเผยข้อมูล: อุปกรณ์สวมใส่สำหรับผู้บริโภคส่วนใหญ่ไม่ได้รับการรับรองว่าเป็นอุปกรณ์ทางการแพทย์ สัญญาณ PPG (photoplethysmography) ได้รับผลกระทบจากกลไกการเคลื่อนไหว และปัจจัยต่างๆ เช่น สีผิวเข้มและรอยสัก อาจลดความแม่นยำลง ข้อมูลเหล่านี้มีคุณค่าสำหรับแนวโน้ม/การรับรู้ แต่จำเป็นต้องมีการวัดทางคลินิกที่ได้รับการตรวจสอบและการประเมินของแพทย์เพื่อการตัดสินใจในการวินิจฉัย
7. 'การรั่วไหลชั่วคราว' หมายความว่าอย่างไรเมื่อสร้างแบบจำลองเชิงคาดการณ์ด้วยข้อมูลบันทึกสุขภาพอิเล็กทรอนิกส์ (EHR)
- A) การจัดเก็บข้อมูลที่เข้ารหัส
- B) การรั่วไหลของข้อมูลในอนาคตไปสู่ฟีเจอร์ที่ยังไม่มีในขณะที่คาดการณ์ ✔
- C) ข้อมูลเก่าเกินไป
- D) การฝึกโมเดลช้าเกินไป
คำอธิบาย: การรั่วไหลชั่วคราวเป็นการรบกวนคุณสมบัติการฝึกอบรมกับข้อมูลที่ยังไม่มีให้บริการในขณะที่คาดการณ์ (ในอนาคต) เช่น การใช้การวินิจฉัยจำหน่ายเพื่อคาดการณ์ความเสี่ยงเมื่อเข้ารับการรักษา สิ่งนี้นำไปสู่ประสิทธิภาพสูงในห้องปฏิบัติการ แต่ประสิทธิภาพการทำงานล้มเหลวในการใช้งานทางคลินิกจริง และเป็นหนึ่งในข้อบกพร่องที่ร้ายกาจที่สุดของแบบจำลองข้อมูลทางคลินิก
8. ข้อใดต่อไปนี้ถือเป็นข้อบังคับเมื่อซอฟต์แวร์ถูกอธิบายว่าเป็น 'ซอฟต์แวร์อุปกรณ์ทางการแพทย์' (SaMD)
- ก) แค่ทำงานให้เร็วก็พอแล้ว
- B) ไม่ต้องใช้เอกสารใด ๆ
- C) จำเป็นต้องมีอินเทอร์เฟซที่สวยงามเท่านั้น
- D) การควบคุมการออกแบบ การจัดการความเสี่ยง การตรวจสอบ/การตรวจสอบ และการปฏิบัติตามกฎระเบียบ กลายเป็นข้อบังคับ ✔
คำอธิบาย: SaMD (ซอฟต์แวร์ในฐานะอุปกรณ์การแพทย์) คือซอฟต์แวร์ที่ทำงานเพื่อการวินิจฉัย การรักษา หรือการติดตามผล และไม่ขึ้นอยู่กับฮาร์ดแวร์ใดๆ ในกรณีนี้ ต้องมีการควบคุมการออกแบบ การจัดการความเสี่ยง (ISO 14971) การตรวจสอบ/การตรวจสอบความถูกต้อง และการปฏิบัติตามกฎระเบียบ ซอฟต์แวร์ไม่สามารถถือเป็น 'เพียงซอฟต์แวร์' ได้ เนื่องจากความล้มเหลวส่งผลโดยตรงต่อความปลอดภัยของผู้ป่วย
9. อะไรคือความเสี่ยงที่สำคัญที่สุดเมื่อคุณถาม AI เกี่ยวกับข้อกำหนด MDR (Medical Device Directive) หรือหมายเลขมาตรฐาน
- A) โมเดลสร้างบทความปลอม/ข้อมูลอ้างอิงมาตรฐานและนำเสนออย่างปลอดภัย ✔
- B) โมเดลให้คำตอบสั้นเกินไป
- C) โมเดลตอบกลับเป็นภาษาอังกฤษ
- D) โมเดลตอบสนองช้าเกินไป
คำอธิบาย: โมเดลภาษาสามารถสร้างหมายเลขรายการที่ไม่มีอยู่ รุ่นมาตรฐานที่ไม่ถูกต้อง และการอ้างอิงที่สร้างขึ้น (ภาพหลอน) ได้อย่างมั่นใจ ในการปฏิบัติตามกฎระเบียบ การอ้างอิงสารที่ไม่ถูกต้องจะนำไปสู่ความล้มเหลวในการปฏิบัติตามข้อกำหนดอย่างร้ายแรง ดังนั้นการระบุแหล่งที่มาแต่ละรายการควรได้รับการตรวจสอบโดยแยกจากข้อความอย่างเป็นทางการ โดย AI ควรใช้สำหรับการนำทาง/ร่างเท่านั้น
10. ข้อมูลสุขภาพจัดอยู่ในหมวดหมู่ใดภายในขอบเขตของ KVKK และสิ่งนี้หมายความว่าอย่างไร
- ก) ข้อมูลส่วนบุคคลทั่วไป สามารถประมวลผลได้อย่างอิสระ
- B) ไม่ใช่ข้อมูลส่วนบุคคล ไม่มีข้อจำกัด
- C) ข้อมูลส่วนบุคคลประเภทพิเศษ ประมวลผลด้วยเงื่อนไขและการคุ้มครองที่เข้มงวดยิ่งขึ้น ✔
- D) ความลับทางการค้าเท่านั้น ไม่จำเป็นต้องมีความเป็นส่วนตัว
คำอธิบาย: ข้อมูลด้านสุขภาพถือเป็น 'ข้อมูลส่วนบุคคลพิเศษ' ใน KVKK ตามกฎแล้ว การประมวลผลขึ้นอยู่กับความยินยอมอย่างชัดแจ้งหรือข้อยกเว้นที่กำหนดโดยกฎหมาย และต้องมีมาตรการป้องกันที่เข้มงวดกว่านี้ ดังนั้นข้อมูลผู้ป่วยจึงไม่สามารถป้อนข้อมูลลงในเครื่องมือที่ไม่มีการควบคุมได้ จำเป็นต้องมีข้อตกลงในการไม่เปิดเผยตัวตน การจำกัดการเข้าถึง และการประมวลผลข้อมูล
11. 'การปรับเทียบ' หมายความว่าอย่างไรในแบบจำลอง AI ทางคลินิก และเหตุใดจึงมีความสำคัญ
- A) โมเดลทำงานเร็วแค่ไหน
- B) โมเดลมีพารามิเตอร์กี่ตัว?
- C) สีอินเทอร์เฟซของโมเดล
- D) ความเข้ากันได้ของความน่าจะเป็นที่กำหนดโดยแบบจำลองกับความถี่ของเหตุการณ์จริง ✔
คำอธิบาย: การสอบเทียบคือการปรับความน่าจะเป็นที่กำหนดโดยแบบจำลองให้เข้ากับความถี่จริง เหตุการณ์ควรเกิดขึ้นจริงในผู้ป่วยประมาณ 20% ที่ระบุว่าเป็น 'ความเสี่ยง 20%' เนื่องจากการตัดสินใจในคลินิกขึ้นอยู่กับเกณฑ์ความน่าจะเป็น โมเดลที่มีการสอบเทียบไม่ดีจะนำไปสู่การตัดสินใจเกี่ยวกับเกณฑ์ที่ไม่ถูกต้อง แม้ว่าจะจัดอันดับอย่างถูกต้องก็ตาม ดังนั้นจึงต้องตรวจสอบการสอบเทียบและการเลือกปฏิบัติ (AUC)
12. เหตุใดจึงควรตรวจสอบ 'ประสิทธิภาพของกลุ่มย่อย' แยกกันในแบบจำลองรูปภาพ สัญญาณ หรือข้อมูลทางคลินิก
- A) แค่ความแม่นยำโดยรวมก็เพียงพอแล้ว
- B) เนื่องจากกลุ่มย่อยส่งผลต่อความเร็วของโมเดล
- C) ตัวชี้วัดทั่วไปสามารถซ่อนประสิทธิภาพที่ต่ำกว่าและความลำเอียงในกลุ่มผู้ป่วยเฉพาะกลุ่มได้ ✔
- D) การวิเคราะห์กลุ่มย่อยจำเป็นสำหรับการตลาดเท่านั้น
คำอธิบาย: แม้ว่าแบบจำลองอาจดูดีโดยเฉลี่ย แต่อาจทำงานได้แย่ลงอย่างมากในบางกลุ่มย่อย (อายุ เพศ สีผิว ประเภทอุปกรณ์ โรงพยาบาล) ตัวชี้วัดทั่วไปซ่อนความไม่เท่าเทียมกันนี้ไว้ ในการดูแลสุขภาพ สิ่งนี้นำไปสู่อันตรายอย่างเป็นระบบในผู้ป่วยบางกลุ่ม ดังนั้นควรแบ่งการปฏิบัติงานออกเป็นกลุ่มย่อยและรายงานเพื่อความเป็นธรรม
13. อะไรคือวิธีที่ดีที่สุดในการป้องกันความเสี่ยงของ 'การระบุตัวตนซ้ำ' เมื่อทำงานกับข้อมูลผู้ป่วย?
- A) แค่ลบชื่อก็เพียงพอแล้วในทุกสถานการณ์
- B) วางลักษณะทั่วไปของตัวระบุทางอ้อมรวมถึงตัวระบุโดยตรงและจำกัดการเข้าถึง ✔
- C) หากข้อมูลเป็นของคนจำนวนน้อย ก็ไม่จำเป็นต้องมีข้อควรระวัง
- D) เพียงแค่เปลี่ยนชื่อไฟล์แทนการเข้ารหัส
คำอธิบาย: แม้แต่ข้อมูลที่ลบชื่อก็สามารถระบุได้อีกครั้งด้วยการวินิจฉัย วันเกิด รหัสไปรษณีย์ และวันที่ซึ่งพบไม่บ่อยนัก ดังนั้นการแยกตัวระบุโดยตรงเพียงอย่างเดียวนั้นไม่เพียงพอ ควรใช้เทคนิคต่างๆ เช่น การเปลี่ยนวันที่ การวางนัยทั่วไป การไม่เปิดเผยตัวตนแบบ k และการควบคุมการเข้าถึง และควรล้างข้อความอิสระที่ละเอียดอ่อนด้วย
14. อะไรคือเหตุผลหลักในการรักษาการควบคุม 'มนุษย์ในวงจร' แบบ end-to-end ในเวิร์กโฟลว์ AI ชีวการแพทย์?
- ก) การควบคุมของมนุษย์ทำให้เกิดความล่าช้าเท่านั้นและควรกำจัดออกไป
- B) หากคะแนนความเชื่อมั่นของแบบจำลองสูง การตรวจสอบโดยมนุษย์ก็ไม่จำเป็น
- C) ไม่มีเหตุผลในทางปฏิบัติอื่นใดนอกจากข้อผูกพันทางกฎหมาย
- D) AI อาจมีอคติและข้อผิดพลาด การตัดสินใจและความรับผิดชอบด้านความปลอดภัยของผู้ป่วยควรอยู่กับผู้เชี่ยวชาญที่มีคุณสมบัติเหมาะสม ✔
คำอธิบาย: ปัญญาประดิษฐ์สร้าง จัดลำดับความสำคัญ และร่างสมมติฐาน แต่รูปแบบที่เรียนรู้จากข้อมูลอาจไม่สมบูรณ์ มีอคติ หรือไม่อยู่ในบริบท การตัดสินใจเกี่ยวกับความปลอดภัยของผู้ป่วยจำเป็นต้องได้รับความเห็นชอบจากแพทย์และวิศวกรที่ได้รับอนุญาต เพื่อตรวจจับข้อผิดพลาดและรักษาความรับผิดชอบให้ถูกที่ AI จะไม่แทนที่การอนุมัตินี้ในขั้นตอนใดๆ