이득:
- 이미지, 신호, 데이터 및 규제 부분을 책임 있는 단일 생체의학 AI 워크플로우로 결합하는 기능
- Human-In-The-Loop 감사, 추적성 및 배포 후 모니터링 원칙을 적용하는 능력
- 인공지능이 의사, 엔지니어의 승인을 대체하지 않는 모든 단계에서 한계를 유지할 수 있는 능력
모듈 시험
1. 다음 중 의생명공학에서 AI 결과물의 위험성을 결정하는 기본 원칙은 무엇입니까?
- A) 출력의 위험은 출력이 부정확할 경우 환자에게 초래할 수 있는 피해와 동일합니다. 그에 따라 검증 규모가 조정됩니다 ✔
- B) AI 출력물은 유창하고 기술적으로 작성되었기 때문에 일반적으로 안전합니다.
- 다) 최신 모델을 사용하는 경우에는 Validation이 불필요하다.
- D) 출력이 매뉴얼을 참조하는 경우 추가 확인이 필요하지 않습니다.
설명: 출력의 위험은 해당 출력이 올바르지 않을 경우 환자에게 해를 끼치는 것과 같습니다. 문헌 요약의 사소한 오류는 위험이 낮지만, 이미지 감지 또는 임상 결정 입력 오류는 환자 안전을 직접적으로 위협합니다. 따라서 검증 강도는 잠재적인 위험에 따라 증가하며 환자 안전과 관련된 모든 결정은 의사의 승인에 따라 달라집니다.
2. 방사선학 임상 사용에서 AI 지원 탐지 모델의 적절한 역할은 무엇입니까?
- A) 방사선과 의사의 보고서를 자동으로 승인하고 업무량을 제거합니다.
- B) 방사선 전문의를 만나지 않고 우선순위가 낮은 사례 종결
- 다) 모델확률이 높을 경우 별도의 검사 없이 진단한다.
- D) 결과에 주의를 기울이고 우선순위를 지정하는 지원 도구가 되지만, 진단에 대한 책임은 방사선과 전문의에게 있습니다. ✔
설명: Image AI는 의사결정 지원 도구입니다. 관심을 끌고, 우선순위를 정하고, 측정하고, 플래그를 지정합니다. 그러나 진단 책임은 방사선 전문의에게 있습니다. 모델 출력은 방사선 전문의의 결정을 대체할 수 없으며 단지 입력일 뿐입니다. 위양성 및 위음성이 항상 가능하므로 출력은 독립적인 임상 평가와 함께 사용됩니다.
3. 디지털 병리학에서 AI 모델의 성능을 한 실험실에서 다른 실험실로 이전할 때 가장 일반적인 문제는 무엇입니까?
- A) 모델이 매우 빠르게 작동합니다.
- B) 슬라이드 파일이 너무 작습니다.
- 다) 염색과 스캐닝의 차이로 인한 도메인 이동 ✔
- D) 병리학자는 모델을 전혀 사용하고 싶지 않습니다.
설명: 염색 프로토콜, 스캐너 브랜드 및 섹션 두께는 실험실마다 다릅니다. 모델이 한 실험실의 이미지 통계를 기반으로 학습했다면 다른 실험실에서는 성능이 저하됩니다. 이 현상을 도메인 이동이라고 하며 디지털 병리학 실패의 가장 일반적인 원인입니다. 이것이 바로 외부 검증과 색상 정규화가 중요한 이유입니다.
4. ECG 분류 모델이 '심방세동'이라고 표시할 때 엔지니어의 첫 번째 확인 반사는 무엇이어야 합니까?
- A) 진단으로 라벨을 환자 파일에 직접 작성
- B) 원시 신호, 인공물, 생리학적 타당성을 확인하고 결정은 의사에게 맡깁니다. ✔
- C) 모델의 신뢰도 점수가 높으면 다른 제어가 필요하지 않습니다.
- D) 환자에게 약물 치료를 지시합니다.
설명: 출력은 먼저 생리학적 타당성과 신호 품질을 테스트해야 합니다. 녹음의 기준선 드리프트, 근육 인공물 또는 전극 이완이 리듬을 모방할 수 있습니다. 원시 신호와 R-R 간격을 보지 않고 레이블을 신뢰하는 것은 잘못된 것입니다. 최종 리듬 진단은 의사의 몫입니다. 모델은 예비 신호를 생성하지만 결정을 내리지는 않습니다.
5. 특히 검증을 어렵게 만드는 뇌파 신호 AI 처리의 핵심 기능은 무엇인가요?
- A) 낮은 신호 대 잡음비 및 높은 아티팩트/가변성 ✔
- B) EEG 신호는 진폭이 매우 높고 잡음이 없습니다.
- C) 한 채널에서만 EEG를 기록합니다.
- D) EEG 데이터는 결코 디지털이 아니다
설명: EEG는 진폭이 매우 낮은(마이크로볼트 범위) 신호이며 눈 깜박임, 근육 움직임, 전극 및 네트워크 소음과 같은 인공물에 의해 쉽게 오염됩니다. 또한 개인과 녹음 간의 가변성이 높습니다. 이렇게 낮은 신호 대 잡음 비율로 인해 모델 출력이 취약해지며 전문 신경생리학자의 검증이 필요합니다.
6. 소비자 웨어러블 기기의 심박수 데이터로 작업할 때 가장 중요한 한계는 무엇입니까?
- A) 기기의 배터리가 빨리 소모됩니다.
- B) 클라우드에 데이터 저장
- C) 장치는 의학적으로 인증되지 않은 경우가 많으며 신호는 인공물/편향에 취약합니다. ✔
- D) 기기가 너무 비싸다
공개: 대부분의 소비자 웨어러블 장치는 의료 기기로 인증되지 않았습니다. PPG(광용적맥파측정) 신호는 모션 아티팩트의 영향을 받으며 어두운 피부색, 문신 등의 요인으로 인해 정확도가 떨어질 수 있습니다. 이러한 데이터는 성향/인식에 유용하지만, 진단 결정을 위해서는 검증된 임상 측정 및 의사 평가가 필요합니다.
7. 전자건강기록(EHR) 데이터로 예측 모델을 구축할 때 '일시적 누출'은 무엇을 의미하나요?
- 가) 암호화된 데이터 저장
- B) 예측 당시 아직 존재하지 않는 특성으로 미래 정보 유출 ✔
- C) 데이터가 너무 오래되었습니다
- D) 모델 훈련이 너무 느림
설명: 시간적 누출은 예측 시점(미래)에 아직 사용할 수 없는 정보와 훈련 기능의 간섭입니다. 예를 들어, 퇴원 진단을 사용하여 입원 시 위험을 예측합니다. 이는 실험실에서는 높은 성능을 발휘하지만 실제 임상 사용에서는 성능이 저하되며 임상 데이터 모델의 가장 교활한 결함 중 하나입니다.
8. 다음 중 소프트웨어 자체가 '의료기기 소프트웨어(SaMD)'로 설명될 때 필수 사항은 무엇입니까?
- A) 빨리 일하는 것만으로도 충분하다
- B) 서류가 필요하지 않습니다.
- C) 아름다운 인터페이스만 있으면 된다
- D) 설계 제어, 위험 관리, 확인/검증 및 규정 준수가 필수가 됩니다. ✔
설명: SaMD(의료기기로서의 소프트웨어)는 진단, 치료 또는 모니터링 목적으로 작동하며 하드웨어에 의존하지 않는 소프트웨어입니다. 이 경우 설계 제어, 위험 관리(ISO 14971), 검증/검증 및 규정 준수가 필수입니다. 소프트웨어는 그 실패가 환자의 안전에 직접적인 영향을 미치기 때문에 '단순한 소프트웨어'로 취급될 수 없습니다.
9. AI에게 MDR(의료기기 지침) 조항이나 표준 번호를 요청할 때 가장 심각한 위험은 무엇입니까?
- A) 모델이 허위기사/표준자료를 제작하여 안전하게 제시합니다 ✔
- B) 모델이 답변을 너무 짧게 제공합니다.
- C) 모델이 영어로 응답합니다.
- D) 모델의 반응이 너무 느립니다.
설명: 언어 모델은 존재하지 않는 항목 번호, 잘못된 표준 버전 및 만들어진 참조(환각)를 자신있게 생성할 수 있습니다. 규정 준수에서 잘못된 물질 참조는 심각한 규정 준수 실패로 이어집니다. 따라서 각 속성은 공식 텍스트와 독립적으로 확인되어야 하며 AI는 탐색/초안 작성에만 사용해야 합니다.
10. KVKK 범위 내에서 건강 데이터는 어떤 범주에 속하며 이는 무엇을 의미합니까?
- A) 일반 개인 데이터 자유롭게 처리 가능
- B) 개인정보가 아닙니다. 제한은 없다
- C) 개인정보의 특별 범주 더욱 엄격한 조건과 보호로 처리됩니다 ✔
- D) 영업비밀에 한함. 개인 정보 보호가 필요하지 않습니다
설명: 건강 데이터는 KVKK에서 '특별 개인 데이터'로 간주됩니다. 원칙적으로 처리는 명시적인 동의나 법률에 규정된 예외에 따라 달라지며 보다 엄격한 보호 조치가 필요합니다. 따라서 환자 데이터는 통제되지 않은 도구에 입력될 수 없습니다. 익명화, 접근 제한 및 데이터 처리 계약은 필수입니다.
11. 임상 AI 모델에서 '보정'은 무엇을 의미하며 왜 중요한가요?
- A) 모델 실행 속도
- B) 모델에는 몇 개의 매개변수가 있습니까?
- 다) 모델의 인터페이스 색상
- D) 모델이 제공하는 확률과 실제 사건 빈도의 호환성 ✔
설명: 보정은 모델이 제공한 확률을 실제 빈도에 맞추는 것입니다. 사건은 실제로 '20% 위험'이라고 표시된 환자의 약 20%에서 발생해야 합니다. 클리닉에서의 결정은 확률 임계값을 기반으로 이루어지기 때문에 모델이 제대로 보정되지 않으면 순위가 올바르게 지정되더라도 잘못된 임계값 결정으로 이어질 수 있습니다. 따라서 보정과 차별(AUC)을 검증해야 합니다.
12. 영상, 신호, 임상 데이터 모델에서 '하위군 성과'를 별도로 확인해야 하는 이유는 무엇입니까?
- A) 완전한 정확성만으로도 항상 충분합니다.
- B) 하위 그룹이 모델 속도에 영향을 미치기 때문입니다.
- C) 일반 지표를 사용하면 특정 환자 그룹의 성과 저하와 편향을 숨길 수 있음 ✔
- D) 하위그룹 분석은 마케팅에만 필요함
설명: 모델은 평균적으로 좋아 보일 수 있지만 특정 하위 그룹(연령, 성별, 피부색, 장치 유형, 병원)에서는 성능이 상당히 나쁠 수 있습니다. 일반 지표는 이러한 불평등을 숨깁니다. 의료 분야에서는 이로 인해 일부 환자 그룹에 체계적인 피해가 발생합니다. 따라서 공정성을 위해 성과를 하위그룹으로 나누어 보고해야 한다.
13. 환자 데이터 작업 시 '재식별' 위험에 대비하는 최선의 접근 방식은 무엇입니까?
- A) 어떠한 경우에도 이름만 삭제하면 충분합니다.
- 나) 직접식별자는 물론 간접식별자를 일반화하고 접근을 제한한다 ✔
- 다) 데이터가 소수인 경우에는 예방 조치가 필요하지 않습니다.
- D) 암호화 대신 파일 이름만 변경
설명: 이름이 삭제된 데이터라도 진단, 생년월일, 우편번호 및 날짜를 드물게 조합하여 재식별할 수 있습니다. 따라서 직접 식별자를 추출하는 것만으로는 충분하지 않습니다. 날짜 이동, 일반화, k-익명성, 액세스 제어 등의 기술을 함께 적용해야 하며 민감한 자유 텍스트도 정리해야 합니다.
14. 생체의학 AI 워크플로우에서 엔드투엔드 '인간 참여형' 제어를 유지하는 주된 이유는 무엇입니까?
- A) 인간의 통제는 속도를 저하시킬 뿐이므로 제거해야 합니다.
- B) 모델 신뢰도 점수가 높으면 사람의 검증이 필요하지 않습니다.
- 다) 법적 의무 외에는 실질적인 사유가 없습니다.
- D) AI에는 편견과 오류가 있을 수 있습니다. 환자 안전 결정과 책임은 자격을 갖춘 전문가에게 있어야 합니다 ✔
설명: 인공지능은 가설을 생성하고 우선순위를 정하며 초안을 작성합니다. 그러나 데이터에서 학습한 패턴은 불완전하거나 편향되거나 맥락에서 벗어날 수 있습니다. 오류를 파악하고 책임을 올바른 위치에 두기 위해서는 환자 안전에 관한 결정을 권한 있는 의사와 엔지니어의 승인을 받아 유지하는 것이 필수적입니다. AI는 어떤 단계에서도 이 승인을 대체하지 않습니다.