利益:
- 画像、信号、データ、規制の要素を単一の責任ある生物医学 AI ワークフローに結合する機能
- 人間参加型の監査、トレーサビリティ、および配布後の監視原則を適用する能力
- 人工知能が医師や技術者の承認に代わらないあらゆる段階で制限を維持する能力
モジュール試験
1. 生物医用工学における AI 出力のリスクを決定する基本原則は次のうちどれですか?
- A) 出力のリスクは、それが間違っていた場合に患者に生じる危害と同じです。検証はそれに応じてスケールされます ✔
- B) AI 出力は流暢かつ技術的に書かれているため、一般に安全です
- C) 最新モデルを使用する場合は検証が不要
- D) 出力がマニュアルを参照している場合、追加のチェックは必要ありません
説明: 出力のリスクは、その出力が間違っていた場合の患者への危害と同じです。文献概要における軽微な誤りはリスクが低いですが、画像検出や臨床判断に誤りがあれば患者の安全が直接脅かされます。したがって、検証の強度は潜在的な危害に応じて調整され、患者の安全に関わるすべての決定は医師の承認に依存します。
2. 放射線科の臨床使用における AI 支援検出モデルの適切な役割は何ですか?
- A) 放射線科医のレポートを自動承認し、業務負担を軽減
- B) 放射線科医の診察を受けずに優先度の低い症例をクローズする
- C) モデルの確率が高い場合、追加の検査を行わずに診断を行う
- D) 所見に注意を引き、優先順位を付けるサポートツールであるが、診断の責任は放射線科医にある ✔
説明: Image AI は意思決定支援ツールです。引き付け、優先順位を付け、測定し、フラグを立てます。ただし、診断の責任は放射線科医にあります。モデルの出力は放射線科医の決定に代わるものではなく、単なる入力にすぎません。偽陽性と偽陰性が常に発生する可能性があるため、出力は独立した臨床評価と組み合わせて使用されます。
3. デジタルパソロジーにおいて AI モデルのパフォーマンスをある研究室から別の研究室に移植するときに最も一般的な問題は何ですか?
- A) モデルは非常に高速に動作します
- B) スライド ファイルが小さすぎる
- C) 染色とスキャンの違いによるドメインシフト ✔
- D) 病理学者はモデルをまったく使いたくない
説明: 染色プロトコル、スキャナーのブランド、切片の厚さは研究室によって異なります。モデルが 1 つの研究室の画像統計に基づいて学習した場合、別の研究室ではそのパフォーマンスが低下します。この現象はドメイン シフトと呼ばれ、デジタル パソロジーにおける失敗の最も一般的な原因です。そのため、外部検証と色の正規化が重要です。
4. ECG 分類モデルが「心房細動」と分類した場合、技師は最初に何を確認する必要がありますか?
- A) ラベルを診断として患者ファイルに直接書き込む
- B) 生の信号、アーチファクト、生理学的妥当性を確認し、決定を医師に委ねます ✔
- C) モデルの信頼スコアが高い場合、他の制御は必要ありません。
- D) 患者を薬物治療に誘導する
説明: 出力は、生理学的妥当性と信号品質について最初にテストする必要があります。記録内のベースラインドリフト、筋肉アーチファクト、または電極弛緩がリズムを模倣している可能性があります。生の信号と R-R 間隔を見ずにラベルを信頼するのは間違いです。最終的なリズム診断は医師に属します。モデルは予備的なシグナルを生成しますが、決定は行いません。
5. 検証を特に困難にする脳波信号の AI 処理の主な特徴は何ですか?
- A) 信号対雑音比が低く、アーティファクト/変動性が高い ✔
- B) EEG 信号は非常に振幅が大きく、ノイズがありません。
- C) 1 つのチャネルのみから脳波を記録する
- D) EEG データは決してデジタルではありません
説明: EEG は非常に低い振幅 (マイクロボルト範囲) の信号であり、まばたき、筋肉の動き、電極やネットワークのノイズなどのアーチファクトによって容易に汚染されます。さらに、個人や記録間のばらつきも大きくなります。この低い信号対雑音比によりモデルの出力が脆弱になり、専門の神経生理学者による検証が必要になります。
6. 消費者向けウェアラブル デバイスからの心拍数データを扱う際の最も重要な制限は何ですか?
- A) デバイスのバッテリーがすぐになくなる
- B) クラウドにデータを保存する
- C) デバイスは医学的に認定されていないことが多く、信号はアーチファクト/バイアスの影響を受けやすい ✔
- D) デバイスが高すぎる
開示: ほとんどの消費者向けウェアラブル デバイスは医療機器として認定されていません。 PPG (光電脈波計) 信号はモーション アーチファクトの影響を受け、暗い肌の色調やタトゥーなどの要因により精度が低下する可能性があります。これらのデータは傾向や認識にとって貴重ですが、診断の決定には検証された臨床測定と医師の評価が必要です。
7. 電子医療記録 (EHR) データを使用して予測モデルを構築する場合の「時間的漏洩」とは何を意味しますか?
- A) データの暗号化された保管
- B) 予測時点ではまだ存在しない特徴への将来の情報の漏洩 ✔
- C) データが古すぎる
- D) モデルのトレーニングが遅すぎる
説明: 時間的漏洩とは、予測時点 (将来) にはまだ利用できない情報によるトレーニング特徴の干渉です。たとえば、退院診断を使用して入院時のリスクを予測します。これは、研究室では高いパフォーマンスをもたらしますが、実際の臨床使用ではパフォーマンスを低下させ、臨床データ モデルの最も危険な欠陥の 1 つです。
8. ソフトウェア自体が「医療機器ソフトウェア」(SaMD) として記載されている場合、必須となるのは次のうちどれですか?
- A) 速く働くだけで十分です
- B) いかなる文書も必要としない
- C) 美しいインターフェイスだけが必要です
- D) 設計管理、リスク管理、検証/検証、法規制順守が必須となる ✔
説明: SaMD (医療機器としてのソフトウェア) は、診断、治療、監視の目的で機能し、ハードウェアに依存しないソフトウェアです。この場合、設計管理、リスク管理 (ISO 14971)、検証/検証、および規制順守が必須です。ソフトウェアの障害は患者の安全に直接影響するため、ソフトウェアを「単なるソフトウェア」として扱うことはできません。
9. AI に MDR (医療機器指令) 条項または規格番号を求める場合、最も重大なリスクは何ですか?
- A) モデルは偽の記事/標準リファレンスを生成し、それらを安全に提示します ✔
- B) モデルが与える答えが短すぎます
- C) モデルは英語で応答します
- D) モデルの応答が遅すぎる
説明: 言語モデルは、存在しない項目番号、誤った標準バージョン、およびでっちあげの参照 (幻覚) を自信を持って生成できます。規制順守において、不正確な物質参照は重大な順守違反につながります。したがって、各帰属は公式テキストとは独立して検証されるべきであり、AI はナビゲーション/製図のみに使用されるべきです。
10. 健康データは KVKK の範囲内でどのカテゴリに分類されますか?これは何を意味しますか?
- A) 通常の個人データ。自由に加工できる
- B) 個人データではありません。制限はありません
- C) 特別なカテゴリーの個人データ。より厳しい条件と保護で処理されます ✔
- D) 企業秘密のみ。プライバシーは必要ありません
説明: KVKK では、健康データは「特別な個人データ」とみなされます。原則として、処理は明示的な同意または法律で定められた例外に依存しており、より厳格な保護措置が必要です。したがって、患者データを管理されていないツールに入力することはできません。匿名化、アクセス制限、データ処理契約は必須です。
11. 臨床 AI モデルにおける「キャリブレーション」とは何を意味しますか?また、なぜそれが重要ですか?
- A) モデルの実行速度
- B) モデルにはパラメータがいくつありますか?
- C) モデルのインターフェースカラー
- D) モデルによって与えられる確率と実際のイベント頻度の互換性 ✔
説明: キャリブレーションとは、モデルによって与えられた確率を実際の頻度に当てはめることです。イベントは実際には、「リスク 20%」と表示されている患者の約 20% で発生するはずです。クリニックでの意思決定は確率しきい値に基づいて行われるため、モデルが適切に調整されていないと、たとえ正しくランク付けされていたとしても、不正確なしきい値が決定されてしまいます。したがって、キャリブレーションと識別 (AUC) を検証する必要があります。
12.「サブグループのパフォーマンス」を画像、信号、または臨床データ モデルで個別にチェックする必要があるのはなぜですか?
- A) 総合的な精度だけで常に十分です
- B) サブグループはモデルの速度に影響を与えるため
- C) 一般的な指標により、特定の患者グループにおけるパフォーマンスの低下や偏見が隠蔽される可能性がある ✔
- D) サブグループ分析はマーケティングにのみ必要です
説明: モデルは平均的には良好に見えますが、特定のサブグループ (年齢、性別、肌の色、デバイスの種類、病院) ではパフォーマンスが大幅に低下する可能性があります。一般的なメトリックはこの不平等を隠します。医療において、これは一部の患者グループに組織的な危害をもたらします。したがって、公平性を保つために、パフォーマンスをサブグループに分割して報告する必要があります。
13. 患者データを扱う際の「再識別」のリスクに対する最善のアプローチは何ですか?
- A) どのような状況でも、名前を削除するだけで十分です。
- B) 直接識別子だけでなく間接識別子も一般化し、アクセスを制限する ✔
- C) データが少数の人に属している場合、予防措置は必要ありません
- D) 暗号化せずにファイル名を変更するだけ
説明: 名前が削除されたデータでも、診断名、生年月日、郵便番号、日付のまれな組み合わせを使用して再識別できます。したがって、直接識別子を抽出するだけでは十分ではありません。日付シフト、一般化、k-匿名性、アクセス制御などの技術を組み合わせて適用する必要があり、機密性の高いフリーテキストもクリーンアップする必要があります。
14. 生物医学 AI ワークフローにおいてエンドツーエンドの「人間参加型」制御を維持する主な理由は何ですか?
- A) 人間の制御は速度を遅らせるだけなので、削除する必要があります。
- B) モデルの信頼スコアが高い場合、人による検証は不要です
- C) 法的義務以外の実質的な理由がない
- D) AI はバイアスやエラーの影響を受けます。患者の安全に関する決定と責任は資格のある専門家が負うべきです ✔
説明: 人工知能は仮説を生成し、優先順位を付け、草案を作成します。しかし、データから学習するパターンは不完全であったり、偏っていたり、文脈から外れていたりする可能性があります。患者の安全に関する決定は、間違いを発見し、責任を適切な場所に置くために、権限のある医師と技師の承認を得た上で行うことが不可欠です。 AI はどの段階でもこの承認に代わるものではありません。