Keuntungan:
- Kemampuan untuk menggabungkan bagian gambar, sinyal, data, dan regulasi ke dalam satu alur kerja AI biomedis yang bertanggung jawab
- Kemampuan untuk menerapkan prinsip-prinsip audit human-in-the-loop, ketertelusuran, dan pemantauan pasca-distribusi
- Kemampuan untuk mempertahankan batasan pada setiap tahap di mana kecerdasan buatan tidak menggantikan persetujuan dokter dan insinyur
Ujian Modul
1. Prinsip dasar manakah yang menentukan risiko keluaran AI dalam teknik biomedis?
- A) Risiko keluaran sama dengan kerugian yang ditimbulkan pada pasien jika keluarannya salah; skala validasi yang sesuai ✔
- B) Keluaran AI umumnya aman karena ditulis dengan lancar dan teknis
- C) Validasi tidak diperlukan bila model terkini digunakan
- D) Jika keluaran mengacu pada manual, tidak diperlukan pemeriksaan tambahan
Penjelasan: Risiko suatu keluaran sama dengan kerugian bagi pasien jika keluaran tersebut salah. Meskipun kesalahan kecil dalam ringkasan literatur berisiko rendah, kesalahan dalam memasukkan deteksi gambar atau keputusan klinis secara langsung mengancam keselamatan pasien; Oleh karena itu, intensitas verifikasi berskala dengan potensi bahaya, dan setiap keputusan yang melibatkan keselamatan pasien bergantung pada persetujuan dokter.
2. Apa peran yang tepat dari model deteksi yang didukung AI dalam penggunaan klinis di bidang radiologi?
- A) Secara otomatis menyetujui laporan ahli radiologi dan menghilangkan beban kerja
- B) Menutup kasus dengan prioritas rendah tanpa menemui ahli radiologi
- C) Jika probabilitas modelnya tinggi, buatlah diagnosis tanpa pemeriksaan tambahan
- D) Menjadi alat pendukung yang menarik perhatian terhadap temuan dan memprioritaskannya, namun tanggung jawab diagnosis tetap berada pada ahli radiologi ✔
Deskripsi: Image AI adalah alat pendukung keputusan: menarik, memprioritaskan, mengukur, dan menandai; namun, tanggung jawab diagnostik tetap berada pada ahli radiologi. Keluaran model bukanlah pengganti keputusan ahli radiologi, melainkan hanya masukan. Outputnya digunakan bersama dengan evaluasi klinis independen karena hasil positif palsu dan negatif palsu selalu mungkin terjadi.
3. Apa masalah paling umum saat memindahkan performa model AI dari satu laboratorium ke laboratorium lain dalam patologi digital?
- A) Model bekerja sangat cepat
- B) File slide terlalu kecil
- C) Pergeseran domain yang disebabkan oleh perbedaan pewarnaan dan pemindaian ✔
- D) Ahli patologi tidak ingin menggunakan model tersebut sama sekali
Deskripsi: Protokol pewarnaan, merek pemindai, dan ketebalan bagian bervariasi dari satu laboratorium ke laboratorium lainnya; Jika model dipelajari berdasarkan statistik gambar di satu laboratorium, kinerjanya akan menurun di laboratorium lain. Fenomena ini disebut pergeseran domain dan merupakan penyebab paling umum kegagalan patologi digital; Itu sebabnya validasi eksternal dan normalisasi warna sangat penting.
4. Apa yang harus menjadi refleks konfirmasi pertama bagi insinyur ketika model klasifikasi EKG diberi label 'fibrilasi atrium'?
- A) Penulisan label langsung ke dalam berkas pasien sebagai diagnosis
- B) Periksa sinyal mentah, artefak, dan masuk akal fisiologis dan serahkan keputusan kepada dokter ✔
- C) Jika skor kepercayaan model tinggi, tidak diperlukan pengendalian lain.
- D) Mengarahkan pasien ke perawatan obat
Penjelasan: Outputnya harus terlebih dahulu diuji untuk masuk akal secara fisiologis dan kualitas sinyal: penyimpangan dasar, artefak otot, atau relaksasi elektroda dalam rekaman mungkin meniru ritme. Mempercayai label tanpa melihat sinyal mentah dan interval R-R adalah hal yang salah; Diagnosis ritme terakhir adalah milik dokter. Model menghasilkan sinyal awal, namun tidak membuat keputusan.
5. Apa fitur utama pemrosesan AI pada sinyal EEG yang membuat verifikasi menjadi sulit?
- A) Rasio signal-to-noise yang rendah dan artefak/variabilitas yang tinggi ✔
- B) Sinyal EEG amplitudonya sangat tinggi dan tidak bersuara
- C) Merekam EEG hanya dari satu saluran
- D) Data EEG tidak pernah digital
Penjelasan: EEG merupakan sinyal dengan amplitudo (rentang mikrovolt) yang sangat rendah dan mudah terkontaminasi oleh artefak seperti kedipan mata, pergerakan otot, elektroda, dan gangguan jaringan; Selain itu, variabilitas antara individu dan rekamannya tinggi. Rasio signal-to-noise yang rendah ini menyebabkan keluaran model menjadi rapuh dan memerlukan validasi ahli neurofisiologi.
6. Apa batasan terpenting saat menangani data detak jantung dari perangkat wearable konsumen?
- A) Baterai perangkat cepat habis
- B) Menyimpan data di cloud
- C) Perangkat seringkali tidak bersertifikat medis dan sinyal rentan terhadap artefak/bias ✔
- D) Perangkat ini terlalu mahal
Pengungkapan: Sebagian besar perangkat yang dapat dipakai konsumen tidak disertifikasi sebagai perangkat medis; Sinyal PPG (photoplethysmography) dipengaruhi oleh artefak gerakan, dan faktor seperti warna kulit gelap dan tato dapat mengurangi akurasi. Data ini berharga untuk kecenderungan/kesadaran, namun pengukuran klinis dan evaluasi dokter yang tervalidasi diperlukan untuk keputusan diagnostik.
7. Apa yang dimaksud dengan 'kebocoran sementara' ketika membangun model prediktif dengan data catatan kesehatan elektronik (EHR)?
- A) Penyimpanan data terenkripsi
- B) Kebocoran informasi masa depan menjadi fitur-fitur yang belum ada pada saat prediksi ✔
- C) Datanya terlalu lama
- D) Melatih model terlalu lambat
Penjelasan: Kebocoran temporal adalah campur tangan fitur pelatihan dengan informasi yang belum tersedia pada saat prediksi (masa depan); misalnya, menggunakan diagnosis pemulangan untuk memprediksi risiko saat masuk rumah sakit. Hal ini menyebabkan kinerja yang tinggi di laboratorium tetapi kinerjanya menurun dalam penggunaan klinis nyata dan merupakan salah satu kelemahan paling berbahaya dari model data klinis.
8. Manakah dari berikut ini yang menjadi wajib ketika perangkat lunak itu sendiri digambarkan sebagai 'perangkat lunak perangkat medis' (SaMD)?
- A) Bekerja cepat saja sudah cukup
- B) Tidak memerlukan dokumentasi apa pun
- C) Hanya diperlukan antarmuka yang indah
- D) Pengendalian desain, manajemen risiko, verifikasi/validasi dan kepatuhan terhadap peraturan menjadi wajib ✔
Deskripsi: SaMD (Perangkat Lunak sebagai Alat Kesehatan) adalah perangkat lunak yang berfungsi untuk tujuan diagnosis, pengobatan, atau pemantauan dan tidak bergantung pada perangkat keras apa pun. Dalam hal ini, pengendalian desain, manajemen risiko (ISO 14971), verifikasi/validasi, dan kepatuhan terhadap peraturan adalah wajib; Perangkat lunak ini tidak dapat dianggap sebagai 'hanya perangkat lunak' karena kegagalannya berdampak langsung pada keselamatan pasien.
9. Apa risiko paling kritis ketika Anda meminta klausul atau nomor standar MDR (Medical Device Directive) kepada AI?
- A) Model menghasilkan artikel/referensi standar palsu dan menyajikannya dengan aman ✔
- B) Model memberikan jawaban yang terlalu singkat
- C) Model merespons dalam bahasa Inggris
- D) Model merespons terlalu lambat
Penjelasan: Model bahasa dengan yakin dapat menghasilkan nomor item yang tidak ada, versi standar yang salah, dan referensi yang dibuat-buat (halusinasi). Dalam kepatuhan terhadap peraturan, referensi zat yang salah menyebabkan kegagalan kepatuhan yang serius; jadi setiap atribusi harus diverifikasi secara independen dari teks resmi, AI harus digunakan untuk navigasi/draft saja.
10. Data kesehatan yang termasuk dalam cakupan KVKK termasuk dalam kategori apa dan apa maksudnya?
- A) Data pribadi biasa; dapat diproses secara bebas
- B) Ini bukan data pribadi; tidak ada batasan
- C) Kategori data pribadi khusus; Diproses dengan ketentuan dan perlindungan yang lebih ketat ✔
- D) Rahasia dagang saja; tidak diperlukan privasi
Penjelasan: Data kesehatan dianggap sebagai 'data pribadi khusus' di KVKK; Biasanya, pemrosesan bergantung pada persetujuan eksplisit atau pengecualian yang ditetapkan oleh undang-undang dan memerlukan tindakan perlindungan yang lebih ketat. Oleh karena itu, data pasien tidak dapat dimasukkan ke dalam alat yang tidak terkontrol; Anonimisasi, pembatasan akses, dan perjanjian pemrosesan data adalah wajib.
11. Apa yang dimaksud dengan 'kalibrasi' dalam model AI klinis dan mengapa hal ini penting?
- A) Seberapa cepat model berjalan
- B) Berapa banyak parameter yang dimiliki model?
- C) Warna antarmuka model
- D) Kesesuaian probabilitas yang diberikan oleh model dengan frekuensi kejadian sebenarnya ✔
Penjelasan: Kalibrasi adalah penyesuaian probabilitas yang diberikan oleh model dengan frekuensi sebenarnya: kejadian tersebut seharusnya benar-benar terjadi pada sekitar 20% pasien yang dikatakan 'risiko 20%'. Karena keputusan di klinik dibuat berdasarkan ambang batas probabilitas, model yang dikalibrasi dengan buruk akan menghasilkan keputusan ambang batas yang salah meskipun model tersebut diberi peringkat dengan benar; oleh karena itu, kalibrasi dan diskriminasi (AUC) harus diverifikasi.
12. Mengapa 'kinerja subkelompok' harus diperiksa secara terpisah dalam model data gambar, sinyal, atau klinis?
- A) Akurasi total saja sudah cukup
- B) Karena subgrup mempengaruhi kecepatan model
- C) Metrik umum dapat menyembunyikan kinerja buruk dan bias pada kelompok pasien tertentu ✔
- D) Analisis subkelompok hanya diperlukan untuk pemasaran
Penjelasan: Meskipun rata-rata suatu model terlihat bagus, performanya mungkin jauh lebih buruk pada subkelompok tertentu (usia, jenis kelamin, warna kulit, jenis perangkat, rumah sakit); Metrik umum menyembunyikan ketimpangan ini. Dalam layanan kesehatan, hal ini menyebabkan kerugian sistematis pada beberapa kelompok pasien; Oleh karena itu, kinerja harus dibagi menjadi beberapa subkelompok dan dilaporkan demi keadilan.
13. Apa pendekatan terbaik terhadap risiko 'identifikasi ulang' ketika menangani data pasien?
- A) Menghapus nama saja sudah cukup dalam segala situasi.
- B) Menggeneralisasi pengidentifikasi tidak langsung serta pengidentifikasi langsung dan membatasi akses ✔
- C) Jika data milik sejumlah kecil orang, tidak diperlukan tindakan pencegahan
- D) Hanya mengubah nama file, bukan enkripsi
Deskripsi: Bahkan data nama yang dihapus dapat diidentifikasi ulang dengan kombinasi diagnosis, tanggal lahir, kode pos, dan tanggal yang jarang terjadi. Jadi tidak cukup hanya mengekstrak pengidentifikasi langsung; Teknik seperti pergeseran tanggal, generalisasi, k-anonimitas, dan kontrol akses harus diterapkan bersama-sama, dan teks bebas sensitif juga harus dibersihkan.
14. Apa alasan utama untuk mempertahankan kontrol 'manusia dalam lingkaran' yang menyeluruh dalam alur kerja AI biomedis?
- A) Pengendalian manusia hanya menciptakan kelambanan dan harus dihilangkan
- B) Jika skor keyakinan model tinggi, validasi manusia tidak diperlukan
- C) Tidak ada alasan praktis selain kewajiban hukum
- D) AI dapat mengalami bias dan kesalahan; Keputusan dan tanggung jawab keselamatan pasien harus tetap berada pada spesialis yang berkualifikasi ✔
Deskripsi: Kecerdasan buatan menghasilkan, memprioritaskan, dan menyusun hipotesis; namun pola yang dipelajari dari data mungkin tidak lengkap, bias, atau di luar konteks. Sangat penting bahwa keputusan mengenai keselamatan pasien tetap berada pada persetujuan dokter dan insinyur yang berwenang, untuk mengetahui kesalahan dan menjaga tanggung jawab pada tempatnya; AI tidak menggantikan persetujuan ini pada tahap apa pun.