Keuntungan:
- Keupayaan untuk menerangkan sumbangan kecerdasan buatan kepada keperluan, seni bina dan peringkat ujian dalam reka bentuk peranti perubatan dan perisian.
- Memahami peranan kawalan reka bentuk dan pengurusan risiko sekiranya perisian itu sendiri ialah peranti perubatan (SaMD)
- Keupayaan untuk memahami bahawa output reka bentuk yang disokong AI mesti diuji dengan kelulusan jurutera yang kompeten, ujian standard dan pengesahan.
Salah satu tugas teras jurutera bioperubatan ialah reka bentuk peranti perubatan: daripada pam infusi kepada pemantau pesakit, daripada prostesis kepada perisian diagnostik. Oleh kerana peranti ini bersentuhan langsung dengan pesakit, reka bentuknya berbeza daripada pembangunan produk biasa; Kawalan reka bentuk (proses berdisiplin di mana setiap langkah daripada keperluan kepada pengesahan didokumenkan) dan pengurusan risiko adalah kewajipan undang-undang. Kecerdasan buatan menyumbang kepada proses ini dengan penulisan keperluan, penggubalan seni bina, reka bentuk ujian dan dokumentasi. Dalam unit ini, kita akan melihat di mana AI sesuai dengan reka bentuk peranti, bagaimana perisian itu sendiri menjadi peranti (SaMD), dan mengapa output AI bukan pengganti untuk kelulusan jurutera yang kompeten.
Mari kita nyatakan dari awal: dalam kejuruteraan peranti kritikal keselamatan, AI ialah pelan tindakan dan pembantu kawalan. Jika keperluan tiada, mod kegagalan terlepas, ujian berada di luar skop, tanggungjawab terletak pada jurutera yang menandatangani. AI tidak mengesahkan reka bentuk; Jurutera mengesahkan.
Rantaian Kawalan Reka Bentuk dan Tempat AI
Keperluan pengguna → Input reka bentuk (keperluan) → Output reka bentuk → Pengesahan → Pengesahan → Pemindahan reka bentuk. Rantaian ini adalah tulang belakang kejuruteraan peranti. Peranan AI dalam setiap cincin adalah berbeza:
- Keperluan pengguna: AI boleh meringkaskan dan tema wawancara pihak berkepentingan dan nota lapangan. Pengesahan: pengesahan pihak berkepentingan.
- Keperluan: AI mengimbas keperluan untuk melihat sama ada ia "boleh diuji, tunggal, bercanggah" dan mencadangkan senario yang hilang (kes tepi). Pengesahan: semakan jurutera.
- Seni bina/reka bentuk: AI menyenaraikan pendekatan seni bina alternatif dan corak reka bentuk yang diketahui. Pengesahan: penghakiman dan pengiraan kejuruteraan.
- Pengujian: AI menjana kes ujian dan ujian titik putus daripada keperluan. Pengesahan: matriks liputan ujian.
- Dokumentasi: AI mendraf fail dan laporan sejarah reka bentuk. Pengesahan: pemeriksaan kandungan teknikal.
Pengurusan Risiko: ISO 14971 dan FMEA
Piawaian untuk pengurusan risiko dalam peranti perubatan ialah ISO 14971; Ia menerangkan proses mengenal pasti bahaya, menilai risiko, mengurangkannya, dan mewajarkan baki risiko. Alat biasa ialah FMEA (Mod Kegagalan dan Analisis Kesan; secara sistematik menyenaraikan kemungkinan mod kegagalan, kesannya, dan skor keterukan/kebarangkalian/kebolehkesanan). AI sangat cekap dalam percambahan fikiran mod kegagalan untuk carta FMEA—mod yang mengingatkan bahawa manusia boleh melangkau. Tetapi kebenaran setiap baris, skor dan langkah pengurangannya mesti disahkan oleh pertimbangan jurutera; "Mitigasi" yang dicadangkan oleh AI mungkin tidak berfungsi atau mungkin memperkenalkan risiko baharu.
Jika Perisian Itu Sendiri ialah Peranti: SaMD
Kadangkala perisian itu sendiri ialah peranti perubatan: SaMD (Perisian sebagai Peranti Perubatan; perisian yang berfungsi untuk tujuan diagnosis/rawatan/pemantauan tanpa dibenamkan dalam sebarang perkakasan). Contohnya ialah aplikasi yang menghasilkan skor risiko daripada imej atau algoritma yang mentafsir isyarat. Dengan SaMD, perisian tidak boleh dianggap sebagai "hanya perisian": kawalan reka bentuk, pengurusan risiko, pengesahan/pengesahan, kawalan versi dan pematuhan peraturan adalah wajib. Piawaian IEC 62304 mentakrifkan proses untuk kitaran hayat perisian. Cabaran tertentu dalam pembangunan berbantukan AI ialah tingkah laku model berubah apabila ia dikemas kini; itulah sebabnya kawalan perubahan dan pengesahan semula adalah kritikal.
Tiga Kes Mini: Mengikut Nombor
Kes 1 — Tangkapan jurang keperluan. 140 draf keperluan telah ditulis untuk monitor pesakit. Pengimbasan konsistensi berkuasa AI membenderakan 12 keperluan sebagai tidak boleh diuji (seperti "mesti mesra pengguna") dan 3 senario penggera sebagai tiada. Pasukan kejuruteraan menetapkan ini; tetapi dua "keperluan baru" yang dicadangkan oleh AI sebenarnya adalah pertindihan yang sedia ada dan terpaksa dihapuskan. Keuntungan bersih adalah melalui pengesahan manusia.
Kes 2 — pecutan FMEA. Dalam kajian FMEA untuk pam infusi, pasukan itu menyenaraikan 60 mod kegagalan; Sumbangsaran AI menghasilkan 18 calon tambahan. Jurutera mendapati 9 daripadanya adalah tulen dan sebelum ini ditinggalkan, dan menghapuskan 9 sebagai tidak sah atau pendua. Penjimatan masa adalah nyata, tetapi penapisan adalah sepenuhnya tugas jurutera.
Kes 3 — Risiko kemas kini model. Pasukan SaMD mengemas kini model asas dengan versi "lebih baik". Walaupun versi baharu telah meningkatkan ketepatan keseluruhan, prestasinya telah menurun pada jenis peranti tertentu. Tanpa kawalan perubahan dan pengesahan semula regresi ini akan sampai ke lapangan. Setiap kemas kini model ialah perubahan reka bentuk dan mesti disahkan.
Gesaan Lemah / Gesaan Kuat
Gesaan yang lemah:
Tulis keperluan untuk peranti ini.[idea]
Gesaan kuat:
Peranan anda: Anda ialah pembantu kejuruteraan keperluan peranti perubatan (ANDA BUKAN BADAN KELULUSAN). Hasilkan draf keperluan untuk konsep peranti berikut: - Pastikan setiap keperluan unik, boleh diuji dan boleh disahkan. - Buat bahagian berasingan untuk kes keselamatan/penggera dan tepi. - Tandakan penyataan yang tidak jelas/tidak boleh diukur ("mudah", "cepat") dan jadikannya boleh diukur. - Pada akhir, berikan senarai "titik terbuka di mana jurutera perlu membuat keputusan". - Rujukan standard/klausa sebagai tanda "untuk disahkan", petunjuk pasti. Konsep:[penerangan]
Empat Templat Boleh Disalin
1) Pemeriksaan kualiti yang diperlukan:
Kelaskan keperluan berikut sebagai "boleh diuji/kabur/bercanggah/pendua" dan cadangkan untuk membuat sebarang kabur boleh diukur. Senarai: [keperluan]
2) Sumbangsaran FMEA:
Senaraikan kemungkinan mod kegagalan untuk subsistem ini; Cadangkan kesan dan kemungkinan punca bagi setiap satu. Nyatakan bahawa jurutera akan melakukan pemarkahan dan pengurangan. Subsistem: [penerangan]
3) Penjanaan senario ujian:
Hasilkan senario ujian normal, sempadan dan input yang rosak untuk keperluan berikut; nomborkan setiap senario yang boleh dikesan mengikut keperluan. Keperluan: [teks]
4) Analisis kesan perubahan SAMD:
Tulis draf senarai semak analisis kesan untuk kemas kini keluaran model: keperluan terjejas, skop pengesahan semula, perbandingan prestasi subkumpulan.
Peranan Model: Mengikut Fasa Reka Bentuk
pentas
Sumbangan AI
kritikal
pengesahan
Ringkasan keperluan/pemegang kepentingan
tinggi
rendah
Pengesahan pihak berkepentingan
Draf/audit keperluan
tinggi
sederhana
Semakan jurutera
Seni bina/kalkulus
terhad
tinggi
Penghakiman kejuruteraan + pengiraan
FMEA/percambahan fikiran berisiko
tinggi
tinggi
Pemarkahan/kelulusan jurutera
Penjanaan senario ujian
tinggi
sederhana
Matriks liputan
Kelulusan keselamatan
tiada
sangat tinggi
Tandatangan jurutera yang diberi kuasa
Petua: Gunakan AI sebagai "peringatan senario yang terlupa" dalam FMEA dan pengauditan keperluan, bukan sebagai "pembuat keputusan". Nilai terbesarnya adalah dalam membawa ke hadapan situasi marginal yang seseorang akan terlepas; Tetapi setiap cadangan mesti melalui penapis jurutera.
Perhatian: Dalam SaMD, setiap kemas kini model ialah perubahan reka bentuk. Model "lebih baik" mungkin maju dalam purata keseluruhan dan mundur dalam subkumpulan; Tiada kemas kini harus dimasukkan ke dalam medan tanpa kawalan perubahan dan pengesahan semula.
Kesilapan biasa
- Menerima pengesyoran AI tanpa pengesahan. Keperluan pemasangan mungkin menghasilkan mod kegagalan yang tidak sah atau mitigasi yang tidak berguna.
- Berfikir bahawa SaMD adalah "hanya perisian". Kawalan reka bentuk, pengurusan risiko dan V&V adalah wajib.
- Tidak mengesahkan kemas kini model. Setiap keluaran adalah perubahan reka bentuk dan mesti disahkan semula.
- Melepasi keperluan yang tidak jelas. Pernyataan yang tidak boleh diukur seperti "mudah/cepat" tidak boleh diuji.
- Melangkaui kelulusan jurutera. Keputusan dan tandatangan keselamatan adalah milik jurutera yang diberi kuasa; AI bukan pihak berkuasa kelulusan.
Secara ringkasnya
- Reka bentuk peranti perubatan, kawalan reka bentuk dan pengurusan risiko adalah proses wajib yang didokumenkan.
- AI menyumbang kepada keperluan, seni bina, FMEA dan fasa ujian dengan draf dan peringatan.
- Jika perisian itu sendiri ialah peranti (SaMD), kawalan reka bentuk penuh, V&V dan pematuhan peraturan diperlukan.
- Setiap kemas kini model ialah perubahan reka bentuk dan memerlukan pengesahan semula.
- Output AI bukan pengganti untuk kelulusan jurutera yang berkelayakan; Keputusan dan tandatangan keselamatan adalah milik jurutera.
Tugasan permohonan
Pilih konsep peranti perubatan mudah (contohnya, monitor SpO2 mudah alih). Mempunyai lima keperluan yang dirangka menggunakan gesaan yang berkuasa; diikuti dengan bertanya setiap "bolehkah ia diuji?" Semak secara manual dan jadikan yang tidak jelas boleh diukur. Akhir sekali, tulis tiga mod kegagalan untuk peranti ini dan pengurangan untuk setiap satu, dan perhatikan yang mana yang anda hapuskan daripada apa yang dicadangkan oleh AI.
senarai semak
- [ ] Saya tahu rantaian kawalan reka bentuk dan peranan AI dalam setiap pautan.
- [ ] Saya memahami tujuan pengurusan risiko ISO 14971 dan FMEA.
- [ ] Saya faham konsep SaMD dan kewajipannya.
- [ ] Saya faham bahawa kemas kini model ialah perubahan reka bentuk dan memerlukan pengesahan semula.
- [ ] Saya telah menyedari bahawa keputusan dan tandatangan keselamatan kekal dengan jurutera yang diberi kuasa.