Ieguvumi:
- Spēja izskaidrot mākslīgā intelekta ieguldījumu medicīnas ierīču un programmatūras projektēšanas prasībās, arhitektūrā un testēšanas posmos.
- Izpratne par dizaina kontroles un riska pārvaldības lomu gadījumā, ja pati programmatūra ir medicīnas ierīce (SaMD)
- Spēja saprast, ka mākslīgā intelekta atbalstītie dizaina izvadi ir jāpārbauda ar kompetenta inženiera apstiprinājumu, standarta un verifikācijas testiem.
Viens no biomedicīnas inženiera pamatdarbiem ir medicīnas ierīču projektēšana: no infūzijas sūkņa līdz pacienta monitoram, no protēzes līdz diagnostikas programmatūrai. Tā kā šīs ierīces nonāk tiešā saskarē ar pacientu, to dizains atšķiras no parastā produkta izstrādes; Projektēšanas kontrole (disciplinēts process, kurā tiek dokumentēts katrs solis no prasības līdz verifikācijai) un riska pārvaldība ir juridiskas saistības. Mākslīgais intelekts veicina šos procesus ar prasību rakstīšanu, arhitektūras projektēšanu, testēšanas projektēšanu un dokumentāciju. Šajā nodaļā mēs redzēsim, kur AI iekļaujas ierīces dizainā, kā pati programmatūra kļūst par ierīci (SaMD) un kāpēc AI izvade neaizstāj kompetenta inženiera apstiprinājumu.
No sākuma paziņosim: drošībai kritisko ierīču inženierijā AI ir projektēšanas un vadības palīgs. Ja prasības nav, atteices režīms ir izlaists, pārbaude ir ārpus darbības jomas, atbildība gulstas uz parakstīšanas inženieri. AI nepārbauda dizainu; Inženieris apstiprina.
Dizaina kontroles ķēde un AI vieta
Lietotāju vajadzības → Dizaina ievades (prasības) → Dizaina izvades → Verifikācija → Validācija → Dizaina nodošana. Šī ķēde ir ierīču inženierijas mugurkauls. AI loma katrā gredzenā ir atšķirīga:
- Lietotāju vajadzības: AI var apkopot ieinteresēto personu intervijas un tematizēt tās un piezīmes. Validācija: ieinteresēto personu apstiprinājums.
- Prasības: AI skenē prasības, lai noskaidrotu, vai tās ir “pārbaudāmas, atsevišķas, pretrunīgas”, un iesaka trūkstošus scenārijus (malas gadījumi). Validācija: inženiera apskats.
- Arhitektūra/dizains: AI uzskaita alternatīvas arhitektūras pieejas un zināmos dizaina modeļus. Pārbaude: inženiertehniskais spriedums un aprēķins.
- Testēšana: AI ģenerē testa gadījumu un pārtraukuma punkta testu no prasības. Validācija: testa pārklājuma matrica.
- Dokumentācija: AI izstrādā dizaina vēstures failu un pārskatus. Pārbaude: tehniskā satura pārbaude.
Riska pārvaldība: ISO 14971 un FMEA
Medicīnisko ierīču riska pārvaldības standarts ir ISO 14971; Tas apraksta risku identificēšanas, riska novērtēšanas, mazināšanas un atlikušā riska pamatošanas procesu. Izplatīts rīks ir FMEA (Failure Mode and Effects Analysis; sistemātiski uzskaita iespējamos atteices veidus, to sekas un smaguma/varbūtības/noteikšanas rādītājus). AI ir ļoti efektīvs prāta vētras atteices režīmiem FMEA diagrammā — atgādinot režīmus, kurus cilvēks var izlaist. Bet katras līnijas patiesums, tās vērtējums un mīkstinošais pasākums ir jāapstiprina ar inženiera spriedumu; AI ieteiktā “mīkstināšana” var faktiski nedarboties vai radīt jaunu risku.
Ja pati programmatūra ir ierīce: SaMD
Dažkārt pati programmatūra ir medicīnas ierīce: SaMD (Software as a Medical Device; programmatūra, kas darbojas diagnostikas/ārstniecības/uzraudzības nolūkos bez iegulšanas nevienā aparatūrā). Piemērs ir lietojumprogramma, kas rada riska rādītāju no attēla vai algoritmu, kas interpretē signālu. Izmantojot SaMD, programmatūru nevar uzskatīt par “tikai programmatūru”: dizaina kontrole, riska pārvaldība, pārbaude/validācija, versiju kontrole un atbilstība normatīvajiem aktiem ir obligāta. Standarts IEC 62304 nosaka programmatūras dzīves cikla procesus. Īpašs izaicinājums AI atbalstītā attīstībā ir tas, ka modeļa darbība mainās, kad tas tiek atjaunināts; tāpēc izmaiņu kontrole un atkārtota apstiprināšana ir ļoti svarīga.
Trīs mini futrāļi: pēc skaitļiem
1. gadījums — prasību atstarpes uztveršana. Pacientu monitoram tika uzrakstīts 140 prasību projekts. Ar AI darbināmā konsekvences skenēšana atzīmēja 12 prasības kā nepārbaudāmas (piemēram, “jābūt lietotājam draudzīgām”) un 3 trauksmes scenārijus kā trūkstošu. Inženieru komanda tos salaboja; taču divas mākslīgā intelekta ierosinātās “jaunās prasības” faktiski bija esošo prasību dublēšanās, un tās bija jānovērš. Neto peļņa tiek iegūta, veicot cilvēka pārbaudi.
2. gadījums — FMEA paātrinājums. FMEA pētījumā par infūzijas sūkni komanda uzskaitīja 60 atteices režīmus; AI prāta vētra radīja 18 papildu kandidātus. Inženieri konstatēja, ka 9 no tiem ir oriģināli un iepriekš tika izlaisti, un 9 no tiem izslēdza kā nederīgus vai dublikātus. Laika ietaupījums bija reāls, taču filtrēšana bija tikai inženiera darbs.
3. gadījums — modeļa atjaunināšanas risks. SaMD komanda atjaunināja pamatā esošo modeli ar “labāku” versiju. Lai gan jaunā versija ir uzlabojusi kopējo precizitāti, tās veiktspēja ir pasliktinājusies noteikta veida ierīcēs. Bez izmaiņu kontroles un atkārtotas apstiprināšanas šī regresija būtu sasniegusi lauku. Katrs modeļa atjauninājums ir dizaina izmaiņas, un tas ir jāpārbauda.
Vāja uzvedne / spēcīga uzvedne
Vāja uzvedne:
Uzrakstiet prasības šai ierīcei.[ideja]
Spēcīga uzvedne:
Jūsu loma: Jūs esat medicīnas ierīču prasību inženiera palīgs (JŪS NAV APSTIPRINĀTĀJA IESTĀDE). Izveidojiet prasību uzmetumu šādai ierīces koncepcijai: - Saglabājiet katru prasību unikālu, pārbaudāmu un pārbaudāmu. - Izveidojiet atsevišķu sadaļu drošības/signalizācijas un malu korpusiem. - Atzīmējiet neskaidrus/neizmērāmus apgalvojumus ("viegli", "ātri") un padariet tos izmērāmus. - Beigās sniedziet sarakstu ar "atvērtajiem punktiem, kuros inženierim jāizlemj". - Standarta/klauzulu atsauces kā zīme "jāpārbauda", noteikta norāde. Jēdziens:[apraksts]
Četras kopējamas veidnes
1) Prasības kvalitātes pārbaude:
Klasificējiet šādas prasības kā “pārbaudāmas/neskaidras/pretrunīgas/dublikāts” un iesakiet padarīt izmērāmas visas neskaidras. Saraksts: [prasības]
2) FMEA prāta vētra:
Uzskaitiet šīs apakšsistēmas iespējamos atteices režīmus; Iesakiet katrai sekas un iespējamos cēloņus. Norādiet, ka inženieris veiks punktu skaitīšanu un mazināšanu. Apakšsistēma: [apraksts]
3) Testa scenārija ģenerēšana:
Ģenerēt normālu, robežu un kļūdainas ievades testa scenārijus šādai prasībai; numurējiet katru scenāriju, kas var izsekot prasībai. Prasība: [teksts]
4) SaMD izmaiņu ietekmes analīze:
Uzrakstiet modeļa laidiena atjauninājuma ietekmes analīzes kontrolsaraksta projektu: ietekmētās prasības, atkārtotas apstiprināšanas darbības joma, apakšgrupas veiktspējas salīdzinājums.
Modeļa loma: atbilstoši projektēšanas fāzei
Skatuves
AI ieguldījums
kritiskums
verifikācija
Vajadzību/ieinteresēto personu kopsavilkums
augsts
zems
Ieinteresēto pušu apstiprinājums
Prasību projekts/audits
augsts
vidējs
Inženieru apskats
Arhitektūra/aprēķini
ierobežots
augsts
Inženierspriedums + aprēķins
FMEA/riska prāta vētra
augsts
augsts
Inženiera vērtēšana/apstiprināšana
Testa scenārija ģenerēšana
augsts
vidējs
Pārklājuma matrica
Drošības apstiprinājums
Nav
ļoti augsts
Pilnvarota inženiera paraksts
Padoms. Izmantojiet AI kā “aizmirsta scenārija atgādinājumu” FMEA un prasību auditā, nevis kā “lēmumu pieņēmēju”. Tā lielākā vērtība ir izcelt priekšplānā marginālās situācijas, kuras cilvēks varētu palaist garām; Bet katram ieteikumam ir jāiziet cauri inženiera filtram.
Uzmanību: SaMD katrs modeļa atjauninājums ir dizaina izmaiņas. “Labāks” modelis var sasniegt kopējo vidējo rādītāju un regresēt apakšgrupā; Nekādi atjauninājumi nedrīkst nonākt laukā bez izmaiņu kontroles un atkārtotas apstiprināšanas.
Biežas kļūdas
- AI ieteikuma pieņemšana bez apstiprinājuma. Pielāgošanas prasība var radīt nederīgu atteices režīmu vai bezjēdzīgu mazināšanu.
- Domājot, ka SaMD ir "tikai programmatūra". Dizaina kontrole, riska pārvaldība un V&V ir obligātas.
- Netiek pārbaudīts modeļa atjauninājums. Katrs laidiens ir dizaina izmaiņas, un tas ir atkārtoti jāapstiprina.
- Neskaidras prasības izpilde. Neizmērojamus apgalvojumus, piemēram, "viegli/ātri", nevar pārbaudīt.
- Apejot inženiera apstiprinājumu. Drošības lēmums un paraksts pieder pilnvarotajam inženierim; AI nav apstiprinātāja iestāde.
Rezumējot
- Medicīnisko ierīču projektēšana, dizaina kontrole un riska pārvaldība ir obligāts, dokumentēts process.
- AI sniedz ieguldījumu prasību, arhitektūras, FMEA un testēšanas fāzēs ar melnrakstiem un atgādinājumiem.
- Ja pati programmatūra ir ierīce (SaMD), ir nepieciešama pilnīga dizaina kontrole, V&V un atbilstība normatīvajiem aktiem.
- Katrs modeļa atjauninājums ir dizaina izmaiņas, un tam ir nepieciešama atkārtota apstiprināšana.
- AI izvade neaizstāj kvalificēta inženiera apstiprinājumu; Drošības lēmums un paraksts pieder inženierim.
Lietojumprogrammas uzdevums
Izvēlieties vienkāršu medicīnas ierīces koncepciju (piemēram, pārnēsājamu SpO2 monitoru). Izveidojiet piecas prasības, izmantojot jaudīgo uzvedni; pēc tam katram uzdodot jautājumu “vai to var pārbaudīt?” Pārbaudiet manuāli un padariet neskaidros izmērāmus. Visbeidzot, pierakstiet trīs šīs ierīces atteices režīmus un katras problēmas mazināšanu, kā arī atzīmējiet, kurus no tiem izslēdzāt no AI ieteiktā.
kontrolsaraksts
- [ ] Es zinu dizaina kontroles ķēdi un AI lomu katrā saitē.
- [ ] Es sapratu ISO 14971 riska pārvaldības un FMEA mērķi.
- [ ] Es saprotu SaMD jēdzienu un tā saistības.
- [ ] Es saprotu, ka modeļa atjauninājums ir dizaina izmaiņas un ir nepieciešams atkārtoti apstiprināt.
- [ ] Esmu internalizējis, ka drošības lēmums un paraksts paliek pilnvarotajam inženierim.