Pelnas:
- Gebėjimas paaiškinti dirbtinio intelekto indėlį į medicinos prietaisų ir programinės įrangos projektavimo reikalavimus, architektūrą ir testavimo etapus.
- Projektavimo kontrolės ir rizikos valdymo vaidmens supratimas, jei pati programinė įranga yra medicinos prietaisas (SaMD)
- Gebėjimas suprasti, kad dirbtinio intelekto palaikomi projektiniai išėjimai turi būti išbandyti su kompetentingo inžinieriaus patvirtinimu, standartiniais ir patikros bandymais.
Vienas iš pagrindinių biomedicinos inžinieriaus darbų yra medicinos prietaisų projektavimas: nuo infuzijos pompos iki paciento monitoriaus, nuo protezo iki diagnostikos programinės įrangos. Kadangi šie prietaisai tiesiogiai liečiasi su pacientu, jų konstrukcija skiriasi nuo įprasto gaminio kūrimo; Projektavimo kontrolė (disciplinuotas procesas, kurio metu kiekvienas žingsnis nuo reikalavimo iki patikros yra dokumentuojamas) ir rizikos valdymas yra teisiniai įsipareigojimai. Dirbtinis intelektas prisideda prie šių procesų rašydamas reikalavimus, rengdamas architektūrinį projektą, bandydamas projektuoti ir dokumentuoti. Šiame skyriuje pamatysime, kur AI tinka įrenginio konstrukcijoje, kaip pati programinė įranga tampa įrenginiu (SaMD) ir kodėl AI išvestis nepakeičia kompetentingo inžinieriaus patvirtinimo.
Pareikškime nuo pat pradžių: saugos požiūriu svarbių įrenginių inžinerijoje AI yra planas ir valdymo pagalbininkas. Jei reikalavimo nėra, gedimo režimas praleistas, bandymas netaikomas, atsakomybė tenka inžinieriui, kuris yra pasirašęs. AI netikrina dizaino; Inžinierius patvirtina.
Projektavimo valdymo grandinė ir AI vieta
Vartotojo poreikiai → Projektavimo įėjimai (reikalavimai) → Projektavimo išėjimai → Patikrinimas → Patvirtinimas → Projekto perdavimas. Ši grandinė yra įrenginių inžinerijos pagrindas. AI vaidmuo kiekviename žiede yra skirtingas:
- Vartotojų poreikiai: AI gali apibendrinti ir temati interviu su suinteresuotosiomis šalimis bei lauko pastabas. Patvirtinimas: suinteresuotųjų šalių patvirtinimas.
- Reikalavimai: AI nuskaito reikalavimus, kad sužinotų, ar jie yra „tikrinami, išskirtiniai, prieštaringi“, ir siūlo trūkstamus scenarijus (kraštinius atvejus). Patvirtinimas: inžinieriaus apžvalga.
- Architektūra / dizainas: AI pateikia alternatyvius architektūrinius metodus ir žinomus dizaino modelius. Patikra: inžinerinis sprendimas ir skaičiavimas.
- Testavimas: AI generuoja bandomąjį atvejį ir lūžio taško testą pagal reikalavimą. Patvirtinimas: bandymo aprėpties matrica.
- Dokumentacija: AI rengia dizaino istorijos failą ir ataskaitas. Patikrinimas: techninio turinio patikra.
Rizikos valdymas: ISO 14971 ir FMEA
Medicinos prietaisų rizikos valdymo standartas yra ISO 14971; Jame aprašomas pavojų nustatymo, rizikos įvertinimo, jos mažinimo ir likusios rizikos pagrindimo procesas. Dažnas įrankis yra FMEA (Failure Mode and Effects Analysis; sistemingai išvardija galimus gedimų režimus, jų poveikį ir sunkumo/tikimybės/aptinkamumo balus). Dirbtinis intelektas yra labai efektyvus nustatant FMEA diagramos gedimo būdus, primenančius režimus, kuriuos žmogus gali praleisti. Tačiau kiekvienos eilutės teisingumas, jos balas ir švelninančios priemonės turi būti patvirtintos inžinieriaus sprendimu; AI pasiūlytas „švelninimas“ gali iš tikrųjų neveikti arba sukelti naują riziką.
Jei pati programinė įranga yra įrenginys: SaMD
Kartais pati programinė įranga yra medicinos prietaisas: SaMD (Software as a Medical Device; programinė įranga, kuri veikia diagnostikos / gydymo / stebėjimo tikslais, neįterpta į jokią aparatinę įrangą). Pavyzdys yra programa, kuri sukuria rizikos balą iš vaizdo arba algoritmą, kuris interpretuoja signalą. Naudojant SaMD programinė įranga negali būti traktuojama kaip „tik programinė įranga“: dizaino kontrolė, rizikos valdymas, tikrinimas / patvirtinimas, versijų kontrolė ir atitiktis reikalavimams yra privaloma. IEC 62304 standartas apibrėžia programinės įrangos gyvavimo ciklo procesus. Ypatingas iššūkis kuriant dirbtinio intelekto pagalba yra tai, kad modelio elgsena keičiasi jį atnaujinant; todėl pakeitimų kontrolė ir pakartotinis patvirtinimas yra labai svarbūs.
Trys mini dėklai: pagal numerius
1 atvejis – reikalavimo tarpo fiksavimas. Pacientų monitoriui surašyta 140 reikalavimų projektų. Dirbtinio intelekto pagrindu sukurtas nuoseklumo nuskaitymas pažymėjo, kad 12 reikalavimų netikrinami (pvz., „turi būti patogus naudoti“), o 3 aliarmo scenarijų trūksta. Inžinierių komanda juos sutvarkė; tačiau du „nauji reikalavimai“, kuriuos pasiūlė AI, iš tikrųjų buvo esamų reikalavimų dubliavimas ir turėjo būti pašalinti. Grynasis pelnas gaunamas iš žmogaus patikrinimo.
2 atvejis – FMEA pagreitis. FMEA tyrime dėl infuzijos pompos komanda išvardijo 60 gedimo režimų; AI protų šturmas atnešė 18 papildomų kandidatų. Inžinieriai nustatė, kad 9 iš jų yra tikri ir anksčiau buvo praleisti, o 9 pašalino kaip negaliojančius arba dublikatus. Laikas buvo sutaupytas tikrai, tačiau filtravimas buvo tik inžinieriaus darbas.
3 atvejis – modelio atnaujinimo rizika. SaMD komanda atnaujino pagrindinį modelį su „geresne“ versija. Nors naujoji versija pagerino bendrą tikslumą, jos našumas sumažėjo tam tikro tipo įrenginiuose. Be pakeitimų kontrolės ir pakartotinio patvirtinimo ši regresija būtų pasiekusi lauką. Kiekvienas modelio atnaujinimas yra dizaino pakeitimas ir turi būti patikrintas.
Silpnas raginimas / stiprus raginimas
Silpnas raginimas:
Parašykite reikalavimus šiam įrenginiui.[idėja]
Galingas raginimas:
Jūsų vaidmuo: esate medicinos prietaisų reikalavimų inžinieriaus padėjėjas (NEESATE PATVIRTINIMO ĮSTAIGA). Sukurkite šios įrenginio koncepcijos reikalavimų projektą: - Kiekvienas reikalavimas turi būti unikalus, išbandomas ir patikrinamas. - Padarykite atskirą skyrių saugos/signalizacijos ir briaunoms. - Pažymėkite neaiškius/neišmatuojamus teiginius („lengva“, „greita“) ir padarykite juos išmatuojamais. - Pabaigoje pateikite „atvirų punktų, dėl kurių turi nuspręsti inžinierius“, sąrašą. – Nuorodos į standartą/sąlygą kaip „būtina patikrinti“ ženklas, konkreti nuoroda. Koncepcija: [aprašas]
Keturi kopijuojami šablonai
1) Reikalavimas kokybės patikrinimas:
Toliau nurodytus reikalavimus priskirkite „tikrinamiems / neaiškiems / prieštaringiems / pasikartojantiems“ ir pasiūlykite visus dviprasmiškus išmatuoti. Sąrašas: [reikalavimai]
2) FMEA minčių šturmas:
Išvardykite galimus šio posistemio gedimo būdus; Pasiūlykite kiekvieno pasekmes ir galimas priežastis. Nurodykite, kad inžinierius atliks balų skaičiavimą ir mažinimą. Posistemis: [aprašas]
3) Bandymo scenarijaus generavimas:
Sugeneruokite įprasto, ribinio ir klaidingos įvesties bandymo scenarijus pagal toliau nurodytą reikalavimą; sunumeruokite kiekvieną scenarijų, susietą su reikalavimu. Reikalavimas: [tekstas]
4) SaMD pokyčių poveikio analizė:
Parašykite modelio leidimo atnaujinimo poveikio analizės kontrolinio sąrašo projektą: paveikti reikalavimai, pakartotinio patvirtinimo apimtis, pogrupio našumo palyginimas.
Modelio vaidmuo: pagal projektavimo etapą
Scena
AI indėlis
kritiškumas
patikrinimas
Poreikių / suinteresuotųjų šalių santrauka
aukštas
žemas
Suinteresuotųjų šalių patvirtinimas
Reikalavimų projektas/auditas
aukštas
vidutinis
Inžinieriaus apžvalga
Architektūra/skaičiavimas
ribotas
aukštas
Inžinerinis sprendimas + skaičiavimas
FMEA / rizikos minčių šturmas
aukštas
aukštas
Inžinieriaus įvertinimas balais / patvirtinimas
Bandymo scenarijaus generavimas
aukštas
vidutinis
Aprėpties matrica
Apsaugos patvirtinimas
Nėra
labai aukštas
Įgalioto inžinieriaus parašas
Patarimas: naudokite dirbtinį intelektą kaip „pamiršto scenarijaus priminimą“ FMEA ir reikalavimų audite, o ne kaip „sprendimų priėmėją“. Didžiausia jo vertė yra iškelti į pirmą planą ribines situacijas, kurių žmogus praleistų; Bet kiekvienas pasiūlymas turi praeiti pro inžinieriaus filtrą.
Dėmesio: SaMD kiekvienas modelio atnaujinimas yra dizaino pakeitimas. „Geresnis“ modelis gali pakilti į bendrą vidurkį ir regresuoti pogrupyje; Jokie naujinimai neturėtų patekti į lauką be pakeitimų kontrolės ir pakartotinio patvirtinimo.
Dažnos klaidos
- AI rekomendacijos priėmimas be patvirtinimo. Montavimo reikalavimas gali sukelti netinkamą gedimo režimą arba nenaudingą sušvelninimą.
- Galvojant, kad SaMD yra „tik programinė įranga“. Projektavimo kontrolė, rizikos valdymas ir V&V yra privalomi.
- Nepatvirtina modelio atnaujinimo. Kiekvienas leidimas yra dizaino pakeitimas ir turi būti patvirtintas iš naujo.
- Išlaikyti neaiškų reikalavimą. Neišmatuojami teiginiai, tokie kaip „lengva/greita“, negali būti tikrinami.
- Apeinant inžinieriaus patvirtinimą. Saugos sprendimas ir parašas priklauso įgaliotam inžinieriui; AI nėra patvirtinimo institucija.
Apibendrinant
- Medicinos prietaisų projektavimas, projektavimo kontrolė ir rizikos valdymas yra privalomas, dokumentuotas procesas.
- AI prisideda prie reikalavimų, architektūros, FMEA ir testavimo etapų su juodraščiais ir priminimais.
- Jei pati programinė įranga yra įrenginys (SaMD), būtina visapusiška dizaino kontrolė, V&V ir atitiktis teisės aktams.
- Kiekvienas modelio atnaujinimas yra dizaino pakeitimas ir jį reikia patvirtinti iš naujo.
- AI išvestis nepakeičia kvalifikuoto inžinieriaus patvirtinimo; Saugumo sprendimas ir parašas priklauso inžinieriui.
Taikymo užduotis
Pasirinkite paprastą medicinos prietaiso koncepciją (pavyzdžiui, nešiojamąjį SpO2 monitorių). Sudarykite penkis reikalavimus naudodami galingą raginimą; po to kiekvieno klausiama „ar galima tai patikrinti? Patikrinkite rankiniu būdu ir padarykite neaiškius išmatuojamus. Galiausiai užsirašykite tris šio įrenginio gedimo režimus ir kiekvieno sušvelninimą bei pažymėkite, kuriuos pašalinote iš AI pasiūlymo.
kontrolinis sąrašas
- [ ] Žinau dizaino valdymo grandinę ir AI vaidmenį kiekvienoje grandyje.
- [ ] Supratau ISO 14971 rizikos valdymo ir FMEA tikslą.
- [ ] Suprantu SaMD sąvoką ir jos įsipareigojimus.
- [ ] Suprantu, kad modelio atnaujinimas yra dizaino pakeitimas ir jį reikia patvirtinti iš naujo.
- [ ] Įvertinau, kad saugumo sprendimas ir parašas lieka įgaliotam inžinieriui.