Dobički:
- Sposobnost razlage prispevka umetne inteligence k zahtevam, arhitekturi in fazam testiranja pri načrtovanju medicinskih pripomočkov in programske opreme.
- Razumevanje vloge nadzora načrtovanja in obvladovanja tveganja v primeru, da je programska oprema sama medicinski pripomoček (SaMD)
- Sposobnost razumevanja, da je treba izhode načrtovanja, podprte z umetno inteligenco, preizkusiti z odobritvijo pristojnih inženirjev, standardnimi in verifikacijskimi testi.
Ena od osrednjih nalog biomedicinskega inženirja je načrtovanje medicinskih naprav: od infuzijske črpalke do monitorja bolnika, od proteze do diagnostične programske opreme. Ker pridejo te naprave v neposreden stik s pacientom, se njihova zasnova razlikuje od običajnega razvoja izdelkov; Kontrole načrtovanja (discipliniran proces, v katerem je dokumentiran vsak korak od zahteve do preverjanja) in obvladovanje tveganja so zakonske obveznosti. Umetna inteligenca prispeva k tem procesom s pisanjem zahtev, arhitekturnim osnutkom, testiranjem in dokumentacijo. V tej enoti bomo videli, kje se umetna inteligenca prilega zasnovi naprave, kako programska oprema sama postane naprava (SaMD) in zakaj izhod umetne inteligence ni nadomestilo za odobritev pristojnega inženirja.
Povejmo od začetka: v inženiringu varnostno pomembnih naprav je umetna inteligenca načrt in nadzorni pomočnik. Če zahteva manjka, je zgrešen način okvare, je test izven obsega, odgovornost nosi odjavni inženir. AI ne preverja zasnove; Inženir potrdi.
Načrtovanje verige nadzora in mesto umetne inteligence
Potrebe uporabnikov → Vhodi (zahteve) načrtovanja → Izhodi načrtovanja → Verifikacija → Validacija → Prenos načrta. Ta veriga je hrbtenica inženiringa naprav. Vloga AI v vsakem obroču je drugačna:
- Potrebe uporabnikov: umetna inteligenca lahko povzema in tematizira intervjuje z zainteresiranimi stranmi ter terenske zapiske. Validacija: potrditev deležnika.
- Zahteve: umetna inteligenca pregleda zahteve, da ugotovi, ali so "preizkušljive, enkratne, protislovne" in predlaga manjkajoče scenarije (robne primere). Validacija: inženirski pregled.
- Arhitektura/oblikovanje: AI navaja alternativne arhitekturne pristope in znane vzorce oblikovanja. Preverjanje: inženirska presoja in izračun.
- Testiranje: umetna inteligenca ustvari testni primer in test prelomne točke iz zahteve. Validacija: matrika pokritosti testa.
- Dokumentacija: AI osnutke datoteke in poročila o zgodovini načrtovanja. Preverjanje: preverjanje tehnične vsebine.
Upravljanje s tveganji: ISO 14971 in FMEA
Standard za obvladovanje tveganja pri medicinskih pripomočkih je ISO 14971; Opisuje postopek prepoznavanja nevarnosti, ocenjevanja tveganja, njegovega zmanjševanja in utemeljevanja preostalega tveganja. Običajno orodje je FMEA (Failure Mode and Effects Analysis; sistematično navaja možne načine napak, njihove učinke in ocene resnosti/verjetnosti/zaznavnosti). Umetna inteligenca je zelo učinkovita pri razmišljanju o načinih odpovedi za grafikon FMEA – opomin na načine, ki jih lahko človek preskoči. Toda resničnost vsake črte, njene ocene in omilitvene mere mora potrditi inženirjeva presoja; »Ublažitev«, ki jo predlaga umetna inteligenca, morda dejansko ne bo delovala ali pa lahko povzroči novo tveganje.
Če je programska oprema sama naprava: SaMD
Včasih je programska oprema sama medicinska naprava: SaMD (programska oprema kot medicinska naprava; programska oprema, ki deluje za namene diagnosticiranja/zdravljenja/nadzora, ne da bi bila vdelana v strojno opremo). Primer je aplikacija, ki ustvari oceno tveganja iz slike ali algoritma, ki interpretira signal. Pri SaMD programske opreme ni mogoče obravnavati kot »le programsko opremo«: nadzor načrtovanja, obvladovanje tveganja, preverjanje/validacija, nadzor različic in skladnost s predpisi so obvezni. Standard IEC 62304 opredeljuje procese za življenjski cikel programske opreme. Poseben izziv pri razvoju s pomočjo umetne inteligence je, da se obnašanje modela spreminja, ko se posodablja; zato sta nadzor sprememb in ponovna potrditev kritična.
Trije mini kovčki: po številkah
Primer 1 – Zajem vrzeli v zahtevah. Za pacientov monitor je bilo napisanih 140 osnutkov zahtev. Skeniranje doslednosti, ki ga poganja umetna inteligenca, je označilo 12 zahtev kot nemogoče preizkusiti (kot je »mora biti uporabniku prijazno«) in 3 alarmne scenarije kot manjkajoče. Inženirska ekipa jih je popravila; vendar sta bili dve "novi zahtevi", ki ju je predlagal AI, dejansko podvajanje obstoječih in ju je bilo treba odpraviti. Čisti dobiček je rezultat človeškega preverjanja.
Primer 2 – FMEA pospešek. V študiji FMEA za infuzijsko črpalko je ekipa navedla 60 načinov okvare; Umetna nevihta možganov je ustvarila 18 dodatnih kandidatov. Inženirji so ugotovili, da je 9 od njih pristnih in prej izpuščenih, 9 pa so odstranili kot neveljavne ali dvojnike. Prihranek časa je bil resničen, vendar je bilo filtriranje v celoti delo inženirja.
Primer 3 – Tveganje pri posodobitvi modela. Ekipa SaMD je osnovni model posodobila z »boljšo« različico. Medtem ko je nova različica izboljšala splošno natančnost, je njena zmogljivost pri določeni vrsti naprave nazadovala. Brez nadzora sprememb in ponovne validacije bi ta regresija dosegla teren. Vsaka posodobitev modela je sprememba dizajna in jo je treba preveriti.
Šibek poziv / močan poziv
Šibek poziv:
Napišite zahteve za to napravo.[ideja]
Močan poziv:
Vaša vloga: ste inženirski pomočnik za zahteve za medicinske pripomočke (NISTE ODOBRITEVNI ORGAN). Izdelajte osnutek zahtev za naslednji koncept naprave: - Naj bo vsaka zahteva edinstvena, preizkušena in preverljiva. - Ustvarite ločen razdelek za varnostne/alarmne in robne ohišja. - Označite nejasne/nemerljive trditve ("enostavno", "hitro") in jih naredite merljive. - Na koncu podajte seznam "odprtih točk, o katerih se mora inženir odločiti". - Sklicevanje na standard/klavzulo kot oznako "treba preveriti", dokončna navedba. Koncept: [opis]
Štiri kopirane predloge
1) Zahteva za pregled kakovosti:
Naslednje zahteve razvrstite kot "preizkušljive/nejasne/kontradiktorne/podvojene" in predlagajte, da vse dvoumnosti naredite merljive. Seznam: [zahteve]
2) FMEA možganska nevihta:
Navedite možne načine okvar za ta podsistem; Predlagajte učinke in možne vzroke za vsakega. Navedite, da bo inženir opravil točkovanje in ublažitev. Podsistem: [opis]
3) Generiranje testnega scenarija:
Ustvari običajne, mejne in testne scenarije z napačnim vnosom za naslednjo zahtevo; oštevilčite vsak scenarij, ki je sledljiv do zahteve. Zahteva: [besedilo]
4) Analiza vpliva sprememb SaMD:
Napišite osnutek kontrolnega seznama analize vpliva za posodobitev izdaje modela: prizadete zahteve, obseg ponovnega preverjanja, primerjava zmogljivosti podskupin.
Vloga modela: glede na fazo načrtovanja
Oder
Prispevek AI
kritičnost
preverjanje
Povzetek potreb/zainteresiranih strani
visoka
nizka
Potrditev deležnika
Osnutek/revizija zahtev
visoka
srednje
Inženirski pregled
Arhitektura/račun
omejeno
visoka
Inženirska presoja + izračun
FMEA/nevihta možganov
visoka
visoka
Inženirsko točkovanje/odobritev
Generiranje testnega scenarija
visoka
srednje
Matrika pokritosti
Varnostna odobritev
Noben
zelo visoko
Podpis pooblaščenega inženirja
Nasvet: uporabite AI kot »opomnik za pozabljen scenarij« v FMEA in reviziji zahtev, ne kot »odločevalca«. Njegova največja vrednost je v tem, da v ospredje postavlja obrobne situacije, ki bi jih pogrešali; Toda vsak predlog mora iti skozi inženirjev filter.
Pozor: V SaMD je vsaka posodobitev modela sprememba dizajna. »Boljši« model lahko napreduje v skupnem povprečju in nazaduje v podskupini; Nobena posodobitev ne sme iti na polje brez nadzora sprememb in ponovnega preverjanja.
Pogoste napake
- Sprejemanje priporočila AI brez potrditve. Zahteva za namestitev lahko povzroči neveljaven način okvare ali neuporabno ublažitev.
- Razmišljanje, da je SaMD "samo programska oprema". Obvezni so nadzor načrtovanja, obvladovanje tveganja in preverjanje in preverjanje.
- Ne preverjam posodobitve modela. Vsaka izdaja je sprememba načrta in jo je treba ponovno preveriti.
- Izpolnitev nejasne zahteve. Neizmerljivih izjav, kot je "lahko/hitro", ni mogoče preizkusiti.
- Mimo odobritve inženirja. Varnostna odločba in podpis pripadata pooblaščenemu inženirju; AI ni organ za odobritev.
Če povzamem
- Načrtovanje medicinskih pripomočkov, nadzor načrtovanja in obvladovanje tveganja je obvezen, dokumentiran proces.
- AI prispeva k zahtevam, arhitekturi, FMEA in fazam testiranja z osnutki in opomniki.
- Če je programska oprema sama naprava (SaMD), so potrebni popolni nadzor nad zasnovo, V&V in skladnost s predpisi.
- Vsaka posodobitev modela je sprememba dizajna in zahteva ponovno potrditev.
- Izhod umetne inteligence ni nadomestilo za odobritev kvalificiranega inženirja; Varnostna odločitev in podpis pripadata inženirju.
Aplikacijska naloga
Izberite preprost koncept medicinske naprave (na primer prenosni monitor SpO2). Pripravite pet zahtev z zmogljivim pozivom; sledi vprašanje vsakega: "Ali je mogoče preizkusiti?" Preverite ročno in naredite nejasne merljive. Nazadnje zapišite tri načine napake za to napravo in ublažitev za vsakega ter zabeležite, katere ste izločili iz tega, kar je predlagal AI.
kontrolni seznam
- [ ] Poznam verigo nadzora oblikovanja in vlogo umetne inteligence v vsakem členu.
- [ ] Razumem namen upravljanja tveganja ISO 14971 in FMEA.
- [ ] Razumem koncept SaMD in njegove obveznosti.
- [ ] Razumem, da je posodobitev modela sprememba zasnove in zahteva ponovno potrditev.
- [ ] Ponotranjil sem, da varnostna odločitev in podpis ostaneta pri pooblaščenem inženirju.