Dobici:
- Sposobnost objašnjenja doprinosa umjetne inteligencije zahtjevima, arhitekturi i fazama testiranja u dizajnu medicinskih uređaja i softvera.
- Razumijevanje uloge kontrole dizajna i upravljanja rizikom u slučaju da je sam softver medicinski uređaj (SaMD)
- Sposobnost razumijevanja da se rezultati dizajna podržani umjetnom inteligencijom moraju testirati s odobrenjem kompetentnog inženjera, standardnim i verifikacijskim testovima.
Jedan od temeljnih poslova biomedicinskog inženjera je dizajn medicinskih uređaja: od infuzijske pumpe do pacijentovog monitora, od proteze do dijagnostičkog softvera. Budući da ti uređaji dolaze u izravan kontakt s pacijentom, njihov dizajn razlikuje se od uobičajenog razvoja proizvoda; Kontrole dizajna (disciplinirani proces u kojem se dokumentira svaki korak od zahtjeva do verifikacije) i upravljanje rizikom zakonske su obveze. Umjetna inteligencija pridonosi ovim procesima pisanjem zahtjeva, arhitektonskim nacrtima, testnim dizajnom i dokumentacijom. U ovoj jedinici vidjet ćemo gdje se umjetna inteligencija uklapa u dizajn uređaja, kako sam softver postaje uređaj (SaMD) i zašto izlaz umjetne inteligencije nije zamjena za odobrenje kompetentnog inženjera.
Recimo od početka: u inženjerstvu uređaja kritičnih za sigurnost, AI je nacrt i pomoćnik u upravljanju. Ako zahtjev nedostaje, propušten je način kvara, test je izvan opsega, odgovornost leži na inženjeru koji je otpisao. AI ne provjerava dizajn; Inženjer potvrđuje.
Dizajn lanca kontrole i mjesto AI
Potrebe korisnika → Ulazi (zahtjevi) dizajna → Izlazi dizajna → Verifikacija → Validacija → Prijenos dizajna. Ovaj lanac je okosnica inženjeringa uređaja. Uloga umjetne inteligencije u svakom prstenu je drugačija:
- Potrebe korisnika: AI može sažeti i tematizirati intervjue s dionicima i bilješke s terena. Validacija: potvrda dionika.
- Zahtjevi: AI skenira zahtjeve da vidi jesu li "provjerljivi, jedinstveni, kontradiktorni" i predlaže scenarije koji nedostaju (rubni slučajevi). Validacija: pregled inženjera.
- Arhitektura/dizajn: AI navodi alternativne arhitektonske pristupe i poznate obrasce dizajna. Provjera: inženjerska prosudba i izračun.
- Testiranje: AI generira test slučaj i test prijelomne točke iz zahtjeva. Validacija: matrica pokrivenosti testa.
- Dokumentacija: AI izrađuje datoteku povijesti dizajna i izvješća. Verifikacija: tehnička provjera sadržaja.
Upravljanje rizikom: ISO 14971 i FMEA
Norma za upravljanje rizikom u medicinskim uređajima je ISO 14971; Opisuje proces identificiranja opasnosti, procjene rizika, njegovog ublažavanja i opravdavanja preostalog rizika. Uobičajeni alat je FMEA (Failure Mode and Effects Analysis; sustavno navodi moguće načine kvara, njihove učinke i rezultate ozbiljnosti/vjerojatnosti/otkrivanja). AI je vrlo učinkovit u razmišljanju o načinima neuspjeha za FMEA grafikon—podsjećajući na načine koje čovjek može preskočiti. Ali istinitost svakog retka, njegov rezultat i mjera ublažavanja mora biti potvrđena prosudbom inženjera; "Ublažavanje" koje predlaže AI možda zapravo neće funkcionirati ili može uvesti novi rizik.
Ako je sam softver uređaj: SaMD
Ponekad je sam softver medicinski uređaj: SaMD (Softver kao medicinski uređaj; softver koji radi u svrhu dijagnoze/liječenja/nadzora bez ugradnje u hardver). Primjer je aplikacija koja proizvodi ocjenu rizika iz slike ili algoritma koji tumači signal. Uz SaMD, softver se ne može tretirati kao "samo softver": kontrola dizajna, upravljanje rizikom, provjera/potvrda valjanosti, kontrola verzija i usklađenost s propisima su obvezni. Norma IEC 62304 definira procese za životni ciklus softvera. Poseban izazov u razvoju potpomognutom umjetnom inteligencijom je da se ponašanje modela mijenja kako se ažurira; zato su kontrola promjena i ponovna provjera kritični.
Tri mini kućišta: po brojevima
Slučaj 1 — Hvatanje praznina u zahtjevima. Napisano je 140 nacrta zahtjeva za monitor pacijenta. Skeniranje dosljednosti koje pokreće umjetna inteligencija označilo je 12 zahtjeva kao nedostatne (kao što je "mora biti jednostavan za korištenje") i 3 scenarija alarma kao nedostajuća. Inženjerski tim ih je popravio; ali dva "nova zahtjeva" koje je predložila AI su zapravo duplikati postojećih i morali su biti eliminirani. Neto dobit je putem ljudske provjere.
Slučaj 2 — FMEA ubrzanje. U studiji FMEA za infuzijsku pumpu, tim je naveo 60 načina kvara; AI brainstorming proizveo je 18 dodatnih kandidata. Inženjeri su otkrili da je 9 od njih originalno i prethodno izostavljeno, a 9 su eliminirali kao nevažeće ili duplikate. Ušteda vremena bila je stvarna, ali filtriranje je u potpunosti bio posao inženjera.
Slučaj 3 — Rizik ažuriranja modela. Tim SaMD-a ažurirao je temeljni model "boljom" verzijom. Iako je nova verzija poboljšala ukupnu točnost, njena izvedba je nazadovala na određenoj vrsti uređaja. Bez kontrole promjena i revalorizacije ova bi regresija stigla na teren. Svako ažuriranje modela je promjena dizajna i mora se provjeriti.
Slab upit / Jak upit
Slab upit:
Napišite zahtjeve za ovaj uređaj.[ideja]
Snažan upit:
Vaša uloga: Vi ste inženjerski pomoćnik za zahtjeve za medicinske uređaje (VI Niste TIJELO ZA ODOBRENJA). Izradite nacrt zahtjeva za sljedeći koncept uređaja: - Neka svaki zahtjev bude jedinstven, testiran i provjerljiv. - Napravite poseban odjeljak za sigurnosne/alarmne i rubne kutije. - Označite nejasne/nemjerljive izjave ("lako", "brzo") i učinite ih mjerljivima. - Na kraju navedite "otvorena pitanja o kojima inženjer treba odlučiti". - Reference standarda/klauzule kao oznaka "treba provjeriti", jasna indikacija. Koncept: [opis]
Četiri predloška za kopiranje
1) Inspekcija kvalitete zahtjeva:
Sljedeće zahtjeve klasificirajte kao "provjerljive/nejasne/kontradiktorne/duplicirane" i predložite da sve nejasnoće učinite mjerljivima. Popis: [zahtjevi]
2) FMEA brainstorming:
Navedite moguće načine kvara za ovaj podsustav; Predložite učinke i moguće uzroke za svaki. Navedite da će inženjer izvršiti bodovanje i ublažavanje. Podsustav: [opis]
3) Generiranje testnog scenarija:
Generirajte normalne, granične i testne scenarije pogrešnog unosa za sljedeći zahtjev; numerirajte svaki scenarij koji se može pratiti do zahtjeva. Zahtjev: [tekst]
4) SaMD analiza utjecaja promjene:
Napišite nacrt kontrolne liste analize utjecaja za ažuriranje izdanja modela: zahvaćeni zahtjevi, opseg ponovne provjere, usporedba izvedbe podgrupe.
Uloga modela: prema fazi projektiranja
Pozornica
AI doprinos
kritičnost
provjera
Sažetak potreba/dionika
visoka
nizak
Potvrda dionika
Nacrt zahtjeva/revizija
visoka
srednji
Inženjerski pregled
Arhitektura/kalkulus
ograničeno
visoka
Inženjerska prosudba + izračun
FMEA/razmišljanje o riziku
visoka
visoka
Inženjersko bodovanje/odobrenje
Generiranje testnog scenarija
visoka
srednji
Matrica pokrivenosti
Sigurnosno odobrenje
Nijedan
vrlo visoko
Potpis ovlaštenog inženjera
Savjet: koristite AI kao "podsjetnik na zaboravljeni scenarij" u FMEA i reviziji zahtjeva, a ne kao "donositelja odluka". Njegova je najveća vrijednost u iznošenju rubnih situacija koje bi čovjeku nedostajale; Ali svaki prijedlog mora proći kroz inženjerov filter.
Pažnja: U SaMD-u, svako ažuriranje modela je promjena dizajna. “Bolji” model može napredovati u ukupnom prosjeku i nazadovati u podskupini; Nikakva ažuriranja ne bi trebala ići na teren bez kontrole promjena i ponovne provjere.
Uobičajene greške
- Prihvaćanje preporuke AI bez potvrde. Zahtjevi za ugradnju mogu proizvesti nevažeći način kvara ili beskorisno ublažavanje.
- Misleći da je SaMD "samo softver". Kontrola dizajna, upravljanje rizikom i V&V su obvezni.
- Ne provjerava se ažuriranje modela. Svako izdanje je promjena dizajna i mora se ponovno potvrditi.
- Ispunjenje nejasnog zahtjeva. Nemjerljive izjave poput "lako/brzo" ne mogu se testirati.
- Zaobilaženje odobrenja inženjera. Sigurnosno rješenje i potpis pripada ovlaštenom inženjeru; AI nije tijelo za odobravanje.
Ukratko
- Projektiranje medicinskih proizvoda, kontrola dizajna i upravljanje rizikom obvezni su, dokumentirani procesi.
- AI doprinosi zahtjevima, arhitekturi, FMEA i fazama testiranja s nacrtima i podsjetnicima.
- Ako je sam softver uređaj (SaMD), potrebna je potpuna kontrola dizajna, V&V i usklađenost s propisima.
- Svako ažuriranje modela je promjena dizajna i zahtijeva ponovnu provjeru valjanosti.
- AI izlaz nije zamjena za odobrenje kvalificiranog inženjera; Sigurnosna odluka i potpis pripadaju inženjeru.
Zadatak aplikacije
Odaberite koncept jednostavnog medicinskog uređaja (na primjer, prijenosni SpO2 monitor). Napravite pet zahtjeva pomoću snažnog odzivnika; nakon čega slijedi pitanje svakome "može li se testirati?" Provjerite ručno i one nejasne učinite mjerljivima. Na kraju, zapišite tri načina kvara za ovaj uređaj i ublažavanje za svaki, i zabilježite koje ste eliminirali od onoga što je AI predložio.
popis za provjeru
- [ ] Znam lanac kontrole dizajna i ulogu umjetne inteligencije u svakoj karici.
- [ ] Razumio sam svrhu upravljanja rizikom ISO 14971 i FMEA.
- [ ] Razumijem koncept SaMD-a i njegove obveze.
- [ ] Razumijem da je ažuriranje modela promjena dizajna i zahtijeva ponovnu provjeru valjanosti.
- [ ] Usvojio sam da sigurnosna odluka i potpis ostaju kod ovlaštenog inženjera.