Zyski:
- Umiejętność wyjaśnienia wkładu sztucznej inteligencji w wymagania, architekturę i etapy testowania w projektowaniu wyrobów medycznych i oprogramowania.
- Zrozumienie roli kontroli projektu i zarządzania ryzykiem w przypadku, gdy samo oprogramowanie jest wyrobem medycznym (SaMD)
- Umiejętność zrozumienia, że wyniki projektów wspieranych przez sztuczną inteligencję muszą zostać przetestowane za pomocą zatwierdzenia przez kompetentnego inżyniera, testów standardowych i weryfikacyjnych.
Jednym z podstawowych zadań inżyniera biomedycznego jest projektowanie urządzeń medycznych: od pompy infuzyjnej po monitor pacjenta, od protezy po oprogramowanie diagnostyczne. Ponieważ urządzenia te mają bezpośredni kontakt z pacjentem, ich konstrukcja różni się od zwykłego rozwoju produktu; Kontrole projektowe (zdyscyplinowany proces, w którym dokumentowany jest każdy etap od wymagania do weryfikacji) i zarządzanie ryzykiem są zobowiązaniami prawnymi. Sztuczna inteligencja uczestniczy w tych procesach poprzez pisanie wymagań, opracowywanie projektów architektonicznych, projektowanie testów i dokumentację. W tym module zobaczymy, gdzie sztuczna inteligencja wpisuje się w projekt urządzenia, w jaki sposób samo oprogramowanie staje się urządzeniem (SaMD) i dlaczego wyniki AI nie zastępują zgody kompetentnego inżyniera.
Powiedzmy od początku: w inżynierii urządzeń krytycznych dla bezpieczeństwa sztuczna inteligencja jest asystentem projektu i sterowania. Jeśli brakuje wymagań, pominięto tryb awaryjny, test wykracza poza zakres, odpowiedzialność spoczywa na inżynierze zatwierdzającym. AI nie weryfikuje projektu; Inżynier potwierdza.
Zaprojektuj łańcuch kontroli i miejsce sztucznej inteligencji
Potrzeby użytkownika → Dane wejściowe (wymagania) projektu → Wyniki projektu → Weryfikacja → Walidacja → Transfer projektu. Łańcuch ten stanowi podstawę inżynierii urządzeń. Rola AI w każdym pierścieniu jest inna:
- Potrzeby użytkowników: sztuczna inteligencja może podsumowywać i motywować wywiady z interesariuszami oraz notatki terenowe. Walidacja: potwierdzenie interesariuszy.
- Wymagania: AI skanuje wymagania, aby sprawdzić, czy są „testowalne, pojedyncze, sprzeczne” i sugeruje brakujące scenariusze (przypadki krańcowe). Walidacja: przegląd inżynierski.
- Architektura/projekt: AI wymienia alternatywne podejścia architektoniczne i znane wzorce projektowe. Weryfikacja: ocena inżynierska i obliczenia.
- Testowanie: AI generuje przypadek testowy i test punktu przerwania na podstawie wymagań. Walidacja: macierz pokrycia testów.
- Dokumentacja: AI opracowuje plik historii projektu i raporty. Weryfikacja: sprawdzenie zawartości technicznej.
Zarządzanie ryzykiem: ISO 14971 i FMEA
Normą zarządzania ryzykiem w wyrobach medycznych jest ISO 14971; Opisuje proces identyfikacji zagrożeń, oceny ryzyka, jego ograniczania i uzasadniania pozostałego ryzyka. Powszechnym narzędziem jest FMEA (analiza trybów i skutków awarii; systematycznie wymienia możliwe tryby awarii, ich skutki oraz wyniki dotkliwości/prawdopodobieństwa/wykrywalności). Sztuczna inteligencja jest bardzo skuteczna w burzy mózgów na temat trybów awarii dla wykresu FMEA, przypominając tryby, które człowiek może pominąć. Ale prawdziwość każdej linii, jej wyniku i środka łagodzącego musi zostać potwierdzona oceną inżyniera; „Łagodzenie” sugerowane przez sztuczną inteligencję może w rzeczywistości nie zadziałać lub może wprowadzić nowe ryzyko.
Jeśli samo oprogramowanie jest urządzeniem: SaMD
Czasami samo oprogramowanie jest wyrobem medycznym: SaMD (oprogramowanie jako urządzenie medyczne; oprogramowanie, które działa w celach diagnostycznych/leczenia/monitorowania bez osadzania w jakimkolwiek sprzęcie). Przykładem może być aplikacja generująca ocenę ryzyka na podstawie obrazu lub algorytm interpretujący sygnał. W przypadku SaMD oprogramowania nie można traktować jako „tylko oprogramowania”: kontrola projektu, zarządzanie ryzykiem, weryfikacja/walidacja, kontrola wersji i zgodność z przepisami są obowiązkowe. Norma IEC 62304 definiuje procesy w cyklu życia oprogramowania. Szczególnym wyzwaniem w rozwoju wspomaganym sztuczną inteligencją jest to, że zachowanie modelu zmienia się w miarę jego aktualizacji; dlatego kontrola zmian i ich ponowna walidacja są tak istotne.
Trzy mini etui: w liczbach
Przypadek 1 – Wypełnienie luki w wymaganiach. Dla monitora pacjenta napisano 140 projektów wymagań. Skanowanie spójności oparte na sztucznej inteligencji oznaczyło 12 wymagań jako niemożliwych do przetestowania (np. „musi być przyjazne dla użytkownika”) i 3 scenariusze alarmowe jako brakujące. Zespół inżynierów naprawił je; ale dwa „nowe wymagania” zasugerowane przez sztuczną inteligencję były w rzeczywistości powieleniem istniejących i musiały zostać wyeliminowane. Zysk netto następuje poprzez weryfikację przez człowieka.
Przypadek 2 – akceleracja FMEA. W badaniu FMEA dotyczącym pompy infuzyjnej zespół wymienił 60 trybów awarii; Burza mózgów AI wyłoniła 18 dodatkowych kandydatów. Inżynierowie uznali, że 9 z nich jest autentycznych i wcześniej pominiętych, a 9 wyeliminowali jako nieprawidłowe lub duplikaty. Oszczędność czasu była realna, ale filtrowanie było w całości zadaniem inżyniera.
Przypadek 3 – Ryzyko aktualizacji modelu. Zespół SaMD zaktualizował podstawowy model o „lepszą” wersję. Chociaż nowa wersja poprawiła ogólną dokładność, jej wydajność uległa pogorszeniu w przypadku niektórych typów urządzeń. Bez kontroli zmian i ponownej walidacji regresja dotarłaby do pola. Każda aktualizacja modelu oznacza zmianę projektu i musi zostać zweryfikowana.
Słaba podpowiedź/silna podpowiedź
Słaba zachęta:
Napisz wymagania dla tego urządzenia.[pomysł]
Potężny monit:
Twoja rola: Jesteś asystentem ds. inżynierii wymagań dotyczących wyrobów medycznych (NIE JESTEŚ ORGANEM ZATWIERDZAJĄCYM). Przygotuj projekt wymagań dla następującej koncepcji urządzenia: - Zadbaj o to, aby każde wymaganie było unikalne, możliwe do przetestowania i sprawdzenia. - Utwórz oddzielną sekcję dla przypadków bezpieczeństwa/alarmu i krawędzi. - Zaznacz stwierdzenia niejasne/niemierzalne („łatwe”, „szybkie”) i uczyń je mierzalnymi. - Na koniec podaj listę „otwartych punktów, w których inżynier musi podjąć decyzję”. - Odniesienia do normy/klauzul jako znak „do sprawdzenia”, jednoznaczne wskazanie. Koncepcja: [opis]
Cztery szablony do kopiowania
1) Kontrola jakości wymagań:
Sklasyfikuj następujące wymagania jako „testowalne/niejasne/sprzeczne/duplikat” i zasugeruj, aby wszelkie niejednoznaczne stały się mierzalne. Lista: [wymagania]
2) Burza mózgów FMEA:
Wymień możliwe tryby awarii dla tego podsystemu; Zaproponuj skutki i możliwe przyczyny każdego z nich. Określ, że inżynier dokona oceny punktacji i łagodzenia skutków. Podsystem: [opis]
3) Generowanie scenariusza testowego:
Wygeneruj scenariusze testów normalnego, granicznego i wadliwego wejścia dla następującego wymagania; ponumeruj każdy scenariusz, który można powiązać z wymaganiem. Wymaganie: [tekst]
4) Analiza wpływu zmiany SaMD:
Napisz roboczą listę kontrolną analizy wpływu dla aktualizacji wydania modelu: wymagania, których to dotyczy, zakres ponownej walidacji, porównanie wydajności podgrup.
Rola modelu: Zgodnie z fazą projektowania
Scena
Wkład AI
krytyczność
weryfikacja
Podsumowanie potrzeb/interesariuszy
wysoki
niski
Potwierdzenie zainteresowanych stron
Projekt/audyt wymagań
wysoki
średni
Recenzja inżyniera
Architektura/rachunek
ograniczone
wysoki
Ocena inżynierska + obliczenia
FMEA/burza mózgów dotycząca ryzyka
wysoki
wysoki
Ocena/zatwierdzenie inżyniera
Generowanie scenariusza testowego
wysoki
średni
Matryca pokrycia
Zatwierdzenie bezpieczeństwa
Żadne
bardzo wysoki
Podpis autoryzowanego inżyniera
Wskazówka: używaj sztucznej inteligencji jako „przypomnienia zapomnianego scenariusza” w FMEA i audycie wymagań, a nie jako „decydenta”. Jego największą wartością jest uwypuklanie sytuacji marginalnych, których można by nie zauważyć; Ale każda sugestia musi przejść przez filtr inżyniera.
Uwaga: W SaMD każda aktualizacja modelu oznacza zmianę projektu. „Lepszy” model może awansować w średniej ogólnej i regresować w podgrupie; Żadne aktualizacje nie powinny być wprowadzane w teren bez kontroli zmian i ponownej walidacji.
Typowe błędy
- Przyjęcie rekomendacji AI bez potwierdzenia. Wymóg dopasowania może spowodować nieprawidłowy tryb awarii lub bezużyteczne łagodzenie.
- Myślenie, że SaMD to „tylko oprogramowanie”. Kontrola projektu, zarządzanie ryzykiem i V&V są obowiązkowe.
- Brak weryfikacji aktualizacji modelu. Każde wydanie stanowi zmianę projektu i musi zostać ponownie sprawdzone.
- Przekazanie niejasnego wymogu. Niemierzalne stwierdzenia, takie jak „łatwo/szybko”, nie mogą być testowane.
- Ominięcie zgody inżyniera. Decyzja dotycząca bezpieczeństwa i podpis należą do upoważnionego inżyniera; AI nie jest organem zatwierdzającym.
Podsumowując
- Projektowanie wyrobów medycznych, kontrola projektu i zarządzanie ryzykiem to obowiązkowy, udokumentowany proces.
- Sztuczna inteligencja uczestniczy w fazach wymagań, architektury, FMEA i testowania, udostępniając wersje robocze i przypomnienia.
- Jeśli samo oprogramowanie jest urządzeniem (SaMD), wymagana jest pełna kontrola projektu, weryfikacja i weryfikacja oraz zgodność z przepisami.
- Każda aktualizacja modelu stanowi zmianę projektu i wymaga ponownej walidacji.
- Wyniki AI nie zastępują zgody wykwalifikowanego inżyniera; Decyzja dotycząca bezpieczeństwa i podpis należą do inżyniera.
Zadanie aplikacji
Wybierz prostą koncepcję urządzenia medycznego (na przykład przenośny monitor SpO2). Przygotuj pięć wymagań, korzystając z potężnego podpowiedzi; następnie zadając każdemu pytanie: „Czy można to przetestować?” Sprawdź ręcznie i spraw, aby te niejasne stały się mierzalne. Na koniec zapisz trzy tryby awarii dla tego urządzenia i środki zaradcze dla każdego z nich i zanotuj, które z nich wyeliminowałeś z tego, co sugerowała sztuczna inteligencja.
lista kontrolna
- [ ] Znam łańcuch kontroli projektu i rolę AI w każdym ogniwie.
- [ ] Zrozumiałem cel zarządzania ryzykiem ISO 14971 i FMEA.
- [ ] Rozumiem pojęcie SaMD i jego obowiązki.
- [ ] Rozumiem, że aktualizacja modelu stanowi zmianę projektu i wymaga ponownej walidacji.
- [ ] Przyjąłem do wiadomości, że decyzja dotycząca bezpieczeństwa i podpis pozostają u upoważnionego inżyniera.