Gewinne:
- Fähigkeit, den Beitrag künstlicher Intelligenz zu den Anforderungen, der Architektur und den Testphasen beim Design medizinischer Geräte und Software zu erklären.
- Verständnis der Rolle der Designkontrolle und des Risikomanagements für den Fall, dass es sich bei der Software selbst um ein Medizinprodukt (SaMD) handelt
- Fähigkeit zu verstehen, dass KI-gestützte Entwurfsergebnisse mit kompetenter Ingenieurgenehmigung, Standard- und Verifizierungstests getestet werden müssen.
Eine der Kernaufgaben des biomedizinischen Ingenieurs ist die Entwicklung medizinischer Geräte: von der Infusionspumpe bis zum Patientenmonitor, von der Prothese bis zur Diagnosesoftware. Da diese Geräte in direkten Kontakt mit dem Patienten kommen, unterscheidet sich ihr Design von der üblichen Produktentwicklung; Designkontrollen (disziplinierter Prozess, bei dem jeder Schritt von der Anforderung bis zur Verifizierung dokumentiert wird) und Risikomanagement sind gesetzliche Verpflichtungen. Künstliche Intelligenz trägt zu diesen Prozessen beim Schreiben von Anforderungen, beim Architekturentwurf, beim Testdesign und bei der Dokumentation bei. In dieser Einheit werden wir sehen, wo KI in das Gerätedesign passt, wie die Software selbst zum Gerät (SaMD) wird und warum die KI-Ausgabe kein Ersatz für die Genehmigung durch einen kompetenten Ingenieur ist.
Um es vorweg zu sagen: Im sicherheitskritischen Gerätebau ist KI ein Bauplan und Steuerungsassistent. Wenn eine Anforderung fehlt, ein Fehlermodus übersehen wird oder ein Test außerhalb des Umfangs liegt, liegt die Verantwortung beim abzeichnenden Ingenieur. KI überprüft das Design nicht; Der Ingenieur bestätigt.
Design-Kontrollkette und der Ort der KI
Benutzerbedürfnisse → Design-Inputs (Anforderungen) → Design-Outputs → Verifizierung → Validierung → Design-Transfer. Diese Kette ist das Rückgrat der Gerätetechnik. Die Rolle der KI in jedem Ring ist unterschiedlich:
- Benutzeranforderungen: KI kann Stakeholder-Interviews und Feldnotizen zusammenfassen und thematisieren. Validierung: Bestätigung durch Stakeholder.
- Anforderungen: KI scannt die Anforderungen daraufhin, ob sie „prüfbar, singulär, widersprüchlich“ sind und schlägt fehlende Szenarien (Edge Cases) vor. Validierung: Überprüfung durch einen Ingenieur.
- Architektur/Design: KI listet alternative Architekturansätze und bekannte Designmuster auf. Überprüfung: technische Beurteilung und Berechnung.
- Testen: KI generiert Testfälle und Haltepunkttests aus Anforderungen. Validierung: Testabdeckungsmatrix.
- Dokumentation: AI entwirft Designverlaufsdateien und Berichte. Verifizierung: technische Inhaltsprüfung.
Risikomanagement: ISO 14971 und FMEA
Der Standard für das Risikomanagement bei Medizinprodukten ist ISO 14971; Es beschreibt den Prozess der Gefahrenerkennung, der Risikobewertung, der Risikominderung und der Begründung des verbleibenden Risikos. Ein gängiges Tool ist FMEA (Fehlermöglichkeits- und Einflussanalyse; listet systematisch mögliche Fehlermodi, ihre Auswirkungen und Schweregrad-/Wahrscheinlichkeits-/Erkennbarkeitswerte auf). KI ist sehr effizient beim Brainstorming von Fehlermodi für das FMEA-Diagramm – sie erinnert an Modi, die der Mensch überspringen kann. Aber die Wahrheit jeder Zeile, ihre Bewertung und mildernde Maßnahme müssen durch das Urteil des Ingenieurs bestätigt werden; Eine von der KI vorgeschlagene „Abschwächung“ funktioniert möglicherweise nicht tatsächlich oder führt zu einem neuen Risiko.
Wenn die Software selbst das Gerät ist: SaMD
Manchmal ist die Software selbst ein medizinisches Gerät: SaMD (Software as a Medical Device; Software, die zu Diagnose-/Behandlungs-/Überwachungszwecken funktioniert, ohne in Hardware eingebettet zu sein). Ein Beispiel ist eine Anwendung, die aus einem Bild eine Risikobewertung erstellt, oder ein Algorithmus, der ein Signal interpretiert. Mit SaMD kann Software nicht als „nur Software“ behandelt werden: Designkontrolle, Risikomanagement, Verifizierung/Validierung, Versionskontrolle und Einhaltung gesetzlicher Vorschriften sind obligatorisch. Die Norm IEC 62304 definiert Prozesse für den Software-Lebenszyklus. Eine besondere Herausforderung bei der KI-gestützten Entwicklung besteht darin, dass sich das Verhalten des Modells bei der Aktualisierung ändert; Aus diesem Grund sind Änderungskontrolle und erneute Validierung von entscheidender Bedeutung.
Drei Mini-Hüllen: In Zahlen
Fall 1 – Erfassung von Anforderungslücken. Für einen Patientenmonitor wurden 140 Anforderungsentwürfe verfasst. Bei der KI-gestützten Konsistenzprüfung wurden 12 Anforderungen als nicht testbar (z. B. „müssen benutzerfreundlich sein“) und 3 Alarmszenarien als fehlend gekennzeichnet. Das Ingenieurteam hat diese Probleme behoben. aber die beiden von der KI vorgeschlagenen „neuen Anforderungen“ waren tatsächlich Duplikate bestehender und mussten beseitigt werden. Der Nettogewinn erfolgt durch menschliche Überprüfung.
Fall 2 – FMEA-Beschleunigung. In einer FMEA-Studie für eine Infusionspumpe listete das Team 60 Fehlermodi auf; Das KI-Brainstorming brachte 18 weitere Kandidaten hervor. Ingenieure stellten fest, dass 9 davon echt waren und zuvor weggelassen wurden, und schlossen 9 als ungültig oder als Duplikate aus. Die Zeitersparnis war real, aber das Filtern war ausschließlich die Aufgabe eines Ingenieurs.
Fall 3 – Risiko einer Modellaktualisierung. Ein SaMD-Team hat das zugrunde liegende Modell mit einer „besseren“ Version aktualisiert. Während die neue Version die Gesamtgenauigkeit verbessert hat, ist die Leistung bei einem bestimmten Gerätetyp zurückgegangen. Ohne Änderungskontrolle und erneute Validierung hätte diese Regression das Feld erreicht. Jede Modellaktualisierung stellt eine Designänderung dar und muss überprüft werden.
Schwache Eingabeaufforderung / Starke Eingabeaufforderung
Schwache Eingabeaufforderung:
Schreiben Sie die Anforderungen für dieses Gerät auf.[Idee]
Kraftvolle Aufforderung:
Ihre Rolle: Sie sind ein Assistent für die technische Anforderung von Medizinprodukten (SIE SIND NICHT DIE GENEHMIGUNGSSTELLE). Erstellen Sie einen Anforderungsentwurf für das folgende Gerätekonzept: - Sorgen Sie dafür, dass jede Anforderung einzigartig, testbar und überprüfbar ist. - Erstellen Sie einen separaten Abschnitt für Sicherheits-/Alarm- und Randfälle. - Vage/nicht messbare Aussagen („einfach“, „schnell“) markieren und messbar machen. - Geben Sie am Ende eine Liste mit „offenen Punkten, über die der Ingenieur entscheiden muss“. - Standard-/Klauselreferenzen als „zu überprüfende“ Markierung, eindeutige Angabe. Konzept:[Beschreibung]
Vier kopierbare Vorlagen
1) Anforderung Qualitätsprüfung:
Klassifizieren Sie die folgenden Anforderungen als „überprüfbar/vage/widersprüchlich/doppelt“ und schlagen Sie vor, alle Unklarheiten messbar zu machen. Liste: [Anforderungen]
2) FMEA-Brainstorming:
Listen Sie mögliche Fehlermodi für dieses Subsystem auf. Schlagen Sie jeweils Auswirkungen und mögliche Ursachen vor. Geben Sie an, dass der Ingenieur die Bewertung und Schadensbegrenzung durchführen wird. Subsystem: [Beschreibung]
3) Testszenario-Generierung:
Generieren Sie normale Testszenarien, Grenztestszenarien und Testszenarien mit fehlerhaften Eingaben für die folgende Anforderung: Nummerieren Sie jedes Szenario, das auf die Anforderung zurückzuführen ist. Anforderung: [Text]
4) SaMD-Änderungsauswirkungsanalyse:
Schreiben Sie einen Entwurf einer Auswirkungsanalyse-Checkliste für ein Model-Release-Update: betroffene Anforderungen, Revalidierungsumfang, Leistungsvergleich der Untergruppen.
Rolle des Modells: Je nach Entwurfsphase
Bühne
KI-Beitrag
Kritikalität
Überprüfung
Bedarfs-/Stakeholder-Zusammenfassung
hoch
niedrig
Bestätigung der Stakeholder
Anforderungsentwurf/Audit
hoch
mittel
Rezension eines Ingenieurs
Architektur/Infinitesimalrechnung
begrenzt
hoch
Technische Beurteilung + Berechnung
FMEA/Risiko-Brainstorming
hoch
hoch
Ingenieurbewertung/Genehmigung
Generierung von Testszenarien
hoch
mittel
Abdeckungsmatrix
Sicherheitsgenehmigung
Keine
sehr hoch
Unterschrift des autorisierten Technikers
Tipp: Nutzen Sie KI als „Erinnerung an vergessene Szenarien“ bei FMEA und Anforderungsprüfungen, nicht als „Entscheidungsträger“. Sein größter Wert besteht darin, die Randsituationen hervorzuheben, die man übersehen würde; Aber jeder Vorschlag muss den Filter des Ingenieurs passieren.
Achtung: In SaMD ist jedes Modellupdate eine Designänderung. Ein „besseres“ Modell kann im Gesamtdurchschnitt aufsteigen und in einer Untergruppe zurückfallen; Ohne Änderungskontrolle und erneute Validierung sollten keine Aktualisierungen in die Praxis umgesetzt werden.
Häufige Fehler
- Akzeptieren der KI-Empfehlung ohne Bestätigung. Die Anpassungsanforderung kann zu einem ungültigen Fehlermodus oder einer nutzlosen Schadensbegrenzung führen.
- Ich denke, dass SaMD „nur Software“ ist. Designkontrolle, Risikomanagement und V&V sind obligatorisch.
- Modellaktualisierung wird nicht überprüft. Jede Veröffentlichung stellt eine Designänderung dar und muss erneut validiert werden.
- Bestehen der vagen Anforderung. Unmessbare Aussagen wie „einfach/schnell“ können nicht überprüft werden.
- Umgehung der Genehmigung des Ingenieurs. Der Sicherheitsentscheid und die Unterschrift gehören dem autorisierten Ingenieur; KI ist keine Genehmigungsbehörde.
Zusammenfassend
- Das Design, die Designkontrolle und das Risikomanagement medizinischer Geräte sind ein obligatorischer, dokumentierter Prozess.
- KI trägt mit Entwürfen und Erinnerungen zu den Anforderungen, der Architektur, der FMEA und den Testphasen bei.
- Wenn die Software selbst das Gerät (SaMD) ist, sind vollständige Designkontrolle, V&V und die Einhaltung gesetzlicher Vorschriften erforderlich.
- Jede Modellaktualisierung stellt eine Designänderung dar und erfordert eine erneute Validierung.
- Die KI-Ausgabe ist kein Ersatz für die Genehmigung eines qualifizierten Ingenieurs. Die Sicherheitsentscheidung und die Unterschrift liegen beim Ingenieur.
Anwendungsaufgabe
Wählen Sie ein einfaches medizinisches Gerätekonzept (z. B. einen tragbaren SpO2-Monitor). Lassen Sie mithilfe der leistungsstarken Eingabeaufforderung fünf Anforderungen entwerfen. Anschließend wird jeder gefragt: „Kann es getestet werden?“ Überprüfen Sie manuell und machen Sie die Unklarheiten messbar. Schreiben Sie abschließend drei Fehlermodi für dieses Gerät und eine Gegenmaßnahme für jeden auf und notieren Sie, welche Sie anhand der Vorschläge der KI beseitigt haben.
Checkliste
- [ ] Ich kenne die Kette der Designkontrolle und die Rolle der KI in jedem Glied.
- [ ] Ich habe den Zweck des ISO 14971-Risikomanagements und der FMEA verstanden.
- [ ] Ich verstehe das Konzept von SaMD und seine Verpflichtungen.
- [ ] Ich verstehe, dass es sich bei der Modellaktualisierung um eine Designänderung handelt und eine erneute Validierung erforderlich ist.
- [ ] Ich habe verinnerlicht, dass die Sicherheitsentscheidung und die Unterschrift beim autorisierten Ingenieur verbleiben.