Печалби:
- Способност да обясни приноса на изкуствения интелект към изискванията, архитектурата и етапите на тестване в дизайна на медицински устройства и софтуер.
- Разбиране на ролята на контрола на дизайна и управлението на риска в случай, че самият софтуер е медицинско изделие (SaMD)
- Способност да се разбере, че поддържаните от AI дизайнерски изходи трябва да бъдат тествани с одобрение от компетентен инженер, стандартни и верификационни тестове.
Една от основните задачи на биомедицинския инженер е проектирането на медицинско устройство: от инфузионна помпа до пациентски монитор, от протеза до диагностичен софтуер. Тъй като тези устройства влизат в пряк контакт с пациента, техният дизайн се различава от разработването на обикновени продукти; Контролът на дизайна (дисциплиниран процес, при който всяка стъпка от изискването до проверката е документирана) и управлението на риска са законови задължения. Изкуственият интелект допринася за тези процеси с писане на изисквания, архитектурни чертежи, дизайн на тестове и документация. В този раздел ще видим къде AI се вписва в дизайна на устройството, как самият софтуер се превръща в устройството (SaMD) и защо AI изходът не е заместител на одобрението на компетентен инженер.
Нека заявим от самото начало: в инженерството на критични за безопасността устройства AI е план и помощник за управление. Ако липсва изискване, пропуснат е режим на повреда, тестът е извън обхвата, отговорността се носи от инженера, който отписва. AI не проверява дизайна; Инженерът потвърждава.
Проектиране на веригата на управление и мястото на ИИ
Нужди на потребителя → Входящи данни за дизайн (изисквания) → Резултати от дизайна → Проверка → Валидиране → Трансфер на дизайна. Тази верига е гръбнакът на инженерството на устройствата. Ролята на AI във всеки пръстен е различна:
- Нужди на потребителите: AI може да обобщава и тематизира интервюта със заинтересовани страни и полеви бележки. Валидиране: потвърждение на заинтересованите страни.
- Изисквания: AI сканира изискванията, за да види дали са „тестваеми, единични, противоречиви“ и предлага липсващи сценарии (крайни случаи). Валидиране: инженерен преглед.
- Архитектура/дизайн: AI изброява алтернативни архитектурни подходи и известни модели на проектиране. Проверка: инженерна преценка и изчисление.
- Тестване: AI генерира тестов случай и тест за точка на прекъсване от изискване. Валидиране: матрица на тестово покритие.
- Документация: AI изготвя файл с история на дизайна и отчети. Проверка: проверка на техническо съдържание.
Управление на риска: ISO 14971 и FMEA
Стандартът за управление на риска при медицински изделия е ISO 14971; Той описва процеса на идентифициране на опасностите, оценка на риска, смекчаването му и обосноваване на оставащия риск. Често срещан инструмент е FMEA (Анализ на режима на повреда и ефектите; систематично изброява възможните режими на повреда, техните ефекти и оценки за тежест/вероятност/откриваемост). AI е много ефикасен при мозъчна атака на режими на повреда за диаграмата FMEA - напомнящи режими, които човекът може да пропусне. Но истинността на всяка линия, нейната оценка и смекчаващата мярка трябва да бъдат потвърдени от преценката на инженера; „Смекчаване“, предложено от AI, може действително да не работи или може да въведе нов риск.
Ако самият софтуер е устройството: SaMD
Понякога самият софтуер е медицинско устройство: SaMD (Софтуер като медицинско устройство; софтуер, който работи за целите на диагностика/лечение/мониторинг, без да е вграден в хардуер). Пример е приложение, което генерира оценка на риска от изображение или алгоритъм, който интерпретира сигнал. Със SaMD софтуерът не може да се третира като „просто софтуер“: контролът на дизайна, управлението на риска, проверката/валидирането, контролът на версиите и съответствието с нормативните изисквания са задължителни. Стандартът IEC 62304 дефинира процесите за жизнения цикъл на софтуера. Особено предизвикателство при разработката, подпомагана от AI, е, че поведението на модела се променя, докато се актуализира; ето защо контролът на промените и повторното валидиране са критични.
Три мини калъфа: с числата
Случай 1 — Улавяне на пропуските в изискванията. Написани са 140 проектоизисквания за пациентен монитор. Задвижваното от изкуствен интелект сканиране за съгласуваност маркира 12 изисквания като неподлежащи на тестване (като „трябва да е лесно за потребителя“) и 3 алармени сценария като липсващи. Инженерният екип ги поправи; но двете „нови изисквания“, предложени от AI, всъщност бяха дублиране на съществуващи и трябваше да бъдат премахнати. Нетната печалба е чрез човешка проверка.
Случай 2 — FMEA ускорение. В проучване на FMEA за инфузионна помпа екипът изброи 60 режима на повреда; AI мозъчната атака доведе до 18 допълнителни кандидати. Инженерите установиха, че 9 от тях са истински и пропуснати преди, и елиминираха 9 като невалидни или дубликати. Спестяванията на време бяха реални, но филтрирането беше изцяло работа на инженер.
Случай 3 — Риск от актуализиране на модела. Екип на SaMD актуализира основния модел с „по-добра“ версия. Въпреки че новата версия е подобрила цялостната точност, нейната производителност е намаляла на определен тип устройство. Без контрол на промяната и повторно валидиране тази регресия щеше да достигне полето. Всяка актуализация на модела е промяна на дизайна и трябва да бъде проверена.
Слаба подкана / Силна подкана
Слаба подкана:
Напишете изискванията за това устройство.[идея]
Мощна подкана:
Вашата роля: Вие сте инженерен асистент по изискванията за медицински устройства (ВИЕ НЕ СТЕ ОДОБРЯВАЩИЯТ ОРГАН). Създайте проект на изисквания за следната концепция на устройството: - Поддържайте всяко изискване уникално, подлежащо на тестване и проверка. - Направете отделна секция за безопасност/аларма и крайни кутии. - Маркирайте неясни/неизмерими твърдения („лесно“, „бързо“) и ги направете измерими. - В края дайте списък с "отворени въпроси, по които инженерът трябва да реши". - Препратки към стандарт/клауза като маркировка "да се провери", категорична индикация. Концепция: [описание]
Четири копируеми шаблона
1) Изискване за проверка на качеството:
Класифицирайте следните изисквания като „подлежащи на проверка/неясни/противоречиви/дубликати“ и предложете да направите всяко двусмислено измеримо. Списък: [изисквания]
2) FMEA мозъчна атака:
Избройте възможните режими на отказ за тази подсистема; Предложете ефекти и възможни причини за всеки. Посочете, че инженерът ще направи точкуването и смекчаването. Подсистема: [описание]
3) Генериране на тестов сценарий:
Генериране на нормални, гранични и тестови сценарии с грешен вход за следното изискване; номерирайте всеки сценарий, проследим до изискването. Изискване: [текст]
4) Анализ на въздействието на промяната на SaMD:
Напишете проект на контролен списък за анализ на въздействието за актуализация на версията на модела: засегнати изисквания, обхват на повторно валидиране, сравнение на производителността на подгрупи.
Роля на модела: според фазата на проектиране
Етап
Принос на AI
критичност
проверка
Обобщение на нуждите/заинтересованите страни
високо
ниско
Потвърждение на заинтересованите страни
Проект на изисквания/одит
високо
среден
Инженерен преглед
Архитектура/изчисление
ограничен
високо
Инженерна преценка + изчисление
FMEA/рискова мозъчна атака
високо
високо
Точкуване/одобрение от инженер
Генериране на тестов сценарий
високо
среден
Матрица на покритие
Одобрение за сигурност
Няма
много високо
Подпис на упълномощен инженер
Съвет: Използвайте AI като „напомняне за забравен сценарий“ в FMEA и одит на изискванията, а не като „вземащ решения“. Най-голямата му стойност е в извеждането на преден план на маргиналните ситуации, които човек би пропуснал; Но всяко предложение трябва да премине през филтъра на инженера.
Внимание: В SaMD всяка актуализация на модела е промяна на дизайна. „По-добър“ модел може да напредне в общата средна стойност и да регресира в подгрупа; Никакви актуализации не трябва да влизат в полето без контрол на промяната и повторно потвърждаване.
Често срещани грешки
- Приемане на препоръката на AI без потвърждение. Изискването за монтаж може да доведе до невалиден режим на отказ или безполезно смекчаване.
- Мислейки, че SaMD е "просто софтуер". Контролът на дизайна, управлението на риска и V&V са задължителни.
- Актуализацията на модела не се проверява. Всяко издание е промяна на дизайна и трябва да бъде препроверено.
- Преминаване на неясното изискване. Неизмерими твърдения като "лесно/бързо" не могат да бъдат тествани.
- Заобикаляйки одобрението на инженера. Решението за безопасност и подписът принадлежат на оторизирания инженер; AI не е орган за одобрение.
В обобщение
- Проектирането на медицински изделия, контролът на дизайна и управлението на риска е задължителен, документиран процес.
- AI допринася за изискванията, архитектурата, FMEA и фазите на тестване с чернови и напомняния.
- Ако самият софтуер е устройството (SaMD), се изисква пълен контрол на дизайна, V&V и съответствие с нормативните изисквания.
- Всяка актуализация на модела е промяна в дизайна и изисква повторно валидиране.
- AI изходът не е заместител на одобрението на квалифициран инженер; Решението за сигурност и подписът принадлежат на инженера.
Задача за приложение
Изберете проста концепция за медицинско устройство (например преносим SpO2 монитор). Направете пет изисквания, съставени с помощта на мощната подкана; последвано от питане на всеки „може ли да се тества?“ Проверете ръчно и направете неясните измерими. И накрая, запишете три режима на повреда за това устройство и смекчаване за всеки и отбележете кои сте елиминирали от това, което AI предложи.
контролен списък
- [ ] Знам веригата за контрол на дизайна и ролята на AI във всяка връзка.
- [ ] Разбрах целта на ISO 14971 управление на риска и FMEA.
- [ ] Разбирам концепцията на SaMD и нейните задължения.
- [ ] Разбирам, че актуализацията на модела е промяна в дизайна и изисква повторно валидиране.
- [ ] Разбрах, че решението за сигурност и подписът остават при оторизирания инженер.