Добивки:
- Способност да се објасни придонесот на вештачката интелигенција кон барањата, архитектурата и фазите на тестирање во дизајнот на медицински уреди и софтвер.
- Разбирање на улогата на контролата на дизајнот и управувањето со ризикот во случај кога самиот софтвер е медицински уред (SaMD)
- Способност да се разбере дека резултатите од дизајнот поддржани со вештачка интелигенција мора да се тестираат со компетентно инженерско одобрение, стандардни и тестови за верификација.
Една од основните задачи на биомедицинскиот инженер е дизајнирање на медицински уреди: од пумпа за инфузија до монитор за пациенти, од протеза до дијагностички софтвер. Бидејќи овие уреди доаѓаат во директен контакт со пациентот, нивниот дизајн се разликува од обичниот развој на производи; Контролите на дизајнот (дисциплиниран процес во кој е документиран секој чекор од барање до верификација) и управување со ризик се законски обврски. Вештачката интелигенција придонесува за овие процеси со пишување барања, архитектонско изготвување, тест дизајн и документација. Во оваа единица, ќе видиме каде вештачката интелигенција се вклопува во дизајнот на уредот, како самиот софтвер станува уред (SaMD) и зошто излезот со вештачка интелигенција не е замена за одобрение од компетентни инженери.
Ајде да кажеме од почеток: во инженерството на уреди кои се клучни за безбедноста, вештачката интелигенција е план и контролен асистент. Ако некое барање недостасува, режимот на неуспех е пропуштен, тестот е надвор од опсегот, одговорноста е на инженерот за потпишување. ВИ не го потврдува дизајнот; Инженерот потврдува.
Дизајн синџир на контрола и место на вештачка интелигенција
Потреби на корисникот → Влезови за дизајнирање (барања) → Излези за дизајнирање → Верификација → Валидација → Пренос на дизајн. Овој синџир е столбот на инженерството на уреди. Улогата на вештачката интелигенција во секој прстен е различна:
- Потреби на корисниците: вештачката интелигенција може да резимира и да ги тематизира интервјуата со засегнатите страни и теренските белешки. Валидација: потврда од засегнатите страни.
- Барања: вештачката интелигенција ги скенира барањата за да види дали се „проверливи, еднина, контрадикторни“ и предлага сценарија што недостасуваат (рабни случаи). Валидација: инженерски преглед.
- Архитектура/дизајн: ВИ наведува алтернативни архитектонски пристапи и познати модели на дизајн. Верификација: инженерско расудување и пресметка.
- Тестирање: AI генерира тест случај и тест за точка на прекин од барањето. Валидација: тест матрица на покриеност.
- Документација: Вештачката интелигенција подготвува датотека и извештаи за историјата на дизајнот. Верификација: проверка на техничка содржина.
Управување со ризик: ISO 14971 и FMEA
Стандардот за управување со ризик кај медицинските помагала е ISO 14971; Го опишува процесот на идентификување на опасностите, проценка на ризикот, негово ублажување и оправдување на преостанатиот ризик. Вообичаена алатка е FMEA (Анализа на режим на неуспех и ефекти; систематски ги наведува можните режими на неуспех, нивните ефекти и оценките за сериозност/веројатност/откривање). Вештачката интелигенција е многу ефикасна во мисловните режими на неуспех за табелата FMEA - потсетувајќи на режими што човекот може да ги прескокне. Но, вистинитоста на секоја линија, нејзиниот резултат и мерката за олеснување мора да бидат потврдени со проценка на инженерот; „Ублажување“ предложено од вештачката интелигенција можеби всушност нема да функционира или може да воведе нов ризик.
Ако самиот софтвер е уред: SaMD
Понекогаш самиот софтвер е медицински уред: SaMD (Софтвер како медицински уред; софтвер кој работи за дијагностика/третман/мониторинг цели без да биде вграден во хардвер). Пример е апликација која произведува оценка за ризик од слика или алгоритам што интерпретира сигнал. Со SaMD, софтверот не може да се третира како „само софтвер“: контролата на дизајнот, управувањето со ризикот, верификацијата/валидацијата, контролата на верзијата и усогласеноста со регулативата се задолжителни. Стандардот IEC 62304 ги дефинира процесите за животниот циклус на софтверот. Посебен предизвик во развојот со помош на вештачка интелигенција е тоа што однесувањето на моделот се менува како што се ажурира; затоа контролата на промените и ревалидацијата се критични.
Три мини случаи: според бројките
Случај 1 - Зафаќање на јазот на барањата. Беа напишани 140 нацрт барања за монитор на пациентот. Скенирањето на конзистентност со помош на вештачка интелигенција означи 12 барања како неможни за тестирање (како „мора да биде погодно за корисникот“) и 3 сценарија за аларм како исчезнати. Инженерскиот тим ги поправи овие; но двете „нови барања“ предложени од вештачката интелигенција всушност беа дупликати на постоечките и мораа да се отстранат. Нето добивката е преку човечка проверка.
Случај 2 - FMEA забрзување. Во студијата на FMEA за пумпа за инфузија, тимот наведе 60 режими на дефект; КОЛЕКТИВНО напад со вештачка интелигенција произведе 18 дополнителни кандидати. Инженерите открија дека 9 од нив се оригинални и претходно испуштени, а 9 елиминираа како неважечки или дупликати. Заштедата на време беше реална, но филтрирањето беше целосно инженерска работа.
Случај 3 - Ризик за ажурирање на моделот. Тим на SaMD го ажурираше основниот модел со „подобра“ верзија. Додека новата верзија ја подобри целокупната точност, нејзините перформанси се уназадија на одреден тип на уред. Без контрола на промените и ревалидација оваа регресија би стигнала на терен. Секое ажурирање на моделот е промена на дизајнот и мора да се потврди.
Слаба навестување / Силен навестување
Слаба навестување:
Напишете ги барањата за овој уред.[идеја]
Моќен потсетник:
Вашата улога: Вие сте инженерски асистент за барањата на медицинските уреди (ВИЕ НЕ СТЕ ТЕЛО ЗА ОДОБРУВАЊЕ). Направете нацрт-барања за следниот концепт на уред: - Чувајте го секое барање единствено, може да се тестира и да се потврди. - Направете посебен дел за безбедносни/аларми и рабови. - Означете нејасни/немерливи изјави („лесни“, „брзи“) и направете ги мерливи. - На крајот дајте листа на „отворени точки каде што треба да одлучи инженерот“. - Стандард/клаузула референци како ознака „да се потврди“, дефинитивна индикација. Концепт:[опис]
Четири шаблони за копирање
1) Потребна проверка на квалитетот:
Класифицирајте ги следните барања како „проверливи/нејасни/контрадикторни/дупликат“ и предложете да ги направите сите двосмислени мерливи. Список: [барања]
2) ФМЕА бура на идеи:
Наведете ги можните режими на неуспех за овој потсистем; Предложете ги ефектите и можните причини за секоја од нив. Наведете дека инженерот ќе го направи бодувањето и ублажувањето. Подсистем: [опис]
3) Генерирање на тест сценарио:
Генерирање на нормални, гранични и неисправни тест сценарија за следново барање; нумерира секое сценарио кое може да се следи до барањето. Услов: [текст]
4) Анализа на влијанието на промената на SaMD:
Напишете нацрт-листа за проверка на анализа на влијанието за ажурирање на издавањето на моделот: засегнати барања, опсег на ревалидација, споредба на перформансите на подгрупата.
Улогата на моделот: Според фазата на дизајнирање
Фаза
Придонес за вештачка интелигенција
критичност
верификација
Резиме на потреба/засегнати страни
високо
низок
Потврда од засегнатите страни
Предлог/ревизија на барањата
високо
средно
Инженерски преглед
Архитектура/калкулус
ограничен
високо
Инженерски суд + пресметка
FMEA/ризична бура на идеи
високо
високо
Инженерско бодување/одобрување
Генерирање на тест-сценарио
високо
средно
Матрица на покриеност
Безбедносно одобрување
Никој
многу високо
Овластен инженерски потпис
Совет: користете вештачка интелигенција како „потсетник за заборавено сценарио“ во ревизијата на FMEA и барања, а не како „носител на одлуки“. Неговата најголема вредност е во изнесувањето на преден план на маргиналните ситуации што некој би ги пропуштил; Но, секој предлог мора да помине низ филтерот на инженерот.
Внимание: Во SaMD, секое ажурирање на моделот е промена во дизајнот. „Подобар“ модел може да напредува во вкупниот просек и да се уназади во подгрупа; Ниту едно ажурирање не треба да оди на терен без контрола на промените и ревалидација.
Вообичаени грешки
- Прифаќање на препораката за вештачка интелигенција без потврда. Барањето за монтирање може да предизвика неважечки режим на дефект или бескорисно ублажување.
- Мислејќи дека SaMD е „само софтвер“. Контрола на дизајнот, управување со ризик и V&V се задолжителни.
- Не се потврдува ажурирањето на моделот. Секое издание е промена на дизајнот и мора повторно да се потврди.
- Полагање на нејасното барање. Немерливите изјави како „лесно/брзо“ не можат да се тестираат.
- Заобиколувајќи го инженерското одобрение. Безбедносното решение и потпис му припаѓаат на овластениот инженер; ВИ не е орган за одобрување.
Сумирано
- Дизајнот на медицинските уреди, контролата на дизајнот и управувањето со ризикот е задолжителен, документиран процес.
- ВИ придонесува за барањата, архитектурата, FMEA и фазите на тестирање со нацрти и потсетници.
- Ако самиот софтвер е уредот (SaMD), потребна е целосна контрола на дизајнот, V&V и усогласеност со регулативата.
- Секое ажурирање на моделот е промена на дизајнот и бара ревалидација.
- Излезот со вештачка интелигенција не е замена за одобрение од квалификуван инженер; Безбедносното решение и потпис му припаѓаат на инженерот.
Задача за апликација
Изберете едноставен концепт за медицински уред (на пример, пренослив SpO2 монитор). Имајте подготвени пет барања со помош на моќниот промпт; проследено со секое прашање „дали може да се тестира? Проверете рачно и направете ги нејасните мерливи. Конечно, запишете три начини на неуспех за овој уред и ублажување за секој, и забележете кои од нив сте ги елиминирале од она што го предложила вештачката интелигенција.
листа за проверка
- [ ] Го знам синџирот на контрола на дизајнот и улогата на вештачката интелигенција во секоја алка.
- [ ] Ја разбрав целта на ISO 14971 за управување со ризик и FMEA.
- [ ] Го разбирам концептот на SaMD и неговите обврски.
- [ ] Разбирам дека ажурирањето на моделот е промена на дизајнот и бара ревалидација.
- [ ] Интернализирав дека безбедносната одлука и потпис остануваат кај овластениот инженер.