Печалби:
- Възможност за комбиниране на части от изображения, сигнали, данни и регулиране в един отговорен биомедицински AI работен процес
- Възможност за прилагане на одит от човек в цикъла, проследимост и принципи за наблюдение след разпространение
- Възможност за поддържане на лимита на всеки етап, където изкуственият интелект не замества одобрението на лекари и инженери
Изпит по модул
1. Кой от изброените е основният принцип, който определя риска от резултат от ИИ в биомедицинското инженерство?
- А) Рискът от резултата е равен на вредата, която би причинил на пациента, ако беше неправилен; скали за валидиране съответно ✔
- B) AI изходът като цяло е безопасен, защото е написан гладко и технически
- C) Валидирането не е необходимо, когато се използва най-актуалният модел
- D) Ако резултатът се отнася за ръководство, не са необходими допълнителни проверки
Обяснение: Рискът от резултат е равен на вредата за пациента, ако този резултат е неправилен. Докато незначителна грешка в резюмето на литературата е с нисък риск, грешка при въвеждане на откриване на изображение или клинично решение директно застрашава безопасността на пациента; Следователно интензитетът на проверката варира с потенциална вреда и всяко решение, свързано с безопасността на пациента, зависи от одобрението на лекаря.
2. Каква е правилната роля на поддържан от AI модел за откриване при клинична употреба в радиологията?
- A) Автоматично одобряване на доклада на рентгенолога и премахване на натоварването
- B) Затваряне на случаи с нисък приоритет без посещение при рентгенолог
- В) Ако вероятността на модела е висока, поставете диагноза без допълнително изследване
- D) Като помощен инструмент, който привлича вниманието към находката и я приоритизира, но отговорността за диагнозата остава на рентгенолога ✔
Описание: Image AI е инструмент за подпомагане на вземането на решения: привлича, приоритизира, измерва и маркира; диагностичната отговорност обаче остава на рентгенолога. Резултатът от модела не е заместител на решението на рентгенолога, той е само вход. Резултатът се използва заедно с независима клинична оценка, тъй като винаги са възможни фалшиви положителни и фалшиви отрицателни резултати.
3. Какъв е най-често срещаният проблем при пренасяне на производителността на AI модел от една лаборатория в друга в дигиталната патология?
- А) Моделът работи много бързо
- B) Файловете със слайдове са твърде малки
- C) Изместване на домейн, причинено от разлики в боядисването и сканирането ✔
- Г) Патолозите изобщо не искат да използват модела
Описание: Протоколът за оцветяване, марката на скенера и дебелината на среза варират от лаборатория до лаборатория; Ако моделът се е научил въз основа на статистиката на изображението на една лаборатория, неговата производителност ще намалее в друга лаборатория. Това явление се нарича изместване на домейна и е най-честата причина за повреда в дигиталната патология; Ето защо външното валидиране и нормализирането на цветовете са критични.
4. Какъв трябва да бъде първият потвърждаващ рефлекс на инженера, когато класификационният модел на ЕКГ обозначава „предсърдно мъждене“?
- A) Записване на етикета директно в досието на пациента като диагноза
- B) Проверете необработения сигнал, артефактите и физиологичната правдоподобност и оставете решението на лекаря ✔
- В) Ако оценката на достоверността на модела е висока, няма нужда от друг контрол.
- Г) Насочване на пациента към медикаментозно лечение
Обяснение: Резултатът трябва първо да бъде тестван за физиологична правдоподобност и качество на сигнала: дрейф на базовата линия, мускулен артефакт или релаксация на електрода в записа може да имитират ритъма. Погрешно е да се доверявате на етикета, без да разглеждате суровия сигнал и R-R интервалите; Окончателната диагноза на ритъма принадлежи на лекаря. Моделът издава предварителен сигнал, не взема решение.
5. Коя е ключовата характеристика на AI обработката на ЕЕГ сигнали, която прави проверката особено трудна?
- A) Ниско съотношение сигнал/шум и висока артефакт/променливост ✔
- Б) ЕЕГ сигналът е с много висока амплитуда и без шум
- В) Запис на ЕЕГ само от един канал
- Г) ЕЕГ данните никога не са цифрови
Обяснение: ЕЕГ е сигнал с много ниска амплитуда (микроволтов диапазон) и лесно се заразява от артефакти като мигане на очите, движение на мускулите, електроден и мрежов шум; Освен това променливостта между индивидите и записите е голяма. Това ниско съотношение сигнал/шум причинява изходите на модела да бъдат крехки и налага валидиране от експерт неврофизиолог.
6. Кое е най-важното ограничение при работа с данни за пулса от потребителско носимо устройство?
- А) Батерията на устройството се изтощава бързо
- B) Съхраняване на данни в облака
- C) Устройството често не е медицински сертифицирано и сигналът е податлив на артефакт/отклонение ✔
- Г) Устройството е твърде скъпо
Разкриване: Повечето потребителски носими устройства не са сертифицирани като медицински устройства; Сигналът PPG (фотоплетизмография) се влияе от артефакт на движение и фактори като тъмна кожа и татуировки могат да намалят точността. Тези данни са ценни за склонност/осведоменост, но за диагностично решение са необходими валидирани клинични измервания и лекарска оценка.
7. Какво означава „временно изтичане“ при изграждане на прогнозен модел с данни от електронно здравно досие (EHR)?
- А) Криптирано съхранение на данни
- B) Изтичане на бъдеща информация във функции, които все още не съществуват към момента на прогнозиране ✔
- C) Данните са твърде стари
- Г) Твърде бавно обучение на модела
Обяснение: Временното изтичане е намесата на тренировъчни характеристики с информация, която все още не е налична към момента на прогнозиране (бъдеще); например използване на диагностика при изписване за прогнозиране на риска при приемане. Това води до висока производителност в лабораторията, но срив в реална клинична употреба и е един от най-коварните недостатъци на моделите на клинични данни.
8. Кое от следните става задължително, когато самият софтуер е описан като „софтуер за медицинско устройство“ (SaMD)?
- А) Достатъчно е просто да работите бързо
- Б) Не изисква никаква документация
- C) Изисква се само красив интерфейс
- D) Контролът на дизайна, управлението на риска, проверката/валидирането и съответствието с нормативните изисквания стават задължителни ✔
Описание: SaMD (Софтуерът като медицинско устройство) е софтуер, който работи за диагностика, лечение или мониторинг и не зависи от никакъв хардуер. В този случай контролът на дизайна, управлението на риска (ISO 14971), проверката/валидирането и съответствието с нормативните изисквания са задължителни; Софтуерът не може да се третира като „просто софтуер“, тъй като неговият отказ пряко засяга безопасността на пациента.
9. Какъв е най-критичният риск, когато поискате от AI клауза за MDR (Директива за медицински изделия) или стандартен номер?
- A) Моделът създава фалшиви статии/стандартни препратки и ги представя безопасно ✔
- B) Моделът дава твърде кратък отговор
- В) Моделът отговаря на английски
- D) Моделът реагира твърде бавно
Обяснение: Езиковите модели могат уверено да произвеждат несъществуващи номера на елементи, неправилни стандартни версии и измислени препратки (халюцинации). При спазване на регулаторните изисквания неправилното позоваване на веществото води до сериозна несъответствие; така че всяко приписване трябва да се проверява независимо от официалния текст, AI трябва да се използва само за навигация/чертене.
10. В каква категория попадат здравните данни в обхвата на КВКК и какво означава това?
- А) Обикновени лични данни; могат да се обработват свободно
- Б) Не са лични данни; няма ограничение
- В) Специални категории лични данни; Обработено при по-строги условия и защити ✔
- Г) Само търговска тайна; не се изисква поверителност
Пояснение: Здравните данни се считат за „специални лични данни“ в KVKK; По правило обработването зависи от изрично съгласие или изключения, предвидени в закона, и изисква по-строги мерки за защита. Следователно данните за пациентите не могат да бъдат въведени в неконтролирани инструменти; Споразуменията за анонимизиране, ограничаване на достъпа и обработка на данни са задължителни.
11. Какво означава „калибриране“ в клиничен AI модел и защо е важно?
- А) Колко бързо се движи моделът
- Б) Колко параметъра има моделът?
- В) Цвят на интерфейса на модела
- D) Съвместимост на вероятностите, дадени от модела, с действителните честоти на събитията ✔
Обяснение: Калибрирането е приспособяване на вероятностите, дадени от модела към действителните честоти: събитието трябва действително да се случи при около 20% от пациентите, за които пише „20% риск“. Тъй като решенията в клиниката се вземат въз основа на вероятностни прагове, лошо калибриран модел ще доведе до неправилни прагови решения, дори ако се класира правилно; следователно трябва да се провери калибрирането, както и дискриминацията (AUC).
12. Защо „производителността на подгрупата“ трябва да се проверява отделно в модели на изображения, сигнали или клинични данни?
- А) Просто пълната точност винаги е достатъчна
- B) Тъй като подгрупите влияят върху скоростта на модела
- C) Общият показател може да скрие недостатъчното представяне и пристрастията в конкретни групи пациенти ✔
- Г) Подгруповият анализ е необходим само за маркетинга
Обяснение: Докато един модел може да изглежда добре средно, той може да се представи значително по-зле в определени подгрупи (възраст, пол, тон на кожата, тип устройство, болница); Общата метрика скрива това неравенство. В здравеопазването това води до системни вреди при някои групи пациенти; Следователно представянето трябва да бъде разделено на подгрупи и отчетено за справедливост.
13. Какъв е най-добрият подход срещу риска от „повторна идентификация“ при работа с данни на пациенти?
- А) Просто изтриването на името е достатъчно при всички обстоятелства.
- B) Обобщете косвените идентификатори, както и преките идентификатори и ограничете достъпа ✔
- В) Ако данните принадлежат на малък брой хора, не са необходими предпазни мерки
- D) Просто промяна на името на файла вместо криптиране
Описание: Дори изтритите данни могат да бъдат повторно идентифицирани с редки комбинации от диагноза, дата на раждане, пощенски код и дата. Така че не е достатъчно просто да извлечете директни идентификатори; Техники като изместване на дата, генерализация, k-анонимност и контрол на достъпа трябва да се прилагат заедно, а чувствителният свободен текст също трябва да се почиства.
14. Каква е основната причина за поддържане на цялостен контрол „човек в цикъла“ в работния процес на биомедицинския AI?
- А) Човешкият контрол само създава бавност и трябва да бъде премахнат
- B) Ако резултатът за достоверност на модела е висок, валидирането от хора не е необходимо
- В) Няма практическа причина освен законово задължение
- D) AI е обект на пристрастия и грешки; Решенията и отговорността за безопасността на пациентите трябва да останат на квалифицирания специалист ✔
Описание: Изкуственият интелект генерира, приоритизира и изготвя хипотези; но моделите, които научава от данните, може да са непълни, пристрастни или извън контекста. Наложително е решенията относно безопасността на пациентите да остават с одобрението на оторизирания лекар и инженер, както за улавяне на грешки, така и за поддържане на отговорността на правилното място; AI не замества това одобрение на нито един етап.