Печалби:
- Да можеш да разграничиш къде изкуственият интелект създава безопасна стойност в биомедицинския работен процес и кои решения остават отговорност на лекаря и оторизирания инженер.
- Способност за прилагане на дисциплина, която кръстосано валидира всеки резултат от ИИ с физиологичен порядък на величина, клинична правдоподобност и независими доказателства
- Разпознайте рисковете от халюцинации, изтичане на данни и безопасността на пациентите и развийте навика да създавате сигурни подкани чрез анонимизиране на контекста.
Биомедицинското инженерство е професия, в която се пресичат сложността на човешкото тяло и стремежът на инженерството към прецизност. ЕКГ сигналът е електрическата сянка на сърцето, ЯМР изображението е магнитно ехо на тъкан, лабораторната стойност е моментна снимка. Всички тези измервания са индиректни, шумни и изискват интерпретация. Изкуственият интелект (AI; софтуерни системи, които се учат от модели на големи данни и произвеждат текст/изображения/числа) може да ускори тази интерпретация, но също така може да скрие грешките си с гладък език. Този модул полага двете основи, върху които ще бъде изграден целият модул: къде в биомедицинския работен процес AI произвежда реална стойност и как валидираме всеки резултат.
Нека теглим абсолютна линия от самото начало: нито една от техниките, които ще научите в този модул, няма да замени диагнозата на квалифициран лекар, одобрението на компетентен инженер и валидираните процеси на устройството. Изкуственият интелект не диагностицира. Изкуственият интелект е помощник; Чете бързо, подписва бързо, улавя шаблони. Но ако се пропусне тумор, дадено устройство даде фалшива аларма, дозата е грешно изчислена, отговорността не е на софтуера, а на лекаря и инженера, които са взели решението. Ще видите това изречение в различни форми във всяка единица, защото това е единствената истина в инженерството, която се отнася до безопасността на пациентите.
Къде изкуственият интелект създава стойност в биомедицинския работен процес?
Седмицата на един биомедицински инженер или екип по клинични технологии е грубо разделена на три вида работа: подготовка на данни (почистване на сигнали, предварителна обработка на изображения, редактиране на таблици, извличане на регистрационни файлове), интерпретация и анализ (откриване на намиране, класифициране, прогнозно моделиране, оценка на риска) и комуникация и документация (технически файл, доклад за валидиране, резюме на литературата, ръководство за устройството). AI засяга и трите области, но неговият принос и риск са различни във всяка.
Подготовката на данни е най-сигурната и печеливша област на изкуствения интелект. Премахване на шум от необработения сигнал, мащабиране на изображения до стандартен размер, превод на клинични бележки със свободен текст в структурирани полета, подравняване на непоследователни единици - това са задачи, които са повтарящи се, базирани на правила и лесни за проверка. Дори тук да има грешка, ще отнеме минути, за да се върнете към източника (сурови данни) и да го проверите.
Сферата на интерпретацията и анализа носи най-висока стойност и най-висок риск. AI може да маркира подозрителна зона в изображение, да открие възможна аритмия в сигнал; това може да разкрие модел, който може да бъде пренебрегнат в натоварена клиника. Но същият модел може уверено да произведе несъществуваща находка (това явление се нарича халюцинация: моделът представя несъществуващата информация като реална). В тази област AI е инструмент за хипотези и приоритизиране, а не вземащ решения.
AI чернови ускорител в комуникацията и документацията. Създава секцията с методите на доклад за валидиране, резюме на литературата или първата чернова на анализ на риска за минути. Рискът тук е, че измислени източници и грешни числа могат да се промъкнат в течащ текст, без да бъдат забелязани.
Дисциплина за валидиране: Правилото на трите котви
Сърцето на този модул е един-единствен навик: да не се включва изход от AI в клинично или инженерно решение, без да се валидира. Базираме валидирането на три независими котви.
Първа котва — физиологичен порядък на величина. Дали резултатът е в познатите граници на човешката физиология? Сърдечната честота в покой обикновено е 50-100 удара в минута; Ако моделът дава 400, има или артефакт, или грешка при редактиране. Телесната температура на възрастен е в диапазона 36-38 °C; 45 °C е физиологично несъвместима с живите същества. Общият обем на кръвта на възрастен е приблизително 5 литра. Тази проверка отнема секунди и улавя повечето грешки.
Втора котва — Клинична правдоподобност. Резултатът съответства ли на клиничната история на пациента и медицинската обосновка? Ако моделът предполага „висока степен на сигурност“ като напреднала находка за 25-годишен асимптоматичен пациент, вероятността за предтеста е ниска и този сигнал се разглежда с допълнително подозрение. Възрастта, полът, анамнезата и симптомите са филтърът за правдоподобност, който трябва да премине всяка интерпретация.
Трета котва — независими доказателства. Това е най-здравата котва. Референтен стандартен тест, втори образен метод, лабораторно потвърждение, второ експертно мнение. Констатация, маркирана от AI, се тества спрямо метод на златен стандарт или независима оценка от експерт. Клиничната истина винаги побеждава.
Три мини калъфа: с числата
Случай 1 — Спестяване на време при предварителна обработка на сигнала. Клиничен инженер ръчно сегментира и маркира артефакти в 320 ЕКГ записа за изследователско проучване; средно 7 минути на запис, приблизително 37 часа общо. С работен процес за предварителна обработка, задвижван от изкуствен интелект, той намали маркирането на първата чернова до 40 секунди на запис, като отдели оставащото време за визуална проверка. Общото време спадна до около 12 часа; критичното беше, че спестеното време беше изразходвано за проверка.
Случай 2 — Уловена халюцинация. Когато биомедицински инженер поиска резюме на литературата за доклад за клинична оценка на устройство, текстът включваше изречението „Yilmaz et al. 2019 съобщават за 98% чувствителност“. Нямаше такава статия; моделът е изфабрикувал приписването чрез имитиране на реален модел. Проверката на източника (проверка на DOI и журнал) е уловила грешката преди докладът да бъде подписан.
Случай 3 — Единична грешка. В помощно средство за изчисляване на дозата, моделът измества препоръчания обем с 1000 пъти, като обърква концентрацията на лекарството с µg/mL вместо mg/mL. Проверката на физиологичния порядък на големината - „на възрастен се дават 2 милилитра, а не 2 литра“ - веднага разкри грешката. Това изчисление все пак отиде при фармацевта и лекаря за одобрение; AI беше само междинен контролен инструмент.
Слаба подкана / Силна подкана
Слаба подкана:
Вижте данните на този пациент и посочете неговата диагноза [данни]
Мощна подкана:
Вашата роля: Вие сте анализатор на биомедицински данни (ВИЕ НЕ ПОСТАВЯТЕ ДИАГНОСТИКА). Обобщете следните анонимни измервания, базирани САМО на предоставените данни. - Не поставяйте диагноза; Дайте само числени резултати и сравнение на нормалните граници. - Не добавяйте констатации, стойности или истории, които не са в данните. - Покажете реда с данни, на който се основавате, със скоби до всяко наблюдение. - На неясното място напишете „недостатъчни данни“. - Накрая: направете отделен списък от 3 точки, които лекарят трябва да потвърди. Анонимни данни: [измервания]
Мощната подкана налага три неща на модела: придържане към източника, не приемане на диагностичен авторитет и маркиране на неща за проверка. Това не слага край на халюцинацията напълно, но я прави видима и позиционира правилно ролята.
Четири копируеми шаблона
1) Създаване на анонимизиран контекст:
Бих искал помощ за биомедицинска мисия. Името на пациента, самоличността, датата и институционалната информация са ПОВЕРИТЕЛНИ; Ще ги дам с представителни изрази като "Пациент-А", "Ден-0". Мисия: [мисия]. Просто разчитайте на анонимните технически данни, които предоставям.
2) Три заявки за проверка на котва:
Направете три проверки за следния изход: 1) Физиологичен порядък на величина: дали всяко число е в човешкия диапазон? Ако не, отбележете. 2) Клинична правдоподобност: има ли твърдения, несъвместими с възрастта/историята/симптома?3) Списък за проверка: елементите трябва да бъдат потвърдени от независимо тестване/експерт. Резултат: [текст]
3) Налагане на неяснота:
Дайте своето тълкуване на три нива на увереност: - Висока увереност (директно подкрепена от данни) - Средна увереност (разумно заключение) - Спекулативна (необходими са допълнителни данни/тестване) Задача: [задача]. Данни: [анонимни данни]
4) Разграничение решение/подкрепа:
Разделете следната задача на две: A) Данни/чернова работа, която AI може да извърши с увереност B) Точки за вземане на решения, за които одобрението на оторизиран лекар/инженер е ЗАДЪЛЖИТЕЛНО Описание на задачата: [дефиниция]
Роля на AI: Риск по тип мисия
Тип задача
Принос на AI
Ниво на риск
Плътност на проверката
Предварителна обработка на сигнал/изображение
високо
ниско
проверка на място
Намиране на предварителна маркировка
високо
среден
Експерт + разумност
Точкуване на прогноза/риск
среден
високо
Калибриране + независим
Решение за диагноза/лечение
ограничен
много високо
Пълно одобрение от лекар
Доклад/литературен проект
високо
среден
потвърждение на източника
Решение за сигурност на устройството
ограничен
много високо
Стандарт + V&V + одобрение
Съвет: За да определите нивото на риск на дадена задача, задайте един въпрос: „Какво се случва с пациента, ако този резултат е неправилен?“ Ако отговорът е „Ще загубя няколко минути“, проверете леко; Ако „пациент може да бъде наранен“, третирайте резултата като хипотеза и го прокарайте през пълния клиничен/инженерен процес.
Внимание: Най-опасната характеристика на изкуствения интелект не е, че прави грешки, а че прави грешки уверено и на медицински език. Плавният, технически и професионален текст не означава, че е правилен. Доверете се на доказателства, не на стил.
Често срещани грешки
- Грешка за плавност с точност. Без значение колко медицински изглежда текстът, фактическите твърдения (стойност, находка, източник, доза) трябва да бъдат независимо проверени.
- Не мащабиране на риска по тип задача. Разглеждане на акаунт за доза по същия начин като чернова на имейл. Валидирането се мащабира според потенциалната вреда за пациента.
- Въвеждане на пациентски данни без замисляне. Здравните данни са специални лични данни; анонимизирайте, преди да влезете в неконтролираното превозно средство.
- Предоставяне на правомощия за диагностика на AI. AI не диагностицира; генерира хипотези. Диагнозата и решенията за лечение принадлежат на лекаря.
- Игнориране на несигурността. Само защото моделът изглежда "уверен" не означава, че несигурността изчезва; Поискайте ниво на увереност и обхват.
В обобщение
- Биомедицинските измервания са индиректни и шумни; Изкуственият интелект може както да ги ускори, така и да скрие грешките им.
- Изкуственият интелект е най-безопасният и най-печеливш при подготовката на данни, най-ценният, но най-рисковият при интерпретацията/анализата и ускорителят при документирането.
- Всеки резултат се валидира от три котви: физиологичен порядък на величина, клинична правдоподобност, независими доказателства.
- Рискът от изход е равен на вредата, която ще причини на пациента, ако е неправилен; скали за валидиране съответно.
- AI не диагностицира; Всяко решение относно безопасността на пациента се взема с одобрението на оторизирания лекар и инженер.
Задача за приложение
Избройте пет биомедицински задачи, които извършвате за една седмица от собствената си работа (напр. изчистване на сигнала, намиране преди полет, раздел за докладване, анотация на риска, тестване на устройството). Поставете всеки на ниво на риск според таблицата в тази единица и попитайте „какво се случва с пациента, ако не е наред?“ Отговорете на въпроса с едно изречение. След това напишете силна, анонимизирана подкана към задачата с най-нисък риск и я опитайте; Проверете изхода с три котви и отбележете коя котва е уловила проблем.
контролен списък
- [ ] Мога да разгранича къде изкуственият интелект създава безопасни и къде рискови стойности в биомедицинския работен процес.
- [ ] Придобих рефлекса да проверявам всеки резултат с физиологична величина, клинична правдоподобност и независими доказателства.
- [ ] Нивото на риск на задача "какво се случва с пациента, ако се обърка?" Мога да определя с въпроса.
- [ ] Знам какво е халюцинация и несигурност и как да ги направя видими.
- [ ] Разбрах, че изкуственият интелект не диагностицира и решението за диагноза/лечение зависи от лекаря.