Добивки:
- Да може да разликува каде вештачката интелигенција произведува безбедна вредност во биомедицинскиот работен тек и кои одлуки остануваат одговорност на лекарот и овластениот инженер.
- Способност да се примени дисциплина која вкрстено го потврдува секој излез на ВИ со физиолошки редослед на големина, клиничка веродостојност и независни докази
- Препознајте ги ризиците од халуцинации, протекување податоци и безбедноста на пациентот и развијте навика да поставувате безбедни известувања со анонимизирање на контекстот.
Биомедицинскиот инженеринг е професија во која се вкрстуваат сложеноста на човечкото тело и стремежот на инженерството за прецизност. ЕКГ сигналот е електричната сенка на срцето, сликата на МРИ е магнетно ехо на ткивото, лабораториската вредност е снимка. Сите овие мерења се индиректни, бучни и бараат толкување. Вештачката интелигенција (ВИ; софтверски системи кои учат од обрасци на големи податоци и произведуваат текст/слики/броеви) може да го забрза ова толкување, но може и да ги скрие своите грешки со течен јазик. Оваа единица ги поставува двете основи врз кои ќе се гради целиот модул: каде во биомедицинскиот работен тек вештачката интелигенција произведува вистинска вредност и како го потврдуваме секој излез.
Ајде да повлечеме апсолутна линија од почеток: ниту една од техниките што ќе ги научите во текот на овој модул нема да ја замени дијагнозата на квалификуван лекар, одобрението од компетентен инженер и потврдените процеси на уредот. Вештачката интелигенција не дијагностицира. Вештачката интелигенција е асистент; Брзо чита, брзо се потпишува, фаќа шаблони. Но, ако туморот се пропушти, уредот дава лажна тревога, дозата е погрешно пресметана, одговорноста не е на софтверот туку на лекарот и инженерот што ја донеле одлуката. Оваа реченица ќе ја видите во различни форми во секоја единица, бидејќи ова е единствената вистина во инженерството што се однесува на безбедноста на пациентите.
Каде вештачката интелигенција создава вредност во биомедицинскиот работен тек?
Неделата на биомедицински инженер или тим за клиничка технологија е грубо поделена на три вида работа: подготовка на податоци (чистење на сигнал, претходна обработка на слики, уредување табели, екстракција на дневници), толкување и анализа (откривање на пронаоѓање, класификација, предвидливо моделирање, бодување на ризик) и комуникација и документација (техничка датотека, извештај за валидација, резиме на литература, прирачник за уред). ВИ ги допира сите три области, но нејзиниот придонес и ризикот се различни во секоја од нив.
Подготовката на податоци е најбезбедното и најпрофитабилното поле на вештачката интелигенција. Отстранување на шумот од необработениот сигнал, скалирање на сликите до стандардна големина, преведување на клинички белешки со слободен текст во структурирани полиња, усогласување на неконзистентни единици - тоа се задачи кои се повторуваат, се засноваат на правила и лесни за проверка. Дури и ако има грешка овде, ќе бидат потребни неколку минути за да се вратите на изворот (необработени податоци) и да го проверите.
Областа на толкување и анализа носи најголема вредност и најголем ризик. ВИ може да означи сомнителна област на сликата, да открие можна аритмија во сигналот; ова може да открие шема што може да се занемари во зафатена клиника. Но, истиот модел може со сигурност да произведе непостоечки наод (овој феномен се нарекува халуцинација: моделот ги прикажува непостоечките информации како реални). На ова поле, вештачката интелигенција е алатка за хипотеза и приоритизација, а не носител на одлуки.
АИ нацрт-акцелератор во комуникација и документација. Го произведува делот за методи од извештајот за валидација, резиме на литература или првиот нацрт на анализа на ризик за неколку минути. Ризикот овде е дека измислените извори и неточните бројки може да се лизгаат во тековен текст без да бидат забележани.
Дисциплина за валидација: Правило за три сидра
Срцето на овој модул е единствена навика: да не се инкорпорира никаков излез на вештачка интелигенција во клиничка или инженерска одлука без да се потврди. Ние ја засноваме валидацијата на три независни сидра.
Прво сидро - Физиолошки редослед на големина. Дали резултатот е во познатиот опсег на човечката физиологија? Ритамот на срцето во мирување е типично 50-100 отчукувања во минута; Ако моделот даде 400, има или артефакт или грешка при уредување. Температурата на телото на возрасните е во опсег од 36-38 °C; 45 °C е физиолошки некомпатибилна со живите суштества. Вкупниот волумен на крв кај возрасен е приближно 5 литри. Оваа проверка трае неколку секунди и ги фаќа повеќето грешки.
Второ сидро - Клиничка веродостојност. Дали резултатот е конзистентен со клиничката историја и медицинското образложение на пациентот? Ако моделот сугерира „висока самодоверба“ напреден наод за 25-годишен асимптоматски пациент, веројатноста пред тестот е мала и на овој сигнал се гледа со дополнително сомневање. Возраста, полот, историјата и симптомите се филтерот на веродостојноста што секоја интерпретација мора да ја помине.
Трето сидро - Независен доказ. Ова е најсилното сидро. Референтен стандарден тест, втор метод на сликање, лабораториска потврда, второ мислење од експерт. Наодот означен со вештачка интелигенција се тестира според методот на златен стандард или независна евалуација од експерт. Клиничката вистина секогаш победува.
Три мини случаи: според бројките
Случај 1 - Заштеда на време при претходна обработка на сигналот. Клинички инженер рачно ги сегментирал и означувал артефактите во 320 снимки на ЕКГ за истражувачка студија; во просек 7 минути по снимање, приближно 37 часа вкупно. Со работен тек на пред-обработка напојуван со вештачка интелигенција, го намали означувањето на првиот нацрт на 40 секунди по запис, посветувајќи го преостанатото време на визуелна проверка. Вкупното време падна на околу 12 часа; она што беше критично беше тоа што заштеденото време беше потрошено на верификација.
Случај 2 - заробена халуцинација. Кога биомедицински инженер побарал резиме на литература за извештај за клиничка евалуација на уред, текстот ја вклучувал реченицата „Јилмаз и сор. 2019 пријавил 98% чувствителност“. Немаше таков напис; моделот го измислил атрибутот имитирајќи вистинска шема. Проверката на изворот (DOI и проверка на дневникот) ја откри грешката пред да се потпише извештајот.
Случај 3 - Грешка во единицата. Како помош за пресметување на дозата, моделот го помести препорачаниот волумен за 1000 пати со мешање на концентрацијата на лекот со μg/mL наместо mg/mL. Проверката на физиолошкиот редослед на големината - „на возрасно лице му се даваат 2 милилитри, а не 2 литри“ - веднаш ја откри грешката. Оваа пресметка сепак отиде кај фармацевтот и лекарот за одобрување; ВИ беше само средно контролно средство.
Слаба навестување / Силен навестување
Слаба навестување:
Погледнете ги податоците на овој пациент и наведете ја неговата дијагноза.[податоци]
Моќен потсетник:
Вашата улога: Вие сте аналитичар на биомедицински податоци (НЕ СЕ ДИЈАГНОСИРАТЕ). Сумирајте ги следните анонимни мерења САМО врз основа на дадените податоци. - Не поставувајте дијагноза; Наведете само нумерички наоди и споредба на нормалниот опсег. - Не додавајте никакви наоди, вредности или приказни што ги нема во податоците. - Покажете ја линијата со податоци на која се базирате со загради до секое набљудување. - На нејасното место напишете „податоци недоволни“. - На крајот: направете посебна листа од 3 точки што лекарот мора да ги потврди. Анонимни податоци: [мерење]
Моќниот потсетник наметнува три работи на моделот: држење до изворот, непреземање дијагностички авторитет и означување на работите што треба да се потврдат. Ова не ја прекинува целосно халуцинацијата, но ја прави видлива и правилно ја позиционира улогата.
Четири шаблони за копирање
1) Воспоставување анонимизиран контекст:
Би сакал помош со биомедицинска мисија. Името на пациентот, идентитетот, датумот и институционалните информации се ДОВЕРЛИВИ; Ќе ги дадам со репрезентативни изрази како „Пациент-А“, „Ден-0“. Потрага: [потрага]. Само потпирајте се на анонимните технички податоци што ги давам.
2) Три барања за верификација на сидро:
Направете три проверки за следниот излез: 1) Физиолошки редослед на големина: дали секој број е во опсегот на човекот? Ако не, означете.2) Клиничка веродостојност: дали има тврдења кои не се во согласност со возраста/историјата/симптом?3) Список за верификација: ставки што треба да се потврдат со независно тестирање/експерт. Излез: [текст]
3) Спроведување на двосмисленост:
Дајте го вашето толкување на три нивоа на доверба: - висока доверба (директно поддржана од податоци) - средна доверба (разумен заклучок) - шпекулативен (потребни се дополнителни податоци/тестирање) Задача: [задача]. Податоци: [анонимни податоци]
4) Разлика за одлука/поддршка:
Поделете ја следнава задача на два: А) Податоци/нацрт-работа што вештачката интелигенција може да ја направи со сигурност Б) Точки на одлука за кои е ЗАДОЛЖИТЕЛНО одобрението од овластен лекар/инженер Опис на задачата: [дефиниција]
Улогата на вештачката интелигенција: Ризик според типот на мисија
Тип на задача
Придонес за вештачка интелигенција
Ниво на ризик
Густина на верификација
Претходна обработка на сигнал/слика
високо
низок
проверка на место
Наоѓање на прелиминарно обележување
високо
средно
Експерт + разумност
Предвидување / бодување на ризик
средно
високо
Калибрација + независна
Дијагноза/одлука за третман
ограничен
многу високо
Целосно одобрение од лекар
Извештај/нацрт на литература
високо
средно
потврда на изворот
Одлука за безбедност на уредот
ограничен
многу високо
Стандардно + V&V + одобрение
Совет: За да го одредите нивото на ризик на задачата, поставете едно прашање: „Што се случува со пациентот ако овој резултат е неточен?“ Ако одговорот е „Ќе изгубам неколку минути“, проверете лесно; Ако „пациентот може да биде повреден“, третирајте го резултатот како хипотеза и поминете го низ целиот клинички/инженерски процес.
Внимание: Најопасната карактеристика на вештачката интелигенција не е тоа што прави грешки, туку тоа што прави грешки самоуверено и на медицински јазик. Течен, технички и професионален текст не значи дека е точен. Доверба до докази, не стил.
Вообичаени грешки
- Погрешно флуентност со точност. Колку и да се појавува текстот медицински, фактичките тврдења (вредност, наод, извор, доза) треба независно да се проверат.
- Не скалирање на ризикот според видот на задачата. Гледање на сметката за доза на ист начин како нацрт-е-пошта. Валидацијата е намалена според потенцијалната штета на пациентот.
- Внесување податоци за пациентот без размислување. Здравствените податоци се посебни лични податоци; анонимизирајте пред да влезете во неконтролираното возило.
- Давање дијагностичко овластување за вештачка интелигенција. ВИ не дијагностицира; генерира хипотези. Одлуките за дијагноза и третман му припаѓаат на лекарот.
- Игнорирање на неизвесноста. Само затоа што моделот изгледа „самоуверено“ не значи дека неизвесноста исчезнува; Побарајте ниво на доверба и опсег.
Сумирано
- Биомедицинските мерења се индиректни и бучни; Вештачката интелигенција може и да ги забрза и да ги скрие нивните грешки.
- Вештачката интелигенција е најбезбедна и најпрофитабилна во подготовката на податоците, највредна, но најризична во толкувањето/анализата и забрзувачот во документацијата.
- Секој исход е потврден со три сидра: физиолошки редослед на големина, клиничка веродостојност, независен доказ.
- Ризикот од исход е еднаков на штетата што ќе ја предизвика на пациентот ако е неточен; валидација скали соодветно.
- ВИ не дијагностицира; Секоја одлука во врска со безбедноста на пациентот се носи со одобрение од овластен лекар и инженер.
Задача за апликација
Наведете пет биомедицински задачи што ги извршувате во една недела од вашата работа (на пр., бришење сигнал, наоѓање пред лет, дел за извештај, прибелешка за ризик, тестирање на уредот). Ставете го секој на ниво на ризик според табелата во оваа единица и прашајте „што се случува со пациентот ако не е во ред?“ Одговори на прашањето во една реченица. Потоа напишете силен, анонимизиран потсетник за задачата со најнизок ризик и пробајте ја; Проверете го излезот со три котви и забележете кое сидро фати проблем.
листа за проверка
- [ ] Можам да разликувам каде вештачката интелигенција произведува безбедна и каде ризична вредност во биомедицинскиот работен тек.
- [ ] Стекнав рефлекс за да го проверам секој исход со физиолошка големина, клиничка веродостојност и независни докази.
- [ ] Нивото на ризик на задачата „што се случува со пациентот ако тргне наопаку?“ Можам да одредам со прашањето.
- [ ] Знам што е халуцинација и неизвесност и како да ги направам видливи.
- [ ] Имам интернализирано дека вештачката интелигенција не дијагностицира и одлуката за дијагноза/третман зависи од докторот.