Добици:
- Бити у стању да разликује где вештачка интелигенција производи сигурну вредност у биомедицинском току рада и које одлуке остају одговорност лекара и овлашћеног инжењера.
- Способност примене дисциплине која унакрсно потврђује сваки излаз АИ са физиолошким редом величине, клиничком веродостојношћу и независним доказима
- Препознајте ризике од халуцинација, цурења података и безбедности пацијената и развијте навику постављања безбедних обавештења анонимизацијом контекста.
Биомедицински инжењеринг је професија у којој се укрштају сложеност људског тела и инжењерска тежња за прецизношћу. ЕКГ сигнал је електрична сенка срца, МРИ слика је магнетни ехо ткива, лабораторијска вредност је снимак. Сва ова мерења су индиректна, бучна и захтевају тумачење. Вештачка интелигенција (АИ; софтверски системи који уче из образаца великих података и производе текст/слике/бројеве) може убрзати ову интерпретацију, али такође може сакрити своје грешке течним језиком. Ова јединица поставља два темеља на којима ће бити изграђен цео модул: где у биомедицинском току рада АИ производи стварну вредност и како потврђујемо сваки резултат.
Хајде да повучемо апсолутну линију од самог почетка: ниједна од техника које ћете научити током овог модула неће заменити дијагнозу квалификованог лекара, одобрење надлежног инжењера и валидиране процесе уређаја. Вештачка интелигенција не поставља дијагнозу. Вештачка интелигенција је помоћник; Брзо чита, брзо потписује, хвата обрасце. Али ако се тумор пропусти, уређај даје лажни аларм, доза је погрешно израчуната, одговорност није на софтверу већ на лекару и инжењеру који су донели одлуку. Видећете ову реченицу у различитим облицима у свакој јединици, јер је то једина истина у инжењерству која се тиче безбедности пацијената.
Где вештачка интелигенција ствара вредност у биомедицинском току рада?
Недеља биомедицинског инжењера или клиничког технолошког тима грубо је подељена на три врсте посла: припрема података (чишћење сигнала, претходна обрада слике, уређивање табеле, екстракција дневника), интерпретација и анализа (детекција налаза, класификација, предиктивно моделирање, бодовање ризика) и комуникација и документација (технички фајл, извештај о валидацији, сажетак литературе, приручник за уређај). АИ дотиче све три области, али њен допринос и ризик су различити у свакој од њих.
Припрема података је најбезбеднија и најпрофитабилнија област вештачке интелигенције. Уклањање шума из сировог сигнала, скалирање слика на стандардну величину, превођење клиничких белешки слободног текста у структурисана поља, поравнавање недоследних јединица — то су задаци који се понављају, засновани на правилима и који се лако верификује. Чак и ако постоји грешка овде, биће потребно неколико минута да се вратимо на извор (необрађени подаци) и проверимо.
Област тумачења и анализе носи највећу вредност и највећи ризик. АИ може означити сумњиву област на слици, открити могућу аритмију у сигналу; ово може открити образац који се може превидети у ужурбаној клиници. Али исти модел може поуздано произвести непостојећи налаз (овај феномен се назива халуцинација: модел представља непостојеће информације као стварне). У овој области, АИ је хипотеза и алат за одређивање приоритета, а не доносилац одлука.
АИ акцелератор нацрта у комуникацији и документацији. За неколико минута производи одељак о методама извештаја о валидацији, сажетак литературе или први нацрт анализе ризика. Овде постоји ризик да измишљени извори и нетачни бројеви могу да склизну у текући текст, а да не буду примећени.
Дисциплина валидације: правило три сидра
Срце овог модула је једна навика: не инкорпорирати било какав излаз АИ у клиничку или инжењерску одлуку без потврђивања. Ми базирамо валидацију на три независна сидра.
Прво сидро — Физиолошки ред величине. Да ли је резултат унутар познатог опсега људске физиологије? Пулс у мировању је типично 50-100 откуцаја у минути; Ако модел даје 400, постоји или артефакт или грешка у уређивању. Телесна температура одрасле особе је у опсегу 36-38 °Ц; 45 °Ц је физиолошки некомпатибилно са живим бићима. Укупна запремина крви одрасле особе је око 5 литара. Ова провера траје неколико секунди и хвата већину грешака.
Друго сидро — Клиничка веродостојност. Да ли је резултат у складу са клиничком историјом пацијента и медицинским образложењем? Ако модел сугерише „високо поверење“ као напредни налаз за 25-годишњег асимптоматског пацијента, вероватноћа пре тестирања је мала и на овај сигнал се гледа са додатном сумњом. Старост, пол, историја и симптоми су филтер уверљивости који свако тумачење мора проћи.
Треће сидро — Независни докази. Ово је најјаче сидро. Референтни стандардни тест, други метод снимања, лабораторијска потврда, друго мишљење стручњака. Налаз обележен АИ се тестира у односу на методу златног стандарда или независну процену од стране стручњака. Клиничка истина увек побеђује.
Три мини случаја: према бројевима
Случај 1 — Уштеда времена у претходној обради сигнала. Клинички инжењер је ручно сегментирао и означавао артефакте у 320 ЕКГ снимака за истраживачку студију; просечно 7 минута по снимку, отприлике 37 сати укупно. Уз радни ток претпроцесирања који покреће АИ, смањио је означавање прве верзије на 40 секунди по запису, посветивши преостало време визуелној инспекцији. Укупно време је пало на око 12 сати; оно што је било критично је да је уштеђено време потрошено на верификацију.
Случај 2 — Ухваћена халуцинација. Када је биомедицински инжењер затражио резиме литературе за извештај о клиничкој процени уређаја, текст је укључивао реченицу „Иилмаз ет ал. 2019. пријавили су 98% осетљивости.“ Није постојао такав чланак; модел је измислио атрибуцију имитирајући прави образац. Верификација извора (ДОИ и провера дневника) ухватила је грешку пре него што је извештај потписан.
Случај 3 — Грешка јединице. Као помоћ при израчунавању дозе, модел је померио препоручену запремину за 1000 пута мешањем концентрације лека са µг/мЛ уместо мг/мЛ. Провера физиолошког реда величине — „одрасла особа добија 2 милилитра, а не 2 литра“ — одмах је открила грешку. Овај прорачун је ипак отишао фармацеуту и лекару на одобрење; АИ је био само средње средство контроле.
Слаба порука / јака промпт
Слабо обавештење:
Погледајте податке овог пацијента и наведите његову дијагнозу.[подаци]
Снажан упит:
Ваша улога: Ви сте аналитичар биомедицинских података (ВИ НЕ ПОСТАВЉАТЕ ДИЈАГНОСТИКУ). Сумирајте следећа анонимна мерења заснована САМО на достављеним подацима. - Не постављајте дијагнозу; Дајте само нумеричке налазе и поређење нормалног опсега. - Немојте додавати никакве налазе, вредности или приче које нису у подацима. - Прикажите линију података на којој се заснивате са заградама поред сваког запажања. - На нејасном месту упишите „подаци недовољни“. - На крају: направите посебну листу од 3 тачке које лекар мора да потврди. Анонимни подаци: [мерења]
Моћни промпт намеће три ствари моделу: придржавање извора, не преузимање дијагностичког ауторитета и означавање ствари за верификацију. Ово не окончава халуцинацију у потпуности, али је чини видљивом и правилно позиционира улогу.
Четири шаблона за копирање
1) Успостављање анонимног контекста:
Желео бих помоћ око биомедицинске мисије. Име пацијента, идентитет, датум и информације о установи су ПОВЕРЉИВИ; Даћу их репрезентативним изразима као што су "Пацијент-А", "Дан-0". Потрага: [потрага]. Само се ослоните на анонимне техничке податке које пружам.
2) Три захтева за верификацију сидра:
Урадите три провере за следеће резултате: 1) Физиолошки ред величине: да ли је сваки број у људском домету? Ако није, означите.2) Клиничка веродостојност: да ли постоје тврдње које нису у складу са узрастом/историјом/симптом?3) Листа за верификацију: ставке које треба потврдити независним тестирањем/експертом. Исход: [текст]
3) Наметање двосмислености:
Дајте своје тумачење на три нивоа поузданости: - Високо поверење (директно подржано подацима) - Средње поверење (разуман закључак) - Спекулативно (потребни су додатни подаци/тестирање) Задатак: [задатак]. Подаци: [анонимни подаци]
4) Разлика између одлуке/подршке:
Поделите следећи задатак на два: А) Рад са подацима/нацртом који АИ може да уради са поверењемБ) Тачке одлучивања за које је одобрење овлашћеног лекара/инжењера ОБАВЕЗНО Опис задатка: [дефиниција]
Улога вештачке интелигенције: ризик према врсти мисије
Тип задатка
АИ допринос
Ниво ризика
Густина верификације
Претходна обрада сигнала/слике
висока
ниско
провера на лицу места
Проналажење прелиминарне ознаке
висока
средње
Стручност + разумност
Предвиђање/оцењивање ризика
средње
висока
Калибрација + независна
Одлука о дијагнози/лечењу
ограничена
веома високо
Пуно одобрење лекара
Извештај/нацрт литературе
висока
средње
потврда извора
Одлука о безбедности уређаја
ограничена
веома високо
Стандард + В&В + одобрење
Савет: Да бисте одредили ниво ризика задатка, поставите једно питање: „Шта се дешава са пацијентом ако је овај излаз нетачан?“ Ако је одговор „Изгубићу неколико минута“, лагано проверите; Ако би „пацијент могао бити повређен“, третирајте резултат као хипотезу и проведите га кроз цео клинички/инжењерски процес.
Пажња: Најопаснија карактеристика вештачке интелигенције није то што греши, већ што греши самоуверено и медицинским језиком. Течан, технички и професионалан текст не значи да је тачан. Верујте доказима, а не стилу.
Уобичајене грешке
- Грешка течност за тачност. Без обзира колико медицински текст изгледа, чињеничне тврдње (вредност, налаз, извор, доза) треба независно проверити.
- Не скалирање ризика према врсти задатка. Гледање на рачун дозе на исти начин као нацрт е-поште. Валидација зависи од потенцијалне штете за пацијента.
- Уношење података о пацијенту без размишљања. Здравствени подаци су посебни лични подаци; анонимизовати пре уласка у неконтролисано возило.
- Давање овлашћења за дијагностику АИ. АИ не поставља дијагнозу; генерише хипотезе. Дијагноза и одлуке о лечењу припадају лекару.
- Игнорисање неизвесности. Само зато што модел изгледа „самоуверено“ не значи да неизвесност нестаје; Питајте за ниво поверења и домет.
Укратко
- Биомедицинска мерења су индиректна и бучна; Вештачка интелигенција може да их убрза и сакрије њихове грешке.
- Вештачка интелигенција је најбезбеднија и најисплативија у припреми података, највреднија, али најризичнија у тумачењу/анализи, и акцелератор у документовању.
- Сваки исход је потврђен са три сидра: физиолошки ред величине, клиничка веродостојност, независни доказ.
- Ризик од исхода једнак је штети коју ће нанети пацијенту ако је нетачан; у складу са тим скале валидације.
- АИ не поставља дијагнозу; Свака одлука у вези са безбедношћу пацијената доноси се уз одобрење овлашћеног лекара и инжењера.
Задатак апликације
Наведите пет биомедицинских задатака које обављате у току недеље од сопственог посла (нпр. чишћење сигнала, проналажење пре лета, одељак извештаја, напомена о ризику, тестирање уређаја). Ставите сваки на ниво ризика према табели у овој јединици и питајте „шта се дешава са пацијентом ако није у реду?“ Одговорите на питање у једној реченици. Затим напишите јак, анонимни упит за задатак са најмањим ризиком и испробајте га; Проверите излаз са три сидра и забележите који је сидро ухватио проблем.
контролна листа
- [ ] Могу да разликујем где вештачка интелигенција производи безбедну, а где ризичну вредност у биомедицинском радном току.
- [ ] Стекао сам рефлекс да проверим сваки исход са физиолошком величином, клиничком веродостојношћу и независним доказима.
- [ ] Ниво ризика задатка „шта се дешава са пацијентом ако крене наопако?“ Могу да утврдим са питањем.
- [ ] Знам шта су халуцинације и неизвесност и како их учинити видљивим.
- [ ] Интернационализовао сам да вештачка интелигенција не поставља дијагнозу и одлука о дијагнози/лечењу је на лекару.