Dobički:
- Biti sposoben razlikovati, kje umetna inteligenca ustvarja varno vrednost v biomedicinskem delovnem procesu in katere odločitve ostajajo odgovornost zdravnika in pooblaščenega inženirja.
- Sposobnost uporabe discipline, ki navzkrižno validira vsak rezultat AI s fiziološkim vrstnim redom velikosti, klinično verjetnostjo in neodvisnimi dokazi
- Prepoznajte tveganja halucinacije, uhajanja podatkov in varnosti bolnikov ter razvijete navado nastavljanja varnih pozivov z anonimiziranjem konteksta.
Biomedicinski inženiring je poklic, kjer se križata kompleksnost človeškega telesa in inženirsko stremljenje k natančnosti. EKG signal je električna senca srca, MRI slika je magnetni odmev tkiva, laboratorijska vrednost je posnetek. Vse te meritve so posredne, hrupne in zahtevajo interpretacijo. Umetna inteligenca (AI; sistemi programske opreme, ki se učijo iz vzorcev velikih podatkov in ustvarjajo besedilo/slike/številke) lahko pospešijo to interpretacijo, lahko pa tudi skrijejo svoje napake s tekočim jezikom. Ta enota postavlja dva temelja, na katerih bo zgrajen celoten modul: kje v biomedicinskem delovnem toku umetna inteligenca ustvari resnično vrednost in kako potrdimo vsak rezultat.
Na začetku počrtajmo absolutno črto: nobena od tehnik, ki se jih boste naučili v tem modulu, ne bo nadomestila diagnoze kvalificiranega zdravnika, odobritve kompetentnega inženirja in potrjenih postopkov naprave. Umetna inteligenca ne postavlja diagnoz. Umetna inteligenca je pomočnik; Hitro bere, hitro se podpisuje, lovi vzorce. Toda če je tumor spregledan, naprava sproži lažni alarm, je odmerek napačno izračunan, odgovornost ni na strani programske opreme, temveč na zdravniku in inženirju, ki sta sprejela odločitev. Ta stavek boste videli v različnih oblikah v vsaki enoti, ker je to edina resnica v tehniki, ki zadeva varnost pacientov.
Kje umetna inteligenca ustvarja vrednost v biomedicinskem delovnem procesu?
Teden biomedicinskega inženirja ali ekipe klinične tehnologije je v grobem razdeljen na tri vrste dela: priprava podatkov (čiščenje signala, predobdelava slike, urejanje tabel, ekstrakcija dnevnika), interpretacija in analiza (odkrivanje ugotovitev, klasifikacija, napovedno modeliranje, točkovanje tveganja) ter komunikacija in dokumentacija (tehnična datoteka, poročilo o validaciji, povzetek literature, priročnik za napravo). Umetna inteligenca se dotika vseh treh področij, vendar sta njen prispevek in tveganje v vsakem drugačna.
Priprava podatkov je najvarnejše in najbolj donosno področje umetne inteligence. Odstranjevanje šuma iz surovega signala, prilagajanje velikosti slik na standardno velikost, prevajanje kliničnih opomb s prostim besedilom v strukturirana polja, poravnava nedoslednih enot – to so naloge, ki se ponavljajo, temeljijo na pravilih in jih je enostavno preveriti. Tudi če je tukaj napaka, bi trajalo nekaj minut, da se vrnete na vir (surovi podatki) in ga preverite.
Področje interpretacije in analize nosi največjo vrednost in največje tveganje. AI lahko označi sumljivo območje na sliki, zazna morebitno aritmijo v signalu; to lahko razkrije vzorec, ki ga v kliniki, ki je zasedena, morda spregledamo. Toda isti model lahko samozavestno proizvede neobstoječo ugotovitev (ta pojav imenujemo halucinacija: model predstavi neobstoječe informacije kot resnične). Na tem področju je umetna inteligenca hipoteza in orodje za določanje prednosti, ne pa tisti, ki sprejema odločitve.
AI pospeševalnik osnutkov v komunikaciji in dokumentaciji. Izdela razdelek o metodah poročila o validaciji, povzetek literature ali prvi osnutek analize tveganja v nekaj minutah. Tveganje je, da lahko izmišljeni viri in napačne številke zdrsnejo v tekoče besedilo, ne da bi jih opazili.
Disciplina validacije: pravilo treh sider
Srce tega modula je ena sama navada: ne vključiti nobenih rezultatov umetne inteligence v klinično ali inženirsko odločitev brez potrditve. Validacijo temeljimo na treh neodvisnih sidriščih.
Prvo sidro — Fiziološki red velikosti. Ali je rezultat znotraj znanega obsega človeške fiziologije? Srčni utrip v mirovanju je običajno 50-100 utripov na minuto; Če model daje 400, je artefakt ali napaka pri urejanju. Telesna temperatura odrasle osebe je v pasu 36-38 °C; 45 °C je fiziološko nezdružljiva z živimi bitji. Skupna prostornina krvi odrasle osebe je približno 5 litrov. To preverjanje traja nekaj sekund in odkrije večino napak.
Drugo sidro — Klinična verjetnost. Ali je rezultat skladen z bolnikovo klinično anamnezo in medicinsko utemeljitvijo? Če model za 25-letnega asimptomatskega bolnika predlaga "visoko zaupanje" kot napredno ugotovitev, je verjetnost predtestiranja nizka in na ta signal se gleda z dodatnim sumom. Starost, spol, zgodovina in simptomi so filter verodostojnosti, ki ga mora prestati vsaka interpretacija.
Tretje sidro — neodvisni dokazi. To je najmočnejše sidro. Referenčni standardni test, druga slikovna metoda, laboratorijska potrditev, drugo strokovno mnenje. Ugotovitev, ki jo označi umetna inteligenca, se testira glede na metodo zlatega standarda ali neodvisno oceno strokovnjaka. Klinična resnica vedno zmaga.
Trije mini kovčki: po številkah
Primer 1 – Prihranek časa pri predprocesiranju signala. Klinični inženir je ročno segmentiral in označeval artefakte v 320 posnetkih EKG za raziskovalno študijo; povprečno 7 minut na posnetek, skupaj približno 37 ur. S potekom dela predhodne obdelave, ki ga poganja umetna inteligenca, je zmanjšal označevanje prvega osnutka na 40 sekund na zapis, preostali čas pa je namenil vizualnemu pregledu. Skupni čas se je zmanjšal na približno 12 ur; kritično je bilo, da je bil prihranjeni čas porabljen za preverjanje.
Primer 2 — Ujeta halucinacija. Ko je biomedicinski inženir zahteval povzetek literature za poročilo o klinični oceni naprave, je besedilo vključevalo stavek "Yilmaz et al. 2019 so poročali o 98-odstotni občutljivosti." Takega članka ni bilo; model je izdelal atribucijo s posnemanjem resničnega vzorca. Preverjanje vira (DOI in preverjanje dnevnika) je odkrilo napako, preden je bilo poročilo podpisano.
Primer 3 – napaka enote. V pripomočku za izračun odmerka je model premaknil priporočeni volumen za 1000-krat, tako da je zamenjal koncentracijo zdravila z µg/mL namesto z mg/mL. Fiziološko preverjanje reda velikosti - "odrasla oseba dobi 2 mililitra, ne 2 litra" - je takoj razkrila napako. Ta izračun je še vedno šel v odobritev farmacevtu in zdravniku; AI je bil le vmesno nadzorno orodje.
Šibek poziv / močan poziv
Šibek poziv:
Poglejte podatke tega bolnika in navedite njegovo diagnozo.[podatki]
Močan poziv:
Vaša vloga: Ste analitik biomedicinskih podatkov (NE DIAGNOSTICIRATE). Povzemite naslednje anonimne meritve, ki temeljijo SAMO na posredovanih podatkih. - Ne postavljajte diagnoze; Navedite samo numerične ugotovitve in primerjavo običajnega obsega. - Ne dodajajte ugotovitev, vrednosti ali zgodb, ki niso v podatkih. - Prikažite podatkovno vrstico, na kateri temeljite, z oklepaji poleg vsakega opazovanja. - Na nejasno mesto vpišite "podatkov ni dovolj". - Na koncu: naredite ločen seznam 3 točk, ki jih mora potrditi zdravnik. Anonimni podatki: [meritve]
Močan poziv nalaga modelu tri stvari: vztrajanje pri viru, ne prevzemanje diagnostične avtoritete in označevanje stvari, ki jih je treba preveriti. S tem se halucinacija ne konča povsem, vendar jo naredi vidno in vlogo pravilno postavi.
Štiri kopirane predloge
1) Vzpostavitev anonimiziranega konteksta:
Rad bi pomoč pri biomedicinski misiji. Ime pacienta, identiteta, datum in podatki o ustanovi so ZAUPNI; Podal jih bom z reprezentativnimi izrazi, kot sta "Pacient-A", "Dan-0". Naloga: [naloga]. Samo zanesite se na anonimne tehnične podatke, ki jih posredujem.
2) Tri zahteve za preverjanje sidra:
Trikrat preverite naslednje rezultate: 1) Fiziološki vrstni red velikosti: ali je vsako število znotraj človeškega obsega? Če ne, označite.2) Klinična verodostojnost: ali obstajajo trditve, ki niso v skladu s starostjo/zgodovino/simptomom?3) Seznam za preverjanje: elemente, ki jih mora potrditi neodvisno testiranje/strokovnjak. Rezultat: [besedilo]
3) Uveljavljanje dvoumnosti:
Podajte svojo razlago na treh stopnjah zaupanja: - Visoko zaupanje (neposredno podprto s podatki) - Srednje zaupanje (razumno sklepanje) - Špekulativno (potrebni so dodatni podatki/testiranje) Naloga: [naloga]. Podatki: [anonimni podatki]
4) Razlika med odločitvijo in podporo:
Naslednjo nalogo razdelite na dvoje: A) Delo s podatki/osnutki, ki ga AI lahko opravi z zaupanjem B) Točke odločanja, za katere je OBVEZNA odobritev pooblaščenega zdravnika/inženirja Opis naloge: [definicija]
Vloga umetne inteligence: tveganje glede na vrsto misije
Vrsta naloge
Prispevek AI
Stopnja tveganja
Gostota preverjanja
Predobdelava signala/slike
visoka
nizka
pregled na kraju samem
Iskanje predhodne oznake
visoka
srednje
Strokovnost + razumnost
Točkovanje napovedi/tveganja
srednje
visoka
Kalibracija + neodvisna
Odločitev o diagnozi/zdravljenju
omejeno
zelo visoko
Popolna odobritev zdravnika
Osnutek poročila/literature
visoka
srednje
potrditev vira
Odločitev o varnosti naprave
omejeno
zelo visoko
Standard + V&V + odobritev
Nasvet: Če želite določiti stopnjo tveganja naloge, postavite eno vprašanje: "Kaj se zgodi s pacientom, če je ta izhod nepravilen?" Če je odgovor "izgubil bom nekaj minut", rahlo preverite; Če bi se "pacient lahko poškodoval", obravnavajte rezultat kot hipotezo in ga poženite skozi celoten klinični/inženirski proces.
Pozor: Najnevarnejša lastnost umetne inteligence ni, da dela napake, ampak da dela napake samozavestno in v medicinskem jeziku. Tekoče, tehnično in strokovno besedilo še ne pomeni, da je pravilno. Zaupajte dokazom, ne slogu.
Pogoste napake
- Tekočnost zamenjuje za natančnost. Ne glede na to, kako medicinsko je besedilo videti, je treba dejanske trditve (vrednost, najdbo, vir, odmerek) neodvisno preveriti.
- Nerazporejanje tveganja glede na vrsto naloge. Gledanje računa odmerka na enak način kot osnutek e-pošte. Validacija je prilagojena potencialni škodi za bolnika.
- Vnašanje podatkov o bolniku brez razmišljanja. Podatek o zdravstvenem stanju je poseben osebni podatek; anonimizirati pred vstopom v nekontrolirano vozilo.
- Dajanje diagnostičnega pooblastila AI. AI ne diagnosticira; ustvarja hipoteze. Odločitve o diagnozi in zdravljenju so v pristojnosti zdravnika.
- Ignoriranje negotovosti. Samo zato, ker je model videti "samozavesten", ne pomeni, da negotovost izgine; Vprašajte za stopnjo in obseg zaupanja.
Če povzamem
- Biomedicinske meritve so posredne in hrupne; Umetna inteligenca jih lahko tako pospeši kot skrije njihove napake.
- Umetna inteligenca je najvarnejša in najdonosnejša pri pripravi podatkov, najbolj dragocena, a najbolj tvegana pri interpretaciji/analizi in pospeševalnik pri dokumentiranju.
- Vsak izid je potrjen s tremi sidri: fiziološkim redom velikosti, klinično verjetnostjo, neodvisnimi dokazi.
- Tveganje za izid je enako škodi, ki jo bo povzročil bolniku, če bo nepravilen; ustrezno validacijske lestvice.
- AI ne diagnosticira; Vsaka odločitev glede varnosti pacientov je sprejeta s soglasjem pooblaščenega zdravnika in inženirja.
Aplikacijska naloga
Naštejte pet biomedicinskih nalog, ki jih opravite v enem tednu iz lastnega dela (npr. čiščenje signala, iskanje pred letom, razdelek poročila, opomba o tveganju, testiranje naprave). Vsako postavite na stopnjo tveganja glede na tabelo v tej enoti in vprašajte "kaj se zgodi s pacientom, če je narobe?" Odgovorite na vprašanje z enim stavkom. Nato napišite močan, anonimiziran poziv za nalogo z najmanjšim tveganjem in jo poskusite; Preverite izhod s tremi sidri in zabeležite, katero sidro je zajelo težavo.
kontrolni seznam
- [ ] Znam razlikovati, kje umetna inteligenca ustvarja varno in kje tvegano vrednost v biomedicinskem delovnem procesu.
- [ ] Pridobil sem refleks za preverjanje vsakega izida s fiziološko velikostjo, klinično verjetnostjo in neodvisnimi dokazi.
- [ ] Stopnja tveganja naloge "kaj se zgodi s pacientom, če gre narobe?" Lahko določim z vprašanjem.
- [ ] Vem, kaj sta halucinacija in negotovost in kako ju narediti vidno.
- [ ] Ponotranjil sem, da umetna inteligenca ne diagnosticira in da je odločitev o diagnozi/zdravljenju odvisna od zdravnika.