Kasu:
- Võimalus eristada, kus tehisintellekt biomeditsiinilises töövoos ohutut väärtust loob ja millised otsused jäävad arsti ja volitatud inseneri vastutusalasse.
- Võimalus rakendada distsipliini, mis ristvalideerib iga AI väljundit füsioloogilise suurusjärgu, kliinilise usutavuse ja sõltumatute tõenditega
- Tunnistage hallutsinatsioonide, andmelekke ja patsiendi ohutuse riske ning kujundage harjumus luua konteksti anonüümseks muutes turvalisi viipasid.
Biomeditsiiniline insener on elukutse, kus inimkeha keerukus ja inseneri püüdlused täpsuse poole ristuvad. EKG signaal on südame elektriline vari, MRI pilt on koe magnetiline kaja, laboriväärtus on hetkepilt. Kõik need mõõtmised on kaudsed, mürarikkad ja nõuavad tõlgendamist. Tehisintellekt (AI; tarkvarasüsteemid, mis õpivad suurandmete mustritest ja toodavad teksti/pilte/numbreid) võib seda tõlgendust kiirendada, kuid suudab ka oma vigu ladusa keelega varjata. See üksus paneb aluse kahele vundamendile, millele kogu moodul ehitatakse: kus biomeditsiini töövoos toodab AI tegelikku väärtust ja kuidas me iga väljundit valideerime.
Tõmbame algusest peale absoluutse joone: ükski selle mooduli jooksul õpitav tehnika ei asenda kvalifitseeritud arsti diagnoosi, pädeva inseneri heakskiitu ega valideeritud seadmeprotsesse. Tehisintellekt ei pane diagnoosi. Tehisintellekt on assistent; Loeb kiiresti, kirjutab kiiresti alla, püüab mustreid. Aga kui kasvaja jääb vahele, seade annab valehäire, doos on valesti arvutatud, siis ei vastuta tarkvara, vaid otsuse teinud arst ja insener. Seda lauset näete igas üksuses erineval kujul, sest see on ainus tõde inseneritöös, mis puudutab patsiendi ohutust.
Kus loob tehisintellekt biomeditsiini töövoos väärtust?
Biomeditsiiniinseneri või kliinilise tehnoloogia meeskonna nädal jaguneb laias laastus kolmeks töötüübiks: andmete ettevalmistamine (signaali puhastamine, pildi eeltöötlus, tabeli redigeerimine, logi eraldamine), tõlgendamine ja analüüs (leidmise tuvastamine, klassifitseerimine, ennustav modelleerimine, riskide hindamine) ning suhtlus ja dokumenteerimine (tehniline fail, valideerimisaruanne, kirjanduse kokkuvõte, seadme käsiraamat). AI puudutab kõiki kolme valdkonda, kuid selle panus ja risk on igaühes erinev.
Andmete ettevalmistamine on tehisintellekti kõige turvalisem ja tulusaim valdkond. Müra eemaldamine toorsignaalist, piltide skaleerimine standardsuurusele, vabatekstiliste kliiniliste märkmete tõlkimine struktureeritud väljadeks, ebajärjekindlate üksuste joondamine – need on korduvad, reeglipõhised ja hõlpsasti kontrollitavad ülesanded. Isegi kui siin on viga, kuluks allika juurde (toorandmed) naasmiseks ja selle kontrollimiseks minuteid.
Tõlgendamise ja analüüsi valdkond on kõrgeima väärtusega ja suurima riskiga. AI suudab pildil märkida kahtlase ala, tuvastada signaalis võimaliku arütmia; see võib paljastada mustri, mis võib kiires kliinikus kahe silma vahele jääda. Kuid sama mudel võib kindlalt anda olematu leiu (seda nähtust nimetatakse hallutsinatsiooniks: mudel esitab olematut teavet reaalsena). Selles valdkonnas on AI hüpotees ja prioriteetide seadmise tööriist, mitte otsustaja.
AI mustandite kiirendi suhtluses ja dokumentatsioonis. Koostab minutitega valideerimisaruande meetodite jaotise, kirjanduse kokkuvõtte või riskianalüüsi esimese mustandi. Siin on oht, et väljamõeldud allikad ja valed numbrid võivad märkamatult libiseda voolavasse teksti.
Valideerimise distsipliin: kolme ankru reegel
Selle mooduli keskmes on üksainus harjumus: mitte kaasata tehisintellekti väljundit kliinilisse või inseneriotsusesse ilma seda kinnitamata. Valideerimise aluseks on kolm sõltumatut ankrut.
Esimene ankur – füsioloogiline suurusjärk. Kas tulemus jääb inimese füsioloogia teadaolevasse vahemikku? Puhkeoleku pulss on tavaliselt 50–100 lööki minutis; Kui mudel annab 400, on tegemist kas artefakti või redigeerimisviga. Täiskasvanu kehatemperatuur on vahemikus 36-38 °C; 45 °C on füsioloogiliselt elusolenditega kokkusobimatu. Täiskasvanu vere kogumaht on ligikaudu 5 liitrit. See kontroll võtab sekundeid ja tuvastab enamiku vigu.
Teine ankur – kliiniline usutavus. Kas tulemus on kooskõlas patsiendi kliinilise ajaloo ja meditsiinilise põhjendusega? Kui mudel viitab 25-aastasele asümptomaatilisele patsiendile "suure usaldusväärsusega" kaugelearenenud leiule, on eeltesti tõenäosus väike ja seda signaali vaadatakse eriti kahtlustavalt. Vanus, sugu, ajalugu ja sümptomid on usutavuse filter, millest iga tõlgendus peab läbima.
Kolmas ankur – sõltumatud tõendid. See on tugevaim ankur. Võrdlusstandard test, teine pildistamismeetod, labori kinnitus, eksperdi teine arvamus. Tehisintellektiga märgistatud leidu testitakse kuldstandardi meetodi või eksperdi sõltumatu hinnangu alusel. Kliiniline tõde võidab alati.
Kolm miniümbrist: numbrite järgi
Juhtum 1 – aja kokkuhoid signaali eeltöötlusel. Kliiniline insener segmenteeris ja märgistas artefakte käsitsi uurimistöö jaoks 320 EKG-salvestises; keskmiselt 7 minutit salvestuse kohta, kokku ligikaudu 37 tundi. AI-toega eeltöötluse töövooga vähendas see esimese mustandi märgistust 40 sekundini kirje kohta, pühendades ülejäänud aja visuaalsele kontrollile. Koguaeg vähenes umbes 12 tunnini; kriitilise tähtsusega oli see, et kokkuhoitud aeg kulus kontrollimisele.
Juhtum 2 – tabatud hallutsinatsioon. Kui biomeditsiiniinsener soovis seadme kliinilise hindamise aruande jaoks kirjanduse kokkuvõtet, sisaldas tekst lauset "Yilmaz jt 2019 teatasid 98% tundlikkusest." Sellist artiklit ei olnud; modell oli atribuudi välja mõelnud tõelist mustrit jäljendades. Allika kontrollimine (DOI ja päeviku kontroll) tuvastas vea enne aruande allkirjastamist.
Juhtum 3 – üksuse viga. Annuse arvutamise abivahendis nihutas mudel soovitatavat mahtu 1000 korda, segades ravimi kontsentratsiooni mg/ml asemel µg/mL-ga. Füsioloogiline suurusjärgu kontroll – “täiskasvanule antakse 2 milliliitrit, mitte 2 liitrit” – paljastas vea kohe. See arvutus läks ikkagi apteekrile ja arstile kinnitamiseks; AI oli vaid vahepealne kontrollivahend.
Nõrk viip / Tugev viip
Nõrk viip:
Vaadake selle patsiendi andmeid ja öelge tema diagnoos.[andmed]
Võimas viip:
Teie roll: olete biomeditsiiniliste andmete analüütik (TE EI TEHA DIAGNOOSI). Tehke kokkuvõte järgmistest anonüümsetest mõõtmistest AINULT esitatud andmete põhjal. - Ära pane diagnoosi; Esitage ainult numbrilised tulemused ja normaalvahemiku võrdlus. - Ärge lisage leide, väärtusi ega lugusid, mida andmetes pole. - Näidake iga vaatluse kõrval sulgudega andmerida, mille põhjal te lähtute. - Kirjutage ebaselgesse kohta "andmed ebapiisavad". - Lõpus: koostage eraldi nimekiri 3 punktist, mida arst peab kinnitama. Anonüümsed andmed: [mõõtmised]
Võimas viip paneb mudelile peale kolm asja: allika juurde jäämine, diagnostilise autoriteedi endale mittevõtmine ja kontrollitavate asjade märkimine. See ei lõpeta hallutsinatsiooni täielikult, kuid muudab selle nähtavaks ja asetab rolli õigesti.
Neli kopeeritavat malli
1) Anonüümse konteksti loomine:
Soovin abi biomeditsiini missioonil. Patsiendi nimi, isik, kuupäev ja asutuse teave on KONFIDENTSIAALSED; Annan need esinduslike väljenditega nagu "Patsient-A", "Päev-0". Ülesanne: [ülesanne]. Toetuge lihtsalt minu anonüümsetele tehnilistele andmetele.
2) Kolm ankru kinnitamise taotlust:
Kontrollige järgmist väljundit kolm korda: 1) Füsioloogiline suurusjärk: kas iga arv jääb inimese ulatusse? Kui ei, siis märkige.2) Kliiniline usutavus: kas on väiteid, mis ei vasta vanusele/ajalugu/sümptomile?3) Kontrolliloend: üksused, mida peab kinnitama sõltumatu test/ekspert. Väljund: [tekst]
3) Ebaselguse jõustamine:
Esitage oma tõlgendus kolmel usaldustasemel: - kõrge usaldusväärsus (otseselt andmetega toetatud) - keskmine usaldus (mõistlik järeldus) - spekulatiivne (vajalik on lisaandmed/testimine) Ülesanne: [ülesanne]. Andmed: [anonüümsed andmed]
4) Otsuse/toetuse eristamine:
Jagage järgmine ülesanne kaheks:A) Andmed/mustandtööd, mida tehisintellekt võib enesekindlalt teha;B) otsustuspunktid, mille jaoks on volitatud arsti/inseneri heakskiit KOHUSTUSLIK Ülesande kirjeldus: [definitsioon]
AI roll: risk missiooni tüübi järgi
Ülesande tüüp
AI panus
Riski tase
Kontrollimise tihedus
Signaali/pildi eeltöötlus
kõrge
madal
kohapealne kontroll
Eelmärgistuse leidmine
kõrge
keskmine
Ekspert + mõistlikkus
Ennustamine/riskide hindamine
keskmine
kõrge
Kalibreerimine + sõltumatu
Diagnoosi/ravi otsus
piiratud
väga kõrge
Täielik arsti heakskiit
Aruande/kirjanduse mustand
kõrge
keskmine
allika kinnitus
Seadme turvalisuse otsus
piiratud
väga kõrge
Standard + V&V + kinnitus
Näpunäide: ülesande riskitaseme määramiseks esitage üks küsimus: "Mis juhtub patsiendiga, kui see väljund on vale?" Kui vastus on "Ma kaotan paar minutit", kontrollige kergelt; Kui "patsient võib viga saada", käsitlege väljundit hüpoteesina ja viige see läbi kogu kliinilise/tehnilise protsessi.
Tähelepanu: tehisintellekti kõige ohtlikum omadus ei ole see, et ta teeb vigu, vaid see, et ta eksib enesekindlalt ja meditsiinilises keeles. Ladus, tehniline ja professionaalne tekst ei tähenda, et see on õige. Usalda tõendeid, mitte stiili.
Levinud vead
- Segi ajab sujuvust täpsusega. Olenemata sellest, kui meditsiiniline tekst tundub, tuleks faktiväiteid (väärtus, leid, allikas, annus) sõltumatult kontrollida.
- Riski ei skaleerita ülesande tüübi järgi. Annusekonto vaatamine samamoodi nagu meili mustandit. Valideerimist hinnatakse patsiendi võimaliku kahju alusel.
- Patsiendi andmete sisestamine mõtlemata. Terviseandmed on erilised isikuandmed; anonüümseks muutma enne kontrollimatusse sõidukisse sisenemist.
- Tehisintellekti diagnostika volituste andmine. AI ei diagnoosi; loob hüpoteese. Diagnoos ja raviotsused kuuluvad arstile.
- Ebakindluse ignoreerimine. See, et mudel näeb välja "kindel", ei tähenda, et ebakindlus kaob; Küsige usaldustaset ja ulatust.
Kokkuvõttes
- Biomeditsiinilised mõõtmised on kaudsed ja mürarikkad; Tehisintellekt võib neid nii kiirendada kui ka vigu varjata.
- Tehisintellekt on andmete ettevalmistamisel kõige turvalisem ja tulutoovam, tõlgendamisel/analüüsil kõige väärtuslikum, kuid riskantsem ning dokumenteerimisel kiirendaja.
- Iga tulemust kinnitavad kolm ankrut: füsioloogiline suurusjärk, kliiniline usutavus, sõltumatud tõendid.
- Tulemuse risk on võrdne kahjuga, mida see põhjustab patsiendile, kui see on vale; valideerimisskaalad vastavalt.
- AI ei diagnoosi; Iga patsiendi ohutust puudutav otsus tehakse volitatud arsti ja inseneri nõusolekul.
Rakenduse ülesanne
Loetlege viis biomeditsiinilist ülesannet, mida teete nädala jooksul oma tööst (nt signaali puhastamine, eellennu leidmine, aruande jaotis, riskimärkimine, seadme testimine). Asetage igaüks riskitasemele vastavalt selle üksuse tabelile ja küsige "mis juhtub patsiendiga, kui see on vale?" Vastake küsimusele ühe lausega. Seejärel kirjutage madalaima riskiga ülesandele tugev anonüümne viip ja proovige seda; Kontrollige väljundit kolme ankruga ja märkige üles, milline ankur probleemi tuvastas.
kontrollnimekiri
- [ ] Ma suudan eristada, kus tehisintellekt toodab biomeditsiini töövoos ohutut ja kus riskantset väärtust.
- [ ] Olen omandanud refleksi kontrollida iga tulemust füsioloogilise ulatuse, kliinilise usutavuse ja sõltumatute tõenditega.
- [ ] Ülesande riskitase "mis juhtub patsiendiga, kui see valesti läheb?" Saan küsimusega kindlaks teha.
- [ ] Ma tean, mis on hallutsinatsioonid ja ebakindlus ning kuidas neid nähtavaks teha.
- [ ] Olen sisendanud, et tehisintellekt ei pane diagnoosi ja diagnoosi/ravi otsuse teeb arst.