Pelnas:
- Gebėjimas atskirti, kur dirbtinis intelektas sukuria saugią vertę biomedicinos darbo eigoje, o už kokius sprendimus atsako gydytojas ir įgaliotasis inžinierius.
- Gebėjimas taikyti discipliną, kuri kryžmiškai patvirtina kiekvieną AI išvestį pagal fiziologinį dydį, klinikinį patikimumą ir nepriklausomus įrodymus
- Pripažinkite haliucinacijų, duomenų nutekėjimo ir pacientų saugos riziką ir ugdykite įprotį nustatyti saugius raginimus anonimizuojant kontekstą.
Biomedical engineering is a profession where the complexity of the human body and engineering's pursuit of precision intersect. An ECG signal is the electrical shadow of the heart, an MRI image is a magnetic echo of tissue, a laboratory value is a snapshot. All of these measurements are indirect, noisy, and require interpretation. Dirbtinis intelektas (AI; programinės įrangos sistemos, kurios mokosi iš didelių duomenų modelių ir sukuria tekstą / vaizdus / skaičius) gali pagreitinti šį aiškinimą, tačiau taip pat gali paslėpti savo klaidas sklandžiai kalbant. Šis įrenginys nustato du pagrindus, ant kurių bus pastatytas visas modulis: kur biomedicinos darbo eigoje AI sukuria tikrąją vertę ir kaip mes patvirtiname kiekvieną išvestį.
Nuo pat pradžių nubrėžkime absoliučią liniją: nė viena iš metodų, kurių išmoksite šiame modulyje, nepakeis kvalifikuoto gydytojo diagnozės, kompetentingo inžinieriaus patvirtinimo ir patvirtintų prietaiso procesų. Dirbtinis intelektas nediagnozuoja. Dirbtinis intelektas yra asistentas; Greitai skaito, greitai pasirašo, pagauna raštus. Bet jei nepastebėtas auglys, prietaisas duoda klaidingą aliarmą, neteisingai apskaičiuojama dozė, atsakomybė tenka ne programinei įrangai, o gydytojui ir inžinieriui, priėmusiam sprendimą. Kiekviename skyriuje matysite šį sakinį skirtingomis formomis, nes tai vienintelė inžinerijos tiesa, susijusi su pacientų sauga.
Kur dirbtinis intelektas sukuria vertę biomedicinos darbo eigoje?
Biomedicinos inžinieriaus ar klinikinių technologijų komandos savaitė apytiksliai skirstoma į tris darbo tipus: duomenų paruošimą (signalų valymas, išankstinis vaizdo apdorojimas, lentelės redagavimas, žurnalų ištraukimas), interpretavimą ir analizę (radimo aptikimas, klasifikavimas, nuspėjamasis modeliavimas, rizikos įvertinimas) ir komunikaciją bei dokumentaciją (techninė byla, patvirtinimo ataskaita, literatūros santrauka, prietaiso vadovas). AI paliečia visas tris sritis, tačiau jo indėlis ir rizika kiekvienoje skiriasi.
Duomenų paruošimas yra saugiausia ir pelningiausia dirbtinio intelekto sritis. Triukšmo pašalinimas iš neapdoroto signalo, vaizdų mastelio keitimas iki standartinio dydžio, laisvo teksto klinikinių pastabų vertimas į struktūrinius laukus, nenuoseklių vienetų sulygiavimas – tai pasikartojančios, taisyklėmis pagrįstos ir lengvai patikrinamos užduotys. Net jei čia yra klaida, grįžti prie šaltinio (neapdorotų duomenų) ir jį patikrinti prireiktų minučių.
Aiškinimo ir analizės sritis turi didžiausią vertę ir didžiausią riziką. AI gali pažymėti įtartiną vietą vaizde, aptikti signale galimą aritmiją; tai gali atskleisti modelį, kuris gali būti nepastebėtas užimtoje klinikoje. Tačiau tas pats modelis gali užtikrintai pateikti neegzistuojantį radinį (šis reiškinys vadinamas haliucinacija: modelis pateikia neegzistuojančią informaciją kaip tikrą). Šioje srityje AI yra hipotezė ir prioritetų nustatymo įrankis, o ne sprendimų priėmėjas.
AI juodraščio greitintuvas komunikacijoje ir dokumentacijoje. Per kelias minutes sukuria patvirtinimo ataskaitos metodų skyrių, literatūros santrauką arba pirmąjį rizikos analizės juodraštį. Rizika yra ta, kad sugalvoti šaltiniai ir neteisingi skaičiai gali nepastebėti įslysti į sklandų tekstą.
Patvirtinimo disciplina: trijų inkarų taisyklė
Šio modulio esmė yra vienas įprotis: neįtraukti jokios AI išvesties į klinikinį ar inžinerinį sprendimą jo nepatvirtinus. Patvirtinimą pagrindžiame trimis nepriklausomais inkarais.
Pirmasis inkaras – fiziologinė tvarka. Ar rezultatas atitinka žinomą žmogaus fiziologijos diapazoną? Širdies susitraukimų dažnis ramybės būsenoje paprastai yra 50–100 dūžių per minutę; Jei modelis pateikia 400, yra artefaktas arba redagavimo klaida. Suaugusiojo kūno temperatūra yra 36-38 °C diapazone; 45 °C fiziologiškai nesuderinama su gyvais daiktais. Bendras suaugusio žmogaus kraujo tūris yra maždaug 5 litrai. Šis patikrinimas užtrunka sekundes ir nustato daugumą klaidų.
Antrasis inkaras – klinikinis patikimumas. Ar rezultatai atitinka paciento klinikinę istoriją ir medicininį pagrindimą? Jei modelis siūlo „didelį pasitikėjimą“ 25 metų besimptomiam pacientui, išankstinio patikrinimo tikimybė yra maža ir į šį signalą žiūrima itin įtariai. Amžius, lytis, istorija ir simptomai yra patikimumo filtras, kurį turi praeiti kiekviena interpretacija.
Trečias inkaras – nepriklausomi įrodymai. Tai yra stipriausias inkaras. Etaloninis standartinis testas, antrasis vaizdavimo metodas, laboratorinis patvirtinimas, antroji eksperto nuomonė. AI pažymėtas radinys patikrinamas pagal aukso standarto metodą arba nepriklausomą eksperto įvertinimą. Klinikinė tiesa visada laimi.
Trys mini dėklai: pagal numerius
1 atvejis – sutaupoma laiko apdorojant signalą. Klinikinis inžinierius tiriamajam tyrimui rankiniu būdu segmentavo ir pažymėjo artefaktus 320 EKG įrašų; vidutiniškai 7 minutes vienam įrašui, iš viso maždaug 37 val. Naudodamas AI valdomą išankstinio apdorojimo darbo eigą, jis sumažino pirmojo juodraščio žymėjimą iki 40 sekundžių vienam įrašui, likusį laiką skirdamas vizualiniam patikrinimui. Bendras laikas sumažėjo iki maždaug 12 valandų; what was critical was that the time saved was spent on verification.
2 atvejis – užfiksuota haliucinacija. Kai biomedicinos inžinierius paprašė prietaiso klinikinio įvertinimo ataskaitos literatūros santraukos, tekste buvo sakinys „Yilmaz ir kt., 2019 m. pranešė apie 98 % jautrumą“. Tokio straipsnio nebuvo; modelis priskyrimą sukūrė imituodamas tikrą modelį. Šaltinio patikrinimas (DOI ir žurnalo patikra) užfiksavo klaidą prieš pasirašant ataskaitą.
3 atvejis – įrenginio klaida. Dozės skaičiavimo priemonėje modelis rekomenduojamą tūrį pakeitė 1000 kartų, supainiodamas vaisto koncentraciją su µg/mL, o ne mg/mL. The physiological order of magnitude check—“an adult is given 2 milliliters, not 2 liters”—immediately revealed the error. This calculation still went to the pharmacist and physician for approval; AI buvo tik tarpinė valdymo priemonė.
Silpnas raginimas / stiprus raginimas
Silpnas raginimas:
Look at this patient's data and state his diagnosis.[data]
Galingas raginimas:
Your role: You are a biomedical data analyst (YOU DO NOT DIAGNOSE). Summarize the following anonymous measurements based ONLY on the data provided. - Nediagnozuok; Give only numerical findings and normal range comparison. - Do not add any findings, values or stories that are not in the data. - Show the data line you are based on with parentheses next to each observation. - Write "data insufficient" in the unclear place. - At the end: make a separate list of 3 points that the physician must confirm. Anoniminiai duomenys: [išmatavimai]
Galingas raginimas modeliui primeta tris dalykus: laikytis šaltinio, neprisiimti diagnostikos įgaliojimų ir pažymėti dalykus, kuriuos reikia patikrinti. Tai visiškai nesibaigia haliucinacijomis, bet padaro ją matomą ir teisingai nustato vaidmenį.
Keturi kopijuojami šablonai
1) Anoniminio konteksto nustatymas:
Norėčiau pagalbos atliekant biomedicininę misiją. Paciento vardas, pavardė, tapatybė, data ir įstaigos informacija yra KONFIDENCIA; Pateiksiu juos su reprezentatyviais posakiais, tokiais kaip „Pacientas-A“, „Diena-0“. Quest: [quest]. Tiesiog pasikliaukite mano pateiktais anoniminiais techniniais duomenimis.
2) Trys prierašo patvirtinimo užklausos:
Tris kartus patikrinkite šią išvestį: 1) Fiziologinė dydžio tvarka: ar kiekvienas skaičius yra žmogaus diapazone? Jei ne, pažymėkite.2) Klinikinis patikimumas: ar yra teiginių, nesuderinamų su amžiumi / istorija / simptomais?3) Patikrinimo sąrašas: elementai turi būti patvirtinti nepriklausomu tyrimu / ekspertu. Išvestis: [tekstas]
3) Neaiškumo užtikrinimas:
Pateikite savo interpretaciją trimis patikimumo lygiais: - Didelis patikimumas (tiesiogiai pagrįstas duomenimis) - Vidutinis patikimumas (pagrįsta išvada) - Spekuliatyvus (reikalingi papildomi duomenys / bandymas) Užduotis: [užduotis]. Duomenys: [anoniminiai duomenys]
4) Sprendimo / paramos skirtumas:
Padalinkite šią užduotį į dvi dalis: A) Duomenys / juodraštis darbas, kurį dirbtinis intelektas gali atlikti užtikrintai;B) sprendimo taškai, kuriems įgalioto gydytojo / inžinieriaus patvirtinimas yra PRIVALOMASUžduoties aprašymas: [apibrėžimas]
AI vaidmuo: rizika pagal misijos tipą
Užduoties tipas
AI indėlis
Rizikos lygis
Tikrinimo tankis
Išankstinis signalo/vaizdo apdorojimas
aukštas
žemas
patikra vietoje
Preliminaraus ženklinimo radimas
aukštas
vidutinis
Ekspertas + protingumas
Numatymas / rizikos įvertinimas
vidutinis
aukštas
Kalibravimas + nepriklausomas
Sprendimas dėl diagnozės/gydymo
ribotas
labai aukštas
Pilnas gydytojo patvirtinimas
Pranešimo/literatūros juodraštis
aukštas
vidutinis
šaltinio patvirtinimas
Sprendimas dėl įrenginio saugumo
ribotas
labai aukštas
Standartinis + V&V + patvirtinimas
Patarimas: norėdami nustatyti užduoties rizikos lygį, užduokite vieną klausimą: „Kas atsitiks pacientui, jei ši išvestis neteisinga? Jei atsakymas yra „prarasiu kelias minutes“, lengvai patikrinkite; Jei „pacientui gali būti padaryta žala“, vertinkite rezultatą kaip hipotezę ir atlikite visą klinikinį / inžinerinį procesą.
Dėmesio: Pavojingiausia dirbtinio intelekto savybė yra ne tai, kad jis klysta, o tai, kad jis klysta užtikrintai ir medicinine kalba. Sklandus, techninis ir profesionalus tekstas nereiškia, kad jis teisingas. Pasitikėk įrodymais, o ne stiliumi.
Dažnos klaidos
- Sklandumas klaidinamas su tikslumu. Kad ir koks medicininis tekstas atrodytų, faktiniai teiginiai (vertė, radinys, šaltinis, dozė) turi būti nepriklausomai patikrinti.
- Rizika neskaidoma pagal užduoties tipą. Žiūrėti į dozės sąskaitą taip pat, kaip į el. pašto juodraštį. Patvirtinimas vertinamas atsižvelgiant į galimą žalą pacientui.
- Paciento duomenų įvedimas negalvojant. Sveikatos duomenys yra specialūs asmens duomenys; anonimizuoti prieš įlipant į nekontroliuojamą transporto priemonę.
- AI diagnostikos įgaliojimų suteikimas. AI nediagnozuoja; generuoja hipotezes. Sprendimai dėl diagnozės ir gydymo priklauso gydytojui.
- Nepaisydamas neapibrėžtumo. Tai, kad modelis atrodo „pasitikintas“, nereiškia, kad neapibrėžtumas išnyksta; Klauskite pasitikėjimo lygio ir diapazono.
Apibendrinant
- Biomedicininiai matavimai yra netiesioginiai ir triukšmingi; Dirbtinis intelektas gali juos pagreitinti ir paslėpti klaidas.
- Dirbtinis intelektas yra saugiausias ir pelningiausias ruošiant duomenis, vertingiausias, bet rizikingiausias interpretuojant/analizuojant, o greitintuvas – dokumentuojant.
- Kiekvienas rezultatas patvirtinamas trimis inkarais: fiziologiniu mastu, klinikiniu patikimumu, nepriklausomais įrodymais.
- Rezultato rizika yra lygi žalai, kurią jis padarys pacientui, jei jis bus neteisingas; patvirtinimo skales.
- AI nediagnozuoja; Kiekvienas sprendimas dėl paciento saugumo priimamas gavus įgalioto gydytojo ir inžinieriaus pritarimą.
Taikymo užduotis
Išvardykite penkias biomedicinines užduotis, kurias atliekate per savaitę iš savo darbo (pvz., signalo išvalymas, išankstinis skrydžio radimas, ataskaitos skyrius, rizikos anotacija, prietaiso testavimas). Padėkite kiekvieną rizikos lygiu pagal šio skyriaus lentelę ir paklauskite „kas atsitiks pacientui, jei jis neteisingas? Atsakykite į klausimą vienu sakiniu. Tada parašykite stiprų, anoniminį raginimą į mažiausios rizikos užduotį ir išbandykite; Patikrinkite išvestį naudodami tris inkarus ir pažymėkite, kuris inkaras užfiksavo problemą.
kontrolinis sąrašas
- [ ] Galiu atskirti, kur dirbtinis intelektas sukuria saugią, o kur rizikingą vertę biomedicinos darbo eigoje.
- [ ] Aš įgijau refleksą patikrinti kiekvieną rezultatą fiziologiniu mastu, klinikiniu patikimumu ir nepriklausomais įrodymais.
- [ ] Užduoties rizikos lygis "kas atsitiks pacientui, jei ji nepavyks?" Aš galiu nustatyti pagal klausimą.
- [ ] Žinau, kas yra haliucinacijos ir netikrumas ir kaip juos padaryti matomus.
- [ ] Aš supratau, kad dirbtinis intelektas diagnozės nenustato, o sprendimą dėl diagnozės / gydymo sprendžia gydytojas.