Įvadas į dirbtinį intelektą medicinoje: ribos, patvirtinimas, atsakomybė ir etika

Pelnas:

• Galimybė atskirti, kur dirbtinis intelektas sutaupo realų laiką klinikinėje darbo eigoje, o kur atsakomybė už diagnozę ir gydymą turėtų likti kompetentingam gydytojui, atsižvelgiant į rizikos lygį
• Gebėjimas įgyvendinti daugiasluoksnę patvirtinimo discipliną, kuri tikrina kiekvieną AI išvestį pagal dabartines rekomendacijas, klinikinį tyrimą ir nepriklausomus šaltinius
• Gebėjimas įgyti įprotį anonimizuoti kontekstą, laikytis KVKK ir pasirinkti privatumui saugią įrankį pacientų duomenims apsaugoti.

Medicina yra ilga ir atsakinga sprendimų grandinė, kuri paverčia skundą teisinga diagnoze, o teisingą diagnozę – saugiu gydymu. Kai kurios šios grandinės nuorodos (susirašinėjimas, santrauka, juodraštis, priminimas) gali greitai tapti automatizuotos; Kai kurių niekada negalima perkelti į mašiną, nes jie tiesiogiai liečia žmogaus gyvenimą. Dirbtinis intelektas (trumpiau AI; programinė įranga, kuri mokosi modelius iš didelių duomenų kiekių ir generuoja tekstą, vaizdus ar kodą) yra labai galingas greitintuvas šioje grandinėje: išplėsti diferencinių diagnozių sąrašą, rengti epikrizės projektą, apibendrinti literatūrą, supaprastinti paciento informacinį užrašą. Tačiau AI nėra gydytojas; Netiria, neprisiima atsakomybės, paciento nepažįsta, nepasirašo. Šiame skyriuje sužinosite, kur naudoti dirbtinį intelektą klinikiniame darbe, kur stovėti ir kaip patvirtinti kiekvieną išvestį. Tikslas yra padaryti jus gydytoju, kuris kontroliuoja AI, o ne tuo, kuris yra priklausomas nuo AI.

Pagrindinis principas aiškus nuo pat pradžių: AI nediagnozuoja, nepradeda gydymo. Sprendimai dėl diagnozės ir gydymo priimami remiantis kompetentingo gydytojo apžiūra ir klinikiniu sprendimu; AI pateikia tik pasiūlymus ir juodraščius.

Ką dirbtinis intelektas gali ir ko negali padaryti medicinoje?

Tikroji AI galia yra kalbų, modelių ir variantų generavimas. Per kelias sekundes pasirodo diferencinės diagnozės priminimas, anamnezės (paciento istorijos) metmenys, epikrizės sistema, įrodymų santrauka ir paciento informacijos tekstas. Atlikdamas šias užduotis AI gali sutaupyti minučių, kartais valandų, ir priminti apie nepastebėtą galimybę.

Tai, ko dirbtinis intelektas negali padaryti, yra klinikinis sprendimas, dėl kurio reikia atsakomybės. Matyti, klausytis ir palpuoti pacientą; išvadų interpretavimas visame paciente; priimant sprendimus neapibrėžtumo sąlygomis. Dirbtinis intelektas haliucinuoja, nes mokosi iš tekstų internete ir knygose: tai yra, jis gali sukurti tai, kas atrodo tikra, bet neteisingą dozę, įsivaizduojamą kūrinį, nukreipiamąją medžiagą, kurios nėra. Medicinoje tokio tipo klaidos nėra tik rašybos klaida; Neteisingas gydymas, praleista diagnozė reiškia žalą pacientui.

Dėmesio: AI išvestis yra juodraštis, o ne ekspertų nuomonė. Be kompetentingo gydytojo patvirtinimo negalima priimti jokių saugumo požiūriu svarbių sprendimų (diagnozė, gydymas, dozė, skirstymas). AI nepakeičia šio sutikimo ir neprisiima teisinės atsakomybės.

Trys regionai pagal rizikos lygį

Praktiškiausias būdas saugiai naudoti dirbtinį intelektą yra padalinti kiekvieną užduotį į tris zonas pagal rizikos lygį. Šis skirtumas susiveda į „ar AI turėtų tai padaryti? Greitai ir tiksliai atsako į klausimus.

Regionas

Užduočių pavyzdžiai

AI vaidmuo

Patvirtinimo lygis

Žalia (maža rizika)

Susitikimo pastaba, kalbos supaprastinimas, el. pašto juodraštis, formatavimas, mokymo santrauka

nemokama gamyba

Greita apžvalga

Geltona (vidutinė rizika)

Anamnezės / epikrizės juodraštis, literatūros santrauka, paciento informacinis užrašas, diferencinės diagnostikos priminimas, kodavimo rekomendacija

Projektas + pasiūlymas

Gydytojo kontrolė + šaltinio patvirtinimas

Raudona (saugumui labai svarbi)

Galutinė diagnozė, gydymo / dozės sprendimas, skirstymas, receptas, vaizdo gavimo ataskaita

Tik išankstinis nuskaitymas / priminimas

Privalomas kompetentingo gydytojo patikrinimas ir patvirtinimas

Būkite greiti žaliojoje zonoje. Naudokite AI geltonojoje zonoje, bet patikrinkite kiekvieną medicininę informaciją ir šaltinį. Raudonojoje zonoje AI niekada neturi galutinio žodžio; Tai tik pagalbinė priemonė, kuri pagreitina gydytojo darbą.

Daugiasluoksnė tikrinimo disciplina

Tikrinimas nėra kažkas, ko reikia atidėti galvojant „patikrinsiu vėliau“; yra darbo eigos dalis. Tvirtas patikrinimas susideda iš penkių sluoksnių:

1. Grįžkite į šaltinį. Jei AI nurodė dozę, diagnostikos kriterijus ar rekomendaciją, patvirtinkite tai galiojančiose klinikinėse gairėse, pakuotės lapelyje arba pirminiame straipsnyje.
2. Išbandykite kliniškai. Palyginkite rekomendaciją su faktiniais paciento tyrimo išvadomis, laboratoriniais ir vaizdiniais. Neatitinkantis pasiūlymas atmetamas.
3. Nepriklausoma sąskaita. Perskaičiuokite skaitinį rezultatą (dozę, kreatinino klirensą, skysčio apskaičiavimą) patys arba naudodami patvirtintą įrankį.
4. Eksperto akis. Jei atitinkamas sprendimas yra kitos šakos (radiologijos, kardiologijos, patologijos) ekspertizėje, kreipkitės į tą specialistą arba patvirtinkite jį.
5. Palikite savo pėdsaką. Pažymėkite faile, kuri išvestis buvo patvirtinta ir kaip; Leiskite tai patikrinti vėliau.

Užuomina: „AI pasakė“ nėra pateisinimas. Klinikinio sprendimo priežastis visada yra apžiūra, dabartinės rekomendacijos, laboratorija / vaizdo gavimas arba kompetentingo eksperto nuomonė. Dirbtinis intelektas padeda jums parengti šiuos pagrindimus, bet jų nepakeičia.

trys mini dėklai

1 atvejis – tinkamas naudojimas taupantis laiką. Bendrosios praktikos gydytojas, rašantis 42 metų paciento, sergančio 3 dienas kosuliu ir 38,2 laipsnių Celsijaus karščiavimu, epikrizę, prašo dirbtinio intelekto juodraščio su anoniminiu kontekstu. AI per 4 minutes sukuria įprastą epikrizės skeletą; Gydytojas lygina kiekvieną eilutę su tikra byla, padaro 2 nedidelius pataisymus ir pasirašo. Bendras laikas sumažėja nuo 25 minučių iki 8 minučių. Sprendimas ir atsakomybė tenka gydytojui; AI tik pagreitino spausdinimą.

2 atvejis – užklupo haliucinacija. Gydytojas prašo dirbtinio intelekto išteklių dėl reto sindromo. AI pateikia 3 labai įtikinamus straipsnius pavadinimu „New England Journal of Medicine 2021“. Gydytojas jų ieško PubMed; 2 iš jų visai neegzistuoja, 1 rezultatas yra visiškai priešingas. AI sukūrė saugią kalbą. Jei nebūtų patvirtinimo, šie šaltiniai būtų įtraukti į rinkinį.

3 atvejis – Raudonosios zonos riba. Greitosios pagalbos skyriuje gydytojas prašo dirbtinio intelekto paspartinti paciento, kenčiančio nuo krūtinės, gydymą. AI sako „maža rizika“. Gydytojas vis tiek daro EKG ir nurodo troponiną; Troponino kiekis didelis, diagnozuojamas ūmus koronarinis sindromas. AI išvestis negali pašalinti klinikinio įtarimo; Raudonojoje zonoje sprendimas priklauso gydytojui.

Žingsnis po žingsnio: saugus dirbtinio intelekto įvedimas į užduotį

1. Padėkite užduotį regione. Žalia, geltona ar raudona?
2. Anonimizuoti kontekstą. Išvalykite identifikatorius, tokius kaip vardas, TR ID, failo numeris (KVKK).
3. Pateikite aiškią santrauką. Aiškiai parašykite klinikinį kontekstą, klausimą ir norimą formatą.
4. Apsvarstykite išvestį juodraštį. Niekada nenaudokite jo kaip galutinio sprendimo.
5. Taikykite patvirtinimo sluoksnius. Šaltinis, klinika, sąskaita, ekspertas, pėdsakai.
6. Įrašykite sprendimą ir jo motyvus.

Keturi kopijuojami šablonai

Vaidmuo: Esate klinikinio rašymo asistentas, o ne gydytojas.Užduotis: Padarykite [užduoties] JURAŽĄ.Kontekstas (anoniminis): Amžius [...], lytis [...], skundas [...], išvados [...].Taisyklė: Kiekvienai dozei / diagnozei / šaltiniui, dėl kurio nesate tikri, pažymėkite „BŪTINA PATVIRTINIMAS“.Riba: nustatykite diagnozę, inicijuokite gydymą Pateikite tik pasiūlymus ir juodraščius. Formatas: ženkleliais su priežastimis.

Užduotis: SĄRAŠYTI visus medicininius teiginius, dozavimo vertes, diagnostinius kriterijus ir šaltinio citatas toliau pateiktame tekste. Prie kiekvieno pridėkite pastabą „šaltinis turi būti patikrintas“. Nepatikrinkite patys, tiesiog pažymėkite. Tekstas: [...]

Užduotis: Klasifikuokite šią AI išvestį pagal rizikos lygį gydytojo požiūriu. Kiekvienam elementui: žalia / geltona / raudona ir pateikite vieną sakinį pagrindimą. Raudonuose punktuose parašykite „Reikalingas kvalifikuoto gydytojo patikrinimas ir patvirtinimas“. Išvestis: [...]

Užduotis: anonimizuoti toliau pateiktą paciento / atvejo tekstą. Pakeiskite identifikatorius, tokius kaip vardas, pavardė, TR ID, failo numeris, adresas, telefonas ir data [LABEL]; išlaikyti klinikinę prasmę. Tekstas: [...]

Silpnas raginimas / Stiprus raginimas

Silpnas: "Ką turi šis pacientas, kokia jo diagnozė?"

Stiprus: "Priminimui išvardykite diferencinės diagnostikos GALIMYBES anoniminiam atvejui: 55 m., vyras, 2 savaites didėjantis dusulys, kojos edema, rūkymo istorija. NEDIGNOZUOTI; surašykite, kuris tyrimas/testas skirsis kiekvienai galimybei ir pažymėkite skubias raudonas vėliavėles. Nurodykite, kad tai yra priminimas gydytojui."

Stipriame raginime kontekstas, riba ir numatomas rezultatas yra aiškūs; Aišku, kur AI stovės.

Dažnos klaidos

• AI išvestis klaidinga dėl ekspertų nuomonės. AI kuria eskizus ir pasiūlymus, o ne diagnozes.
• Saugumui svarbių sprendimų priėmimo perdavimas dirbtiniu intelektu. Diagnozė, gydymas, dozavimas, skirstymas niekada nepaliekami AI.
• Informacijos naudojimas nepatikrinus šaltinio. Kiekviena dozė, kriterijus ir nuoroda turi būti patikrinti iš esamo šaltinio.
• Tiesiogiai įkeliami paciento duomenys. Nereikėtų pamiršti anonimiškumo ir KVKK suderinamų transporto priemonių pasirinkimo.
• Nepastebėti haliucinacijų. Nors AI gali atrodyti pasitikintis savimi, jis gali būti klaidingas; Tikras teiginys nėra tiesos įrodymas.

Apibendrinant

AI yra tikras medicinos pagreitis, tačiau jis nepakeičia gydytojo. Padalinkite užduotis į žalią, geltoną ir raudoną zonas; Greitai naudokite žalią, patvirtinkite geltoną, niekada nesakykite AI galutinio žodžio dėl raudonos spalvos. Apsvarstykite kiekvieną išvestį kaip juodraštį ir atlikite penkių sluoksnių patikrinimą. Į paciento privatumą ir KVKK žiūrėkite rimtai. Atsakomybė už diagnozę ir gydymą visada tenka kompetentingam gydytojui; AI neprisiima šios atsakomybės.

Taikymo užduotis

Pasirinkite tris užduotis iš savo praktikos (pvz., epikrizės rašymas, literatūros santrauka, dozės kontrolė). Suskirstykite kiekvieną į žalią / geltoną / raudoną. Užrašykite, kokius patvirtinimo sluoksnius taikysite atliekant geltonos ir raudonos spalvos užduotis, o kam reikalingas patikrinimas/patvirtinimas atliekant raudoną užduotį. Be to, naudojamo dirbtinio intelekto įrankio privatumo politikoje raskite ir pažymėkite, ar jis naudoja duomenis treniruotėse.

kontrolinis sąrašas

• [ ] Užduotį patalpinau į rizikos zoną.
• [ ] anonimizuojau kontekstą (KVKK).
• [ ] Pateikiau aiškų, kliniškai reikšmingą santrauką.
• [ ] Išvestį traktavau kaip juodraštį.
• [ ] Patvirtinau dozę / diagnozę / šaltinius iš dabartinio šaltinio.
• [ ] Išbandžiau pasiūlymą su faktinėmis paciento klinikinėmis išvadomis.
• [ ] Saugumo požiūriu kritinį sprendimą užbaigiau kvalifikuoto gydytojo patikrinimu ir patvirtinimu.
• [ ] Patvirtinimo pėdsaką išsaugojau faile.