Sissejuhatus tehisintellekti meditsiinis: piirid, valideerimine, vastutus ja eetika

Kasu:

• Võimalus teha vahet, kus tehisintellekt säästab kliinilises töövoos reaalaega ning kus vastutus diagnoosimise ja ravi eest peaks jääma vastavalt riskitasemele pädevale arstile
• Võimalus rakendada mitmekihilist valideerimisdistsipliini, mis testib iga AI väljundit praeguste juhiste, kliinilise läbivaatuse ja sõltumatute allikate suhtes
• Võimalus omandada konteksti anonüümseks muutmise harjumus, järgida KVKK-d ja valida patsiendiandmete kaitsmiseks privaatsusohutu tööriist.

Meditsiin on pikk ja vastutustundlik otsustusahel, mis muudab kaebuse õigeks diagnoosiks ja õige diagnoosi ohutuks raviks. Mõned selle ahela lingid (kirjavahetus, kokkuvõte, mustand, meeldetuletus) võivad kiiresti automatiseerida; Mõnda ei saa kunagi masinasse üle kanda, sest need puudutavad otseselt inimelu. Tehisintellekt (lühidalt AI; tarkvara, mis õpib suurtest andmehulkadest mustreid ja genereerib teksti, pilte või koodi) on selles ahelas väga võimas kiirendaja: diferentsiaaldiagnooside loetelu laiendamine, epikriisi koostamine, kirjanduse kokkuvõtete tegemine, patsiendi infolehe lihtsustamine. Kuid tehisintellekt ei ole arst; Ta ei uuri, ei võta vastutust, ei tunne patsienti, ei anna allkirja. Selles üksuses saate teada, kus kasutada tehisintellekti kliinilises töös, kus seista ja kuidas iga väljundit valideerida. Eesmärk on teha teist arst, kes kontrollib tehisintellekti, mitte see, kes sõltuks tehisintellektist.

Põhiprintsiip on algusest peale selge: AI ei diagnoosi ega alusta ravi. Diagnoos ja raviotsused tehakse pädeva arsti läbivaatuse ja kliinilise hinnangu alusel; AI toodab ainult soovitusi ja mustandeid.

Mida saab tehisintellekt meditsiinis teha ja mida mitte?

AI tõeline jõud seisneb keelte, mustrite ja variantide loomises. Sekunditega ilmuvad diferentsiaaldiagnoosi meeldetuletus, anamneesi (patsiendi ajaloo) ülevaade, epikriisi raamistik, tõendite kokkuvõte ja patsiendi teabe tekst. Nende ülesannete täitmisel võib AI säästa minuteid, mõnikord tunde ja meelde tuletada tähelepanuta jäetud võimalust.

Mida AI teha ei saa, on kliiniline hinnang, mis nõuab vastutust. Patsiendi nägemine, kuulamine ja palpeerimine; leidude tõlgendamine kogu patsiendi piires; otsuste langetamine ebakindluse tingimustes. AI hallutsineerib, sest ta õpib Internetis ja raamatutes leiduvatest tekstidest: see tähendab, et see võib tekitada seda, mis näib olevat tõeline, kuid vale doos, väljamõeldud teos, juhtaine, mida pole olemas. Meditsiinis pole seda tüüpi vead lihtsalt kirjaviga; Vale ravi, vastamata diagnoos tähendab patsiendile kahju.

Tähelepanu: AI väljund on mustand, mitte eksperdiarvamus. Ilma pädeva arsti nõusolekuta ei saa teha ohutuskriitilisi otsuseid (diagnoos, ravi, annus, triaaž). AI ei asenda seda nõusolekut ega jaga juriidilist vastutust.

Kolm piirkonda vastavalt riskitasemele

Kõige praktilisem viis tehisintellekti ohutuks kasutamiseks on jagada iga ülesanne riskitaseme alusel kolmeks tsooniks. See eristus taandub küsimusele "kas AI peaks seda tegema?" Vastab küsimustele kiiresti ja täpselt.

Piirkond

Näidisülesanded

AI roll

Kinnitamise tase

Roheline (madal risk)

Koosoleku märkus, keeleline lihtsustamine, meili mustand, vormindamine, koolituse kokkuvõte

tasuta tootmine

Kiire ülevaade

Kollane (keskmise riskiga)

Anamneesi/epikriisi mustand, kirjanduse kokkuvõte, patsienditeave, diferentsiaaldiagnoosi meeldetuletus, kodeerimissoovitus

Eelnõu + ettepanek

Arsti kontroll + allika kinnitus

Punane (turvalisuse seisukohalt kriitiline)

Lõplik diagnoos, ravi/annuse otsus, triaaž, retsept, pildistamisaruanne

Ainult eelskannimine/meeldetuletus

Pädeva arsti läbivaatus ja heakskiit on kohustuslik

Olge rohelises tsoonis kiire. Kasutage kollases tsoonis tehisintellekti, kuid kontrollige kõiki meditsiinilisi andmeid ja allikaid. Punases tsoonis ei ole AI-l kunagi viimast sõna; See on vaid abivahend, mis kiirendab arsti tööd.

Mitmekihiline kontrollimise distsipliin

Kontrollimist ei saa edasi lükata, mõeldes "ma vaatan hiljem"; on osa töövoost. Kindel kontroll koosneb viiest kihist:

1. Tagasi allika juurde. Kui AI on andnud annuse, diagnostilised kriteeriumid või soovituse, kinnitage see kehtivas kliinilises juhendis, pakendi infolehes või esmases artiklis.
2. Testige seda kliiniliselt. Võrrelge soovitust patsiendi tegelike uurimistulemuste, laboratoorsete ja kujutistega. Ettepanek, mis ei vasta nõuetele, lükatakse tagasi.
3. Sõltumatu konto. Arvutage arvuline tulemus (annus, kreatiniini kliirens, vedeliku arvutamine) ümber ise või valideeritud tööriistaga.
4. Asjatundlik silm. Kui vastav otsus on mõne teise haru (radioloogia, kardioloogia, patoloogia) ekspertiis, konsulteerige selle spetsialistiga või laske see heaks kiita.
5. Jäta oma jälg. Märkige failis üles, milline väljund valideeriti ja kuidas; Las see tuleb hiljem üle kontrollida.

Vihje: "AI ütles" ei ole õigustus. Kliinilise otsuse põhjenduseks on alati läbivaatus, jooksvad juhised, laboratoorium/pildistamine või pädev eksperdiarvamus. AI aitab teil neid põhjendusi ette valmistada, mitte ei asenda neid.

kolm minikarpi

Juhtum 1 – õige kasutamine, mis säästab aega. Üldarst, kes kirjutab 3-päevase köha ja 38,2-kraadise palavikuga 42-aastase patsiendi epikriisi, taotleb tehisintellektilt anonüümse kontekstiga mustandit. AI toodab korrapärase epikriisi skeleti 4 minutiga; Arst võrdleb iga rida päris failiga, teeb 2 väikest parandust ja allkirjastab. Koguaeg väheneb 25 minutilt 8 minutile. Otsus ja vastutus lasub arstil; AI on muutnud kirjutamise ainult kiiremaks.

Juhtum 2 – tabatud hallutsinatsioon. Arst nõuab harvaesineva sündroomi jaoks tehisintellekti ressursse. AI annab 3 väga veenvat artiklit pealkirjaga "New England Journal of Medicine 2021". Arst otsib neid PubMedist; 2 neist pole üldse olemas, 1 tulemus on täpselt vastupidine. AI oli loonud turvalise keele. Kui kinnitust poleks, lisataks need allikad kogumikku.

Juhtum 3 – punase tsooni piir. Kiirabis palub arst tehisintellektil kiirendada valu rinnus põdeva patsiendi triaaži. AI ütleb "madal risk". Arst teeb ikka EKG ja määrab troponiini; Troponiin on kõrge, diagnoositakse äge koronaarsündroom. AI väljund ei suuda kliinilist kahtlust kõrvaldada; Punases tsoonis kuulub otsus arstile.

Samm-sammult: tehisintellekti ohutu juurutamine ülesandesse

1. Asetage ülesanne piirkonda. Roheline, kollane või punane?
2. Konteksti anonüümseks muutmine. Tühjendage identifikaatorid, nagu nimi, TR ID, faili number (KVKK).
3. Esitage selge ülevaade. Kirjutage selgelt kliiniline kontekst, küsimus ja soovitud vorming.
4. Kaaluge väljundit mustandiks. Ärge kunagi kasutage seda lõpliku otsusena.
5. Rakendage kinnituskihte. Allikas, kliinik, konto, ekspert, jälg.
6. Pange kirja otsus ja selle põhjendus.

Neli kopeeritavat malli

Roll: Olete kliinilise kirjutamise assistent, mitte arst.Ülesanne: Koostage [ülesande] MUNAND.Kontekst (anonüümne): vanus [...], sugu [...], kaebus [...], leiud [...].Reegel: silt "VAJA on KINNITUS" iga annuse/diagnoosi/allika kohta, milles te pole kindel.Piir: määrake diagnoos, alustage ravi Andke ainult ettepanekuid ja mustandeid. Vorming: täppides koos põhjendustega.

Ülesanne: LOETELGE allolevas tekstis kõik meditsiinilised väited, annustamisväärtused, diagnostilised kriteeriumid ja allikaviited. Lisage iga jaoks märkus "allikas tuleb kinnitada". Ärge kinnitage seda ise, vaid märkige see.Tekst: [...]

Ülesanne: klassifitseerige see AI väljund vastavalt riskitasemele arsti vaatenurgast. Iga üksuse kohta: roheline / kollane / punane ja põhjendage ühe lausega. Kirjutage punastesse punktidesse "vaja on kvalifitseeritud arsti läbivaatust ja heakskiitu". Väljund: [...]

Ülesanne: muutke allolev patsiendi/juhtumi tekst anonüümseks. Asendage identifikaatorid, nagu nimi, perekonnanimi, TR-ID, failinumber, aadress, telefon ja kuupäev märgiga [LABEL]; säilitab kliinilise tähenduse. Tekst: [...]

Nõrk viip / Tugev viip

Nõrk: "Mis sellel patsiendil on, mis on tema diagnoos?"

Tugev: "Meeldetuletuseks loetlege anonüümse juhtumi diferentsiaaldiagnostika VÕIMALUSED: 55-aastane, mees, õhupuudus süveneb 2 nädalat, turse jalas, suitsetamine anamneesis. ÄRGE DIAGNOOSISE; kirjutage üles, milline uuring/test eristab iga võimaluse ja märkige kiireloomulised punased lipud. Öelge, et see otsus on meeldetuletusega arst."

Tugeva viipa puhul on kontekst, piir ja oodatav väljund selged; On selge, kus AI seisab.

Levinud vead

• Tehisintellekti väljundi eksitamine ekspertarvamusega. AI koostab visandeid ja soovitusi, mitte diagnoose.
• Ohutuskriitiliste otsuste tegemise delegeerimine tehisintellektile. Diagnoosimine, ravi, annustamine, triaaž ei ole kunagi AI hooleks jäetud.
• Teabe kasutamine ilma allikat kontrollimata. Iga doosi, kriteeriumi ja võrdlusandmeid tuleb kontrollida praegusest allikast.
• Patsiendi andmete otse laadimine. Anonüümseks muutmist ja KVKK-ga ühilduvat sõidukite valikut ei tohiks tähelepanuta jätta.
• Ei märka hallutsinatsioone. Kuigi tehisintellekt võib tunduda enesekindel, võib see olla vale; Kindel väide ei ole tõe tõend.

Kokkuvõttes

AI on meditsiinis tõeline kiirendaja, kuid see ei asenda arsti. Jaga ülesanded roheliseks, kollaseks ja punaseks tsooniks; Olge kiire rohelisega, kinnitage kollast, ärge kunagi andke tehisintellektile viimast sõna punase osas. Pidage iga väljundit mustandiks ja viige see läbi viiekihilise kontrolli. Võtke patsiendi privaatsust ja KVKK-d tõsiselt. Vastutus diagnoosimise ja ravi eest jääb alati pädevale arstile; AI ei jaga seda vastutust.

Rakenduse ülesanne

Valige oma praktikast kolm ülesannet (nt epikriisi kirjutamine, kirjanduse kokkuvõte, annuse kontroll). Klassifitseerige igaüks roheliseks/kollaseks/punaseks. Kirjutage üles, milliseid kontrollikihte te kollaste ja punaste ülesannete puhul rakendate ning mis vajab kontrollimist/kinnitamist punase ülesande puhul. Samuti otsige üles ja märkige kasutatava tehisintellekti tööriista privaatsuspoliitikasse, kas see kasutab koolitusel andmeid.

kontrollnimekiri

• [ ] Asetasin ülesande riskitsooni.
• [ ] Tegin konteksti anonüümseks (KVKK).
• [ ] Esitasin selge, kliiniliselt olulise ülevaate.
• [ ] Käsitlesin väljundit kui mustandit.
• [ ] Kinnitasin doosi/diagnoosi/allikaid praegusest allikast.
• [ ] Testisin soovitust patsiendi tegelike kliiniliste leidudega.
• [ ] Lõpetasin ohutuskriitilise otsuse kvalifitseeritud arsti läbivaatuse ja heakskiiduga.
• [ ] Salvestasin kinnitusjälje faili.