Ieguvumi:
- Spēja atšķirt, kur mākslīgais intelekts ietaupa reālo laiku klīniskajā darbplūsmā un kur atbildība par diagnostiku un ārstēšanu jāpaliek kompetentam ārstam atbilstoši riska līmenim
- Spēja ieviest daudzslāņu validācijas disciplīnu, kas pārbauda katru AI izvadi, salīdzinot ar pašreizējiem norādījumiem, klīnisko izmeklēšanu un neatkarīgiem avotiem
- Spēja apgūt ieradumu anonimizēt kontekstu, ievērot KVKK un izvēlēties privātumam drošu rīku pacientu datu aizsardzībai.
Medicīna ir gara un atbildīga lēmumu ķēde, kas pārvērš sūdzību par pareizu diagnozi un pareizu diagnozi drošā ārstēšanā. Dažas saites šajā ķēdē (korespondence, kopsavilkums, melnraksts, atgādinājums) var ātri kļūt automatizētas; Dažus nekad nevar pārnest uz mašīnu, jo tie tieši skar cilvēka dzīvību. Mākslīgais intelekts (īsumā AI; programmatūra, kas apgūst modeļus no liela datu apjoma un ģenerē tekstu, attēlus vai kodu) ir ļoti spēcīgs paātrinātājs šajā ķēdē: diferenciāldiagnožu saraksta paplašināšana, epikrīzes uzmetums, literatūras apkopošana, pacienta informācijas piezīmes vienkāršošana. Bet AI nav ārsts; Viņš nepārbauda, neuzņemas atbildību, nepazīst pacientu, neparakstās. Šajā nodaļā jūs uzzināsiet, kur izmantot AI klīniskajā darbā, kur nostāties un kā apstiprināt katru rezultātu. Mērķis ir padarīt jūs par ārstu, kurš kontrolē AI, nevis tādu, kurš ir atkarīgs no AI.
Galvenais princips ir skaidrs jau no paša sākuma: AI nenosaka diagnozi, neuzsāk ārstēšanu. Lēmumus par diagnozi un ārstēšanu pieņem, pamatojoties uz kompetenta ārsta pārbaudi un klīnisko vērtējumu; AI veido tikai ieteikumus un melnrakstus.
Ko mākslīgais intelekts var un ko nevar darīt medicīnā?
AI patiesais spēks ir valodu, modeļu un variantu ģenerēšanā. Sekunžu laikā parādās diferenciāldiagnozes atgādinājums, anamnēzes (pacienta vēstures) izklāsts, epikrīzes ietvars, pierādījumu kopsavilkums un pacienta informācijas teksts. Veicot šos uzdevumus, mākslīgais intelekts var ietaupīt minūtes, dažreiz stundas un atgādināt par nepamanītu iespēju.
Tas, ko mākslīgais intelekts nevar darīt, ir klīnisks vērtējums, kas prasa atbildību. Pacienta redzēšana, klausīšanās un palpēšana; atklājumu interpretācija visa pacienta ietvaros; lēmumu pieņemšana nenoteiktības apstākļos. AI halucinē, jo mācās no tekstiem internetā un grāmatās: tas var radīt to, kas šķiet īsts, bet nepareizu devu, iedomātu darbu, neeksistējošo virzošo vielu. Medicīnā šāda veida kļūdas nav tikai drukas kļūda; Nepareiza ārstēšana, nepareiza diagnoze nozīmē kaitējumu pacientam.
Uzmanību: AI izvade ir melnraksts, nevis eksperta atzinums. Bez kompetenta ārsta apstiprinājuma nevar pieņemt drošus lēmumus (diagnoze, ārstēšana, deva, šķirošana). AI neaizstāj šo piekrišanu un neuzņemas juridisku atbildību.
Trīs reģioni atbilstoši riska līmenim
Vispraktiskākais veids, kā droši izmantot AI, ir sadalīt katru uzdevumu trīs zonās, pamatojoties uz riska līmeni. Šī atšķirība izpaužas kā “vai AI tas jādara?” Ātri un precīzi atbild uz jautājumiem.
Reģions
Uzdevumu paraugi
AI loma
Verifikācijas līmenis
Zaļš (zems risks)
Sapulces piezīme, valodas vienkāršošana, e-pasta melnraksts, formatējums, apmācības kopsavilkums
bezmaksas ražošana
Ātra apskate
Dzeltens (vidējs risks)
Anamnēzes/epikrīzes projekts, literatūras kopsavilkums, pacienta informācijas piezīme, diferenciāldiagnozes atgādinājums, kodēšanas ieteikums
Projekts + priekšlikums
Ārsta kontrole + avota apstiprinājums
Sarkans (drošībai svarīgs)
Galīgā diagnoze, lēmums par ārstēšanu/devu, šķirošana, recepte, attēlveidošanas ziņojums
Tikai iepriekšēja skenēšana/atgādinājums
Kompetenta ārsta pārbaude un apstiprināšana ir obligāta
Esiet ātrs zaļajā zonā. Izmantojiet AI dzeltenajā zonā, taču pārbaudiet katru medicīnisko informāciju un avotu. Sarkanajā zonā mākslīgajam intelektam nekad nav gala vārda; Tas ir tikai palīglīdzeklis, kas paātrina ārsta darbu.
Daudzslāņu verifikācijas disciplīna
Pārbaude nav kaut kas tāds, kas jāatliek, domājot "vēlāk pārbaudīšu"; ir daļa no darbplūsmas. Cietā verifikācija sastāv no pieciem slāņiem:
- Atgriezties pie avota. Ja AI ir devusi devu, diagnostikas kritērijus vai ieteikumu, apstipriniet to pašreizējā klīniskajā vadlīnijā, lietošanas instrukcijā vai primārajā rakstā.
- Pārbaudiet to klīniski. Salīdziniet ieteikumu ar pacienta faktiskajiem izmeklēšanas rezultātiem, laboratorijas un attēlveidošanas rezultātiem. Priekšlikums, kas neatbilst prasībām, tiek noraidīts.
- Neatkarīgs konts. Pārrēķiniet skaitlisko rezultātu (devu, kreatinīna klīrensu, šķidruma aprēķinu) pats vai ar apstiprinātu rīku.
- Eksperta acs. Ja attiecīgais lēmums ir citas nozares (radioloģijas, kardioloģijas, patoloģijas) ekspertīzē, konsultējieties ar šo speciālistu vai apstipriniet to.
- Atstājiet savu zīmi. Atzīmējiet failā, kura izvade tika apstiprināta un kā; Ļaujiet to pārbaudīt vēlāk.
Padoms: "AI teica" nav attaisnojums. Klīniskā lēmuma pamatojums vienmēr ir pārbaude, pašreizējās vadlīnijas, laboratorija/attēlveidošana vai kompetenta eksperta atzinums. AI palīdz sagatavot šos pamatojumus, nevis tos aizstāj.
trīs mini futrāļi
1. gadījums — pareiza lietošana, kas ietaupa laiku. Ģimenes ārsts, kurš raksta epikrīzi 42 gadus vecam pacientam ar 3 dienu klepu un 38,2 grādu temperatūru pēc Celsija, pieprasa mākslīgā intelekta melnrakstu ar anonīmu kontekstu. AI 4 minūtēs rada regulāru epikrīzes skeletu; Ārsts salīdzina katru rindiņu ar īsto failu, veic 2 nelielus labojumus un paraksta to. Kopējais laiks samazinās no 25 minūtēm līdz 8 minūtēm. Lēmums un atbildība gulstas uz ārstu; AI ir tikai padarījis rakstīšanu ātrāku.
2. gadījums — noķerta halucinācija. Ārsts pieprasa AI resursus retam sindromam. AI sniedz 3 ļoti pārliecinošus rakstus ar nosaukumu “New England Journal of Medicine 2021”. Ārsts tos meklē PubMed; 2 no tiem vispār neeksistē, 1 rezultāts ir tieši pretējs. AI bija izveidojis drošu valodu. Ja apstiprinājuma nebūtu, šie avoti tiktu iekļauti apkopojumā.
3. gadījums — Sarkanās zonas robeža. Neatliekamās palīdzības nodaļā ārsts lūdz AI paātrināt pacienta ar sāpēm krūtīs šķirošanu. AI saka "zems risks". Ārsts joprojām veic EKG un pasūta troponīnu; Troponīna līmenis ir augsts, tiek diagnosticēts akūts koronārais sindroms. AI izvade nevar novērst klīniskās aizdomas; Sarkanajā zonā lēmums pieder ārstam.
Soli pa solim: droša AI ieviešana uzdevumā
- Novietojiet uzdevumu reģionā. Zaļa, dzeltena vai sarkana?
- Anonimizēt kontekstu. Notīriet identifikatorus, piemēram, vārdu, TR ID, faila numuru (KVKK).
- Sniedziet skaidru īsu izklāstu. Skaidri uzrakstiet klīnisko kontekstu, jautājumu un vēlamo formātu.
- Apsveriet izvadi kā melnrakstu. Nekad neizmantojiet to kā galīgo lēmumu.
- Lietojiet verifikācijas slāņus. Avots, klīnika, konts, eksperts, izsekot.
- Pierakstiet lēmumu un tā pamatojumu.
Četras kopējamas veidnes
Loma: Jūs esat klīniskās rakstīšanas asistents, nevis ārsts.Uzdevums: Izveidojiet [uzdevuma] UZDEVUMU.Konteksts (anonīms): Vecums [...], dzimums [...], sūdzība [...], konstatējumi [...].Noteikums: Katrai devai/diagnozei/avotam, par kuru neesat pārliecināts, atzīmējiet "NEPIECIEŠAMS APSTIPRINĀJUMS".Robeža: noteikt diagnozi, uzsākt ārstēšanu. Sniedziet tikai ieteikumus un melnrakstus. Formāts: aizzīmēs ar iemesliem.
Uzdevums: SARAKSTS tālāk esošajā tekstā visas medicīniskās prasības, devu vērtības, diagnostikas kritērijus un avotu citātus. Katrai no tām pievienojiet piezīmi "avots ir jāpārbauda". Nepārbaudiet to pats, vienkārši atzīmējiet to.Teksts: [...]
Uzdevums: klasificējiet šo AI rezultātu atbilstoši riska līmenim no ārsta viedokļa. Katram vienumam: zaļš / dzeltens / sarkans un sniedziet vienu teikuma pamatojumu. Sarkanajos punktos ierakstiet "nepieciešama kvalificēta ārsta pārbaude un apstiprinājums". Izvade: [...]
Uzdevums: anonimizē pacienta/gadījuma tekstu zemāk. Aizstāt identifikatorus, piemēram, vārdu, uzvārdu, TR ID, faila numuru, adresi, tālruni un datumu ar [LABEL]; saglabāt klīnisko nozīmi. Teksts: [...]
Vāja uzvedne / spēcīga uzvedne
Vājš: "Kas šim pacientam ir, kāda ir viņa diagnoze?"
Spēcīgi: "Atgādinājumam uzskaitiet diferenciāldiagnostikas IESPĒJAS anonīmam gadījumam: 55 gadi, vīrietis, 2 nedēļas palielinās elpas trūkums, tūska kājā, smēķēšanas anamnēze. NEDIAGNOZĒT; pierakstiet, kurš izmeklējums/pārbaude atšķirs katrai iespējai un atzīmējiet steidzamos sarkanos karogus. Norādiet, ka šis lēmums ir ar ārsta atgādinājumu."
Spēcīgajā uzvednē konteksts, robeža un sagaidāmais rezultāts ir skaidrs; Ir skaidrs, kur AI stāvēs.
Biežas kļūdas
- AI izvade tiek sajaukta ar eksperta atzinumu. AI veido skices un ieteikumus, nevis diagnozes.
- Drošībai būtisku lēmumu pieņemšanas deleģēšana AI. Diagnoze, ārstēšana, devas, šķirošana nekad netiek atstāta mākslīgā intelekta ziņā.
- Informācijas izmantošana, nepārbaudot avotu. Katra deva, kritērijs un atsauce ir jāpārbauda no pašreizējā avota.
- Pacienta datu tieša ielāde. Nevajadzētu atstāt novārtā anonimizāciju un KVKK saderīgu transportlīdzekļu izvēli.
- Nepamanot halucinācijas. Lai gan AI var šķist pārliecināts, tas var būt nepareizi; Drošs apgalvojums nav patiesības pierādījums.
Rezumējot
AI ir īsts paātrinātājs medicīnā, taču tas neaizstāj ārstu. Sadaliet uzdevumus zaļajā, dzeltenajā un sarkanajā zonā; Ātri izvēlieties zaļo krāsu, apstipriniet dzelteno krāsu, nekad nedodiet AI galīgo vārdu par sarkano. Apsveriet katru izvadi kā melnrakstu un nododiet tai piecu slāņu verifikācijai. Uztveriet pacienta privātumu un KVKK nopietni. Atbildība par diagnostiku un ārstēšanu vienmēr ir kompetentam ārstam; AI neuzņemas šo atbildību.
Lietojumprogrammas uzdevums
Izvēlieties trīs uzdevumus no savas prakses (piemēram, epikrīzes rakstīšana, literatūras kopsavilkums, devas kontrole). Klasificējiet katru kā zaļu/dzeltenu/sarkanu. Pierakstiet, kādi verifikācijas slāņi tiks piemēroti dzeltenajiem un sarkanajiem uzdevumiem un kam nepieciešama pārbaude/apstiprinājums sarkanajam uzdevumam. Tāpat atrodiet un atzīmējiet izmantotā AI rīka konfidencialitātes politikā, vai tas izmanto datus apmācībā.
kontrolsaraksts
- [ ] Es ievietoju uzdevumu riska zonā.
- [ ] Es anonīmu kontekstu (KVKK).
- [ ] Es sniedzu skaidru, klīniski nozīmīgu īsu izklāstu.
- [ ] Izvadi apstrādāju kā melnrakstu.
- [ ] Es apstiprināju devu/diagnozi/avotus no pašreizējā avota.
- [ ] Es pārbaudīju ieteikumu ar pacienta faktiskajiem klīniskajiem atklājumiem.
- [ ] Drošības ziņā kritisko lēmumu noslēdzu ar kvalificēta ārsta pārbaudi un apstiprinājumu.
- [ ] Es saglabāju verifikācijas izsekošanu failā.