Ieguvumi:
- Spēja definēt, kāpēc lēmumus par diagnozi, ārstēšanu un medikamentiem nevar deleģēt mākslīgajam intelektam un kompetenta ārsta apstiprinājuma lomai
- Iespēja izmantot mākslīgo intelektu šajā jomā tikai kā iepriekšēju pārbaudi, kontrolsarakstu un saziņas rīku drošās robežās
- Spēja īstenot, kā slēgt drošībai kritisku AI ieteikumu ar aģentūras protokolu, klīnisko novērtējumu un kompetentu apstiprinājumu
Viena no svarīgākajām medicīnas māsas profesionālajām prasmēm ir zināt, vai lēmums ir viņa vai ārsta/speciālista jurisdikcijā. Šis ierobežojums nav tikai birokrātija, tas ir pacientu drošības pamats. Mākslīgā intelekta laikmetā šī robeža kļūst vēl svarīgāka: mākslīgais intelekts runā tik raiti un pārliecinoši, ka var iekrist slazdā, domājot, ka tas ir eksperts. Šajā nodaļā jūs uzzināsit, kāpēc drošībai būtiskus lēmumus nevar deleģēt mākslīgajam intelektam, kāda ir kompetenta ārsta/eksperta apstiprinājuma loma un kā šajā jomā izmantot mākslīgo intelektu drošās robežās. Nemainīgs princips: diagnozei, ārstēšanai, medikamentiem un drošībai kritiskiem klīniskiem lēmumiem nepieciešams kompetenta ārsta/speciālista apstiprinājums; AI izvade neaizstāj šo apstiprinājumu.
Kas ir drošībai būtisks lēmums?
Drošībai būtisks lēmums ir tāds, kas, ja tas ir nepareizs, var radīt nopietnu, neatgriezenisku kaitējumu pacientam vai apdraudēt viņa dzīvību. Māsu kontekstā tie parasti ir ārsta kompetencē: diagnozes noteikšana, ārstēšanas sākšana vai maiņa, medikamentu un devu pasūtīšana, lēmums par operāciju, lēmums par izrakstīšanu. Māsai ir arī savi drošībai kritiski apsvērumi: pamanīt, ka pacientam pasliktinās, atpazīt situāciju, kurā nepieciešama tūlītēja iejaukšanās. Šos lēmumus nosaka dati, bet galīgais vārds ir cilvēkiem.
Mākslīgais intelekts nevar pieņemt galīgo vārdu nevienā no šiem lēmumiem. Iemesls ir vienkāršs: mākslīgais intelekts neredz pacientu, neuzņemas atbildību, nav atbildīgs un var izraisīt halucinācijas. Diagnozes, devas vai lēmuma atstāšana mākslīgā intelekta ziņā nozīmē atbildības nodošanu pusei, kas nevar uzņemties atbildību — tas ir gan ētiski, gan juridiski nepieņemami.
Uzmanību: lai cik pārliecinoši mākslīgais intelekts izskaidrotu lēmumu, tas nenozīmē, ka tas ir pareizs vai autoritatīvs. Brīvība nav zināšanas. Katrs drošībai būtisks lēmums tiek slēgts ar kompetenta ārsta/eksperta novērtējumu un apstiprinājumu.
Mākslīgā intelekta drošā loma
AI nav pilnībā izslēgts no drošībai kritiskās jomas; bet tā loma ir stingri ierobežota. Drošas lomas ir:
- Iepriekšēja skenēšana: atgādinājums par punktiem, kas jāņem vērā informācijas masā.
- Kontrolsaraksts: redzamas darbības, kuras var izlaist.
- Komunikācijas instruments: ziņošanas organizēšana ārstam un pacienta komunikācija.
- Informācijas organizācija: izkliedētu datu ievietošana saprotamā formā.
Neviena no šīm lomām nepieņem lēmumus; Tās visas sagatavo un atvieglo cilvēka lēmumu. Briesmas ir pārvērst šo atbalsta lomu par "lēmumu pieņemšanas" lomu.
trīs mini futrāļi
1. gadījums — pareiza robeža. Medmāsa lūdz AI izdot SBAR ziņojumu par pacienta stāvokļa pasliktināšanos, pēc tam izsauc ārstu. Lēmumu par ārstēšanu pieņem ārsts. Mākslīgais intelekts ir paātrinājis komunikāciju; Lēmums palika pie ārsta. Robeža novilkta pareizi.
2. gadījums — Bīstams apgrozījums. Medmāsa jautā mākslīgajam intelektam "kāda diagnoze un kāda ārstēšana ar šiem simptomiem?" un mēģina īstenot ieteikumu bez konsultēšanās ar ārstu. Iejaucas atbildīgā medmāsa: diagnoze un ārstēšana ir ārsta lēmums. Nodarbība: AI ieteikums neaizstāj kārtību.
3. gadījums — apstipriniet aizvēršanu. Medmāsa pamana iespējamu zāļu mijiedarbību, ko AI iepriekš pārbauda. Viņš to izvirza farmaceitam un ārstam nevis kā "lēmumu", bet gan kā "jautājumu". Eksperti novērtē un pieņem lēmumu. Mākslīgais intelekts piesaistīja uzmanību, cilvēki pieņēma lēmumu, un process noslēdzās ar kompetentu apstiprinājumu.
Soli pa solim: izslēdziet drošībai būtisko AI ieteikumu
- Uztveriet ieteikumu kā jautājumu, nevis lēmumu. “AI atzīmēja šo” ir sākums.
- Nosakiet savu jurisdikciju. Vai šis lēmums ir medmāsas vai ārsta/speciālista lēmums?
- Pārbaude ar avotu un protokolu. Vai ieteikums atbilst pašreizējām zināšanām?
- Nogādājiet to pie kompetenta speciālista. Ļaujiet ārstam/farmaceitam/ekspertam to izvērtēt.
- Pierakstiet lēmumu un tā pamatojumu. Aizvērt ar kompetentu apstiprinājumu.
- Saglabājiet AI tikai sagatavošanās lomu.
Četras kopējamas veidnes
Uzdevums: Atzīmējiet PRE-SCAN sarakstu ar iespējamiem riskiem, kuriem jāpievērš uzmanība šādos (anonīmos) atradumos. Diagnozes noteikšana, ārstēšanas ieteikšana; Katrai precei piešķiriet piezīmi "jānosūta ārsta novērtējumam". Secinājumi: [...]
Uzdevums: Sakārtojiet informāciju, kas man ir jānodod ārstam par šo pacienta situāciju SBAR formātā. Lēmumu vai rīkojumu pieņemšana; vienkārši sagatavojiet saziņu. Situācija: [...]
Uzdevums: Atgādināt man kā kontrolsarakstu par drošības pasākumiem, kas var tikt izlaisti šīs zāļu lietošanas/lēmuma pieņemšanas procesā. Lēmums ir mans un kompetenta eksperta ziņā; Tu tikai atgādini man soļus. Process: [...]
Uzdevums: Klasificējiet šādu mākslīgā intelekta ieteikumu no medmāsas viedokļa: vai šis lēmums ir māsas kompetencē, vai tam ir nepieciešams ārsta/speciālista apstiprinājums? Katram vienumam ierakstiet pilnvaru apgabalu un to, kāpēc tas ir jāapstiprina. Ieteikums: [...]
Vāja uzvedne / spēcīga uzvedne
Vāji: "Kāda ārstēšana man jāsāk šim pacientam?"
Güçlü: "Šajos anonīmajos atklājumos atzīmējiet tos uzmanības punktus, kas man ir jānorāda ārstam, kā iepriekšējas skrīninga sarakstu un katram no tiem piezīmējiet "nepieciešams ārsta novērtējums". Nenoteikt diagnozi, neiesakiet ārstēšanu. Mans mērķis ir sagatavoties tikšanās reizei ar ārstu; ārsts pieņems lēmumu."
Spēcīgajā uzvednē mākslīgais intelekts tiek turēts sagatavošanās lomā; Lēmums noteikti ir atstāts ārsta ziņā.
Biežas kļūdas
- Teicumu sajaukt ar zināšanām. Pārliecinātais AI tonis nav autoritāte vai precizitāte.
- Ieteikuma aizstāšana pasūtījumā. Diagnoze, ārstēšana un devas nosaka ārsts.
- Mulsinoša jurisdikcija. Zinot, kurš lēmums ir kam, ir pacienta drošība.
- Apstiprinājuma darbības izlaišana. Drošībai kritisks lēmums noslēdzas ar kompetentu apstiprinājumu.
- Atbalsta lomas pārcelšana uz lēmumu pieņemšanas lomu. Iepriekšēja pārbaude nav lēmums.
Medmāsas pašas pilnvaras: aizstāvība
Kompetentas piekrišanas princips nepadara medmāsu par pasīvu praktizētāju. Gluži pretēji, medmāsas spēcīgākā profesionālā loma ir pacienta interešu aizstāvība: apstāties un apšaubīt un, ja nepieciešams, iebilst, ja šķiet, ka rīkojums vai lēmums var kaitēt pacientam. Piemēram, ja šķiet, ka deva ir neparasti liela, medmāsa to akli neievada, jo viņai ir teikts, ka "ievada šo"; Viņš jautā ārstam un lūdz apstiprinājumu. Tā ir gan medmāsas autoritāte, gan atbildība. AI var atbalstīt šo aizstāvību: tas var iepriekš pārbaudīt un pievērst medmāsas uzmanību tādiem pasūtījuma aspektiem, kas šķiet neparasti. Bet medmāsa parāda lēmumu un drosmi apšaubīt.
Šeit mākslīgajam intelektam ir interesanta divējāda loma: no vienas puses, tas var atgādināt medmāsai par risku, ko viņa vai viņa var palaist garām, bet, no otras puses, tam nevajadzētu aizstāt pašas medmāsas klīnisko intuīciju. Veselīgākais līdzsvars ir izmantot AI kā otro aci, kas apstiprina vai izaicina jūsu intuīciju, bet pēdējo vārdu atstāj jūsu spriedumam un kompetenta eksperta apstiprinājumam.
Automatizācijas novirzes slazds
Automatizācijas aizspriedumi ir tendence, ka cilvēki uzticas mašīnas vai programmatūras izvadei vairāk nekā saviem spriedumiem. Veselības aprūpē tas ir bīstami: medmāsai var rasties kārdinājums ievērot AI ieteikumu, kas parādās ekrānā, pat ja viņas pašas novērojumi liecina par pretējo. Pretlīdzeklis šim slazdam ir pozicionēt AI kā “palīgu”, nevis “autoritāti”. Kad AI kaut ko iesaka, refleksīvi jājautā: "Nu, vai tas ir piemērots šim pacientam, vai tas ir pretrunā ar to, ko es redzu?" Ja jūsu klīniskais novērojums ir pretrunā ar AI, pēc noklusējuma paļaujieties uz savu novērojumu un novērtējiet situāciju kopā ar kompetento ekspertu. Tas, ka iekārta ir pārliecināta, nenozīmē, ka jums nav taisnība. Šīs apzinātās šaubas ir vissvarīgākais profesionālais ieradums drošai AI lietošanai.
Padoms. Lai ātri noteiktu, vai lēmums ir “drošībai būtisks”, uzdodiet sev jautājumu: “Vai pacients ciestu neatgriezenisku kaitējumu, ja tas būtu nepareizi?” Ja atbilde ir "jā" vai "varbūt", šis lēmums ir sarkanajā zonā un tam ir nepieciešams kompetenta eksperta apstiprinājums; AI tur tikai gatavojas. Šis vienkāršais jautājums ir ātrs un uzticams kompass ikdienas praksē. Otrs kompass ir: "Ja man būtu jāaizstāv šis lēmums, kāds būtu mans pamatojums?" Ja jūsu vienīgais pamatojums ir "AI ieteica šo", pārtrauciet; Jūsu pamatojumam vienmēr jābūt iestādes protokolam, rīkojumam, pierādījumiem vai klīniskam novērtējumam. Šie divi jautājumi ir vispraktiskākais veids, kā pareizi novilkt robežu.
Rezumējot
Drošībai kritiski lēmumi — diagnoze, ārstēšana, medikamenti, izrakstīšana, stāvokļa pasliktināšanās novērtējums — ja tie ir nepareizi, tie rada neatgriezenisku kaitējumu un prasa kompetenta ārsta/speciālista apstiprinājumu. Mākslīgais intelekts nevar pieņemt galīgo vārdu šajos lēmumos, jo tas neredz pacientu, neuzņemas atbildību un var izraisīt halucinācijas. AI drošā loma ir iepriekšēja pārbaude, kontrolsaraksts, saziņas un informācijas organizēšana. Palīglomas pārveidošana par lēmumu pieņemšanas lomu ir visbīstamākā kļūda; Katrs drošībai būtisks ieteikums tiek slēgts ar kompetentu apstiprinājumu.
Lietojumprogrammas uzdevums
Izvēlieties drošuma ziņā svarīga lēmuma piemēru no savas prakses (piemēram, zāļu devas maiņa, stāvokļa pasliktināšanās novērtējums). Izveidojiet plūsmu, kurā AI izmantojat tikai sagatavošanās lomā šajā procesā: kurā posmā iepriekšēja pārbaude, kurā posmā saziņa, kurā posmā kompetenta apstiprināšana. Rakstiet rindkopā, kāpēc mākslīgais intelekts nevar pieņemt lēmumu un kam ir piekrišana.
kontrolsaraksts
- [ ] Esmu noteicis lēmuma jurisdikciju.
- [ ] Es uztvēru mākslīgā intelekta ieteikumu kā jautājumu, nevis lēmumu.
- [ ] Es pārbaudīju ieteikumu ar avotu un protokolu.
- [ ] Drošības ziņā būtisko lēmumu nodevu kompetentam ārstam/speciālistam.
- [ ] Es turēju AI tikai sagatavošanās lomā.
- [ ] Piefiksēju lēmumu un tā pamatojumu.
- [ ] Es neiekritu slazdā, sajaucot raitumu ar pieredzi.