Kasu:
- Võimalus määratleda, miks diagnoosi, ravi ja ravimitega seotud otsuseid ei saa delegeerida tehisintellektile ja pädeva arsti heakskiidu rollile
- Võimalus kasutada tehisintellekti selles valdkonnas ainult eelkontrolli, kontrollnimekirja ja suhtlusvahendina ohututes piirides
- Võimalus rakendada ohutuse seisukohalt kriitilise tehisintellekti soovituse sulgemist agentuuri protokolli, kliinilise hinnangu ja pädeva heakskiiduga
Õe üks olulisemaid kutseoskusi on teadmine, kas otsus kuulub tema või arsti/spetsialisti jurisdiktsiooni alla. See piirang ei ole pelgalt bürokraatia, see on patsiendi ohutuse alus. Tehisintellekti ajastul muutub see piir veelgi olulisemaks: tehisintellekt räägib nii ladusalt ja enesekindlalt, et võib sattuda lõksu, arvates, et tegu on eksperdiga. Selles üksuses saate teada, miks ei saa ohutuse seisukohalt olulisi otsuseid tehisintellektile delegeerida, mis on pädeva arsti/eksperdi heakskiidu roll ja kuidas tehisintellekti selles valdkonnas ohututes piirides kasutada. Muutumatu põhimõte: diagnoosimine, ravi, ravimid ja ohutuse seisukohast kriitilised kliinilised otsused nõuavad pädeva arsti/spetsialisti heakskiitu; AI väljund ei asenda seda kinnitust.
Mis on turvalisuse seisukohalt kriitiline otsus?
Ohutuskriitiline otsus on otsus, mis vale korral võib põhjustada patsiendile tõsist, pöördumatut kahju või seada ohtu tema elu. Õendusabi kontekstis kuuluvad need tavaliselt arsti pädevusse: diagnoosi panemine, ravi alustamine või muutmine, ravimite ja annuste tellimine, operatsiooni otsus, väljakirjutamise otsus. Õel on ka omad ohutuskriitilised kaalutlused: patsiendi seisundi halvenemise märkamine, kohest sekkumist vajava olukorra äratundmine. Neid otsuseid toidavad andmed, kuid viimane sõna on inimestel.
Tehisintellektil ei saa olla lõplikku sõna üheski neist otsustest. Põhjus on lihtne: tehisintellekt ei näe patsienti, ei võta vastutust, ei ole vastutav ja võib hallutsineerida. Diagnoosi, annuse või otsuse jätmine tehisintellektile on vastutuse üleandmine osapoolele, kes ei saa vastutust võtta – see on nii eetiliselt kui ka juriidiliselt vastuvõetamatu.
Tähelepanu: Ükskõik kui veenvalt tehisintellekt otsust ei selgita, ei tähenda see, et see oleks õige või autoriteetne. Sujuvus ei ole asjatundlikkus. Iga ohutuse seisukohalt kriitiline otsus tehakse pädeva arsti/eksperdi hinnangu ja heakskiiduga.
Tehisintellekti ohutu roll
Tehisintellekt ei ole turbekriitilisest valdkonnast täielikult välja jäetud; kuid selle roll on rangelt piiratud. Turvalised rollid on:
- Eelskaneerimine: tuletab meelde punkte, mida tuleb teabemassis arvesse võtta.
- Kontroll-loend: teha nähtavaks sammud, mida saab vahele jätta.
- Suhtlusvahend: arstile aruandluse ja patsiendiga suhtlemise korraldamine.
- Infokorraldus: hajutatud andmete arusaadavale vormile viimine.
Ükski neist rollidest ei tee otsuseid; Kõik need valmistavad ette ja hõlbustavad inimese otsust. Oht on muuta see toetav roll "otsustavaks" rolliks.
kolm minikarpi
Juhtum 1 – õige piir. Õde palub tehisintellektil väljastada SBAR-i aruanne halvenenud patsiendi kohta ja helistab seejärel arstile. Raviotsuse teeb arst. Tehisintellekt on suhtlust kiirendanud; Otsus jäi arstile. Piir oli õigesti tõmmatud.
Juhtum 2 – Ohtlik käive. Õde küsib tehisintellektilt "milline diagnoos ja milline ravi nende sümptomitega?" ja püüab seda soovitust rakendada ilma arstiga nõu pidamata. Vastutav õde sekkub: diagnoos ja ravi on arsti otsus. Õppetund: AI soovitus ei asenda korda.
Juhtum 3 – kinnitage sulgemine. Õde märkab võimalikku ravimite koostoimet, mida tehisintellekt eelnevalt kontrollib. Ta toob selle apteekrile ja arstile mitte "otsusena", vaid kui "küsimusena". Eksperdid hindavad ja teevad otsuse. Tehisintellekt äratas tähelepanu, inimesed tegid otsuse ja protsess lõppes pädeva heakskiiduga.
Samm-sammult: lülitage välja turvalisuse seisukohalt oluline tehisintellekti soovitus
- Käsitlege ettepanekut kui küsimust, mitte otsust. "AI märkis selle ära" on algus.
- Määrake oma jurisdiktsioon. Kas see otsus on õe või arsti/spetsialisti otsus?
- Testimine allika ja protokolliga. Kas soovitus sobib praeguste teadmistega?
- Viige see pädeva spetsialisti juurde. Laske arstil/apteekril/eksperdil seda hinnata.
- Pange kirja otsus ja selle põhjendus. Sulgege pädeva nõusolekuga.
- Hoidke AI ainult ettevalmistavas rollis.
Neli kopeeritavat malli
Ülesanne: Märkige järgmistes (anonüümsetes) leidudes PRE-SCAN nimekiri võimalikest riskidest, mis vajavad tähelepanu. Diagnoosi panemine, ravi soovitamine; Tehke igale esemele märge "tuleb suunata arsti hinnangule". Leiud: [...]
Ülesanne: korraldage SBAR-vormingus teave, mida ma pean arstile selle patsiendi olukorra kohta edastama. Otsuste või korralduste tegemine; lihtsalt valmistage suhtlus ette. Olukord: [...]
Ülesanne: tuletage mulle meelde kui kontrollnimekirja ohutusmeetmetest, mis võivad selle ravi/otsustusprotsessi ajal vahele jääda. Otsus on minu ja pädeva eksperdi teha; Sa lihtsalt tuletad mulle meelde samme. Protsess: [...]
Ülesanne: Liigitage järgmine tehisintellekti soovitus õe vaatenurgast: kas see otsus on õe pädevuses, kas selleks on vaja arsti/spetsialisti nõusolekut? Kirjutage iga üksuse jaoks volituspiirkond ja miks see vajab kinnitamist. Soovitus: [...]
Nõrk viip / Tugev viip
Nõrk: "Millist ravi peaksin selle patsiendiga alustama?"
Güçlü: "Järgmistes anonüümsetes leidudes märkige tähelepanupunktid, mida ma pean arstile edastama, eelsõeluuringu nimekirjana ja lisage neile igaühele märge "vajab arsti hinnangut". Ärge pange diagnoosi, ärge soovitage ravi. Minu eesmärk on valmistuda kohtumiseks arstiga; otsuse teeb arst."
Võimsas promptis hoitakse tehisintellekti ettevalmistavas rollis; Otsus on selgelt jäetud arstile.
Levinud vead
- Ladususe ja asjatundlikkuse segi ajamine. AI enesekindel toon ei ole autoriteet ega täpsus.
- Ettepaneku asendamine tellimusse. Diagnoos, ravi ja annustamine on arsti järelevalve all.
- Segane jurisdiktsioon. Teadmine, milline otsus on kelle käes, on patsiendi ohutus.
- Kinnitusetapi vahelejätmine. Turvakriitiline otsus lõpeb pädeva kinnitusega.
- Toetava rolli nihutamine otsustusrolli. Eelsõeluuringud ei ole otsus.
Õe enda mandaat: propageerimine
Pädeva nõusoleku põhimõte ei muuda õde passiivset praktikut. Vastupidi, õe tugevaim professionaalne roll on patsiendi kaitsmise roll: peatada ja küsitleda ning vajadusel vastu vaielda, kui korraldus või otsus näib tõenäoliselt patsienti kahjustavat. Näiteks kui annus tundub ebatavaliselt suur, ei manusta õde seda pimesi, sest kästakse "manustada seda"; Ta küsib arstilt ja küsib kinnitust. See on nii õe volitused kui ka vastutus. Tehisintellekt võib seda propageerimist toetada: see saab eelnevalt läbi vaadata ja juhtida õe tähelepanu tellimuse aspektidele, mis tunduvad ebatavalised. Kuid õde näitab üles otsust ja julgust kahtluse alla seada.
Siin mängib tehisintellekt huvitavat topeltrolli: ühest küljest võib see õele meelde tuletada ohtu, millest ta võib ilma jääda, kuid teisest küljest ei tohiks see asendada õe enda kliinilist intuitsiooni. Kõige tervislikum tasakaal on kasutada tehisintellekti teise silmana, mis kinnitab või seab kahtluse alla teie intuitsiooni, kuid jätab viimase sõna teie enda hinnangule ja pädeva ekspertide heakskiidule.
Automatiseerimise kallutatuse lõks
Automatiseerimise eelarvamus on inimeste kalduvus usaldada masina või tarkvara väljundit rohkem kui enda hinnanguid. Tervishoius on see ohtlik: õel võib tekkida kiusatus järgida ekraanile ilmuvat tehisintellekti soovitust, isegi kui tema enda tähelepanekud ütlevad talle vastupidist. Selle lõksu vastumürk on asetada AI pigem "assistendiks" kui "autoriteediks". Kui AI midagi soovitab, tuleb refleksiivselt küsida: "Noh, kas see sobib sellele patsiendile, kas see on vastuolus sellega, mida ma näen?" Kui teie enda kliiniline vaatlus on tehisintellektiga vastuolus, tuginege vaikimisi oma vaatlusele ja hinnake olukorda koos pädeva eksperdiga. See, et masin on enesekindel, ei tähenda, et sul pole õigus. See teadlik kahtlus on tehisintellekti ohutu kasutamise kõige olulisem professionaalne harjumus.
Näpunäide. Et kiiresti kindlaks teha, kas otsus on "ohutuse seisukohalt kriitiline", küsige endalt: "Kas patsient saaks pöördumatut kahju, kui see oleks vale?" Kui vastus on "jah" või "võib-olla", on see otsus punases tsoonis ja nõuab pädeva eksperdi heakskiitu; AI on seal alles ettevalmistav. See lihtne küsimus on kiire ja usaldusväärne kompass igapäevases praktikas. Teine kompass on: "Kui ma peaksin seda otsust kaitsma, mis oleks minu õigustus?" Kui teie ainus põhjendus on "AI soovitas seda", lõpetage; Teie põhjendus peaks alati olema institutsiooniline protokoll, korraldus, tõendid või kliiniline hinnang. Need kaks küsimust on kõige praktilisem viis piiri õigeks tõmbamiseks.
Kokkuvõttes
Ohutuse seisukohast kriitilised otsused (diagnoos, ravi, ravimid, väljakirjutamine, seisundi halvenemise hindamine) põhjustavad ebaõigete kahjustuste korral pöördumatut kahju ja nõuavad pädeva arsti/spetsialisti heakskiitu. Tehisintellekt ei saa nende otsuste osas viimast sõna öelda, sest ta ei näe patsienti, ei võta vastutust ja võib hallutsineerida. Tehisintellekti ohutu roll on eelsõeluuringud, kontrollnimekirjad, suhtlus ja teabe korraldamine. Abirolli muutmine otsustavaks rolliks on kõige ohtlikum viga; Iga turvalisuse seisukohalt oluline soovitus suletakse pädeva heakskiiduga.
Rakenduse ülesanne
Valige oma praktikast ohutuse seisukohalt olulise otsuse näide (nt ravimiannuse muutmine, halvenemise hindamine). Looge voog, kus kasutate tehisintellekti selles protsessis ainult ettevalmistavas rollis: millises etapis eelsõelumine, millises etapis suhtlus, millises etapis pädev heakskiit. Kirjutage lõiku, miks tehisintellekt ei saa otsustada ja kellel on heakskiit.
kontrollnimekiri
- [ ] Olen määranud otsuse kohtualluvuse.
- [ ] Võtsin tehisintellekti ettepanekut kui küsimust, mitte otsust.
- [ ] Testisin soovitust allika ja protokolliga.
- [ ] Edastasin ohutuskriitilise otsuse pädevale arstile/spetsialistile.
- [ ] Pidasin tehisintellekti ainult ettevalmistavas rollis.
- [ ] Protokolisin otsuse ja selle põhjenduse.
- [ ] Ma ei langenud sellesse lõksu, et ajasin keeleoskuse ja asjatundlikkuse segi.