Dobici:
- Sposobnost definiranja zašto se odluke o dijagnozi, liječenju i lijekovima ne mogu prenijeti na umjetnu inteligenciju i ulogu odobrenja nadležnog liječnika
- Sposobnost korištenja umjetne inteligencije u ovom području samo kao alata za pretprovjeru, popis za provjeru i komunikaciju unutar sigurnih granica
- Sposobnost implementacije kako zatvoriti preporuku umjetne inteligencije kritičnu za sigurnost s protokolom agencije, kliničkom procjenom i nadležnim odobrenjem
Jedna od najvažnijih profesionalnih vještina medicinske sestre je znati je li odluka u njegovoj ili njezinoj nadležnosti ili u nadležnosti liječnika/specijalista. Ta granica nije samo birokracija, ona je osnova sigurnosti pacijenata. U doba umjetne inteligencije ova granica postaje još važnija: umjetna inteligencija govori tako tečno i samopouzdano da netko može upasti u zamku misleći da je stručnjak. U ovoj ćete jedinici naučiti zašto se sigurnosne odluke ne mogu prenijeti na umjetnu inteligenciju, ulogu ovlaštenog liječnika/stručnog odobrenja i kako koristiti umjetnu inteligenciju unutar sigurnih granica u ovom području. Nepromjenjivo načelo: dijagnoza, liječenje, lijekovi i sigurnosno kritične kliničke odluke zahtijevaju odobrenje nadležnog liječnika/specijalista; AI izlaz ne zamjenjuje ovo odobrenje.
Što je sigurnosno kritična odluka?
Sigurnosno kritična odluka je ona koja, ako je pogrešna, može prouzročiti ozbiljnu, nepovratnu štetu pacijentu ili ugroziti njegov život. U kontekstu sestrinstva, to je obično u djelokrugu liječnika: postavljanje dijagnoze, početak ili promjena liječenja, naručivanje lijekova i doziranja, odluka o operaciji, odluka o otpustu. Medicinska sestra također ima svoja sigurnosna kritična razmatranja: primijetiti da se stanje pacijenta pogoršava, prepoznati situaciju koja zahtijeva hitnu intervenciju. Ove se odluke temelje na podacima, ali ljudi imaju posljednju riječ.
Umjetna inteligencija ne može imati konačnu riječ ni u jednoj od ovih odluka. Razlog je jednostavan: umjetna inteligencija ne vidi pacijenta, ne preuzima odgovornost, nije uračunljiva i može halucinirati. Prepuštanje dijagnoze, doze ili odluke AI-ju znači prebacivanje odgovornosti na stranu koja ne može preuzeti odgovornost - to je i etički i zakonski neprihvatljivo.
Pažnja: koliko god umjetna inteligencija uvjerljivo obrazložila odluku, to ne znači da je točna ili mjerodavna. Tečnost nije stručnost. Svaka sigurnosno kritična odluka završava se procjenom i odobrenjem nadležnog liječnika/stručnjaka.
Sigurna uloga umjetne inteligencije
Umjetna inteligencija nije potpuno isključena iz sigurnosno kritične domene; ali je njegova uloga strogo ograničena. Sigurne uloge su:
- Prethodno skeniranje: Podsjećanje na točke koje treba uzeti u obzir u masi informacija.
- Kontrolni popis: Izrada vidljivih koraka koji se mogu preskočiti.
- Komunikacijski alat: Organiziranje komunikacije s liječnikom i pacijentom.
- Organizacija informacija: stavljanje disperziranih podataka u razumljiv oblik.
Nijedna od ovih uloga ne donosi odluke; Svi oni pripremaju i olakšavaju čovjekovu odluku. Opasnost je pretvoriti ovu sporednu ulogu u ulogu "odlučivanja".
tri mini kućišta
Slučaj 1 — Ispravna granica. Medicinska sestra traži od umjetne inteligencije da izda SBAR izvješće za pacijenta kojem se stanje pogoršava, a zatim poziva liječnika. Odluku o liječenju donosi liječnik. Umjetna inteligencija je ubrzala komunikaciju; Odluka je ostala na liječniku. Granica je ispravno nacrtana.
Slučaj 2 — Opasan promet. Medicinska sestra pita umjetnu inteligenciju "kakva dijagnoza i kakav tretman s ovim simptomima?" i pokušava provesti sugestiju bez savjetovanja s liječnikom. Glavna medicinska sestra intervenira: dijagnoza i liječenje su odluka liječnika. Lekcija: AI-jev prijedlog ne zamjenjuje red.
Slučaj 3 — Potvrdite zatvaranje. Medicinska sestra primjećuje moguću interakciju s lijekovima koju AI unaprijed provjerava. On to donosi farmaceutu i liječniku ne kao "odluku", već kao "pitanje". Stručnjaci procjenjuju i donose odluku. Umjetna inteligencija je privukla pozornost, ljudi su donijeli odluku, a proces je zaključen uz nadležno odobrenje.
Korak po korak: isključite preporuku umjetne inteligencije kritičnu za sigurnost
- Tretirajte prijedlog kao pitanje, a ne kao odluku. "AI je ovo označio" je početak.
- Odredite svoju nadležnost. Je li to odluka medicinske sestre ili liječnika/specijalista?
- Testirajte s izvorom i protokolom. Odgovara li preporuka trenutnom znanju?
- Odnesite ga nadležnom stručnjaku. Dopustite liječniku/farmaceutu/stručnjaku da to ocijeni.
- Zabilježite odluku i njezino obrazloženje. Zatvoriti uz nadležno odobrenje.
- Zadržite AI samo u pripremnoj ulozi.
Četiri predloška za kopiranje
Zadatak: Označite PRE-SCAN listu mogućih rizika na koje treba obratiti pozornost u sljedećim (anonimnim) nalazima. Postavljanje dijagnoze, preporuka liječenja; Svakoj stavci dajte napomenu "mora se uputiti na liječničku procjenu". Nalazi: [...]
Zadatak: Organizirajte informacije koje trebam prenijeti liječniku za ovu situaciju pacijenta u SBAR formatu. Donošenje odluka ili naloga; samo pripremite komunikaciju. Situacija: [...]
Zadatak: Podsjeti me kao kontrolni popis sigurnosnih koraka koji se mogu propustiti tijekom ovog postupka lijeka/odlučivanja. Odluka je na meni i nadležnom stručnjaku; Samo me podsjećaš na korake. Proces: [...]
Zadatak: Klasificirajte sljedeći prijedlog umjetne inteligencije iz perspektive medicinske sestre: je li ova odluka u nadležnosti medicinske sestre, zahtijeva li odobrenje liječnika/specijalista? Za svaku stavku napišite područje nadležnosti i zašto treba ići na odobrenje. Prijedlog: [...]
Slab upit / Jak upit
Slab: "Koje liječenje trebam započeti na ovom pacijentu?"
Güçlü: "Označite točke pažnje koje trebam prenijeti liječniku u sljedećim anonimnim nalazima kao popis prije pregleda i svakom od njih dajte napomenu 'zahtijeva liječničku procjenu'. Nemojte postavljati dijagnozu, nemojte preporučivati liječenje. Moj cilj je pripremiti se za sastanak s liječnikom; liječnik će donijeti odluku."
U snažnom promptu, umjetna inteligencija je zadržana u pripremnoj ulozi; Odluka je očito prepuštena liječniku.
Uobičajene greške
- Miješajući tečnost sa stručnošću. Samouvjereni ton umjetne inteligencije nije autoritet ili točnost.
- Zamjena prijedloga u redoslijed. Dijagnoza, liječenje i doziranje su u nadležnosti liječnika.
- Zbunjujuća nadležnost. Znati koja je čija odluka je sigurnost pacijenata.
- Preskakanje koraka potvrde. Sigurnosno kritična odluka završava kompetentnom potvrdom.
- Prebacivanje sporedne uloge u ulogu odlučivanja. Prethodni pregled nije odluka.
Vlastiti mandat medicinske sestre: zagovaranje
Načelo kompetentnog pristanka ne pretvara medicinsku sestru u pasivnog praktičara. Naprotiv, najjača profesionalna uloga medicinske sestre je zastupanje pacijenata: zaustaviti se i ispitati, i prigovoriti ako je potrebno, kada se čini da bi naredba ili odluka mogla naštetiti pacijentu. Na primjer, ako se doza čini neuobičajeno visokom, medicinska sestra je ne primjenjuje slijepo jer joj je rečeno da "primjeni ovo"; Pita liječnika i traži potvrdu. To je i ovlaštenje i odgovornost medicinske sestre. AI može podržati ovo zagovaranje: može unaprijed pregledati i privući pozornost medicinske sestre na aspekte naloga koji se čine neobičnim. Ali medicinska sestra pokazuje odluku i hrabrost za ispitivanje.
Ovdje umjetna inteligencija igra zanimljivu dvostruku ulogu: s jedne strane, može podsjetiti medicinsku sestru na rizik koji bi ona mogla propustiti, ali s druge strane, ne bi trebala zamijeniti vlastitu kliničku intuiciju medicinske sestre. Najzdravija ravnoteža je koristiti AI kao drugo oko koje potvrđuje ili dovodi u pitanje vašu intuiciju, ali ostavlja konačnu riječ vlastitoj prosudbi i odobrenju kompetentnog stručnjaka.
Zamka automatske pristranosti
Pristranost automatizacije je sklonost ljudi da više vjeruju izlazu stroja ili softvera nego vlastitoj prosudbi. U zdravstvu je to opasno: medicinska sestra može biti u iskušenju slijediti preporuku umjetne inteligencije koja se pojavljuje na ekranu, čak i ako joj vlastito zapažanje govori suprotno. Protuotrov za ovu zamku je pozicioniranje umjetne inteligencije kao "pomoćnika", a ne kao "autoriteta". Kada AI nešto sugerira, čovjek se mora refleksno zapitati: "Pa, odgovara li ovo ovom pacijentu, proturječi li onome što vidim?" Kada je vaše vlastito kliničko opažanje u sukobu s umjetnom inteligencijom, prema zadanim postavkama oslonite se na svoje opažanje i procijenite situaciju s kompetentnim stručnjakom. Samo zato što je stroj samopouzdan ne znači da vi niste u pravu. Ova svjesna sumnja je najvažnija profesionalna navika sigurne upotrebe umjetne inteligencije.
Savjet: kako biste brzo utvrdili je li odluka "kritična za sigurnost", zapitajte se: "Bi li pacijent pretrpio nepopravljivu štetu da je to pogrešno?" Ako je odgovor "da" ili "možda", ta je odluka u crvenoj zoni i zahtijeva odobrenje nadležnih stručnjaka; AI je tu samo priprema. Ovo jednostavno pitanje brz je i pouzdan kompas u svakodnevnoj praksi. Drugi kompas je: "Kad bih morao braniti ovu odluku, koje bi bilo moje opravdanje?" Ako je vaše jedino opravdanje "AI je to predložio", prestanite; Vaše bi opravdanje uvijek trebalo biti institucionalni protokol, nalog, dokaz ili klinička procjena. Ova su dva pitanja najpraktičniji način za ispravno crtanje granice.
Ukratko
Odluke ključne za sigurnost - dijagnoza, liječenje, lijekovi, otpust, procjena pogoršanja - kada su netočne, uzrokuju nepopravljivu štetu i zahtijevaju odobrenje nadležnog liječnika/specijalista. Umjetna inteligencija ne može imati konačnu riječ u tim odlukama jer ne vidi pacijenta, ne preuzima odgovornost i može halucinirati. Sigurna uloga umjetne inteligencije je prethodni pregled, popis za provjeru, komunikacija i organizacija informacija. Pretvaranje pomoćne uloge u ulogu odlučivanja najopasnija je pogreška; Svaki prijedlog kritičan za sigurnost zatvara se nadležnim odobrenjem.
Zadatak aplikacije
Odaberite primjer odluke kritične za sigurnost iz vlastite prakse (npr. promjena doze lijeka, procjena pogoršanja). Osmislite tok u kojem AI koristite samo u pripremnoj ulozi u ovom procesu: u kojem koraku pretprovjera, u kojem koraku komunikacija, u kojem koraku nadležno odobrenje. U odlomku napiši zašto umjetna inteligencija ne može donijeti odluku i tko ima odobrenje.
popis za provjeru
- [ ] Odredio sam nadležnost odluke.
- [ ] Prijedlog umjetne inteligencije shvatio sam kao pitanje, a ne kao odluku.
- [ ] Testirao sam prijedlog s izvorom i protokolom.
- [ ] Odluku kritičnu za sigurnost prenio sam nadležnom liječniku/specijalistu.
- [ ] Zadržao sam AI samo u pripremnoj ulozi.
- [ ] Zabilježio sam odluku i njezino obrazloženje.
- [ ] Nisam upao u zamku miješanja tečnosti sa stručnošću.