Keuntungan:
- Keupayaan untuk menentukan sebab keputusan diagnosis, rawatan dan ubat tidak boleh diwakilkan kepada kecerdasan buatan dan peranan kelulusan doktor yang kompeten
- Keupayaan untuk menggunakan kecerdasan buatan dalam bidang ini hanya sebagai alat pra-penyaringan, senarai semak dan komunikasi dalam had selamat
- Keupayaan untuk melaksanakan cara menutup pengesyoran AI kritikal keselamatan dengan protokol agensi, penilaian klinikal dan kelulusan yang cekap
Salah satu kemahiran profesional jururawat yang paling penting ialah mengetahui sama ada keputusan adalah dalam bidang kuasanya atau pakar perubatan/pakar. Had ini bukan hanya birokrasi, ia adalah asas keselamatan pesakit. Pada zaman kecerdasan buatan, sempadan ini menjadi lebih penting: kecerdasan buatan bercakap dengan lancar dan yakin sehinggakan seseorang itu boleh terjerumus ke dalam perangkap memikirkan ia adalah pakar. Dalam unit ini, anda akan mengetahui mengapa keputusan kritikal keselamatan tidak boleh diserahkan kepada kecerdasan buatan, peranan kelulusan doktor/pakar yang kompeten dan cara menggunakan kecerdasan buatan dalam had selamat dalam bidang ini. Prinsip tidak berubah: Diagnosis, rawatan, ubat dan keputusan klinikal kritikal keselamatan memerlukan kelulusan doktor/pakar yang cekap; Output AI tidak menggantikan kelulusan ini.
Apakah keputusan kritikal keselamatan?
Keputusan kritikal keselamatan ialah keputusan yang, jika tidak betul, boleh menyebabkan kemudaratan yang serius dan tidak dapat dipulihkan kepada pesakit atau membahayakan nyawanya. Dalam konteks kejururawatan, ini biasanya dalam bidang kuasa doktor: membuat diagnosis, memulakan atau menukar rawatan, memesan ubat dan dos, keputusan mengenai pembedahan, keputusan mengenai pelepasan. Jururawat juga mempunyai pertimbangan kritikal keselamatannya sendiri: menyedari bahawa pesakit semakin merosot, mengiktiraf situasi yang memerlukan campur tangan segera. Keputusan ini disuap oleh data, tetapi orang mempunyai kata putus.
Kecerdasan buatan tidak boleh mempunyai kata putus dalam mana-mana keputusan ini. Sebabnya mudah: kecerdasan buatan tidak melihat pesakit, tidak bertanggungjawab, tidak bertanggungjawab dan boleh berhalusinasi. Meninggalkan diagnosis, dos atau keputusan kepada AI adalah memindahkan tanggungjawab kepada pihak yang tidak boleh bertanggungjawab — ini tidak boleh diterima dari segi etika dan undang-undang.
Perhatian: Tidak kira betapa meyakinkan kecerdasan buatan menerangkan sesuatu keputusan, ini tidak bermakna keputusan itu betul atau berwibawa. Kefasihan bukanlah kepakaran. Setiap keputusan kritikal keselamatan ditutup dengan penilaian dan kelulusan doktor/pakar yang kompeten.
Peranan selamat kecerdasan buatan
AI tidak dikecualikan sepenuhnya daripada domain kritikal keselamatan; tetapi peranannya sangat terhad. Peranan yang selamat ialah:
- Pra-imbasan: Mengingatkan perkara yang perlu dipertimbangkan dalam jisim maklumat.
- Senarai semak: Membuat langkah yang boleh dilihat yang boleh dilangkau.
- Alat komunikasi: Mengatur pelaporan kepada doktor dan komunikasi pesakit.
- Organisasi maklumat: Meletakkan data yang tersebar ke dalam bentuk yang boleh difahami.
Tiada satu pun daripada peranan ini membuat keputusan; Kesemuanya menyediakan dan memudahkan keputusan manusia. Bahayanya ialah menjadikan peranan sokongan ini sebagai peranan "membuat keputusan".
tiga kes mini
Kes 1 — Sempadan yang betul. Seorang jururawat meminta AI mengeluarkan laporan SBAR untuk pesakit yang semakin teruk, kemudian menghubungi doktor. Doktor membuat keputusan rawatan. Kecerdasan buatan telah mempercepatkan komunikasi; Keputusan tetap pada doktor. Sempadan telah dilukis dengan betul.
Kes 2 — Pusing ganti berbahaya. Seorang jururawat bertanya kepada kecerdasan buatan "apakah diagnosis dan apakah rawatan dengan gejala ini?" dan cuba untuk melaksanakan cadangan tanpa berunding dengan doktor. Jururawat pertuduhan campur tangan: diagnosis dan rawatan adalah keputusan doktor. Pengajaran: Cadangan AI tidak menggantikan pesanan.
Kes 3 — Sahkan penutupan. Seorang jururawat melihat kemungkinan interaksi ubat yang dipamerkan AI. Dia membawa ini kepada ahli farmasi dan doktor bukan sebagai "keputusan" tetapi sebagai "soalan". Pakar menilai dan membuat keputusan. Kecerdasan buatan menarik perhatian, orang ramai membuat keputusan, dan proses itu ditutup dengan kelulusan yang cekap.
Langkah demi langkah: matikan pengesyoran AI yang kritikal keselamatan
- Anggap cadangan sebagai soalan, bukan keputusan. "AI menandakan ini" adalah permulaan.
- Tentukan bidang kuasa anda. Adakah ini keputusan jururawat atau doktor/pakar?
- Uji dengan sumber dan protokol. Adakah cadangan itu sesuai dengan pengetahuan semasa?
- Bawa kepada pakar yang cekap. Biarkan doktor/ahli farmasi/pakar menilai.
- Catatkan keputusan dan alasannya. Tutup dengan kelulusan yang cekap.
- Kekalkan AI dalam peranan persediaan sahaja.
Empat templat yang boleh disalin
Tugas: Tandai senarai PRE-SCAN kemungkinan risiko yang memerlukan perhatian dalam penemuan (tanpa nama) berikut. Membuat diagnosis, mengesyorkan rawatan; Berikan setiap item nota "mesti dirujuk kepada penilaian doktor". Penemuan: [...]
Tugas: Susun maklumat yang saya perlu sampaikan kepada doktor untuk situasi pesakit ini dalam format SBAR. Membuat keputusan atau perintah; cuma sediakan komunikasi. Situasi: [...]
Tugas: Ingatkan saya sebagai senarai semak langkah keselamatan yang mungkin terlepas semasa proses pengambilan ubat/keputusan ini. Keputusan terpulang kepada saya dan pakar yang berwibawa; Anda hanya mengingatkan saya tentang langkah-langkah. Proses: [...]
Tugasan: Klasifikasikan cadangan kecerdasan buatan berikut dari perspektif jururawat: adakah keputusan ini dalam kuasa jururawat, adakah ia memerlukan kelulusan doktor/pakar? Untuk setiap item, tulis bidang kuasa dan mengapa ia perlu mendapatkan kelulusan. Cadangan: [...]
Gesaan lemah / Gesaan kuat
Lemah: "Rawatan manakah yang harus saya mulakan pada pesakit ini?"
Güçlü: "Tandakan titik perhatian yang perlu saya sampaikan kepada doktor dalam penemuan tanpa nama berikut sebagai senarai pra-pemeriksaan dan berikan setiap daripada mereka nota 'memerlukan penilaian doktor'. Jangan buat diagnosis, jangan cadangkan rawatan. Matlamat saya adalah untuk bersedia untuk pertemuan dengan doktor; doktor akan membuat keputusan."
Dalam segera yang berkuasa, kecerdasan buatan disimpan dalam peranan persediaan; Keputusan itu jelas diserahkan kepada doktor.
Kesilapan biasa
- Tersalah kefasihan untuk kepakaran. Nada yakin AI bukanlah autoriti atau ketepatan.
- Menggantikan cadangan ke dalam susunan. Diagnosis, rawatan dan dos adalah di bawah kuasa doktor.
- Bidang kuasa yang mengelirukan. Mengetahui keputusan yang mana adalah keselamatan pesakit.
- Melangkau langkah pengesahan. Keputusan kritikal keselamatan ditutup dengan pengesahan yang cekap.
- Beralih peranan sokongan kepada peranan keputusan. Pra-penyaringan bukan keputusan.
Mandat jururawat sendiri: advokasi
Prinsip persetujuan yang kompeten tidak menjadikan jururawat sebagai pengamal yang pasif. Sebaliknya, peranan profesional terkuat jururawat ialah advokasi pesakit: berhenti dan menyoal, dan membantah jika perlu, apabila perintah atau keputusan nampaknya memudaratkan pesakit. Sebagai contoh, jika dos kelihatan luar biasa tinggi, jururawat tidak memberikannya secara membuta tuli kerana ia diberitahu untuk "mentadbir ini"; Dia bertanya kepada doktor dan meminta pengesahan. Ini adalah kuasa dan tanggungjawab jururawat. AI boleh menyokong advokasi ini: ia boleh menyaring dan menarik perhatian jururawat kepada aspek pesanan yang kelihatan luar biasa. Tetapi jururawat menunjukkan keputusan dan keberanian untuk menyoal.
Di sini AI memainkan dua peranan yang menarik: dalam satu pihak, ia boleh mengingatkan jururawat tentang risiko yang mungkin dia terlepas, tetapi sebaliknya, ia tidak sepatutnya menggantikan gerak hati klinikal jururawat itu sendiri. Keseimbangan paling sihat adalah menggunakan AI sebagai mata kedua yang mengesahkan atau mencabar gerak hati anda, tetapi meninggalkan keputusan akhir kepada pertimbangan anda sendiri dan kelulusan pakar yang cekap.
Perangkap bias automasi
Bias automasi ialah kecenderungan orang untuk mempercayai output mesin atau perisian lebih daripada pertimbangan mereka sendiri. Dalam penjagaan kesihatan, ini berbahaya: seorang jururawat mungkin tergoda untuk mengikuti cadangan AI yang muncul pada skrin, walaupun pemerhatiannya sendiri memberitahunya sebaliknya. Penawar kepada perangkap ini adalah meletakkan AI sebagai "pembantu" dan bukannya "pihak berkuasa." Apabila AI mencadangkan sesuatu, seseorang mesti secara refleks bertanya, "Nah, adakah ini sesuai dengan pesakit ini, adakah ia bercanggah dengan apa yang saya lihat?" Apabila pemerhatian klinikal anda sendiri bercanggah dengan AI, bergantung pada pemerhatian anda secara lalai dan nilaikan situasi dengan pakar yang kompeten. Hanya kerana mesin yakin tidak bermakna anda tidak betul. Keraguan sedar ini adalah tabiat profesional yang paling penting dalam penggunaan AI yang selamat.
Petua: Untuk menentukan dengan cepat sama ada keputusan itu "penting terhadap keselamatan," tanya diri anda: "Adakah pesakit akan mengalami kecederaan yang tidak dapat dipulihkan jika ini salah?" Jika jawapannya "ya" atau "mungkin", keputusan itu berada dalam zon merah dan memerlukan kelulusan pakar yang cekap; AI hanya persediaan di sana. Soalan mudah ini adalah kompas yang cepat dan boleh dipercayai dalam amalan harian. Kompas kedua ialah: "Jika saya terpaksa mempertahankan keputusan ini, apakah justifikasi saya?" Jika justifikasi anda ialah "AI mencadangkan ini", hentikan; Justifikasi anda hendaklah sentiasa protokol institusi, perintah, bukti atau penilaian klinikal. Kedua-dua soalan ini adalah cara paling praktikal untuk melukis sempadan dengan betul.
Secara ringkasnya
Keputusan kritikal keselamatan—diagnosa, rawatan, ubat, pelepasan, penilaian kemerosotan—apabila tidak betul, menyebabkan kemudaratan yang tidak dapat dipulihkan dan memerlukan kelulusan doktor/pakar yang kompeten. Kecerdasan buatan tidak boleh membuat keputusan muktamad dalam keputusan ini kerana ia tidak melihat pesakit, tidak bertanggungjawab dan mungkin berhalusinasi. Peranan selamat AI ialah pra-penyaringan, penyenaraian semak, komunikasi dan organisasi maklumat. Mengubah peranan bantu kepada peranan keputusan adalah kesilapan yang paling berbahaya; Setiap cadangan kritikal keselamatan ditutup dengan kelulusan yang cekap.
Tugasan permohonan
Pilih contoh keputusan kritikal keselamatan daripada amalan anda sendiri (cth., perubahan dos ubat, penilaian kemerosotan). Reka aliran di mana anda menggunakan AI hanya dalam peranan persediaan dalam proses ini: di mana langkah pra-penyaringan, pada apa langkah komunikasi, pada apa langkah kelulusan kompeten. Tulis dalam perenggan mengapa kecerdasan buatan tidak boleh membuat keputusan dan siapa yang mendapat kelulusan.
senarai semak
- [ ] Saya telah menentukan bidang kuasa keputusan itu.
- [ ] Saya mengambil cadangan kecerdasan buatan sebagai soalan, bukan keputusan.
- [ ] Saya menguji cadangan dengan sumber dan protokol.
- [ ] Saya menyampaikan keputusan kritikal keselamatan kepada doktor/pakar yang cekap.
- [ ] Saya mengekalkan AI dalam peranan persediaan sahaja.
- [ ] Saya merekodkan keputusan dan justifikasinya.
- [ ] Saya tidak jatuh ke dalam perangkap salah mengira kefasihan sebagai kepakaran.