Keuntungan:
- Kemampuan untuk menjelaskan mengapa keputusan diagnosis, pengobatan, dan pengobatan tidak dapat didelegasikan kepada kecerdasan buatan dan peran persetujuan dokter yang kompeten
- Kemampuan untuk menggunakan kecerdasan buatan di bidang ini hanya sebagai pra-penyaringan, daftar periksa, dan alat komunikasi dalam batas aman
- Kemampuan untuk menerapkan cara menyelesaikan rekomendasi AI yang kritis terhadap keselamatan dengan protokol lembaga, evaluasi klinis, dan persetujuan yang kompeten
Salah satu keterampilan profesional perawat yang paling penting adalah mengetahui apakah suatu keputusan berada dalam yurisdiksinya atau berada di tangan dokter/spesialis. Batasan ini bukan sekedar birokrasi, namun menjadi dasar keselamatan pasien. Di era kecerdasan buatan, batasan ini menjadi semakin penting: kecerdasan buatan berbicara dengan sangat lancar dan percaya diri sehingga seseorang dapat terjebak dalam pemikiran bahwa ia adalah ahlinya. Dalam unit ini, Anda akan mempelajari mengapa keputusan penting tentang keselamatan tidak dapat didelegasikan kepada kecerdasan buatan, peran persetujuan dokter/ahli yang kompeten, dan cara menggunakan kecerdasan buatan dalam batas aman di bidang ini. Prinsip yang tidak dapat diubah: Diagnosis, pengobatan, pengobatan, dan keputusan klinis yang penting bagi keselamatan memerlukan persetujuan dokter/spesialis yang kompeten; Keluaran AI tidak menggantikan persetujuan ini.
Apa yang dimaksud dengan keputusan yang penting bagi keamanan?
Keputusan yang kritis terhadap keselamatan adalah keputusan yang, jika salah, dapat menyebabkan kerugian serius dan tidak dapat diperbaiki lagi pada pasien atau membahayakan nyawanya. Dalam konteks keperawatan, hal ini biasanya berada dalam lingkup dokter: membuat diagnosis, memulai atau mengubah pengobatan, memesan obat dan dosis, keputusan untuk pembedahan, keputusan untuk pulang. Perawat juga mempunyai pertimbangan keselamatannya sendiri yang penting: memperhatikan kondisi pasien yang memburuk, mengenali situasi yang memerlukan intervensi segera. Keputusan-keputusan ini ditentukan oleh data, namun keputusan akhir diambil oleh masyarakat.
Kecerdasan buatan tidak dapat mengambil keputusan akhir dalam keputusan apa pun. Alasannya sederhana: kecerdasan buatan tidak melihat pasien, tidak bertanggung jawab, tidak dapat dipertanggungjawabkan, dan dapat berhalusinasi. Menyerahkan diagnosis, dosis, atau keputusan kepada AI berarti mengalihkan tanggung jawab kepada pihak yang tidak dapat mengambil tanggung jawab — hal ini tidak dapat diterima secara etika dan hukum.
Perhatian: Tidak peduli seberapa meyakinkan kecerdasan buatan menjelaskan suatu keputusan, ini tidak berarti bahwa keputusan tersebut benar atau berwibawa. Kefasihan bukanlah keahlian. Setiap keputusan penting mengenai keselamatan ditutup dengan evaluasi dan persetujuan dari dokter/ahli yang kompeten.
Peran aman dari kecerdasan buatan
AI tidak sepenuhnya dikecualikan dari domain keamanan penting; namun perannya sangat terbatas. Peran aman adalah:
- Pra-pemindaian: Mengingatkan poin-poin yang perlu diperhatikan dalam sejumlah informasi.
- Daftar Periksa: Membuat langkah-langkah terlihat yang dapat dilewati.
- Alat komunikasi : Menyelenggarakan pelaporan komunikasi antara dokter dan pasien.
- Organisasi informasi: Menempatkan data yang tersebar ke dalam bentuk yang dapat dimengerti.
Tak satu pun dari peran ini yang mengambil keputusan; Semuanya mempersiapkan dan memfasilitasi keputusan manusia. Bahayanya adalah mengubah peran pendukung ini menjadi peran “pengambil keputusan”.
tiga kasus mini
Kasus 1 — Batas yang benar. Seorang perawat meminta AI untuk mengeluarkan laporan SBAR untuk pasien yang kondisinya memburuk, lalu memanggil dokter. Dokter membuat keputusan pengobatan. Kecerdasan buatan telah mempercepat komunikasi; Keputusan tetap ada pada dokter. Perbatasan digambar dengan benar.
Kasus 2 — Perputaran yang berbahaya. Seorang perawat bertanya kepada kecerdasan buatan "diagnosis apa dan pengobatan apa untuk gejala-gejala ini?" dan mencoba menerapkan saran tersebut tanpa berkonsultasi dengan dokter. Perawat yang bertanggung jawab melakukan intervensi: diagnosis dan pengobatan adalah keputusan dokter. Pelajaran: Saran AI tidak menggantikan ketertiban.
Kasus 3 — Konfirmasi penutupan. Seorang perawat memperhatikan kemungkinan interaksi obat yang disaring oleh AI. Dia menyampaikan hal ini kepada apoteker dan dokter bukan sebagai "keputusan" tetapi sebagai "pertanyaan". Para ahli mengevaluasi dan mengambil keputusan. Kecerdasan buatan menarik perhatian, masyarakat mengambil keputusan, dan prosesnya ditutup dengan persetujuan yang kompeten.
Langkah demi langkah: nonaktifkan rekomendasi AI yang penting bagi keamanan
- Perlakukan saran tersebut sebagai pertanyaan, bukan keputusan. “AI menandai ini” adalah sebuah permulaan.
- Tentukan yurisdiksi Anda. Apakah keputusan ini merupakan keputusan perawat atau dokter/spesialis?
- Uji dengan sumber dan protokol. Apakah rekomendasi tersebut sesuai dengan pengetahuan saat ini?
- Bawalah ke spesialis yang kompeten. Biarkan dokter/apoteker/ahli yang menilai.
- Catat keputusan dan alasannya. Tutup dengan persetujuan yang kompeten.
- Biarkan AI hanya berperan sebagai persiapan saja.
Empat templat yang dapat disalin
Tugas: Menandai daftar PRA-SCAN mengenai kemungkinan risiko yang memerlukan perhatian pada temuan (anonim) berikut. Membuat diagnosis, merekomendasikan pengobatan; Berikan setiap item catatan “harus dirujuk ke evaluasi dokter”. Temuan: [...]
Tugas: Mengatur informasi yang perlu saya sampaikan kepada dokter untuk situasi pasien ini dalam format SBAR. Membuat keputusan atau perintah; siapkan saja komunikasinya. Situasi: [...]
Tugas: Ingatkan saya sebagai daftar langkah keselamatan yang mungkin terlewatkan selama proses pengobatan/pengambilan keputusan ini. Keputusan ada di tangan saya dan ahli yang berwenang; Anda cukup mengingatkan saya pada langkah-langkahnya. Proses: [...]
Tugas: Klasifikasikan saran kecerdasan buatan berikut dari sudut pandang perawat: apakah keputusan ini berada dalam kewenangan perawat, apakah memerlukan persetujuan dokter/spesialis? Untuk setiap item, tuliskan wilayah kewenangannya dan mengapa perlu mendapat persetujuan. Saran: [...]
Perintah lemah / Perintah kuat
Lemah: “Perawatan apa yang harus saya mulai pada pasien ini?”
Güçlü: "Tandai poin-poin perhatian yang perlu saya sampaikan kepada dokter dalam temuan anonim berikut sebagai daftar pra-skrining dan beri masing-masing catatan 'memerlukan evaluasi dokter'. Jangan membuat diagnosis, jangan merekomendasikan pengobatan. Tujuan saya adalah mempersiapkan pertemuan dengan dokter; dokter akan membuat keputusan."
Dalam prompt yang kuat, kecerdasan buatan ditempatkan pada peran persiapan; Keputusan jelas diserahkan kepada dokter.
Kesalahan umum
- Salah mengira kefasihan sebagai keahlian. Nada percaya diri AI bukanlah otoritas atau akurasi.
- Mengganti saran ke dalam pesanan. Diagnosis, pengobatan dan dosis berada di bawah wewenang dokter.
- Yurisdiksi yang membingungkan. Mengetahui keputusan mana yang merupakan keselamatan pasien.
- Melewatkan langkah konfirmasi. Keputusan keamanan-kritis ditutup dengan konfirmasi yang kompeten.
- Menggeser peran pendukung ke peran pengambilan keputusan. Pra-penyaringan bukanlah suatu keputusan.
Mandat perawat sendiri: advokasi
Prinsip persetujuan kompeten tidak mengubah perawat menjadi praktisi yang pasif. Sebaliknya, peran profesional perawat yang paling kuat adalah dalam memberikan advokasi kepada pasien: berhenti dan mempertanyakan, dan mengajukan keberatan jika perlu, ketika suatu perintah atau keputusan tampaknya akan merugikan pasien. Misalnya, jika suatu dosis tampak luar biasa tinggi, perawat tidak akan memberikannya secara membabi buta karena diminta untuk "memberikannya"; Dia bertanya kepada dokter dan meminta konfirmasi. Ini adalah wewenang dan tanggung jawab perawat. AI dapat mendukung advokasi ini: AI dapat menyaring dan menarik perhatian perawat ke aspek-aspek tatanan yang tampak tidak biasa. Namun perawat menunjukkan keputusan dan keberanian untuk bertanya.
Di sini AI memainkan peran ganda yang menarik: di satu sisi, AI dapat mengingatkan perawat akan risiko yang mungkin terlewatkan, namun di sisi lain, AI tidak boleh menggantikan intuisi klinis perawat itu sendiri. Keseimbangan yang paling sehat adalah dengan menggunakan AI sebagai mata kedua yang menegaskan atau menantang intuisi Anda, namun menyerahkan keputusan akhir pada penilaian Anda sendiri dan persetujuan ahli yang kompeten.
Perangkap bias otomasi
Bias otomasi adalah kecenderungan orang untuk lebih memercayai keluaran mesin atau perangkat lunak daripada penilaian mereka sendiri. Dalam layanan kesehatan, hal ini berbahaya: seorang perawat mungkin tergoda untuk mengikuti rekomendasi AI yang muncul di layar, meskipun pengamatannya sendiri menunjukkan sebaliknya. Penangkal jebakan ini adalah dengan memposisikan AI sebagai “asisten” dan bukan “otoritas”. Ketika AI menyarankan sesuatu, seseorang harus secara refleks bertanya, "Apakah ini cocok untuk pasien ini, apakah bertentangan dengan apa yang saya lihat?" Ketika observasi klinis Anda bertentangan dengan AI, andalkan observasi Anda secara default dan evaluasi situasinya dengan pakar yang kompeten. Hanya karena sebuah mesin percaya diri bukan berarti Anda tidak benar. Keraguan yang disadari ini adalah kebiasaan profesional terpenting dalam penggunaan AI yang aman.
Tip: Untuk menentukan dengan cepat apakah suatu keputusan “penting untuk keselamatan”, tanyakan pada diri Anda: “Apakah pasien akan menderita kerugian permanen jika keputusan ini salah?” Apabila jawabannya “ya” atau “mungkin”, maka keputusan tersebut berada pada zona merah dan memerlukan persetujuan ahli yang kompeten; AI hanya persiapan di sana. Pertanyaan sederhana ini adalah kompas yang cepat dan andal dalam praktik sehari-hari. Kompas kedua adalah: "Jika saya harus mempertahankan keputusan ini, apa pembenaran saya?" Jika satu-satunya pembenaran Anda adalah "AI menyarankan ini", hentikan; Pembenaran Anda harus selalu berupa protokol institusional, ketertiban, bukti atau evaluasi klinis. Kedua pertanyaan ini adalah cara paling praktis untuk menggambar perbatasan dengan benar.
Singkatnya
Keputusan yang penting bagi keselamatan—diagnosis, pengobatan, pengobatan, pemulangan, penilaian kerusakan—jika salah, akan menyebabkan kerusakan permanen dan memerlukan persetujuan dokter/spesialis yang kompeten. Kecerdasan buatan tidak dapat mengambil keputusan akhir dalam pengambilan keputusan ini karena ia tidak melihat pasien, tidak bertanggung jawab, dan mungkin berhalusinasi. Peran aman AI adalah pra-penyaringan, daftar periksa, komunikasi dan organisasi informasi. Mengubah peran pendukung menjadi peran pengambilan keputusan adalah kesalahan paling berbahaya; Setiap saran keamanan penting ditutup dengan persetujuan yang kompeten.
Tugas aplikasi
Pilih contoh keputusan yang kritis terhadap keselamatan dari praktik Anda sendiri (misalnya, perubahan dosis obat, penilaian kerusakan). Rancang alur di mana Anda menggunakan AI hanya dalam peran persiapan dalam proses ini: pada langkah pra-penyaringan yang mana, pada langkah komunikasi apa, pada langkah persetujuan yang kompeten. Tuliskan dalam paragraf mengapa kecerdasan buatan tidak dapat mengambil keputusan dan siapa yang mendapat persetujuan.
daftar periksa
- [ ] Saya telah menentukan yurisdiksi keputusan tersebut.
- [ ] Saya menganggap saran kecerdasan buatan sebagai pertanyaan, bukan keputusan.
- [ ] Saya menguji saran tersebut dengan sumber dan protokolnya.
- [ ] Saya menyampaikan keputusan penting keselamatan ini kepada dokter/spesialis yang kompeten.
- [ ] Saya menyimpan AI dalam peran persiapan saja.
- [ ] Saya mencatat keputusan tersebut dan alasannya.
- [ ] Saya tidak terjebak dalam kesalahan mengartikan kefasihan sebagai keahlian.