Keuntungan:
- Untuk dapat menjelaskan mengapa tanggung jawab diagnosis dan pengobatan tidak dapat dialihkan ke kecerdasan buatan dan kedudukan hukum dokter
- Kemampuan untuk menggunakan kecerdasan buatan sesuai dengan informed consent, transparansi dan aturan etika profesional
- Kemampuan untuk menerapkan cara menutup keputusan klinis yang didukung AI dengan bimbingan, pemeriksaan, dan persetujuan dokter yang kompeten
Ketika seorang pasien dirugikan, pertanyaan pertama yang diajukan adalah: siapa yang bertanggung jawab? Jika kecerdasan buatan (AI) membuat rekomendasi diagnostik dan keputusannya ternyata salah, apakah AI bertanggung jawab? Jawabannya jelas: Tidak. Tanggung jawab medis selalu berada di tangan dokter kompeten yang mengambil keputusan. AI itu seperti sebuah alat; seperti stetoskop atau peralatan laboratorium. Merupakan tugas dokter untuk menafsirkan keluaran alat, menerima atau menolaknya, dan membuat keputusan akhir. Dalam unit ini Anda akan mempelajari dasar hukum pertanggungjawaban, prinsip-prinsip etika profesional, transparansi dan persetujuan, serta cara menyelesaikan keputusan yang dibantu AI dengan benar.
Mengapa tanggung jawab ada pada dokter?
Kedokteran didasarkan pada "kewajiban perawatan": dokter berkewajiban memberikan perawatan yang diperlukan oleh praktik medis yang baik. Penggunaannya atas kendaraan tidak membebaskannya dari kewajiban ini; Sebaliknya, menggunakan alat dengan benar juga merupakan bagian dari kehati-hatian. Mengikuti saran AI secara membabi buta atau mengabaikan peringatan yang bermanfaat dapat merupakan pelanggaran kehati-hatian. Dokter harus mengevaluasi keluaran AI menggunakan penilaian klinisnya.
Secara hukum, AI bukanlah “subjek hukum”; tidak dapat dituntut, tidak membayar ganti rugi, dan tidak dapat dihukum. Tanggung jawab produk dari produsen merupakan masalah tersendiri, namun tanggung jawab atas hubungan medis dan keputusan dengan pasien berada di tangan dokter. “Itulah yang dikatakan AI” bukanlah pembelaan; Sebaliknya, mengandalkan keluaran AI yang tidak terverifikasi dapat memperburuk tanggung jawab.
Perhatian: Keputusan apa pun yang diambil berdasarkan keluaran AI adalah keputusan dokter sendiri. Mengikuti rekomendasi yang tidak berdasar membuat dokter bertanggung jawab secara hukum dan etika. Tidak mungkin mengalihkan tanggung jawab kepada kendaraan.
Etika profesional dan AI
Empat prinsip dasar etika kedokteran yang memandu penggunaan AI:
- Beneficence: Gunakan AI untuk meningkatkan layanan demi kepentingan pasien.
- Nonmaleficence: Mengelola risiko bahaya dari keluaran yang tidak diverifikasi; Jika ragu, pilihlah jalan yang aman.
- Otonomi: Hormati hak pasien untuk mengambil keputusan; Informasikan, dapatkan persetujuan.
- Keadilan: Pastikan bias AI tidak merugikan kelompok tertentu.
Prinsip-prinsip ini mengubah AI dari “alat kecepatan” menjadi “bagian dari praktik klinis yang bertanggung jawab.”
Transparansi dan persetujuan berdasarkan informasi
Informed consent adalah pemahaman dan penerimaan pasien terhadap prosedur yang akan dilakukan pada dirinya. Jadi haruskah pasien mengetahui bahwa AI berkontribusi terhadap keputusan mereka? Prinsip transparansi mengharuskan dokter untuk secara jujur menyatakan bahwa dia menggunakan AI sebagai bantuan dan keputusan akhir ada di tangannya. Menyembunyikan penggunaan AI dan mengaitkan keputusan sepenuhnya dengan AI adalah tindakan yang salah. Sikap yang benar: "Saya menggunakan sumber daya dan bantuan terkini ketika membuat keputusan, tetapi saya mengevaluasi dan merekomendasikan diagnosis dan pengobatan."
Petunjuk: Seorang pasien bertanya, “Apakah AI yang memutuskan?” Jawaban yang jujur dan meyakinkan adalah: "AI adalah alat untuk membantu saya; evaluasi dan keputusan akhir ada di tangan saya. Saya telah meninjau situasi Anda." Hal ini menjaga transparansi dan kepercayaan.
Langkah demi langkah: Matikan keputusan yang didukung AI
- Gunakan AI sebagai asisten. Saran, pengingat, draf.
- Evaluasi dengan penilaian klinis. Apakah rekomendasi tersebut sesuai dengan kenyataan pasien?
- Konfirmasikan dengan panduan dan sumber. Keputusan harus berdasarkan bukti.
- Konsultasikan dengan ahlinya jika diperlukan. Negara ini berada dalam kondisi kritis dan tidak menentu.
- Catat keputusan dan alasannya. Dokumentasikan kontribusi dan validasi AI.
- Bersikaplah transparan; Dapatkan persetujuan jika diperlukan.
tiga kasus mini
Kasus 1 — Batasan tanggung jawab. Seorang dokter memberikan pengobatan yang direkomendasikan oleh AI tanpa memverifikasinya, dan pasien dirugikan. Pembelaan "yang disarankan AI" tidak diterima dalam evaluasi; Ditentukan bahwa dokter tidak memenuhi kewajiban verifikasinya. Pelajaran: Keluaran AI adalah keputusan dokter sendiri.
Kasus 2 — Transparansi yang benar. Seorang pasien bertanya-tanya bagaimana diagnosisnya dibuat. Dokter menjelaskan bahwa dia menggunakan AI sebagai alat asisten, tetapi melakukan pemeriksaan, pemeriksaan, dan evaluasi sendiri. Pasien merasa percaya diri; Persetujuan yang diinformasikan dibuat dengan cara yang sehat.
Kasus 3 — Mengabaikan peringatan bermanfaat. AI mengingatkan kita pada interaksi obat yang terabaikan. Dokter mengkonfirmasi hal ini dan membuat pengobatannya aman. Di sini, mengindahkan peringatan kendaraan menjadi bagian dari perawatan demi kepentingan pasien.
Tabel kejelasan tanggung jawab
Status
siapa yang bertanggung jawab
Mengapa
Rekomendasi AI diterapkan tanpa verifikasi
dokter
Tugas perawatan dan verifikasi
Peringatan AI diabaikan dan terjadi kerusakan
dokter
Berdasarkan penilaian klinis
Keluaran AI telah diverifikasi dan keputusan yang tepat telah dibuat
Dokter (positif)
Keputusan ada di tangan dokter
Kesalahan teknis kendaraan (tanggung jawab produk terpisah)
Produsen (sebagian)
Keputusan medis tetap ada di tangan dokter
Empat templat yang dapat disalin
Tugas: Mengubah keputusan klinis yang didukung AI berikut menjadi catatan RATIONALE untuk dicatat: rekomendasi apa yang diambil, bagaimana rekomendasi tersebut diverifikasi (panduan/pemeriksa/ahli), siapa yang membuat keputusan akhir. Tambahkan kalimat “Tanggung jawab ada pada dokter”. Keputusan: [...]
Tugas: Menulis teks singkat kepada pasien yang menjelaskan secara transparan dan meyakinkan bahwa saya menggunakan alat untuk membantu dalam mengambil keputusan. Tekankan bahwa keputusan akhir ada di tangan saya; jangan terjebak dalam detail teknis. Konteks: [...]
Tugas: Ubah keputusan berikut menjadi daftar periksa dengan empat prinsip etika kedokteran (beneficence, nonmaleficence, otonomi, keadilan). Hasilkan pertanyaan kontrol untuk setiap kebijakan. Keputusan: [...]
Tugas: Dalam proses yang didukung AI ini, tandai titik mana yang memerlukan INFORMED CONSENT dan transparansi, lalu ajukan pertanyaan tentang apa yang harus diberitahukan kepada pasien untuk masing-masing titik tersebut. Proses: [...]
Perintah lemah / Perintah kuat
Lemah: "AI membuat diagnosis ini, haruskah saya menerapkannya?"
Güçlü: "Bagi saya untuk mengevaluasi diagnosis yang disarankan oleh AI ini: dengan pemeriksaan/pemeriksaan apa saya harus memastikannya, pedoman mana yang harus saya perhatikan, tanda bahaya mana yang harus saya kecualikan? Saya akan membuat keputusan; membuat draf catatan konfirmasi dan pembenaran untuk ini dan menambahkan frasa 'tanggung jawab ada pada dokter'."
Dalam konteks yang kuat, AI bukanlah pengambil keputusan; Ini adalah asisten yang mendokumentasikan dan memperkuat keputusan dokter.
Kesalahan umum
- Mencoba mengalihkan tanggung jawab ke AI. "AI berkata" bukanlah pembelaan.
- Melamar tanpa verifikasi. Akan ada pelanggaran tugas kehati-hatian.
- Mengabaikan peringatan bermanfaat. Hal ini mungkin juga merupakan pelanggaran terhadap kehati-hatian.
- Menyembunyikan penggunaan AI. Hal ini bertentangan dengan prinsip transparansi.
- Tidak mencatat keputusan dan pembenarannya. Diperlukan penelusuran yang dapat diaudit.
Perundang-undangan perangkat medis dan penggunaan yang disetujui
Beberapa alat AI untuk tujuan klinis (misalnya perangkat lunak yang mendeteksi temuan dalam gambar, membantu diagnosis) secara hukum dianggap sebagai perangkat medis dan harus telah lulus persetujuan peraturan terkait. Model obrolan tujuan umum tidak disetujui sebagai perangkat medis; Ini adalah bantuan terbaik untuk diagnosis klinis, bukan "alat resmi". Pembedaan ini penting: perangkat medis yang disetujui telah divalidasi dan diberi label untuk tujuan penggunaan tertentu (indikasi); Menggunakannya di luar label menimbulkan tanggung jawab tambahan.
Dalam praktiknya, pertanyaan yang harus ditanyakan dokter adalah: Apakah perangkat yang saya gunakan merupakan perangkat medis yang disetujui untuk penggunaan klinis atau model untuk tujuan umum? Jika disetujui, apakah tujuan saya menggunakannya sesuai dengan tujuan yang tertera pada label? Kejelasan ini adalah dasar bagi penggunaan yang aman dan kemungkinan evaluasi hukum. Menggunakan model tujuan umum sebagai alat diagnostik dan menerapkannya tanpa memvalidasi hasilnya adalah posisi yang paling rentan.
Perhatian: Model lidah untuk keperluan umum bukanlah perangkat medis yang disetujui. Menggunakannya sebagai alat diagnostik klinis dan menerapkannya tanpa memvalidasi keluarannya tidak dapat dipertahankan baik dari sudut pandang peraturan maupun pertanggungjawaban.
Singkatnya
Tanggung jawab medis selalu berada pada dokter yang kompeten yang mengambil keputusan; AI adalah alat, bukan subjek hukum. "AI bilang" bukan pembelaan, tapi kejengkelan bila perlu. Menggunakan AI dengan cara yang konsisten dengan empat prinsip etika medis, secara transparan, dan menghormati persetujuan yang diinformasikan; membenarkan setiap keputusan dengan penilaian klinis, panduan, dan pendapat ahli bila diperlukan; Catat pembenaran dan verifikasi. Ketika pasien bertanya “Apakah AI yang memutuskan?” Jawablah pertanyaan tersebut dengan jujur dan meyakinkan.
Tugas aplikasi
Pertimbangkan keputusan klinis baru-baru ini di mana Anda memanfaatkan AI. Dokumentasikan dengan template catatan justifikasi di atas: rekomendasi apa yang diambil, bagaimana validasinya, siapa yang mengambil keputusan? Periksa keputusan yang sama dengan empat prinsip etika. Tulis juga bagaimana Anda akan menjelaskan penggunaan AI secara transparan kepada pasien.
daftar periksa
- [ ] Saya menggunakan AI sebagai alat asisten, bukan sebagai pengambil keputusan.
- [ ] Saya telah membenarkan rekomendasi tersebut dengan penilaian dan panduan klinis.
- [ ] Saya berkonsultasi dengan ahli bila diperlukan.
- [ ] Saya memeriksa keputusan tersebut berdasarkan empat prinsip etika.
- [ ] Saya transparan; Saya memperoleh persetujuan jika diperlukan.
- [ ] Saya mencatat keputusan, pembenaran, dan pembenarannya.
- [ ] Saya telah mendokumentasikan bahwa tanggung jawab ada pada dokter.