Keuntungan:
- Kemampuan untuk menganalisis kasus etis dari berbagai perspektif, dari kerangka etika konsekuensialis, deontologis, dan kebajikan
- Kemampuan untuk mengklarifikasi fakta dan pemangku kepentingan serta menyebutkan konflik prinsip
- Mampu membuat penilaian dan keputusan etis dengan cara yang dapat dibenarkan dengan kontrol bias, tanpa menyerahkannya kepada kecerdasan buatan
Inti dari etika terapan adalah pertanyaan “apa yang harus dilakukan?” dalam situasi nyata. adalah untuk menghasilkan jawaban yang masuk akal terhadap pertanyaan tersebut. Komite etika rumah sakit membahas keputusan pengobatan, perusahaan mengevaluasi apakah penggunaan data bersifat etis, dan peneliti mempertimbangkan dampak buruk eksperimen terhadap peserta. Alat yang digunakan dalam karya-karya ini adalah kerangka etika (pendekatan yang menawarkan seperangkat prinsip dan alasan yang koheren untuk mengevaluasi suatu situasi)—misalnya, konsekuensialisme (pendekatan yang mengevaluasi kebenaran suatu tindakan berdasarkan konsekuensinya, manfaat dan kerugian yang ditimbulkannya), deontologi (pendekatan yang mengevaluasi kebenaran suatu tindakan berdasarkan kepatuhannya terhadap tugas, hak, dan aturan, terlepas dari konsekuensinya), dan etika kebajikan (pendekatan yang membingkai pertanyaan sebagai “apa yang akan dilakukan orang berbudi luhur?” lakukan?” daripada “tindakan apa?”). AI dapat menjadi alat cepat untuk menganalisis kasus dari berbagai kerangka kerja, melihat dimensi yang diabaikan, dan memperbanyak opsi. Namun penilaian etis akhir—prinsip mana yang berlaku, keputusan mana yang harus diambil, dan alasan pengambilan keputusan tersebut—adalah tanggung jawab manusia, terutama komite dan pakar yang bertanggung jawab.
Dalam unit ini, kita akan melihat cara menganalisis kasus etis dengan cara yang didukung AI namun tetap berdasarkan pertimbangan manusia.
Analisis multi-frame: Kekuatan AI yang sebenarnya
Kesalahan paling umum dalam kasus etika adalah berpegang pada satu sudut pandang. Analisis yang baik melihat situasi yang sama dari berbagai kerangka dan mengungkap ketegangan. Di sinilah AI sangat berguna: AI dapat menganalisis kasus dari perspektif konsekuensialis, deontologis, dan berbasis kebajikan secara bersamaan dan dengan cepat membuat daftar kesimpulan yang dihasilkan oleh setiap kerangka kerja. Ini memetakan perdebatan.
Langkah-langkah:
1. Klarifikasi fakta. Siapa, apa, kapan terlibat; membedakan antara fakta yang tidak pasti dan fakta yang diasumsikan. Analisis etis tidak bisa didasarkan pada fakta yang salah.
2. Identifikasi pemangku kepentingan dan kepentingan. Siapa yang dirugikan dengan keputusan tersebut, apa hak dan kepentingan masing-masing?
3. Analisis dari kerangka yang berbeda. Bagaimana setiap kerangka kerja memandang situasi ini dan tindakan apa yang direkomendasikannya?
4. Menunjukkan ketegangan dan konflik prinsip. Jika kerangka kerja tersebut menghasilkan kesimpulan yang berbeda, di manakah sebenarnya konfliknya? (Misalnya antara otonomi individu dan kemaslahatan masyarakat.)
5. Ambil keputusan yang masuk akal. Berikan justifikasi prinsip mana yang lebih penting daripada alasannya dengan menerima keberatan terkuat dari pihak lain.
Tip: Jangan meminta AI untuk "beri tahu saya jawaban yang benar"; Katakanlah, “analisis kasus ini dari tiga kerangka kerja dan tunjukkan kesimpulan serta keberatan terkuat dari masing-masing kerangka tersebut.” Tugas AI adalah membuat peta; Anda membuat keputusan dan pembenarannya. Dalam etika, “jawaban yang diberikan oleh mesin” bukanlah suatu pembenaran.
Mengapa AI tidak bisa membuat keputusan etis?
Mari kita jelaskan. penilaian etis; Hal ini membutuhkan pengetahuan konteks, penentuan prioritas di antara nilai-nilai, pengambilan tanggung jawab, dan kemauan untuk menandatangani keputusan tersebut. AI tidak memiliki satu pun dari hal-hal tersebut: AI tidak memiliki nilai, tidak memiliki akuntabilitas, pengetahuan konteks yang terbatas, dan dapat meniru bias budaya/ideologis dalam data pelatihan. Selain itu, AI sering kali memberikan opini “rata-rata” atau paling umum tentang suatu topik kontroversial; sedangkan dalam etika jawaban yang benar mungkin sebagian besar ada pada minoritas atau mungkin tidak ada sama sekali. AI membuka opsi; Anda menimbang dan memutuskan.
Perhatian: Dalam pengambilan keputusan etis yang berisiko tinggi (medis, hukum, kelembagaan), keluaran AI tidak boleh menggantikan penilaian dewan atau pakar yang kompeten. Gunakan AI sebagai “perancang penasehat”; Keputusan dan tanggung jawab akhir ada pada orang yang bertanggung jawab. Selain itu, jika data kasus sebenarnya berisi informasi pribadi/rahasia, jangan memasukkannya ke dalam alat publik.
tiga kasus mini
Kasus 1 — Peta multi-bingkai. Sebuah komite etika sedang mendiskusikan alokasi sumber daya yang terbatas (misalnya, sejumlah pilihan pengobatan yang terbatas). Mereka meminta AI menganalisis kasus ini dari perspektif konsekuensialis, deontologis, dan berbasis kebajikan; Tiga justifikasi berbeda dan titik konfliknya dipetakan dalam 20 menit. Dengan menggunakan peta ini sebagai titik awal, dewan melakukan diskusinya sendiri dan mengambil keputusan yang masuk akal.
Kasus 2 — Pemangku kepentingan yang terabaikan. Sebuah perusahaan sedang mengevaluasi keputusan penggunaan data. Dalam analisisnya, YZ menandai kelompok ketiga (orang-orang yang datanya digunakan namun tidak dilibatkan dalam proses) yang terkena dampak tidak langsung, selain pihak-pihak yang langsung mengambil keputusan. Tim telah mengabaikan pemangku kepentingan ini. Masukan AI membuat keputusan menjadi lebih lengkap — namun tim lah yang membuat prioritas.
Kasus 3 — Saran yang bias dikoreksi. Seorang penyelidik meminta AI menganalisis kasus yang sensitif secara budaya. AI menyajikan pandangan budaya tunggal sebagai “kebenaran universal” dan mengabaikan sistem nilai alternatif. Peneliti memperhatikan keberpihakan ini dan mendiversifikasi analisisnya. Pandangan dominan terhadap data pelatihan AI diimbangi dengan pengawasan manusia.
Perintah lemah / Perintah kuat
Perintah yang lemah:
Apa yang harus saya lakukan secara etis dalam situasi ini?
Perintah ini mendelegasikan penilaian etis dan tanggung jawab kepada AI; Anda mendapatkan satu "jawaban", Anda tidak melihat dasar pemikiran dan kerangkanya, biasnya tetap tersembunyi.
Perintah yang kuat:
Peran Anda: analis etika terapan (bukan pengambil keputusan). Analisislah kasus berikut. JANGAN BERI SAYA KEPUTUSAN.1) Buat daftar fakta-fakta ambigu yang perlu diklarifikasi.2) Hapus pemangku kepentingan dan kepentingan/hak masing-masing.3) Analisis kasus secara terpisah dari perspektif konsekuensialis, deontologis, dan etika kebajikan; Berikan kesimpulan dan keberatan terkuat masing-masing. 4) Tunjukkan konflik prinsip mendasar antar kerangka kerja. Saya akan membuat keputusan dan pembenarannya. Peringatkan jika ada data pribadi/rahasia. Kasus: [tulis kasus]
Perintah ini menghapus peta multiframe, menyerahkan keputusan kepada Anda, dan membuat bias terlihat.
Empat templat yang dapat disalin
1) Klarifikasi fakta dan pemangku kepentingan:
Dalam kasus berikut, sebutkan (a) fakta-fakta tertentu yang diketahui, (b) fakta-fakta yang tidak pasti/yang diasumsikan, (c) seluruh pemangku kepentingan serta kepentingan dan hak masing-masing pihak. Tambahkan komentar dan keputusan. Kasus: [kasus]
2) Analisis tiga bingkai:
Analisislah kasus ini secara terpisah dari perspektif konsekuensialisme, deontologi, dan etika kebajikan. Untuk setiap frame: bagaimana dia melihatnya, tindakan yang dia rekomendasikan, dan penolakan terkuat terhadap saran tersebut. Menyatakan suatu kerangka kerja "benar". Kasus: [kasus]
3) Diagnosis konflik kebijakan:
Sebutkan prinsip-prinsip utama yang menjadi dasar konflik kerangka kerja dalam analisis di bawah ini (misalnya, otonomi vs. kebaikan bersama, keadilan vs. kasih sayang). Tunjukkan dengan tepat di mana pusat konflik. Pengambilan keputusan. Analisis: [tempel teks]
4) Audit prasangka dan sensitivitas budaya:
Periksa apakah analisis etis ini tidak menampilkan satu pandangan budaya/ideologis sebagai kebenaran universal. Apakah ada sistem nilai atau perspektif alternatif yang diabaikan? Soroti di mana perlunya lebih banyak pluralisme. Analisis: [tempel teks]
Bagan perbandingan bingkai
Bingkai
pertanyaan dasar
Fokus
kelemahan yang khas
konsekuensialisme
Apa hasil terbaiknya?
Keseimbangan manfaat/bahaya
Dapat menghancurkan hak-hak minoritas
deontologi
Apa yang dimaksud dengan tugas/aturan?
benar, tugas, prinsip
Ketat, bisa mengabaikan hasilnya
etika kebajikan
Apa yang dilakukan orang berbudi luhur?
karakter, niat
Panduan tindakan yang tidak jelas
Kesalahan umum
- Membuat AI memutuskan. “Apa yang harus aku lakukan?” Pertanyaannya mendelegasikan penilaian etis; AI membuat peta, Anda yang memutuskan.
- Terjebak dalam satu bingkai. Melihat kasus hanya dari satu sudut pandang; analisis multi-frame mengungkapkan ketegangan.
- Tidak mengklarifikasi fakta. Analisis etis yang didasarkan pada fakta yang salah atau asumsi akan gagal.
- Tidak mengakui bias. AI mungkin menampilkan pandangan budaya dominan sebagai “universal”; Pluralisme disediakan oleh manusia.
- Memasukkan kasus rahasia/pribadi ke dalam alat publik. Risiko pelanggaran privasi pada file nyata; Anonimkan atau gunakan sistem aman.
Singkatnya
Kekuatan sebenarnya dari AI dalam analisis kasus etika terapan adalah dengan cepat memetakan situasi dari berbagai kerangka, mengekstraksi pemangku kepentingan, dan membuat konflik prinsip terlihat. Namun penilaian etis—prinsip mana yang berlaku, keputusan dan pembenarannya—adalah milik manusia, terutama komite dan ahli yang bertanggung jawab; karena AI tidak memiliki nilai, tidak memiliki tanggung jawab, tidak memiliki pengetahuan konteks, dan mengandung bias. Klarifikasi fakta, analisis berbagai kerangka kerja, sebutkan konfliknya, periksa biasnya, dan buat keputusan sendiri dengan disertai justifikasi. Dalam pengambilan keputusan yang berisiko tinggi, AI ditempatkan di samping, bukan menggantikan, penilaian ahli.
Tugas aplikasi
- Pilih kasus etika yang nyata atau fiktif (anonimkan jika melibatkan data pribadi).
- Ekstrak fakta dan pemangku kepentingan dengan templat “Klarifikasi fakta dan pemangku kepentingan”.
- Mintalah kasus tersebut dianalisis dari tiga perspektif dengan template “analisis tiga bingkai”.
- Sebutkan ketegangan yang mendasarinya dengan templat “diagnosis konflik prinsip”.
- Tulis keputusan Anda sendiri yang masuk akal — menerima keberatan terkuat dari pihak lawan.
daftar periksa
- [ ] Saya mengklarifikasi fakta dan ketidakpastian.
- [ ] Saya mengidentifikasi seluruh pemangku kepentingan dan kepentingan mereka.
- [ ] Saya menganalisis kasus ini dari setidaknya tiga kerangka etika.
- [ ] Saya telah dengan jelas menyebutkan konflik prinsipnya.
- [ ] Saya memeriksa bias dan keberpihakan.
- [ ] Saya menyerahkan keputusan dan pembenaran pada diri saya sendiri/dewan, bukan pada AI.
- [ ] Saya melindungi data rahasia/pribadi.