Keuntungan:
- Kemampuan untuk mengaitkan prinsip-prinsip AI yang bertanggung jawab (keadilan, transparansi, akuntabilitas, privasi, pengawasan manusia, keamanan, keberlanjutan) dengan keputusan nyata
- Kemampuan untuk menguji pihak-pihak yang terkena dampak dan bias dengan memisahkan etika dari kepatuhan hukum dan membedakan antara 'kita bisa' dan 'kita harus'
- Kemampuan untuk mengurangi skenario penyalahgunaan terlebih dahulu dengan memasukkan transparansi, pemantauan manusia, dan daya tarik dalam desain
Sebuah startup AI bisa saja sempurna secara teknis, menguntungkan secara finansial, dan layak secara hukum; tapi tetap saja bisa saja salah. Etika adalah perbedaan antara “kita bisa” dan “kita harus”. Bagi seorang manajer senior, etika bukanlah persoalan hiasan atau hubungan masyarakat; Ini adalah fondasi yang menjaga keandalan, reputasi, dan legitimasi sosial lembaga dalam jangka panjang. Dalam unit ini, Anda akan mempelajari prinsip-prinsip AI yang bertanggung jawab (sebuah pendekatan untuk mengembangkan dan menggunakan kecerdasan buatan dengan cara yang adil, transparan, akuntabel, dan menghormati martabat manusia) dan bagaimana mencerminkannya dalam pengambilan keputusan sehari-hari.
Prinsip dasar AI yang bertanggung jawab
Kerangka kerja yang berbeda bertemu dengan prinsip yang sama. Ringkasan praktis untuk seorang manajer:
prinsip
Apa maksudmu?
pertanyaan admin
keadilan
non-diskriminasi
Apakah hal ini berdampak tidak adil terhadap suatu kelompok?
transparansi
dapat dimengerti
Bisakah kami menjelaskan alasan keputusan tersebut?
akuntabilitas
Mengidentifikasi siapa yang bertanggung jawab
Siapa yang bertanggung jawab jika terjadi kesalahan?
Privasi
Hormati data pribadi
Apakah kami berhak menggunakan data?
pengawasan manusia
Tetap memegang kendali
Bisakah seseorang menolak dan menghentikannya?
Keamanan
tidak membahayakan
Mungkinkah ini disalahgunakan?
Keberlanjutan
Dampak lingkungan/sosial
Kepada siapa kita membebankan biayanya?
Prinsip-prinsip ini tidaklah abstrak; Masing-masing dapat dikaitkan dengan keputusan konkrit. Misalnya, “transparansi” berarti memberi tahu pelanggan bahwa mereka sedang berbicara dengan AI; “Pengawasan manusia” berarti meminta peninjauan manusia terhadap penolakan pinjaman dan membiarkannya terbuka untuk banding.
Tip: Dalam setiap keputusan AI yang berdampak besar, ajukan satu pertanyaan: “Dapatkah saya menjelaskan dengan jelas dan mendukung keputusan ini kepada orang yang paling terkena dampak negatifnya?” Jika tanggapannya menyinggung, ada masalah etika.
Etika berbeda dengan hukum
Perbedaan penting: kepatuhan hukum (Unit 9) adalah hal minimal; Etika adalah garis yang lebih tinggi. Sesuatu mungkin legal tetapi tidak etis. Misalnya, suatu aplikasi mungkin tidak dilarang menggunakan kecerdasan buatan untuk memanipulasi perilaku pengguna, namun hal tersebut tidak etis. Instansi yang bertanggung jawab “apakah dilarang?” bukan "Benarkah?" dia bertanya.
Langkah demi langkah: menanamkan etika dalam pengambilan keputusan
1. Identifikasi pihak-pihak yang terkena dampak. Siapa yang terkena dampak inisiatif ini? (Pelanggan, karyawan, masyarakat, kelompok kurang beruntung)
2. Pindai dengan kebijakan. Pertanyakan inisiatif dalam kaitannya dengan masing-masing prinsip di atas.
3. Uji bias dan kerugian. Apakah model tersebut memberikan dampak yang tidak adil terhadap kelompok tertentu? Apa saja skenario penyalahgunaannya?
4. Tambahkan transparansi dan pengawasan. Laporkan penggunaan kecerdasan buatan, tanpa meninggalkan keberatan manusia.
5. Dokumen dan review. Simpan penilaian etis; Periksa kembali secara berkala.
tiga kasus mini
Kasus 1 — Sah tetapi salah. Sebuah aplikasi menggunakan kecerdasan buatan untuk menghasilkan notifikasi yang membuat ketagihan agar pengguna tetap menggunakan aplikasi lebih lama. Tidak ada kendala hukum, namun ketika diberitakan di media, terjadi kerugian reputasi yang serius; Penargetan pengguna muda khususnya menuai kritik. Perusahaan menghapus fitur tersebut. Jika filter etika sejak awal, risiko ini akan terlihat.
Kasus 2 — Nilai uji kewajaran. Model penilaian kredit suatu bank secara sistematis memberikan skor yang lebih rendah terhadap permohonan dari kelompok yang dilindungi. Hal ini tertangkap dalam audit keadilan. Model ini dirancang ulang dan diuji secara berkala untuk memastikan kesetaraan antar kelompok dalam hasil-hasilnya. Prinsip etika (keadilan) menjadi ujian konkrit dan mencegah terjadinya kerugian yang nyata.
Kasus 3 — Transparansi membangun kepercayaan. Sebuah perusahaan e-niaga mencantumkan frasa "Asisten kecerdasan buatan membantu Anda, Anda dapat terhubung dengan perwakilan manusia kapan saja" di awal chatbot dukungan pelanggannya. Transparansi dan keluarnya manusia tidak mengurangi kepuasan; Sebaliknya, kepercayaan diri meningkat dan keluhan berkurang 15%. Transparansi yang dilakukan dengan benar adalah nilai, bukan biaya.
Empat templat yang dapat disalin
1) Penyaringan etis:
Peran Anda: konsultan AI yang bertanggung jawab. Pindai inisiatif ini untuk mengetahui 7 prinsip: keadilan, transparansi, akuntabilitas, privasi, pengawasan manusia, keamanan, keberlanjutan. Untuk setiap kebijakan, tulis satu risiko dan satu rekomendasi. Inisiatif: [teks]
2) Analisis pihak yang terkena dampak:
Buat daftar semua pihak yang terkena dampak inisiatif AI ini (pelanggan, karyawan, masyarakat, kelompok yang kurang beruntung). Tuliskan dampak positif dan negatif yang mungkin timbul bagi masing-masing pihak; Tandai kelompok yang paling mungkin dirugikan. Inisiatif: [teks]
3) Skenario penyalahgunaan:
Hasilkan 5 skenario di mana fitur AI berikut dapat disalahgunakan (termasuk manipulasi, diskriminasi, pelanggaran privasi, penipuan). Sarankan keputusan desain preventif untuk setiap skenario. Atribut: [teks]
4) Transparansi dan pengendalian pengawasan:
Tulis rencana transparansi dan pengawasan manusia untuk AI yang berhubungan dengan pelanggan yang: apa yang akan dikomunikasikan kepada pengguna dan bagaimana caranya; Bagaimana cara menularkannya ke manusia? Bagaimana dia bisa menolak keputusan tersebut? Penggunaan: [teks]
Perintah lemah / Perintah kuat
Lemah: “Apakah AI ini etis?”
Hasilnya: jawaban "ya/tidak" yang dangkal; Prinsipnya yang mana, siapa yang terdampak, tindakan apa yang tidak jelas.
Kuat: "Kami sedang mempertimbangkan untuk menggunakan AI dalam alat pra-penyaringan rekrutmen (manusialah yang mengambil keputusan akhir). Saring hal ini berdasarkan prinsip-prinsip keadilan, transparansi, akuntabilitas, dan pengawasan manusia. Tulis secara konkrit kelompok kandidat mana yang mungkin terkena dampak tidak adil, tes bias apa yang perlu saya lakukan, dan bagaimana kandidat dapat mengajukan banding atas keputusan tersebut."
Hasil: Sebuah penilaian praktis berbasis prinsip yang mengidentifikasi pihak yang terkena dampak dan menyarankan pengujian dan banding.
Kesalahan umum
- Membingungkan etika dengan kepatuhan hukum. Tidak semua hal yang legal itu etis; Etika adalah garis yang lebih tinggi.
- Membiarkan etika bertahan lama. Mendapatkan "persetujuan etika" setelah desain sudah terlambat; etika harus tertanam dalam desain sejak awal.
- Bukan menguji keadilan. Asumsi bahwa “model kami netral” berbahaya; tidak dapat diketahui tanpa pengukuran.
- Salah mengartikan transparansi sebagai biaya. Transparansi yang dilakukan dengan benar akan meningkatkan kepercayaan dan nilai.
- Jaga agar sisi yang terkena tetap sempit. Hanya memikirkan pelanggan dan mengabaikan karyawan, masyarakat, dan kelompok yang kurang beruntung akan menciptakan titik buta.
Perhatian: Menyerahkan evaluasi etis sepenuhnya pada kecerdasan buatan adalah hal yang kontradiktif dan berbahaya. AI dapat membantu mengajukan pertanyaan etis, namun penilaian nilai, konteks budaya, dan tanggung jawab moral utama berada di tangan manusia. Pendirian etis suatu organisasi ditentukan oleh pilihan sadar masyarakat, bukan oleh "AI yang mengatakan demikian".
Singkatnya
Etika adalah perbedaan antara “kita bisa” dan “kita harus” dan melindungi kredibilitas jangka panjang organisasi. AI yang bertanggung jawab; Hal ini didasarkan pada prinsip-prinsip keadilan, transparansi, akuntabilitas, privasi, pengawasan manusia, keamanan dan keberlanjutan. Prinsip-prinsip ini tidaklah abstrak; Hal ini diwujudkan dalam keputusan nyata seperti mengidentifikasi pihak-pihak yang terkena dampak, menguji bias, memberikan transparansi, dan menambahkan pengawasan manusia. Etika berbeda dengan hukum dan merupakan garis yang lebih tinggi; Tidak bisa dibiarkan begitu saja, harus tertanam dalam desain. Pada unit berikutnya, kita akan membahas kepatuhan, yang merupakan persamaan hukum dengan etika, khususnya UU AI Uni Eropa dan KVKK.
Tugas aplikasi
Pilih startup AI yang berdampak tinggi. Dengan template 2, buat daftar semua pihak yang terkena dampak dan tandai kelompok yang paling mungkin dirugikan. Dengan templat 1, pindai inisiatif untuk tujuh prinsip. Tentukan ukuran konkrit (uji kewajaran, pemberitahuan transparansi, jalur banding, dll.) untuk dua risiko etika yang paling kritis. Terakhir, “dapatkah saya menjelaskan keputusan ini kepada orang yang paling terkena dampak negatifnya?” Jawablah pertanyaan itu dengan jujur.
daftar periksa
- [ ] Saya telah mengidentifikasi semua pihak yang terkena dampak.
- [ ] Saya menyaring startup tersebut dengan tujuh prinsip AI yang bertanggung jawab.
- [ ] Saya merencanakan tes untuk bias/keadilan.
- [ ] Saya merancang pernyataan transparansi.
- [ ] Saya tidak memberikan jalan bagi pengawasan dan banding manusia.
- [ ] Saya memikirkan tentang skenario pelecehan.
- [ ] “Dapatkah saya menjelaskannya kepada pihak yang paling terkena dampak negatifnya?” Saya lulus ujian.