Keuntungan:
- Keupayaan untuk mengikat prinsip AI yang bertanggungjawab (keadilan, ketelusan, akauntabiliti, privasi, pengawasan manusia, keselamatan, kemampanan) dengan keputusan konkrit
- Keupayaan untuk menguji pihak yang terjejas dan berat sebelah dengan memisahkan etika daripada pematuhan undang-undang dan membezakan antara 'kita boleh' dan 'kita sepatutnya'
- Keupayaan untuk mengurangkan senario penyalahgunaan terlebih dahulu dengan membenamkan ketelusan, pemantauan manusia dan daya tarikan dalam reka bentuk
Permulaan AI boleh menjadi sempurna dari segi teknikal, menguntungkan dari segi kewangan dan berdaya maju dari segi undang-undang; tetapi ia masih boleh salah. Etika ialah perbezaan antara "kita boleh" dan "kita sepatutnya." Bagi seorang pengurus kanan, etika bukanlah soal perhiasan atau perhubungan awam; Ia adalah asas yang mengekalkan kebolehpercayaan jangka panjang, reputasi dan kesahihan sosial institusi. Dalam unit ini, anda akan mempelajari prinsip AI yang bertanggungjawab (satu pendekatan untuk membangun dan menggunakan kecerdasan buatan dengan cara yang adil, telus, bertanggungjawab dan menghormati maruah manusia) dan cara mencerminkannya dalam keputusan harian.
Prinsip asas AI yang bertanggungjawab
Rangka kerja yang berbeza bertemu dengan prinsip yang sama. Ringkasan praktikal untuk pengurus:
prinsip
apa maksud awak?
soalan admin
keadilan
tiada diskriminasi
Adakah ini tidak adil menjejaskan kumpulan?
ketelusan
boleh difahami
Bolehkah kami menjelaskan sebab keputusan itu?
akauntabiliti
Mengenal pasti siapa yang bertanggungjawab
Siapa yang bertanggungjawab sekiranya berlaku kesilapan?
Privasi
Menghormati data peribadi
Adakah kita mempunyai hak untuk menggunakan data?
pengawasan manusia
Kekal dalam kawalan
Bolehkah satu objek dan menghentikannya?
Keselamatan
jangan buat mudarat
Bolehkah ini disalahgunakan?
Kelestarian
Kesan alam sekitar/sosial
Kepada siapa kita kenakan kos?
Prinsip-prinsip ini bukan abstrak; Setiap daripada mereka boleh dikaitkan dengan keputusan konkrit. Sebagai contoh, "ketelusan" bermaksud memberitahu pelanggan bahawa mereka bercakap dengan AI; “Pengawasan manusia” bermaksud meminta manusia menyemak penolakan pinjaman dan membiarkannya terbuka untuk rayuan.
Petua: Dengan setiap keputusan AI berimpak tinggi, tanya satu soalan: "Bolehkah saya menerangkan dengan jelas dan menyokong keputusan ini kepada orang yang paling terjejas?" Sekiranya tindak balas itu menyinggung, terdapat masalah etika.
Etika berbeza dengan undang-undang
Perbezaan kritikal: pematuhan undang-undang (Unit 9) adalah minimum; Etika adalah garis yang lebih tinggi. Sesuatu mungkin sah tetapi tidak beretika. Sebagai contoh, aplikasi mungkin tidak dilarang daripada menggunakan kecerdasan buatan untuk memanipulasi tingkah laku pengguna, tetapi ia tidak beretika. Institusi yang bertanggungjawab "adakah ia dilarang?" bukan "Adakah ia benar?" dia bertanya.
Langkah demi langkah: membenamkan etika dalam keputusan
1. Kenal pasti pihak yang terjejas. Siapa yang terkesan dengan inisiatif ini? (Pelanggan, pekerja, masyarakat, kumpulan yang kurang bernasib baik)
2. Imbas dengan polisi. Persoalkan inisiatif dari segi setiap prinsip di atas.
3. Uji berat sebelah dan bahaya. Adakah model itu memberi kesan tidak adil kepada kumpulan tertentu? Apakah senario penyalahgunaan?
4. Tambahkan ketelusan dan pengawasan. Laporkan penggunaan kecerdasan buatan, tanpa meninggalkan bantahan manusia.
5. Dokumen dan semakan. Simpan penilaian etika; Semak semula secara berkala.
tiga kes mini
Kes 1 — Sah tetapi salah. Apl menggunakan kecerdasan buatan untuk menjana pemberitahuan ketagihan untuk memastikan pengguna berada dalam apl lebih lama. Tiada halangan undang-undang, tetapi apabila ia dilaporkan dalam akhbar, terdapat kehilangan reputasi yang serius; Penyasarannya terhadap pengguna muda khususnya mendapat kritikan. Syarikat itu mengalih keluar ciri tersebut. Jika penapis etika adalah dari awal, risiko ini akan dilihat.
Kes 2 — Nilai ujian keadilan. Model pemarkahan kredit bank secara sistematik memberikan markah yang lebih rendah kepada aplikasi daripada kumpulan yang dilindungi. Ini terperangkap dalam audit keadilan. Model ini direka bentuk semula dan diuji secara berkala untuk memastikan ekuiti antara kumpulan dalam keputusannya. Prinsip etika (keadilan) bertukar menjadi ujian konkrit dan menghalang bahaya sebenar.
Kes 3 — Ketelusan membina kepercayaan. Sebuah syarikat e-dagang meletakkan frasa "Pembantu kecerdasan buatan membantu anda, anda boleh berhubung dengan wakil manusia pada bila-bila masa" pada permulaan chatbot sokongan pelanggannya. Ketelusan dan keluar manusia tidak mengurangkan kepuasan; Sebaliknya, ia meningkatkan keyakinan dan aduan menurun sebanyak 15%. Ketelusan yang dilakukan dengan betul ialah nilai, bukan kos.
Empat templat yang boleh disalin
1) Pemeriksaan etika:
Peranan anda: perunding AI yang bertanggungjawab. Imbas inisiatif ini untuk mendapatkan 7 prinsip: keadilan, ketelusan, akauntabiliti, privasi, pengawasan manusia, keselamatan, kemampanan. Untuk setiap polisi, tulis satu risiko dan satu cadangan. Inisiatif: [teks]
2) Analisis pihak yang terjejas:
Senaraikan semua pihak yang terjejas oleh inisiatif AI ini (pelanggan, pekerja, masyarakat, kumpulan yang kurang bernasib baik). Tulis kemungkinan kesan positif dan negatif bagi setiap pihak; Tandai kumpulan yang paling mungkin dicederakan. Inisiatif: [teks]
3) Senario penyalahgunaan:
Hasilkan 5 senario di mana ciri AI berikut boleh disalahgunakan (termasuk manipulasi, diskriminasi, pelanggaran privasi, penipuan). Cadangkan keputusan reka bentuk pencegahan untuk setiap senario. Atribut: [teks]
4) Ketelusan dan kawalan pengawasan:
Tulis pelan ketelusan dan pengawasan manusia untuk AI yang menghadapi pelanggan bahawa: perkara yang akan disampaikan kepada pengguna dan bagaimana; Bagaimanakah ia boleh dipindahkan kepada manusia? Bagaimana dia boleh membantah keputusan itu? Penggunaan: [teks]
Gesaan lemah / Gesaan kuat
Lemah: "Adakah AI ini beretika?"
Keputusan: "ya/tidak" cetek; Prinsip mana, siapa yang terjejas, ukuran apa yang tidak jelas.
Strong: "Kami sedang mempertimbangkan untuk menggunakan AI dalam alat pra-penyaringan pengambilan (manusia akan membuat keputusan muktamad). Tapis ini untuk prinsip keadilan, ketelusan, akauntabiliti dan pengawasan manusia. Tulis secara konkrit kumpulan calon mana yang mungkin terjejas secara tidak adil, apakah ujian berat sebelah yang perlu saya lakukan dan cara calon boleh merayu keputusan itu."
Keputusan: Penilaian praktikal berasaskan prinsip yang mengenal pasti pihak yang terjejas dan mencadangkan ujian dan rayuan.
Kesilapan biasa
- Mengelirukan etika dengan pematuhan undang-undang. Tidak semua yang sah adalah beretika; Etika adalah garis yang lebih tinggi.
- Meninggalkan etika untuk kekal. Mendapatkan "kelulusan etika" selepas reka bentuk sudah terlambat; etika mesti diterapkan dalam reka bentuk dari awal.
- Bukan menguji keadilan. Andaian bahawa "model kami adalah neutral" adalah berbahaya; tidak boleh diketahui tanpa ukuran.
- Tersilap ketelusan untuk kos. Ketelusan yang dilakukan dengan betul meningkatkan kepercayaan dan nilai.
- Menjaga bahagian yang terjejas sempit. Berfikir hanya tentang pelanggan dan mengabaikan pekerja, masyarakat dan kumpulan yang kurang bernasib baik mewujudkan titik buta.
Awas: Membiarkan penilaian etika sepenuhnya kepada kecerdasan buatan adalah bercanggah dan berbahaya. AI boleh membantu menimbulkan persoalan etika, tetapi pertimbangan nilai, konteks budaya, dan tanggungjawab moral muktamad terletak pada manusia. Pendirian etika organisasi ditentukan oleh pilihan sedar orang, bukan oleh "AI berkata demikian."
Secara ringkasnya
Etika ialah perbezaan antara "kita boleh" dan "kita harus" dan melindungi kredibiliti jangka panjang organisasi. AI yang bertanggungjawab; Ia berdasarkan prinsip keadilan, ketelusan, akauntabiliti, privasi, pengawasan manusia, keselamatan dan kemampanan. Prinsip-prinsip ini bukan abstrak; Ia diterjemahkan ke dalam keputusan konkrit seperti mengenal pasti pihak yang terjejas, menguji berat sebelah, menyediakan ketelusan dan menambah pengawasan manusia. Etika berbeza daripada undang-undang dan merupakan garis yang lebih tinggi; Ia tidak boleh dibiarkan sehingga akhir, ia mesti tertanam dalam reka bentuk. Dalam unit seterusnya, kita akan membincangkan pematuhan, yang merupakan persamaan undang-undang bagi etika, terutamanya Undang-undang AI EU dan KVKK.
Tugasan permohonan
Pilih permulaan AI berimpak tinggi. Dengan templat 2, senaraikan semua pihak yang terjejas dan tandai kumpulan yang paling mungkin dicederakan. Dengan templat 1, imbas inisiatif untuk tujuh prinsip. Tentukan langkah konkrit (ujian kesaksamaan, pemberitahuan ketelusan, laluan rayuan, dll.) untuk dua risiko etika yang paling kritikal. Akhir sekali, "bolehkah saya menerangkan keputusan ini kepada orang yang paling terjejas secara negatif?" Jawab soalan dengan jujur.
senarai semak
- [ ] Saya telah mengenal pasti semua pihak yang terjejas.
- [ ] Saya menapis permulaan dengan tujuh prinsip AI yang bertanggungjawab.
- [ ] Saya merancang ujian untuk berat sebelah/keadilan.
- [ ] Saya mereka bentuk pernyataan ketelusan.
- [ ] Saya tidak meninggalkan jalan untuk pengawasan dan rayuan manusia.
- [ ] Saya memikirkan tentang senario penyalahgunaan.
- [ ] "Bolehkah saya menerangkannya kepada orang yang paling terjejas?" Saya lulus ujian.