Keuntungan:
- Kemampuan untuk mengenali risiko diskriminasi, bias dan diskriminasi tidak langsung dalam penetapan harga dan penjaminan serta mengujinya dalam keluaran kecerdasan buatan
- Kemampuan untuk mencermati hak atas penjelasan dan keberatan dalam kerangka peraturan SEDDK, KVKK dan prinsip pengambilan keputusan otomatis
- Kemampuan untuk menerapkan kontrol manusia dan kewajiban pembenaran dalam keputusan otomatis yang berisiko tinggi
Asuransi adalah bisnis yang mengelompokkan dan menentukan harga risiko; tapi pengelompokan ini harus adil. Memberikan premi yang lebih tinggi atau menolak perlindungan kepada seseorang karena karakteristik yang dilindungi seperti jenis kelamin, etnis, kepercayaan, wilayah tempat tinggalnya merupakan diskriminasi yang tidak adil dan dilarang. Kecerdasan buatan (perangkat lunak yang belajar dari data historis dan menghasilkan rekomendasi harga dan keputusan) menimbulkan bahaya khusus dalam bidang ini: kecerdasan buatan dapat mempelajari pola-pola tidak adil dalam data historis dan tanpa disadari melanggengkan atau bahkan menyembunyikan diskriminasi. Selain itu, hal ini tidak dapat dilakukan secara langsung tetapi secara tidak langsung (melalui variabel proksi). Pada unit ini, Anda akan belajar bagaimana mengenali risiko bias dan diskriminasi dalam penetapan harga dan penjaminan, bagaimana menguji keadilan keluaran kecerdasan buatan, dan bagaimana mengamati hak untuk menjelaskan dan menolak dalam kerangka SEDDK (Badan Pengawasan dan Pengawasan Asuransi dan Pensiun Swasta), KVKK dan prinsip-prinsip pengambilan keputusan otomatis. Unit ini bukan merupakan konsultan hukum; Panduan ini menjelaskan prinsip-prinsip umum, dalam kasus konkrit apa pun, pastikan untuk berkonsultasi dengan unit hukum/kepatuhan.
Dari mana datangnya prasangka dan diskriminasi?
Bias AI muncul dari tiga sumber utama:
- Bias data: Model ini mempelajari ketidakadilan dalam data historis. Misalnya, jika suatu kelompok tertentu secara sistematis telah diberikan premi yang tinggi di masa lalu, model tersebut akan terus menganggap hal ini sebagai hal yang "normal".
- Variabel pengganti (proxy): Sekalipun model tidak secara langsung menggunakan fitur yang dilindungi (gender, asal), model tersebut melakukan diskriminasi secara tidak langsung dengan menggunakan variabel yang sangat terkait dengannya (lingkungan, nama, pola belanja).
- Bias pengambilan sampel: Karena beberapa kelompok kurang terwakili dalam data, model ini menghasilkan penilaian yang tidak dapat diandalkan dan tidak adil terhadap kelompok tersebut.
Ada dua jenis diskriminasi. Diskriminasi langsung: penggunaan secara terang-terangan atas suatu karakteristik yang dilindungi. Diskriminasi tidak langsung: ketika suatu kriteria yang tampaknya netral berdampak secara tidak proporsional terhadap kelompok tertentu. Yang kedua lebih berbahaya karena terjadi tanpa disengaja dan sulit dideteksi.
Perhatian: Pembelaan bahwa "model ini didasarkan pada statistik, sehingga objektif" adalah salah. Statistik juga mencakup ketidakadilan di masa lalu; Model tersebut tidak melegitimasinya, namun justru melanggengkannya. Keadilan adalah sesuatu yang perlu diuji secara aktif.
Menguji keluaran untuk keadilan
Uji keluaran AI (rekomendasi harga, alasan penolakan, skor risiko) dengan tiga pertanyaan untuk mengetahui keadilan:
- Apakah alasannya sah? Apakah keputusan tersebut didasarkan pada kriteria yang mempunyai hubungan nyata dan dapat dibenarkan terhadap risiko, atau pada properti yang dilindungi atau kuasanya?
- Apakah ada proksinya? Apakah salah satu variabel yang digunakan (lingkungan, nama, pekerjaan, status perkawinan) dapat dikaitkan secara kuat dengan karakteristik yang dilindungi?
- Bisakah itu dijelaskan? Bisakah Anda menjelaskan keputusan tersebut kepada klien dan auditor dengan cara yang jelas dan dapat dipertahankan? “Model mengatakan demikian” bukanlah sebuah pernyataan.
Jika suatu pembenaran tidak lolos ketiga pengujian ini, maka pembenaran tersebut ditolak dan keputusan didasarkan pada kriteria yang sah.
Tip: Uji alasan penolakan atau premi yang tinggi dengan kalimat ini: "Apakah saya akan malu jika saya menjelaskan hal ini kepada klien dan auditor?" Pembenaran yang memalukan atau tidak dapat dipertahankan (lingkungan, nama, asal) tidak boleh digunakan.
Kerangka peraturan perundang-undangan: SEDDK, KVKK, keputusan otomatis
Penggunaan kecerdasan buatan dalam asuransi tunduk pada berbagai peraturan. Prinsip utama:
- Prinsip SEDDK: Kegiatan perasuransian harus dilaksanakan secara adil, transparan, dan melindungi konsumen; Penetapan harga harus dapat dibenarkan dan tidak boleh ada diskriminasi yang tidak adil.
- KVKK: Data pribadi harus diproses sesuai hukum, terbatas pada tujuannya dan aman. Data khusus, seperti kesehatan, tunduk pada perlindungan tertinggi.
- Prinsip pengambilan keputusan otomatis: Dalam keputusan yang hanya didasarkan pada pemrosesan otomatis dan secara signifikan memengaruhi orang tersebut (misalnya, penolakan yang dilakukan oleh kecerdasan buatan saja), orang tersebut; Hak untuk menolak keputusan tersebut, untuk meminta campur tangan manusia dan untuk mengetahui alasan keputusan tersebut dikedepankan.
Oleh karena itu, kemampuan untuk menjelaskan, kendali manusia, dan pembenaran sangat penting dalam pengambilan keputusan yang berdampak besar. Keputusan yang tidak dapat dibenarkan atas model “kotak hitam” tidak dapat dikendalikan dan bertentangan dengan hak-hak tersebut.
Langkah demi langkah: Keputusan yang adil dan harmonis
- Identifikasi properti yang dilindungi. Jenis kelamin, asal usul, kepercayaan, kesehatan, wilayah tempat tinggal, dll.
- Lakukan pemindaian proksi. Mempertanyakan hubungan variabel yang digunakan dengan properti yang dilindungi.
- Uji legitimasi pembenaran tersebut. Apakah ada hubungan nyata dengan risiko? Bisakah itu dijelaskan?
- Tambahkan kendali manusia. Biarkan manusia meninjau hasil otomatis dalam keputusan yang berdampak besar.
- Dokumentasikan alasannya. Catat kriteria sah apa yang mendasari keputusan tersebut.
- Ketahui cara mengajukan banding. Memberikan pelanggan hak untuk menolak, meninjau manusia, dan membenarkan.
tiga kasus mini
Kasus 1 — Menolak proxy. Model penetapan harga perumahan menyarankan premi yang tinggi secara sistematis untuk kode pos tertentu. Ahli memeriksa: kode pos tumpang tindih dengan wilayah dengan konsentrasi etnis tertentu; ini adalah variabel proksi. Ketika risiko sebenarnya (umur bangunan, tipe struktur, riwayat kerusakan) dirinci, sebagian besar peningkatan tidak lagi dapat dibenarkan. Harga telah ditetapkan kembali berdasarkan kriteria risiko yang sah.
Kasus 2 — Kelompok yang kurang terwakili. Untuk produk perawatan kesehatan, model tersebut menawarkan premi yang terlalu tinggi kepada kelompok umur kecil. Alasannya: kelompok ini sangat kurang terwakili dalam data sehingga beberapa kerusakan besar membuat seluruh kelompok tampak "berisiko". Pakar melakukan koreksi kredibilitas (keandalan statistik) dan mendokumentasikan bahwa rekomendasi tersebut tidak dapat diandalkan; Kenaikan gaji yang tidak adil tidak diterapkan.
Kasus 3 — Hak untuk menolak. Permohonan ditolak secara otomatis dengan skor yang didukung AI. Pelanggan keberatan. Sebagai bagian dari proses adaptasi, keputusan tersebut dikaji ulang oleh seorang ahli; Skor tersebut tampaknya didasarkan pada data yang hilang (kerusakan masa lalu yang tidak cocok). Keputusan tersebut telah diperbaiki. Tanpa kendali manusia dan hak untuk menolak, penolakan yang tidak adil akan bersifat permanen.
Empat perintah yang dapat disalin
1) Pemindaian proxy dan diskriminasi:
Periksa justifikasi penetapan harga/keputusan berikut untuk mengetahui keadilannya: [justifikasi]Cari: apakah karakteristik yang dilindungi (jenis kelamin, asal usul, kepercayaan, kesehatan, wilayah tempat tinggal) digunakan secara langsung atau tidak langsung (proxy: lingkungan, nama, profesi, dll.)? Untuk setiap variabel yang dipertanyakan, jelaskan mengapa variabel tersebut bisa menjadi proksi dan sarankan alternatif yang sah.
2) Uji legitimasi justifikasi:
Ujilah alasan penolakan/bonus tinggi berikut ini dengan tiga pertanyaan: [pembenaran]1. Apakah ada hubungan yang nyata dan dapat dibenarkan dengan risiko?2. Apakah didasarkan pada properti yang dilindungi atau kuasanya?3. Bisakah dijelaskan kepada klien dan auditor? Jawablah setiap pertanyaan dengan jelas; Tandai alasan tidak lulus ujian sebagai "TOLAK".
3) Draf justifikasi yang dapat dijelaskan:
Susunlah alasan yang diartikulasikan kepada klien atas keputusan tersebut berdasarkan kriteria risiko yang sah dan TERVERIFIKASI berikut ini: [kriteria yang sah] Nada: penuh hormat, jelas. Menggunakan properti/proxy yang dilindungi. Nyatakan hak pelanggan untuk menolak dan meminta peninjauan manusia. Ini adalah rancangan; ahli menegaskan.
4) Daftar periksa inspeksi manusia:
Buat daftar periksa audit manusia untuk keputusan otomatis berdampak tinggi:Jenis keputusan: [penolakan/premi tinggi/kendala jaminan]Daftar: peninjauan ahli yang memenuhi syarat, pemeriksaan data, kontrol keadilan/proksi, dokumen pembenaran, pemberitahuan banding pelanggan, catatan jejak.
Perintah lemah / Perintah kuat
Lemah: "Tentukan harga paling menguntungkan dengan data ini, dan tuliskan pembenarannya."
Masalah: Kewajaran, proksi dan penjelasan tidak dihormati; model ini dapat melanggengkan dan membenarkan diskriminasi di masa lalu.
Kuat: "Periksa pembenaran ini untuk proksi dan diskriminasi; tandai poin yang bergantung pada fitur yang dilindungi atau proksinya dan ganti dengan kriteria risiko yang sah. Uraikan pembenaran yang dapat dijelaskan."
Mengapa hal ini baik: Diskriminasi diuji secara aktif, keputusan didasarkan pada kriteria yang sah dan dapat dijelaskan.
grafik perbandingan
Subyek
pendekatan berisiko
pendekatan yang benar
Keluaran model
"Statistik itu objektif"
Uji keadilan secara aktif
Pemilihan variabel
Gunakan setiap data
Ekstrak proxy
pembenaran
"Itulah yang dikatakan model itu"
Kriteria yang sah dan dapat dijelaskan
Keputusan berdampak tinggi
sepenuhnya otomatis
Pengawasan manusia adalah wajib
Pelanggan benar
Tidak dilaporkan
Keberatan + tinjauan manusia + pembenaran
Kesalahan umum
- Pertahanan "statistik adalah obyektif". Membenarkan ketidakadilan di masa lalu.
- Mengabaikan proksi. Diskriminasi tidak langsung berdasarkan lingkungan/nama/profesi.
- Keputusan yang tidak dapat diandalkan untuk kelompok yang kurang terwakili. Dengan asumsi bahwa tingkat yang diperoleh dari sampel kecil adalah akurat.
- Keputusan kotak hitam. Menerapkan keputusan otomatis yang alasannya tidak dapat dijelaskan.
- Tidak mengakui hak untuk menolak. Tidak memberi pelanggan hak atas peninjauan dan pembenaran manusia.
Singkatnya
Kecerdasan buatan dapat mempelajari diskriminasi dalam data historis dan melanjutkannya secara tidak langsung (melalui proksi) dalam penetapan harga dan penjaminan. Uji keadilan secara aktif: identifikasi properti dan proksi yang dilindungi, uji justifikasi atas legitimasi dan penjelasannya. SEDDK, KVKK dan prinsip pengambilan keputusan otomatis; Penetapan harga yang adil memerlukan penjelasan, peninjauan manusia, dan hak untuk menolak. Kontrol manusia sangat penting dalam pengambilan keputusan yang berdampak besar. Dalam kasus tertentu, konsultasikan dengan departemen hukum/kepatuhan; Diskriminasi adalah garis merah.
Tugas aplikasi
Tuliskan daftar 10 variabel yang digunakan model penetapan harga (aktual atau contoh). Untuk masing-masing pertanyaan, jawablah pertanyaan "mungkinkah ini merupakan proksi untuk properti yang dilindungi"; Tandai yang mencurigakan. Kemudian berikan contoh pembenaran penolakan melalui uji legitimasi #2: apakah lolos uji, dan jika tidak, bagaimana Anda menggantinya dengan kriteria yang sah?
daftar periksa
- [] Saya telah menentukan properti yang dilindungi.
- [] Saya memindai variabel untuk proxy.
- [ ] Saya menguji legitimasi dan penjelasan dari pembenaran tersebut.
- [ ] Saya melakukan pemeriksaan keandalan untuk kelompok yang kurang terwakili.
- [ ] Saya menambahkan kendali manusia dalam keputusan berdampak tinggi.
- [ ] Saya mendokumentasikan alasannya dan memberi pelanggan hak untuk menolak/meninjau manusia.
- [ ] Jika ragu, saya berkonsultasi dengan departemen hukum/kepatuhan.