Kazanimlar:
- Fiyatlama ve underwriting'de ayrımcılık, önyargı (bias) ve dolaylı ayrımcılık risklerini tanıyıp yapay zeka çıktısında sınayabilme
- SEDDK düzenlemeleri, KVKK ve otomatik karar alma ilkeleri çerçevesinde açıklanabilirlik ve itiraz hakkını gözetebilme
- Yüksek riskli otomatik kararlarda insan denetimi ve gerekçelendirme yükümlülüğünü uygulayabilme
Sigortacılık, riski gruplayıp fiyatlayan bir iştir; ama bu gruplama adil olmak zorundadır. Bir kişiye cinsiyeti, etnik kökeni, inancı, yaşadığı bölge gibi korumalı özellikler nedeniyle daha yüksek prim vermek veya teminat reddetmek haksız ayrımcılıktır ve yasaktır. Yapay zeka (geçmiş verilerden öğrenip fiyat ve karar önerileri üreten yazılım) bu alanda özel bir tehlike taşır: geçmiş verideki adaletsiz örüntüleri öğrenip, farkında olmadan ayrımcılığı sürdürebilir ve hatta gizleyebilir. Üstelik bunu doğrudan değil, dolaylı olarak (bir vekil değişken üzerinden) yapabilir. Bu ünitede fiyatlama ve underwriting'de önyargı (bias) ve ayrımcılık risklerini nasıl tanıyacağınızı, yapay zeka çıktısını adalet açısından nasıl sınayacağınızı ve SEDDK (Sigortacılık ve Özel Emeklilik Düzenleme ve Denetleme Kurumu), KVKK ve otomatik karar alma ilkeleri çerçevesinde açıklanabilirlik ve itiraz hakkını nasıl gözeteceğinizi öğreneceksiniz. Bu ünite bir hukuk danışmanlığı değildir; genel ilkeleri anlatır, somut durumda mutlaka hukuk/uyum birimine danışın.
Önyargı ve ayrımcılık nereden gelir
Yapay zeka önyargısı üç ana kaynaktan doğar:
- Veri önyargısı: Model, geçmiş verideki adaletsizliği öğrenir. Örneğin geçmişte belirli bir gruba sistematik olarak yüksek prim verilmişse, model bunu "normal" sayıp sürdürür.
- Vekil değişken (proxy): Model korumalı özelliği (cinsiyet, köken) doğrudan kullanmasa bile, onunla güçlü ilişkili bir değişkeni (mahalle, isim, alışveriş örüntüsü) kullanarak dolaylı ayrımcılık yapar.
- Örneklem önyargısı: Bazı gruplar veride az temsil edildiği için model onlar hakkında güvenilmez ve haksız kararlar üretir.
Ayrımcılığın iki türü vardır. Doğrudan ayrımcılık: korumalı özelliğin açıkça kullanılması. Dolaylı ayrımcılık: görünüşte tarafsız bir kriterin belirli bir grubu orantısız etkilemesi. İkincisi daha sinsidir çünkü niyet olmadan da oluşur ve fark edilmesi zordur.
Dikkat: "Model istatistiğe dayanıyor, o yüzden objektiftir" savunması yanlıştır. İstatistik, geçmişteki adaletsizliği de içerir; model onu meşrulaştırmaz, sürdürür. Adalet, aktif olarak test edilmesi gereken bir şeydir.
Adalet açısından çıktıyı sınama
Yapay zeka çıktısını (fiyat önerisi, ret gerekçesi, risk skoru) adalet için üç soruyla sınayın:
- Gerekçe meşru mu? Karar, riskle gerçek ve gerekçelendirilebilir bir ilişkisi olan kriterlere mi dayanıyor, yoksa korumalı özelliğe veya onun proxy'sine mi?
- Proxy var mı? Kullanılan değişkenlerden biri (mahalle, isim, meslek, medeni hal) korumalı bir özellikle güçlü ilişkili olabilir mi?
- Açıklanabilir mi? Kararı müşteriye ve denetçiye anlaşılır ve savunulabilir biçimde açıklayabilir misiniz? "Model öyle dedi" bir açıklama değildir.
Bir gerekçe bu üç testten geçemiyorsa reddedilir ve karar meşru kriterlere dayandırılır.
İpucu: Bir ret veya yüksek prim gerekçesini şu cümleyle test edin: "Bunu müşteriye ve bir denetçiye açıkladığımda utanır mıyım?" Utanılacak, savunulamayacak bir gerekçe (mahalle, isim, köken) kullanılmamalıdır.
Mevzuat çerçevesi: SEDDK, KVKK, otomatik karar
Sigortacılıkta yapay zeka kullanımı çeşitli düzenlemelere tabidir. Ana ilkeler:
- SEDDK ilkeleri: Sigortacılık faaliyeti adil, şeffaf ve tüketiciyi koruyacak biçimde yürütülmelidir; fiyatlama gerekçelendirilebilir olmalı, haksız ayrımcılık yapılmamalıdır.
- KVKK: Kişisel veri hukuka uygun, amaçla sınırlı ve güvenli işlenmelidir. Sağlık gibi özel nitelikli veriler en yüksek korumaya tabidir.
- Otomatik karar alma ilkeleri: Yalnızca otomatik işlemeye dayanan ve kişiyi önemli ölçüde etkileyen kararlarda (örneğin yapay zekanın tek başına verdiği bir ret) kişinin; karara itiraz etme, insan müdahalesi talep etme ve kararın gerekçesini öğrenme hakları öne çıkar.
Bu nedenle yüksek etkili kararlarda açıklanabilirlik, insan denetimi ve gerekçelendirme zorunludur. "Kara kutu" bir modelin gerekçesiz kararı hem denetlenemez hem de bu haklarla çelişir.
Adım adım: Adil ve uyumlu karar
- Korumalı özellikleri belirle. Cinsiyet, köken, inanç, sağlık, yaşanan bölge vb.
- Proxy taraması yap. Kullanılan değişkenlerin korumalı özelliklerle ilişkisini sorgula.
- Gerekçeyi meşruiyet testinden geçir. Riskle gerçek ilişki var mı, açıklanabilir mi?
- İnsan denetimi ekle. Yüksek etkili kararda otomatik sonucu insan gözden geçirsin.
- Gerekçeyi belgele. Karar hangi meşru kritere dayandı, kaydet.
- İtiraz yolunu tanı. Müşteriye itiraz, insan incelemesi ve gerekçe öğrenme hakkını sağla.
Üç mini vaka
Vaka 1 — Proxy'yi reddetmek. Bir konut fiyatlama modeli, belirli bir posta koduna sistematik yüksek prim öneriyordu. Uzman inceledi: posta kodu, belirli bir etnik yoğunluğa sahip bir bölgeyle örtüşüyordu; bu bir vekil değişkendi. Gerçek risk (bina yaşı, yapı türü, hasar geçmişi) ayrıştırıldığında zamın büyük kısmının gerekçesi kalmadı. Fiyat, meşru risk kriterlerine göre yeniden kuruldu.
Vaka 2 — Az temsil edilen grup. Bir sağlık ürününde model, küçük bir yaş grubuna aşırı yüksek prim önerdi. Sebep: bu grup veride çok az temsil ediliyordu ve birkaç yüksek hasar tüm grubu "riskli" göstermişti. Uzman kredibilite (istatistiksel güvenilirlik) düzeltmesi yaptı ve önerinin güvenilmez olduğunu belgeledi; haksız zam uygulanmadı.
Vaka 3 — İtiraz hakkı. Bir başvuru, yapay zeka destekli bir skorla otomatik reddedildi. Müşteri itiraz etti. Uyum süreci gereği karar bir uzman tarafından yeniden incelendi; skorun eksik bir veriye (yanlış eşleşen bir geçmiş hasar) dayandığı görüldü. Karar düzeltildi. İnsan denetimi ve itiraz hakkı olmasaydı haksız ret kalıcı olacaktı.
Dört kopyalanabilir prompt
1) Proxy ve ayrımcılık taraması:
Aşağıdaki fiyatlama/karar gerekçesini adalet açısından denetle: [gerekçe]Şunları ara: korumalı özellik (cinsiyet, köken, inanç, sağlık, yaşanan bölge)doğrudan veya dolaylı (proxy: mahalle, isim, meslek vb.) kullanılıyor mu?Her şüpheli değişken için neden proxy olabileceğini açıkla ve meşru alternatif öner.
2) Gerekçe meşruiyet testi:
Şu ret/yüksek prim gerekçesini üç soruyla test et: [gerekçe]1. Riskle gerçek ve gerekçelendirilebilir ilişki var mı?2. Korumalı özelliğe veya proxy'sine mi dayanıyor?3. Müşteriye ve denetçiye açıklanabilir mi?Her soruya net cevap ver; testten geçmeyen gerekçeyi "REDDEDİLMELİ" olarak işaretle.
3) Açıklanabilir gerekçe taslağı:
Aşağıdaki DOĞRULANMIŞ, meşru risk kriterlerine dayanan karar için müşteriyeyönelik açıklanabilir bir gerekçe taslağı yaz: [meşru kriterler]Ton: saygılı, net. Korumalı özellik/proxy kullanma. Müşterinin itiraz veinsan incelemesi talep etme hakkını belirt. Bu bir taslaktır; uzman onaylar.
4) İnsan denetimi kontrol listesi:
Yüksek etkili bir otomatik karar için insan denetimi kontrol listesi oluştur:Karar türü: [ret/yüksek prim/teminat kısıtı]Liste: gözden geçiren yetkin uzman, kontrol edilen veriler, adalet/proxykontrolü, gerekçe belgesi, müşteriye itiraz yolu bildirimi, iz kaydı.
Zayıf prompt / Güçlü prompt
Zayıf: "Bu veriyle en kârlı fiyatı belirle, gerekçeyi de sen yaz."
Sorun: Adalet, proxy ve açıklanabilirlik gözetilmiyor; model geçmişteki ayrımcılığı sürdürebilir ve gerekçe uydurabilir.
Güçlü: "Bu gerekçeyi proxy ve ayrımcılık açısından denetle; korumalı özelliğe veya proxy'sine dayanan noktaları işaretle ve meşru risk kriteriyle değiştir. Açıklanabilir bir gerekçe taslağı çıkar."
Neden iyi: Ayrımcılık aktif olarak test ediliyor, karar meşru ve açıklanabilir kriterlere dayanıyor.
Karşılaştırma tablosu
Konu
Riskli yaklaşım
Doğru yaklaşım
Model çıktısı
"İstatistik objektiftir"
Adaleti aktif test et
Değişken seçimi
Her veriyi kullan
Proxy'leri ayıkla
Gerekçe
"Model öyle dedi"
Meşru, açıklanabilir kriter
Yüksek etkili karar
Tam otomatik
İnsan denetimi zorunlu
Müşteri hakkı
Bildirilmez
İtiraz + insan inceleme + gerekçe
Sık yapılan hatalar
- "İstatistik objektiftir" savunması. Geçmişteki adaletsizliği meşrulaştırmak.
- Proxy'yi görmezden gelmek. Mahalle/isim/meslek üzerinden dolaylı ayrımcılık yapmak.
- Az temsili grup için güvenilmez karar. Küçük örneklemden çıkan oranı kesin sanmak.
- Kara kutu karar. Gerekçesi açıklanamayan otomatik kararı uygulamak.
- İtiraz hakkını tanımamak. Müşteriye insan incelemesi ve gerekçe hakkını vermemek.
Özetle
Yapay zeka fiyatlama ve underwriting'de geçmiş verideki ayrımcılığı öğrenip dolaylı (proxy üzerinden) sürdürebilir. Adaleti aktif olarak test edin: korumalı özellikleri ve proxy'leri belirleyin, gerekçeyi meşruiyet ve açıklanabilirlik testinden geçirin. SEDDK, KVKK ve otomatik karar alma ilkeleri; adil fiyatlama, açıklanabilirlik, insan denetimi ve itiraz hakkını gerektirir. Yüksek etkili kararlarda insan denetimi zorunludur. Somut durumda hukuk/uyum birimine danışın; ayrımcılık kırmızı çizgidir.
Uygulama görevi
Bir fiyatlama modelinin kullandığı 10 değişkenin listesini yazın (gerçek veya örnek). Her biri için "bu korumalı bir özelliğin proxy'si olabilir mi" sorusunu yanıtlayın; şüpheli olanları işaretleyin. Ardından bir örnek ret gerekçesini 2 numaralı meşruiyet testinden geçirin: testten geçiyor mu, geçmiyorsa meşru kriterle nasıl değiştirirsiniz?
Kontrol listesi
- [ ] Korumalı özellikleri belirledim.
- [ ] Değişkenleri proxy açısından taradım.
- [ ] Gerekçeyi meşruiyet ve açıklanabilirlik testinden geçirdim.
- [ ] Az temsil edilen gruplar için güvenilirlik kontrolü yaptım.
- [ ] Yüksek etkili kararda insan denetimi ekledim.
- [ ] Gerekçeyi belgeleyip müşteriye itiraz/insan inceleme hakkını tanıdım.
- [ ] Tereddütte hukuk/uyum birimine danıştım.