Kazanimlar:
- Yapay zeka modellerinde önyargının (bias) verilerden ve tasarımdan nasıl doğduğunu ve bankacılıkta neden hukuki ve etik risk yarattığını kavrayabilme
- Korumalı özellikler, vekil değişkenler (proxy) ve dolaylı ayrımcılığı tanıyıp model kararlarını adalet açısından sorgulayabilme
- Adalet metrikleri, dışlanan gruplar ve itiraz hakkının model yönetişimine nasıl örüldüğünü kavrayıp ayrımcılık kırmızı çizgisini koruyabilme
Bir yapay zeka modeli tarafsız değildir; öğrendiği verinin bir aynasıdır. Veri geçmişteki eşitsizlikleri taşıyorsa, model onları öğrenir ve geleceğe taşır. Bankacılıkta bu, soyut bir etik tartışma değildir: bir kredi modeli, belirli bir grubu sistematik olarak dezavantajlı hale getirirse, bu hem hukuka aykırıdır (ayrımcılık yasağı) hem de etik bir ihlaldir hem de bankaya itibar ve yaptırım riski getirir. Bu ünitenin amacı, modelin nasıl önyargılı hale geldiğini, ayrımcılığın doğrudan ve dolaylı biçimlerini, vekil değişken tuzağını ve adaleti model yönetişimine örmenin yollarını göstermektir. Tek bir kırmızı çizgi baştan söylenmeli: ayrımcılık, ne kadar "istatistiksel" görünürse görünsün, kabul edilemez.
Önyargı (bias) nereden gelir
- Veri önyargısı: Geçmiş kararlar adaletsizse (ör. belirli bir gruba geçmişte daha az kredi verildiyse), model bunu "normal" sanıp sürdürür. Buna tarihsel önyargı denir.
- Örnekleme önyargısı: Bazı gruplar veride az temsil edilirse model onlar hakkında zayıf ve hatalı öğrenir.
- Etiket önyargısı: "İyi müşteri" tanımının kendisi önyargılıysa, model önyargıyı optimize eder.
- Tasarım önyargısı: Hangi değişkenlerin kullanılacağına dair insan seçimleri de önyargı taşıyabilir.
İpucu: "Model veriye dayanıyor, o yüzden objektiftir" cümlesi bir yanılgıdır. Veri geçmişin fotoğrafıdır; geçmiş adaletsizse, "objektif" model adaletsizliği matematikle meşrulaştırır. Objektiflik, tarafsızlık garantisi değildir.
Doğrudan ve dolaylı ayrımcılık
- Doğrudan ayrımcılık: Modelin korumalı bir özelliği (cinsiyet, etnik köken, din, yaş) doğrudan kullanması. Bu açıkça yasaktır.
- Dolaylı ayrımcılık (vekil değişken / proxy): Model korumalı özelliği doğrudan kullanmasa bile, onunla güçlü ilişkili başka bir değişkeni (posta kodu, isim, alışveriş kategorisi, çalışılan semt) kullanarak aynı sonucu üretmesi. Posta kodu, çoğu zaman etnik köken veya gelir düzeyinin vekilidir. Model "semt" der ama sonuç "köken" ayrımcılığı olur.
Değişken
Görünürde
Vekil olabilir
Posta kodu / semt
Coğrafya
Etnik köken, gelir düzeyi
İsim
Kimlik
Köken, cinsiyet
Alışveriş kategorisi
Davranış
Yaşam tarzı, inanç
Mezun olunan okul
Eğitim
Sosyoekonomik köken
Bu yüzden bir gerekçede "semt riskli" gibi bir ifade gördüğünüzde alarm çalmalıdır: bu meşru bir kriter gibi görünüp dolaylı ayrımcılık taşıyabilir.
Dikkat: Korumalı özelliği veriden çıkarmak ayrımcılığı bitirmez. Vekil değişkenler onu geri getirebilir. Adalet, "hassas sütunu sildim" ile sağlanmaz; model kararlarının sonuçlarını gruplar arası test etmekle sağlanır.
Adaleti yönetişime örmek
- Adalet metrikleri. Modelin onay/red oranlarını, hata oranlarını gruplar arasında karşılaştırın. Bir grup sistematik olarak daha yüksek red mı alıyor?
- Proxy denetimi. Kullanılan değişkenlerin korumalı özelliklerle ilişkisini inceleyin.
- Açıklanabilirlik. Her karar için gerekçe üretilebilmeli; "kara kutu" bir red savunulamaz.
- İtiraz hakkı. Müşteriye kararın gerekçesini öğrenme ve insan incelemesi talep etme hakkı tanınmalı.
- Dışlanan gruplar. Veride az temsil edilen grupların hatalı muamele görmediği ayrıca kontrol edilmeli.
Dört kopyalanabilir şablon
1) Gerekçede ayrımcılık taraması:
Aşağıdaki kredi kararı gerekçesini denetle: korumalı bir özelliğe (yaş,cinsiyet, köken, din) veya bir vekil değişkene (posta kodu, semt, isim,alışveriş türü) doğrudan/dolaylı atıf var mı? Riskli ifadeleri işaretle veneden ayrımcılık riski taşıdığını açıkla. Gerekçe: [metin]
2) Değişken listesi proxy denetimi:
Bir kredi modelinde kullanılan şu değişken listesini incele. Hangilerikorumalı bir özelliğin vekili (proxy) olabilir ve dolaylı ayrımcılık riskitaşır? Her riskli değişken için gerekçeni yaz. Liste: [değişkenler]
3) Adalet açısından karar özeti (nötr, açıklanabilir):
Rolün: açıklanabilir karar gerekçesi taslağı yazan asistan.Yalnızca meşru, ayrımcı olmayan kriterlere (borç/gelir oranı, ödeme geçmişi,teminat) dayan. Korumalı özellik ve vekil değişkene atıf YAPMA. Gerekçeyimüşterinin anlayacağı sade bir dille yaz. Onayı ben vereceğim.
4) İtiraz yanıtı taslağı:
Bir müşteri kredi reddine itiraz etti ve gerekçe istiyor. Meşru kriterleredayanan, saygılı ve açıklayıcı bir yanıt taslağı yaz; müşteriye insanincelemesi ve düzeltme hakkını hatırlat. Ayrımcı hiçbir ima kullanma.Doğrulanmış red nedeni: [neden]
Zayıf prompt / Güçlü prompt
Zayıf prompt:
Bu bölgedeki başvurular çok riskli çıkıyor, semt bilgisini modelde dahaağırlıklı kullanalım ki isabet artsın.
Bu yaklaşım semt üzerinden dolaylı ayrımcılığı güçlendirir; "isabet" adına hukuka aykırı bir sonucu meşrulaştırır.
Güçlü prompt:
Rolün: adalet denetimi yapan asistan.Kullanılan değişkenler arasında vekil değişken riski taşıyanları işaretle.Kararları gruplar arası onay/red oranı açısından karşılaştırmam için hangimetrikleri izlemem gerektiğini öner. Ayrımcı bir kriteri asla güçlendirme;meşru ve açıklanabilir kriterlere yönlendir.
Güçlü istem proxy riskini arar, adalet metriklerini gündeme getirir ve ayrımcılığı reddeder.
Üç mini vaka
Vaka 1 — Tarihsel önyargı. Bir model, geçmişte belirli bir meslek grubuna daha az kredi verildiği için bu gruba sistematik düşük skor verir. Adalet denetiminde bu grubun red oranının benzer gelir seviyesindeki diğerlerinden %30 yüksek olduğu görülür. Model, meşru gelir ve ödeme kriterleriyle yeniden dengelenir.
Vaka 2 — Vekil değişken. Bir modelde posta kodu güçlü bir değişkendir. Denetim, posta kodunun belirli etnik yoğunluklu mahallelerle örtüştüğünü ve dolaylı köken ayrımcılığı ürettiğini gösterir. Değişken çıkarılır ve yerine meşru finansal kriterler konur; performans kabul edilebilir düzeyde kalır, ayrımcılık ortadan kalkar.
Vaka 3 — İtiraz hakkı. Reddedilen bir müşteri gerekçe ister. Banka, açıklanabilir gerekçeyi (borç/gelir oranı yüksek) sunar ve insan incelemesi talebini kabul eder. İnceleme, bir belgenin yanlış okunduğunu ortaya çıkarır; karar düzeltilir. Açıklanabilirlik ve itiraz hakkı, bir hatayı adaletle telafi eder.
Adalet metrikleri: neyi, nasıl ölçeriz
"Model adil mi?" sorusunun tek bir cevabı yoktur; adaletin birden çok tanımı vardır ve bunlar bazen birbiriyle çelişir. Bankacılıkta pratik olarak izlenen birkaç yaklaşım şudur:
- Onay/red oranı karşılaştırması: Benzer finansal profildeki farklı gruplar (ör. cinsiyet grupları) arasında onay oranı sistematik olarak farklı mı? Büyük ve açıklanamayan bir fark, önyargı işaretidir.
- Hata oranı eşitliği: Modelin yanlış red (meşru başvuruyu reddetme) oranı gruplar arasında dengeli mi? Bir grup diğerinden daha sık haksız yere reddediliyorsa sorun vardır.
- Kalibrasyon: Modelin "yüksek risk" dediği müşteriler her grupta gerçekten benzer oranda mı temerrüde düşüyor? Skorun anlamı gruptan gruba kaymamalı.
Bu metrikler bazen aynı anda sağlanamaz; hangi adalet tanımının önceliklendirileceği teknik değil, etik ve hukuki bir karardır ve insan yönetişimi gerektirir.
İpucu: Adalet metriğini yalnızca modeli kurarken değil, düzenli aralıklarla ölçün. Bir model canlıya adil girip, veri kayması yüzünden zamanla önyargılı hale gelebilir. Adalet, bir "kurulum" değil, bir "izleme" işidir.
Sık yapılan hatalar
- "Objektif veri" yanılgısı. Modeli tarafsız sanmak; veri geçmiş önyargıyı taşır.
- Sadece hassas sütunu silmek. Korumalı özelliği çıkarıp vekil değişkenleri gözden kaçırmak.
- Adalet metriğini izlememek. Gruplar arası red/hata oranını hiç karşılaştırmamak.
- Kara kutu kararı savunmak. Gerekçesi gösterilemeyen kararı meşru saymak.
- İtiraz hakkını kaldırmak. "Süreci yavaşlatıyor" diye insan incelemesini devre dışı bırakmak.
Dikkat: Ayrımcılık çoğu zaman kötü niyetle değil, dikkatsizlikle doğar. "İsabeti artırıyor" diye eklenen bir değişken, farkında olmadan bir grubu dışlayabilir. Bu yüzden adalet, iyi niyete değil, düzenli teste dayanır.
Özetle
Yapay zeka modelleri, öğrendikleri verinin önyargılarını taşır ve bankacılıkta ayrımcılık hukuki, etik ve itibari bir risktir. Doğrudan ayrımcılık korumalı özelliği kullanmaktır; dolaylı ayrımcılık ise vekil değişkenlerle (posta kodu, isim) aynı sonucu üretmektir. Adalet, hassas sütunu silmekle değil; adalet metrikleri, proxy denetimi, açıklanabilirlik ve itiraz hakkıyla sağlanır. Tek cümlede: Model geçmişi tekrarlar; adaleti gözetmek ve ayrımcılığı reddetmek insanın sorumluluğudur.
Uygulama görevi
Bir kredi modeli için 8-10 değişkenlik bir liste yazın (bazıları kasıtlı olarak proxy riski taşısın: posta kodu, isim, alışveriş kategorisi). 2. şablonla proxy denetimi yapın ve riskli olanları gerekçeleriyle işaretleyin. Sonra ayrımcı bir gerekçe metni yazıp 1. şablonla tarayın. Son olarak modelin gruplar arası red oranını karşılaştırmak için hangi adalet metriklerini izleyeceğinizi bir paragrafta planlayın.
Kontrol listesi
- [ ] Modelin/gerekçenin korumalı özellik kullanmadığını denetledim.
- [ ] Vekil değişken (proxy) riskini ayrıca taradım.
- [ ] Gruplar arası onay/red ve hata oranını karşılaştırmayı planladım.
- [ ] Her kararın açıklanabilir bir gerekçesi olmasını sağladım.
- [ ] Müşteriye itiraz ve insan incelemesi hakkı tanıdım.
- [ ] Ayrımcılık kırmızı çizgisini "isabet" gerekçesiyle bile geçmedim.