Kazanimlar:
- Yapay zeka modellerindeki kültürel, cinsiyet ve tanısal önyargının psikoloji bağlamında nasıl zarar verdiğini örneklerle tanıyabilme
- Çıktıları farklı grup, dil ve kültür açısından test eden bir önyargı denetimi uygulayabilme
- Batı merkezli norm ve damgalayıcı dili düzelten prompt ve doğrulama teknikleri geliştirebilme
Yapay zeka (AI) tarafsız değildir. Bir AI modeli, internetteki devasa metin yığınından öğrenir ve bu yığın kimin sesini daha çok, kimin sesini daha az içeriyorsa, modelin "dünya görüşü" de o şekilde çarpılır. Bu çarpıklığa önyargı (bias) denir. Psikolojide önyargı sıradan bir teknik kusur değildir; bir insanın değerlendirilmesini, tanısını ve gördüğü muameleyi doğrudan etkileyebilir. Bir belirti bir kültürde "normal", başka bir kültürde "patolojik" okunabilir; bir davranış bir cinsiyette "kararlılık", diğerinde "saldırganlık" diye çerçevelenebilir. AI bu tarihsel önyargıları öğrenip çoğaltabilir. Bu ünitede AI'daki önyargıyı psikoloji bağlamında tanımayı ve çıktıları farklı grup, dil ve kültür açısından denetlemeyi öğreneceksiniz.
Önyargı nereden gelir, nasıl zarar verir
AI'ın önyargısının üç temel kaynağı vardır:
- Eğitim verisi dengesizliği. Modeller ağırlıkla belirli dil, kültür ve dönemin metinleriyle eğitilir. Psikoloji literatürünün büyük kısmı Batı, eğitimli, sanayileşmiş toplumlardan gelir; dolayısıyla AI'ın "normal insan" varsayımı bu dar örneklemi yansıtır.
- Tarihsel önyargının içerilmesi. Geçmişte belirli grupları patolojikleştiren, damgalayan metinler de veriye dahildir; model bu kalıpları öğrenir.
- Temsil eksikliği. Az temsil edilen gruplar (farklı etnik köken, dil, cinsel yönelim, engellilik) hakkında model ya yetersiz ya klişe bilgiye sahiptir.
Zarar somuttur: AI bir belirtiyi bir grupta olduğundan ciddi, başka grupta olduğundan hafif değerlendirebilir; bir kültürel ifadeyi (yas ritüeli, dini deneyim) yanlışlıkla belirti sayabilir; damgalayıcı, klişe bir dil üretebilir.
Dikkat: AI'ın bir çıktısı "nesnel bilim" gibi görünse de, öğrendiği önyargıları taşıyor olabilir. Özellikle farklı kültür, cinsiyet, cinsel yönelim ve sosyoekonomik gruplar söz konusu olduğunda, her çıktıyı "bu tüm gruplar için adil mi?" sorusuyla süzün.
Psikolojiye özel önyargı türleri
Önyargı türü
Psikolojideki görünümü
Riski
Kültürel önyargı
Batı normlarını evrensel sayma
Kültürel ifadeyi patoloji sanma
Cinsiyet önyargısı
Aynı davranışı cinsiyete göre farklı yorumlama
Tanısal eşitsizlik
Tanısal önyargı
Belirli grupları belirli tanılara "yatkın" gösterme
Aşırı/eksik tanı
Dil önyargısı
Baskın dilde daha "yetkin", diğerinde yüzeysel
Eşitsiz değerlendirme
Damgalama
Kişiyi tanısıyla özdeşleştiren dil
Onur kırıcı çerçeveleme
Adım adım: önyargı denetimi
- Çıktıyı "kim için yazılmış?" diye sorgula. Varsayılan özne kim? Genelde eğitimli, Batılı, "ortalama" biri.
- Farklı gruplarla test et. Aynı promptu farklı kültür, cinsiyet, yaş bağlamıyla tekrarla; yorum değişiyor mu?
- Damgalayıcı dili tara. Kişiyi tanısıyla özdeşleştiren ("şizofren" yerine "şizofreni yaşayan kişi") ifadeleri düzelt.
- Kültürel bağlamı ekle. AI'a danışanın kültürel/dilsel bağlamını belirt ve "bu bağlamda normal olabilecek ifadeleri patoloji sayma" de.
- Uzman ve topluluk gözü. Emin olmadığın kültürel konuda o kültürü bilen bir meslektaşa danış.
- Kararı insan versin. Önyargı denetimi bile AI'a bırakılmaz; nihai adalet muhakemesi sizindir.
İpucu: Bir çıktının önyargılı olup olmadığını test etmenin pratik yolu: prompttaki tek bir özelliği (cinsiyet, kültür, yaş) değiştirip aynı soruyu tekrar sorun. Yorum bu değişiklikle "haksız" biçimde değişiyorsa, orada bir önyargı vardır.
Üç mini vaka
Vaka 1 — Kültürel ifadeyi patolojikleştirme. Bir uzman, farklı bir kültürden bir danışanın yas sürecinde "merhumla konuştuğunu" AI'a anlatır. AI bunu "psikotik belirti olabilir" diye çerçeveler. Oysa bu, o danışanın kültüründe yaygın ve normal bir yas ifadesidir. Uzman kültürel bağlamı bildiği için AI'ın çıktısını reddeder. Bağlamı bilmeyen biri ciddi bir yanlış değerlendirme yapabilirdi.
Vaka 2 — Cinsiyet önyargısı testi. Bir araştırmacı, aynı vaka özetini iki kez AI'a verir; sadece kişinin cinsiyetini değiştirir. "Kadın" versiyonunda AI "duygusal dengesizlik" vurgusu yaparken, "erkek" versiyonunda aynı davranışı "stres tepkisi" diye çerçeveler. Bu, modelin cinsiyet önyargısını açıkça gösterir. Araştırmacı bu farkı belgeleyip çıktıları bu bilinçle kullanır.
Vaka 3 — Damgalayıcı dilin düzeltilmesi. Bir rapor taslağında AI "hasta bir borderline" ifadesini kullanır. Uzman bunu kişiyi tanısıyla özdeşleştiren damgalayıcı bir dil olarak görür ve "sınır kişilik örüntüsü tanımlanan bir birey" gibi kişiyi merkeze alan bir dile çevirir. Küçük bir dil değişikliği, danışanın onurunu koruyan büyük bir fark yaratır.
Kopyalanabilir promptlar ve şablonlar
Aşağıdaki metni önyargı açısından denetle: kültürel, cinsiyet, cinsel yönelim, yaşveya sosyoekonomik önyargı içeren ifadeleri işaretle. Ayrıca Batı normlarınıevrensel sayan varsayımları göster. Her biri için daha adil bir alternatif öner.Metin: [metin]
Aşağıdaki durumu değerlendirmemde bana yardım et, ama danışanın kültürel bağlamı şu:[kültür/dil]. Bu bağlamda NORMAL olabilecek ifadeleri patoloji olarak sunma; eminolmadığın kültürel noktada "bu kültürel olarak değişebilir, uzmana danış" de.Durum: [anonim durum]
Bu metindeki, kişiyi tanısıyla özdeşleştiren damgalayıcı ifadeleri (ör. "şizofren","bir borderline") kişiyi merkeze alan, onurunu koruyan bir dile çevir. İçeriği değiştirme,sadece dili insanileştir. Metin: [metin]
Şu vaka özetini iki kez değerlendireceğim: birinde özne [özellik A], diğerinde [özellik B].İki değerlendirme arasında haksız fark var mı, varsa nedeni bir önyargı mı? Karşılaştır.Özet: [anonim özet]
Zayıf prompt / Güçlü prompt
Zayıf prompt: "Bu danışanın davranışı normal mi anormal mi?"
Bu prompt "normal"in kime göre olduğunu sormaz; AI Batı-merkezli, kültürsüz bir "normal" varsayar ve kültürel ifadeyi patolojikleştirebilir.
Güçlü prompt: "Bu danışan [kültürel/dilsel bağlam] içinde. Bu davranışın o kültürel bağlamda normal bir ifade mi yoksa dikkat gerektiren bir işaret mi olabileceğini, ikisini de ayrı ayrı tartışarak açıkla. Kesin hüküm verme; kültürel bağlamı bilen bir uzmana danışmam gerektiğini hatırlat."
Bu prompt bağlamı merkeze alır, kültürel yanlış okumayı önler, kararı uzmana bırakır.
Sık yapılan hatalar
- AI çıktısını "nesnel" sanmak. Modelin önyargı taşıdığını unutup çıktıyı bilimsel gerçek gibi kabul etmek.
- Batı normunu evrensel saymak. "Normal"i tek bir kültüre göre tanımlayıp farklı ifadeleri patolojikleştirmek.
- Damgalayıcı dili fark etmemek. Kişiyi tanısıyla özdeşleştiren dili "teknik dil" sanmak.
- Önyargıyı test etmemek. Aynı promptu farklı gruplarla deneyip tutarlılığı kontrol etmemek.
- Bilmediğin kültürde tek başına karar vermek. O kültürü bilen bir meslektaşa danışmadan hüküm vermek.
Özetle
AI önyargılıdır çünkü önyargılı bir dünyanın metinlerinden öğrenir; psikolojide bu önyargı kültürel, cinsiyet, tanısal, dil ve damgalama biçiminde somut zarara dönüşür. Her çıktıyı "bu tüm gruplar için adil mi?" diye süzün; aynı promptu farklı gruplarla test edin; kültürel bağlamı promptunuza ekleyin; damgalayıcı dili kişiyi merkeze alan dile çevirin; bilmediğiniz kültürde uzman/topluluk gözüne başvurun. Adalet muhakemesi, önyargı denetimi de dahil, insandan çıkar.
Uygulama görevi
Bir vaka özeti (anonim) hazırlayın. AI'a iki kez verin; sadece tek bir özelliği (cinsiyet, kültür veya yaş) değiştirin. İki çıktıyı yan yana koyup haksız fark olup olmadığını inceleyin. Ayrıca bir rapor paragrafındaki damgalayıcı ifadeleri AI'a kişiyi merkeze alan dile çevirtin ve farkı not edin.
Kontrol listesi
- [ ] Çıktıyı "bu tüm gruplar için adil mi?" sorusuyla süzdüm.
- [ ] Aynı promptu farklı grup/kültürle test ettim.
- [ ] Kültürel bağlamı prompta ekledim; kültürel ifadeyi patolojikleştirmedim.
- [ ] Damgalayıcı dili kişiyi merkeze alan dile çevirdim.
- [ ] Bilmediğim kültürel konuda uzman/meslektaş gözüne başvurdum.
- [ ] Nihai adalet kararını AI'a değil, kendi muhakememe bıraktım.