Kazanimlar:
- Yapay zekanın eğitim verisi, çerçeveleme, çifte standart ve yalakalık yoluyla önyargı ürettiğini tanıyabilme
- Nötr soru, kanıt-kalıp yargı ayrımı ve ters açı testiyle önyargıya karşı bir denetim kurabilme
- Kültürel bilgiyi kesin kural değil dikkat noktası olarak kullanıp damgalayıcı dili betimleyici ve saygılı dile çevirebilme
Sosyal hizmetin varlık nedeni, adalet ve insan onurudur; mesleğin özünde her bireyin eşit değerde olduğu, ayrımcılığa karşı durulduğu ve kırılgan grupların korunduğu bir taahhüt vardır. İşte yapay zeka, tam da bu değerlere sessizce zarar verebilecek bir riski içinde taşır: önyargı. YZ, geçmiş verilerden öğrenir; o veriler toplumdaki eşitsizlikleri, kalıp yargıları ve ayrımcılığı içeriyorsa, YZ bunları öğrenir ve akıcı, "nesnel" görünen bir dille yeniden üretir. Bir sosyal hizmet uzmanının elinde bu, bir grubun sistematik olarak daha olumsuz değerlendirilmesine, bir ailenin kalıp yargıyla damgalanmasına ya da bir kültürün yanlış anlaşılmasına dönüşebilir. Bu ünitede YZ'nin önyargısını tanımayı, ona karşı denetim kurmayı ve YZ'yi adalet ve kültürel duyarlılıkla kullanmayı öğreneceksiniz.
Baştan bir gerçek: YZ tarafsız değildir, tarafsız görünür. En tehlikeli önyargı, kendinden emin ve profesyonel bir dille sunulan önyargıdır; çünkü sorgulanmadan kabul edilir. Sosyal hizmet uzmanı olarak sizin işiniz, bu görünmez önyargıyı görünür kılmak ve çıktının sizin mesleki değerlerinizle çelişip çelişmediğini denetlemektir.
YZ önyargısı nereden gelir ve nasıl görünür?
- Eğitim verisi önyargısı. YZ, toplumdaki eşitsizlikleri yansıtan metinlerden öğrenir. Belirli etnik gruplar, yoksullar, engelliler, belirli mahalleler veya cinsiyetler hakkındaki kalıp yargılar çıktıya sızabilir.
- Dil ve çerçeveleme önyargısı. YZ bir grubu edilgen, "sorunlu" veya "yardıma muhtaç bir nesne" olarak çerçeveleyebilir; başka bir grubu ise özne olarak. Aynı davranışı bir grup için "kültürel", başka bir grup için "sorunlu" diye yorumlayabilir.
- Temsil eksikliği. YZ, veride az temsil edilen grupları (küçük topluluklar, nadir durumlar) yanlış veya yüzeysel anlayabilir.
- Yalakalık (sycophancy). YZ, sizin ima ettiğiniz görüşü onaylama eğilimindedir; önyargılı bir soru, önyargılı bir onay getirir.
Bu önyargılar sosyal hizmette özellikle tehlikelidir çünkü çıktı doğrudan gerçek insanların hayatına — bir değerlendirmeye, bir rapora, bir yönlendirmeye — dokunur.
Dikkat: "YZ öyle değerlendirdi" bir gerekçe değil, bir uyarı işaretidir. Bir grubu ya da bireyi olumsuz gösteren bir çıktı gördüğünüzde ilk soru "bu kanıta mı, yoksa kalıp yargıya mı dayanıyor?" olmalıdır.
Adım adım: önyargıya karşı denetim
- Nötr sor. İma ve yönlendirme içermeyen sorular sorun; "bu ailenin neden ihmalkâr olduğunu açıkla" değil, "bu gözlemler ne anlama gelebilir, alternatif açıklamalar neler?" diye sorun.
- Kanıt-kalıp yargı ayrımı yap. Her olumsuz ifade için sorun: bu, önümdeki somut kanıta mı dayanıyor, yoksa bir gruba dair genel bir varsayıma mı?
- Ters açıdan test et. Aynı durumu farklı bir grup için düşünün: "Danışan farklı bir sosyoekonomik/etnik kökenden olsaydı, YZ bunu aynı dille mi yazardı?"
- Kültürel duyarlılık iste. Bir davranışın kültürel bağlamını sorun; ama kültürel bilgiyi kesin kural değil, olasılık ve dikkat noktası olarak alın (stereotipten kaçının).
- Damgalayıcı dili temizle. Kişiyi değil durumu tanımlayan, güçlü yönleri de gören bir dile çevirin.
Üç mini vaka
Vaka 1 — Ters açı önyargıyı ortaya çıkardı. Bir uzman, iki benzer vakayı YZ'ye özetletti; tek fark ailelerin sosyoekonomik durumuydu. YZ, düşük gelirli aile için "ihmal riski yüksek" tonunda, yüksek gelirli aile için aynı davranışa "zorlanan ebeveyn" tonunda yazdı. Uzman bu çifte standardı fark etti ve her iki değerlendirmeyi de kanıta dayalı, eşit bir dile çekti.
Vaka 2 — Kültürel yanlış yorum düzeltildi. YZ, geniş aileyle yaşayan bir çocuğun durumunu "sınır sorunu ve karışık bir ev ortamı" diye çerçeveledi. Uzman, ailenin kültürel bağlamında geniş ailenin güçlü bir destek ve koruma kaynağı olduğunu biliyordu. YZ, bir kültürel gücü bir soruna çevirmişti. Değerlendirme, bu desteği bir kaynak olarak gören biçimde düzeltildi.
Vaka 3 — Yönlendirici soru önyargı üretti. Bir stajyer YZ'ye "bu babanın neden güvenilmez olduğunu yaz" diye sordu. YZ, hiçbir kanıt olmadan babayı olumsuz gösteren bir metin üretti (yalakalık). Süpervizör soruyu değiştirdi: "Baba hakkındaki gözlemler nelerdir, hem güçlü hem zayıf yönleri neler olabilir?" Çıktı dengeli ve kanıta dayalı hâle geldi. Ders: önyargılı soru, önyargılı cevap üretir.
Dört kopyalanabilir şablon
1) Nötr, dengeli değerlendirme istemi:
Aşağıdaki gözlemleri özetlerken hem olası güçlü yönleri hemolası endişeleri DENGELİ biçimde ve YALNIZCA kanıta dayanaraksun. Kalıp yargıya dayanan hiçbir çıkarım yapma. Bir yorumundayanağı gözlemde yoksa "kanıt yetersiz" yaz.Gözlemler: [gözlemleri yapıştır]
2) Önyargı denetimi (ters açı testi):
Aşağıdaki değerlendirme metnini incele. Danışanınsosyoekonomik durumu, etnik kökeni, dini, cinsiyeti, engeliveya mahallesi yüzünden kanıtsız bir kalıp yargı taşıyanifadeler var mı? Her biri için sor: "Danışan farklı bir gruptanolsaydı bu aynı dille yazılır mıydı?" Sorunlu cümleleri işaretle.Metin: [metni yapıştır]
3) Kültürel bağlam (stereotipsiz):
Aşağıdaki davranış/durumun farklı kültürel bağlamlarda ne anlamagelebileceğine dair OLASILIKLAR sun. Bunları kesin kural değil,dikkat edilecek noktalar olarak ver; her toplulukta bireyselfarklar olduğunu vurgula. Tek bir gruba dair genelleme yapma.Durum: [durumu yaz]
4) Damgalayıcı dil temizliği:
Aşağıdaki metinde kişiyi yargılayan, damgalayan sıfatları(örn. "ihmalkâr", "işbirliksiz", "sorunlu") bul. Her biri içinaynı olguyu betimleyici, saygılı ve güçlü yönleri de gören biralternatifle değiştir. Yeni bilgi ekleme.Metin: [metni yapıştır]
Zayıf prompt / Güçlü prompt
Zayıf prompt:
Bu ailenin çocuk yetiştirmede neden yetersiz olduğunu açıkla.
Bu soru sonucu baştan varsayıyor ("yetersiz"). YZ, yalakalık eğilimiyle bu varsayımı doğrulayan, kanıtsız ve önyargılı bir metin üretecektir. Soru önyargılıysa cevap da önyargılı olur.
Güçlü prompt:
Aşağıdaki gözlemlere dayanarak bu ailenin çocuk yetiştirmedekihem güçlü yönlerini hem endişe alanlarını DENGELİ ve yalnızcakanıta dayalı biçimde listele. Sonucu baştan varsayma; kanıtyetersizse öyle belirt. Kalıp yargıdan kaçın.Gözlemler: [gözlemleri yapıştır]
Fark: sonucu varsaymayan, dengeli ve kanıt isteyen bir soru, önyargıyı en baştan engeller.
Önyargı türleri ve karşı önlem
Önyargı türü
Nasıl görünür
Karşı önlem
Eğitim verisi
Grup kalıp yargısı
Kanıt-kalıp ayrımı
Çerçeveleme
Edilgen/olumsuz dil
Dengeli, özne-merkezli dil
Çifte standart
Aynı davranış, farklı ton
Ters açı testi
Kültürel körlük
Kültürel gücü soruna çevirme
Kültürel bağlam sorusu
Yalakalık
İmayı onaylama
Nötr soru sorma
Temsil eksikliği
Yüzeysel/yanlış anlama
Yerel/uzman teyidi
Sık yapılan hatalar
- Önyargılı soru sormak. Sonucu varsayan soru, önyargılı cevap üretir; nötr sorun.
- Kendinden emin dile güvenmek. Profesyonel ton, önyargıyı doğru yapmaz; kanıta bakın.
- Kültürel bilgiyi kesin kural sanmak. Olasılık ve dikkat noktası olarak alın; stereotipten kaçının.
- Çifte standardı fark etmemek. Aynı davranışın farklı gruplarda nasıl yazıldığını test edin.
- Damgayı kanıt sanmak. "İhmalkâr" bir yargıdır; olguyu betimleyin, kişiyi yargılamayın.
Özetle
YZ tarafsız değildir, tarafsız görünür; eğitim verisindeki eşitsizlikleri ve kalıp yargıları akıcı bir dille yeniden üretir. Sosyal hizmette bu, gerçek insanların adaletsiz değerlendirilmesine yol açabilir. Önyargıyı tanıyın (eğitim verisi, çerçeveleme, çifte standart, kültürel körlük, yalakalık), ona karşı denetim kurun (nötr soru, kanıt-kalıp ayrımı, ters açı testi, kültürel duyarlılık, damga temizliği) ve her çıktıyı mesleğin adalet ve onur değerleriyle süzün. Son etik filtre her zaman sizsiniz.
Uygulama görevi
Aynı kurgusal gözlem setini iki farklı grup profiliyle (örn. farklı sosyoekonomik durum) YZ'ye özetletin ve tonların/dilin farklılaşıp farklılaşmadığını "ters açı testi" ile karşılaştırın. Sonra bilinçli önyargılı bir soru ("neden yetersiz olduğunu açıkla") ile nötr bir soruyu deneyin ve çıktıların farkını inceleyin. Son olarak "damgalayıcı dil temizliği" şablonunu bir metne uygulayın.
Kontrol listesi
- [ ] Sorularımı sonucu varsaymadan, nötr biçimde kurdum.
- [ ] Her olumsuz ifadeyi kanıt-kalıp yargı ayrımıyla denetledim.
- [ ] Ters açı testiyle çifte standardı kontrol ettim.
- [ ] Kültürel bilgiyi kesin kural değil, dikkat noktası olarak kullandım.
- [ ] Damgalayıcı dili betimleyici, saygılı dille değiştirdim.