Kazanimlar:
- Risk ve koruyucu faktör kontrol listesi ile güvenlik planı iskeletini yapay zeka ile hazırlayıp hiçbir alanı atlamadan çalışabilme
- Risk düzeyi/skoru ve güvenlik kararının yalnızca uzman, ekip, süpervizyon ve yasal süreçle verildiğini, yapay zekanın karar üretemeyeceğini kavrayabilme
- Yapay zekanın dezavantajlı gruplara sistematik önyargı atfedebileceğini görüp çıktısını asla bir karar olarak kullanmama ve en hassas veriyi yalnızca güvenli sistemde işleme disiplinini uygulayabilme
Sosyal hizmetin en ağır sorumluluğu risk değerlendirmesidir — yani bir çocuğun ihmal veya istismar altında olup olmadığı, bir bireyin kendine ya da başkasına zarar verme ihtimali, bir yaşlının güvende olup olmadığı, bir şiddet mağdurunun ne kadar tehlike altında olduğu gibi, doğrudan can güvenliğini ilgilendiren yargılar. Bu ünitenin en baştaki ve en kalın çizgili kuralı şudur: Risk kararı YZ'ye ait değildir, olamaz ve olmamalıdır. Bir insanın güvenliği hakkındaki karar; mesleki yetki, klinik yargı, multidisipliner ekip görüşü, süpervizyon ve yasal sorumluluk ister. YZ burada yalnızca hazırlık ve hatırlatma aracıdır: hangi risk ve koruyucu faktörlerin gözden geçirileceğini hatırlatır, notlarınızı düzenler, bir güvenlik planı taslağının iskeletini çıkarır. Skor vermez, "risk düşüktür/yüksektir" demez, karar vermez.
Bunu neden bu kadar sert vurguluyoruz? Çünkü risk alanında bir YZ hatasının bedeli geri alınamaz. YZ'nin bir riski "düşük" göstermesi bir çocuğun korumasız kalmasına; bir riski gereksiz "yüksek" göstermesi bir ailenin haksız yere ayrılmasına yol açabilir. Ayrıca YZ, eğitim verisindeki önyargıları taşır: belirli sosyoekonomik gruplara, etnik kökenlere veya mahallelere karşı sistematik olarak daha yüksek risk atfeden algoritmalar dünyada belgelenmiştir. Bu yüzden YZ'nin çıktısı bir girdi bile olsa, sizin bağımsız yargınızın önüne asla geçemez.
YZ'nin meşru rolü: hatırlatma ve düzenleme
YZ'yi risk alanında güvenle kullanabileceğiniz üç yer vardır:
1. Faktör hatırlatma. Bir risk değerlendirmesinde göz önünde bulundurulması gereken risk faktörleri (örn. geçmiş şiddet öyküsü, madde kullanımı, sosyal izolasyon, önceki başvurular) ve koruyucu faktörler (örn. destekleyici bir yetişkin, düzenli okul devamı, güçlü bir sosyal ağ) uzundur; YZ, kurumunuzun kullandığı çerçeveye uygun bir kontrol listesi hatırlatarak hiçbir alanı atlamamanıza yardım eder.
2. Not düzenleme. Gözleminizi ve danışan ifadelerini düzenli, olgusal bir metne çevirir — böylece siz yargıyı temiz veriler üzerinde kurarsınız.
3. Güvenlik planı taslağı. Bir güvenlik planı (mağdurun tehlike anında ne yapacağını, kime ulaşacağını, nereye gideceğini belirleyen somut plan), belli bir yapıya sahiptir. YZ, danışanla birlikte doldurulacak bir taslak iskelet üretebilir; ama planın içeriğini danışanla siz birlikte gerçekliğe göre doldurursunuz.
Dikkat: YZ'ye asla "bu vakada risk düzeyi nedir?" veya "çocuk evde güvende mi?" diye sormayın. Sorarsanız bile çıktıyı bir karar olarak KULLANMAYIN. Bu sorular yalnızca yetkili uzman, ekip ve süpervizyon tarafından, kurumun resmî risk aracıyla yanıtlanır.
Adım adım: risk sürecinde YZ'yi doğru konumlamak
- Önce güvenlik. Acil ve ciddi bir tehlike varsa (can güvenliği), YZ ile uğraşmak değil, kurumun acil prosedürünü işletmek gerekir. YZ hiçbir aciliyeti geciktirmemeli.
- Kimliksizleştir. Risk notları en hassas verilerdir; açık araca danışanı tanımlayan bilgi girilmez, yalnızca güvenli kurum aracı kullanılır.
- Faktör listesini hatırlat. Kurumsal çerçeveye uygun risk ve koruyucu faktör kontrol listesi isteyin.
- Kendi yargınızı kurun. Faktörleri siz tartar, ekiple değerlendirir, süpervizöre danışırsınız. YZ'nin "değerlendirmesini" istemezsiniz.
- Güvenlik planını danışanla doldurun. Taslak iskelet YZ'den gelebilir; içerik danışanın gerçek ağı, kaynakları ve tercihleriyle birlikte doldurulur.
Üç mini vaka
Vaka 1 — Atlanan koruyucu faktör. Bir uzman, bir aile içi şiddet vakasında risk faktörlerine odaklanmıştı. YZ'den istediği faktör kontrol listesi, "koruyucu faktörler" bölümünde ona danışanın işyerindeki güvenli destek ağını sordurdu — uzmanın atladığı bir alan. Bu ağ, güvenlik planının en gerçekçi parçası oldu. Karar yine uzmanındı; YZ yalnızca soruyu hatırlattı.
Vaka 2 — Yanlış skora güvenilmedi. Bir kurum, deneme amaçlı bir YZ aracının bir vakaya "düşük risk" etiketi verdiğini gördü. Ancak uzmanın gözlemi ve danışanın ifadesi ciddi bir tehlikeye işaret ediyordu. Ekip, YZ etiketini reddetti ve kendi değerlendirmesiyle koruyucu önlem başlattı. Sonradan tehlikenin gerçek olduğu doğrulandı. Ders: YZ skoru bir karar değildir; insan yargısı önceliklidir.
Vaka 3 — Önyargı yakalandı. Bir denemede aynı vaka iki kez YZ'ye verildi; tek fark danışanın yaşadığı mahalleydi. YZ, dezavantajlı olarak bilinen mahalle için sistematik olarak daha yüksek "risk dili" üretti. Bu, YZ'nin eğitim verisindeki önyargıyı gösterdi ve kurumun YZ'yi risk kararında kullanmama politikasını pekiştirdi.
Dört kopyalanabilir şablon
1) Risk/koruyucu faktör hatırlatma:
Rolün: sosyal hizmet süpervizörüne yardımcı. [Aile içi şiddet]vakalarında bir risk değerlendirmesinde gözden geçirilmesiönerilen risk faktörleri ile koruyucu faktörlerin bir kontrollistesini hazırla. Bunu bir HATIRLATMA listesi olarak sun;herhangi bir skor, karar veya "risk düzeyi" ÜRETME. Değerlendirmeve karar uzmana aittir.
2) Güvenlik planı taslak iskeleti:
Rolün: editör. Bir aile içi şiddet mağduruyla birliktedoldurulacak bir güvenlik planı taslağının BOŞ iskeletinihazırla: uyarı işaretleri, güvenli yerler, ulaşılacak kişi vekurumlar, önemli belgeler, çocuklar için plan, dijital güvenlik.İçeriği doldurma; her başlığın altına danışanla birliktedoldurulacak boş alanlar bırak.
3) Risk notu düzenleme (karar üretmeden):
Aşağıdaki gözlem ve ifade notlarını olgusal, düzenli bir metneçevir. Gözlem ile danışan ifadesini ayrı etiketle. Risk düzeyiBELİRTME, karar VERME, yorum EKLEME. Yalnızca notta geçenidüzenle ve eksik/belirsiz alanları işaretle.Not: [kimliksizleştirilmiş notu yapıştır]
4) Önyargı öz-denetimi:
Aşağıdaki risk notu taslağında, danışanın sosyoekonomik durumu,etnik kökeni, mahallesi veya benzer bir özelliği yüzündenkanıtsız bir önyargı taşıyan ifade var mı? Kanıta değil kalıpyargıya dayanan her cümleyi işaretle. Metni değiştirme, sadeceuyar.Not: [notu yapıştır]
Zayıf prompt / Güçlü prompt
Zayıf prompt:
Bu vakayı oku ve çocuğun evde kalmasının güvenli olupolmadığına, risk düzeyinin ne olduğuna karar ver.
Bu, bir insan hayatı hakkındaki en ağır kararı bir yazılıma devretmektir. Etik dışıdır, mesleki sorumluluğa aykırıdır ve YZ'nin önyargısını doğrudan bir çocuğun kaderine taşır.
Güçlü prompt:
Rolün: hatırlatma asistanı. Aşağıdaki kimliksizleştirilmişnotu okumadan, [çocuk ihmali] vakalarında değerlendirmedegözden geçirilecek risk ve koruyucu faktör kontrol listesinihazırla. Karar, skor veya risk düzeyi ÜRETME. Değerlendirmeyiekibimle ben yapacağım; sen yalnızca hangi alanlarıatlamamam gerektiğini hatırlat.
Fark: karar istemek yerine "hangi soruları unutmayayım" demek, YZ'yi güvenli ve etik sınırda tutar.
Risk alanında rol sınırları
Görev
YZ yapabilir mi?
Kim yapar?
Faktör kontrol listesi hatırlatma
Evet
YZ (hatırlatma)
Notları olgusal düzenleme
Evet
YZ + uzman onayı
Güvenlik planı boş iskeleti
Evet
YZ; içeriği danışan+uzman
Risk düzeyi/skoru belirleme
Hayır
Uzman + ekip + süpervizyon
"Güvenli mi?" kararı
Hayır
Yetkili uzman, yasal süreç
Koruyucu önlem başlatma
Hayır
Kurum, yetkili merci
Sık yapılan hatalar
- YZ'den risk skoru/kararı istemek. En tehlikeli hata; karar mesleki yetki ve yasal sorumluluk ister.
- YZ etiketine güvenmek. Bir "düşük risk" çıktısı, sizin aksi yöndeki gözleminizi asla geçersizleştirmez.
- Önyargıyı görmezden gelmek. YZ dezavantajlı gruplara sistematik yüksek risk atfedebilir; öz-denetim şart.
- Aciliyeti geciktirmek. Can güvenliği varsa önce acil prosedür; YZ ile uğraşmak bekleyemez.
- En hassas veriyi açık araca vermek. Risk notları yalnızca güvenli kurum aracında işlenir.
Özetle
Risk değerlendirmesi sosyal hizmetin en ağır sorumluluğudur ve karar kesinlikle insana — uzmana, ekibe, süpervizyona, yasal mercie — aittir. YZ burada yalnızca hatırlatma (risk/koruyucu faktör listesi), düzenleme (olgusal not) ve taslak (güvenlik planı iskeleti) aracıdır; skor vermez, karar vermez. YZ'nin önyargı taşıdığını unutmayın, çıktısını asla bir karar olarak kullanmayın ve en hassas veriyi yalnızca güvenli sistemde işleyin.
Uygulama görevi
Kurgusal bir vaka tipi seçin. "Risk/koruyucu faktör hatırlatma" şablonuyla bir kontrol listesi alın ve YZ'nin herhangi bir "risk düzeyi" üretmediğini doğrulayın. Sonra "güvenlik planı taslak iskeleti" şablonuyla boş bir plan iskeleti alın. YZ'ye bilinçli olarak "risk düzeyi nedir?" diye sorun ve çıktıyı neden bir karar olarak KULLANMAMANIZ gerektiğini bir cümleyle yazın.
Kontrol listesi
- [ ] YZ'den karar/skor değil, yalnızca faktör hatırlatması istedim.
- [ ] En hassas veriyi yalnızca güvenli kurum aracında işledim.
- [ ] Güvenlik planı içeriğini danışanla birlikte doldurmayı planladım.
- [ ] YZ çıktısında önyargı olup olmadığını denetledim.
- [ ] Nihai risk kararının ekibe, süpervizyona ve yasal sürece ait olduğunu teyit ettim.