Qazanclar:
- Süni intellektin təlim məlumatları, çərçivələr, ikili standartlar və yaltaqlıq vasitəsilə qərəz yaratdığını tanımaq
- Neytral suallar, sübut-stereotip ayrı-seçkiliyi və tərs bucaq testi ilə qərəzliyə qarşı nəzarət qurmaq bacarığı
- Mədəni biliklərdən qəti qayda deyil, diqqət nöqtəsi kimi istifadə edərək damğalama dilini təsviri və hörmətli dilə çevirmək bacarığı
Sosial işin əsas səbəbi ədalət və insan ləyaqətidir; Peşənin əsasını hər bir fərdin bərabər dəyərə malik olması, ayrı-seçkiliyə qarşı olması və həssas qrupların müdafiəsi ilə bağlı öhdəlik durur. Süni intellekt bu dəyərlərə səssizcə zərər verə biləcək bir risk daşıyır: qərəzlilik. AI tarixi məlumatlardan öyrənir; Bu məlumatlara cəmiyyətdəki bərabərsizliklər, stereotiplər və ayrı-seçkilik daxildirsə, süni intellekt onları öyrənir və səlis, “obyektiv” görünən dildə təkrarlayır. Sosial işçinin əlində bu, bir qrupun sistematik olaraq daha mənfi qiymətləndirilməsinə, ailənin stereotipləşməsinə və ya mədəniyyətin yanlış anlaşılmasına çevrilə bilər. Bu bölmədə siz AI qərəzliliyini tanımağı, ona qarşı nəzarət etməyi və AI-dən ədalətli və mədəni həssaslıqla istifadə etməyi öyrənəcəksiniz.
Əvvəldən bir fakt: AI neytral deyil, neytral görünür. Ən təhlükəli qərəz inamlı və peşəkar bir dillə təqdim olunan qərəzdir; çünki sualsız qəbul edilir. Sosial işçi kimi sizin işiniz bu görünməz qərəzi görünən etmək və nəticənin peşəkar dəyərlərinizə zidd olub-olmamasına nəzarət etməkdir.
AI qərəzliyi haradan gəlir və bu nə kimi görünür?
- Təlim məlumatlarının qərəzliliyi. Süni intellekt cəmiyyətdəki bərabərsizlikləri əks etdirən mətnlərdən öyrənir. Bəzi etnik qruplar, yoxsullar, əlillər, müəyyən məhəllələr və ya cinslər haqqında stereotiplər çıxışa sıza bilər.
- Dil və çərçivə qərəzi. Süni intellekt qrupu passiv, “problemli” və ya “köməyə ehtiyacı olan obyekt” kimi qələmə verə bilər; başqa bir qrup subyekt kimi. Eyni davranış bir qrup tərəfindən "mədəni", digər qrup tərəfindən isə "problemli" kimi şərh edilə bilər.
- Nümayəndəliyin olmaması. Süni intellekt verilənlərdə az təmsil olunan qrupları (kiçik populyasiyalar, nadir hallarda) qeyri-dəqiq və ya səthi şəkildə başa düşə bilər.
- Yaltaqlıq (yaltaqlıq). Süni intellekt sizin nəzərdə tutulan fikrinizi təsdiqləməyə meyllidir; Qərəzli sual qərəzli təsdiq gətirir.
Bu qərəzlər sosial işdə xüsusilə təhlükəlidir, çünki nəticə birbaşa insanların həyatına toxunur - qiymətləndirmə, hesabat, göndəriş.
Diqqət: "AI bunu belə qiymətləndirdi" əsaslandırma deyil, xəbərdarlıq işarəsidir. Bir qrupu və ya fərdi mənfi təsvir edən çıxışı görəndə, ilk sual "sübutlara əsaslanır, yoxsa stereotiplərə əsaslanır?" olmalıdır.
Addım-addım: qərəzliyə qarşı audit
- Neytral soruşun. Deyilməyən və ya səbəb olmayan suallar verin; “Bu ailənin niyə laqeyd olduğunu izah edin” yox, “bu müşahidələr nəyi ifadə edə bilər, alternativ izahat nədir?” soruş.
- Sübut və stereotipi fərqləndirin. Hər bir mənfi ifadə üçün soruşun: bu, mənim qarşımda olan konkret dəlillərə əsaslanır, yoxsa bir qrup haqqında ümumi bir fərziyyəyə əsaslanır?
- Əks bucaqdan test edin. Fərqli bir qrup üçün eyni vəziyyəti nəzərdən keçirin: "Əgər müştəri fərqli sosial-iqtisadi/etnik mənsubiyyətdən olsaydı, AI bunu eyni dildə yazardımı?"
- Mədəni həssaslıq axtarın. Davranışın mədəni konteksti haqqında soruşun; lakin mədəni biliyi mütləq qayda deyil, bir ehtimal və ehtiyat nöqtəsi kimi qəbul edin (sterotipdən qaçın).
- İzləmə dilini təmizləyin. Onu insanı deyil, vəziyyəti təsvir edən, həm də güclü tərəflərini görən bir dilə tərcümə edin.
üç mini qutu
1-ci hal - Əks bucaq qərəzi aşkar etdi. Bir ekspert süni intellektə iki oxşar hadisəni ümumiləşdirdi; yeganə fərq ailələrin sosial-iqtisadi vəziyyəti idi. YZ aztəminatlı ailə üçün “yüksək baxımsızlıq riski”, yüksək gəlirli ailə üçün isə “valideyn özünü aparmağa məcburdur” tonunda yazıb. Ekspert bu ikili standartı qəbul etdi və hər iki qiymətləndirməni dəlillərə əsaslanan, bərabər dilə çevirdi.
Case 2 - Mədəni yanlış şərh düzəldildi. YZ böyük ailə ilə yaşayan bir uşağın vəziyyətini “sərhəd problemləri və qarışıq ev mühiti” kimi qələmə verdi. Ekspert bilirdi ki, ailənin mədəni kontekstində böyük ailə güclü dəstək və müdafiə mənbəyidir. Süni intellekt mədəni qüvvəni problemə çevirmişdi. Baxış bu dəstəyi resurs kimi tanımaq üçün düzəldilib.
3-cü vəziyyət - Aparıcı sual qərəz yaratdı. "Bu atanın niyə etibarsız olduğunu yazın" deyə bir təcrübəçi AI-dən soruşdu. AI heç bir sübut olmadan atanı mənfi (yaltaqlıq) təsvir edən bir mətn hazırladı. Nəzarətçi sualı dəyişdirdi: “Ata haqqında hansı müşahidələr var, onun güclü və zəif tərəfləri nələr ola bilər?” Çıxış balanslaşdırılmış və sübuta əsaslanan hala gəldi. Dərs: qərəzli sual qərəzli cavab verir.
Dörd kopyalana bilən şablon
1) Neytral, balanslaşdırılmış qiymətləndirmə tələb edin:
Aşağıdakı müşahidələri ümumiləşdirərkən siz həm mümkün güclü tərəfləri, həm də mümkün narahatlıqları BALANSLI şəkildə və YALNIZ sübuta əsaslanaraq təqdim edirsiniz. Stereotiplərə əsaslanaraq heç bir nəticə çıxarmayın. Şərh müşahidəyə əsaslanmırsa, "qeyri-kafi sübut" yazın. Müşahidələr: [müşahidələri yapışdırın]
2) Bias yoxlanışı (əks bucaq testi):
Aşağıdakı baxış mətninə baxın. Müştərinin sosial-iqtisadi statusuna, etnik mənsubiyyətinə, dini mənsubiyyətinə, cinsinə, əlilliyinə və ya qonşuluğuna görə əsassız stereotipi ifadə edən ifadələr varmı? Hər biri üçün soruşun: "Müştəri fərqli qrupdan olsaydı, bu eyni dildə yazılardımı?" Problemli cümlələri qeyd edin. Mətn: [mətni yapışdırın]
3) Mədəni kontekst (stereotip olmayan):
Aşağıdakı davranışın/vəziyyətin müxtəlif mədəni kontekstlərdə nə demək ola biləcəyi ilə bağlı İMKANLARI təmin edin. Bunları mütləq qaydalar kimi deyil, nəzərə alınacaq məqamlar kimi verin; Hər bir cəmiyyətdə fərdi fərqlərin olduğunu vurğulayın. Bir qrup haqqında ümumiləşdirməyin. Vəziyyət: [vəziyyəti yaz]
4) İmprinting dilinin təmizlənməsi:
Aşağıdakı mətndə insanı mühakimə edən və ya damğalayan sifətləri tapın (məsələn, "laqeyd", "işbirliyi olmayan", "problemli"). Hər biri üçün eyni faktı təsviri, hörmətli və güclü tərəfləri tanıyan alternativlə əvəz edin. Yeni məlumat əlavə edilir. Mətn: [mətn yapışdırın]
Zəif məlumat / Güclü göstəriş
Zəif çağırış:
Bu ailənin uşaq tərbiyəsində niyə qeyri-kafi olduğunu izah edin.
Bu sual əvvəldən nəticəni nəzərdə tutur (“qeyri-kafi”). Yaltaqlığa meylli süni intellekt bu fərziyyəni təsdiqləyən sübutsuz və qərəzli mətn hazırlayacaq. Əgər sual qərəzlidirsə, cavab da qərəzli olacaq.
Güclü göstəriş:
Aşağıdakı müşahidələrə əsaslanaraq, həm bu ailənin uşaq tərbiyəsi ilə bağlı güclü tərəflərini, həm də narahatlıq doğuran sahələri BALANSLI və yalnız sübut əsasında sadalayın. Əvvəldən nəticəni düşünməyin; Əgər sübut kifayət deyilsə, bunu bildirin. Stereotiplərdən qaçın. Müşahidələr: [müşahidələri yapışdırın]
Fərq: nəticəni qəbul etməyən və sübut tələb edən balanslaşdırılmış sual, ilk növbədə qərəzliliyin qarşısını alır.
Qərəzlərin növləri və əks tədbirlər
Qərəz növü
Nə kimi görünür
əks tədbir
təlim məlumatları
qrup stereotipi
Sübut nümunəsi fərqi
çərçivələmə
Passiv/mənfi dil
Balanslı, mövzu mərkəzli dil
ikili standart
Eyni davranış, fərqli ton
tərs bucaq testi
mədəni korluq
Mədəni gücü problemə çevirmək
Mədəni kontekst sualı
yaltaqlıq
mənasını təsdiq edin
Neytral suallar verməyin
təmsilçiliyin olmaması
Səthi/yanlış anlaşılma
Yerli/ekspert təsdiqi
Ümumi səhvlər
- Qərəzli suallar vermək. Nəticəni nəzərdə tutan sual qərəzli cavab verir; neytral problem.
- Etibarlı dilə güvənmək. Professional ton qərəzi düzgün etmir; dəlillərə baxın.
- Mədəni biliyə qəti qayda kimi baxılması. Bunu bir imkan və diqqət nöqtəsi kimi qəbul edin; Stereotiplərdən çəkinin.
- İkili standartlara fikir verməmək. Eyni davranışın müxtəlif qruplarda necə yazıldığını yoxlayın.
- Möhürü sübut kimi səhv salmaq. Bu, “ehtiyatsızlıq” hökmüdür; Fenomeni təsvir edin, insanı mühakimə etməyin.
Xülasə
AI neytral deyil, neytral görünür; O, səlis bir dildə təhsil məlumatlarında bərabərsizlikləri və stereotipləri təkrarlayır. Sosial işdə bu, real insanların ədalətsiz qiymətləndirilməsinə səbəb ola bilər. Qərəzliyi tanıyın (təlim məlumatları, çərçivə, ikili standartlar, mədəni korluq, yaltaqlıq), ona qarşı yoxlayın (neytral sual, sübut nümunəsinin ayrılması, bucaq testi, mədəni həssaslıq, stiqmanın təmizlənməsi) və hər bir çıxışı peşənin ədalət və şərəf dəyərləri vasitəsilə süzün. Son etik filtr həmişə sizsiniz.
Tətbiq tapşırığı
Süni intellektdən iki fərqli qrup profili (məsələn, müxtəlif sosial-iqtisadi status) ilə eyni uydurma müşahidələr toplusunu ümumiləşdirməsini və tonların/dillərin fərqli olub olmadığını “əks bucaq testi” ilə müqayisə etməsini istəyin. Sonra şüurlu şəkildə qərəzli sual ilə neytral sualı sınayın (“bunun niyə qeyri-kafi olduğunu izah edin”) və nəticələrdəki fərqi yoxlayın. Nəhayət, mətnə “su nişanının dilinin təmizlənməsi” şablonunu tətbiq edin.
yoxlama siyahısı
- [ ] Nəticəni güman etmədən suallarımı neytral şəkildə tərtib etdim.
- [ ] Mən sübut-stereotip fərqindən istifadə edərək hər bir mənfi ifadəni yoxladım.
- [ ] Mən tərs bucaq testi ilə ikili standartı yoxladım.
- [ ] Mən mədəni biliklərdən mütləq qayda deyil, ehtiyatlılıq üçün istifadə etdim.
- [ ] Mən damğalama dilini təsviri, hörmətli dillə əvəz etdim.