Qazanclar:
- Süni intellekt modellərində mədəni, gender və diaqnostik qərəzliliyin psixologiya kontekstində necə zərər verdiyini misallarla tanıyın
- Müxtəlif qruplar, dillər və mədəniyyətlər üçün çıxışı sınayan qərəzli yoxlamanı həyata keçirmək bacarığı
- Qərb mərkəzli normaları və damğalama dilini düzəldən operativ və yoxlama üsullarını inkişaf etdirmək bacarığı
Süni intellekt (AI) neytral deyil. Süni intellekt modeli internetdəki nəhəng mətn yığınından öyrənir və modelin "dünyaya baxışı" kimin səsini daha çox, kimin səsini daha az ehtiva etdiyinə görə əyilir. Bu təhrifə qərəz deyilir. Psixologiyada qərəzlilik adi texniki qüsur deyil; Bir insanın qiymətləndirməsinə, diaqnozuna və müalicəsinə birbaşa təsir göstərə bilər. Bir simptom bir mədəniyyətdə "normal", digərində isə "patoloji" kimi oxuna bilər; davranış bir cinsdə “iddia”, digərində isə “aqressivlik” kimi çərçivəyə salına bilər. AI bu tarixi qərəzləri öyrənə və təkrarlaya bilər. Bu bölmədə siz psixologiya kontekstində AI-də qərəzliliyi tanımağı və müxtəlif qruplar, dillər və mədəniyyətlər üçün nəticələri yoxlamağı öyrənəcəksiniz.
Qərəz haradan gəlir və necə zərər verir?
AI qərəzinin üç əsas mənbəyi var:
- Təlim məlumatlarının balanssızlığı. Modellər əsasən müəyyən bir dil, mədəniyyət və dövrün mətnləri ilə hazırlanır. Psixologiya ədəbiyyatının əsas hissəsi Qərb, təhsilli, sənayeləşmiş cəmiyyətlərdən gəlir; buna görə də AI-nin "normal insan" fərziyyəsi bu dar nümunəni əks etdirir.
- Tarixi qərəzin daxil edilməsi. Keçmişdə müəyyən qrupları patolojiləşdirən və damğalayan mətnlər də məlumatlara daxil edilir; model bu nümunələri öyrənir.
- Nümayəndəliyin olmaması. Modeldə kifayət qədər təmsil olunmayan qruplar (müxtəlif etnik mənsubiyyət, dil, cinsi oriyentasiya, əlillik) haqqında ya qeyri-kafi, ya da stereotipik məlumat var.
Zərər göz qabağındadır: AI bir simptomu bir qrupda daha şiddətli və digərindən daha yüngül kimi qiymətləndirə bilər; mədəni ifadəni (yas mərasimi, dini təcrübə) səhvən simptom kimi qəbul edə bilər; Bu, damğalama, klişe dil yarada bilər.
Diqqət: Süni intellektdən əldə edilən nəticə “obyektiv elm” kimi görünsə belə, öyrəndiyi qərəzləri daşıya bilər. Xüsusilə fərqli mədəniyyətlərə, cinslərə, cinsi oriyentasiyalara və sosial-iqtisadi qruplara gəldikdə, biz hər bir nəticəni “bütün qruplar üçün ədalətlidirmi?” kimi qiymətləndiririk. Sualla süzün.
Psixologiyaya xas olan qərəzlilik növləri
Qərəz növü
Psixologiyada baxış
risk
mədəni meyl
Qərb normalarını universal hesab etmək
Mədəni ifadəni patoloji ilə səhv salmayın
gender qərəzliyi
Eyni davranışı cinsdən asılı olaraq fərqli şərh etmək
diaqnostik uyğunsuzluq
diaqnostik meyl
Müəyyən qrupları müəyyən diaqnozlara "meyl" kimi göstərmək
Diaqnozdan çox/aşağı
dil qərəzi
Dominant dildə daha "bacarıqlı", digərində səthi
Qeyri-bərabər qiymətləndirmə
Ştamplama
Diaqnozu ilə insanı tanıdan dil
alçaldıcı çərçivə
Addım-addım: qərəzli nəzarət
- Çıxışı "kimin üçün yazılmışdır?" kimi dəyişə bilərsiniz. sual. Standart mövzu kimdir? O, ümumiyyətlə, təhsilli, qərbli, "orta" oğlandır.
- Müxtəlif qruplarla test edin. Fərqli mədəni, cins və yaş kontekstlərində eyni əmri təkrarlayın; Şərhlər dəyişirmi?
- Stiqmatik dili skan edin. Diaqnozu olan insanı müəyyən edən düzgün ifadə (“şizofreniya” əvəzinə “şizofreniya keçirən şəxs”).
- Mədəni kontekst əlavə edin. Süni intellektə müştərinin mədəni/linqvistik kontekstini deyin və “bu kontekstdə normal ola biləcək ifadələri patoloji hesab etməyin”.
- Ekspert və ictimaiyyətin gözü. Əgər mədəni bir məsələ ilə bağlı əmin deyilsinizsə, o mədəniyyəti bilən həmkarınızla məsləhətləşin.
- Qoy insanlar qərar versin. Hətta qərəzli yoxlama da süni intellektə həvalə edilmir; Ədalətin son hökmü sənindir.
İpucu: Nəticənin qərəzli olub-olmadığını yoxlamaq üçün praktiki üsul: sorğuda bir atributu (cins, mədəniyyət, yaş) dəyişdirin və eyni sualı yenidən verin. Bu dəyişikliklə təfsir "ədalətsiz" dəyişirsə, qərəz var.
üç mini qutu
1-ci hal – Patoloji mədəni ifadə. Peşəkar süni intellektə fərqli mədəniyyətdən olan bir müştərinin kədər prosesi zamanı “mərhumla danışdığını” söyləyir. Süni intellekt bunu “psikotik bir simptom ola bilər” kimi qələmə verir. Lakin bu, həmin müştərinin mədəniyyətində ümumi və normal bir kədər ifadəsidir. Ekspert süni intellektin məhsulunu rədd edir, çünki o, mədəni konteksti bilir. Kontekstdən xəbəri olmayan biri ciddi yanlış mühakimə yürütə bilər.
2-ci hal – Gender qərəzinin yoxlanılması. Müstəntiq eyni işin xülasəsini AI-yə iki dəfə verir; sadəcə insanın cinsini dəyişir. "Qadın" versiyasında AI "emosional qeyri-sabitliyi" vurğulayır, "kişi" versiyasında isə "stress cavabı" ilə eyni davranışı çərçivələyir. Bu, modelin cinsiyyət tərəfdarlığını açıq şəkildə göstərir. Tədqiqatçı bu fərqi sənədləşdirir və bu şüurla nəticələrdən istifadə edir.
3-cü vəziyyət - damğalama dilinin düzəldilməsi. Bir hesabat layihəsində deyilir ki, AI "xəstə sərhəd"dir. Mütəxəssis bunu diaqnozu ilə insanı eyniləşdirən və "müəyyən edilmiş sərhəd şəxsiyyət modeli olan bir fərd" kimi insana diqqət yetirən dilə çevirən damğalama dili kimi görür. Dildə kiçik bir dəyişiklik müştərinin ləyaqətini qoruyan böyük fərq yaradır.
Kopyalana bilən göstərişlər və şablonlar
Qərəz üçün aşağıdakı mətni yoxlayın: mədəni, cinsi, cinsi oriyentasiya, yaş və ya sosial-iqtisadi qərəzliyi göstərən bayraq bəyanatları. Qərb normalarını universal hesab edən fərziyyələri də göstərin. Hər biri üçün daha ədalətli alternativ təklif edin. Mətn: [mətn]
Aşağıdakı vəziyyəti qiymətləndirməyə kömək edin, lakin müştərinin mədəni konteksti [mədəniyyət/dil]dir. Bu çərçivədə NORMAL ola biləcək ifadələrin patoloji olaraq təqdim edilməsi; Əgər mədəni bir nöqtəyə əmin deyilsinizsə, "bu, mədəni baxımdan fərqli ola bilər, bir mütəxəssislə məsləhətləşin" deyin. Status: [anonim status]
Diaqnozu olan şəxsi müəyyən edən bu mətndəki damğalama ifadələrini (məsələn, "şizofreniya", "sərhəd") insanı mərkəzləşdirən və onun ləyaqətini qoruyan dilə tərcümə edin. Məzmunu dəyişməyin, sadəcə dili humanistləşdirin. Mətn: [mətn]
Aşağıdakı halın xülasəsini iki dəfə qiymətləndirəcəyəm: bir dəfə mövzu [A xüsusiyyəti], digəri [xüsusiyyət B]. İki qiymətləndirmə arasında ədalətsiz fərq varmı və əgər belədirsə, bu qərəzdən irəli gəlirmi? Müqayisə et. Abstrakt: [anonim mücərrəd]
Zəif məlumat / Güclü göstəriş
Zəif təklif: "Bu müştərinin davranışı normaldır, yoxsa anormal?"
Bu təklif "normal" kimin üçün olduğunu soruşmur; Süni intellekt Qərb mərkəzli, mədəniyyətsiz “normal” qəbul edir və mədəni ifadəni patolojiləşdirə bilər.
Güclü xəbərdarlıq: "Bu müştəri [mədəni/linqvistik kontekstdədir]. Bu davranışın həmin mədəni kontekstdə normal ifadə və ya diqqət tələb edən əlamət ola biləcəyini izah edin, hər ikisini ayrıca müzakirə edin. Qəti qərar verməyin; mədəni konteksti bilən ekspertlə məsləhətləşməyi mənə xatırlat."
Bu təklif konteksti mərkəzə qoyur, mədəni yanlış oxunmanın qarşısını alır və qərarı ekspertin öhdəsinə buraxır.
Ümumi səhvlər
- AI çıxışını "obyektiv" üçün səhv salmaq. Modelin qərəzli olduğunu unutmaq və nəticəni elmi fakt kimi qəbul etmək.
- Qərb normasını universal hesab etmək. Vahid mədəniyyətə görə “normal”in təyin edilməsi və müxtəlif ifadələrin patolojiləşdirilməsi.
- damğalayan dilə fikir verməmək. Diaqnozu olan insanı eyniləşdirən dili "texniki dil" kimi səhv salmaq.
- Qərəz üçün sınaqdan keçirilmir. Fərqli qruplarla eyni əmri sınamayın və ardıcıllığı yoxlayın.
- Tanımadığınız bir mədəniyyətdə təkbaşına qərar vermək. O mədəniyyəti bilən həmkarı ilə məsləhətləşmədən mühakimə yürütmək.
Xülasə
AI qərəzlidir, çünki qərəzli dünyanın mətnlərindən öyrənir; Psixologiyada bu qərəz mədəni, gender, diaqnostik, dil və stiqma şəklində maddi zərərə çevrilir. Hər bir çıxışı “bu, bütün qruplar üçün ədalətlidirmi?” sualı ilə müqayisə edin. süzün; eyni sorğunu müxtəlif qruplarla sınaqdan keçirin; sorğunuza mədəni kontekst əlavə edin; damğalama dilini şəxs mərkəzli dilə dəyişdirin; Tanış olmadığınız bir mədəniyyətdə ekspert/icma diqqətini axtarın. Ədalət mühakiməsi, o cümlədən qərəzliliyə nəzarət insandan qaynaqlanır.
Tətbiq tapşırığı
İşin xülasəsini hazırlayın (anonim). AI-yə iki dəfə verin; yalnız bir xüsusiyyəti (cins, mədəniyyət və ya yaş) dəyişdirin. İki çapı yan-yana qoyun və ədalətsiz fərqləri yoxlayın. Həmçinin süni intellekt hesabat abzasındakı damğalama ifadələrini şəxs mərkəzli dilə tərcümə etsin və fərqi qeyd etsin.
yoxlama siyahısı
- [ ] Çıxışı "bu bütün qruplar üçün ədalətlidirmi?" sualını verdim.
- [ ] Mən eyni sorğunu müxtəlif qruplar/mədəniyyətlərlə sınaqdan keçirdim.
- [ ] Mən sorğuya mədəni kontekst əlavə etdim; Mən mədəni ifadəni patolojiləşdirməmişəm.
- [ ] Mən damğalama dilini şəxs mərkəzli dilə dəyişdim.
- [ ] Tanış olmadığım bir mədəniyyət məsələsi ilə bağlı ekspertin/həmkarımın məsləhətini istədim.
- [ ] Mən ədalətin son qərarını AI-nin deyil, öz mühakimələrimə buraxdım.