Qazanclar:
- Məlumatın AI qərəzinin əsas mənbəyi olduğunu başa düşür
- İş yerində qərəzliliyin yarada biləcəyi riskləri tanıyır
- Qərəzləri azaltmaq üçün görülə biləcək tədbirləri həyata keçirir
AI neytral, obyektiv maşın kimi görünür; amma həqiqət daha mürəkkəbdir. Süni intellekt sistemləri öyrədildikləri məlumatlarda insan qərəzlərini öyrənir və bəzən onları böyüdür və çoxaldır. Qərəz bir sistemin sistematik olaraq müəyyən insanlara və ya qruplara üstünlük verməsi və ya kənarlaşdırması meylidir. Bu bölmədə qərəzin haradan qaynaqlandığını, iş yerində hansı konkret risklər yaratdığını və buna qarşı nə edilə biləcəyini nəzərdən keçirəcəyik. Bu, təkcə “etika” məsələsi deyil; Bu, düzgün idarə olunmadıqda hüquqi, kommersiya və reputasiya riski daşıyan praktiki iş məsələsidir.
Qərəz haradan gəlir?
Dil modelinin məlumatı insanların istehsal etdiyi nəhəng mətnlərdən gəlir. Bu mətnlər insan cəmiyyətinin bütün biliklərini, eləcə də onun bütün stereotiplərini, balanssızlıqlarını və tarixi bərabərsizliklərini ehtiva edir. Model "yaxşı" və "pis" nümunələri ayırmır; Məlumatda nə varsa, onu öyrənir.
Nümunə: Əgər keçmiş mətnlərdə müəyyən peşələr əsasən cinslə əlaqələndirilirsə (məsələn, qadınla “tibb bacısı”, kişi ilə “mühəndis”), model bu assosiasiyanı öyrənir. O, “Bir mühəndis ofise girdi, o...” cümləsini tamamlayarkən kişi əvəzliyi seçməyə meylli ola bilər, model pis niyyətli deyil; bu, sadəcə olaraq, məlumatların balanssızlığını əks etdirir.
Beləliklə, qərəz, əsasən, şüurlu bir proqramlaşdırma səhvi deyil, məlumatların güzgüsü olması ilə əlaqədardır. Problemi “kimsə pis kod yazıb” kimi izah etmək yanlışdır; Problem ondadır ki, dünyadakı balanssızlıq verilənlərə, oradan isə modelə daşınır.
İş yerində maddi risklər
sahə
Qərəz riski
mümkün zərər
işə qəbul
Tarixi məlumatlarda trendi öyrənin və müəyyən qrupları aradan qaldırın
Hüquqi iş, qabiliyyətin itirilməsi
Müştəri ünsiyyəti
Stereotipik və ya istisna dil
Reputasiya itkisi, müştəri uçuşu
kredit/risk
Keçmiş bərabərsizliklərin davam etdirilməsi
Ayrı-seçkilik, sanksiyalar
Performansın qiymətləndirilməsi
Qərarda məlumatlarda qərəzliliyin daşınması
Haqsız təşviq/bonus
Məzmun/marketinq
Xüsusi qrupu görünməz edin
Markanın zədələnməsi
Üç mini qutu
Case 1 - Reklam dili daraldırdı. Bir şirkət AI ilə iş elanları çap etməyə başladı. Bir müddət sonra reklamların “gənc və dinamik”, “aqressiv hədəf” kimi ifadələrlə müəyyən profilə müraciət etdiyi və bununla da müraciətlərin müxtəlifliyini azaltdığı diqqət çəkib. Komanda hər bir göndərişi “inklüziv dil” üçün yoxlayan bir addım əlavə etdi; Müraciət edənlərin müxtəlifliyi bir neçə ay ərzində əhəmiyyətli dərəcədə artmışdır.
2-ci hal - Xülasədə gizli qərəzlilik. Bir menecer süni intellektdə 30 işçinin rəyini ümumiləşdirdi. Xülasə mənfi şərhləri müəyyən bir komandaya cəmlədi; halbuki xam məlumatlarda vəziyyət balanslaşdırılmışdır. Model bir neçə güclü ifadəni şişirdib. Menecer geri qayıdıb xam məlumatları yoxlayanda o, yanlış təsəvvür yaratmaqdan yayındı.
İş 3 - İnklüzivlik mandatı işləmişdir. Bir marketinq komandası kampaniya nüsxəsindəki təlimatı “inklüziv, qeyri-spesifik cins/yaş/qrup dilindən istifadə edin və sonunda öz fərziyyələrinizi sadalayın” təlimatını standartlaşdırıb. Hazırlanmış mətnlərdə düstur ifadələri nəzərəçarpacaq dərəcədə azalmışdır; komanda hər çıxışı təkrar-təkrar əl ilə düzəltməli deyildi.
Niyə qərəzliyi tanımaq çətindir?
Qərəzlə bağlı ən məkrli şey onun çox vaxt görünməz olmasıdır. Çıxış hamar, peşəkar və ağlabatan görünür; Onun daxilindəki tendensiya yalnız diqqətlə baxanda və ya onun müxtəlif qruplara təsirini ölçəndə aydın olur. Tək bir misala baxaraq “burada heç bir qərəz yoxdur” demək yanlışdır; Qərəz çox vaxt ayrı-ayrı misallarda deyil, sistemin ümumi meylində özünü göstərir.
Diqqət: “Mən neytralam, ona görə də istifadə etdiyim alət də neytraldır” fərziyyəsi təhlükəlidir. Alətin neytrallığı sizin niyyətinizdən deyil, təlim məlumatlarından və onun necə yoxlanılmasından asılıdır.
Zəif Tələb / Güclü Tələb
Zəif göstəriş: Bu vəzifə üçün ideal namizədi təsvir edin.
Nəticə: Model stereotiplərə arxalana bilər və müəyyən profili "ideal" kimi təqdim edə bilər.
Güclü göstəriş: Bu vəzifə üçün yalnız iş üçün həqiqətən uyğun olan ölçülə bilən səlahiyyətləri sadalayın. Cins, yaş, ailə vəziyyəti, məmləkət kimi işə aid olmayan heç bir xüsusiyyətdən istifadə etməyin. Nəhayət, “qaçdığım fərziyyələr” başlığı altında buraxdığınızı yazın.
Nəticə: Qiymətləndirmə işlə bağlı meyarlarla məhdudlaşır, aidiyyəti olmayan xüsusiyyətlər istisna edilir.
Qərəzliyi Azaltmaq üçün Şablonlar
İnklüziv dil üçün aşağıdakı mətni yoxlayın. Cins, yaş, etnik mənsubiyyət, əlillik və ya müəyyən bir qrupu nəzərdə tutan və hər biri üçün neytral alternativ təklif edən ifadələr. Mətn: [buraya yapışdırın]
Bu qiymətləndirməni yalnız bu obyektiv meyarlar əsasında aparın: [meyarlar]. Bu meyarlardan başqa heç bir məlumatı (ad, cins, yaş) nəzərə almayın.
Hazırladığınız mətndə etdiyiniz fərziyyələri sonunda ayrı bir başlıq altında qeyd edin. Beləliklə, mən gizli qərəzləri görə bilirəm.
Bu məzmunu üç fərqli oxucu qrupunun gözü ilə qiymətləndirin və onlardan hər hansı birini təhqir edə/incidə bilən hər hansı ifadələri qeyd edin. Məzmun: [buraya yapışdırın]
Ümumi Səhvlər
Ümumi səhvlər
- "Neytral" AI çıxışını fərz etsək. Çıxış neytral görünsə də, məlumatlarda qərəzliliyi daşıya bilər; Aktiv nəzarət tələb olunur.
- Bir misala baxıb “qərəz yoxdur” deyir. Qərəz sistemin ümumi meylində gizlənir.
- Yüksək təsirli qərarların qəbulunu nəzarətsiz AI-ya buraxın. İşə qəbul, yüksəlmə və kredit kimi qərarlarda insan səlahiyyəti vacibdir.
- İnklüzivliyi tələb etməyi unutmaq. Bunu sorğuda açıq şəkildə tələb etməsəniz, model standart nümunələrə qayıdır.
- Bu, "Maşın dedi" deməkdir. Qərardan istifadə edən şəxs nəticələrə görə də məsuliyyət daşıyır.
Ədalət hər kəsin borcudur
Qərəzlə mübarizə təkcə texniki komandanın işi deyil. Süni intellekt məhsullarından istifadə edən hər bir işçi bu çıxışın ədalətli olub-olmadığını şübhə altına almaq məsuliyyətinə malikdir. “Maşın mənə dedi” bəhanə deyil; Qərar verən şəxs nəticələrə görə də məsuliyyət daşıyır.
Xülasə
- AI qərəzinin əsas mənbəyi pis niyyət deyil, təlim məlumatlarında mövcud olan balanssızlıqlar və stereotiplərdir.
- qərəz; İşə götürmə, müştəri əlaqəsi, maliyyə və qiymətləndirmə kimi sahələrdə real hüquqi və reputasiya riski yaradır.
- Qərəz çox vaxt görünməzdir və sistemin ümumi dispozisiyasına daxil olur; Tək bir misala baxmaq yanlışdır.
- Azaltmaq üçün: xəbərdar olun, qərarı işlə bağlı meyarlarla məhdudlaşdırın, açıq şəkildə inklüzivlik istəyin, yüksək təsirli qərarlar üzərində insan nəzarətini qoyun.
- “Maşın mənə dedi” bəhanə deyil; Ədalətlilik çıxışdan istifadə edən hər kəsin məsuliyyətidir.
Tətbiq Tapşırığı
Süni intellektə “ideal [hər hansı bir peşə] işçisini təsvir edin” deyin və çıxışda hansı (bəlkə də lazımsız) fərziyyələrin edildiyini qeyd edin. Sonra yuxarıdakı “işlə bağlı meyarlar” şablonu ilə təkrarlayın və ədalət üçün iki nəticəni müqayisə edin.
Yoxlama siyahısı
- [ ] Mən başa düşürəm ki, qərəzliliyin əsas mənbəyi təlim məlumatlarıdır.
- [ ] Mən iş yerində qərəzliliyin doğura biləcəyi konkret riskləri sadalaya bilərəm.
- [ ] Bilirəm ki, qərəz tez-tez görünməzdir və bir misala baxmaq yanıltıcıdır.
- [ ] Mən aydın şəkildə sorğuda inklüzivlik və işlə bağlı meyarlar tələb edə bilərəm.
- [ ] Mən yüksək təsirli qərarlara insan nəzarətini tələb edirəm.