Qazanclar:
- Məsul AI prinsiplərini (ədalətlilik, şəffaflıq, hesabatlılıq, məxfilik, insan nəzarəti, təhlükəsizlik, davamlılıq) konkret qərarlara bağlamaq bacarığı
- Etikanı qanuni uyğunluqdan ayırmaqla və “biz edə bilərik” və “biz etməliyik” arasında fərq qoyaraq təsirə məruz qalan tərəfləri və qərəzliyi sınamaq bacarığı
- Dizaynda şəffaflığı, insan monitorinqini və müraciəti daxil etməklə sui-istifadə ssenarilərini əvvəlcədən azaltmaq imkanı
Süni intellektlə startap texniki cəhətdən mükəmməl, maliyyə baxımından gəlirli və qanuni cəhətdən səmərəli ola bilər; amma yenə də səhv ola bilər. Etika "biz edə bilərik" və "biz etməliyik" arasındakı fərqdir. Yüksək səviyyəli menecer üçün etika bəzək və ya ictimai əlaqələr məsələsi deyil; Qurumun uzunmüddətli etibarlılığını, nüfuzunu və sosial qanuniliyini qoruyan təməldir. Bu bölmədə siz məsuliyyətli süni intellekt prinsiplərini (ədalətli, şəffaf, hesabatlı və insan ləyaqətinə hörmət edən şəkildə süni intellektin inkişafı və istifadəsinə yanaşma) və onların gündəlik qərarlarda əks etdirilməsi üsullarını öyrənəcəksiniz.
Məsul AI-nin əsas prinsipləri
Fərqli çərçivələr oxşar prinsiplər üzərində birləşir. Menecer üçün praktiki xülasə:
prinsip
Nə demək istəyirsən?
admin suali
ədalət
ayrı-seçkiliyin olmaması
Bu, bir qrupa ədalətsiz təsir edirmi?
şəffaflıq
başa düşülən olsun
Qərarın səbəbini izah edə bilərikmi?
cavabdehlik
Kimin məsul olduğunu müəyyən etmək
Səhv baş verərsə kim məsuliyyət daşıyır?
Məxfilik
Şəxsi məlumatlara hörmət
Məlumatlardan istifadə etmək hüququmuz varmı?
insan nəzarəti
Nəzarətdə qalmaq
Bir etiraz edib onu dayandıra bilərmi?
Təhlükəsizlik
zərər vermə
Bundan sui-istifadə edilə bilərmi?
Davamlılıq
Ətraf mühit/sosial təsir
Xərcləri kimə qoyuruq?
Bu prinsiplər mücərrəd deyil; Onların hər biri konkret qərarla əlaqələndirilə bilər. Məsələn, “şəffaflıq” müştəriyə süni intellektlə danışdıqlarını bildirmək deməkdir; “İnsan nəzarəti” insan tərəfindən kreditin rədd edilməsinə baxılması və apellyasiya üçün açıq buraxılması deməkdir.
İpucu: Hər bir yüksək təsirli AI qərarı ilə bir sual verin: "Mən ən çox mənfi təsirə məruz qalan şəxsə bu qərarın arxasında dayana bilərəmmi?" Cavab təhqir edirsə, etik problem var.
Etika qanundan fərqlidir
Kritik fərq: qanuna uyğunluq (Vahid 9) minimumdur; Etika daha yüksək bir xəttdir. Bir şey qanuni, lakin qeyri-etik ola bilər. Məsələn, tətbiqin istifadəçi davranışını manipulyasiya etmək üçün süni intellektdən istifadə etməsi qadağan edilə bilməz, lakin bu, qeyri-etikdir. Məsul qurumlar "qadağandırmı?" deyil, "doğrudurmu?" deyə soruşur.
Addım-addım: qərara etikanın yerləşdirilməsi
1. Təsirə məruz qalan tərəfləri müəyyən edin. Bu təşəbbüsdən kimlər təsirlənir? (Müştəri, işçi, cəmiyyət, imkansız qruplar)
2. Siyasətlərlə skan edin. Yuxarıdakı prinsiplərin hər biri baxımından təşəbbüsü sorğulayın.
3. Qərəz və zərər üçün test edin. Model müəyyən qruplara ədalətsiz təsir göstərirmi? Sui-istifadə ssenariləri hansılardır?
4. Şəffaflıq və nəzarət əlavə edin. İnsan etirazına yol qoymadan süni intellektin istifadəsini bildirin.
5. Sənədlər və baxış. Etik qiymətləndirməyə qənaət edin; Vaxtaşırı yoxlayın.
üç mini qutu
İş 1 - Qanuni, lakin səhvdir. Tətbiq istifadəçiləri proqramda daha uzun müddət saxlamaq üçün asılılıq yaradan bildirişlər yaratmaq üçün süni intellektdən istifadə edib. Heç bir hüquqi maneə yox idi, amma bu barədə mətbuatda yazılanda ciddi reputasiya itkisi oldu; Xüsusilə gənc istifadəçiləri hədəf alması tənqidlərə səbəb olub. Şirkət bu xüsusiyyəti ləğv etdi. Etik filtr əvvəldən olsaydı, bu risk görünərdi.
2-ci hal – Ədalətlilik testinin dəyəri. Bankın kredit skorinq modeli sistematik olaraq qorunan qrupların müraciətlərinə daha aşağı ballar verirdi. Bu, ədalət mühakiməsi zamanı tutuldu. Model, nəticələrində qruplararası bərabərliyi təmin etmək üçün yenidən işlənib hazırlanmış və müntəzəm sınaqdan keçirilmişdir. Etik prinsip (ədalət) konkret sınağa çevrildi və real zərərin qarşısını aldı.
Məsələn 3 – Şəffaflıq inam yaratdı. Bir e-ticarət şirkəti müştəri dəstəyi chatbotunun əvvəlində "Süni intellekt köməkçisi sizə kömək edir, istənilən vaxt insan nümayəndəsi ilə əlaqə saxlaya bilərsiniz" ifadəsini qoyur. Şəffaflıq və insan çıxışı məmnunluğu azaltmadı; Əksinə, etimadı artırdı və şikayətlər 15% azaldı. Düzgün görülən şəffaflıq dəyər deyil, dəyər idi.
Dörd kopyalana bilən şablon
1) Etik yoxlama:
Rolunuz: məsul AI məsləhətçisi. Bu təşəbbüsü 7 prinsip üzrə skan edin: ədalətlilik, şəffaflıq, hesabatlılıq, məxfilik, insan nəzarəti, təhlükəsizlik, davamlılıq. Hər siyasət üçün bir risk və bir tövsiyə yazın. Təşəbbüs: [mətn]
2) Təsirə məruz qalan tərəfin təhlili:
Bu AI təşəbbüsündən təsirlənən bütün tərəfləri (müştəri, işçi, cəmiyyət, əlverişsiz qruplar) sadalayın. Hər bir tərəf üçün mümkün müsbət və mənfi təsirləri yazın; Ən çox zərər görəcək qrupu qeyd edin. Təşəbbüs: [mətn]
3) Sui-istifadə ssenarisi:
Aşağıdakı AI xüsusiyyətinin sui-istifadə edilə biləcəyi 5 ssenari yaradın (o cümlədən manipulyasiya, ayrı-seçkilik, məxfiliyin pozulması, aldatma). Hər bir ssenari üçün profilaktik dizayn qərarını təklif edin. Atribut: [mətn]
4) Şəffaflıq və nəzarətə nəzarət:
Müştəri ilə üzləşən AI üçün şəffaflıq və insan nəzarəti planını yazın: istifadəçiyə nə və necə məlumat veriləcək; İnsanlara necə ötürülə bilər? O, qərara necə etiraz edə bilər? İstifadəsi: [mətn]
Zəif məlumat / Güclü göstəriş
Zəif: "Bu süni intellekt etikdirmi?"
Nəticə: Səthi “bəli/yox”; Hansı prinsipin, kimin təsirləndiyi, hansı ölçünün olduğu aydın deyil.
Güclü: "Biz işə qəbuldan əvvəl yoxlama alətində süni intellektdən istifadə etməyi düşünürük (son qərarı insan verəcək). Bunu ədalətlilik, şəffaflıq, hesabatlılıq və insan nəzarəti prinsipləri üçün yoxlayın. Hansı namizəd qruplarına ədalətsiz təsir göstərə biləcəyini, hansı qərəzlilik testlərini etməliyəm və namizədlərin qərardan necə şikayət edə biləcəyini konkret yazın."
Nəticə: Təsirə məruz qalan tərəfi müəyyən edən və sınaq və müraciət etməyi təklif edən prinsipə əsaslanan, praktiki qiymətləndirmə.
Ümumi səhvlər
- Etika ilə qanuna uyğunluğu qarışdırmaq. Qanuni olan hər şey etik deyil; Etika daha yüksək bir xəttdir.
- Etikanın davam etməsi. Dizayndan sonra "etik razılığın" alınması çox gecdir; etika əvvəldən dizayna daxil edilməlidir.
- Ədaləti sınamaq deyil. “Bizim modelimiz neytraldır” fərziyyəsi təhlükəlidir; ölçmədən bilmək olmaz.
- Şəffaflığı xərclə səhv salmaq. Düzgün görülən şəffaflıq etibar və dəyəri artırır.
- Təsirə məruz qalan tərəfləri dar saxlamaq. Yalnız müştərini düşünmək, işçini, cəmiyyəti, imkansız qrupları gözdən salmaq korluq yaradır.
Diqqət: Etik qiymətləndirməni tamamilə süni intellektə buraxmaq ziddiyyətli və təhlükəlidir. Süni intellekt etik sualları qaldırmağa kömək edə bilər, lakin dəyər mühakiməsi, mədəni kontekst və son mənəvi məsuliyyət insanın üzərinə düşür. Bir təşkilatın etik mövqeyi insanların şüurlu seçimləri ilə müəyyən edilir, "AI belə dedi" ilə deyil.
Xülasə
Etika "biz edə bilərik" və "biz etməliyik" arasındakı fərqdir və təşkilatın uzunmüddətli etibarlılığını qoruyur. Məsul AI; O, ədalət, şəffaflıq, hesabatlılıq, məxfilik, insan nəzarəti, təhlükəsizlik və davamlılıq prinsiplərinə əsaslanır. Bu prinsiplər mücərrəd deyil; Bu, təsirə məruz qalan tərəflərin müəyyən edilməsi, qərəzliliyin yoxlanılması, şəffaflığın təmin edilməsi və insan nəzarətinin əlavə edilməsi kimi konkret qərarlara çevrilir. Etika qanundan fərqlidir və daha yüksək bir xəttdir; Onu sona buraxmaq olmaz, dizayna daxil edilməlidir. Növbəti bölmədə etikanın hüquqi ekvivalenti olan uyğunluğu, xüsusilə AB AI Qanunu və KVKK-nı müzakirə edəcəyik.
Tətbiq tapşırığı
Yüksək təsirli AI başlanğıcını seçin. Şablon 2 ilə bütün təsirlənmiş tərəfləri sadalayın və zərər görmə ehtimalı yüksək olan qrupu qeyd edin. Şablon 1 ilə yeddi prinsip üçün təşəbbüsü skan edin. Ən kritik iki etik risk üçün konkret ölçü (ədalətlilik testi, şəffaflıq bildirişi, müraciət marşrutu və s.) müəyyən edin. Nəhayət, "mən bu qərarı ən çox mənfi təsirlənən şəxsə izah edə bilərəmmi?" Suala vicdanla cavab verin.
yoxlama siyahısı
- [ ] Mən təsirə məruz qalan bütün tərəfləri müəyyən etdim.
- [ ] Mən startapı məsul AI-nin yeddi prinsipi ilə yoxladım.
- [ ] Mən qərəz/ədalət sınağı planlaşdırdım.
- [ ] Mən şəffaflıq bəyanatını tərtib etdim.
- [ ] Mən insan nəzarəti və müraciəti üçün heç bir yol qoymadım.
- [ ] Mən sui-istifadə ssenariləri haqqında düşündüm.
- [ ] "Bunu ən çox mənfi təsirə məruz qalana izah edə bilərəmmi?" Testdən keçdim.