Udhibiti wa Binadamu, Uwazi, Upendeleo na Maadili

Faida:

• Kutofautisha mifano mitatu ya udhibiti wa binadamu (katika kitanzi, kwenye kitanzi, kwa amri)
• Kutambua na kupunguza hatari za upendeleo na ubaguzi katika pato la AI
• Kutafsiri kanuni za uwazi na kuelezeka katika matumizi madhubuti

Mfumo wa AI unaweza kufanya kazi kikamilifu kiufundi lakini bado usiwe sahihi: unaweza kuondoa kikundi kimfumo, kushindwa kueleza sababu ya uamuzi wake, au kusababisha watu kuukubali bila kuhoji. Katika kitengo hiki, tunatafsiri upande "laini" lakini muhimu zaidi wa utawala - udhibiti wa binadamu, usimamizi wa upendeleo, uwazi na maadili - katika mazoea madhubuti. Lengo si kauli mbiu zisizo wazi kama "usiamini AI"; Ni mifumo inayofanya kazi inayoonyesha jinsi ya kukagua matokeo, kupunguza upendeleo, na kuweka uwazi.

Mifano tatu za udhibiti wa binadamu

Uangalizi wa kibinadamu unamaanisha kuwa mwanadamu anakuwa na udhibiti juu ya maamuzi yanayofanywa na AI. Kuna mifano mitatu ya msingi na ni muhimu kuchagua mfano sahihi kulingana na hatari.

mfano

Maana

Ambapo inafaa

Binadamu katika kitanzi

Mtu hukubali kila uamuzi

Hatari kubwa, maamuzi yenye athari

Binadamu kwenye kitanzi

AI inafanya kazi, wanadamu hufuatilia na kuingilia kati ikiwa ni lazima

Hatari ya wastani, shughuli za kiwango cha juu

Mtu kwa amri

Mwanadamu hutengeneza mfumo, huweka mipaka yake, anaweza kuifunga

Kiwango cha jumla cha utawala

Kwa maamuzi ambayo yanaathiri sana mtu (ajira, mikopo, huduma ya afya), mtindo wa kibinadamu-katika-kitanzi unapendekezwa: AI inatoa ushauri, lakini mwanadamu mwenye uwezo hufanya uamuzi wa mwisho. "AI nilisema" kamwe sio kisingizio; Jukumu daima liko kwa mtu.

Tahadhari: Haitoshi kwa udhibiti wa binadamu kuwa "kwenye karatasi". Ikiwa mwanadamu ataidhinisha kiotomati pendekezo la AI (kupiga muhuri kwa mpira), hakuna udhibiti halisi. Ili ukaguzi uwe na maana, ni lazima mtu aweze kuona mantiki, aitilie shaka, na kusema kweli “hapana.”

Hatari ya ubaguzi na ubaguzi

Upendeleo ni wakati AI inaharibu au kunufaisha vikundi fulani. Chanzo chake mara nyingi ni data ya mafunzo: ikiwa kuna ubaguzi katika data ya kihistoria, AI hujifunza na kuitunza - hata kuipima.

Hatua za vitendo za kupunguza upendeleo:

1. Kagua vigezo nyeti: Angalia athari za nyanja kama vile jinsia, umri, kabila kwenye uamuzi.
2. Matokeo ya majaribio kwa vikundi: Je, mfumo hutoa viwango tofauti vya kukataliwa/kukubalika katika vikundi tofauti?
3. Jihadhari na vigeu vya seva mbadala: Nyuga kama vile "jirani" au "shule" zinaweza kuwasilisha tofauti za kikabila/tabaka.
4. Anzisha ufuatiliaji wa mara kwa mara: Upendeleo hujaribiwa mfululizo, sio mara moja tu; Inaweza kurudi data inapobadilika.

kesi tatu ndogo

Kesi 1 - Muhuri wa Mpira. Katika benki moja, maafisa wa mkopo huidhinisha alama ya AI bila kuipitia; Wanasema "mfumo tayari umehesabu". Ukaguzi unaonyesha kuwa katika mawasilisho 498 kati ya 500, mwanadamu alifanya uamuzi sawa na AI - kwa hivyo hakuna ukaguzi wa kweli. Suluhisho: zinahitaji watu kuona hoja, pili-nadhani uamuzi kwa kiwango fulani, na kuhitaji dokezo la "kwa nini ninakubali/kutokubali".

Kesi ya 2 - Upendeleo dhahiri. AI ya kuajiri huwafanya watahiniwa wa kike kuwa wa chini zaidi, ingawa haitumii jinsia hata kidogo. Kutoka wapi? Kwa sababu data ya zamani ilijumuisha wanaume wengi katika nafasi fulani, mtindo ulijifunza ubaguzi usio wa moja kwa moja kupitia vigezo vya wakala kama vile "kazi isiyokatizwa." Upimaji wa msingi wa kikundi unaonyesha hii; Timu hutoa viambajengo mbadala na kufuatilia matokeo.

Kesi ya 3 - Amini kwa uwazi. Katika tathmini yake ya uharibifu inayoendeshwa na AI, kampuni ya bima hufahamisha kila mteja kwamba "uamuzi unaendeshwa na AI, wanaweza kukata rufaa na kuomba ukaguzi wa kibinadamu." Kiwango cha pingamizi ni cha chini kuliko inavyotarajiwa kwa sababu wateja wanaelewa na kuamini mchakato huo. Uwazi huongeza uaminifu huku ukipunguza hatari.

Uwazi na kuelezeka

Uwazi ni kuhusu kuwafahamisha watu husika kuwa AI inatenda kazi na jinsi inavyofanya kazi. Kueleza maana yake ni kuweza kueleza sababu ya uamuzi kwa njia inayoeleweka. Maombi ya zege:

• "Unazungumza na AI" arifa kuhusu AI inayoingiliana na mtu huyo.
• "Uamuzi huu ulitokana na mambo yafuatayo" maelezo katika maamuzi ya moja kwa moja.
• Wasilisha wazi njia ya kukata rufaa na kuomba ukaguzi wa kibinadamu.
• Kwa timu za ndani: uwekaji kumbukumbu na kurekodi kile mtindo hufanya.

Kidokezo: Uliza uamuzi wa AI "ni mambo gani matatu makuu yaliyoathiri uamuzi huu?" Ijaribu kwa swali. Ikiwa mfumo hauwezi kufanya hili kueleweka na uamuzi unaathiri mtu kwa kiasi kikubwa, mfumo huo bado hauko tayari kwa matumizi ya kuwajibika.

Upendeleo wa otomatiki: mtego wa mtu mwenyewe

Hata kama uwazi na uangalizi wa kibinadamu utaanzishwa, kuna hatari ya siri kwa upande wa binadamu: upendeleo wa otomatiki. Hii ni tabia ya watu kuamini pato la mashine zaidi ya uamuzi wao wenyewe. Kwa sababu pendekezo la AI kwenye skrini linaonekana "lengo na kuhesabiwa," mtu anajaribiwa kukubali bila kuuliza - hii ndiyo asili ya kisaikolojia ya muhuri wa mpira.

Kuna njia madhubuti za kupunguza hii. Himiza maoni ya kupinga kwanza: muulize mtu anayeidhinisha uamuzi "Kwa nini ninaweza kutokubaliana na AI?" Mwambie afikirie swali hilo. Kisha onyesha alama ya kujiamini: onyesha jinsi AI inavyojiamini; Weka alama kwenye matokeo ya kiwango cha chini cha imani kivyake. Kisha weka arifa ya migogoro: Iwapo pendekezo la AI litakiuka kanuni za taasisi au data inayopatikana kwa binadamu, mfumo utaangazia hili. Hatimaye, tumia kanuni mbili za kibinadamu kwa maamuzi muhimu; Midhinishaji mmoja anaweza kuathiriwa zaidi na upendeleo wa kiotomatiki.

Tahadhari: Kusema "kuna kibali cha kibinadamu" haimaanishi kuwa huru kutokana na upendeleo wa kiotomatiki. Mwanadamu lazima awe na mamlaka, wakati, na habari sahihi ya kuhoji AI. Mfumo unaolazimisha mwidhinishaji kufanya maamuzi 200 kwa sekunde 3 hautoi udhibiti wa kweli wa mwanadamu.

Violezo vinavyoweza kunakiliwa

KIOESHO CHA 1 — Uteuzi wa kielelezo cha udhibiti wa binadamu: "Ni kielelezo kipi cha udhibiti wa binadamu kinachofaa kwa matumizi yafuatayo ya AI [eleza matumizi]: katika kitanzi, kwenye kitanzi, au kwa amri? Pendekeza kwa uhalali, ukizingatia hatari na athari kwa mtu binafsi. Bainisha ni udhibiti gani ninaopaswa kuongeza ili kuepuka hatari ya stempu ya mpira."

KIOESHO CHA 2 — Mpango wa kupima upendeleo: "Tengeneza mpango wa kupima upendeleo wa [elezea matumizi] kwa usaidizi wa uamuzi ufuatao wa AI: ni vikundi gani ninapaswa kulinganisha, ni kipimo gani ninachopaswa kupima (kiwango cha kukataliwa/kukubalika, n.k.), ni vigeu gani mbadala ninavyopaswa kutafuta, mara ngapi ninapaswa kurudia jaribio? Iandike hatua kwa hatua."

KIOLEZO CHA 3 — Maandishi ya maelezo ya uamuzi: "Andika maandishi ya maelezo rahisi kwa uamuzi wa kiotomatiki uliobinafsishwa kibinafsi: ikiwa uamuzi huo uliendeshwa na AI, mambo muhimu yaliyoathiri uamuzi huo, njia ya kukata rufaa na kuomba ukaguzi wa kibinadamu. Toni isiyo ya mashtaka, ya heshima, maneno 120 au chini ya hapo."

KIOESHO CHA 4 — Orodha ya ukaguzi wa kimaadili: "Andaa orodha hakiki ya ukaguzi wa maadili kabla ya kuchapisha matumizi ya AI: usawa/ubaguzi, uwazi, udhibiti wa binadamu, faragha, usalama, uwajibikaji. Jumuisha maswali 1-2 ya wazi ya kujibiwa chini ya kila kichwa."

Agizo dhaifu / Ukumbusho thabiti

DHAIFU: “Je, huku kuajiri AI ni sawa?”-> Muundo unatoa jibu la jumla kama 'inapaswa kuwa sawa'; haitoi njia inayoweza kujaribiwa na kipimo cha upendeleo. STRONG: "Sanidi mpango wa kupima upendeleo kwa usaidizi huu wa kuajiri AI: mbinu ya kulinganisha viwango vya kukubalika katika jinsia na makundi ya umri, vigezo vya wakala vya kuzingatia, kiwango cha juu kinachokubalika cha tofauti, na marudio ya ufuatiliaji. Pia ongeza udhibiti ili kuhakikisha binadamu anafanya uamuzi wa mwisho." -> Mtindo hutoa utaratibu wa haki unaopimika, unaoweza kurudiwa.

Makosa ya kawaida

• Kuacha udhibiti wa binadamu "kwenye karatasi" na kuidhinisha moja kwa moja mapendekezo ya AI (muhuri wa mpira).
• Kuacha maamuzi ambayo huathiri kwa kiasi kikubwa mtu bila kusimamiwa badala ya kitanzi.
• Kwa kuzingatia upendeleo uliotatuliwa kwa sababu tu "Nilifuta tofauti nyeti"; kuruka vigeu vya wakala.
• Kujaribu upendeleo mara moja na sio kuifuatilia kila wakati.
• Inaruka uwazi kwa sababu "ni maelezo ya kiufundi, mtumiaji hataelewa".
• Kutumia mfumo ambao hauwezi kueleza sababu ya uamuzi katika maamuzi muhimu.
• Inaacha tathmini ya maadili hadi baada ya kuchapishwa, ikisema "tutaona baadaye".

Kwa muhtasari

• Udhibiti wa kibinadamu unatekelezwa kwa mifano mitatu; Katika maamuzi yanayoathiri watu, watu wanapendelea katika mzunguko.
• Udhibiti lazima uwe na maana; Muhuri wa mpira (kuidhinisha kiotomatiki) sio ukaguzi halisi.
• Upendeleo mara nyingi hutoka kwa data ya mafunzo; Vigezo nyeti na mbadala vinapaswa kujaribiwa na kufuatiliwa kila mara.
• Uwazi na ufafanuzi unahitaji kuwasilisha wazi kwa mtumiaji kwamba AI inachezwa na sababu ya uamuzi huo.
• Ukaguzi wa kimaadili hutokea kabla ya kuchapishwa; jukumu daima liko kwa mwanadamu, "AI alisema hivyo" sio kisingizio.

Jukumu la maombi

Chagua mchakato wa uamuzi wa AI ambao unaathiri watu katika shirika lako (kwa mfano, tathmini ya maombi). Amua muundo ufaao wa udhibiti wa binadamu kwa mchakato huu kwa kuhalalisha na utengeneze udhibiti madhubuti ili kuzuia upigaji muhuri wa mpira (k.m. hitaji la kuona uhalali, uhakiki wa sampuli). Kisha andika mpango wa kupima upendeleo: taja ni vikundi gani utalinganisha, na metriki gani, mara ngapi, na ni vigeu gani vya proksi utakazozingatia. Hatimaye, andika maandishi ya maelezo ya uamuzi ambayo yataonyeshwa kwa mtu wakati wa mchakato huu na kujumuisha rufaa/njia ya mapitio ya kibinadamu.

orodha ya ukaguzi

• [ ] Nilichagua kielelezo cha udhibiti wa binadamu kinachofaa kwa mchakato.
• [ ] Nilitengeneza kidhibiti cha zege ambacho kitazuia stempu ya mpira.
• [ ] Nilitayarisha mpango wa kupima upendeleo (vikundi, metriki, frequency).
• [ ] Nilitathmini hatari ya vibadala vya mbadala.
• [ ] Niliandika maandishi ya maelezo ya uamuzi kwa mtu huyo.
• [ ] Nimewasilisha kwa uwazi njia ya kukata rufaa na ukaguzi wa kibinadamu.
• [ ] Nilifanya ukaguzi wa maadili kabla ya kuchapishwa.