Pelnas:
- Išskirkite tris žmogaus valdymo modelius (kilpoje, kilpoje, komandoje)
- Atpažinti ir sumažinti šališkumo ir diskriminacijos riziką dirbtinio intelekto išvestyje
- Skaidrumo ir paaiškinamumo principų perkėlimas į konkrečius pritaikymus
AI sistema gali techniškai veikti nepriekaištingai, tačiau vis tiek yra klaidinga: ji gali sistemingai pašalinti grupę, nepaaiškinti savo sprendimo priežasties arba paskatinti žmones priimti jį be klausimo. Šiame skyriuje mes paverčiame „minkštąją“, bet labiausiai lemiamą valdymo pusę – žmogaus kontrolę, šališkumo valdymą, skaidrumą ir etiką – į konkrečias praktikas. Tikslas nėra neaiškūs šūkiai, tokie kaip „nepasitikėk AI“; Jie yra veikiantys mechanizmai, parodantys, kaip patikrinti išvestį, sumažinti šališkumą ir užtikrinti skaidrumą.
Trys žmogaus valdymo modeliai
Žmogaus priežiūra reiškia, kad žmogus išlaiko AI priimamų sprendimų kontrolę. Yra trys pagrindiniai modeliai ir reikia pasirinkti tinkamą modelį pagal riziką.
modelis
Reikšmė
Kur tinka
Žmogus kilpoje
Žmogus pritaria kiekvienam sprendimui
Didelės rizikos, įtakingi sprendimai
Žmogus ant kilpos
Dirbtinis intelektas veikia, žmonės stebi ir, jei reikia, įsikiša
Vidutinės rizikos, didelės apimties sandoriai
Vyras vadovauja
Žmogus kuria sistemą, nustato jos ribas, gali ją uždaryti
Bendras valdymo lygis
Priimant sprendimus, turinčius didelę įtaką asmeniui (įdarbinimas, kreditas, sveikatos priežiūra), pirmenybė teikiama „žmogaus kilpoje“ modeliui: DI pataria, tačiau galutinį sprendimą priima kompetentingas žmogus. „AI taip pasakė“ niekada nėra pasiteisinimas; Atsakomybė visada tenka žmogui.
Dėmesio: neužtenka, kad žmogaus kontrolė būtų „ant popieriaus“. Jei žmogus automatiškai patvirtina AI pasiūlymą (gumos štampavimas), realios kontrolės nėra. Kad auditas būtų prasmingas, reikia sugebėti įžvelgti pagrindimą, suabejoti juo ir tikrai pasakyti „ne“.
Išankstinio nusistatymo ir diskriminacijos rizika
Šališkumas yra tada, kai AI sistemingai kenkia arba suteikia pranašumų tam tikroms grupėms. Jo šaltinis dažnai yra mokymo duomenys: jei istoriniuose duomenyse yra diskriminacijos, AI išmoksta ir palaiko juos – netgi padidina.
Praktiniai žingsniai šališkumui sumažinti:
- Peržiūrėkite jautrius kintamuosius: patikrinkite tokių laukų, kaip lytis, amžius, etninė priklausomybė, įtaką sprendimui.
- Bandymų rezultatai pagal grupes: ar sistema sukuria skirtingus atmetimo/priėmimo rodiklius skirtingose grupėse?
- Saugokitės tarpinių kintamųjų: tokie laukai kaip „kaimynystė“ arba „mokykla“ gali netiesiogiai perteikti etninį / klasės skirtumą.
- Nustatykite reguliarų stebėjimą: šališkumas tikrinamas nuolat, o ne vieną kartą; Jis gali sugrįžti pasikeitus duomenims.
trys mini dėklai
1 atvejis – guminis antspaudas. Viename banke paskolų pareigūnai patvirtina AI balą jo neperžiūrėdami; Sako, „sistema tai jau apskaičiavo“. Auditas rodo, kad 498 iš 500 pareiškimų žmogus priėmė lygiai tokį patį sprendimą kaip ir dirbtinis intelektas, todėl tikros peržiūros nėra. Sprendimas: reikalauti, kad žmonės pamatytų argumentus, tam tikru mastu atspėtų sprendimą ir reikalaukite pastabos „kodėl sutinku / nesutinku“.
2 atvejis – numanomas šališkumas. Įdarbinant dirbtinį intelektą moterų kandidatų balai yra žemesni, nors lytis visai nenaudojama. Iš kur? Kadangi ankstesniuose duomenyse daugiausia buvo vyrai, užimantys tam tikras pareigas, modelis išmoko netiesioginę diskriminaciją naudodamas tarpinius kintamuosius, tokius kaip „nepertraukiama karjera“. Grupinis testavimas tai atskleidžia; Komanda išskiria pakaitinius kintamuosius ir stebi rezultatą.
3 atvejis. Pasitikėkite skaidrumu. Atlikdama dirbtinio intelekto padarytos žalos įvertinimą, draudimo bendrovė informuoja kiekvieną klientą, kad „sprendimas pagrįstas dirbtiniu intelektu, jie gali apskųsti ir prašyti, kad žmogus peržiūrėtų“. Prieštaravimų procentas yra mažesnis nei tikėtasi, nes klientai supranta procesą ir juo pasitiki. Skaidrumas didina pasitikėjimą ir mažina riziką.
Skaidrumas ir paaiškinamumas
Skaidrumas yra tai, kad atitinkamiems žmonėms būtų aišku, kad AI veikia ir kaip jis veikia. Paaiškinamumas reiškia gebėjimą suprantamai paaiškinti sprendimo priežastį. Betono pritaikymas:
- Pranešimas „Jūs kalbate su AI“ apie AI bendravimą su asmeniu.
- „Šis sprendimas buvo pagrįstas šiais veiksniais“ paaiškinimu automatiniuose sprendimuose.
- Aiškiai nurodykite, kaip pateikti apeliaciją, ir paprašykite žmogaus peržiūrėti.
- Vidinėms komandoms: modelio veiklos dokumentacija ir įrašymas.
Patarimas: Paklauskite AI sprendimo „kokie buvo trys pagrindiniai veiksniai, turėję įtakos šiam sprendimui? Išbandykite tai su klausimu. Jei sistema to negali padaryti suprantama ir sprendimas labai paveikia žmogų, ta sistema dar nėra paruošta atsakingam naudojimui.
Automatikos šališkumas: savo spąstai
Net jei nustatomas skaidrumas ir žmogiškoji priežiūra, iš žmogaus pusės kyla klastinga rizika: automatizavimo šališkumas. Tai yra tendencija, kad žmonės labiau pasitiki mašinos rezultatais nei savo sprendimu. Kadangi AI pasiūlymas ekrane atrodo „objektyvus ir apgalvotas“, kyla pagunda jį priimti neabejotinai – tokia yra psichologinė guminio antspaudo kilmė.
Yra konkrečių būdų tai sumažinti. Pirmiausia skatinkite priešingą nuomonę: paklauskite asmens, patvirtinančio sprendimą: „Kodėl galiu nesutikti su AI? Paprašykite jo pagalvoti apie klausimą. Tada parodykite pasitikėjimo balą: nurodykite, kiek pasitiki AI; Atskirai pažymėkite žemo pasitikėjimo rezultatus. Tada nustatykite įspėjimą apie konfliktą: jei AI rekomendacija pažeidžia institucijos taisyklę arba žmogui prieinamus duomenis, sistema tai paryškins. Galiausiai kritiniams sprendimams taikyti du žmogiškuosius principus; Vienas patvirtinėjas yra labiau linkęs į automatizavimo šališkumą.
Atsargiai: Sakymas „yra žmogaus pritarimas“ nereiškia, kad neturite automatizavimo šališkumo. Žmogus turi turėti tiek įgaliojimų, tiek laiko ir tinkamos informacijos, kad galėtų suabejoti AI. Sistema, kuri priverčia patvirtintoją priimti 200 sprendimų per 3 sekundes, iš tikrųjų nesuteikia tikros žmogaus kontrolės.
Kopijuojami šablonai
1 ŠABLONAS. Žmogaus valdymo modelio pasirinkimas: „Koks žmogaus valdymo modelis tinkamas toliau nurodytam AI naudojimui [apibūdinkite naudojimą]: cikle, cikle ar komandoje? Rekomenduokite su pagrindimu, atsižvelgiant į riziką ir poveikį asmeniui. Nurodykite, kokią valdiklį turėčiau pridėti, kad išvengčiau guminio antspaudo rizikos.
2 ŠABLONAS – šališkumo testavimo planas: „Sudarykite [apibūdinkite naudojimą] šališkumo testavimo planą, skirtą tokiam sprendimų palaikymo AI: kurias grupes turėčiau palyginti, kokią metriką turėčiau matuoti (atmetimo / priėmimo rodiklis ir kt.), kokių pakaitinių kintamųjų turėčiau ieškoti, kaip dažnai turėčiau kartoti testą? Parašykite žingsnis po žingsnio.
3 ŠABLONAS – sprendimo aprašo tekstas: „Parašykite paprastą suasmeninto automatizuoto sprendimo aprašo tekstą: ar sprendimas buvo pagrįstas dirbtiniu intelektu, pagrindiniai veiksniai, turintys įtakos sprendimui, būdas pateikti apeliaciją ir prašyti, kad žmogus peržiūrėtų. Nekaltinantis, pagarbus tonas, 120 ar mažiau žodžių.
4 ŠABLONAS. Etikos peržiūros kontrolinis sąrašas: "Prieš paskelbdami dirbtinio intelekto naudojimą, paruoškite etikos peržiūros kontrolinį sąrašą: sąžiningumas / diskriminacija, skaidrumas, žmogaus kontrolė, privatumas, saugumas, atskaitomybė. Įtraukite 1–2 aiškius klausimus, į kuriuos reikia atsakyti kiekvienoje antraštėje."
Silpnas raginimas / Stiprus raginimas
SILPNAS: „Ar tai įdarbinimo AI sąžininga?“-> Modelis pateikia bendrą atsakymą, pavyzdžiui, „tai turėtų būti sąžininga“; nepateikia tikrinamo metodo ir šališkumo matavimo. STIPRUS: "Nustatykite šališkumo testavimo planą, skirtą šio įdarbinimo palaikymo AI: metodas, leidžiantis palyginti priėmimo rodiklius pagal lytį ir amžiaus grupes, atsižvelgti į tarpinius kintamuosius, priimtiną skirtumo slenkstį ir stebėjimo dažnumą. Taip pat pridėkite valdymą, kad įsitikintumėte, jog žmogus priima galutinį sprendimą." -> Modelis sukuria išmatuojamą, pakartojamą sąžiningumo mechanizmą.
Dažnos klaidos
- Paliekant žmogaus kontrolę „ant popieriaus“ ir automatiškai patvirtinant AI rekomendaciją (guminį antspaudą).
- Sprendimų, kurie reikšmingai paveikia asmenį, palikimas neprižiūrimas, o ne kilpoje.
- Manoma, kad šališkumas išspręstas tik todėl, kad „ištryniau jautrų kintamąjį“; praleidžiant tarpinio serverio kintamuosius.
- Vieną kartą tikriname šališkumą ir nuolat jo nestebime.
- Praleidžiamas skaidrumas, nes „tai techninė detalė, vartotojas nesupras“.
- Naudoti sistemą, kuri negali paaiškinti sprendimo priežasties kritiniuose sprendimuose.
- Palikti etinį vertinimą iki publikacijos, sakydamas „pamatysime vėliau“.
Apibendrinant
- Žmogaus kontrolė įgyvendinama trimis modeliais; Priimant sprendimus, turinčius įtakos žmonėms, pirmenybė teikiama žmonėms cikle.
- Kontrolė turi būti prasminga; Guminis antspaudas (automatinis patvirtinimas) nėra tikrasis auditas.
- Šališkumas dažnai kyla iš treniruočių duomenų; Jautrūs ir pakaitiniai kintamieji turėtų būti tikrinami ir nuolat stebimi.
- Skaidrumas ir paaiškinamumas reikalauja aiškiai parodyti vartotojui, kad AI veikia, ir tokio sprendimo priežastį.
- Etinė peržiūra atliekama prieš paskelbiant; atsakomybė visada tenka žmogui, „AI taip pasakė“ nėra pasiteisinimas.
Taikymo užduotis
Pasirinkite dirbtinio intelekto sprendimo procesą, kuris turėtų įtakos žmonėms jūsų organizacijoje (pavyzdžiui, paraiškos vertinimas). Nustatykite atitinkamą žmogaus valdymo modelį šiam procesui su pagrindimu ir suprojektuokite konkretų valdiklį, kad būtų išvengta gumos štampavimo (pvz., reikalavimas pamatyti pagrindimą, mėginio peržiūra). Tada parašykite šališkumo testavimo planą: nurodykite, kurias grupes lyginsite, su kokia metrika, kaip dažnai ir į kuriuos tarpinio serverio kintamuosius kreipsite dėmesį. Galiausiai parengkite sprendimo paaiškinimo tekstą, kuris bus rodomas asmeniui šio proceso metu, ir įtraukite apeliacijos / žmogaus peržiūros kelią.
kontrolinis sąrašas
- [ ] Pasirinkau procesui tinkamą žmogaus valdymo modelį.
- [ ] Sukūriau konkretų valdiklį, kuris apsaugotų nuo guminio antspaudo.
- [ ] Parengiau šališkumo testavimo planą (grupės, metrika, dažnis).
- [ ] Įvertinau pakaitinių kintamųjų riziką.
- [ ] Parašiau asmeniui sprendimo paaiškinimo tekstą.
- [ ] Aiškiai pateikiau kelią į apeliaciją ir žmogaus peržiūrą.
- [ ] Prieš paskelbimą atlikau etikos patikrinimą.