Ieguvumi:
- Trīs cilvēku vadības modeļu atšķiršana (cilpā, cilpā, komandā)
- Neobjektivitātes un diskriminācijas risku atpazīšana un mazināšana mākslīgā intelekta izvadē
- Pārredzamības un izskaidrojamības principu tulkošana konkrētos lietojumos
AI sistēma var tehniski darboties nevainojami, taču tā joprojām ir nepareiza: tā var sistemātiski likvidēt grupu, neizskaidrot sava lēmuma iemeslu vai likt cilvēkiem to pieņemt bez apšaubīšanas. Šajā nodaļā mēs pārvēršam “mīksto”, bet vissvarīgāko pārvaldības pusi — cilvēka kontroli, aizspriedumu pārvaldību, caurspīdīgumu un ētiku — konkrētā praksē. Mērķis nav neskaidri saukļi, piemēram, "neuzticies AI"; Tie ir darba mehānismi, kas parāda, kā pārbaudīt rezultātu, samazināt neobjektivitāti un nodrošināt caurspīdīgumu.
Trīs cilvēka kontroles modeļi
Cilvēka uzraudzība nozīmē, ka cilvēks saglabā kontroli pār AI pieņemtajiem lēmumiem. Ir trīs pamatmodeļi, un ir nepieciešams izvēlēties pareizo modeli atbilstoši riskam.
modelis
Nozīme
Kur tas der
Cilvēks cilpā
Cilvēks apstiprina katru lēmumu
Augsta riska, ietekmīgi lēmumi
Cilvēks uz cilpas
AI darbojas, cilvēki uzrauga un vajadzības gadījumā iejaucas
Vidēja riska, liela apjoma darījumi
Cilvēks komandē
Cilvēks veido sistēmu, nosaka tās robežas, var to aizvērt
Vispārējais pārvaldības līmenis
Lēmumiem, kas būtiski ietekmē personu (nodarbinātība, kredīts, veselības aprūpe), priekšroka tiek dota cilvēka cikla modelim: AI sniedz padomu, bet kompetents cilvēks pieņem galīgo lēmumu. “AI teica” nekad nav attaisnojums; Atbildība vienmēr gulstas uz cilvēku.
Uzmanību: nepietiek ar to, ka cilvēka kontrole ir "uz papīra". Ja cilvēks automātiski apstiprina AI ieteikumu (gumijas zīmogs), reālas kontroles nav. Lai audits būtu jēgpilns, ir jāspēj saskatīt pamatojumu, apšaubīt to un patiesi pateikt “nē”.
Aizspriedumu un diskriminācijas risks
Neobjektivitāte ir tad, kad AI sistemātiski nelabvēlīgi ietekmē vai dod priekšrocības noteiktām grupām. Tās avots bieži ir apmācības dati: ja vēsturiskajos datos ir diskriminācija, AI tos apgūst un uztur — pat mērogo.
Praktiski pasākumi neobjektivitātes samazināšanai:
- Pārskatiet sensitīvos mainīgos: pārbaudiet tādu lauku kā dzimums, vecums, etniskā piederība ietekmi uz lēmumu.
- Testa rezultāti pa grupām: vai sistēma rada atšķirīgus noraidīšanas/pieņemšanas rādītājus dažādās grupās?
- Sargieties no starpniekservera mainīgajiem: lauki, piemēram, “apkaime” vai “skola”, var netieši norādīt uz etnisko/klases atšķirību.
- Izveidojiet regulāru uzraudzību: neobjektivitāte tiek pārbaudīta nepārtraukti, nevis tikai vienu reizi; Tas var atgriezties, mainoties datiem.
trīs mini futrāļi
1. gadījums — gumijas zīmogs. Vienā bankā kredītu darbinieki apstiprina AI rezultātu, to nepārskatot; Viņi saka: "sistēma to jau ir aprēķinājusi". Revīzija liecina, ka 498 no 500 iesniegumiem cilvēks ir pieņēmis tieši tādu pašu lēmumu kā AI — tātad reāla pārskatīšana nav veikta. Risinājums: pieprasiet cilvēkiem redzēt argumentāciju, zināmā mērā uzminēt lēmumu un pieprasīt piezīmi "kāpēc piekrītu/nepiekrītu".
2. gadījums — netieša neobjektivitāte. Darbā iesaistītā mākslīgā intelekta sistēma sieviešu kandidātu vērtējumā ir zemāka, lai gan tajā vispār netiek izmantots dzimums. No kurienes? Tā kā pagātnes dati pārsvarā ietvēra vīriešus noteiktā amatā, modelis uzzināja netiešu diskrimināciju, izmantojot aizstājējus, piemēram, "nepārtraukta karjera". Grupu testēšana to atklāj; Komanda iegūst surogātmainīgos un uzrauga rezultātu.
3. gadījums — uzticieties pārredzamībai. Savā ar mākslīgo intelektu balstītā bojājumu novērtējumā apdrošināšanas sabiedrība informē katru klientu, ka "lēmums ir balstīts uz AI, viņi var pārsūdzēt un pieprasīt cilvēka pārskatīšanu." Iebildumu līmenis ir mazāks nekā gaidīts, jo klienti saprot procesu un tam uzticas. Pārredzamība palielina uzticību, vienlaikus samazinot risku.
Pārredzamība un izskaidrojamība
Pārredzamība ir saistīta ar to, lai attiecīgajiem cilvēkiem būtu skaidrs, ka AI darbojas un kā tas darbojas. Izskaidrojamība nozīmē spēju saprotamā veidā izskaidrot lēmuma iemeslu. Betona pielietojumi:
- Paziņojums “Jūs runājat ar AI” par AI mijiedarbību ar personu.
- "Šis lēmums bija balstīts uz šādiem faktoriem" skaidrojums automātiskajos lēmumos.
- Skaidri norādiet ceļu uz apelāciju un pieprasiet cilvēka pārskatīšanu.
- Iekšējām komandām: dokumentācija un modeļa darbības reģistrēšana.
Padoms: jautājiet AI lēmumam: "Kādi bija trīs galvenie faktori, kas ietekmēja šo lēmumu?" Pārbaudiet to ar jautājumu. Ja sistēma to nespēj padarīt saprotamu un lēmums būtiski ietekmē cilvēku, šī sistēma vēl nav gatava atbildīgai lietošanai.
Automatizācijas aizspriedumi: savs slazds
Pat ja tiek nodrošināta pārredzamība un cilvēka uzraudzība, no cilvēka puses pastāv mānīgs risks: automatizācijas aizspriedumi. Tā ir tendence, ka cilvēki vairāk uzticas mašīnas izlaidei, nevis saviem spriedumiem. Tā kā ekrānā redzamais mākslīgā intelekta priekšlikums šķiet “objektīvs un aprēķināts”, rodas kārdinājums to pieņemt bez šaubām — tā ir gumijas zīmoga psiholoģiskā izcelsme.
Ir konkrēti veidi, kā to samazināt. Vispirms veiciniet pretēju viedokli: pajautājiet personai, kas apstiprina lēmumu: "Kāpēc es varētu nepiekrist AI?" Palūdziet viņam padomāt par šo jautājumu. Pēc tam parādiet ticamības rādītāju: norādiet, cik pārliecināts ir AI; Atzīmējiet zemas ticamības rezultātus atsevišķi. Pēc tam iestatiet konflikta brīdinājumu: ja AI ieteikums pārkāpj iestādes noteikumus vai cilvēkam pieejamos datus, sistēma to izcels. Visbeidzot, piemērojiet divus cilvēciskos principus kritiskiem lēmumiem; Viens apstiprinātājs ir vairāk pakļauts automatizācijas novirzēm.
Uzmanību! Sakot “ir cilvēku piekrišana” nenozīmē būt brīvam no automatizācijas aizspriedumiem. Cilvēkam ir jābūt gan pilnvarām, gan laikam, gan pareizai informācijai, lai apšaubītu AI. Sistēma, kas piespiež apstiprinātāju pieņemt 200 lēmumus 3 sekundēs, patiesībā nepiedāvā patiesu cilvēka kontroli.
Kopējamas veidnes
1. VEINNE — cilvēka kontroles modeļa izvēle: "Kurš cilvēka kontroles modelis ir piemērots šādam AI lietojumam [aprakstiet lietojumu]: cilpā, cilpā vai komandā? Ieteikt ar pamatojumu, ņemot vērā risku un ietekmi uz personu. Norādiet, kāda vadīkla man jāpievieno, lai izvairītos no gumijas zīmoga riska."
2. VEINNE — novirzes testēšanas plāns: "Izstrādājiet [aprakstiet lietojuma] novirzes testēšanas plānu šādam lēmumu atbalsta AI: kuras grupas jāsalīdzina, kāda metrika jāmēra (noraidīšanas/pieņemšanas līmenis utt.), kādi aizstājējmainīgie ir jāmeklē, cik bieži tests jāatkārto? Uzrakstiet soli pa solim."
3. VEINE — lēmuma apraksta teksts: "Uzrakstiet vienkāršu apraksta tekstu personalizētam automatizētam lēmumam: vai lēmums bija MI, galvenie faktori, kas ietekmēja lēmumu, veids, kā iesniegt apelāciju un pieprasīt cilvēka pārskatīšanu. Neapsūdzošs, cieņpilns tonis, 120 vārdi vai mazāk."
4. VEINNE — Ētikas pārbaudes kontrolsaraksts: "Pirms AI izmantošanas publicēšanas sagatavojiet ētikas pārbaudes kontrolsarakstu: godīgums/diskriminācija, pārredzamība, cilvēku kontrole, privātums, drošība, atbildība. Katrā virsrakstā iekļaujiet 1–2 skaidrus jautājumus, uz kuriem jāatbild."
Vāja uzvedne / spēcīga uzvedne
VĀJS: “Vai šī darbā iekārtošanas AI ir godīga?”-> Modelis sniedz vispārīgu atbildi, piemēram, “tas būtu godīgi”; nenodrošina pārbaudāmu metodi un novirzes mērījumu. STRONG: "Izveidojiet neobjektivitātes pārbaudes plānu šim personāla atlases atbalsta AI: metode, lai salīdzinātu pieņemšanas rādītājus dzimuma un vecuma grupās, jāņem vērā starpniekservera mainīgie, pieļaujamās atšķirības slieksnis un uzraudzības biežums. Pievienojiet arī kontroli, lai nodrošinātu, ka cilvēks pieņem galīgo lēmumu." -> Modelis rada izmērāmu, atkārtojamu godīguma mehānismu.
Biežas kļūdas
- Atstājot cilvēka kontroli “uz papīra” un automātiski apstiprinot AI ieteikumu (gumijas zīmogs).
- Lēmumu, kas būtiski ietekmē personu, atstāšana bez uzraudzības, nevis cilpas.
- Uzskatot, ka novirze ir novērsta tikai tāpēc, ka "es izdzēsu jutīgo mainīgo"; izlaižot starpniekservera mainīgos.
- Neobjektivitātes pārbaude vienreiz un nepārtraukta tā nekontrolēšana.
- Pārredzamības izlaišana, jo "tā ir tehniska detaļa, lietotājs to nesapratīs".
- Izmantojot sistēmu, kas nevar izskaidrot lēmuma iemeslu kritiskos lēmumos.
- Atstājot ētisko izvērtēšanu pēc publicēšanas, sakot "redzēsim vēlāk".
Rezumējot
- Cilvēka kontrole tiek realizēta trīs modeļos; Lēmumos, kas skar cilvēkus, priekšroka tiek dota cilvēkiem ciklā.
- Kontrolei jābūt jēgpilnai; Gumijas zīmogs (automātiskā apstiprināšana) nav faktiskais audits.
- Neobjektivitāte bieži rodas no apmācības datiem; Sensitīvie un aizstājēji ir jāpārbauda un pastāvīgi jāuzrauga.
- Lai nodrošinātu caurspīdīgumu un izskaidrojamību, lietotājam ir skaidri jāparāda, ka AI darbojas, un lēmuma iemesls.
- Ētiskā pārbaude notiek pirms publicēšanas; atbildība vienmēr gulstas uz cilvēku, "AI tā teica" nav attaisnojums.
Lietojumprogrammas uzdevums
Izvēlieties AI lēmumu pieņemšanas procesu, kas ietekmē cilvēkus jūsu organizācijā (piemēram, pieteikuma izvērtēšana). Nosakiet šim procesam piemērotu cilvēka kontroles modeli ar pamatojumu un izstrādājiet konkrētu kontroli, lai novērstu gumijas štancēšanu (piemēram, prasība redzēt pamatojumu, parauga pārskatīšana). Pēc tam uzrakstiet novirzes pārbaudes plānu: norādiet, kuras grupas salīdzināsit, ar kādu metriku, cik bieži un kuriem starpniekservera mainīgajiem pievērsīsiet uzmanību. Visbeidzot, uzmetiet lēmuma paskaidrojuma tekstu, kas tiks parādīts personai šī procesa laikā, un iekļaujiet apelācijas/cilvēku pārskatīšanas ceļu.
kontrolsaraksts
- [ ] Es izvēlējos procesam atbilstošu cilvēka kontroles modeli.
- [ ] Es izstrādāju betona vadības ierīci, kas novērsīs gumijas zīmogu.
- [ ] Sagatavoju neobjektivitātes pārbaudes plānu (grupas, metrika, biežums).
- [ ] Es novērtēju surogātmaino lielumu risku.
- [ ] Es uzrakstīju personai lēmuma paskaidrojuma tekstu.
- [ ] Esmu skaidri parādījis ceļu uz apelāciju un cilvēku pārskatīšanu.
- [ ] Es veicu ētikas pārbaudi pirms publicēšanas.