Inimkontroll, läbipaistvus, eelarvamus ja eetika

Kasu:

• Inimjuhtimise kolme mudeli eristamine (ahelas, ahelas, käsus)
• Tehisintellekti väljundis kallutatuse ja diskrimineerimise riskide äratundmine ja leevendamine
• Läbipaistvuse ja seletatavuse põhimõtete tõlkimine konkreetseteks rakendusteks

AI-süsteem võib tehniliselt ideaalselt töötada, kuid siiski olla vale: see võib rühma süstemaatiliselt kõrvaldada, ei suuda oma otsuse põhjust selgitada või panna inimesed seda küsitlemata vastu võtma. Selles üksuses tõlgime valitsemise "pehme", kuid kõige otsustavama poole – inimkontrolli, eelarvamuste haldamise, läbipaistvuse ja eetika – konkreetseteks praktikateks. Eesmärk ei ole ebamäärased loosungid nagu "ära usalda tehisintellekti"; Need on töötavad mehhanismid, mis näitavad, kuidas väljundit auditeerida, vähendada eelarvamusi ja luua läbipaistvus.

Kolm inimkontrolli mudelit

Inimjärelevalve tähendab, et inimene säilitab kontrolli tehisintellekti tehtud otsuste üle. Põhimudeleid on kolm ja vastavalt riskile on vaja valida õige mudel.

mudel

Tähendus

Kuhu see sobib

Inimene ringis

Inimene kiidab iga otsuse heaks

Kõrge riskiga, mõjukad otsused

Inimene ringis

AI töötab, inimesed jälgivad ja vajadusel sekkuvad

Keskmise riskiga, suure mahuga tehingud

Mees käsul

Inimene kujundab süsteemi, seab selle piirid, suudab selle sulgeda

Üldine valitsemistase

Inimest oluliselt mõjutavate otsuste puhul (tööhõive, krediit, tervishoid) eelistatakse human-in-the-loop mudelit: tehisintellekt annab nõu, kuid lõpliku otsuse teeb pädev inimene. "AI ütles nii" ei ole kunagi vabandus; Vastutus lasub alati inimesel.

Tähelepanu: Ei piisa, kui inimlik kontroll on "paberil". Kui inimene kiidab tehisintellekti ettepaneku automaatselt heaks (kummitempel), puudub tegelik kontroll. Selleks, et auditeerimine oleks mõttekas, peab inimene suutma näha põhjendust, selle kahtluse alla seada ja öelda tõeliselt "ei".

Eelarvamuste ja diskrimineerimise oht

Eelarvamus on see, kui tehisintellekt seab teatud rühmad süstemaatiliselt ebasoodsasse olukorda või annab eeliseid. Selle allikaks on sageli koolitusandmed: kui ajaloolistes andmetes esineb diskrimineerimist, õpib tehisintellekt neid ja säilitab – isegi skaleerib seda.

Praktilised sammud eelarvamuste vähendamiseks:

1. Tundlike muutujate ülevaatamine: kontrollige selliste väljade (nt sugu, vanus, etniline kuuluvus) mõju otsusele.
2. Katsetulemused rühmade kaupa: kas süsteem annab erinevates rühmades erineva tagasilükkamise/vastuvõtmise määra?
3. Hoiduge puhverserveri muutujatest: sellised väljad nagu "naabruskond" või "kool" võivad kaudselt väljendada etnilist/klassilist erinevust.
4. Seadke sisse regulaarne jälgimine: eelarvamust testitakse pidevalt, mitte ainult üks kord; See võib andmete muutudes tagasi tulla.

kolm minikarpi

Juhtum 1 – kummitempel. Ühes pangas kiidavad laenuametnikud tehisintellekti skoori heaks ilma seda üle vaatamata; Nad ütlevad, et "süsteem on selle juba välja arvutanud". Audit näitab, et 500-st esildist 498-l tegi inimene täpselt sama otsuse kui tehisintellekt – seega tegelikku ülevaatamist ei toimu. Lahendus: nõuda inimestelt arutluskäiku, otsust teatud määral teistkordselt ära arvata ja nõuda märkust "miks nõustun/ei nõustu".

2. juhtum – kaudne eelarvamus. Värbav tehisintellekt hindab naiskandidaate madalamalt, kuigi see ei kasuta sugu üldse. kust? Kuna varasemad andmed hõlmasid enamasti teatud positsioonil olevaid mehi, õppis mudel kaudset diskrimineerimist puhvermuutujate kaudu, nagu "katkematu karjäär". Grupipõhine testimine näitab seda; Meeskond eraldab asendusmuutujad ja jälgib tulemust.

Juhtum 3 – usaldage läbipaistvust. Kindlustusselts teatab oma tehisintellektil põhinevas kahjuhinnangus igale kliendile, et "otsus põhineb tehisintellektil, nad võivad edasi kaevata ja taotleda inimeselt ülevaatamist." Vastuväidete määr on oodatust madalam, kuna kliendid mõistavad ja usaldavad protsessi. Läbipaistvus suurendab usaldust, vähendades samas riske.

Läbipaistvus ja seletatavus

Läbipaistvus seisneb asjaomastele inimestele selgeks tegemises, et tehisintellekt töötab ja kuidas see töötab. Seletatavus tähendab oskust arusaadavalt selgitada otsuse põhjust. Betooni rakendused:

• Teatis „Te räägite tehisintellektiga” inimesega suhtlemise kohta tehisintellektiga.
• "See otsus põhines järgmistel teguritel" selgitus automaatsetes otsustes.
• Esitage selgelt viis apellatsiooni esitamiseks ja inimese ülevaatuse taotlemiseks.
• Sisemeeskondade jaoks: mudeli tegevuste dokumenteerimine ja salvestamine.

Vihje: Küsige tehisintellekti otsust "mis olid kolm peamist tegurit, mis seda otsust mõjutasid?" Testige seda küsimusega. Kui süsteem ei suuda seda arusaadavaks teha ja otsus inimest oluliselt mõjutab, ei ole see süsteem veel vastutustundlikuks kasutamiseks valmis.

Automatiseerimise eelarvamus: oma lõks

Isegi kui läbipaistvus ja inimlik järelevalve on loodud, on inimlikul poolel salakaval risk: automatiseerimise eelarvamus. See on kalduvus, et inimesed usaldavad masina väljundit rohkem kui oma otsust. Kuna ekraanil kuvatav tehisintellekti ettepanek näib olevat "objektiivne ja kalkuleeritud", on kiusatus see ilma kahtluseta vastu võtta – see on kummitempli psühholoogiline päritolu.

Selle vähendamiseks on konkreetseid viise. Julgustage esmalt vastuarvamust: küsige otsuse heakskiitvalt inimeselt: "Miks ma ei nõustu tehisintellektiga?" Paluge tal selle küsimuse üle järele mõelda. Seejärel näidake usaldusskoori: näidake, kui kindel on AI; Märgi madala usaldusväärsusega väljundid eraldi. Seejärel seadistage konfliktihoiatus: kui tehisintellekti soovitus rikub asutuse reeglit või inimesele kättesaadavaid andmeid, tõstab süsteem selle esile. Lõpuks rakendage kriitiliste otsuste tegemisel kahte inimlikku põhimõtet; Üks heakskiitja on automatiseerimise eelarvamuste suhtes vastuvõtlikum.

Ettevaatust: kui öeldakse, et inimesed on heaks kiitnud, ei tähenda see, et oleksite vaba automatiseerimisest. Inimesel peab olema nii volitused, aeg kui ka õige teave tehisintellekti kahtluse alla seadmiseks. Süsteem, mis sunnib heakskiitjat tegema 200 otsust 3 sekundi jooksul, ei paku tegelikult tõelist inimlikku kontrolli.

Kopeeritavad mallid

MALL 1 – Inimjuhtimise mudeli valik: "Milline inimjuhtimismudel sobib järgmiseks tehisintellekti kasutamiseks [kirjeldage kasutust]: tsüklis, ahelas või käsus? Soovitage koos põhjendusega, võttes arvesse riski ja mõju üksikisikule. Täpsustage, millise juhtelemendi peaksin lisama, et vältida kummitempli riski."

MALL 2 – eelarvamuste testimise plaan: "Koostage [kirjeldage kasutust] eelarvamuste testimise plaan järgmise otsustustoe AI jaoks: milliseid rühmi peaksin võrdlema, millist mõõdikut mõõtma (tagasilükkamise/vastuvõtmise määr jne), milliseid asendusmuutujaid peaksin otsima, kui sageli peaksin testi kordama? Kirjutage see samm-sammult."

MALL 3 – Otsuse kirjelduse tekst: "Kirjutage isikupärastatud automatiseeritud otsuse jaoks lihtne kirjeldav tekst: kas otsus oli tehisintellekti toel, otsust mõjutavad peamised tegurid, viis edasi kaevata ja inimeselt läbi vaadata. Mittesüüdistav, lugupidav toon, 120 või vähem sõna."

MALL 4 – eetilise ülevaatuse kontroll-loend: "Enne tehisintellekti kasutamise avaldamist koostage eetikaülevaate kontroll-loend: õiglus/diskrimineerimine, läbipaistvus, inimkontroll, privaatsus, turvalisus, vastutus. Lisage iga pealkirja alla 1–2 selget küsimust, millele tuleb vastata."

Nõrk viip / Tugev viip

NÕRK: "Kas see värbamise tehisintellekt on õiglane?" -> Mudel annab üldise vastuse nagu "see peaks olema õiglane"; ei paku testitavat meetodit ja kõrvalekalde mõõtmist. TUGEV: "Koostage selle värbamistoetuse tehisintellekti jaoks eelarvamuste testimise plaan: meetod soo- ja vanuserühmade vastuvõtumäärade võrdlemiseks, arvessevõetavad puhvermuutujad, vastuvõetav erinevuslävi ja jälgimissagedus. Lisage ka kontroll, et tagada, et inimene teeb lõpliku otsuse." -> Mudel loob mõõdetava, korratava õigluse mehhanismi.

Levinud vead

• Inimkontrolli jätmine "paberile" ja AI soovituse automaatne kinnitamine (kummitempel).
• Inimest oluliselt mõjutavate otsuste jätmine järelvalveta, mitte aga tsüklisse.
• Arvestades, et eelarvamus on lahendatud lihtsalt sellepärast, et "kustutasin tundliku muutuja"; puhverserveri muutujate vahelejätmine.
• Eelarvamuse testimine üks kord ja seda mitte pidevalt jälgida.
• Läbipaistvuse vahelejätmine, kuna "see on tehniline detail, kasutaja ei saa aru".
• Süsteemi kasutamine, mis ei suuda kriitilistes otsustes selgitada otsuse põhjust.
• Eetilise hindamise jätmine pärast avaldamist, öeldes "näeme hiljem".

Kokkuvõttes

• Inimkontroll on rakendatud kolmes mudelis; Inimesi mõjutavates otsustes eelistatakse inimesi tsüklis.
• Kontroll peab olema mõttekas; Kummitempel (automaatne kinnitamine) ei ole tegelik audit.
• Eelarvamus tuleneb sageli treeninguandmetest; Tundlikke ja asendusmuutujaid tuleks testida ja pidevalt jälgida.
• Läbipaistvus ja seletatavus nõuavad kasutajale selgelt, et tehisintellekt on mängus ja otsuse põhjus.
• Eetiline kontroll toimub enne avaldamist; vastutus lasub alati inimesel, "AI ütles nii" ei ole vabandus.

Rakenduse ülesanne

Valige tehisintellekti otsustusprotsess, mis mõjutab inimesi teie organisatsioonis (nt rakenduste hindamine). Määrake selle protsessi jaoks sobiv inimkontrolli mudel koos põhjendusega ja kavandage konkreetne juhtseade, et vältida kummist stantsimist (nt nõue näha põhjendust, näidise ülevaatus). Seejärel koostage eelarvamuste testimise plaan: määrake, milliseid rühmi võrdlete, millise mõõdikuga, kui sageli ja millistele puhverserveri muutujatele tähelepanu pöörate. Lõpuks koostage otsuse selgitustekst, mis kuvatakse inimesele selle protsessi käigus ja mis sisaldab apellatsiooni/inimese läbivaatamise teed.

kontrollnimekiri

• [ ] Valisin protsessile sobiva inimkontrolli mudeli.
• [ ] Kujundasin betoonist juhtseadme, mis hoiab ära kummitempli.
• [ ] Koostasin eelarvamuste testimise plaani (rühmad, mõõdik, sagedus).
• [ ] Hindasin asendusmuutujate riski.
• [ ] Kirjutasin isikule otsuse selgitusteksti.
• [ ] Olen selgelt esitanud tee edasikaebamisele ja inimlikule läbivaatamisele.
• [ ] Tegin eetikaülevaatuse enne avaldamist.