Hagnaður:
- Aðgreina þrjú líkön af mannlegri stjórn (í lykkju, á lykkju, í stjórn)
- Að viðurkenna og draga úr hættu á hlutdrægni og mismunun í framleiðslu gervigreindar
- Að þýða meginreglur um gagnsæi og skýringarhæfni yfir í áþreifanleg forrit
Gervigreind kerfi getur tæknilega virkað fullkomlega en samt verið rangt: það getur kerfisbundið útrýmt hóp, mistakast að útskýra ástæðuna fyrir ákvörðun sinni eða leitt til þess að fólk samþykkir hana án þess að spyrjast fyrir. Í þessari einingu þýðum við „mjúku“ en mest afgerandi hlið stjórnarhátta – mannastjórn, hlutdrægni, gagnsæi og siðferði – yfir í áþreifanleg vinnubrögð. Markmiðið er ekki óljós slagorð eins og "ekki treysta gervigreind"; Þetta eru vinnuaðferðir sem sýna hvernig á að endurskoða framleiðslu, draga úr hlutdrægni og koma á gagnsæi.
Þrjár gerðir af mannlegri stjórn
Mannlegt eftirlit þýðir að maðurinn heldur stjórn á ákvörðunum sem gervigreindin tekur. Það eru þrjár grunngerðir og nauðsynlegt er að velja rétta gerð eftir áhættu.
fyrirmynd
Merking
Þar sem það passar
Manneskju í hringnum
Maður samþykkir hverja ákvörðun
Áhættusamlegar ákvarðanir sem hafa áhrif
Manneskja á röndum
Gervigreind virkar, menn fylgjast með og grípa inn í ef þörf krefur
Miðlungs áhætta, mikið magn viðskipti
Maður í stjórn
Manneskjan hannar kerfið, setur takmörk þess, getur lokað því
Almennt stjórnunarstig
Fyrir ákvarðanir sem hafa veruleg áhrif á manneskjuna (atvinna, lánstraust, heilsugæsla) er mannlegur-í-lykkjan líkanið valið: gervigreind gefur ráð, en hæfur maður tekur endanlega ákvörðun. „AI sagði það“ er aldrei afsökun; Ábyrgðin er alltaf hjá viðkomandi.
Athygli: Það er ekki nóg að mannastjórn sé „á pappír“. Ef maðurinn samþykkir sjálfkrafa tillögu gervigreindar (gúmmístimplun) er engin raunveruleg stjórn. Til þess að endurskoðun sé þýðingarmikil verður maður að geta séð rökin, efast um það og í raun sagt „nei“.
Hætta á fordómum og mismunun
Hlutdrægni er þegar gervigreind er kerfisbundið óhagræði eða hagræðir ákveðnum hópum. Uppspretta þess er oft þjálfunargögn: ef það er mismunun í sögulegum gögnum, lærir gervigreindin og viðheldur þeim - jafnvel mælikvarðar.
Hagnýt skref til að draga úr hlutdrægni:
- Skoðaðu viðkvæmar breytur: Athugaðu áhrif sviða eins og kyns, aldurs, þjóðernis á ákvörðunina.
- Niðurstöður prófa eftir hópum: Gefur kerfið mismunandi höfnunar-/samþykki í mismunandi hópum?
- Varist umboðsbreytur: Reitir eins og „hverfi“ eða „skóli“ geta óbeint gefið til kynna þjóðernis-/stéttaaðgreiningu.
- Komdu á reglulegu eftirliti: Hlutdrægni er prófuð stöðugt, ekki bara einu sinni; Það gæti komið aftur þegar gögnin breytast.
þrjú smámál
Mál 1 - Gúmmístimpill. Hjá einum banka samþykkja lánafulltrúar gervigreindarstigið án þess að fara yfir það; Þeir segja "kerfið hefur þegar reiknað það út". Úttekt sýnir að í 498 af 500 innsendingum tók maðurinn nákvæmlega sömu ákvörðun og gervigreind - svo það er engin raunveruleg endurskoðun. Lausn: krefjast þess að fólk sjái rökstuðninginn, giska á ákvörðunina að vissu marki og krefjast „af hverju sammála/ósammála“ athugasemd.
Mál 2 - Óbein hlutdrægni. Gervigreind sem nýtur ráðningar skorar kvenkyns frambjóðendur lægri, jafnvel þó hún noti alls ekki kyn. Hvaðan? Vegna þess að fyrri gögn innihéldu aðallega karla í tiltekinni stöðu, lærði líkanið óbeina mismunun með umboðsbreytum eins og „óslitnum starfsferli“. Hóptengd próf sýna þetta; Teymið dregur út staðgengisbreytur og fylgist með niðurstöðunni.
Mál 3 — Traust með gagnsæi. Í gervigreindarknúnu tjónamati sínu upplýsir tryggingafélag hvern viðskiptavin um að „ákvörðunin er knúin gervigreind, þeir geta áfrýjað og beðið um endurskoðun manna. Andmælahlutfallið er lægra en búist var við vegna þess að viðskiptavinir skilja og treysta ferlinu. Gagnsæi eykur traust en dregur úr áhættu.
Gagnsæi og skýring
Gagnsæi snýst um að gera viðkomandi fólki ljóst að gervigreind sé í gangi og hvernig það virkar. Útskýring þýðir að geta útskýrt ástæðu ákvörðunar á skiljanlegan hátt. Steinsteypt forrit:
- "Þú ert að tala við gervigreind" tilkynningu um gervigreind í samskiptum við manneskjuna.
- „Þessi ákvörðun var byggð á eftirfarandi þáttum“ skýringu í sjálfvirkum ákvörðunum.
- Sýndu skýrt leiðina til að áfrýja og biðja um endurskoðun manna.
- Fyrir innri teymi: skjöl og skráning á því sem líkanið gerir.
Ábending: Spyrðu gervigreindarákvörðun "hverjir voru þrír efstu þættirnir sem höfðu áhrif á þessa ákvörðun?" Prófaðu það með spurningunni. Ef kerfið getur ekki gert þetta skiljanlegt og ákvörðunin hefur veruleg áhrif á viðkomandi er það kerfi ekki enn tilbúið til ábyrgrar notkunar.
Sjálfvirkni hlutdrægni: manns eigin gildra
Jafnvel þótt gagnsæi og mannlegu eftirliti sé komið á, þá er skaðleg hætta á mannlegu hliðinni: hlutdrægni í sjálfvirkni. Þetta er tilhneiging fólks til að treysta framleiðslu vélarinnar meira en eigin dómgreind. Vegna þess að tillagan um gervigreind á skjánum virðist „hlutlæg og útreiknuð“ freistast maður til að samþykkja hana án þess að spyrja - þetta er sálfræðilegur uppruni gúmmístimpilsins.
Það eru áþreifanlegar leiðir til að draga úr þessu. Hvetjið fyrst til gagnálits: spyrjið þann sem samþykkir ákvörðunina „Af hverju gæti ég verið ósammála gervigreind? Biddu hann um að hugsa um spurninguna. Sýndu síðan sjálfstraustseinkunnina: gefðu til kynna hversu öruggur gervigreindin er; Merktu úttak með lágt öryggi sérstaklega. Settu síðan upp árekstraviðvörun: Ef tilmæli gervigreindar brýtur í bága við reglur stofnunarinnar eða gögnin sem eru tiltæk fyrir manneskjuna mun kerfið auðkenna þetta. Að lokum skaltu beita tveimur mannlegum meginreglum við mikilvægar ákvarðanir; Einn samþykkjandi er næmari fyrir hlutdrægni í sjálfvirkni.
Varúð: Að segja „það er mannlegt samþykki“ þýðir ekki að vera laus við hlutdrægni í sjálfvirkni. Manneskjan verður að hafa bæði vald, tíma og réttar upplýsingar til að efast um gervigreindina. Kerfi sem neyðir samþykkjandann til að taka 200 ákvarðanir á 3 sekúndum býður í raun ekki upp á sanna mannlega stjórn.
Afritanleg sniðmát
SNIÐMÁT 1 — Val á mannlegum stjórnunarlíkönum: "Hvaða mannlegt stjórnunarlíkan er viðeigandi fyrir eftirfarandi gervigreind notkun [lýsið notkuninni]: í lykkju, á lykkju eða í stjórn? Mælið með rökstuðningi, með hliðsjón af áhættu og áhrifum fyrir einstaklinginn. Tilgreindu hvaða stjórn ætti ég að bæta við til að forðast gúmmístimplaáhættu."
SNIÐMÁT 2 — Hlutdrægniprófunaráætlun: "Búið til [lýsið notkun] hlutdrægniprófunaráætlun fyrir eftirfarandi ákvarðanastuðnings AI: hvaða hópa ætti ég að bera saman, hvaða mælikvarða ætti ég að mæla (höfnunar-/samþykkishlutfall osfrv.), hvaða staðgengisbreytur ætti ég að leita að, hversu oft ætti ég að endurtaka prófið? Skrifaðu það skref fyrir skref."
SNIÐMÁT 3 — Lýsingartexti ákvörðunar: "Skrifaðu einfaldan lýsingartexta fyrir persónulega sjálfvirka ákvörðun: hvort ákvörðunin hafi verið knúin gervigreind, lykilþættir sem hafa áhrif á ákvörðunina, leið til að áfrýja og biðja um endurskoðun manna. Ekki sakarandi, virðingarfullur tónn, 120 orð eða minna."
SNIÐMÁT 4 — Gátlisti fyrir siðferðilegt athugun: "Búið til gátlista fyrir siðferðisskoðun áður en þú birtir gervigreind notkun: sanngirni/mismunun, gagnsæi, mannlegt eftirlit, friðhelgi einkalífs, öryggi, ábyrgð. Láttu 1-2 skýrar spurningar fylgja með sem svara skal undir hverri fyrirsögn."
Veik kvaðning / Sterk kvaðning
WEAK: “Er þetta sanngjarnt að ráða gervigreind?”-> Líkanið gefur almennt svar eins og 'það ætti að vera sanngjarnt'; veitir ekki prófanlega aðferð og hlutdrægnimælingu. STERK: "Settu upp hlutdrægni prófunaráætlun fyrir þessa gervigreind við ráðningarstuðning: aðferð til að bera saman samþykkishlutfall milli kyns og aldurshópa, staðgengilsbreytur sem þarf að hafa í huga, viðunandi mismunaþröskuld og eftirlitstíðni. Bættu líka við stjórn til að tryggja að maðurinn taki endanlega ákvörðun." -> Líkanið framleiðir mælanlegt, endurtekið sanngirniskerfi.
Algeng mistök
- Skilja eftir mannlega stjórn „á pappír“ og samþykkja sjálfkrafa tilmæli gervigreindar (gúmmístimpill).
- Að skilja ákvarðanir sem hafa veruleg áhrif á manneskjuna eftirlitslausa í stað þess að vera í hringiðu.
- Þar sem hlutdrægni var leyst bara vegna þess að "ég eyddi viðkvæmu breytunni"; sleppa umboðsbreytum.
- Prófa hlutdrægni einu sinni og fylgjast ekki stöðugt með henni.
- Sleppir gagnsæi vegna þess að „það er tæknilegt smáatriði, notandinn mun ekki skilja“.
- Nota kerfi sem getur ekki útskýrt ástæðu ákvörðunarinnar í mikilvægum ákvörðunum.
- Að skilja eftir siðferðismat þar til eftir birtingu, segja "við sjáumst síðar".
Í stuttu máli
- Mannleg stjórn er útfærð í þremur gerðum; Í ákvörðunum sem snerta fólk er fólk valið í hringrásinni.
- Eftirlit verður að vera þroskandi; Gúmmístimpillinn (sjálfvirkt samþykki) er ekki raunveruleg endurskoðun.
- Hlutdrægni kemur oft frá þjálfunargögnum; Prófa skal viðkvæmar breytur og staðgöngubreytur og fylgjast stöðugt með þeim.
- Gagnsæi og skýring krefst þess að skýrt sé kynnt fyrir notandanum að gervigreindin sé í leik og ástæðu ákvörðunarinnar.
- Siðferðileg endurskoðun á sér stað fyrir birtingu; ábyrgðin liggur alltaf hjá manneskjunni, "AI sagði það" er engin afsökun.
Umsóknarverkefni
Veldu ákvörðunarferli gervigreindar sem hefur áhrif á fólk í fyrirtækinu þínu (til dæmis umsóknarmat). Ákvarðu viðeigandi eftirlitslíkan fyrir þetta ferli með rökstuðningi og hannaðu steypustjórn til að koma í veg fyrir gúmmístimplun (t.d. krafa um að sjá rökstuðning, endurskoðun sýnishorn). Skrifaðu síðan hlutdrægniprófunaráætlun: tilgreindu hvaða hópa þú munt bera saman, með hvaða mælistiku, hversu oft og hvaða umboðsbreytur þú munt borga eftirtekt til. Að lokum skaltu búa til drög að ákvörðunarskýringartexta sem verður sýndur einstaklingnum meðan á þessu ferli stendur og innihalda áfrýjun/mannleg endurskoðunarleið.
gátlisti
- [ ] Ég valdi mannlegt stjórnunarlíkan sem hentar ferlinu.
- [ ] Ég hannaði steypustýringu sem kemur í veg fyrir gúmmístimpilinn.
- [ ] Ég útbjó hlutdrægni prófunaráætlun (hópar, mæligildi, tíðni).
- [ ] Ég lagði mat á hættuna á staðgöngubreytum.
- [ ] Ég skrifaði ákvörðunarskýringartexta fyrir viðkomandi.
- [ ] Ég hef skýrt kynnt leiðina til áfrýjunar og mannlegrar endurskoðunar.
- [ ] Ég framkvæmdi siðfræðiskoðunina fyrir birtingu.