Hagnaður:
- Hæfni til að tengja ábyrgar gervigreindarreglur (sanngirni, gagnsæi, ábyrgð, persónuvernd, mannlegt eftirlit, öryggi, sjálfbærni) við ákveðnar ákvarðanir
- Hæfni til að prófa viðkomandi aðila og hlutdrægni með því að aðskilja siðferði frá lagalegu samræmi og gera greinarmun á „við getum“ og „við ættum“
- Geta til að draga úr atburðarás misnotkunar fyrirfram með því að fella inn gagnsæi, mannlegt eftirlit og aðdráttarafl í hönnuninni
AI gangsetning getur verið tæknilega fullkomin, fjárhagslega arðbær og lagalega hagkvæm; en það gæti samt verið rangt. Siðfræði er munurinn á „við getum“ og „við ættum. Fyrir háttsettan stjórnanda er siðferði ekki spurning um skreytingar eða almannatengsl; Það er grunnurinn sem viðheldur langtímaáreiðanleika, orðspori og félagslegu lögmæti stofnunarinnar. Í þessari einingu munt þú læra meginreglur ábyrgra gervigreindar (nálgun til að þróa og nota gervigreind á þann hátt sem er sanngjarn, gagnsæ, ábyrg og virt mannlega reisn) og hvernig á að endurspegla þær í daglegum ákvörðunum.
Grundvallarreglur um ábyrga gervigreind
Mismunandi rammar mætast á svipuðum grunni. Hagnýt samantekt fyrir stjórnanda:
meginreglu
Hvað meinarðu?
admin spurning
réttlæti
jafnræði
Hefur þetta ósanngjarna áhrif á hóp?
gagnsæi
vera skiljanlegur
Getum við útskýrt ástæðuna fyrir ákvörðuninni?
ábyrgð
Að bera kennsl á hver ber ábyrgð
Hver ber ábyrgð ef mistök eiga sér stað?
Persónuvernd
Virðing fyrir persónuupplýsingum
Höfum við rétt til að nota gögn?
eftirlit manna
Að halda stjórn
Getur maður mótmælt og stöðvað það?
Öryggi
ekki skaða
Getur verið að þetta sé misnotað?
Sjálfbærni
Umhverfis-/samfélagsleg áhrif
Hverjum leggjum við kostnaðinn á?
Þessar meginreglur eru ekki óhlutbundnar; Hvert þeirra má tengja við áþreifanlega ákvörðun. Til dæmis þýðir „gagnsæi“ að láta viðskiptavini vita að þeir séu að tala við gervigreind; „Mannlegt eftirlit“ þýðir að láta mannlega endurskoða synjun lána og láta hana vera áfrýjaða.
Ábending: Með hverri áhrifaríkri gervigreindarákvörðun skaltu spyrja einnar spurningar: „Get ég skýrt útskýrt og staðið á bak við þessa ákvörðun fyrir þeim sem hefur mest neikvæð áhrif á hana? Ef svarið móðgar er siðferðilegt vandamál.
Siðfræði er öðruvísi en lög
Mikilvægur greinarmunur: lagalegt samræmi (eining 9) er algjört lágmark; Siðfræði er æðri lína. Eitthvað getur verið löglegt en siðlaust. Til dæmis má ekki banna appi að nota gervigreind til að hagræða hegðun notenda, en það er siðlaust. Ábyrgar stofnanir "er það bannað?" ekki "Er það satt?" spyr hann.
Skref fyrir skref: Fella siðferði í ákvörðunina
1. Þekkja viðkomandi aðila. Hverjir verða fyrir áhrifum af þessu framtaki? (Viðskiptavinur, starfsmaður, samfélagið, illa staddir hópar)
2. Skannaðu með stefnum. Settu spurningarmerki við frumkvæðið með tilliti til hverrar af ofangreindum meginreglum.
3. Prófaðu fyrir hlutdrægni og skaða. Hefur líkanið ósanngjarnan áhrif á ákveðna hópa? Hverjar eru misnotkunarsviðsmyndirnar?
4. Bættu við gagnsæi og eftirliti. Tilkynntu notkun gervigreindar, og skildu enga möguleika á andmælum manna.
5. Skjöl og yfirferð. Vista siðferðilegt mat; Athugaðu aftur reglulega.
þrjú smámál
Mál 1 - Löglegt en rangt. Forrit notaði gervigreind til að búa til ávanabindandi tilkynningar til að halda notendum lengur í appinu. Það var engin lagaleg hindrun, en þegar sagt var frá því í blöðum var um verulega mannorðsmissi að ræða; Sérstaklega vakti gagnrýni á miðun þess á unga notendur. Fyrirtækið fjarlægði eiginleikann. Ef siðferðissían væri frá upphafi myndi þessi hætta sjást.
Mál 2 — Gildi sanngirnisprófsins. Lánshæfiseinkunn banka gaf kerfisbundið lægri einkunnir fyrir umsóknir frá vernduðum hópum. Þetta kom fram í úttekt dómsmálaráðherra. Líkanið var endurhannað og prófað reglulega til að tryggja jafnræði milli hópa í niðurstöðum þess. Siðferðisreglan (réttlætið) breyttist í áþreifanleg próf og kom í veg fyrir raunverulegan skaða.
Mál 3 - Gagnsæi byggir upp traust. Netverslunarfyrirtæki setti setninguna „Aðstoðarmaður gervigreindar hjálpar þér, þú getur tengst mannlegum fulltrúa hvenær sem er“ í upphafi spjallbotns fyrir þjónustuver sitt. Gagnsæi og mannleg útganga dró ekki úr ánægju; Þvert á móti jók það sjálfstraust og kvörtunum fækkaði um 15%. Gagnsæi gert rétt var gildi, ekki kostnaður.
Fjögur afritanleg sniðmát
1) Siðferðileg skimun:
Hlutverk þitt: ábyrgur gervigreind ráðgjafi. Skannaðu þetta framtak fyrir 7 meginreglur: sanngirni, gagnsæi, ábyrgð, friðhelgi einkalífs, mannlegt eftirlit, öryggi, sjálfbærni. Skrifaðu eina áhættu og eina tilmæli fyrir hverja stefnu. Frumkvæði: [texti]
2) Greining áhrifaaðila:
Skráðu alla aðila sem hafa áhrif á þetta gervigreindarframtak (viðskiptavinur, starfsmaður, samfélagið, illa settir hópar). Skrifaðu niður möguleg jákvæð og neikvæð áhrif fyrir hvern aðila; Merktu hópinn sem er líklegastur til að verða fyrir skaða. Frumkvæði: [texti]
3) Atburðarás fyrir misnotkun:
Búðu til 5 aðstæður þar sem hægt væri að misnota eftirfarandi gervigreindareiginleika (þar á meðal meðferð, mismunun, friðhelgisbrot, blekkingar). Leggðu til fyrirbyggjandi hönnunarákvörðun fyrir hverja atburðarás. Eiginleiki: [texti]
4) Gagnsæi og eftirlitseftirlit:
Skrifaðu gagnsæi og mannlegt eftirlitsáætlun fyrir gervigreind sem snýr að viðskiptavinum sem: hverju verður komið á framfæri við notandann og hvernig; Hvernig er hægt að yfirfæra það á menn? Hvernig getur hann mótmælt ákvörðuninni? Notkun: [texti]
Veik kvaðning / Sterk kvaðning
Veik: "Er þetta gervigreind siðferðilegt?"
Niðurstaða: Yfirborðslegt „já/nei“; Hvaða meginregla, hver hefur áhrif, hvaða mælikvarði er óljóst.
Strong: "Við erum að íhuga að nota gervigreind í forskimunartæki fyrir ráðningar (manneskjan mun taka endanlega ákvörðun). Skoðaðu þetta með tilliti til meginreglna um sanngirni, gagnsæi, ábyrgð og mannlegt eftirlit. Skrifaðu nákvæmlega hvaða hópa umsækjenda gæti orðið fyrir ósanngjörnum áhrifum, hvaða hlutdrægnipróf ég þarf að gera og hvernig umsækjendur geta áfrýjað ákvörðuninni."
Niðurstaða: Reglubundið, hagnýtt mat sem auðkennir viðkomandi aðila og leggur til prófun og áfrýjun.
Algeng mistök
- Að rugla saman siðferði og samræmi við lög. Ekki er allt sem er löglegt siðferðilegt; Siðfræði er æðri lína.
- Láta siðfræðina endast. Að fá „siðferðissamþykki“ eftir hönnun er of seint; siðferði verður að vera innbyggt í hönnunina frá upphafi.
- Reynir ekki á réttlæti. Sú forsenda að „módelið okkar sé hlutlaust“ er hættulegt; ekki hægt að vita án mælinga.
- Misskilja gagnsæi fyrir kostnaði. Gagnsæi gert rétt eykur traust og verðmæti.
- Halda viðkomandi hliðum þröngum. Það að hugsa aðeins um viðskiptavininn og hunsa starfsmanninn, samfélagið og bágstadda hópa skapar blindan blett.
Varúð: Það er misvísandi og hættulegt að láta gervigreind algjörlega eftir siðferðilegu mati. Gervigreind getur hjálpað til við að vekja upp siðferðilegar spurningar, en gildismat, menningarlegt samhengi og endanleg siðferðileg ábyrgð hvílir á manninum. Siðferðileg afstaða stofnunar ræðst af meðvituðu vali fólks, ekki af „gervigreindinni sagði það“.
Í stuttu máli
Siðfræði er munurinn á „við getum“ og „við ættum“ og verndar langtíma trúverðugleika stofnunarinnar. Ábyrg gervigreind; Það byggir á meginreglum um réttlæti, gagnsæi, ábyrgð, friðhelgi einkalífs, mannlegt eftirlit, öryggi og sjálfbærni. Þessar meginreglur eru ekki óhlutbundnar; Það skilar sér í áþreifanlegar ákvarðanir eins og að bera kennsl á viðkomandi aðila, prófa fyrir hlutdrægni, veita gagnsæi og bæta við mannlegu eftirliti. Siðfræði er ólík lögum og er æðri lína; Það er ekki hægt að láta það vera til enda, það verður að vera fellt inn í hönnunina. Í næstu einingu munum við ræða reglufylgni, sem er lagalegt ígildi siðfræði, sérstaklega ESB AI lögin og KVKK.
Umsóknarverkefni
Veldu ræsingu á áhrifamikilli gervigreind. Með sniðmáti 2 skaltu skrá alla aðila sem verða fyrir áhrifum og merkja hópinn sem er líklegastur til að verða fyrir skaða. Með sniðmáti 1, skannaðu frumkvæði að meginreglunum sjö. Skilgreindu áþreifanlega ráðstöfun (sanngirnipróf, gagnsæistilkynning, áfrýjunarleið osfrv.) fyrir tvær mikilvægustu siðferðisáhætturnar. Að lokum, „get ég útskýrt þessa ákvörðun fyrir þeim sem hefur mest neikvæð áhrif á hana? Svaraðu spurningunni heiðarlega.
gátlisti
- [ ] Ég hef borið kennsl á alla viðkomandi aðila.
- [ ] Ég skimaði gangsetninguna með sjö meginreglum um ábyrga gervigreind.
- [ ] Ég skipulagði próf fyrir hlutdrægni/sanngirni.
- [ ] Ég hannaði gagnsæisyfirlýsinguna.
- [ ] Ég skildi enga leið fyrir mannlegt eftirlit og áfrýjun.
- [ ] Ég hugsaði um misnotkunaratburðarás.
- [ ] "Get ég útskýrt það fyrir þeim sem hefur mest neikvæð áhrif?" Ég stóðst prófið.