Awọn anfani:
- O ṣe idanimọ data, apẹrẹ ati awọn orisun lilo ti aiṣedeede algorithmic ati ṣe idanwo iṣelọpọ lori ipilẹ ẹgbẹ kan.
- Ṣalaye bi lupu esi ati aṣiṣe aṣoju n gbe aidogba ga ati fi idi iṣakoso ipa mulẹ.
- O ṣe idaniloju iṣiro nipa ṣiṣe idaniloju alaye ati afilọ ni gbogbo ipinnu adaṣe.
Ara ilu gbọdọ lo agbara rẹ ni dọgbadọgba si gbogbo eniyan: itọju kanna si awọn ara ilu meji ni awọn ipo kanna, iyatọ iwọn si awọn ipo oriṣiriṣi. Ilana imudogba yii jẹ ọranyan t’olofin kan. Oye itetisi atọwọda le ni ilọsiwaju mejeeji ati ni idakẹjẹ ba aaye yii jẹ. O le ni ilọsiwaju nitori ofin ti a lo nigbagbogbo le dinku lainidii ati ojuṣaaju eniyan. O le jẹ ibajẹ nitori awọn awoṣe AI kọ ẹkọ lati awọn data ti o ti kọja, ati awọn data ti o kọja ti n gbe iyasoto ti o ti kọja. Ti eto kan ba ti ni ikẹkọ lori data ti o ti ṣe alailagbara itan-akọọlẹ ẹgbẹ kan pato, o gbe aila-nfani yẹn lọ si ọjọ iwaju-ati ni fọọmu ti o nira pupọ lati ṣawari, labẹ itanjẹ “algoridimu ete.” Ninu ẹyọ yii, iwọ yoo kọ ẹkọ bii o ṣe le ṣe idanimọ aiṣedeede algorithmic (ipinnu eleto ti iṣelọpọ awoṣe lodi si awọn ẹgbẹ kan) nigba lilo AI ni agbegbe gbangba, bii o ṣe le dinku rẹ ati, pataki julọ, bii o ṣe le rii daju iṣiro algorithmic (itumọ fun ipinnu adaṣe adaṣe jẹ alaye, iṣayẹwo ati idije).
Ibo ni ojúsàájú ti wá?
Awọn orisun pupọ wa ti irẹjẹ algorithmic, ati pe gbogbo wọn ni eewu ni gbangba:
- Iyatọ itan: Awọn data ikẹkọ ni aidogba ti o kọja. Fun apẹẹrẹ, ti agbegbe ba ti ni iṣẹ ti o kere si ni iṣaaju, “data eletan” le fihan agbegbe naa bi nini awọn iwulo kekere - nigbati ni otitọ ibeere kere nitori ko si iṣẹ.
- Iyatọ oniduro: Diẹ ninu awọn ẹgbẹ ko ni ipoduduro ninu data (awọn ti ko ni iraye si oni-nọmba, awọn ẹgbẹ ede kekere) ati pe awoṣe ko ṣiṣẹ daradara fun wọn.
- Aṣoju Aṣoju: Paapa ti awoṣe ko ba wo ni taara si ami ti a ko leewọ (ẹya, ẹsin), o le ṣe iyasoto kanna nipa wiwo aṣoju ti o ni nkan ṣe pẹlu rẹ (agbegbe, orukọ, koodu zip).
- Iyatọ wiwọn: Ohun ti a wọn kii ṣe ohun ti a fẹ gaan lati wọn. “nọmba awọn ẹdun ọkan” ṣe iwọn agbara lati kerora ju iwulo lọ.
Išọra: O jẹ ṣinilọna lati sọ “Mo yọ data ifura (abo, ẹya) kuro ninu awoṣe, ni bayi o tọ”. Iyatọ nipasẹ awọn oniyipada aṣoju le tẹsiwaju. Iṣe deede kii ṣe nipa piparẹ titẹ sii, ṣugbọn nipa idanwo iṣejade laarin awọn ẹgbẹ.
Idanwo ododo: wo abajade
Boya eto kan jẹ itẹ tabi ko le ni oye nipa wiwo awọn abajade rẹ, kii ṣe awọn ero rẹ. Ọna ipilẹ: pin ipinnu si awọn ẹgbẹ ki o ṣe afiwe. Njẹ awọn abajade bii gbigba / oṣuwọn ijusile, oṣuwọn aṣiṣe, akoko idaduro yatọ ni pataki laarin awọn ẹgbẹ oriṣiriṣi (abo, ọjọ-ori, agbegbe, owo-wiwọle)? Ti iyatọ ba wa, ṣe iyatọ yii da lori idi ti o tọ tabi o jẹ iyasoto? Niwọn igba ti itupalẹ yii le nilo data ti ara ẹni, o gbọdọ ṣajọpọ ati ṣe ni ibamu pẹlu KVKK.
Imọran: Ṣaaju ki o to yiyi eto ipinnu ti o ni agbara AI tuntun, fọ awọn ipinnu rẹ nipasẹ awọn ẹgbẹ agbegbe ki o gbejade “Ijabọ ododo.” Ti o ba ri iyatọ, "Ṣe iyatọ yii le ṣe alaye?" Mu ibeere naa lọ si igbimọ eniyan.
Alaye ati afilọ: okan ti iṣiro
Ni agbegbe ti gbogbo eniyan, ko si ilu ti o le gba awọn ẹtọ rẹ pẹlu idahun "eto ti pinnu bẹ." Fun gbogbo adaṣe tabi ipinnu iranlọwọ AI, awọn nkan mẹta gbọdọ ni idaniloju:
- Àlàyé: Ohun ti ipinnu naa da lori, kini awọn okunfa ti o munadoko, yẹ ki o ṣe alaye ni ede mimọ.
- Ọna lati rawọ: Awọn ara ilu yẹ ki o ni anfani lati tako ipinnu ati beere lọwọ eniyan lati ṣe atunyẹwo rẹ.
- Itọpa iṣayẹwo: O yẹ ki o gbasilẹ iru data, iru awoṣe / ẹya ati pẹlu eniyan ti o ni iduro ipinnu ti ṣe.
mẹta mini igba
Irú 1 - Surrogate iyatọ sile. Awoṣe iṣaju iranlowo kan ko lo data ifura ṣugbọn o wo “koodu zip.” Ninu idanwo ododo, awọn agbegbe kan ni a rii lati gba pataki ni ọna ṣiṣe – ti o ni ibatan pẹlu koodu zip, owo-wiwọle ati iwuwo ẹya. A ti yọ oniyipada kuro ati pe a ti so ayo taara si awọn itọkasi iwulo.
Ọran 2 - Aafo aṣoju. A chatbot jẹ 41% diẹ sii lati tan awọn ibeere lọdọ awọn ara ilu pẹlu ede abinibi ti kii ṣe Tọki; Awọn data ikẹkọ ni diẹ ninu ẹgbẹ yii. Nigbati atilẹyin multilingual ati ẹnu-ọna imudani eniyan ni a ṣafikun, aafo naa ti wa ni pipade.
Irú 3 - Unexplained ijusile. Ile-ẹkọ kan kọ ohun elo kan laifọwọyi; ilu "kilode?" Nigbati o beere, oṣiṣẹ naa ko le ṣe alaye nitori idi ti awoṣe ko ni oye. Iṣẹlẹ naa fihan pe awọn awoṣe pẹlu alaye ti ko dara ko le ṣee lo lati ṣe awọn ipinnu ti o ni ẹtọ; Eto naa ti yipada si awoṣe ti o ṣe idalare ati nilo ifọwọsi eniyan.
Mẹrin daakọ awọn awoṣe
1) Orisun ti iṣayẹwo ojuṣaaju:
Rẹ ipa: algorithmic didara iwé. Ṣayẹwo ilana ipinnu agbara AI ni isalẹ. Ṣe atokọ awọn orisun ti o ṣee ṣe ti ojuṣaaju: (1) ojuṣaaju itan, (2) ojuṣaaju oniduro (ẹgbẹ ti ko ni ipoduduro), (3) awọn oniyipada aṣoju (ọwọn ti o ni nkan ṣe pẹlu ami idinamọ), (4) abosi wiwọn. Fun apẹẹrẹ kan pato fun ọkọọkan ki o sọ fun mi bi o ṣe le ṣe idanwo rẹ. Ilana: [ilana ipinnu ati data ti a lo]
2) Eto idanwo ododo:
Ṣe agbekalẹ eto idanwo ododo fun abajade ipinnu atẹle: awọn ẹgbẹ wo (ọjọ ori, akọ-abo, agbegbe, owo-wiwọle) yẹ ki MO fọ, kini awọn metiriki (oṣuwọn gbigba, oṣuwọn aṣiṣe, akoko idaduro) o yẹ ki n ṣe afiwe, bawo ni MO ṣe pinnu boya iyatọ jẹ ẹtọ tabi iyasoto? Fi KVKK ikilo. Ipinnu: [kini ipinnu]
3) Gbólóhùn ipinnu (si ọmọ ilu):
Kọ alaye iyasilẹ ti ara ilu ti o ni oye fun ipinnu atẹle: kini awọn nkan ti o ni ipa, ni ede mimọ. Ṣafikun ẹtọ lati rawọ ni ipari ati iṣeeṣe ti nini atunyẹwo eniyan [pẹlu akoko lati jẹrisi]. Lilo awọn ikosile aiduro gẹgẹbi "Eto naa pinnu bẹ." Ipinnu: [akopọ ati awọn okunfa ipa]
4) Ṣayẹwo iṣiro ṣaaju itankale:
Ṣe agbejade atokọ iṣiro kan ṣaaju ki o to sẹsẹ eto ipinnu ti agbara AI: ṣe alaye, o wa ọna kan lati rawọ, jẹ itọpa iṣayẹwo (data / ẹya awoṣe / iṣiro) ti a ṣetọju, ti ṣe idanwo ododo, nibo ni aaye itẹwọgba eniyan wa. Fi awọn nkan ti o padanu asia bi awọn asia pupa.SYSTEM: [ohunelo]
Ailagbara kiakia / Alagbara kiakia
Alailagbara: "Ṣe awoṣe ipinnu yii jẹ deede?"
Strong: "Iṣe rẹ jẹ alamọdaju aiṣedeede algorithmic. Fun awoṣe iṣaju iranlowo iranlowo, akọkọ ṣayẹwo fun awọn orisun ti aifẹ (itan, aṣoju, oniyipada surrogate, wiwọn) ki o si fun awọn apẹẹrẹ ti o daju fun ọkọọkan. Lẹhinna wa pẹlu eto idanwo ododo: didenukole nipasẹ awọn ẹgbẹ wo, eyiti awọn metiriki, bii o ṣe le pinnu ẹtọ ẹtọ ti iyatọ; ṣafikun KVKK ikilọ, ikilọ ikilọ ti KVKK, ṣaaju ki o to ṣe alaye itọpa, ṣaaju ki o to ṣe alaye itọpa ati ikilọ ọna ṣiṣe. ati pupa Flag awọn aito."
Iyatọ naa: itọsi to lagbara n wa ojuṣaaju ni orisun rẹ, ni idanwo ti a ṣe idanwo nipasẹ awọn ẹgbẹ, o jẹ ki iṣiro ni ibigbogbo.
Idajọ mefa ati idari
Iwọn
Ewu
iṣakoso
itan data
Awọn ti o ti kọja gbejade aidogba
Idanwo ojade nipasẹ awọn ẹgbẹ
aṣoju
Ṣiṣẹ koṣe fun diẹ ninu awọn ẹgbẹ
Oṣuwọn aṣiṣe ti o da lori ẹgbẹ
aropo oniyipada
covert iyasoto
Ayipada-kókó ibasepo
Àlàyé
unjustified ipinnu
Ṣe alaye ti o rọrun
atako
ipadanu
Human awotẹlẹ ona
Loop esi ati aṣiṣe aṣoju
Ọna ti o buruju julọ ti iyasoto algorithmic waye kii ṣe ni ipinnu aṣiṣe kan ṣoṣo ṣugbọn ni lupu esi ti o fi ara rẹ mulẹ ni akoko pupọ (ijade awoṣe kan ni ipa lori data ikẹkọ ti o tẹle, imudara irẹjẹ ti o wa tẹlẹ). Fun apẹẹrẹ, ti o ba jẹ pe awoṣe ayẹwo kan ṣe afihan agbegbe kan pato bi "ewu," awọn ayẹwo diẹ sii lọ sibẹ, diẹ sii awọn igbasilẹ ti a ṣẹda, awoṣe naa rii pe agbegbe naa jẹ ewu - bi o tilẹ jẹ pe iyatọ ti pọ si ni ipo ti a wo, kii ṣe ni ewu gangan. Ohun ti o pa ọna fun eyi nigbagbogbo jẹ aṣiṣe aṣoju (data ikẹkọ ti n ṣe afihan diẹ ninu awọn ẹgbẹ ni pipe tabi daru). Ni agbegbe ti gbogbo eniyan, awọn iyipo wọnyi le gbe awọn ẹgbẹ ti ko ni anfani si labẹ iṣọra ti o lagbara ati awọn ijẹniniya. Ọna lati daabobo ararẹ ni lati ṣe atẹle ipa ti awoṣe, kii ṣe abajade rẹ nikan: lati ṣe atẹle nigbagbogbo pinpin awọn ipinnu ti ẹgbẹ ati kii ṣe lati ṣe awọn iṣeduro awoṣe ni afọju.
Mini case — ara-aggrandizing iyemeji. Awoṣe wiwa jegudujera iranlọwọ ṣe afihan agbegbe kan ti o ti ṣe ayẹwo pupọ diẹ sii ni iṣaaju bi eewu giga. Nigbati ẹgbẹ naa ba fa agbara imuṣiṣẹ jade lati inu data naa ati wọn “oṣuwọn wiwa otitọ ni ibatan si olugbe,” wọn rii pe awọn iyatọ laarin awọn agbegbe ti sọnu pupọ; Awoṣe ṣe aṣiṣe aidogba fun eewu gidi.
Awoṣe iṣakoso ipa ti o da lori ẹgbẹ:
Iṣẹ-ṣiṣe: Ṣayẹwo awọn alaye ipinnu wọnyi nipasẹ awọn ẹgbẹ (ko si data ti ara ẹni, akojọpọ ẹka).Data: [ẹgbẹ | lapapọ ipinnu | odi ipinnu oṣuwọn | kikankikan ayewo] Abajade: 1) Ṣe oṣuwọn ipinnu odi ṣe afihan iyatọ nla laarin awọn ẹgbẹ bi? 2) Njẹ iyatọ le jẹ nitori ewu gangan tabi iṣakoso / kikankikan oniduro? 3) Ṣe eyikeyi ami ti a esi lupu? 4) Awọn iṣeduro fun iṣakoso eniyan.Ofin: Ṣiṣeto iṣeduro idi; Ṣe atokọ awọn alaye ti o ṣeeṣe ati awọn ọna lati ṣe idanwo.
Išọra: Awọn ariyanjiyan ti "awoṣe jẹ didoju nitori pe o kan ofin kanna si gbogbo eniyan" jẹ ṣina. Ofin kanna, nigba lilo si data skewed, ṣe itọju ati gbe aidogba ga. Idajọ jẹ iwọn nipasẹ isọgba ti abajade, kii ṣe ofin.
Awọn aṣiṣe ti o wọpọ
- Nparẹ data ifura ati ironu “o tọ”. Awọn oniyipada surrogate tẹsiwaju iyasoto; idanwo awọn o wu.
- Idiwon idajo nipa idi. Idajọ yoo han ni ipari; Too awọn ipinnu sinu awọn ẹgbẹ ki o si afiwe.
- Ngbagbe ẹgbẹ ti ko ni ipoduduro. Awọn awoṣe le ṣiṣẹ laiparuwo ibi fun ẹgbẹ kekere; Wo aṣiṣe orisun ẹgbẹ.
- Lilo awoṣe ti ko ṣe alaye ni awọn ipinnu fifunni ẹtọ. Eto ti ko le ṣe idalare ko le ṣe awọn ipinnu gbangba.
- Ko pese eyikeyi ọna ti atako. Gbogbo ipinnu adaṣe yẹ ki o wa labẹ atunyẹwo eniyan.
- Ko tọju itọpa iṣayẹwo. O yẹ ki o gbasilẹ iru data / awoṣe / eniyan ti o ni ojuṣe ipinnu ti a ṣe pẹlu.
Ni akojọpọ
Ni agbegbe ti gbogbo eniyan, AI le ṣe alekun aitasera ṣugbọn tun ni idakẹjẹ gbe iyasoto ti iṣaaju. Iyatọ wa lati data itan, aafo aṣoju, awọn oniyipada aṣoju, ati wiwọn aiṣedeede; Piparẹ data ifarabalẹ kii yoo yanju rẹ. Iṣe deede jẹ aṣeyọri nipasẹ idanwo abajade kọja awọn ẹgbẹ. Ati pe ko si ọmọ ilu kan ti o le di ẹtọ nipasẹ “eto ti sọ bẹ”: gbogbo ipinnu gbọdọ jẹ alaye, idije ati ṣidii. O jẹ ile-ẹkọ ti o ṣe jiyin, kii ṣe algorithm.
Ohun elo iṣẹ-ṣiṣe
Yan ilana ipinnu AI-agbara tabi adaṣe ni ẹyọkan rẹ. Ṣe atokọ awọn aiṣedeede ti o ṣeeṣe ki o wa o kere ju eewu oniyipada aropo kan pẹlu awoṣe “Orisun ti ọlọjẹ ojuṣaaju”. Ṣe ipinnu ẹgbẹ wo ni idinku lati wo pẹlu “eto idanwo ododo”. Fun ipinnu ayẹwo, gbejade alaye ti nkọju si ara ilu pẹlu awoṣe “alaye ipinnu”.
akojọ ayẹwo
- [] Mo ti ṣayẹwo fun awọn orisun ti ojuṣaaju (itan, aṣoju, aṣoju, wiwọn).
- [] Emi ko kan pa data ifura rẹ; Mo ṣe idanwo awọn abajade nipasẹ awọn ẹgbẹ.
- [] Mo ti ṣakoso oṣuwọn aṣiṣe fun awọn ẹgbẹ ti ko ni ipoduduro.
- [] Mo ti pese idalare ti o rọrun, alaye fun ipinnu kọọkan.
- [] Mo ti ṣe asọye atako ati ọna atunyẹwo eniyan.
- [] itọpa iṣayẹwo (data/ẹya awoṣe/lodidi) ti wa ni itọju.