Awọn anfani:
- Iyatọ awọn awoṣe mẹta ti iṣakoso eniyan (ninu lupu, lori lupu, ni aṣẹ)
- Ti idanimọ ati idinku awọn ewu ti irẹjẹ ati iyasoto ninu iṣelọpọ AI
- Itumọ awọn ilana ti akoyawo ati alaye si awọn ohun elo nja
Eto AI le ṣiṣẹ ni imọ-ẹrọ ni pipe ṣugbọn tun jẹ aṣiṣe: o le pa ẹgbẹ kan kuro ni ọna ṣiṣe, kuna lati ṣalaye idi fun ipinnu rẹ, tabi mu eniyan gba laisi ibeere. Ninu ẹyọ yii, a tumọ “rọra” ṣugbọn ẹgbẹ ipinnu julọ ti iṣakoso-iṣakoso eniyan, iṣakoso ojuṣaaju, akoyawo, ati iwa-sinu awọn iṣe ti o daju. Ibi-afẹde kii ṣe awọn ọrọ-ọrọ ti ko ni idiyele bi “maṣe gbẹkẹle AI”; Wọn jẹ awọn ọna ṣiṣe ti o fihan bi o ṣe le ṣayẹwo iṣẹjade kan, dinku ojuṣaaju, ati fi idi akoyawo mulẹ.
Awọn awoṣe mẹta ti iṣakoso eniyan
Abojuto eniyan tumọ si pe eniyan ni idaduro iṣakoso lori awọn ipinnu ti AI ṣe. Awọn awoṣe ipilẹ mẹta wa ati pe o jẹ dandan lati yan awoṣe to tọ ni ibamu si eewu naa.
awoṣe
Itumo
Ibi ti o baamu
Eniyan ni lupu
Eniyan fọwọsi gbogbo ipinnu
Ewu giga, awọn ipinnu ipa
Eniyan lori lupu
AI ṣiṣẹ, eniyan ṣe abojuto ati laja ti o ba jẹ dandan
Ewu alabọde, awọn iṣowo iwọn didun giga
Eniyan ni aṣẹ
Eniyan ṣe apẹrẹ eto naa, ṣeto awọn opin rẹ, le pa a
Ìwò isejoba ipele
Fun awọn ipinnu ti o ni ipa pataki eniyan (iṣẹ, kirẹditi, ilera), awoṣe eniyan-ni-loop jẹ ayanfẹ: AI funni ni imọran, ṣugbọn eniyan ti o ni oye ṣe ipinnu ikẹhin. “AI sọ bẹ” kii ṣe awawi rara; Ojuse nigbagbogbo wa pẹlu eniyan naa.
Ifarabalẹ: Ko to fun iṣakoso eniyan lati wa "lori iwe". Ti eniyan ba fọwọsi imọran AI laifọwọyi (figi-roba), ko si iṣakoso gidi. Fun iṣayẹwo lati jẹ itumọ, eniyan gbọdọ ni anfani lati rii idi rẹ, beere lọwọ rẹ, ati sọ nitootọ “Bẹẹkọ.”
Ewu ti ikorira ati iyasoto
Irẹjẹ jẹ nigbati AI ṣe awọn aila-nfani tabi awọn anfani awọn ẹgbẹ kan. Orisun rẹ nigbagbogbo jẹ data ikẹkọ: ti iyasoto ba wa ninu data itan, AI kọ ẹkọ ati ṣetọju rẹ - paapaa ṣe iwọn rẹ.
Awọn igbesẹ ti o wulo lati dinku abosi:
- Ṣe atunwo awọn oniyipada ifura: Ṣayẹwo ipa ti awọn aaye bii akọ-abo, ọjọ-ori, ẹya lori ipinnu.
- Awọn abajade idanwo nipasẹ awọn ẹgbẹ: Njẹ eto naa ṣe agbejade oriṣiriṣi ijusile / awọn oṣuwọn gbigba ni awọn ẹgbẹ oriṣiriṣi?
- Ṣọra fun awọn oniyipada aṣoju: Awọn aaye bii “agbegbe” tabi “ile-iwe” le ṣe afihan iyasọtọ ẹya/kilasi ni taarata.
- Ṣeto ibojuwo deede: Iyatọ ni idanwo nigbagbogbo, kii ṣe lẹẹkan; O le pada wa bi data ṣe yipada.
mẹta mini igba
Case 1 - Rubber ontẹ. Ni banki kan, awọn oṣiṣẹ awin fọwọsi Dimegilio AI laisi atunyẹwo rẹ; Wọn sọ pe "eto naa ti ṣe iṣiro rẹ tẹlẹ". Ayẹwo fihan pe ni 498 ninu awọn ifisilẹ 500, eniyan ṣe ipinnu kanna gangan bi AI - nitorinaa ko si atunyẹwo gidi. Solusan: beere fun eniyan lati rii ero, roro keji ipinnu si iye kan, ati nilo “kilode ti o gba/koo” akọsilẹ.
Ọran 2 - Iwaju ti ko tọ. Igbanisiṣẹ AI ṣe ikun awọn oludije obinrin ni isalẹ, botilẹjẹpe ko lo abo rara. Lati ibo? Nitoripe data ti o kọja pẹlu pupọ julọ awọn ọkunrin ni ipo ti a fun, awoṣe kọ iyasoto aiṣe-taara nipasẹ awọn oniyipada aṣoju gẹgẹbi “iṣẹ ṣiṣe ti ko ni idilọwọ.” Idanwo ti o da lori ẹgbẹ ṣe afihan eyi; Ẹgbẹ naa yọkuro awọn oniyipada aropo ati ṣe abojuto abajade.
Ọran 3 - Gbẹkẹle pẹlu akoyawo. Ninu iṣiro ibajẹ agbara AI rẹ, ile-iṣẹ iṣeduro sọ fun alabara kọọkan pe “ipinnu naa ni agbara AI, wọn le bẹbẹ ati beere atunyẹwo eniyan.” Oṣuwọn atako jẹ kekere ju ti a reti nitori awọn alabara loye ati gbekele ilana naa. Ifarabalẹ mu igbẹkẹle pọ si lakoko ti o dinku eewu.
Akoyawo ati alaye
Ifarabalẹ jẹ nipa ṣiṣe kedere si awọn eniyan ti o yẹ pe AI kan wa ni iṣe ati bi o ṣe n ṣiṣẹ. Itumọ tumọ si ni anfani lati ṣe alaye idi fun ipinnu ni ọna ti oye. Awọn ohun elo ti nja:
- "O n sọrọ si AI kan" iwifunni lori AI ibaraenisepo pẹlu eniyan naa.
- "Ipinnu yii da lori awọn nkan wọnyi” alaye ni awọn ipinnu adaṣe.
- Ṣe afihan ọna lati rawọ ati beere atunyẹwo eniyan.
- Fun awọn ẹgbẹ inu: iwe ati gbigbasilẹ ohun ti awoṣe ṣe.
Akiyesi: Beere ipinnu AI kan “kini awọn nkan mẹta ti o ga julọ ti o ni ipa lori ipinnu yii?” Ṣe idanwo pẹlu ibeere naa. Ti eto naa ko ba le ṣe oye eyi ati pe ipinnu naa kan eniyan ni pataki, eto naa ko ti ṣetan fun lilo lodidi.
Iyatọ adaṣe: pakute ti ara ẹni
Paapaa ti akoyawo ati abojuto eniyan ti fi idi mulẹ, eewu arekereke kan wa lori ẹgbẹ eniyan: aiṣedeede adaṣe. Eyi ni ifarahan fun eniyan lati gbẹkẹle iṣelọpọ ẹrọ diẹ sii ju idajọ tiwọn lọ. Nitori imọran AI loju iboju han “afojusun ati iṣiro,” ọkan ni idanwo lati gba laisi ibeere - eyi ni ipilẹṣẹ imọ-jinlẹ ti ontẹ roba.
Awọn ọna nja wa lati dinku eyi. Ṣe iwuri fun ilodisi-ero ni akọkọ: beere lọwọ ẹni ti o fọwọsi ipinnu “Kini idi ti MO le ko gba pẹlu AI?” Beere lọwọ rẹ lati ronu nipa ibeere naa. Lẹhinna ṣafihan Dimegilio igbẹkẹle: tọka bi AI ṣe ni igboya; Samisi awọn abajade igbẹkẹle kekere lọtọ. Lẹhinna ṣeto itaniji rogbodiyan kan: Ti iṣeduro AI ba rú ofin ile-ẹkọ tabi data ti o wa fun eniyan, eto naa yoo ṣe afihan eyi. Nikẹhin, lo awọn ilana eniyan meji si awọn ipinnu pataki; Olufọwọsi ẹyọkan ni ifaragba diẹ sii si aiṣedeede adaṣe.
Išọra: Wipe “ifọwọsi eniyan wa” ko tumọ si ominira lati ojuṣaaju adaṣe. Eniyan gbọdọ ni mejeeji aṣẹ, akoko, ati alaye ti o tọ lati ṣe ibeere AI. Eto kan ti o fi ipa mu alakosile lati ṣe awọn ipinnu 200 ni iṣẹju-aaya 3 ko funni ni iṣakoso eniyan gidi.
Awọn awoṣe idakọ
Àdàkọ 1 - Aṣayan awoṣe iṣakoso eniyan: "Ewo ni awoṣe iṣakoso eniyan ti o yẹ fun lilo AI wọnyi [apejuwe lilo]: ni lupu, lori lupu, tabi ni aṣẹ? Ṣe iṣeduro pẹlu idalare, ṣe akiyesi ewu ati ipa si ẹni kọọkan. Pato iru iṣakoso ti o yẹ ki emi fi kun lati yago fun ewu ontẹ roba. "
Àdàkọ 2 - Eto idanwo aiṣedeede: "Ṣe eto eto idanwo aiṣedeede [ṣapejuwe lilo] fun atilẹyin ipinnu atẹle atẹle AI: awọn ẹgbẹ wo ni MO yẹ ki n ṣe afiwe, metiriki wo ni MO yẹ ki o wọn (iwọn ijusile / oṣuwọn gbigba, bbl), kini awọn oniyipada aropo yẹ ki Mo wa, igba melo ni MO tun ṣe idanwo naa? Kọ ọ ni igbese nipasẹ igbese. ”
Àdàkọ 3 - Ọrọ apejuwe ipinnu: "Kọ ọrọ apejuwe ti o rọrun fun ipinnu aifọwọyi ti ara ẹni: boya ipinnu naa jẹ agbara AI, awọn okunfa pataki ti o ni ipa lori ipinnu, ọna lati rawọ ati beere atunyẹwo eniyan. Ti kii ṣe ẹsun, ohun orin ọwọ, awọn ọrọ 120 tabi kere si."
Àdàkọ 4 - Atokọ atunyẹwo iṣe iṣe: "Mura iwe ayẹwo atunyẹwo iwa ṣaaju ki o to tẹjade lilo AI: ododo / iyasoto, akoyawo, iṣakoso eniyan, ikọkọ, aabo, iṣiro. Fi awọn ibeere 1-2 ti o han gbangba lati dahun labẹ akọle kọọkan.”
Ailagbara kiakia / Alagbara kiakia
Alailagbara: "Ṣe eyi igbanisiṣẹ AI itẹ?"-> Awọn awoṣe yoo fun a gbogboogbo idahun bi 'o yẹ ki o jẹ itẹ'; ko pese ọna idanwo ati wiwọn abosi. STRONG: "Ṣeto eto idanwo aibikita fun atilẹyin igbanisiṣẹ AI: ọna kan lati ṣe afiwe awọn oṣuwọn gbigba kọja akọ ati abo ati awọn ẹgbẹ ọjọ-ori, awọn oniyipada aṣoju lati ronu, ẹnu-ọna iyatọ itẹwọgba, ati igbohunsafẹfẹ ibojuwo. Tun ṣafikun iṣakoso lati rii daju pe eniyan ṣe ipinnu ikẹhin. ” -> Awoṣe naa ṣe agbejade iwọnwọn, ẹrọ aiṣedeede atunṣe.
Awọn aṣiṣe ti o wọpọ
- Nlọ kuro ni iṣakoso eniyan "lori iwe" ati pe o fọwọsi iṣeduro AI laifọwọyi (ontẹ roba).
- Nlọ kuro ni awọn ipinnu ti o ni ipa pataki eniyan laisi abojuto dipo ni lupu.
- Ṣiyesi irẹjẹ ipinnu nitori “Mo paarẹ oniyipada ifura”; foo aṣoju oniyipada.
- Idanwo abosi lẹẹkan ati kii ṣe abojuto nigbagbogbo.
- Foju akoyawo nitori “o jẹ alaye imọ-ẹrọ, olumulo ko ni loye”.
- Lilo eto ti ko le ṣe alaye idi fun ipinnu ni awọn ipinnu pataki.
- Nlọ kuro ni igbelewọn ihuwasi titi lẹhin titẹjade, sisọ “a yoo rii nigbamii”.
Ni akojọpọ
- Iṣakoso eniyan ni imuse ni awọn awoṣe mẹta; Ni awọn ipinnu ti o ni ipa lori eniyan, awọn eniyan ni o fẹ ninu iyipo.
- Iṣakoso gbọdọ jẹ itumọ; Awọn roba ontẹ (laifọwọyi-fọwọsi) ni ko gangan se ayewo.
- Irẹjẹ nigbagbogbo wa lati data ikẹkọ; Awọn oniyipada ti o ni imọlara ati aropo yẹ ki o ṣe idanwo ati abojuto nigbagbogbo.
- Itumọ ati alaye nilo fifihan kedere si olumulo pe AI wa ninu ere ati idi fun ipinnu naa.
- Atunwo ihuwasi waye ṣaaju ikede; ojuse nigbagbogbo wa pẹlu eniyan, “AI sọ bẹ” kii ṣe awawi.
Ohun elo iṣẹ-ṣiṣe
Yan ilana ipinnu AI kan ti o kan eniyan ninu agbari rẹ (fun apẹẹrẹ, igbelewọn ohun elo). Ṣe ipinnu awoṣe iṣakoso eniyan ti o yẹ fun ilana yii pẹlu idalare ati ṣe apẹrẹ iṣakoso nja lati ṣe idiwọ titẹ rọba (fun apẹẹrẹ ibeere lati rii idalare, atunyẹwo ayẹwo). Lẹhinna kọ ero idanwo aiṣedeede kan: pato iru awọn ẹgbẹ ti iwọ yoo ṣe afiwe, pẹlu metiriki wo, iye igba, ati iru awọn oniyipada aṣoju ti iwọ yoo san akiyesi si. Lakotan, ṣe agbekalẹ ọrọ alaye ipinnu ti yoo han si eniyan lakoko ilana yii ati pẹlu afilọ/ọna atunyẹwo eniyan.
akojọ ayẹwo
- [] Mo ti yan awoṣe iṣakoso eniyan ti o yẹ si ilana naa.
- [] Mo ti a še kan nja Iṣakoso ti yoo se awọn roba ontẹ.
- [] Mo ti pese sile kan abosi igbeyewo ètò (awọn ẹgbẹ, metric, igbohunsafẹfẹ).
- [] Mo ṣe ayẹwo ewu awọn oniyipada aropo.
- [] Mo kọ ọrọ alaye ipinnu fun eniyan naa.
- [] Mo ti ṣe afihan ọna lati ṣe afilọ ati atunyẹwo eniyan.
- [] Mo ṣe atunyẹwo ilana iṣe ṣaaju titẹjade.