Faida:
- Uwezo wa kutambua hatari mahususi za AI kama vile maono, upendeleo, uvujaji wa data, kusogea kwa mfano, utegemezi, na kutoeleweka na athari za biashara.
- Kuweka hatari katika uwezekano na vipimo vya athari na kuziweka ndani ya hamu ya hatari ya taasisi na hatua za kupunguza.
- Uwezo wa kurekebisha ufuatiliaji kulingana na kiwango cha hatari badala ya usawa, kuhakikisha usemi wa mwisho wa mwanadamu na ufuatiliaji endelevu katika maamuzi hatarishi.
Thamani na hatari ni pande mbili za sarafu moja. AI hufungua vyanzo vipya vya thamani, lakini pia huleta aina mpya za hatari ambazo programu za jadi hazibeba. Kwa meneja mkuu, suala si kukwepa hatari, bali kudhibiti hatari kwa uangalifu (usimamizi wa hatari; nidhamu ya kutambua, kupima, kupunguza hatari na kuziweka katika mipaka inayokubalika). Katika kitengo hiki, utajifunza kuhusu hatari mahususi kwa AI, athari zao za kibiashara, na mbinu za kivitendo za kupunguza. Lengo sio "kutofanya hivyo kwa sababu kuna hatari" au "kufanya kana kwamba hakuna hatari"; Ni kutekeleza kila mpango na hamu ya hatari ya fahamu; kiwango cha hatari ambacho taasisi iko tayari kuchukua.
Hatari mahususi za AI
Hatari za jadi za TEHAMA (kuathirika, kukatika) bado hutumika; Lakini akili ya bandia huongeza hatari zake:
Aina ya hatari
Unamaanisha nini?
Mfano wa athari za biashara
kuona macho
Iliundwa lakini ikawa ya kuaminika
Taarifa zisizo sahihi kwa mteja, dhima ya kisheria
ubaguzi
Onyesho la ukosefu wa haki katika data kwenye matokeo
Uamuzi wa kibaguzi wa kukodisha/mikopo
uvujaji wa data
Data ya siri inayovuja kwenye gari
Ukiukaji wa KVKK, kupoteza sifa
Mfano wa drift
Uharibifu wa utendaji kwa wakati
Kupindua kwa utulivu kwa maamuzi
uraibu
Imefungwa ndani ya msambazaji mmoja
Mshtuko wa bei / ufikiaji
kutoeleweka
Bila kujua sababu ya uamuzi huo
Ugumu wa ukaguzi na pingamizi
Maneno mawili ni muhimu hapa: upendeleo ni wakati akili ya bandia inajifunza mifumo isiyo ya haki katika data ya mafunzo na kuakisi katika maamuzi yake; Kwa mfano, ikiwa data ya kihistoria ya kukodisha inapendelea kikundi kimoja, mtindo pia hufanya hivyo. Model drift ni wakati muundo unakuwa wa kizamani na utendakazi wake hupungua kimya kimya huku ulimwengu unavyobadilika (bidhaa mpya, tabia mpya).
Kidokezo: Fikiria hatari si kulingana na "huenda/haitatokea" lakini katika vipimo viwili: uwezekano (uwezekano gani) na athari (ni madhara kiasi gani yakitokea). Wale walio na athari kubwa + uwezekano mkubwa wanashughulikiwa kwanza; wale walio na maadili ya chini + chini wanakubaliwa na kufuatiliwa.
Ufuatiliaji kulingana na kiwango cha hatari
Sio kila eneo la matumizi lina hatari sawa. Mbinu ya busara ni kurekebisha ufuatiliaji kwa kiwango cha hatari:
- Hatari ndogo (rasimu iliyoingizwa, kutafakari): uangalizi mdogo, kipaumbele cha kasi.
- Hatari ya wastani (yaliyomo kwa mteja, usaidizi wa uamuzi): idhini ya kibinadamu, udhibiti wa sampuli.
- Hatari kubwa (mikopo, kuajiri, afya, kisheria): hukumu ya lazima ya kibinadamu, usajili kamili, ukaguzi wa mara kwa mara.
Mbinu hii ya "msingi wa hatari" pia ni uti wa mgongo wa Sheria ya EU AI (Kitengo cha 9).
Hatua kwa hatua: mzunguko wa usimamizi wa hatari
1. Tambua hatari. Orodhesha hatari mahususi za AI kwa kila mpango.
2. Uwezekano wa alama na athari. Tathmini na upe kipaumbele kila hatari katika vipimo viwili.
3. Bainisha kipimo cha kupunguza. Kama vile uidhinishaji wa kibinadamu, kutokutambulisha kwa data, ufuatiliaji, mseto wa wasambazaji.
4. Kubali au acha hatari iliyobaki. Hatari iliyobaki baada ya kupunguzwa inakubaliwa ikiwa iko ndani ya hamu ya kula; Ikiwa sivyo, jaribio litaacha.
5. Tazama na uhakiki. Hatari sio tuli; Ufuatiliaji wa mara kwa mara wa kuteleza na vitisho vipya ni muhimu.
kesi tatu ndogo
Kesi ya 1 - Gharama ya kuona ndoto. Chatbot ya mteja wa shirika la ndege "ilitengeneza" sera isiyokuwepo ya kurejesha pesa kwa abiria; Mteja aliamini hili na akafanya muamala. Mahakama ilishikilia kampuni hiyo kuwajibika kwa tamko lake la roboti. Somo: Pato la AI kwa mteja ni hatari ya kati/kubwa; uthibitishaji na ukomo ulikuwa muhimu. Kijibu kilizuiwa kujibu kutoka kwa maandishi ya sera yaliyoidhinishwa pekee.
Kesi 2 - Upendeleo wa kimya. Mtindo wa uchunguzi wa kuajiri wa kampuni moja ulipendelea wanafunzi kutoka shule fulani kwa sababu ya kutofautiana kwa data ya kihistoria. Tofauti ilifunuliwa katika ukaguzi; Kulikuwa na hatari ya sifa na kisheria. Mtindo huo ulitenganishwa kutoka kwa sifa zinazolindwa na kuhusishwa na ufuatiliaji wa haki wa mara kwa mara. Ikiwa mtihani wa upendeleo ungefanywa tangu mwanzo, hii isingetokea.
Kesi ya 3 - kukamatwa kwa Drift. Mfumo wa kugundua ulaghai wa benki ulidhoofishwa kimya kimya wakati mtindo mpya wa ulaghai ulipoibuka; Kiwango cha makosa kiliongezeka kutoka 8% hadi 19% katika miezi 3. Habari njema: wakala ulikuwa umetekeleza ufuatiliaji wa utendakazi wa kila mwezi, mteremko uligunduliwa mapema, na modeli ilifunzwa tena. Bila ufuatiliaji, hasara ingeongezeka.
Violezo vinne vinavyoweza kunakiliwa
1) Orodha ya hatari:
Jukumu lako: Meneja wa hatari wa AI. Orodhesha hatari mahususi za AI kwa kesi ifuatayo ya utumiaji: kuona maono, upendeleo, uvujaji wa data, kuteleza, utegemezi, kutoeleweka. Kwa kila hatari, andika kwa sentensi moja udhihirisho wake unaowezekana na athari za biashara katika hali hii. Eneo la matumizi: [maandishi]
2) Alama ya uwezekano/athari:
Tanguliza hatari zifuatazo kwa kuzifunga na kuzizidisha kama uwezekano (1-5) na athari (1-5). Eleza kwa nini unatanguliza hatari tatu kuu. Hatari: [orodha]
3) Mpango wa kupunguza:
Pendekeza hatua za vitendo za kupunguza hatari zifuatazo za kipaumbele: [hatari]. Kwa kila kipimo: nini cha kufanya, ni nani anayehusika, kwa kiwango gani cha hatari ni lazima. Tumia uchunguzi wa kibinadamu, kutokutambulisha kwa data, ufuatiliaji na mseto wa wasambazaji inapobidi.
4) Matrix ya ufuatiliaji wa hatari:
Weka maeneo yafuatayo ya matumizi kwa kiwango cha hatari (chini / kati / juu) na uamua uangalizi unaohitajika kwa kila ngazi: kibali cha kibinadamu kinahitajika, rekodi zitawekwa, ni mara ngapi ya ukaguzi? Matumizi: [orodha]
Mwongozo dhaifu / Mwongozo thabiti
Dhaifu: "Ni hatari gani za mradi huu wa AI?"
Hitimisho: Orodha ya jumla ya hatari; uwezekano, athari na hakuna kupunguza, huwezi kuamua.
Güçlü: "Tutatumia AI katika tathmini ya awali ya ombi la mkopo katika benki (binadamu atafanya uamuzi wa mwisho). Orodhesha hatari mahususi kwa hali hii (upendeleo, kutoeleweka, uzushi, faragha ya data); weka alama kila moja kwa uwezekano na athari; pendekeza mahitaji madhubuti ya kupunguza na usimamizi kwa tatu muhimu zaidi zinazozingatiwa kwa hatari kubwa. Pia eleza maana ya hii."
Matokeo: uchambuzi wa hatari unaohusiana na hali, alama, kupunguza na kufuata.
Makosa ya kawaida
- Kutumia uangalizi sawa kwa mipango yote. Kupunguza kasi ya kazi yenye hatari ndogo ni hatari kama vile kupuuza kazi yenye hatari kubwa; Ufuatiliaji unapaswa kuzingatia kiwango cha hatari.
- Kukosea kuona ndoto kama "kosa dogo". Pato lisilo sahihi kwa mteja linaweza kusababisha dhima ya kisheria.
- Sio kupima kwa upendeleo. Mtindo uliotumika bila kupima usawa unaweza kutoa ubaguzi wa kimyakimya.
- Sio kuangalia Drift. Mfano unaofanya kazi vizuri mara moja haufanyi kazi vizuri milele; Ufuatiliaji wa mara kwa mara unahitajika.
- Kufungia kwa muuzaji mmoja. Bila mpango wa kuondoka, uraibu hukuacha wazi kwa bei na kufikia mshtuko.
Tahadhari: Usimamizi wa hatari sio mara moja na kwa wote; Mifumo ya akili ya bandia ni mifumo hai. Kwa sababu tu mfano ni salama leo haihakikishi kuwa itakuwa salama kesho. Ufuatiliaji unaoendelea, ukaguzi wa mara kwa mara na swichi ya wazi ya kuua inapaswa kuwa sehemu ya kila mfumo wa hatari kubwa.
Kwa muhtasari
Juu ya hatari za kitamaduni za TEHAMA, AI inaongeza hatari za kipekee kama vile kuona maono, upendeleo, kuvuja kwa data, kuteleza, utegemezi, na kutoeleweka. Hatari hizi zinapaswa kutathminiwa na kupewa kipaumbele kulingana na uwezekano na athari, na zinapaswa kuwekwa ndani ya hamu ya hatari ya taasisi na hatua za kupunguza. Ufuatiliaji sio sawa lakini unapaswa kulengwa kwa kiwango cha hatari; Katika maamuzi yenye hatari kubwa, watu wanapaswa kuwa na sauti ya mwisho. Usimamizi wa hatari ni mzunguko unaoendelea; haijakamilika bila ufuatiliaji na udhibiti. Katika kitengo kijacho, tutaanzisha muundo wa utawala na sera ambao hufanya nidhamu hii ya hatari kuwa ya kudumu.
Jukumu la maombi
Chagua kipochi cha utumiaji wa AI na uorodheshe hatari zake mahususi kwa kiolezo cha 1. Alama kila hatari kwa uwezekano na athari, ukibainisha tatu muhimu zaidi. Andika hatua madhubuti za kupunguza na kiwango cha uangalizi kinachohitajika kwa hatari hizi tatu. Hatimaye, ainisha matumizi kama hatari ya chini/kati/kubwa na kumbuka jinsi hii inavyobadilisha mahitaji ya uangalizi.
orodha ya ukaguzi
- [ ] Nimeorodhesha hatari mahususi kwa mazingira ya ujasusi bandia.
- [ ] Nilifunga kila hatari kwa uwezekano na athari.
- [ ] Nimefafanua hatua za kupunguza hatari muhimu zaidi.
- [ ] Nimeainisha eneo la matumizi kulingana na kiwango cha hatari.
- [ ] Nilirekebisha ufuatiliaji kulingana na kiwango cha hatari.
- [ ] Nilipanga kupima/kufuatilia kwa upendeleo na kuteleza.
- [ ] Nimeweka mamlaka ya kuzuia kwa mfumo wa hatari kubwa.