Qligħ:
- Kapaċità li tirrikonoxxi riskji speċifiċi għall-AI bħal alluċinazzjoni, preġudizzju, tnixxija tad-dejta, drift tal-mudell, dipendenza, u inspjegabbiltà bl-impatt tan-negozju
- Il-punteġġ tar-riskji fid-dimensjonijiet tal-probabbiltà u tal-impatt u ż-żamma tagħhom fl-aptit għar-riskju tal-istituzzjoni b'miżuri ta' mitigazzjoni
- Kapaċità li taġġusta s-sorveljanza skont il-livell ta' riskju aktar milli l-uniformità, li tiżgura l-aħħar kelma tal-bniedem u monitoraġġ kontinwu f'deċiżjonijiet ta' riskju għoli
Il-valur u r-riskju huma żewġ naħat tal-istess munita. L-AI tiftaħ sorsi ġodda ta 'valur, iżda tintroduċi wkoll tipi ġodda ta' riskji li s-softwer tradizzjonali ma jġorrx. Għal maniġer anzjan, il-kwistjoni mhix li jiġi evitat ir-riskju, iżda li jamministra r-riskju b'mod konxju (ġestjoni tar-riskju; id-dixxiplina tar-rikonoxximent, il-kejl, it-tnaqqis tar-riskji u ż-żamma tagħhom f'limiti aċċettabbli). F'din l-unità, int se titgħallem dwar riskji speċifiċi għall-AI, l-impatt tan-negozju tagħhom, u metodi prattiċi ta' mitigazzjoni. L-għan mhuwiex li "ma tagħmilx għax hemm riskju" jew "li taġixxi bħallikieku m'hemmx riskju"; Huwa li twettaq kull inizjattiva b'aptit konxju għar-riskju; il-livell ta’ riskju li l-istituzzjoni lesta tieħu.
Riskji speċifiċi għall-AI
Ir-riskji tradizzjonali tal-IT (vulnerabbiltà, qtugħ) għadhom japplikaw; Iżda l-intelliġenza artifiċjali żżid ir-riskji tagħha stess:
Tip ta' riskju
Xi tfisser?
Eżempju ta' impatt fuq in-negozju
alluċinazzjoni
Kien magħmul imma rriżulta li kien kredibbli
Informazzjoni mhux korretta lill-klijent, responsabbiltà legali
preġudizzju
Ir-riflessjoni tal-inġustizzja fid-dejta dwar l-output
Deċiżjoni diskriminatorja ta' kiri/kreditu
tnixxija tad-data
Dejta kunfidenzjali tnixxi fil-vettura
Vjolazzjoni KVKK, telf ta 'reputazzjoni
Mudell drift
Degradazzjoni tal-prestazzjoni maż-żmien
Qlib kwiet tad-deċiżjonijiet
vizzju
Imsakkar f'fornitur wieħed
Xokk tal-prezz/aċċess
inspjegabbiltà
Li ma jafux ir-raġuni għad-deċiżjoni
Diffikultà ta' verifika u oġġezzjoni
Żewġ termini huma importanti hawnhekk: preġudizzju huwa meta l-intelliġenza artifiċjali titgħallem mudelli inġusti fid-dejta tat-taħriġ u tirriflettihom fid-deċiżjonijiet tagħha; Pereżempju, jekk id-dejta storika tal-kiri tiffavorixxi grupp wieħed, il-mudell jagħmel ukoll. Id-drift tal-mudell huwa meta l-mudell isir skadut u l-prestazzjoni tiegħu tonqos siekta hekk kif id-dinja tinbidel (prodotti ġodda, imġieba ġodda).
Tip: Aħseb fir-riskju mhux f'termini ta '"jista'/ma jseħħx" iżda f'żewġ dimensjonijiet: probabbiltà (kemm x'aktarx) u impatt (kemm ħsara jekk iseħħ). Dawk b'impatt għoli + probabbiltà għolja huma indirizzati l-ewwel; dawk b'valuri baxxi + baxxi huma aċċettati u mmonitorjati.
Sorveljanza skond il-livell tar-riskju
Mhux kull żona ta 'użu ġġorr l-istess riskju. L-approċċ intelliġenti huwa li s-sorveljanza tiġi adattata għal-livell ta' riskju:
- Riskju baxx (abbozz inset, brainstorming): sorveljanza ħafifa, prijorità tal-veloċità.
- Riskju medju (kontenut lill-klijent, appoġġ għad-deċiżjonijiet): approvazzjoni umana, kontroll tal-kampjuni.
- Riskju għoli (kreditu, reklutaġġ, saħħa, legali): ġudizzju uman obbligatorju, reġistrazzjoni sħiħa, verifika regolari.
Dan l-approċċ “ibbażat fuq ir-riskju” huwa wkoll is-sinsla tal-Liġi tal-UE dwar l-IA (Unità 9).
Pass pass: ċiklu ta' ġestjoni tar-riskju
1. Agħraf ir-riskji. Elenka riskji speċifiċi għall-AI għal kull inizjattiva.
2. Score probabbiltà u impatt. Evalwa u tipprijoritizza kull riskju f'żewġ dimensjonijiet.
3. Iddefinixxi miżura ta' mitigazzjoni. Bħall-approvazzjoni tal-bniedem, l-anonimizzazzjoni tad-dejta, it-traċċar, id-diversifikazzjoni tal-fornitur.
4. Aċċetta jew waqqaf ir-riskju li fadal. Ir-riskju li jibqa' wara t-tnaqqis jiġi aċċettat jekk ikun fl-aptit; Jekk le, l-attentat jieqaf.
5. Watch u reviżjoni. Ir-riskji mhumiex statiċi; Monitoraġġ kostanti għal drift u theddid ġdid huwa essenzjali.
tliet każijiet żgħar
Każ 1 — L-ispiża tal-alluċinazzjoni. Chatbot tal-klijenti ta' linja tal-ajru "ffurmat" politika ta' rifużjoni ineżistenti għal passiġġier; Il-klijent fda dan u għamel it-tranżazzjoni. Il-qorti żammet lill-kumpanija responsabbli għad-dikjarazzjoni tal-bot tagħha stess. Lezzjoni: L-output tal-AI lill-klijent huwa ta 'riskju medju/għoli; il-verifika u l-limitazzjoni kienu essenzjali. Il-bot imbagħad ġie ristrett biex iwieġeb biss minn testi tal-politika approvati.
Każ 2 — Preġudizzju siekta. Il-mudell ta' screening tal-kiri ta' kumpanija waħda sistematikament iffavorixxa rekluti minn ċerti skejjel minħabba żbilanċ fid-dejta storika. Id-differenza ġiet żvelata f'verifika; Kien hemm riskju għar-reputazzjoni u legali. Il-mudell ġie diżakkoppjat minn karatteristiċi protetti u marbut ma' monitoraġġ regolari tal-ġustizzja. Kieku t-test tal-preġudizzju sar mill-bidu, dan ma kienx iseħħ.
Każ 3 — Qbid ta' drift. Mudell ta' skoperta ta' frodi ta' bank idgħajjef bil-kwiet meta ħarġet mudell ġdid ta' frodi; Ir-rata ta' miss żdiedet minn 8% għal 19% fi 3 xhur. Aħbar tajba: l-aġenzija kienet implimentat monitoraġġ tal-prestazzjoni ta 'kull xahar, id-drift ġie skopert kmieni, u l-mudell ġie mħarreġ mill-ġdid. Mingħajr monitoraġġ, it-telf kien jimmultiplika.
Erba' mudelli li jistgħu jiġu kkupjati
1) Inventarju tar-riskju:
Ir-rwol tiegħek: maniġer tar-riskju tal-AI. Elenka riskji speċifiċi għall-AI għall-każ ta' użu li ġej: alluċinazzjoni, preġudizzju, tnixxija tad-dejta, drift, dipendenza, inspjegabbiltà. Għal kull riskju, ikteb f'sentenza waħda l-manifestazzjoni possibbli tiegħu u l-impatt tan-negozju f'dan ix-xenarju. Żona ta' użu: [test]
2) Punteġġ tal-probabbiltà/impatt:
Ipprijoritizza r-riskji li ġejjin billi tiskurjahom u timmultiplikahom bħala probabbiltà (1-5) u impatt (1-5). Spjega għaliex tagħti prijorità lill-aqwa tliet riskji.Riskji: [lista]
3) Pjan ta' mitigazzjoni:
Ipproponi miżuri prattiċi ta' mitigazzjoni għar-riskji prijoritarji li ġejjin: [riskji]. Għal kull miżura: x'għandek tagħmel, min hu responsabbli, f'liema livell ta' riskju huwa obbligatorju. Uża sorveljanza umana, anonimizzazzjoni tad-dejta, monitoraġġ u diversifikazzjoni tal-fornitur fejn xieraq.
4) Matriċi ta' sorveljanza bbażata fuq ir-riskju:
Assenja l-oqsma ta 'użu li ġejjin għal-livell ta' riskju (baxx/medju/għoli) u ddetermina s-sorveljanza meħtieġa għal kull livell: hija meħtieġa l-approvazzjoni tal-bniedem, se jinżammu r-rekords, x'inhi l-frekwenza tal-ispezzjoni? Użi: [lista]
Pront dgħajjef / Pront qawwi
Dgħajjef: "X'inhuma r-riskji ta' dan il-proġett AI?"
Konklużjoni: Lista ġenerali ta' riskji; probabbiltà, impatt u ebda mitigazzjoni, ma tistax tiddeċiedi.
Güçlü: "Se nużaw l-AI fl-evalwazzjoni preliminari ta' applikazzjoni għal self f'bank (il-bniedem jieħu d-deċiżjoni finali). Elenka r-riskji speċifiċi għal dan ix-xenarju (preġudizzju, inspjegabbiltà, alluċinazzjoni, privatezza tad-dejta); punteġġ kull wieħed skont il-probabbiltà u l-impatt; jissuġġerixxi rekwiżiti konkreti ta' mitigazzjoni u sorveljanza għat-tlieta l-aktar kritiċi. Iddikjara wkoll xi jfisser għal riskju għoli li dan huwa kkunsidrat."
Ir-riżultat: analiżi tar-riskju speċifika għal xenarju, skurjat, mitiganti u relatata mal-konformità.
Żbalji komuni
- L-applikazzjoni tal-istess sorveljanza għall-inizjattivi kollha. It-tnaqqis tax-xogħol ta’ riskju baxx huwa ta’ ħsara daqs li wieħed jittraskura xogħol ta’ riskju għoli; Is-sorveljanza għandha tkun ibbażata fuq il-livell tar-riskju.
- Jiżbalja l-alluċinazzjoni bħala "żball żgħir". Output mhux korrett lill-klijent jista 'jirriżulta f'responsabbiltà legali.
- Mhux qed tittestja għal preġudizzju. Il-mudell skjerat mingħajr ttestjar ta' ġustizzja jista' jipproduċi diskriminazzjoni siekta.
- Mhux qed tara Drift. Mudell li jaħdem tajjeb darba ma jaħdimx tajjeb għal dejjem; Huwa meħtieġ monitoraġġ kostanti.
- Qfil f'fornitur wieħed. Mingħajr pjan ta 'ħruġ, il-vizzju tħallik miftuħ għal xokk ta' prezz u aċċess.
Attenzjoni: Il-ġestjoni tar-riskju mhix darba għal dejjem; Is-sistemi tal-intelliġenza artifiċjali huma sistemi ħajjin. Sempliċement għax mudell huwa sikur illum ma jiggarantixxix li se jkun sikur għada. Monitoraġġ kontinwu, spezzjoni regolari u swiċċ tal-qatla ċar għandhom ikunu parti minn kull sistema ta 'riskju għoli.
Fil-qosor
Minbarra r-riskji tradizzjonali tal-IT, l-AI żżid riskji uniċi bħal alluċinazzjoni, preġudizzju, tnixxija tad-dejta, drift, dipendenza u inspjegabbiltà. Dawn ir-riskji għandhom jiġu evalwati u prijoritizzati f'termini ta' probabbiltà u impatt, u għandhom jinżammu fi ħdan l-aptit għar-riskju tal-istituzzjoni b'miżuri ta' mitigazzjoni. Is-sorveljanza mhix uniformi iżda għandha tkun imfassla skont il-livell ta' riskju; F'deċiżjonijiet ta' riskju għoli, in-nies għandu jkollhom l-aħħar kelma. Il-ġestjoni tar-riskju hija ċiklu kontinwu; mhix kompluta mingħajr monitoraġġ u kontroll. Fl-unità li jmiss, se nistabbilixxu l-governanza u l-istruttura tal-politika li tagħmel din id-dixxiplina tar-riskju permanenti.
Kompitu ta' applikazzjoni
Agħżel każ ta' użu tal-AI u elenka r-riskji speċifiċi tiegħu bil-mudell 1. Agħżel kull riskju skont il-probabbiltà u l-impatt, u tidentifika t-tlieta l-aktar kritiċi. Ikteb miżuri ta' mitigazzjoni konkreti u l-livell ta' sorveljanza meħtieġ għal dawn it-tliet riskji. Fl-aħħarnett, ikklassifikat l-użu bħala riskju baxx/medju/għoli u nnota kif dan ibiddel ir-rekwiżiti ta’ sorveljanza.
lista ta' kontroll
- [ ] Elenkajt ir-riskji speċifiċi għall-intelliġenza artifiċjali speċifiċi għal xenarju.
- [ ] I skorja kull riskju skond il-probabbiltà u l-impatt.
- [ ] Iddefinijt miżuri ta' mitigazzjoni għall-aktar riskji kritiċi.
- [ ] Ikklassifikat iż-żona tal-użu skont il-livell tar-riskju.
- [ ] Jien aġġustajt is-sorveljanza skont il-livell tar-riskju.
- [ ] Ippjanajt ttestjar/monitoraġġ għal preġudizzju u drift.
- [ ] Ffissajt awtorità ta' waqfien għas-sistema ta' riskju għoli.