Ieguvumi:
- Spēja atpazīt AI specifiskus riskus, piemēram, halucinācijas, neobjektivitāti, datu noplūdi, modeļu novirzes, atkarību un neizskaidrojamību ar ietekmi uz uzņēmējdarbību
- Risku vērtēšana varbūtības un ietekmes dimensijās un saglabāšana iestādes riska apetītes robežās, izmantojot mazināšanas pasākumus
- Spēja pielāgot uzraudzību atbilstoši riska līmenim, nevis vienveidībai, nodrošinot cilvēka galīgo vārdu un nepārtrauktu uzraudzību augsta riska lēmumos
Vērtība un risks ir vienas monētas divas puses. AI paver jaunus vērtības avotus, taču tas arī ievieš jaunus riskus, ko tradicionālā programmatūra neparedz. Augstākajam vadītājam jautājums ir nevis izvairīties no riska, bet gan apzināti pārvaldīt risku (risku vadība; risku atpazīšanas, mērīšanas, samazināšanas un to noturēšanas pieļaujamās robežās disciplīna). Šajā nodaļā jūs uzzināsiet par AI specifiskiem riskiem, to ietekmi uz uzņēmējdarbību un praktiskām mazināšanas metodēm. Mērķis nav "nedarīt to, jo pastāv risks" vai "rīkoties tā, it kā riska nav"; Katra iniciatīva ir jāveic ar apzinātu riska apetīti; riska līmenis, ko iestāde ir gatava uzņemties.
AI specifiski riski
Joprojām pastāv tradicionālie IT riski (neaizsargātība, darbības pārtraukumi); Taču mākslīgais intelekts rada savus riskus:
Riska veids
ko tu ar to domā?
Uzņēmējdarbības ietekmes piemērs
halucinācijas
Tas bija izdomāts, bet izrādījās ticams
Nepareiza informācija klientam, juridiskā atbildība
aizspriedumi
Netaisnības atspoguļojums datos par izlaidi
Diskriminējošs lēmums par pieņemšanu darbā/kredītu
datu noplūde
Konfidenciālu datu noplūde transportlīdzeklī
KVKK pārkāpums, reputācijas zaudēšana
Modeļa dreifs
Veiktspējas pasliktināšanās laika gaitā
Klusa lēmumu apgāšana
atkarība
Ieslēgts vienā piegādātājā
Cenas/piekļuves šoks
neizskaidrojamība
Nezinot lēmuma iemeslu
Revīzijas un iebildumu grūtības
Šeit svarīgi ir divi termini: neobjektivitāte ir tad, kad mākslīgais intelekts apgūst negodīgus modeļus apmācību datos un atspoguļo tos savos lēmumos; Piemēram, ja vēsturiskie darbā pieņemšanas dati dod priekšroku vienai grupai, arī modelis to dara. Modeļa novirze ir tad, kad modelis kļūst novecojis un tā veiktspēja klusi pasliktinās, mainoties pasaulei (jauni produkti, jaunas darbības).
Padoms. Domājiet par risku nevis kā "var/nenotiks", bet gan divās dimensijās: varbūtība (cik iespējams) un ietekme (cik liels kaitējums, ja tas notiek). Vispirms tiek risināti tie, kuriem ir liela ietekme + liela varbūtība; tiek pieņemti un uzraudzīti tie, kuriem ir zemas+zemas vērtības.
Uzraudzība atbilstoši riska līmenim
Ne katra izmantošanas joma ir saistīta ar tādu pašu risku. Gudra pieeja ir pielāgot uzraudzību riska līmenim:
- Zems risks (ievietots projekts, prāta vētra): viegla uzraudzība, ātruma prioritāte.
- Vidējs risks (saturs klientam, lēmumu atbalsts): cilvēku apstiprināšana, izlases kontrole.
- Augsts risks (kredīts, personāla atlase, veselība, juridiskie): obligāts cilvēka spriedums, pilna reģistrācija, regulārs audits.
Šī “uz risku balstītā” pieeja ir arī ES MI likuma (9. nodaļa) pamatā.
Soli pa solim: riska pārvaldības cikls
1. Atzīstiet riskus. Katrai iniciatīvai uzskaitiet AI specifiskos riskus.
2. Vērtēšanas iespējamība un ietekme. Novērtējiet un nosakiet katra riska prioritāti divās dimensijās.
3. Definējiet seku mazināšanas pasākumu. Piemēram, cilvēku apstiprinājums, datu anonimizācija, izsekošana, piegādātāju dažādošana.
4. Pieņemiet vai pārtrauciet atlikušo risku. Risks, kas paliek pēc samazinājuma, tiek pieņemts, ja tas ir apetītes robežās; Ja nē, mēģinājums tiek pārtraukts.
5. Skatieties un pārskatiet. Riski nav statiski; Ir svarīgi pastāvīgi uzraudzīt novirzes un jaunus draudus.
trīs mini futrāļi
1. gadījums — halucināciju izmaksas. Aviokompānijas klientu tērzēšanas robots pasažierim "izgudroja" neeksistējošu atmaksas politiku; Klients tam uzticējās un veica darījumu. Tiesa uzskatīja, ka uzņēmums ir atbildīgs par sava bota deklarāciju. Nodarbība: AI izvade klientam ir vidēja/augsta riska pakāpe; verifikācija un ierobežošana bija būtiska. Pēc tam robotam bija atļauts atbildēt tikai no apstiprinātajiem politikas tekstiem.
2. gadījums — klusā novirze. Viena uzņēmuma darbā pieņemšanas pārbaudes modelis sistemātiski atbalstīja darbiniekus no noteiktām skolām vēsturisko datu nelīdzsvarotības dēļ. Atšķirība tika atklāta revīzijā; Bija reputācijas un juridisks risks. Modelis tika atdalīts no aizsargātajiem raksturlielumiem un saistīts ar regulāru tiesiskuma uzraudzību. Ja neobjektivitātes pārbaude būtu veikta no paša sākuma, tas nebūtu noticis.
3. gadījums — Drifta notveršana. Bankas krāpšanas atklāšanas modelis tika klusi vājināts, kad parādījās jauns krāpšanas modelis; 3 mēnešu laikā nokavēšanas rādītājs palielinājās no 8% līdz 19%. Labas ziņas: aģentūra bija ieviesusi ikmēneša veiktspējas uzraudzību, novirze tika konstatēta agri, un modelis tika pārkvalificēts. Bez uzraudzības zaudējumi būtu vairākkārt palielinājušies.
Četras kopējamas veidnes
1) Riska uzskaite:
Jūsu loma: AI riska menedžeris. Uzskaitiet AI specifiskos riskus šādam lietošanas gadījumam: halucinācijas, neobjektivitāte, datu noplūde, novirze, atkarība, neizskaidrojamība. Katram riskam vienā teikumā uzrakstiet tā iespējamo izpausmi un ietekmi uz uzņēmējdarbību šajā scenārijā. Lietošanas apgabals: [teksts]
2) Varbūtības/ietekmes novērtējums:
Nosakiet prioritātes šādiem riskiem, novērtējot un reizinot tos kā varbūtību (1–5) un ietekmi (1–5). Paskaidrojiet, kāpēc jūs piešķirat prioritāti trim galvenajiem riskiem. Riski: [saraksts]
3) seku mazināšanas plāns:
Ierosināt praktiskus mazināšanas pasākumus šādiem prioritāriem riskiem: [riski]. Katram pasākumam: ko darīt, kas ir atbildīgs, pie kāda riska līmeņa ir obligāts. Ja nepieciešams, izmantojiet cilvēku uzraudzību, datu anonimizāciju, uzraudzību un piegādātāju dažādošanu.
4) Uz risku balstīta uzraudzības matrica:
Piešķiriet riska līmenim šādas lietošanas jomas (zems/vidējs/augsts) un nosakiet katram līmenim nepieciešamo pārraudzību: vai ir nepieciešams cilvēka apstiprinājums, vai tiks veikta uzskaite, kāds ir pārbaužu biežums? Lietojumi: [saraksts]
Vāja uzvedne / spēcīga uzvedne
Vāji: "Kādi ir šī AI projekta riski?"
Secinājums: vispārīgs risku saraksts; varbūtība, ietekme un bez mazināšanas, jūs nevarat izlemt.
Güçlü: "Mēs izmantosim mākslīgo intelektu, veicot aizdevuma pieteikuma sākotnējo izvērtēšanu bankā (galīgo lēmumu pieņems cilvēks). Uzskaitiet šim scenārijam raksturīgos riskus (neobjektivitāte, neizskaidrojamība, halucinācijas, datu privātums); novērtējiet katru pēc iespējamības un ietekmes; iesakiet konkrētas mazināšanas un pārraudzības prasības trim vissvarīgākajām. Norādiet arī, ko tas nozīmē atbilstībai, kas tiek uzskatīta par augstu risku."
Rezultāts: scenārijam specifiska, novērtēta, mazinoša un ar atbilstību saistīta riska analīze.
Biežas kļūdas
- Vienādas pārraudzības piemērošana visām iniciatīvām. Zema riska darba palēnināšana ir tikpat kaitīga kā augsta riska darba neievērošana; Uzraudzībai jābalstās uz riska līmeni.
- Uzskatot halucinācijas par "mazu kļūdu". Nepareiza izvadīšana klientam var izraisīt juridisku atbildību.
- Nepārbauda neobjektivitāti. Modelis, kas tiek izmantots bez godīguma pārbaudes, var radīt klusu diskrimināciju.
- Neskatos Drift. Modelis, kas labi darbojas vienreiz, nedarbojas labi mūžīgi; Nepieciešama pastāvīga uzraudzība.
- Bloķēšana vienā piegādātājā. Bez izejas plāna atkarība atstāj jūs atvērtu cenu un piekļuves šokam.
Uzmanību: riska pārvaldība nav vienreiz un uz visiem laikiem; Mākslīgā intelekta sistēmas ir dzīvas sistēmas. Tas, ka modelis šodien ir drošs, negarantē, ka tas būs drošs arī rīt. Nepārtrauktai uzraudzībai, regulārai pārbaudei un skaidram izslēgšanas slēdzim jābūt katras augsta riska sistēmas sastāvdaļai.
Rezumējot
Papildus tradicionālajiem IT riskiem AI pievieno unikālus riskus, piemēram, halucinācijas, neobjektivitāti, datu noplūdi, novirzi, atkarību un neizskaidrojamību. Šie riski ir jānovērtē un jānosaka par prioritāti pēc varbūtības un ietekmes, un tie ir jāsaglabā iestādes riska apetītes robežās, veicot mazināšanas pasākumus. Uzraudzība nav vienota, bet tai jābūt pielāgotai riska līmenim; Augsta riska lēmumos cilvēkiem ir jāpieņem galīgais vārds. Riska vadība ir nepārtraukts cikls; nav pilnīga bez uzraudzības un kontroles. Nākamajā nodaļā mēs izveidosim pārvaldību un politikas struktūru, kas padara šo riska disciplīnu pastāvīgu.
Lietojumprogrammas uzdevums
Izvēlieties AI lietošanas gadījumu un uzskaitiet tā īpašos riskus, izmantojot 1. veidni. Novērtējiet katru risku pēc iespējamības un ietekmes, nosakot trīs vissvarīgākos. Uzrakstiet konkrētus mazināšanas pasākumus un nepieciešamo uzraudzības līmeni šiem trim riskiem. Visbeidzot, klasificējiet lietojumu kā zemu/vidēju/augstu risku un atzīmējiet, kā tas maina pārraudzības prasības.
kontrolsaraksts
- [ ] Esmu uzskaitījis mākslīgā intelekta scenārijam raksturīgos riskus.
- [ ] Es novērtēju katru risku pēc varbūtības un ietekmes.
- [ ] Esmu definējis mazināšanas pasākumus kritiskākajiem riskiem.
- [ ] Esmu klasificējis lietošanas jomu pēc riska līmeņa.
- [ ] Pielāgoju uzraudzību atbilstoši riska līmenim.
- [ ] Es plānoju neobjektivitātes un novirzes testēšanu/uzraudzību.
- [ ] Esmu noteicis augsta riska sistēmas apturēšanas pilnvaras.