Pelnas:
- Gebėjimas atpažinti su dirbtiniu intelektu susijusias rizikas, tokias kaip haliucinacijos, šališkumas, duomenų nutekėjimas, modelio dreifas, priklausomybė ir nepaaiškinamas poveikis verslui.
- Rizikos įvertinimas tikimybės ir poveikio matmenimis ir jos išlaikymas įstaigos rizikos apetito ribose taikant mažinimo priemones
- Galimybė koreguoti priežiūrą pagal rizikos lygį, o ne vienodumą, užtikrinant žmogaus galutinį žodį ir nuolatinę stebėseną priimant didelės rizikos sprendimus
Vertė ir rizika yra dvi tos pačios monetos pusės. Dirbtinis intelektas atveria naujų vertės šaltinių, bet taip pat kelia naujų rūšių rizikos, kurios tradicinė programinė įranga nekelia. Vyresniajam vadovui svarbu ne išvengti rizikos, o sąmoningai valdyti riziką (rizikos valdymas; rizikos atpažinimo, matavimo, mažinimo ir leistinų ribų išlaikymo disciplina). Šiame skyriuje sužinosite apie DI būdingas rizikas, jų poveikį verslui ir praktinius mažinimo metodus. Siekiama ne „to nedaryti, nes yra rizika“ arba „elgtis taip, lyg rizikos nebūtų“; Tai – vykdyti kiekvieną iniciatyvą sąmoningai rizikuojant; rizikos lygį, kurį įstaiga nori prisiimti.
AI būdinga rizika
Vis dar galioja tradicinės IT rizikos (pažeidžiamumas, gedimai); Tačiau dirbtinis intelektas prideda savo pavojų:
Rizikos tipas
ka tu turi omenyje?
Verslo poveikio pavyzdys
haliucinacijos
Tai buvo sugalvota, bet pasirodė patikima
Neteisinga informacija klientui, teisinė atsakomybė
išankstinis nusistatymas
Neteisybės atspindys produkcijos duomenyse
Diskriminacinis sprendimas dėl įdarbinimo/kreditavimo
duomenų nutekėjimas
Į transporto priemonę nutekėjo konfidencialūs duomenys
KVKK pažeidimas, reputacijos praradimas
Modelio dreifas
Veikimo pablogėjimas laikui bėgant
Tylus sprendimų griovimas
priklausomybė
Užrakinta pas vieną tiekėją
Kainos / prieigos šokas
nepaaiškinamumas
Sprendimo priežasties nežino
Audito ir prieštaravimų sunkumai
Čia svarbūs du terminai: šališkumas – tai tada, kai dirbtinis intelektas išmoksta nesąžiningų mokymo duomenų modelių ir atspindi juos savo sprendimuose; Pavyzdžiui, jei istoriniai įdarbinimo duomenys teikia pirmenybę vienai grupei, modelis taip pat. Modelio dreifas yra tada, kai modelis pasensta, o jo veikimas tyliai mažėja keičiantis pasauliui (nauji produktai, naujas elgesys).
Patarimas: galvokite apie riziką ne „gali/neįvyks“, o dviem aspektais: tikimybe (kiek tikėtina) ir poveikiu (kiek žalos, jei atsitiks). Pirmiausia kreipiamasi į tuos, kurių poveikis didelis + didelė tikimybė; priimami ir stebimi tie, kurių vertės mažos+mažos.
Priežiūra pagal rizikos lygį
Ne kiekviena naudojimo sritis kelia tą pačią riziką. Protingas požiūris yra pritaikyti priežiūrą pagal rizikos lygį:
- Maža rizika (įdėtas juodraštis, smegenų šturmas): lengva priežiūra, greičio prioritetas.
- Vidutinė rizika (turinys klientui, sprendimų palaikymas): žmogaus patvirtinimas, atrankos kontrolė.
- Didelė rizika (kreditas, įdarbinimas, sveikata, teisinė): privalomas žmogaus sprendimas, visa registracija, reguliarus auditas.
Šis „rizika pagrįstas“ metodas taip pat yra ES AI įstatymo pagrindas (9 skyrius).
Žingsnis po žingsnio: rizikos valdymo ciklas
1. Pripažinkite riziką. Kiekvienai iniciatyvai išvardykite su DI būdingą riziką.
2. Balų tikimybė ir poveikis. Įvertinkite ir nustatykite prioritetus kiekvienai rizikai dviem aspektais.
3. Apibrėžkite švelninimo priemonę. Tokie kaip žmogaus patvirtinimas, duomenų anonimiškumas, sekimas, tiekėjų įvairinimas.
4. Priimkite arba sustabdykite likusią riziką. Rizika, likusi po sumažinimo, pripažįstama, jei ji neviršija apetito; Jei ne, bandymas sustabdomas.
5. Žiūrėkite ir peržiūrėkite. Rizika nėra statiška; Labai svarbu nuolat stebėti dreifus ir naujas grėsmes.
trys mini dėklai
1 atvejis – haliucinacijų kaina. Aviakompanijos klientų pokalbių robotas „sukūrė“ keleiviui neegzistuojančią pinigų grąžinimo politiką; Klientas tuo pasitikėjo ir sudarė sandorį. Teismas pripažino, kad bendrovė yra atsakinga už savo boto deklaraciją. Pamoka: AI produkcija klientui yra vidutinė/didelė rizika; patikrinimas ir apribojimas buvo būtini. Tada robotas galėjo atsakyti tik iš patvirtintų politikos tekstų.
2 atvejis – tylus šališkumas. Vienos įmonės samdymo patikros modelis sistemingai palankiai teikė tam tikrų mokyklų samdomus darbuotojus dėl istorinių duomenų disbalanso. Skirtumas buvo atskleistas audito metu; Kilo reputacijos ir teisinė rizika. Modelis buvo atsietas nuo saugomų savybių ir susietas su reguliaria teisingumo stebėsena. Jei šališkumo testas būtų atliktas nuo pat pradžių, tai nebūtų įvykę.
3 atvejis – Drift gaudymas. Atsiradus naujam sukčiavimo modeliui, banko sukčiavimo aptikimo modelis tyliai susilpnėjo; Praleidimų procentas per 3 mėnesius padidėjo nuo 8% iki 19%. Geros naujienos: agentūra įdiegė mėnesinį veiklos stebėjimą, dreifas buvo aptiktas anksti, o modelis buvo perkvalifikuotas. Be stebėjimo nuostoliai būtų padidėję.
Keturi kopijuojami šablonai
1) Rizikos inventorius:
Jūsų vaidmuo: AI rizikos vadovas. Išvardykite su dirbtiniu intelektu susijusią riziką šiais atvejais: haliucinacijos, šališkumas, duomenų nutekėjimas, dreifas, priklausomybė, nepaaiškinimas. Kiekvienai rizikai vienu sakiniu parašykite galimą jos pasireiškimą ir poveikį verslui šiame scenarijuje. Naudojimo sritis: [tekstas]
2) Tikimybės / poveikio įvertinimas:
Suteikite pirmenybę toliau nurodytoms rizikoms, įvertindami balus ir padaugindami jas kaip tikimybę (1–5) ir poveikį (1–5). Paaiškinkite, kodėl pirmenybę teikiate trims didžiausioms rizikoms. Rizika: [sąrašas]
3) Sušvelninimo planas:
Pasiūlykite praktines mažinimo priemones, skirtas šioms prioritetinėms rizikoms: [rizika]. Kiekvienai priemonei: ką daryti, kas atsakingas, kokiam rizikos lygiui yra privaloma. Jei reikia, naudokite žmonių stebėjimą, duomenų anonimiškumą, stebėjimą ir tiekėjų įvairinimą.
4) Rizika pagrįstos priežiūros matrica:
Priskirkite šias naudojimo sritis rizikos lygiui (žemas/vidutinis/didelis) ir nustatykite kiekvienam lygiui reikalingą priežiūrą: ar reikalingas žmogaus sutikimas, ar bus vedami įrašai, koks tikrinimo dažnumas? Naudojimas: [sąrašas]
Silpnas raginimas / Stiprus raginimas
Silpnas: „Kokia šio AI projekto rizika?
Išvada: bendras rizikos sąrašas; tikimybė, poveikis ir jokio švelninimo, jūs negalite nuspręsti.
Güçlü: "Mes naudosime dirbtinį intelektą preliminariai vertindami paskolos paraišką banke (galutinį sprendimą priims žmogus). Išvardykite šiam scenarijui būdingas rizikas (šališkumas, nepaaiškinamumas, haliucinacijos, duomenų privatumas); įvertinkite kiekvieną pagal tikimybę ir poveikį; pasiūlykite konkrečius švelninimo ir priežiūros reikalavimus trims svarbiausiems. Taip pat nurodykite, ką reiškia didelė atitikties rizika.
Rezultatas: konkrečiam scenarijui skirta, balais įvertinta, švelninanti ir su atitiktimi susijusi rizikos analizė.
Dažnos klaidos
- Visoms iniciatyvoms taikyti tą pačią priežiūrą. Mažos rizikos darbo sulėtinimas yra toks pat žalingas kaip ir didelės rizikos darbo aplaidumas; Priežiūra turėtų būti pagrįsta rizikos lygiu.
- Haliucinacijos klaidinimas kaip „maža klaida“. Neteisinga informacija klientui gali užtraukti teisinę atsakomybę.
- Netestuojama dėl šališkumo. Modelis, įdiegtas be sąžiningumo testų, gali sukelti tylią diskriminaciją.
- Nežiūriu Drifto. Modelis, kuris gerai veikia vieną kartą, neveikia gerai amžinai; Būtinas nuolatinis stebėjimas.
- Užrakinimas pas vieną tiekėją. Be pasitraukimo plano, priklausomybė palieka jus atvirą kainų ir prieigos šokui.
Atsargiai: rizikos valdymas nėra kartą ir visiems laikams; Dirbtinio intelekto sistemos yra gyvos sistemos. Vien todėl, kad modelis yra saugus šiandien, negarantuoja, kad jis bus saugus rytoj. Nuolatinis stebėjimas, reguliarus patikrinimas ir aiškus stabdymo jungiklis turėtų būti kiekvienos didelės rizikos sistemos dalis.
Apibendrinant
Be tradicinių IT rizikų, dirbtinis intelektas prideda unikalių pavojų, tokių kaip haliucinacijos, šališkumas, duomenų nutekėjimas, dreifas, priklausomybė ir nepaaiškinimas. Ši rizika turėtų būti įvertinta ir suskirstyta pagal prioritetus, atsižvelgiant į tikimybę ir poveikį, ir turėtų būti išlaikyta įstaigos rizikos apetito ribose taikant mažinimo priemones. Priežiūra nėra vienoda, bet turėtų būti pritaikyta rizikos lygiui; Priimant didelės rizikos sprendimus, paskutinį žodį turėtų tarti žmonės. Rizikos valdymas yra nenutrūkstamas ciklas; nėra baigtas be stebėjimo ir kontrolės. Kitame skyriuje nustatysime valdymo ir politikos struktūrą, kuri pavers šią rizikos drausmę nuolatine.
Taikymo užduotis
Pasirinkite AI naudojimo atvejį ir nurodykite konkrečias jo rizikas naudodami 1 šabloną. Įvertinkite kiekvieną riziką pagal tikimybę ir poveikį, nurodydami tris svarbiausius. Parašykite konkrečias mažinimo priemones ir priežiūros lygį, reikalingą šioms trims rizikoms. Galiausiai, klasifikuokite naudojimą kaip mažą/vidutinę/didelę riziką ir atkreipkite dėmesį, kaip tai keičia priežiūros reikalavimus.
kontrolinis sąrašas
- [ ] Išvardijau rizikas, būdingas dirbtinio intelekto scenarijui.
- [ ] Kiekvieną riziką įvertinau pagal tikimybę ir poveikį.
- [ ] Apibrėžiau didžiausios rizikos mažinimo priemones.
- [ ] Suskirstiau naudojimo sritį pagal rizikos lygį.
- [ ] Pritaikiau stebėjimą pagal rizikos lygį.
- [ ] Planavau testavimą / stebėjimą, ar nėra šališkumo ir dreifo.
- [ ] Nustačiau didelės rizikos sistemos sustabdymo įgaliojimus.