Dobički:
- Sposobnost prepoznavanja tveganj, specifičnih za AI, kot so halucinacije, pristranskost, uhajanje podatkov, zamik modela, odvisnost in nerazložljivost s poslovnim vplivom
- Točkovanje tveganj v dimenzijah verjetnosti in vpliva ter njihovo ohranjanje znotraj nagnjenosti institucije k tveganju z ukrepi za ublažitev
- Sposobnost prilagajanja nadzora glede na stopnjo tveganja in ne glede na enotnost, zagotavljanje človekove zadnje besede in stalno spremljanje pri odločitvah z visokim tveganjem
Vrednost in tveganje sta dve plati istega kovanca. Umetna inteligenca odpira nove vire vrednosti, a uvaja tudi nove vrste tveganj, ki jih tradicionalna programska oprema ne nosi. Za višjega menedžerja ni vprašanje izogibanje tveganju, temveč zavestno obvladovanje tveganja (upravljanje s tveganji; disciplina prepoznavanja, merjenja, zmanjševanja tveganj in njihovega ohranjanja na sprejemljivih mejah). V tej enoti boste spoznali tveganja, značilna za umetno inteligenco, njihov vpliv na poslovanje in praktične metode ublažitve. Cilj ni "tega ne storiti, ker obstaja tveganje" ali "delovati, kot da tveganja ni"; Vsako pobudo je izvesti z zavestno nagnjenostjo k tveganju; stopnjo tveganja, ki jo je institucija pripravljena prevzeti.
Tveganja, specifična za AI
Tradicionalna IT tveganja (ranljivost, izpad) še vedno veljajo; Toda umetna inteligenca dodaja svoja tveganja:
Vrsta tveganja
kaj misliš
Primer vpliva na poslovanje
halucinacije
Bilo je izmišljeno, a se je izkazalo za verodostojno
Napačna informacija stranki, pravna odgovornost
predsodki
Odsev nepravičnosti v podatkih o izidu
Diskriminatorna odločitev o najemu/kreditu
uhajanje podatkov
Zaupni podatki uhajajo v vozilo
Kršitev KVKK, izguba ugleda
Model drift
Zmanjšanje zmogljivosti skozi čas
Tiho razveljavitev odločitev
zasvojenost
Zaklenjen na enega samega dobavitelja
Cena/dostopni šok
nerazložljivost
Ne vedoč razloga za odločitev
Težave z revizijo in ugovorom
Tu sta pomembna dva izraza: pristranskost je, ko se umetna inteligenca nauči nepoštenih vzorcev v podatkih o usposabljanju in jih odraža v svojih odločitvah; Na primer, če pretekli podatki o zaposlovanju dajejo prednost eni skupini, je tudi model. Odmik modela je, ko model postane zastarel in njegova učinkovitost tiho upada, ko se svet spreminja (novi izdelki, nova vedenja).
Namig: o tveganju ne razmišljajte v smislu "lahko/se ne bo zgodilo", ampak v dveh razsežnostih: verjetnosti (kako verjetno) in vpliva (koliko škode, če se zgodi). Najprej se obravnavajo tisti z velikim vplivom + veliko verjetnostjo; tisti z nizkimi+nizkimi vrednostmi so sprejeti in nadzorovani.
Nadzor glede na stopnjo tveganja
Vsako področje uporabe ne nosi enakega tveganja. Pameten pristop je prilagoditi nadzor ravni tveganja:
- Majhno tveganje (vstavljen osnutek, možganska nevihta): rahel spregled, prednost hitrosti.
- Srednje tveganje (vsebina za stranko, podpora pri odločanju): človeška odobritev, nadzor vzorčenja.
- Visoko tveganje (kredit, zaposlovanje, zdravje, pravno): obvezna človeška presoja, popolna registracija, redna revizija.
Ta pristop, ki temelji na tveganju, je tudi hrbtenica prava EU o AI (enota 9).
Korak za korakom: cikel obvladovanja tveganj
1. Prepoznajte tveganja. Navedite tveganja, specifična za AI, za vsako pobudo.
2. Ocenite verjetnost in učinek. Ocenite in razporedite vsako tveganje po prednosti v dveh dimenzijah.
3. Določite omilitveni ukrep. Kot so človeška odobritev, anonimizacija podatkov, sledenje, diverzifikacija dobaviteljev.
4. Sprejmite ali prenehajte s preostalim tveganjem. Tveganje, ki ostane po zmanjšanju, je sprejeto, če je znotraj apetita; Če ne, se poskus ustavi.
5. Oglejte si in preglejte. Tveganja niso statična; Bistvenega pomena je stalno spremljanje zanašanja in novih groženj.
trije mini kovčki
Primer 1 – Cena halucinacije. Klepetalni robot letalske družbe za stranke je "izmislil" neobstoječo politiko vračila za potnika; Stranka je temu zaupala in opravila transakcijo. Sodišče je ugotovilo, da je podjetje odgovorno za izjavo lastnega bota. Lekcija: proizvodnja umetne inteligence za stranko je srednje/visoko tveganje; preverjanje in omejitev sta bili bistveni. Botu je bilo nato omejeno samo odzivanje na odobrena besedila pravilnika.
Primer 2 – Tiha pristranskost. Model preverjanja zaposlovanja v enem podjetju je sistematično dajal prednost zaposlenim iz določenih šol zaradi neravnovesja v preteklih podatkih. Razliko je pokazala revizija; Obstajalo je tveganje za ugled in pravno tveganje. Model je bil ločen od zaščitenih značilnosti in povezan z rednim pravosodnim spremljanjem. Če bi bil test pristranskosti narejen od začetka, se to ne bi zgodilo.
Primer 3 – Zajem Drifta. Model banke za odkrivanje goljufij je bil tiho oslabljen, ko se je pojavil nov vzorec goljufije; Stopnja zamude se je v 3 mesecih povečala z 8 % na 19 %. Dobra novica: agencija je uvedla mesečno spremljanje uspešnosti, zamik je bil odkrit zgodaj in model je bil ponovno usposobljen. Brez nadzora bi se izguba večkrat povečala.
Štiri predloge za kopiranje
1) Popis tveganja:
Vaša vloga: upravitelj tveganja AI. Navedite tveganja, specifična za umetno inteligenco, za naslednji primer uporabe: halucinacija, pristranskost, uhajanje podatkov, odmik, odvisnost, nerazložljivost. Za vsako tveganje v enem stavku napišite možno manifestacijo in vpliv na poslovanje v tem scenariju. Področje uporabe: [besedilo]
2) Ocenjevanje verjetnosti/vpliva:
Dajte prednost naslednjim tveganjem tako, da jih točkujete in pomnožite kot verjetnost (1–5) in vpliv (1–5). Pojasnite, zakaj dajete prednost trem največjim tveganjem. Tveganja: [seznam]
3) Načrt ublažitve:
Predlagajte praktične ukrepe za ublažitev naslednjih prednostnih tveganj: [tveganja]. Za vsak ukrep: kaj storiti, kdo je odgovoren, pri kateri stopnji tveganja je obvezen. Po potrebi uporabite človeški nadzor, anonimizacijo podatkov, spremljanje in diverzifikacijo dobaviteljev.
4) Matrika nadzora na podlagi tveganja:
Naslednja področja uporabe dodelite stopnji tveganja (nizka/srednja/visoka) in določite potreben nadzor za vsako raven: ali je potrebna odobritev ljudi, ali se bodo vodili zapisi, kakšna je pogostost pregledov? Uporablja: [seznam]
Šibek poziv/močan poziv
Slab: "Kakšna so tveganja tega projekta AI?"
Zaključek: splošen seznam tveganj; verjetnosti, vpliva in brez omilitve, se ne morete odločiti.
Güçlü: "Umetno inteligenco bomo uporabili pri predhodni oceni vloge za posojilo v banki (človek bo sprejel končno odločitev). Navedite tveganja, značilna za ta scenarij (pristranskost, nerazložljivost, halucinacija, zasebnost podatkov); ocenite vsako po verjetnosti in vplivu; predlagajte konkretne zahteve za ublažitev in nadzor za tri najbolj kritične. Navedite tudi, kaj za skladnost pomeni, da se to šteje za visoko tveganje."
Rezultat: analiza tveganja, specifična za scenarij, ocenjena, ublažitvena in s skladnostjo.
Pogoste napake
- Uporaba enakega nadzora za vse pobude. Upočasnitev dela z nizkim tveganjem je prav tako škodljiva kot zanemarjanje dela z visokim tveganjem; Nadzor mora temeljiti na stopnji tveganja.
- Zamenjati halucinacije kot "majhno napako". Napačen izpis stranki lahko povzroči pravno odgovornost.
- Brez testiranja pristranskosti. Model, uveden brez testiranja pravičnosti, lahko povzroči tiho diskriminacijo.
- Ne gledam Drift. Model, ki enkrat dobro deluje, ne deluje večno; Potrebno je stalno spremljanje.
- Zaklepanje v enega samega dobavitelja. Brez načrta za izhod vas zasvojenost pusti odprtega za cenovni in dostopni šok.
Pozor: obvladovanje tveganj ni enkrat za vselej; Sistemi umetne inteligence so živi sistemi. Samo zato, ker je model varen danes, še ne zagotavlja, da bo varen tudi jutri. Stalno spremljanje, redni pregledi in jasno stikalo za izklop bi morali biti del vsakega sistema z visokim tveganjem.
Če povzamem
Poleg tradicionalnih IT tveganj doda umetna inteligenca še edinstvena tveganja, kot so halucinacije, pristranskost, uhajanje podatkov, odmik, odvisnost in nerazložljivost. Ta tveganja bi bilo treba ovrednotiti in jih prednostno razvrstiti glede na verjetnost in vpliv ter jih z ukrepi za ublažitev ohraniti v okviru nagnjenosti institucije k tveganju. Nadzor ni enoten, ampak mora biti prilagojen stopnji tveganja; Pri odločitvah z visokim tveganjem bi morali imeti zadnjo besedo ljudje. Upravljanje tveganj je neprekinjen cikel; ni popoln brez spremljanja in nadzora. V naslednji enoti bomo vzpostavili strukturo upravljanja in politike, zaradi katere bo ta disciplina tveganja trajna.
Aplikacijska naloga
Izberite primer uporabe umetne inteligence in navedite njegova specifična tveganja s predlogo 1. Ocenite vsako tveganje glede na verjetnost in vpliv ter opredelite tri najbolj kritična. Napišite konkretne ukrepe za ublažitev in raven nadzora, ki je potrebna za ta tri tveganja. Nazadnje razvrstite uporabo kot nizko/srednje/visoko tveganje in upoštevajte, kako to spreminja zahteve glede nadzora.
kontrolni seznam
- [ ] Navedel sem tveganja, značilna za scenarij umetne inteligence.
- [ ] Vsako tveganje sem ocenil glede na verjetnost in učinek.
- [ ] Določil sem omilitvene ukrepe za najbolj kritična tveganja.
- [ ] Področje uporabe sem razvrstil glede na stopnjo tveganja.
- [ ] Nadzor sem prilagodil glede na stopnjo tveganja.
- [ ] Načrtoval sem testiranje/spremljanje pristranskosti in zanašanja.
- [ ] Nastavil sem pooblastilo za zaustavitev za sistem z visokim tveganjem.