Gevinster:
- Evne til å gjenkjenne AI-spesifikke risikoer som hallusinasjoner, skjevheter, datalekkasje, modelldrift, avhengighet og uforklarlighet med forretningspåvirkning
- Scoring av risikoer i sannsynlighets- og effektdimensjoner og holde dem innenfor risikoappetitten til institusjonen med avbøtende tiltak
- Evne til å justere overvåking i henhold til risikonivå snarere enn ensartethet, som sikrer menneskelig siste ord og kontinuerlig overvåking i høyrisikobeslutninger
Verdi og risiko er to sider av samme sak. AI åpner for nye verdikilder, men introduserer også nye typer risikoer som tradisjonell programvare ikke bærer. For en toppleder er ikke problemet å unngå risiko, men å bevisst håndtere risiko (risikostyring; disiplinen med å gjenkjenne, måle, redusere risikoer og holde dem innenfor akseptable grenser). I denne enheten vil du lære om risikoer som er spesifikke for AI, deres virksomhetspåvirkning og praktiske avbøtende metoder. Målet er ikke å "ikke gjøre det fordi det er en risiko" eller "å handle som om det ikke er noen risiko"; Det er å gjennomføre ethvert initiativ med en bevisst risikovilje; risikonivået institusjonen er villig til å ta.
AI-spesifikke risikoer
Tradisjonelle IT-risikoer (sårbarhet, driftsstans) gjelder fortsatt; Men kunstig intelligens legger til sine egne risikoer:
Risikotype
Hva mener du?
Eksempel på virksomhetspåvirkning
hallusinasjon
Det var oppdiktet, men det viste seg troverdig
Feil informasjon til kunden, juridisk ansvar
fordommer
Refleksjonen av urettferdighet i dataene på produksjonen
Diskriminerende ansettelse/kredittvedtak
datalekkasje
Konfidensielle data lekker inn i kjøretøyet
KVKK-brudd, tap av omdømme
Modelldrift
Ytelsesforringelse over tid
Stille velting av beslutninger
avhengighet
Låst til en enkelt leverandør
Pris/tilgangsjokk
uforklarlighet
Uten å vite årsaken til avgjørelsen
Vanskeligheter med revisjon og innsigelse
To begreper er viktige her: skjevhet er når kunstig intelligens lærer urettferdige mønstre i treningsdata og reflekterer dem i sine beslutninger; For eksempel, hvis historiske ansettelsesdata favoriserer én gruppe, gjør modellen det også. Modelldrift er når modellen blir foreldet og ytelsen stille synker etter hvert som verden endrer seg (nye produkter, ny atferd).
Tips: Tenk på risiko ikke i form av "kan/vil ikke skje", men i to dimensjoner: sannsynlighet (hvor sannsynlig) og påvirkning (hvor mye skade hvis det skjer). De med høy innvirkning + høy sannsynlighet blir adressert først; de med lave+lave verdier aksepteres og overvåkes.
Overvåking i henhold til risikonivå
Ikke alle bruksområde har samme risiko. Den smarte tilnærmingen er å skreddersy overvåking til risikonivået:
- Lav risiko (innfelt utkast, idédugnad): lett oversyn, hastighetsprioritet.
- Middels risiko (innhold til kunde, beslutningsstøtte): menneskelig godkjenning, prøvetakingskontroll.
- Høy risiko (kreditt, rekruttering, helse, juridisk): obligatorisk menneskelig vurdering, full registrering, regelmessig revisjon.
Denne "risikobaserte" tilnærmingen er også ryggraden i EUs AI-lov (enhet 9).
Trinn for trinn: risikostyringssyklus
1. Gjenkjenne risikoene. List opp AI-spesifikke risikoer for hvert initiativ.
2. Score sannsynlighet og effekt. Evaluer og prioriter hver risiko i to dimensjoner.
3. Definer avbøtende tiltak. Slik som menneskelig godkjenning, dataanonymisering, sporing, leverandørdiversifisering.
4. Godta eller stopp gjenværende risiko. Risikoen som gjenstår etter reduksjonen aksepteres hvis den er innenfor appetitten; Hvis ikke, stopper forsøket.
5. Se og gjennomgå. Risikoer er ikke statiske; Konstant overvåking for drift og nye trusler er avgjørende.
tre minisaker
Tilfelle 1 - Kostnaden for hallusinasjoner. Et flyselskaps kundechatbot "oppgjorde" en ikke-eksisterende refusjonspolicy for en passasjer; Kunden stolte på dette og gjennomførte transaksjonen. Retten holdt selskapet ansvarlig for sin egen bots erklæring. Leksjon: AI-utgang til kunden er middels/høy risiko; verifisering og begrensning var avgjørende. Boten ble deretter begrenset til å bare svare fra godkjente policytekster.
Sak 2 - Stille skjevhet. Ett selskaps ansettelsesscreeningsmodell favoriserte systematisk rekrutter fra enkelte skoler på grunn av ubalanse i historiske data. Forskjellen ble avdekket i en revisjon; Det var en omdømmerisiko og juridisk risiko. Modellen ble frikoblet fra beskyttede egenskaper og knyttet til vanlig rettsovervåking. Hvis skjevhetstesten hadde blitt gjort fra begynnelsen, ville ikke dette skjedd.
Tilfelle 3 - Drifts fangst. En banks svindeloppdagelsesmodell ble stille svekket da et nytt svindelmønster dukket opp; Fraværet økte fra 8 % til 19 % på 3 måneder. Gode nyheter: byrået hadde implementert månedlig ytelsesovervåking, avdriften ble oppdaget tidlig, og modellen ble omskolert. Uten overvåking ville tapet blitt mangedoblet.
Fire kopierbare maler
1) Risikobeholdning:
Din rolle: AI-risikoansvarlig. List opp AI-spesifikke risikoer for følgende brukstilfeller: hallusinasjon, skjevhet, datalekkasje, drift, avhengighet, uforklarlighet. For hver risiko, skriv i én setning dens mulige manifestasjon og forretningseffekt i dette scenariet. Bruksområde: [tekst]
2) Sannsynlighet/påvirkningsscoring:
Prioriter følgende risikoer ved å score og multiplisere dem som sannsynlighet (1-5) og effekt (1-5). Forklar hvorfor du prioriterer de tre øverste risikoene. Risikoer: [liste]
3) Avbøtende plan:
Foreslå praktiske avbøtende tiltak for følgende prioriterte risikoer: [risikoer]. For hvert tiltak: hva du skal gjøre, hvem er ansvarlig, på hvilket risikonivå er obligatorisk. Bruk menneskelig overvåking, anonymisering av data, overvåking og leverandørdiversifisering der det er hensiktsmessig.
4) Risikobasert overvåkingsmatrise:
Tilordne følgende bruksområder til risikonivået (lavt/middels/høyt) og bestem tilsynet som kreves for hvert nivå: kreves menneskelig godkjenning, vil det bli ført journaler, hva er inspeksjonsfrekvensen? Bruker: [liste]
Svak forespørsel / Sterk forespørsel
Svak: "Hva er risikoen ved dette AI-prosjektet?"
Konklusjon: En generell liste over risikoer; sannsynlighet, innvirkning og ingen avbøtende, kan du ikke bestemme.
Güçlü: "Vi vil bruke AI i den foreløpige evalueringen av en lånesøknad i en bank (mennesket vil ta den endelige avgjørelsen). List opp risikoene som er spesifikke for dette scenariet (bias, uforklarlighet, hallusinasjoner, datapersonvern); score hver av dem etter sannsynlighet og innvirkning; foreslå konkrete avbøtende og tilsynskrav for de tre mest kritiske. Fortell også hva det betyr for overholdelse."
Resultatet: en scenariespesifikk, scoret, avbøtende og samsvarsrelatert risikoanalyse.
Vanlige feil
- Bruker samme tilsyn for alle initiativer. Å bremse lavrisikoarbeid er like skadelig som å neglisjere høyrisikoarbeid; Overvåking bør baseres på risikonivå.
- Å ta feil av hallusinasjonen som en "liten feil". Feil utdata til kunden kan føre til juridisk ansvar.
- Tester ikke for skjevhet. Modellen som brukes uten rettferdighetstesting kan produsere stille diskriminering.
- Ser ikke Drift. En modell som fungerer bra en gang fungerer ikke bra for alltid; Konstant overvåking er nødvendig.
- Låser inn en enkelt leverandør. Uten en utgangsplan gir avhengighet deg åpen for pris- og tilgangsjokk.
Forsiktig: Risikostyring er ikke en gang for alle; Kunstig intelligens-systemer er levende systemer. Bare fordi en modell er trygg i dag, er det ingen garanti for at den vil være trygg i morgen. Kontinuerlig overvåking, regelmessig inspeksjon og en tydelig drepebryter bør være en del av ethvert høyrisikosystem.
Oppsummert
På toppen av tradisjonelle IT-risikoer, legger AI unike risikoer som hallusinasjoner, skjevheter, datalekkasje, drift, avhengighet og uforklarlighet. Disse risikoene bør evalueres og prioriteres med tanke på sannsynlighet og virkning, og bør holdes innenfor risikoappetitten til institusjonen med avbøtende tiltak. Overvåking er ikke enhetlig, men bør skreddersys til risikonivået; I høyrisikobeslutninger bør folk ha det siste ordet. Risikostyring er en kontinuerlig syklus; er ikke komplett uten overvåking og kontroll. I neste enhet vil vi etablere styrings- og policystrukturen som gjør denne risikodisiplinen permanent.
Søknadsoppgave
Velg en brukstilfelle for kunstig intelligens og oppgi dens spesifikke risikoer med mal 1. Ranger hver risiko etter sannsynlighet og innvirkning, og identifiser de tre mest kritiske. Skriv konkrete avbøtende tiltak og nivået av tilsyn som kreves for disse tre risikoene. Til slutt, klassifiser bruken som lav/middels/høy risiko og merk hvordan dette endrer tilsynskravene.
sjekkliste
- [ ] Jeg har listet opp risikoene som er spesifikke for scenariespesifikke for kunstig intelligens.
- [ ] Jeg skåret hver risiko etter sannsynlighet og innvirkning.
- [ ] Jeg har definert avbøtende tiltak for de mest kritiske risikoene.
- [ ] Jeg har klassifisert bruksområdet i henhold til risikonivået.
- [ ] Jeg justerte overvåkingen i henhold til risikonivået.
- [ ] Jeg planla testing/overvåking for skjevhet og drift.
- [ ] Jeg har satt stoppmyndighet for høyrisikosystemet.