AI-spetsiifilised riskid ja riskijuhtimine

Kasu:

• Võimalus ära tunda tehisintellektiga seotud riske, nagu hallutsinatsioonid, eelarvamused, andmelekked, mudelite triivimine, sõltuvus ja seletamatus ärimõjuga
• Riskide hindamine tõenäosuse ja mõju dimensioonides ning nende hoidmine asutuse riskivalmiduse piires maandusmeetmetega
• Võimalus kohandada järelevalvet pigem riskitaseme kui ühtsuse järgi, tagades inimese lõpliku sõnaõiguse ja pideva jälgimise kõrge riskiga otsustes

Väärtus ja risk on ühe mündi kaks külge. AI avab uusi väärtusallikaid, kuid toob kaasa ka uut tüüpi riske, mida traditsiooniline tarkvara ei sisalda. Kõrgema juhi jaoks ei ole küsimus mitte riski vältimises, vaid riskide teadlikus juhtimises (riskijuhtimine; riskide äratundmise, mõõtmise, vähendamise ja vastuvõetavates piirides hoidmise distsipliin). Selles üksuses saate teada tehisintellektile omaste riskide, nende ärimõju ja praktiliste leevendamismeetodite kohta. Eesmärk ei ole "ära tee seda, sest on oht" või "käituda nii, nagu riski polekski"; See on iga algatuse elluviimine teadliku riskiisuga; riskitase, mida asutus on valmis võtma.

AI-spetsiifilised riskid

Endiselt kehtivad traditsioonilised IT-riskid (haavatavus, katkestus); Kuid tehisintellekt lisab oma riske:

Riski tüüp

Mida sa sellega mõtled?

Näidismõju äritegevusele

hallutsinatsioonid

See oli välja mõeldud, kuid see osutus usutavaks

Ebaõiged andmed kliendile, juriidiline vastutus

eelarvamus

Ebaõigluse peegeldus väljundi andmetes

Diskrimineeriv töölevõtmise/krediidi otsus

andmete lekkimine

Konfidentsiaalsed andmed lekivad sõidukisse

KVKK rikkumine, maine kaotus

Mudeli triiv

Toimivuse halvenemine aja jooksul

Otsuste vaikne ümberlükkamine

sõltuvus

Lukustatud ühe tarnijaga

Hind / juurdepääsu šokk

seletamatus

Otsuse põhjust teadmata

Auditi ja vastuväidete raskused

Siin on olulised kaks terminit: eelarvamus on see, kui tehisintellekt õpib koolitusandmetes ebaõiglasi mustreid ja kajastab neid oma otsustes; Näiteks kui varasemad värbamisandmed soosivad ühte rühma, teeb seda ka mudel. Mudeli triiv on siis, kui mudel vananeb ja selle jõudlus langeb vaikselt maailma muutudes (uued tooted, uus käitumine).

Näpunäide. Mõelge riskile mitte "võib/ei juhtu" terminites, vaid kahes mõõtmes: tõenäosus (kui tõenäoline) ja mõju (kui palju kahju, kui see juhtub). Esimesena käsitletakse neid, millel on suur mõju + suur tõenäosus; need, mille väärtused on madalad+madalad, aktsepteeritakse ja neid jälgitakse.

Järelevalve vastavalt riskitasemele

Mitte iga kasutusalaga ei kaasne sama riski. Arukas lähenemisviis on kohandada järelevalvet vastavalt riskitasemele:

• Madal risk (sisemuslik süvis, ajurünnak): kerge järelevalve, kiiruse prioriteet.
• Keskmine risk (sisu kliendile, otsustustugi): inimeste heakskiit, valimi kontroll.
• Kõrge risk (krediit, värbamine, tervishoid, juriidiline): kohustuslik inimlik hinnang, täielik registreerimine, regulaarne audit.

See „riskipõhine” lähenemisviis on ka ELi tehisintellektiseaduse (9. osa) selgroog.

Samm-sammult: riskijuhtimise tsükkel

1. Tunnista riske. Loetlege iga algatuse puhul tehisintellektiga seotud riskid.

2. Hindamise tõenäosus ja mõju. Hinda ja prioritiseeri iga riski kahes mõõtmes.

3. Määratlege leevendusmeede. Näiteks inimeste heakskiit, andmete anonüümseks muutmine, jälgimine, tarnijate mitmekesistamine.

4. Aktsepteerige või lõpetage järelejäänud risk. Pärast vähendamist allesjäänud risk aktsepteeritakse, kui see jääb söögiisu piiresse; Kui ei, siis katse peatub.

5. Vaata ja vaata üle. Riskid ei ole staatilised; Pidev triivi ja uute ohtude jälgimine on hädavajalik.

kolm minikarpi

Juhtum 1 – hallutsinatsioonide hind. Lennufirma kliendivestlusbot "mõtles" reisijale olematu raha tagasimaksepoliitika; Klient usaldas seda ja tegi tehingu. Kohus pidas ettevõtet vastutavaks oma roboti deklaratsiooni eest. Õppetund: AI väljund kliendile on keskmise/kõrge riskiga; kontrollimine ja piiramine olid olulised. Seejärel lubati robotil vastata ainult heakskiidetud poliitikatekstidele.

Juhtum 2 – vaikne eelarvamus. Ühe ettevõtte töölevõtmise sõeluuringu mudel eelistas süstemaatiliselt teatud koolidest värbajaid ajalooliste andmete tasakaalustamatuse tõttu. Erinevus selgus auditis; Tekkis maine ja juriidiline risk. Mudel eraldati kaitstud omadustest ja seoti korrapärase õigusemõistmise järelevalvega. Kui eelarvamuste test oleks tehtud algusest peale, poleks seda juhtunud.

Juhtum 3 – triivi püüdmine. Panga pettuste tuvastamise mudel nõrgenes vaikselt, kui ilmnes uus pettuste muster; Vahelejäämise määr kasvas 3 kuuga 8%-lt 19%-le. Hea uudis: agentuur oli rakendanud igakuise jõudluskontrolli, triiv tuvastati varakult ja mudel koolitati ümber. Ilma jälgimiseta oleks kahju mitmekordistunud.

Neli kopeeritavat malli

1) Riskivaru:

Teie roll: AI riskijuht. Loetlege AI-spetsiifilised riskid järgmisel kasutusjuhul: hallutsinatsioonid, eelarvamused, andmete lekkimine, triivimine, sõltuvus, seletamatus. Kirjutage iga riski kohta ühe lausega selle võimalik ilming ja ärimõju selles stsenaariumis. Kasutusala: [tekst]

2) Tõenäosuse/mõju hindamine:

Seadistage järgmised riskid tähtsuse järjekorda, hinnates ja korrutades need tõenäosusena (1-5) ja mõjuna (1-5). Selgitage, miks eelistate kolme peamist riski. Riskid: [loend]

3) Leevendusplaan:

Pakkuge välja praktilised leevendusmeetmed järgmiste prioriteetsete riskide jaoks: [riskid]. Iga meetme puhul: mida teha, kes vastutab, millise riskitaseme juures on kohustuslik. Vajadusel kasutage inimeste jälgimist, andmete anonüümseks muutmist, seiret ja tarnijate mitmekesistamist.

4) Riskipõhine järelevalvemaatriks:

Määrake riskitasemele (madal/keskmine/kõrge) järgmised kasutusvaldkonnad ja määrake iga taseme jaoks nõutav järelevalve: kas on vaja inimese nõusolekut, kas peetakse arvestust, milline on kontrollide sagedus? Kasutab: [loend]

Nõrk viip / Tugev viip

Nõrk: "Millised on selle AI projekti riskid?"

Järeldus: üldine riskide loetelu; tõenäosus, mõju ja leevenduste puudumine, te ei saa otsustada.

Güçlü: "Kasutame tehisintellekti laenutaotluse eelhindamisel pangas (lõpliku otsuse teeb inimene). Loetlege selle stsenaariumiga seotud riskid (kallutatus, seletamatus, hallutsinatsioonid, andmete privaatsus); hinnake iga tõenäosust ja mõju; soovitage konkreetseid leevendus- ja järelevalvenõudeid kolme kõige kriitilisema jaoks. Märkige ka, mida tähendab kõrge riski järgimine, et seda peetakse."

Tulemus: stsenaariumipõhine, punktidega, leevendav ja vastavusega seotud riskianalüüs.

Levinud vead

• Sama järelevalve rakendamine kõikidele algatustele. Madala riskiga töö aeglustamine on sama kahjulik kui kõrge riskiga töö hooletusse jätmine; Järelevalve peaks põhinema riskitasemel.
• Hallutsinatsiooni pidamine "väikese veana". Ebaõige väljastamine kliendile võib kaasa tuua juriidilise vastutuse.
• Ei testi eelarvamusi. Ilma õigluse testimiseta kasutusele võetud mudel võib tekitada vaikiva diskrimineerimise.
• Drifti ei vaata. Mudel, mis töötab hästi üks kord, ei tööta hästi igavesti; Vajalik on pidev jälgimine.
• Ühe tarnijaga lukustamine. Ilma väljumisplaanita jätab sõltuvus teid avatuks hinna- ja juurdepääsušokile.

Ettevaatust: riskijuhtimine pole üks kord ja kõik; Tehisintellekti süsteemid on elavad süsteemid. See, et mudel on täna ohutu, ei garanteeri, et see on homme ohutu. Pidev jälgimine, regulaarne kontroll ja selge väljalülituslüliti peaksid olema iga kõrge riskiga süsteemi osa.

Kokkuvõttes

Lisaks traditsioonilistele IT-riskidele lisab tehisintellekt ainulaadseid riske, nagu hallutsinatsioonid, eelarvamused, andmelekked, triiv, sõltuvus ja seletamatus. Neid riske tuleks hinnata ja tähtsuse järjekorda seada tõenäosuse ja mõju seisukohalt ning need tuleks hoida asutuse riskivalmiduse piires maandusmeetmetega. Järelevalve ei ole ühtne, vaid seda tuleks kohandada vastavalt riskitasemele; Kõrge riskiga otsuste puhul peaks viimane sõna ütlema inimestel. Riskijuhtimine on pidev tsükkel; ei ole täielik ilma jälgimise ja kontrollita. Järgmises üksuses paneme paika juhtimis- ja poliitikastruktuuri, mis muudab selle riskidistsipliini püsivaks.

Rakenduse ülesanne

Valige tehisintellekti kasutusjuht ja loetlege selle konkreetsed riskid malliga 1. Hinda iga riski tõenäosuse ja mõju alusel, tuues välja kolm kõige kriitilisemat. Kirjutage konkreetsed leevendusmeetmed ja nende kolme riski jaoks vajalik järelevalve tase. Lõpuks klassifitseerige kasutus madala/keskmise/kõrge riskiga ja pange tähele, kuidas see muudab järelevalvenõudeid.

kontrollnimekiri

• [ ] Olen loetlenud tehisintellekti stsenaariumipõhised riskid.
• [ ] Hindasin iga riski tõenäosuse ja mõju alusel.
• [ ] Olen määratlenud kõige kriitilisemate riskide leevendamise meetmed.
• [ ] Olen liigitanud kasutusala vastavalt riskitasemele.
• [ ] Kohandasin järelevalvet vastavalt riskitasemele.
• [ ] Kavandasin eelarvamuste ja triivimise testimist/seiret.
• [ ] Olen määranud kõrge riskiga süsteemile peatamisvolituse.