Voitot:
- Kyky tunnistaa tekoälylle ominaisia riskejä, kuten hallusinaatioita, harhaa, tietovuotoa, mallien ajautumista, riippuvuutta ja selittämättömyyttä liiketoimintaan liittyvillä vaikutuksilla
- Riskien pisteytäminen todennäköisyys- ja vaikutusulottuvuuksissa ja niiden pitäminen laitoksen riskinottohalukkuuden sisällä lieventävin toimenpitein
- Kyky mukauttaa valvontaa riskitason eikä yhtenäisyyden mukaan, mikä varmistaa ihmisen viimeisen sanan ja jatkuvan seurannan riskipäätöksissä
Arvo ja riski ovat saman kolikon kaksi puolta. Tekoäly avaa uusia arvon lähteitä, mutta se tuo mukanaan myös uudenlaisia riskejä, joita perinteiset ohjelmistot eivät sisällä. Ylimmän johtajan kohdalla kysymys ei ole riskien välttämisestä, vaan riskien tietoisesta hallinnasta (riskinhallinta; kurinalaisuus riskien tunnistamisesta, mittaamisesta, vähentämisestä ja hyväksyttävissä rajoissa pitämisestä). Tässä osiossa opit tekoälyn riskeistä, niiden vaikutuksista liiketoimintaan ja käytännön lieventämismenetelmiin. Tavoitteena ei ole "älä tee sitä, koska on olemassa riski" tai "toimia ikään kuin riskiä ei olisi"; Se on toteuttaa jokainen aloite tietoisella riskinhalulla; riskin taso, jonka laitos on valmis ottamaan.
Tekoälykohtaiset riskit
Perinteiset IT-riskit (haavoittuvuus, katkokset) ovat edelleen voimassa; Mutta tekoäly lisää omat riskinsä:
Riskityyppi
Mitä tarkoitat?
Esimerkki vaikutuksesta liiketoimintaan
hallusinaatioita
Se oli keksitty, mutta siitä tuli uskottavaa
Asiakkaalle virheelliset tiedot, laillinen vastuu
ennakkoluulo
Epäoikeudenmukaisuuden heijastus tuotostiedoissa
Syrjivä palkkaus/luottopäätös
tietovuoto
Luottamuksellisia tietoja vuotaa ajoneuvoon
KVKK-rikkomus, maineen menetys
Mallin ajautuminen
Suorituskyvyn heikkeneminen ajan myötä
Rauhallinen päätösten kumoaminen
riippuvuus
Lukittu yhdelle toimittajalle
Hinta / pääsy shokki
selittämättömyyttä
Päätöksen syytä ei tiedetä
Tarkastuksen ja vastalauseen vaikeus
Kaksi termiä ovat tärkeitä: harha on sitä, kun tekoäly oppii epäreiluja malleja koulutustiedoissa ja heijastaa niitä päätöksissään; Jos esimerkiksi historialliset rekrytointitiedot suosivat yhtä ryhmää, myös malli suosii. Mallin ajautuminen on sitä, kun malli vanhentuu ja sen suorituskyky heikkenee hiljaa maailman muuttuessa (uudet tuotteet, uudet käyttäytymismallit).
Vinkki: Ajattele riskiä ei "saattaa/ei tapahdu" termeillä, vaan kahdella ulottuvuudella: todennäköisyydellä (kuinka todennäköisyydellä) ja vaikutuksella (kuinka paljon haittaa, jos se tapahtuu). Ne, joilla on suuri vaikutus + suuri todennäköisyys, käsitellään ensin; ne, joilla on matala+matala arvo, hyväksytään ja niitä seurataan.
Valvonta riskitason mukaan
Kaikilla käyttöalueilla ei ole samaa riskiä. Älykäs lähestymistapa on räätälöidä valvonta riskitason mukaan:
- Pieni riski (sisäänrakennettu luonnos, aivoriihi): kevyt valvonta, nopeusprioriteetti.
- Keskimääräinen riski (sisältö asiakkaalle, päätöksen tuki): ihmisen hyväksyntä, näytteenoton valvonta.
- Suuri riski (luotto, rekrytointi, terveys, laki): pakollinen ihmisen harkinta, täydellinen rekisteröinti, säännöllinen tarkastus.
Tämä "riskiin perustuva" lähestymistapa on myös EU:n tekoälylainsäädännön selkäranka (yksikkö 9).
Askel askeleelta: riskienhallintasykli
1. Tunnista riskit. Luettele tekoälykohtaiset riskit jokaiselle aloitteelle.
2. Pisteiden todennäköisyys ja vaikutus. Arvioi ja priorisoi jokainen riski kahdessa ulottuvuudessa.
3. Määritä lievennystoimenpide. Kuten ihmisten hyväksyntä, tietojen anonymisointi, seuranta, toimittajien monipuolistaminen.
4. Hyväksy tai lopeta jäljellä oleva riski. Vähennyksen jälkeen jäljellä oleva riski hyväksytään, jos se on ruokahalun sisällä; Jos ei, yritys pysähtyy.
5. Katso ja tarkista. Riskit eivät ole staattisia; Jatkuva poikkeaman ja uusien uhkien seuranta on välttämätöntä.
kolme minilaukkua
Tapaus 1 – Hallusinaatioiden kustannukset. Lentoyhtiön asiakaschatbot "kehitti" matkustajalle olemattoman hyvityskäytännön; Asiakas luotti tähän ja teki kaupan. Oikeus katsoi, että yritys on vastuussa omasta botin ilmoituksesta. Oppitunti: AI-tulostus asiakkaalle on keski/korkea riski; todentaminen ja rajoittaminen olivat välttämättömiä. Tämän jälkeen botti rajoitettiin vastaamaan vain hyväksytyistä käytäntöteksteistä.
Tapaus 2 – Hiljainen harha. Erään yrityksen palkkaamisen seulontamalli suosi järjestelmällisesti rekrytoijia tietyistä kouluista, koska historialliset tiedot olivat epätasapainossa. Ero paljastui tarkastuksessa; Siinä oli maine- ja oikeudellinen riski. Malli erotettiin suojatuista ominaisuuksista ja liitettiin säännölliseen oikeusseurantaan. Jos harhatesti olisi tehty alusta alkaen, tätä ei olisi tapahtunut.
Tapaus 3 – Driftin sieppaus. Pankin petosten havaitsemismalli heikkeni hiljaa, kun uusi petosmalli ilmaantui; Poissaoloprosentti nousi 8 prosentista 19 prosenttiin 3 kuukaudessa. Hyviä uutisia: virasto oli ottanut käyttöön kuukausittaisen suorituskyvyn seurannan, ajautuminen havaittiin ajoissa ja mallia koulutettiin uudelleen. Ilman valvontaa tappio olisi moninkertaistunut.
Neljä kopioitavaa mallia
1) Riskikartoitus:
Sinun roolisi: AI-riskinhallinta. Luettele tekoälykohtaiset riskit seuraavalle käyttötapaukselle: hallusinaatiot, harha, tietovuoto, ajautuminen, riippuvuus, selittämättömyys. Kirjoita jokaiselle riskille yhdellä lauseella sen mahdollinen ilmentymä ja vaikutus liiketoimintaan tässä skenaariossa. Käyttöalue: [teksti]
2) Todennäköisyys/vaikutuspisteytys:
Priorisoi seuraavat riskit pisteyttämällä ja kertomalla ne todennäköisyyksinä (1-5) ja vaikutuksina (1-5). Selitä, miksi asetat kolme tärkeintä riskiä tärkeysjärjestykseen. Riskit: [luettelo]
3) Lieventämissuunnitelma:
Ehdota käytännön toimenpiteitä seuraaville ensisijaisille riskeille: [riskit]. Jokaisen toimenpiteen osalta: mitä tehdä, kuka on vastuussa, millä riskitasolla on pakollinen. Käytä tarvittaessa ihmisten valvontaa, tietojen anonymisointia, seurantaa ja toimittajien monipuolistamista.
4) Riskeihin perustuva valvontamatriisi:
Määritä seuraavat käyttöalueet riskitasolle (matala/keskitaso/korkea) ja määritä kullekin tasolle vaadittava valvonta: vaaditaanko ihmisen hyväksyntä, pidetäänkö kirjaa, mikä on tarkastustiheys? Käyttökohteet: [luettelo]
Heikko kehote / Vahva kehote
Heikko: "Mitä riskejä tässä tekoälyprojektissa on?"
Johtopäätös: yleinen riskiluettelo; todennäköisyys, vaikutus ja ilman lieventämistä, et voi päättää.
Güçlü: "Käytämme tekoälyä pankin lainahakemuksen alustavassa arvioinnissa (ihminen tekee lopullisen päätöksen). Listaa tähän skenaarioon liittyvät riskit (harha, selittämättömyys, hallusinaatiot, tietosuoja); arvioi jokainen todennäköisyyden ja vaikutuksen mukaan; ehdota konkreettisia lievennys- ja valvontavaatimuksia kolmelle kriittisimmälle. Kerro myös, mitä suuren riskin noudattaminen tarkoittaa, että tämän katsotaan olevan."
Tulos: skenaariokohtainen, pisteytetty, lieventävä ja vaatimustenmukaisuuteen liittyvä riskianalyysi.
Yleisiä virheitä
- Saman valvonnan soveltaminen kaikkiin aloitteisiin. Vähäriskisen työn hidastaminen on yhtä haitallista kuin riskialttiiden töiden laiminlyönti; Valvonnan tulee perustua riskitasoon.
- Käsittää hallusinaatioita "pieneksi virheeksi". Asiakkaalle antama virheellinen tulos voi johtaa lailliseen vastuuseen.
- Ei testata puolueellisuutta. Ilman oikeudenmukaisuustestausta käyttöön otettu malli voi tuottaa hiljaista syrjintää.
- En katso Driftiä. Kerran hyvin toimiva malli ei toimi hyvin ikuisesti; Jatkuva seuranta vaaditaan.
- Lukitus yhteen toimittajaan. Ilman irtautumissuunnitelmaa riippuvuus jättää sinut avoimeksi hinta- ja pääsyshokkiin.
Varoitus: Riskienhallinta ei ole kerta kaikkiaan; Tekoälyjärjestelmät ovat eläviä järjestelmiä. Se, että malli on turvallinen tänään, ei takaa, että se on turvallinen huomenna. Jatkuvan valvonnan, säännöllisen tarkastuksen ja selkeän pysäytyskytkimen tulee olla osa jokaista korkean riskin järjestelmää.
Yhteenvetona
Perinteisten IT-riskien lisäksi tekoäly lisää ainutlaatuisia riskejä, kuten hallusinaatioita, harhaa, tietovuotoa, ajautumista, riippuvuutta ja selittämättömyyttä. Nämä riskit tulee arvioida ja priorisoida todennäköisyyden ja vaikutuksen suhteen, ja ne tulisi pitää laitoksen riskinottohalukkuuden sisällä lieventävin toimenpitein. Valvonta ei ole yhtenäistä, vaan se olisi räätälöity riskitason mukaan. Riskipäätöksissä ihmisillä pitäisi olla viimeinen sana. Riskienhallinta on jatkuva sykli; ei ole täydellinen ilman valvontaa ja valvontaa. Seuraavassa yksikössä luomme sen hallinto- ja politiikkarakenteen, joka tekee tästä riskikurista pysyvän.
Sovellustehtävä
Valitse tekoälyn käyttötapaus ja luettele sen erityiset riskit mallilla 1. Arvioi jokainen riski todennäköisyyden ja vaikutuksen mukaan ja tunnista kolme kriittisintä. Kirjoita konkreettiset lievennystoimenpiteet ja näiden kolmen riskin edellyttämä valvonnan taso. Luokittele lopuksi käyttö alhaiseen/keskikokoiseen/korkeaan riskiin ja pane merkille, kuinka tämä muuttaa valvontavaatimuksia.
tarkistuslista
- [ ] Olen listannut tekoälyn skenaariokohtaiset riskit.
- [ ] Arvioin jokaisen riskin todennäköisyyden ja vaikutuksen mukaan.
- [ ] Olen määritellyt lievennystoimenpiteet kriittisimmille riskeille.
- [ ] Olen luokitellut käyttöalueen riskitason mukaan.
- [ ] Sovitin valvontaa riskitason mukaan.
- [ ] Suunnittelin testausta/seurantaa harhaa ja ajautumista varten.
- [ ] Olen asettanut korkean riskin järjestelmälle pysäytysvallan.