Hagnaður:
- Hæfni til að viðurkenna gervigreindaráhættu eins og ofskynjanir, hlutdrægni, gagnaleka, líkanafrek, ósjálfstæði og óútskýranleika með viðskiptaáhrifum
- Að skora áhættu í líkinda- og áhrifavíddum og halda þeim innan áhættuvilja stofnunarinnar með mótvægisaðgerðum
- Hæfni til að stilla eftirlit í samræmi við áhættustig frekar en einsleitni, tryggja lokaorð manna og stöðugt eftirlit með áhættuákvörðunum
Gildi og áhætta eru tvær hliðar á sama peningi. Gervigreind opnar nýjar uppsprettur verðmæta en kynnir einnig nýjar tegundir áhættu sem hefðbundinn hugbúnaður hefur ekki í för með sér. Fyrir æðsta stjórnanda snýst málið ekki um að forðast áhættu, heldur að stjórna áhættu meðvitað (áhættustýring; fræðigreinin að greina, mæla, draga úr áhættu og halda þeim við viðunandi mörk). Í þessari einingu munt þú læra um áhættu sem er sértæk við gervigreind, viðskiptaáhrif þeirra og hagnýtar aðferðir til að draga úr. Markmiðið er ekki að „gera það ekki vegna þess að það er áhætta“ eða „að haga sér eins og það sé engin áhætta“; Það er að framkvæma hvert frumkvæði með meðvitaðri áhættusækni; þá áhættu sem stofnunin er tilbúin að taka.
Sértæk áhætta fyrir gervigreind
Hefðbundin upplýsingatækniáhætta (veikleiki, bilun) á enn við; En gervigreind bætir við eigin áhættu:
Tegund áhættu
Hvað meinarðu?
Dæmi um viðskiptaáhrif
ofskynjanir
Það var gert upp en það reyndist trúverðugt
Rangar upplýsingar til viðskiptavinar, lagaleg ábyrgð
fordóma
Endurspeglun óréttlætis í gögnum um framleiðsluna
Mismunandi ráðningar/lánaákvörðun
gagnaleka
Trúnaðargögn leka inn í ökutækið
KVKK brot, mannorðsmissir
Model drift
Frammistöðurýrnun með tímanum
Hljóðlát hnekkja ákvörðunum
fíkn
Læst í einum birgi
Verð/aðgangsstuð
óútskýranleika
Að vita ekki ástæðuna fyrir ákvörðuninni
Erfiðleikar við endurskoðun og andmæli
Tvö hugtök eru mikilvæg hér: hlutdrægni er þegar gervigreind lærir ósanngjörn mynstur í þjálfunargögnum og endurspeglar þau í ákvörðunum sínum; Til dæmis, ef söguleg ráðningargögn eru hlynnt einum hópi, gerir líkanið það líka. Líkanafrek er þegar líkanið verður úrelt og frammistaða þess minnkar hljóðlega eftir því sem heimurinn breytist (nýjar vörur, ný hegðun).
Ábending: Hugsaðu um áhættu ekki út frá "má/mun ekki gerast" heldur í tveimur víddum: líkum (hversu líklegt) og áhrifum (hversu mikill skaði ef það gerist). Fyrst er fjallað um þá sem hafa mikil áhrif + miklar líkur; þeir sem eru með lág+lág gildi eru samþykkt og fylgst með.
Eftirlit eftir áhættustigi
Ekki fylgir öllum notkunarsvæðum sömu áhættu. Snjalla nálgunin er að sníða eftirlit að áhættustigi:
- Lítil áhætta (innfelldur drög, hugarflug): létt yfirsjón, hraðaforgangur.
- Miðlungs áhætta (efni fyrir viðskiptavini, stuðningur við ákvarðanir): samþykki manna, eftirlit með sýnatöku.
- Mikil áhætta (inneign, ráðning, heilsa, lagaleg): lögboðin dómgreind manna, full skráning, regluleg endurskoðun.
Þessi „áhættutengda“ nálgun er einnig burðarás ESB laga um gervigreind (eining 9).
Skref fyrir skref: hringrás áhættustýringar
1. Viðurkenna áhættuna. Skráðu gervigreindaráhættu fyrir hvert frumkvæði.
2. Skora líkur og áhrif. Metið og forgangsraðið hverri áhættu í tveimur víddum.
3. Skilgreindu mótvægisaðgerðir. Svo sem eins og mannlegt samþykki, nafnleynd gagna, mælingar, fjölbreytni birgja.
4. Samþykkja eða hætta eftirstandandi áhættu. Áhættan sem eftir er eftir lækkun er samþykkt ef hún er innan matarlystarinnar; Ef ekki, þá hættir tilraunin.
5. Horfa og rifja upp. Áhættan er ekki kyrrstæð; Stöðugt eftirlit með reki og nýjum ógnum er nauðsynlegt.
þrjú smámál
Mál 1 - Kostnaður við ofskynjanir. Chatbot viðskiptavinar flugfélags „bjó til“ endurgreiðslustefnu fyrir farþega sem ekki var til; Viðskiptavinurinn treysti þessu og gerði viðskiptin. Dómstóllinn taldi fyrirtækið ábyrgt fyrir yfirlýsingu þess sjálfs. Lexía: AI framleiðsla til viðskiptavina er miðlungs/mikil áhætta; sannprófun og takmörkun voru nauðsynleg. Botninn var síðan takmarkaður við að svara aðeins úr samþykktum stefnutexta.
Mál 2 - Hljóðlát hlutdrægni. Ráðningarskimunarlíkan eins fyrirtækis studdi kerfisbundið nýliða úr ákveðnum skólum vegna ójafnvægis í sögulegum gögnum. Munurinn kom í ljós í úttekt; Það var orðspors- og lagaáhætta. Líkanið var aftengt vernduðum eiginleikum og tengt reglubundnu eftirliti með réttarvörslu. Ef hlutdrægniprófið hefði verið gert frá upphafi hefði þetta ekki gerst.
Mál 3 — Handtaka Drift. Svikauppgötvunarlíkan banka veiktist hljóðlega þegar nýtt svikamynstur kom í ljós; Fráhvarfshlutfall jókst úr 8% í 19% á 3 mánuðum. Góðar fréttir: Stofnunin hafði innleitt mánaðarlegt frammistöðueftirlit, rekið fannst snemma og líkanið var endurþjálfað. Án eftirlits hefði tapið margfaldast.
Fjögur afritanleg sniðmát
1) Áhættuskrá:
Hlutverk þitt: AI áhættustjóri. Listaðu upp AI-sértækar áhættur fyrir eftirfarandi notkunartilvik: ofskynjanir, hlutdrægni, gagnaleka, rek, ósjálfstæði, óútskýranleika. Fyrir hverja áhættu skaltu skrifa í einni setningu hugsanlega birtingarmynd hennar og viðskiptaáhrif í þessari atburðarás. Notkunarsvæði: [texti]
2) Líkinda-/áhrifastig:
Forgangsraðaðu eftirfarandi áhættu með því að skora og margfalda þær sem líkur (1-5) og áhrif (1-5). Útskýrðu hvers vegna þú forgangsraðar þremur efstu áhættunum. Áhætta: [listi]
3) Mótvægisáætlun:
Leggja til hagnýtar mótvægisaðgerðir vegna eftirfarandi forgangsáhættu: [áhætta]. Fyrir hverja ráðstöfun: hvað á að gera, hver ber ábyrgð, á hvaða áhættustigi er skylda. Notaðu mannlegt eftirlit, nafnleynd gagna, eftirlit og fjölbreytni birgja þar sem við á.
4) Áhættustýrt eftirlitsfylki:
Úthlutaðu eftirfarandi notkunarsviðum við áhættustigið (lágt/miðlungs/hátt) og ákvarðaðu eftirlitið sem þarf fyrir hvert stig: þarf samþykki manna, verða skrár geymdar, hver er eftirlitstíðni? Notar: [listi]
Veik kvaðning / Sterk kvaðning
Veik: „Hver er áhættan af þessu gervigreindarverkefni?
Ályktun: Almennur listi yfir áhættu; líkur, áhrif og engin mótvægi, þú getur ekki ákveðið.
Güçlü: "Við munum nota gervigreind í bráðabirgðamati á lánsumsókn í banka (maðurinn mun taka lokaákvörðunina). Listaðu yfir áhættur sem eru sértækar við þessa atburðarás (hlutdrægni, óútskýranleika, ofskynjanir, gagnavernd); skora hvert um sig eftir líkum og áhrifum; leggðu til áþreifanlegar mótvægis- og eftirlitskröfur fyrir þau þrjú mikilvægustu. Segðu líka hvað það þýðir fyrir reglufylgni."
Niðurstaðan: sviðsmyndarsértæk, skoruð, mildandi og fylgnitengd áhættugreining.
Algeng mistök
- Að beita sömu eftirliti með öllum verkefnum. Að hægja á áhættulítilli vinnu er álíka skaðlegt og að vanrækja áhættusama vinnu; Eftirlit ætti að byggja á áhættustigi.
- Að misskilja ofskynjunina sem „smá mistök“. Röng framleiðsla til viðskiptavinar getur leitt til lagalegrar ábyrgðar.
- Ekki prófa fyrir hlutdrægni. Líkanið sem notað er án sanngirnisprófa getur valdið þögulli mismunun.
- Er ekki að horfa á Drift. Líkan sem virkar vel einu sinni virkar ekki vel að eilífu; Stöðugt eftirlit er krafist.
- Að læsa einum birgi. Án útgönguáætlunar gerir fíkn þig opinn fyrir verð- og aðgangssjokki.
Varúð: Áhættustýring er ekki í eitt skipti fyrir öll; Gervigreindarkerfi eru lifandi kerfi. Bara vegna þess að líkan er öruggt í dag tryggir það ekki að það verði öruggt á morgun. Stöðugt eftirlit, regluleg skoðun og skýr dreifingarrofi ætti að vera hluti af hverju áhættukerfi.
Í stuttu máli
Ofan á hefðbundna upplýsingatækniáhættu bætir gervigreind einstaka áhættu eins og ofskynjanir, hlutdrægni, gagnaleka, rek, ósjálfstæði og óútskýranleika. Þessar áhættur ætti að meta og forgangsraða með tilliti til líkinda og áhrifa, og ætti að halda þeim innan áhættuvilja stofnunarinnar með mótvægisaðgerðum. Eftirlit er ekki einsleitt heldur ætti að vera sniðið að áhættustigi; Við áhættusamar ákvarðanir ættu menn að hafa lokaorðið. Áhættustýring er samfelld hringrás; er ekki lokið án eftirlits og eftirlits. Í næstu einingu munum við koma á stjórnarháttum og stefnumótun sem gerir þennan áhættuaga varanlegan.
Umsóknarverkefni
Veldu AI notkunartilvik og skráðu sérstakar áhættur þess með sniðmáti 1. Skoðaðu hverja áhættu eftir líkum og áhrifum, auðkenndu þær þrjár mikilvægustu. Skrifaðu áþreifanlegar mótvægisaðgerðir og eftirlitsstig sem þarf fyrir þessar þrjár áhættur. Að lokum, flokkaðu notkunina sem litla/miðlungs/mikla áhættu og athugaðu hvernig þetta breytir eftirlitskröfum.
gátlisti
- [ ] Ég hef skráð áhættuna sem eru sértækar fyrir gervigreindarsviðsmyndir.
- [ ] Ég skoraði hverja áhættu eftir líkum og áhrifum.
- [ ] Ég hef skilgreint mótvægisaðgerðir fyrir mikilvægustu áhættuna.
- [ ] Ég hef flokkað notkunarsvæðið eftir áhættustigi.
- [ ] Ég breytti eftirlitinu eftir áhættustigi.
- [ ] Ég skipulagði prófun/vöktun fyrir hlutdrægni og reki.
- [ ] Ég hef sett stöðvunarvald fyrir hááhættukerfið.