Fitimet:
- Aftësia për të njohur rreziqet specifike të AI si halucinacioni, paragjykimi, rrjedhja e të dhënave, zhvendosja e modelit, varësia dhe pashpjegueshmëria me ndikimin e biznesit
- Vlerësimi i rreziqeve në dimensionet e probabilitetit dhe ndikimit dhe mbajtja e tyre brenda oreksit të rrezikut të institucionit me masa zbutëse
- Aftësia për të rregulluar mbikëqyrjen sipas nivelit të rrezikut dhe jo uniformitetit, duke siguruar fjalën e fundit njerëzore dhe monitorim të vazhdueshëm në vendimet me rrezik të lartë
Vlera dhe rreziku janë dy anët e së njëjtës medalje. Inteligjenca artificiale hap burime të reja vlerash, por gjithashtu prezanton lloje të reja rreziqesh që softueri tradicional nuk i mbart. Për një menaxher të lartë, çështja nuk është të shmangë rrezikun, por të menaxhojë me vetëdije rrezikun (menaxhimi i rrezikut; disiplina e njohjes, matjes, zvogëlimit të rreziqeve dhe mbajtjes së tyre në kufij të pranueshëm). Në këtë njësi, do të mësoni rreth rreziqeve specifike për AI, ndikimin e tyre në biznes dhe metodat praktike të zbutjes. Qëllimi nuk është "të mos e bësh sepse ka rrezik" ose "të veprosh sikur nuk ka rrezik"; Është për të kryer çdo iniciativë me një oreks të ndërgjegjshëm rreziku; niveli i rrezikut që institucioni është i gatshëm të marrë.
Rreziqet specifike të AI
Rreziqet tradicionale të TI-së (vulnerabiliteti, ndërprerje) ende zbatohen; Por inteligjenca artificiale shton rreziqet e veta:
Lloji i rrezikut
Çfarë do të thotë?
Shembull ndikimi i biznesit
halucinacione
Ishte e sajuar por doli e besueshme
Informacion i pasaktë ndaj klientit, përgjegjësi ligjore
paragjykim
Pasqyrimi i padrejtësisë në të dhënat mbi outputin
Vendim diskriminues për punësim/kredi
rrjedhje e të dhënave
Të dhënat konfidenciale që rrjedhin në automjet
Shkelja e KVKK-së, humbja e reputacionit
Zhvendosja e modelit
Degradimi i performancës me kalimin e kohës
Përmbysja e qetë e vendimeve
varësia
Mbyllur në një furnizues të vetëm
Goditje çmimi/qasjeje
pashpjegueshmëria
Duke mos ditur arsyen e vendimit
Vështirësi auditimi dhe kundërshtimi
Dy terma janë të rëndësishëm këtu: paragjykimi është kur inteligjenca artificiale mëson modele të padrejta në të dhënat e trajnimit dhe i pasqyron ato në vendimet e saj; Për shembull, nëse të dhënat historike të punësimit favorizojnë një grup, modeli gjithashtu favorizon. Zhvendosja e modelit është kur modeli bëhet i vjetëruar dhe performanca e tij bie në heshtje ndërsa bota ndryshon (produkte të reja, sjellje të reja).
Këshillë: Mendoni për rrezikun jo në termat e "mund/nuk do të ndodhë", por në dy dimensione: probabiliteti (sa i mundshëm) dhe ndikimi (sa dëm nëse ndodh). Ato me ndikim të lartë + probabilitet të lartë trajtohen së pari; pranohen dhe monitorohen ato me vlera të ulëta+të ulëta.
Mbikëqyrja sipas nivelit të rrezikut
Jo çdo zonë përdorimi mbart të njëjtin rrezik. Qasja e zgjuar është përshtatja e mbikëqyrjes sipas nivelit të rrezikut:
- Rrezik i ulët (projekt i futur, stuhi mendimesh): mbikëqyrje e lehtë, përparësi shpejtësie.
- Rreziku mesatar (përmbajtja për klientin, mbështetja e vendimeve): miratimi njerëzor, kontrolli i marrjes së mostrave.
- Rrezik i lartë (kredi, rekrutim, shëndetësi, ligjor): gjykim i detyrueshëm njerëzor, regjistrim i plotë, auditim i rregullt.
Kjo qasje “e bazuar në rrezik” është gjithashtu shtylla kurrizore e Ligjit të BE-së për UA (Njësia 9).
Hap pas hapi: cikli i menaxhimit të rrezikut
1. Njihni rreziqet. Listoni rreziqet specifike të AI për secilën iniciativë.
2. Mundësia dhe ndikimi i rezultateve. Vlerësoni dhe jepni përparësi çdo rreziku në dy dimensione.
3. Përcaktoni masën zbutëse. Të tilla si miratimi njerëzor, anonimizimi i të dhënave, gjurmimi, diversifikimi i furnizuesit.
4. Pranoni ose ndaloni rrezikun e mbetur. Rreziku i mbetur pas reduktimit pranohet nëse është brenda oreksit; Nëse jo, përpjekja ndalon.
5. Shikoni dhe rishikoni. Rreziqet nuk janë statike; Monitorimi i vazhdueshëm për lëvizjet dhe kërcënimet e reja është thelbësor.
tre mini kuti
Rasti 1 - Kostoja e halucinacioneve. Chatbot i klientëve të një linje ajrore "krijoi" një politikë inekzistente rimbursimi për një pasagjer; Klienti i besoi kësaj dhe bëri transaksionin. Gjykata e konsideroi kompaninë përgjegjëse për deklaratën e botit të saj. Mësimi: Prodhimi i AI për klientin është me rrezik të mesëm/të lartë; verifikimi dhe kufizimi ishin thelbësore. Më pas, roboti u kufizua të përgjigjej vetëm nga tekstet e politikave të miratuara.
Rasti 2 - Paragjykim i heshtur. Modeli i shqyrtimit të punësimit të një kompanie favorizoi sistematikisht rekrutët nga shkolla të caktuara për shkak të një çekuilibri në të dhënat historike. Diferenca u zbulua në një auditim; Kishte një rrezik reputacioni dhe ligjor. Modeli u shkëput nga karakteristikat e mbrojtura dhe u lidh me monitorimin e rregullt të drejtësisë. Nëse testi i paragjykimit do të ishte bërë që në fillim, kjo nuk do të kishte ndodhur.
Rasti 3 - Kapja e Drift-it. Modeli i zbulimit të mashtrimit të një banke u dobësua në heshtje kur u shfaq një model i ri mashtrimi; Shkalla e mungesës u rrit nga 8% në 19% në 3 muaj. Lajm i mirë: agjencia kishte zbatuar monitorimin mujor të performancës, zhvendosja u zbulua herët dhe modeli u ritrajnua. Pa monitorim, humbja do të ishte shumëfishuar.
Katër shabllone të kopjueshëm
1) Inventari i rrezikut:
Roli juaj: menaxher i rrezikut të AI. Listoni rreziqet specifike të AI për rastin e mëposhtëm të përdorimit: halucinacione, paragjykime, rrjedhje të dhënash, zhvendosje, varësi, pashpjegueshmëri. Për çdo rrezik, shkruani me një fjali manifestimin e tij të mundshëm dhe ndikimin e biznesit në këtë skenar. Zona e përdorimit: [tekst]
2) Vlerësimi i probabilitetit/ndikut:
Jepini përparësi rreziqeve të mëposhtme duke i shënuar dhe shumëzuar ato si probabilitet (1-5) dhe ndikim (1-5). Shpjegoni pse u jepni përparësi tre rreziqeve kryesore. Rreziqet: [lista]
3) Plani i zbutjes:
Propozoni masa praktike zbutëse për rreziqet prioritare të mëposhtme: [risqet]. Për secilën masë: çfarë duhet bërë, kush është përgjegjës, në çfarë niveli rreziku është i detyrueshëm. Përdorni mbikëqyrjen njerëzore, anonimizimin e të dhënave, monitorimin dhe diversifikimin e furnizuesve aty ku është e përshtatshme.
4) Matrica e mbikëqyrjes së bazuar në rrezik:
Caktoni fushat e mëposhtme të përdorimit për nivelin e rrezikut (i ulët/mesatar/i lartë) dhe përcaktoni mbikëqyrjen e kërkuar për çdo nivel: a kërkohet miratimi njerëzor, a do të mbahen të dhëna, cila është frekuenca e inspektimit? Përdoret: [lista]
Prompt i dobët / Prompt i fortë
I dobët: "Cilat janë rreziqet e këtij projekti të AI?"
Përfundim: Një listë e përgjithshme e rreziqeve; probabilitet, ndikim dhe asnjë zbutje, nuk mund të vendosni.
Güçlü: "Ne do të përdorim AI në vlerësimin paraprak të një aplikimi kredie në një bankë (njeriu do të marrë vendimin përfundimtar). Rendisni rreziqet specifike për këtë skenar (paragjykimi, pashpjegueshmëria, halucinacionet, privatësia e të dhënave); shënoni secilin sipas gjasave dhe ndikimit; sugjeroni kërkesa konkrete për zbutjen dhe mbikëqyrjen për tre më të rëndësishmet. Tregoni gjithashtu se çfarë do të thotë ky rrezik i lartë."
Rezultati: një analizë rreziku specifike për skenarin, e vlerësuar, zbutëse dhe e lidhur me pajtueshmërinë.
Gabimet e zakonshme
- Zbatimi i të njëjtës mbikëqyrje për të gjitha iniciativat. Ngadalësimi i punës me rrezik të ulët është po aq i dëmshëm sa neglizhimi i punës me rrezik të lartë; Mbikëqyrja duhet të bazohet në nivelin e rrezikut.
- Gabimi i halucinacioneve si një "gabim i vogël". Prodhimi i pasaktë ndaj klientit mund të rezultojë në përgjegjësi ligjore.
- Nuk testohet për paragjykim. Modeli i vendosur pa testim të drejtësisë mund të prodhojë diskriminim të heshtur.
- Nuk shikon Drift. Një model që funksionon mirë një herë nuk funksionon mirë përgjithmonë; Kërkohet monitorim i vazhdueshëm.
- Mbyllja në një furnizues të vetëm. Pa një plan daljeje, varësia ju lë të hapur ndaj tronditjes së çmimeve dhe aksesit.
Kujdes: Menaxhimi i rrezikut nuk është një herë e përgjithmonë; Sistemet e inteligjencës artificiale janë sisteme të gjalla. Vetëm për shkak se një model është i sigurt sot nuk garanton se do të jetë i sigurt nesër. Monitorimi i vazhdueshëm, inspektimi i rregullt dhe një ndërprerës i qartë vrasësi duhet të jenë pjesë e çdo sistemi me rrezik të lartë.
Në përmbledhje
Në krye të rreziqeve tradicionale të TI-së, AI shton rreziqe unike si halucinacionet, paragjykimet, rrjedhjet e të dhënave, zhvendosja, varësia dhe pashpjegueshmëria. Këto rreziqe duhet të vlerësohen dhe të prioritizohen për sa i përket probabilitetit dhe ndikimit, dhe duhet të mbahen brenda oreksit të rrezikut të institucionit me masa zbutëse. Mbikëqyrja nuk është uniforme, por duhet të përshtatet me nivelin e rrezikut; Në vendimet me rrezik të lartë, njerëzit duhet të thonë fjalën e fundit. Menaxhimi i riskut është një cikël i vazhdueshëm; nuk është i plotë pa monitorim dhe kontroll. Në njësinë e ardhshme, ne do të krijojmë strukturën e qeverisjes dhe politikës që e bën të përhershme këtë disiplinë rreziku.
Detyra e aplikimit
Zgjidhni një rast përdorimi të AI dhe renditni rreziqet e tij specifike me shabllonin 1. Vlerësoni secilin rrezik sipas gjasave dhe ndikimit, duke identifikuar tre më kritikët. Shkruani masa konkrete zbutëse dhe nivelin e mbikëqyrjes që kërkohet për këto tre rreziqe. Së fundi, klasifikoni përdorimin si rrezik të ulët/mesatar/të lartë dhe vini re se si kjo ndryshon kërkesat e mbikëqyrjes.
listë kontrolli
- [ ] Unë kam renditur rreziqet specifike për skenarin specifik të inteligjencës artificiale.
- [ ] Kam shënuar çdo rrezik sipas gjasave dhe ndikimit.
- [ ] Unë kam përcaktuar masat zbutëse për rreziqet më kritike.
- [ ] Unë e kam klasifikuar zonën e përdorimit sipas nivelit të rrezikut.
- [ ] E rregullova mbikëqyrjen sipas nivelit të rrezikut.
- [ ] Kam planifikuar testimin/monitorimin për paragjykim dhe lëvizje.
- [ ] Unë kam vendosur autoritet ndalues për sistemin me rrezik të lartë.