Rizici specifični za AI i upravljanje rizicima

Dobici:

• Sposobnost prepoznavanja rizika specifičnih za umjetnu inteligenciju kao što su halucinacije, pristrasnost, curenje podataka, pomjeranje modela, ovisnost i neobjašnjivost s utjecajem na poslovanje
• Bodovanje rizika u dimenzijama verovatnoće i uticaja i njihovo držanje u okviru sklonosti ka riziku institucije uz mere ublažavanja
• Sposobnost prilagođavanja nadzora prema nivou rizika, a ne ujednačenosti, osiguravajući konačnu riječ čovjeka i kontinuirano praćenje u odlukama visokog rizika

Vrijednost i rizik su dvije strane istog novčića. AI otvara nove izvore vrijednosti, ali također uvodi nove vrste rizika koje tradicionalni softver ne nosi. Za višeg menadžera nije pitanje izbjegavanje rizika, već svjesno upravljanje rizikom (upravljanje rizikom; disciplina prepoznavanja, mjerenja, smanjenja rizika i njihovog održavanja na prihvatljivim granicama). U ovoj ćete jedinici naučiti o rizicima specifičnim za AI, njihovom poslovnom utjecaju i praktičnim metodama ublažavanja. Cilj nije „ne raditi to jer postoji rizik“ ili „ponašati se kao da nema rizika“; Svaku inicijativu treba provoditi sa svjesnim apetitom za rizikom; nivo rizika koji je institucija spremna da preuzme.

Rizici specifični za AI

Tradicionalni IT rizici (ranjivost, prekid rada) i dalje važe; Ali umjetna inteligencija dodaje svoje rizike:

Vrsta rizika

Kako to misliš?

Primjer poslovnog utjecaja

halucinacije

Bilo je izmišljeno, ali je ispalo uvjerljivo

Netačne informacije kupcu, pravna odgovornost

predrasude

Odraz nepravde u podacima o izlazu

Diskriminatorna odluka o zapošljavanju/kreditu

curenje podataka

Povjerljivi podaci cure u vozilo

Kršenje KVKK, gubitak ugleda

Model drift

Degradacija performansi tokom vremena

Tiho poništavanje odluka

zavisnost

Zaključani u jednog dobavljača

Šok cijene/pristupa

neobjašnjivost

Ne znajući razlog odluke

Poteškoće s revizijom i prigovorom

Ovdje su važna dva pojma: pristrasnost je kada umjetna inteligencija nauči nepoštene obrasce u podacima o obuci i odražava ih u svojim odlukama; Na primjer, ako historijski podaci o zapošljavanju favoriziraju jednu grupu, model također daje prednost. Odstupanje modela je kada model zastari i njegove performanse tiho opadaju kako se svijet mijenja (novi proizvodi, nova ponašanja).

Savjet: Razmišljajte o riziku ne u smislu „može/neće se dogoditi“, već u dvije dimenzije: vjerovatnoća (koliko je vjerovatno) i utjecaj (kolika šteta ako se dogodi). Prvo se adresiraju oni sa velikim uticajem + velikom verovatnoćom; oni sa niskim+niskim vrijednostima se prihvataju i prate.

Nadzor prema nivou rizika

Ne nosi svako područje upotrebe isti rizik. Pametan pristup je da se nadzor prilagodi nivou rizika:

• Nizak rizik (umetnuti nacrt, brainstorming): lagani nadzor, prioritet brzine.
• Srednji rizik (sadržaj za kupca, podrška odlučivanju): ljudsko odobrenje, kontrola uzorkovanja.
• Visok rizik (kredit, zapošljavanje, zdravlje, pravni): obavezno ljudsko prosuđivanje, puna registracija, redovna revizija.

Ovaj pristup „baziran na riziku“ je takođe okosnica EU zakona o veštačkoj inteligenciji (Jedinica 9).

Korak po korak: ciklus upravljanja rizikom

1. Prepoznajte rizike. Navedite rizike specifične za umjetnu inteligenciju za svaku inicijativu.

2. Vjerovatnoća i utjecaj bodova. Procijenite i odredite prioritet svakog rizika u dvije dimenzije.

3. Definirajte mjeru ublažavanja. Kao što je ljudsko odobrenje, anonimizacija podataka, praćenje, diversifikacija dobavljača.

4. Prihvatite ili zaustavite preostali rizik. Rizik koji ostaje nakon smanjenja je prihvaćen ako je u granicama apetita; Ako ne, pokušaj se zaustavlja.

5. Gledajte i pregledajte. Rizici nisu statični; Neophodno je stalno praćenje zanošenja i novih prijetnji.

tri mini kofera

Slučaj 1 — Cijena halucinacije. Chatbot za klijente jedne avio kompanije "izmislio" je nepostojeću politiku povrata novca za putnika; Kupac je u to vjerovao i izvršio transakciju. Sud je smatrao kompaniju odgovornom za izjavu svog bota. Lekcija: AI izlaz za kupca je srednji/visoki rizik; verifikacija i ograničenje su bili od suštinskog značaja. Botu je tada bilo ograničeno da odgovara samo na odobrene tekstove politike.

Slučaj 2 — Tiha pristrasnost. Model skrininga zapošljavanja jedne kompanije sistematski je favorizovao regrute iz određenih škola zbog neravnoteže u istorijskim podacima. Razlika je otkrivena u reviziji; Postojao je reputacijski i pravni rizik. Model je odvojen od zaštićenih karakteristika i povezan sa redovnim praćenjem pravde. Da je test pristrasnosti urađen od početka, ovo se ne bi dogodilo.

Slučaj 3 — Driftovo hvatanje. Bankov model otkrivanja prevara je tiho oslabljen kada se pojavio novi obrazac prevare; Stopa promašaja je porasla sa 8% na 19% u 3 mjeseca. Dobre vijesti: agencija je implementirala mjesečno praćenje performansi, odstupanje je rano otkriveno, a model je ponovo obučen. Bez praćenja, gubitak bi se višestruko povećao.

Četiri šablona za kopiranje

1) Popis rizika:

Vaša uloga: AI menadžer rizika. Navedite rizike specifične za umjetnu inteligenciju za sljedeći slučaj upotrebe: halucinacije, pristrasnost, curenje podataka, drift, ovisnost, neobjašnjivost. Za svaki rizik u jednoj rečenici napišite njegovu moguću manifestaciju i uticaj na poslovanje u ovom scenariju. Područje upotrebe: [tekst]

2) Bodovanje vjerovatnoće/uticaja:

Dajte prioritet sljedećim rizicima tako što ćete ih bodovati i množiti kao vjerovatnoću (1-5) i utjecaj (1-5). Objasnite zašto dajete prioritet tri najveća rizika. Rizici: [list]

3) Plan ublažavanja:

Predložite praktične mjere ublažavanja za sljedeće prioritetne rizike: [rizici]. Za svaku mjeru: šta učiniti, ko je odgovoran, na kom nivou rizika je obavezno. Koristite ljudski nadzor, anonimizaciju podataka, praćenje i diversifikaciju dobavljača gdje je to prikladno.

4) Matrica nadzora zasnovana na riziku:

Dodijelite sljedeća područja upotrebe nivou rizika (nizak/srednji/visok) i odredite nadzor potreban za svaki nivo: da li je potrebno ljudsko odobrenje, da li će se voditi evidencija, koja je učestalost inspekcija? Koristi: [list]

Slaba prompt / Jaka prompt

Slabo: "Koji su rizici ovog AI projekta?"

Zaključak: Opšta lista rizika; vjerovatnoća, uticaj i bez ublažavanja, ne možete odlučiti.

Güçlü: "Koristit ćemo umjetnu inteligenciju u preliminarnoj evaluaciji zahtjeva za kredit u banci (ljud će donijeti konačnu odluku). Navedite rizike specifične za ovaj scenario (pristrasnost, neobjašnjivost, halucinacije, privatnost podataka); ocijenite svaki po vjerovatnoći i uticaju; predložite konkretne zahtjeve za ublažavanje i nadzor za tri najkritičnija da se ovo smatra visokim rizikom. Također navedite da se to smatra visokim rizikom."

Rezultat: analiza rizika specifična za scenario, bodovana, ublažavajuća i usklađenost.

Uobičajene greške

• Primjenjujući isti nadzor na sve inicijative. Usporavanje rada niskog rizika jednako je štetno kao i zanemarivanje visokog rizika; Nadzor bi trebao biti zasnovan na nivou rizika.
• Pogrešio halucinaciju kao "malu grešku". Neispravan ispis kupcu može rezultirati pravnom odgovornošću.
• Ne testira se na pristrasnost. Model koji se primjenjuje bez testiranja pravednosti može proizvesti tihu diskriminaciju.
• Ne gledam Drift. Model koji jednom dobro radi ne radi zauvijek; Neophodno je stalno praćenje.
• Zaključavanje kod jednog dobavljača. Bez plana izlaska, ovisnost vas ostavlja otvorenim za šok cijena i pristupa.

Oprez: Upravljanje rizikom nije jednom za svagda; Sistemi veštačke inteligencije su živi sistemi. Samo zato što je model danas bezbedan ne garantuje da će biti bezbedan sutra. Kontinuirano praćenje, redovna inspekcija i jasan prekidač za zaustavljanje trebali bi biti dio svakog sistema visokog rizika.

Ukratko

Uz tradicionalne IT rizike, AI dodaje jedinstvene rizike kao što su halucinacije, pristrasnost, curenje podataka, odstupanje, zavisnost i neobjašnjivost. Ove rizike treba procijeniti i odrediti prioritete u smislu vjerovatnoće i uticaja, i treba ih držati u okviru sklonosti ka riziku institucije uz mjere ublažavanja. Nadzor nije ujednačen, ali treba biti prilagođen nivou rizika; U visokorizičnim odlukama, konačnu riječ treba da imaju ljudi. Upravljanje rizikom je kontinuirani ciklus; nije potpuna bez nadzora i kontrole. U sljedećoj jedinici uspostavit ćemo strukturu upravljanja i politike koja ovu disciplinu rizika čini trajnom.

Zadatak aplikacije

Izaberite slučaj upotrebe veštačke inteligencije i navedite njegove specifične rizike sa šablonom 1. Ocenite svaki rizik po verovatnoći i uticaju, identifikujući tri najkritičnija. Napišite konkretne mjere ublažavanja i nivo nadzora koji je potreban za ova tri rizika. Konačno, klasificirajte upotrebu kao nizak/srednji/visoki rizik i zabilježite kako to mijenja zahtjeve nadzora.

kontrolna lista

• [ ] Naveo sam rizike specifične za specifične scenarije umjetne inteligencije.
• [ ] Svaki rizik sam ocenio po verovatnoći i uticaju.
• [ ] Definisao sam mjere ublažavanja za najkritičnije rizike.
• [ ] Klasifikovao sam područje upotrebe prema nivou rizika.
• [ ] Prilagodio sam nadzor prema nivou rizika.
• [ ] Planirao sam testiranje/monitoring za pristrasnost i drift.
• [ ] Postavio sam ovlaštenje za zaustavljanje za sistem visokog rizika.