End-to-End töövoog, mudeljuhtimine ja enesekontroll — Tehisintellekt panganduses

Kasu:

Võimalus turvaliselt hallata pangandusülesannet otsast lõpuni tsükliga „AI toodab → ekspert kontrollib → volitatud otsustab”
Võimalus tehisintellekti ohutult kinnistada mudeljuhtimise, valideerimise, jälgimise ja pideva täiustamise raamistikus
Võime võtta lõplikku vastutust, kontrollides ise oma väljundit viie võtmeküsimusega (autentimine, allikas, konfidentsiaalsus, õiglus, heakskiit)

Kogu selle mooduli jooksul positsioneerime tehisintellekti assistendi ja plaanide generaatorina panganduse igas nurgas – krediidi, pettuse, segmenteerimise, klienditeeninduse, vastavuse, aruandluse, finantsanalüüsi valdkonnas. Selles viimases üksuses panime tükid kokku: kuidas juhtida pangandusülesannet algusest lõpuni turvalises ahelas, kuidas seda tsüklit haldamine modelleerib ja millise viie küsimusega iga väljundit eneseauditeerite? Eesmärk on destilleerida õpitu üheks refleksiks: AI toodab → ekspert kontrollib → ekspert otsustab. See tsükkel on viis kiiruse ja turvalisuse säilitamiseks samal ajal.

Otsast lõpuni silmus: kolm rõngast

Mõelge igale pangaülesandele kui kolmelülilisele ahelale:

AI toodab (mustandrõngas): Anonüümne, minimaalsete andmetega tehisintellektile antakse mustandi/kontrolli ülesanne – kokkuvõte, mustandi põhjendus, hoiatus, konto mustand. Siin pole otsust, on ainult materjal.
Ekspert kontrollib (filtrirõngas): Väljund on lingitud allikaga, arvud arvutatakse ümber, filtreeritakse läbi poliitika/seadusandluse ja õigluse. Siin on välistatud hallutsinatsioonid, diskrimineerimine ja eraelu puutumatuse rikkumine.
Otsuse teeb asutus (allkirjarõngas): Lõpliku otsuse – krediit, STR, pettuseotsus, aruande allkiri – teeb volitatud isik/komisjon; Põhjendus ja kontrolljälg registreeritakse.

Quest

AI toodab

Ekspert kinnitab

pädev otsus

krediit

Põhjenduse eelnõu

Suhe/allikas/õiglus

Eraldamise otsus

pettus

Anomaaliate hoiatus

Kontekst/kliendi kinnitus

Blokeeritud/vaba otsus

AML

Muster/matš

Mittevastavuse kontroll

STR otsus

Teata

Teksti/numbri mustand

Numbriline kinnitus

allkiri

Analüüs

Hinda/kommenteeri mustand

Ümberarvestus/eeldus

Investeeringu/krediidi arvamus

Näpunäide. Kõige sagedamini vahele jäetud link tsüklis on keskmine "kinnitus". Surve all hüppavad inimesed eelnõudest otsusele. Kuid just see keskmine ring määrab nii väärtuse kui ka riski. Kinnitamise vahelejätmine katkestab tsükli.

Mudeljuhtimine: süsteem, mis loob ahela

Lisaks üksikutele ülesannetele peab pank haldama oma mudeleid tervikuna. Mudeljuhtimine koosneb järgmistest komponentidest:

Valideerimine: mudelit testitakse enne kasutuselevõttu sõltumatult; Mõõdetakse selle täpsust, õiglust ja piire.
Jälgimine: mudel võib aja jooksul halveneda (andmete triiv – jõudlus väheneb, kui sisendjaotus muutub). Seda jälgitakse pidevalt.
Dokumentatsioon: dokumenteeritakse, mida mudel teeb, milliste andmetega seda koolitatakse, selle piirid ja vastutajad.
Roll ja vastutus: see, kes toodab, kes kontrollib, kes otsustab, on selgelt määratletud.
Ülevaatus ja täiustamine: vead registreeritakse, mudelit hinnatakse perioodiliselt ümber.

Ettevaatust: hästi töötav mudel ei tööta hästi igavesti. Majandustingimused, klientide käitumine ja pettuste taktika muutuvad; Kui mudel ei suuda nendega sammu pidada, hakkab ta vaikselt võltsima. Ilma jälgimiseta jääb see lagunemine märkamatuks.

Viiest küsimusest koosnev enesekontroll

Enne iga AI väljundi kasutamist küsige endalt järgmised viis küsimust:

Kontrollimine: kas ühendasin selle väljundi allikaga ja arvutasin kriitilised numbrid ümber?
Allikas: kas iga nõue põhineb tõelisel dokumendil/andmetel/reeglil või võib see olla fabritseeritud?
Privaatsus: kas isikuandmed muudetakse anonüümseks, kasutatakse minimaalseid andmeid ja heakskiidetud tööriistu?
Õiglus: kas väljund sisaldab diskrimineerimist kaitstud vara või asendusmuutuja alusel?
Heakskiit: kas volitatud isiku lõplik otsus, põhjendus ja kontrolljälg registreeriti?

Kui kasvõi üks viiest on "ei", pole väljund kasutamiseks valmis.

Neli kopeeritavat malli

1) Otsast lõpuni missiooniplaan:

Sinu roll: assistent, kes aitab mul turvalises ahelas pangandusülesannet planeerida.Ülesanne: [ülesanne]. Täitke mulle need kolm rõngast: (1) millise mustandi teeb tehisintellekt, (2) milliseid kontrollitoiminguid ekspert teeb, (3) millise otsuse ametnik teeb ja salvestab? Otsuse ettepaneku tegemine; Ilmub protsessi skelett.

2) Enesekontrolli rakendus viie küsimusega:

Kontrollige järgmist AI väljundit viie küsimusega: kontrollimine, päritolu, privaatsus, õiglus, heakskiit. Iga küsimuse puhul hinnake "ok / mittetäielik / riskantne" ja kirjutage, kuidas puudusi parandada. Väljund: [tekst]

3) Mudeli jälgimise kontrollmärkus:

Sinu roll: valitsemismudeli assistent. Meie kasutatava otsustustoe mudeli jaoks muutke näitajad, mida tuleb regulaarselt jälgida (jõudlus, rühmadevaheline õiglus, andmetriivi signaalid, veakirjed) kontrollnimekirjaks. Otsuste tegemine; Soovitage seireraamistikku.

4) Juhtumi lõpetamine ja kontrolljälg:

Koostage töövõtu lõpus kontrolljälje lõppmärkus: milline eelnõu koostati, milliseid kontrolle tehti, millise otsuse kes tegi, millise põhjendusega. Kasutage ainult minu esitatud kontrollitud teavet. Sisestage: [teave]

Nõrk viip / Tugev viip

Nõrk viip:

Sa tegeled selle ülesandega algusest lõpuni ja annad tulemuse mulle valmis otsusena, nii et ma ei hakka detailidega vaeva nägema.

See vähendab kolm helinat üheks sammuks, läheb kontrollimisest ja inimliku hinnangu andmisest mööda ning varjab vastutust.

Võimas viip:

Sinu roll: protsessi assistent, mitte otsustaja. Esmalt koostage ülesande ülevaade, seejärel loetlege punktid, mida pean kontrollima, ja tuletage lõpuks meelde, et otsus ja kontrolljälg on minu oma. Lisage väljundile viis enesekontrolliküsimust (autentimine, allikas, konfidentsiaalsus, õiglus, heakskiit).

Tugev tahe kaitseb kolme sõrmust, nõuab kontrollimist ja jätab otsustamise inimese enda teha.

kolm minikarpi

Juhtum 1 – tsükkel töötab täielikult. Laenutaotluses koostab AI põhjenduse mustandi (ring 1); ekspert arvutab määrad ümber, kontrollib õigluse põhjendatust, tühjendab asendusmuutuja avaldise (rõngas 2); ametnik teeb eraldamise otsuse ja fikseerib kontrolljälje (ring 3). 20 minutiga sünnib turvaline ja kaitstud otsus.

Juhtum 2 – seire tuvastab lagunemise. Kuigi pettusmuster toimib hästi kuude kaupa, langeb püügimäär uue pettuse taktika tõttu vaikselt. Mudeljuhtimise alusel jälgimine märkab seda langust; Mudel on uuendatud. Ilma jälgimiseta kasvaksid kahjud jätkuvalt.

Juhtum 3 – enesekontroll hoiab ära rikkumise. Analüütik saadab otse tehisintellekti väljundi kiiraruande jaoks. Ta rakendab viit küsimust: ta märkab, et "allika" küsimuses kasuminumbrit ei kinnitata. Juhtelemendid allikast; number on vale. 30 sekundit enesekontrolli hoiab ära valepildi saatmise juhtkonnale.

Rollide selgus: kes toodab, kes kontrollib, kes otsustab

Kolmerõnga tsükkel on turvaline vaid siis, kui rollid on selged. Kõige tavalisem tõrge on hägune ala, kus "kõik vastutavad, kuid keegi ei vastuta": kavandi koostas tehisintellekt, keegi ei kontrollinud seda täielikult ja otsus jäi tähelepanuta, kuna see "lahkus süsteemist". See tühimik on koht, kuhu vead kõige kergemini sisenevad.

Terves ilukirjanduses on igal sõrmusel omanik:

Generaator (assistent + kasutaja): Anonüümne, isik, kes taotleb mustandit ja koostab kande minimaalsete andmetega.
Kontrollija (ekspert): keegi, kes seob väljundi allikaga, arvutab arvud ümber ja filtreerib selle õigluse ja konfidentsiaalsuse tagamiseks. Seda rolli ei jäeta kunagi vahele.
Otsustaja (asutus/komitee): asutus, kes teeb lõpliku otsuse ning kirjutab alla põhjendusele ja kontrolljäljele.

Mõnikord võtab sama inimene mitu rolli; See pole probleem, kui veendute, et iga link on teadlikult tehtud ja salvestatud. Probleem on selles, et sõrmus jäetakse tühjaks eeldusega, et "keegi on seda kindlasti teinud".

Nõuanne. Pärast otsuse tegemist küsige endalt: "Kes on selle otsuse ainuomanik?" küsi. Kui vastus ei ole selge nimi, tähendab see, et vastutusahel on katkenud; Taaskäivitage silmus.

Levinud vead

Keskmise rõnga vahelejätmine. Otse mustandilt otsuseni liikumine ja kontrollimise vahele jätmine.
Vastutuse panemine mudelile. Öeldes "AI tegeleb sellega" ja mitte omada lõplikku otsust ja allkirja.
Mõeldes mudeli seadmisele ja selle unustamisele. Kunagi hästi töötanud mudeli jälgimata jätmine; ei näe andmete triivi.
Ei jäta kontrolljälge. Ei jäädvusta, kes millise otsuse tegi ja miks.
Enesekontrollist möödahiilimine. Väljundi kasutamine ilma viit küsimust esitamata.

Näpunäide: muutke viie küsimusega enesekontroll harjumuseks; See muutub aja jooksul automaatseks ja võtab sekundeid. Paljud suurimad vead tekivad siis, kui need paar sekundit kontrolli vahele jäävad.

Kokkuvõttes

Turvalise tehisintellekti kasutamine panganduses on kolmeringiline tsükkel: tehisintellekt toodab, ekspert kontrollib, võim teeb otsuseid. Mudeljuhtimine (valideerimine, jälgimine, dokumenteerimine, vastutus, täiustamine) raamib seda tsüklit. Kontrollige iga väljundit viie küsimusega – autentimine, allikas, konfidentsiaalsus, õiglus, heakskiit; Kui kasvõi üks on puudu, pole väljund valmis. Mudel võib laguneda; jälgimine on hädavajalik. Vastutus lasub alati inimesel. Ühe lausega: Tehisintellekt on tsükli esimene lüli; kontrollimine ja lõplik otsus on pädeva mehe sõrmused, kes oskab arvet anda.

Rakenduse ülesanne

Valige oma ettevõttest ülesanne ja koostage 1. malliga kolmest ringist koosnev täielik plaan: mida tehisintellekt toodab, mida ekspert kontrollib, mida asutus registreerib ja otsustab. Seejärel kirjutage selle ülesande jaoks tehisintellekti näidisväljund, rakendage viie küsimusega enesekontrolli 2. malliga ja parandage puudused. Lõpuks looge kasutatava otsustamistoetuse tööriista jaoks jälgimise kontroll-loend malliga 3.

kontrollnimekiri

[ ] Struktureerisin ülesande kolme rõngaga tsükliks (genereeri / kontrolli / otsusta).
[ ] Ma ei jätnud keskmist linki vahele (kinnitus); Kontrollisin allikat ja numbreid.
[ ] Manustasin viis enesekontrolli küsimust; Kui midagi puudu oleks, siis läheks.
[ ] Läbisin privaatsuse ja õigluse filtrid.
[ ] Võtsin arvesse modellide jälgimise ja korruptsiooniriski.
[ ] Võtsin vastutuse lõpliku otsuse, selle põhjenduse ja kontrolljälje fikseerimisega.

Mooduli eksam

1. Krediidiekspert edastab tehisintellekti genereeritud laenu tagasilükkamise põhjuse kliendile seda kontrollimata. Mis on selle lähenemisviisi põhiline viga?

A) Tehisintellekti väljundit ei saa kasutada ilma kontrollimiseta; Otsuse eelnõu põhjenduse peab läbi vaatama ja heaks kiitma volitatud ekspert ✔
B) Tehisintellekt annab laenu põhjenduse alati negatiivseks
C) Kliendile tuleks põhjuse asemel öelda ainult skoor
D) Põhjendus oleks tulnud kliendile e-kirja asemel telefoni teel edastada.

Selgitus: kuigi tehisintellekt võib anda järjekindla põhjenduse, võib see valedel andmetel või eeldustel põhineva sama kindlustundega anda ka eksliku ja isegi diskrimineeriva põhjenduse. Pangandus on reguleeritud usalduskriitiline valdkond; Iga väljund peab olema eksperdi poolt kontrollitud ning krediidi jaotamise otsus ja lõplik põhjendus peavad kuuluma volitatud isikule.

2. Milline on konfidentsiaalsuse seisukohalt (KVKK ja kliendisaladus) parim käitumine kliendi pangakonto tehingute tehisintellekti tööriista ülekandmisel?

A) Kliendi täisnimi ja konto väljavõte tuleks kiiruse huvides üles laadida.
B) Isiku tuvastamise teabe eemaldamisel ja andmete anonüümseks muutmisel tuleks heakskiidetud turvalises tööriistas jagada ainult minimaalset vajalikku teavet ✔
C) Kui andmed on krüpteeritud, saab igale sõidukile saata ka nime ja kontonumbri
D) Kuna eesmärk on hea, saab kogu ärakirja jagada ilma kliendilt küsimata

Selgitus: Kliendi finantsandmed on pangandusõiguse raames nii isikuandmed kui ka kliendisaladus. Identifitseerimisandmed, nagu nimi, TR-ID, kontonumber, tuleks eemaldada ja andmed anonüümseks muuta; Jagama peaks ülesande täitmiseks vajalikke miinimumandmeid ning kasutada tuleks ainult asutuse poolt heaks kiidetud turvalisi tööriistu.

3. Tehisintellekt põhjendab krediidiskoori mudeli otsust, näiteks „tagasilükkamine, kuna taotleja elukoht on riskantne”. Mida peaks ekspert tegema?

A) Põhjendust kasutatakse sellisel kujul, nagu see on, kuna mudel põhineb statistikal
B) Piirkonnateavet kaalutakse veelgi ja otsust tugevdatakse.
C) See võib olla kaudne diskrimineerimine puhvermuutuja kaudu; Põhjendus tuleb tagasi lükata ning otsus peab põhinema legitiimsetel ja seletatavatel kriteeriumidel ✔
D) Põhjust kliendile ei öelda, see lihtsalt hoitakse failis, ei teki probleemi.

Selgitus: elukohapiirkond võib olla asendusmuutuja, mis on tugevalt seotud etnilise päritoluga või sarnaste kaitstud tunnustega, tekitades kaudset diskrimineerimist. Seda tüüpi õigustamine on õiguslikult ja eetiliselt vastuvõetamatu; Otsus peab põhinema legitiimsetel, selgitatavatel ja mittediskrimineerivatel kriteeriumidel ning see põhjendus tuleb tagasi lükata.

4. Pettuste tuvastamise süsteemis märgib tehisintellekt tehingu kui „kõrge riskiga”. Milline on parim lähenemine?

A) Hoiatus on läbivaatuse eelne signaal; Tõelist pettust ja valehäiret tuleks eristada ekspertiisiga ning lõplik otsus teha inimlikult ✔
B) Tehing blokeeritakse automaatselt ja jäädavalt, ülevaatamine pole vajalik
C) Hoiatust eiratakse, kuna enamik hoiatusi on valed
D) Kliendile helistatakse ja teda süüdistatakse otseselt

Selgitus: AI hoiatus on esialgne sõelumine ja tõenäosussignaal, mitte lõplik otsus. Eksperdi ülesanne on eristada tõelist pettust valepositiivsetest, uurida klienti ohvriks langetamata ja teha lõplik otsus; Hoiatus ei tohiks kontot automaatselt jäädavalt blokeerida.

5. Kui palju maksab pettuste avastamisel saadav suur hulk valepositiivseid hoiatusi?

A) Valepositiivne tulemus ei maksa midagi, mida rohkem hoiatusi, seda parem
B) tekitab kliendi stressi ja häireväsimust; Suurendab ohtu, et tõeline pettus jääb märkamatuks ✔
C) See suurendab ainult süsteemi elektritarbimist
D) Valepositiivne tulemus ilmneb ainult öötehingutes

Selgitus: valepositiivsed tulemused tekitavad ebamugavusi ja rahulolematust, takistades asjatult seaduslike klientide tehinguid; Samuti tekitab see analüütikutes erksat väsimust, suurendades ohtu, et tõeline pettus jääb tähelepanuta. Seetõttu peaksid künnised ja reeglid olema tasakaalus ning hoiatusi tuleks eelistada.

6. Mis on eetiliselt kõige kriitilisem piir klientide segmenteerimise ja personaliseeritud kampaaniate kavandamisel?

A) Mida kitsamad segmendid, seda parem, muid piiranguid pole
B) Isikupärastamine on vaid tehniline küsimus, see ei nõua eetilisi piire
C) Sobivus, nõusolek ja mittediskrimineerimine peavad olema kaitstud; Vältida tuleb haavatava kliendi ärakasutamist ja manipuleerimist ✔
D) Kui kampaania saadetakse kõigile ühtemoodi, ei teki eetilisi probleeme.

Selgitus. Kuigi segmenteerimist saab kasutada kliendi hüvanguks (sobiv tootesoovitus), võib seda kuritarvitada ka haavatavuse ärakasutamiseks (nt liigsete võlgadega kliendile lisakrediidi turundamiseks). Kaitsta tuleb sobivuse, nõusoleku ja mittediskrimineerimise põhimõtteid; isikupärastamine ei tohiks muutuda manipuleerimiseks.

7. Milline on klienditeeninduse vestlusroboti jaoks parim turvapoliitika?

A) Vestlusbot peaks suutma iseseisvalt igasuguseid tehinguid ja finantsnõustamist sõlmida
B) kiirendab rutiinset teavet; Kaebused, tundlikud nõuanded ja volitatud tehingud tuleks delegeerida inimestele, kontrollimata teavet ei tohiks esitada ✔
C) Chatbot saab jagada kogu kontoteavet ilma kliendi identiteeti kinnitamata
D) Inimese üleandmise võimalus tuleks eemaldada, kuna see aeglustab vestlusrobotit.

Kirjeldus: Vestlusbot kiirendab ohutult korduma kippuvat teavet ja rutiinseid tehinguid, kuid kaebused, tundlikud finantsnõuanded, kontol volitatud tehingud ja mitmetähenduslikud olukorrad tuleks delegeerida volitatud töötajale. Lisaks ei tohiks vestlusbot avaldada klientide saladusi ega anda kontrollimata teavet.

8. AML/KYC protsessides märgib tehisintellekt tehingu kahtlaseks. Milline on õige lähenemine kahtlastest tehingutest teatamiseks (STR)?

A) Kui mudel on märgistatud, tuleks teavitada automaatselt, järelevalveametnik pole vajalik
B) Hoiatust eiratakse, kuna enamik tehinguid on seaduslikud
C) Kliendile teatatakse tehingust viivitamatult kui "kahtlustatakse pesu"
D) mudeli väljund on esialgne sõelumine ja mustand; STR-otsuse teeb volitatud järelevalveametnik, säilitades põhjenduse ja kontrolljälje ✔

Kirjeldus: tehisintellekti tehingute jälgimine ja skaneerimine märgistab kiiresti potentsiaalselt kahtlased mustrid, kuid kahtlaste tehingute aruandlus (STR/SAR) on otsus, millel on õiguslikud tagajärjed ja see tehakse volitatud järelevalveametniku otsusega. Mudeli väljund on esialgne ja mustand; Kontrolljälg ja põhjendus tuleb säilitada.

9. Sanktsioonide nimekirja / PEP (poliitiliselt paljastatud isiku) läbivaatuses vastab tehisintellekt nimele, kuid see võib olla vale vaste. Milline on õige lähenemine?

A) Sobivus tuleb kinnitada täiendavate tunnustega (sünniaeg, kodakondsus); Otsuse peab tegema järelevalveametnik ✔
B) Piisab nimesarnasusest, klient tunnistatakse koheselt sanktsioneerituks
C) Kõik vasted loetakse valedeks ja neid ignoreeritakse
D) Otsuse tegemine jääb vestlusrobotile

Selgitus. Nimede skannimine võib sarnaste nimede tõttu anda valepositiivseid tulemusi. Järelevalveametnik peab kinnitama vastavust sünnikuupäeva, kodakondsuse ja muude tunnustega; Kliendi ekslikult karistatuks kuulutamisel või tõelise vaste vahelejätmisel on mõlemad tõsised tagajärjed. Otsus kuulub inimesele.

10. Te koostasite tehisintellektiga tegevusaruande projekti; Aruanne sisaldab kvartali kasumiandmeid. Mis on kõige kriitilisem samm enne allkirjastamist?

A) Kõik aruande kriitilised numbrid tuleks lähteandmetega uuesti valideerida; Lõplik allkirjavastutus lasub inimesel ✔
B) Tehisintellekt annab numbreid vigadeta, kontrollimine on ajaraisk
C) Kontrollitakse ainult vormingut, et aruanne ilusam välja näeks.
D) Aruanne saadetakse otse kõrgemale juhtkonnale, kontroll tehakse hiljem

Selgitus: tehisintellekt võib arvulisi väärtusi valesti esitada, neid välja mõelda või lähteandmetega vastuolus kokku võtta. Kõik kriitilised numbrid tuleks enne aruande allkirjastamist lähteandmetega uuesti kontrollida; Kuigi automatiseerimine tagab kiiruse, lasub lõplik allkirjavastutus inimesel.

11. Tehisintellekt analüüsib ettevõtte finantsaruandeid ja ütleb "firma on väga soliidne, laenu tuleks kindlasti anda". Mis on finantsanalüütiku vastutus?

A) Teksti aktsepteerimine sellisena, nagu see on, sest tehisintellekt tunneb rahandust vigadeta
B) Suhtarvude ümberarvutamine lähtetabelitest ja oletuste kahtluse alla seadmine; Inimesena lõpliku otsuse tegemine, ebakindluse välja ütlemine ✔
C) Otsuse esitamine otse komisjonile kui „AI heakskiidetud”
D) Laenu tagasilükkamine analüüsi üldse lugemata

Selgitus: finantsanalüüs sõltub eeldustest ja sisendi täpsusest; AI võib hindu valesti arvutada, puuduvaid andmeid ignoreerida või kasutada liiga täpset keelt. Analüütik peab määrama allikatabelite põhjal ümber arvutama intressimäärad, seadma kahtluse alla eeldused ja tegema lõpliku krediidiotsuse inimlikult, viidates ebakindlusele.

12. Kuigi krediidimudel ei pruugi otseselt kasutada kaitstud tunnust, nagu sugu või etniline päritolu, võib see neid kaudselt kajastada sihtnumbri ja ostuandmete kaudu. Kuidas seda olukorda nimetatakse ja miks see riskantne on?

A) Seda nimetatakse üleõppimiseks ja see vähendab ainult täpsust
B) Seda nimetatakse andmelekkeks ja see on lihtsalt kiirusprobleem
C) Seda nimetatakse kaudseks diskrimineerimiseks puhvermuutuja kaudu; on ebaseaduslik ja seda tuleb kontrollida õigluse testidega ✔
D) Seda nimetatakse normaliseerimiseks ja see on täiesti kahjutu

Selgitus. Kaitstud atribuudiga tugevalt seotud muutujaid nimetatakse puhverserveri muutujateks. Isegi kui mudel ei kasuta kaitstud funktsiooni otse, võib see puhverserverite kaudu kaudselt diskrimineerida. See on nii ebaseaduslik kui ka ebaeetiline; Mudeleid tuleks testida õigluse mõõdikutega ja puhverserveri riske tuleks kontrollida.

13. Pank kasutab krediidiotsuste tegemisel tehisintellekti mudelit. Mis on seadusandluse ja auditeeritavuse osas üks elementaarsemaid nõudeid?

A) Mida keerulisem ja arusaamatum mudel, seda turvalisem see on
B) Arvestuse pidamine pole vajalik, otsuseid saab selgitada suuliselt
C) Kliendi vastuväidete esitamise õigus tuleks ära võtta, sest see aeglustab protsessi
D) Mudel peaks olema seletatav, otsuse põhjendus ja kontrolljälg tuleks säilitada, kliendile tuleks anda vastuväite/inimliku läbivaatamise õigus ✔

Selgitus: Reguleeritud otsustusprotsessides peab mudel olema selgitatav, otsuse põhjendus peab olema dokumenteeritud, arvestust (kontrolljälg) pidada ning kliendile tuleb anda õigus esitada vastuväiteid/taotleda inimlikku ülevaatust. „Musta kasti” mudeli põhjendamatut otsust ei saa auditeerida ja see ei ole kooskõlas õigusaktidega.

14. Kuidas kirjeldab läbivalt moodulis rõhutatud võtmepõhimõte tehisintellekti rolli panganduses?

A) Tehisintellekt võib asendada kogenud pankurid ning vormistada laenud ja teatised ise
B) Tehisintellekti kasutatakse ainult turunduseks, mitte otsuste tegemiseks
C) Tehisintellekti väljund on ohutu ka ilma verifitseerimiseta, kuna see põhineb statistikal
D) tehisintellekt on assistent ja tõmbegeneraator; Krediidi eraldamine, pettuse/nõuete täitmise kohtuotsus ja lõplik otsus lasub volitatud isikul ✔

Kirjeldus: AI kiirendab korduvaid ülesandeid assistendi, eelsõeluri ja mustandite generaatorina; Kuid kuna me töötame reguleeritud usalduskriitilises valdkonnas, vastutab lõpliku otsuse krediidi eraldamise, pettuse/nõuete täitmise tagamise ja kliendi kohta volitatud isik (volitatud pankur ja otsustuskomisjon). Kontrollimata väljund on allkirjastamata otsuse eelnõu.