Potek dela od konca do konca, upravljanje modela in samorevizija

Dobički:

• Sposobnost varnega izvajanja bančne naloge od konca do konca s ciklom 'AI proizvaja → strokovnjak preverja → pooblaščen odloča'
• Sposobnost varne vgradnje umetne inteligence v okvir upravljanja modela, validacije, spremljanja in nenehnega izboljševanja
• Sposobnost prevzemanja končne odgovornosti s samopreverjanjem rezultatov s petimi ključnimi vprašanji (preverjanje pristnosti, vir, zaupnost, poštenost, odobritev)

Skozi ta modul postavljamo AI kot pomočnika in generatorja načrtov v vsakem kotičku bančništva – kredit, goljufije, segmentacija, storitve za stranke, skladnost, poročanje, finančna analiza. V tej zadnji enoti sestavljamo dele: kako izvajate bančno nalogo od začetka do konca v varni zanki, kako model upravljanja oblikuje to zanko in s katerimi petimi vprašanji izvajate samorevizijo vsakega rezultata? Cilj je destilirati, kar ste se naučili, v en sam refleks: AI proizvaja → strokovnjak preverja → strokovnjak odloča. Ta cikel je način za ohranjanje hitrosti in varnosti hkrati.

Zanka od konca do konca: trije obroči

Vsako bančno nalogo si predstavljajte kot verigo treh členov:

1. Umetna inteligenca ustvari (obroči osnutka): Anonimno, z minimalnimi podatki, umetna inteligenca dobi nalogo osnutek/preverjanje – povzetek, utemeljitev osnutka, opozorilo, osnutek računa. Tu ni odločitve, samo material.
2. Strokovnjak preveri (filtrirni obroč): Izhod je povezan z virom, številke so ponovno izračunane, filtrirane s politiko/zakonodajo in pravičnostjo. Tu so odpravljene halucinacije, diskriminacija in vdiranje v zasebnost.
3. Organ sprejme odločitev (podpisni obroč): Končno presojo — kredit, STR, odločitev o goljufiji, podpis poročila — izda pooblaščena oseba/komisija; Beleži se utemeljitev in revizijska sled.

Iskanje

AI proizvaja

Strokovnjak potrjuje

pristojna odločitev

kredit

Osnutek utemeljitve

Razmerje/vir/pravičnost

Odločba o dodelitvi

goljufija

Opozorilo o anomaliji

Kontekst/potrditev stranke

Odločitev o blokiranju/svobodi

AML

Vzorec/ujemanje

Preverjanje neujemanja

STR odločitev

Poročilo

Osnutek besedila/številke

Numerično preverjanje

podpis

Analiza

Oceni/komentiraj osnutek

Preračun/predpostavka

Naložbeno/kreditno mnenje

Nasvet: Najpogosteje preskočena povezava v zanki je srednja »preverjanje«. Pod pritiskom ljudje skačejo od osnutka k odločitvi. Vendar pa je ravno ta sredinski obroč tisti, ki določa tako vrednost kot tveganje. Preskok preverjanja prekine krog.

Upravljanje modela: sistem, ki oblikuje zanko

Poleg posameznih nalog mora banka upravljati svoje modele kot celoto. Upravljanje modela je sestavljeno iz naslednjih komponent:

• Validacija: Model je neodvisno testiran, preden se da v uporabo; Njegova natančnost, pravičnost in meje so izmerjene.
• Spremljanje: model se lahko sčasoma poslabša (odmik podatkov – zmogljivost se zmanjša, ko se spremeni porazdelitev vnosa). Stalno je pod nadzorom.
• Dokumentacija: Kaj model počne, s katerimi podatki se usposablja, njegove omejitve in odgovorni so dokumentirani.
• Vloga in odgovornost: Kdo proizvaja, kdo preverja, kdo odloča, je jasno določeno.
• Pregled in izboljšave: Napake se zabeležijo, model se občasno ponovno oceni.

Pozor: model, ki dobro deluje, ne bo večno dobro deloval. Spreminjajo se gospodarski pogoji, vedenje strank in taktike goljufij; Če model tem ne more slediti, začne tiho potvarjati. Brez spremljanja je ta degradacija neopažena.

Samopreverjanje s petimi vprašanji

Preden uporabite vsak rezultat AI, si zastavite teh pet vprašanj:

1. Preverjanje: Ali sem ta izhod povezal z virom in ponovno izračunal kritične številke?
2. Vir: Ali vsaka trditev temelji na resničnem dokumentu/podatkih/pravilu ali je lahko izmišljena?
3. Zasebnost: Ali so podatki o identiteti anonimizirani, uporabljeni minimalni podatki in odobrena orodja?
4. Pravičnost: Ali rezultat vsebuje diskriminacijo zaradi zaščitene lastnine ali nadomestne spremenljivke?
5. Odobritev: Ali je bila končna odločitev pooblaščene osebe, utemeljitev in revizijska sled zabeležena?

Če je vsaj eden od petih "ne", izhod ni pripravljen za uporabo.

Štiri predloge za kopiranje

1) Načrt misije od konca do konca:

Vaša vloga: pomočnik, ki mi pomaga načrtovati bančno opravilo v varni zanki. Naloga: [naloga]. Zaupajte mi te tri obroče: (1) kakšen osnutek bo izdelala umetna inteligenca, (2) katere korake preverjanja bo izvedel strokovnjak, (3) kakšno odločitev bo uradnik sprejel in zabeležil? Predlog sklepa; Pojavi se skelet procesa.

2) Aplikacija za samokontrolo s petimi vprašanji:

Preverite naslednje rezultate AI s petimi vprašanji: preverjanje, izvor, zasebnost, pravičnost, odobritev. Za vsako vprašanje ocenite "v redu / nepopolno / tvegano" in napišite, kako odpraviti pomanjkljivosti. Izhod: [besedilo]

3) Opomba o preverjanju sledenja modelu:

Vaša vloga: pomočnik vzornega upravljanja. Za model podpore odločanju, ki ga uporabljamo, spremenite kazalnike, ki jih je treba redno spremljati (uspešnost, medskupinska pravičnost, signali premikanja podatkov, zapisi napak), v kontrolni seznam. odločanje; Predlagajte okvir za spremljanje.

4) Zaključek primera in revizijska sled:

Pripravite zaključno opombo za revizijsko sled ob koncu posla: kateri osnutek je bil pripravljen, katera preverjanja so bila opravljena, kakšno odločitev je kdo sprejel, s kakšno utemeljitvijo. Uporabljajte samo preverjene podatke, ki jih posredujem. Vnos: [informacije]

Šibek poziv/močan poziv

Šibek poziv:

Ti se loti te naloge od začetka do konca in mi daj rezultat kot pripravljeno odločitev, zato se ne bom obremenjeval s podrobnostmi.

Zmanjša tri zvonjenja na en sam korak, zaobide preverjanje in človeško presojo ter prikrije odgovornost.

Močan poziv:

Vaša vloga: pomočnik pri procesu, ne odločevalec. Najprej naredite osnutek naloge, nato navedite točke, ki jih moram preveriti, in me na koncu opomnite, da sta odločitev in revizijska sled moja. Izhodu dodajte pet vprašanj za samopreverjanje (preverjanje pristnosti, vir, zaupnost, poštenost, odobritev).

Močna volja varuje tri prstane, zahteva preverjanje in prepušča odločitev osebi.

trije mini kovčki

1. primer — cikel teče v celoti. V vlogi za posojilo AI pripravi osnutek utemeljitve (obroč 1); strokovnjak preračuna tečaje, preveri utemeljitev za pravičnost, počisti izraz nadomestne spremenljivke (obroč 2); uradna oseba sprejme odločitev o dodelitvi in ​​zabeleži revizijsko sled (obroč 3). V 20 minutah se pojavi varna in ubranljiva odločitev.

Primer 2 – Spremljanje zajame degradacijo. Medtem ko vzorec goljufije dobro deluje več mesecev, stopnja ulova tiho pada zaradi nove taktike goljufije. Spremljanje v okviru modela upravljanja opazi ta upad; Model je posodobljen. Brez spremljanja bi izgube še rasle.

Primer 3 – Samokontrola preprečuje kršitev. Analitik bo neposredno poslal izhod AI za hitro poročilo. Uporabi pet vprašanj: opazi, da številka o dobičku ni potrjena v "izvornem" vprašanju. Nadzor iz vira; številka je napačna. Trideset sekund samopreverjanja prepreči pošiljanje lažne slike vodstvu.

Jasnost vlog: kdo proizvaja, kdo preverja, kdo odloča

Cikel treh obročev je varen le, če so vloge jasne. Najpogostejša napaka je zamegljeno področje, kjer so »vsi odgovorni, a nihče«: osnutek je izdelala umetna inteligenca, nihče ga ni v celoti preveril, odločitev pa je ostala neupoštevana, ker je »zapustila sistem«. V to vrzel najlažje pridejo napake.

V zdravi fikciji ima vsak prstan lastnika:

• Generator (asistent + uporabnik): Anonimnež, oseba, ki zahteva osnutek in pripravi vnos z minimalnimi podatki.
• Verifikator (strokovnjak): nekdo, ki izhod poveže z virom, ponovno izračuna številke in jih filtrira zaradi pravičnosti in zaupnosti. Te vloge nikoli ne preskočimo.
• Odločevalec (organ/odbor): Organ, ki sprejme končno odločitev in podpiše utemeljitev in revizijsko sled.

Včasih ista oseba prevzame več vlog; To ni problem, če se prepričate, da je vsaka povezava narejena zavestno in zabeležena. Težava je v tem, da obroč ostane prazen s predpostavko, da je "nekdo to storil".

Nasvet: Ko se odločite, se vprašajte "Kdo je edini lastnik te odločitve?" vprašaj. Če odgovor ni jasno ime, to pomeni, da je veriga odgovornosti prekinjena; Ponovno zaženite zanko.

Pogoste napake

• Preskakovanje srednjega obroča. Prehod neposredno od osnutka do odločitve in preskok preverjanja.
• Prelaganje odgovornosti na model. Reči "AI bo to rešil" in ne imeti končne odločitve in podpisa.
• Razmišljam, da bi postavil model in ga pozabil. Model, ki je nekoč dobro deloval, ni sledil; ne vidim premikanja podatkov.
• Ne pušča revizijske sledi. Brez beleženja, kdo se je za kakšno odločitev odločil in zakaj.
• Mimo samokontrole. Uporaba izhoda brez postavljanja petih vprašanj.

Namig: samopreverjanje petih vprašanj naj vam postane navada; Sčasoma postane samodejno in traja nekaj sekund. Številne največje napake se zgodijo, ko zamudite teh nekaj sekund nadzora.

Če povzamem

Uporaba varne umetne inteligence v bančništvu je cikel treh obročev: AI proizvaja, strokovnjak preverja, organ sprejema odločitve. Upravljanje modela (validacija, spremljanje, dokumentiranje, odgovornost, izboljšanje) uokvirja ta cikel. Samopreverite vsak rezultat s petimi vprašanji — avtentikacija, vir, zaupnost, pravičnost, odobritev; Če celo ena manjka, izhod ni pripravljen. Model se lahko pokvari; spremljanje je bistveno. Odgovornost je vedno na osebi. Z enim stavkom: Umetna inteligenca je prvi člen v ciklu; preverjanje in končna odločitev sta prstana pristojnega človeka, ki lahko poda račun.

Aplikacijska naloga

Izberite nalogo iz svojega podjetja in ustvarite načrt s tremi obroči od konca do konca s predlogo 1: kaj bo proizvedel umetna inteligenca, kaj bo preveril strokovnjak, kaj bo organ zabeležil in odločil. Nato napišite vzorčni rezultat AI za to nalogo, uporabite samopreverjanje s petimi vprašanji z 2. predlogo in popravite pomanjkljivosti. Na koncu ustvarite kontrolni seznam za spremljanje s predlogo 3 za orodje za podporo odločanju, ki ga uporabljate.

kontrolni seznam

• [ ] Nalogo sem strukturiral v zanko s tremi obroči (ustvari / preveri / odloči).
• [ ] Srednje povezave nisem preskočil (preverjanje); Preveril sem vir in številke.
• [ ] Odgovoril sem na pet vprašanj o samokontroli; Če bi kaj manjkalo, bi šla.
• [ ] Prestal sem filtra zasebnosti in pravičnosti.
• [ ] Upošteval sem tveganje za sledenje modelom in korupcijo.
• [ ] Prevzel sem odgovornost z zapisom končne odločitve, njene utemeljitve in revizijske sledi.

Modulni izpit

1. Kreditni strokovnjak posreduje stranki razlog zavrnitve posojila, ki ga ustvari umetna inteligenca, ne da bi ga preveril. Kaj je temeljna napaka v tem pristopu?

• A) Izhodnih podatkov umetne inteligence ni mogoče uporabiti brez preverjanja; Osnutek obrazložitve odločbe mora pregledati in potrditi pooblaščeni strokovnjak ✔
• B) Umetna inteligenca vedno poda utemeljitev posojila kot negativno
• C) Stranki je treba povedati samo oceno namesto razloga
• D) Utemeljitev bi morala biti stranki posredovana po telefonu namesto po elektronski pošti.

Pojasnilo: Čeprav lahko umetna inteligenca ustvari dosledno utemeljitev, lahko z enako zanesljivostjo ustvari tudi napačno in celo diskriminatorno utemeljitev na podlagi napačnih podatkov ali napačnih predpostavk. Bančništvo je regulirano področje, ki je kritično glede zaupanja; Vsak rezultat mora biti strokovno verificiran, odločitev o dodelitvi kredita in končna utemeljitev pa pripadata pooblaščeni osebi.

2. Kakšno je najboljše obnašanje z vidika zaupnosti (KVKK in skrivnost stranke) pri prenosu transakcij bančnega računa stranke na orodje umetne inteligence?

• A) Polno ime stranke in izpisek računa morata biti naložena zaradi hitrosti.
• B) Z odstranitvijo podatkov, ki omogočajo osebno identifikacijo, in anonimiziranjem podatkov je treba v odobrenem varnem orodju deliti samo minimalne potrebne informacije ✔
• C) Če so podatki šifrirani, lahko ime in številko računa pošljete tudi kateremu koli vozilu
• D) Ker je namen dober, se lahko deli celoten zapis brez vprašanja stranke

Pojasnilo: Finančni podatki stranke so osebni podatki in skrivnost stranke v okviru bančnega prava. Identifikacijske informacije, kot so ime, TR ID, številka računa, je treba odstraniti in podatke anonimizirati; Deliti je treba minimalno količino podatkov, potrebnih za nalogo, in uporabljati je treba samo varna orodja, ki jih je odobrila institucija.

3. Umetna inteligenca ustvari utemeljitev za odločitev o modelu kreditnega točkovanja, kot je „zavrnitev, ker je soseska, v kateri prosilec živi, ​​tvegana“. Kaj naj stori strokovnjak?

• A) Utemeljitev je uporabljena takšna, kot je, ker model temelji na statistiki
• B) Podatki o okrožju so dodatno ponderirani in odločitev je okrepljena.
• C) To je lahko posredna diskriminacija prek proxy spremenljivke; Utemeljitev je treba zavrniti, odločitev pa mora temeljiti na legitimnih in razložljivih merilih ✔
• D) Razloga stranki ne povemo, le hranimo v datoteki, ne bo težav.

Pojasnilo: okrožje stalnega prebivališča je lahko nadomestna spremenljivka, močno povezana z etnično pripadnostjo ali podobnimi zaščitenimi značilnostmi, kar povzroča posredno diskriminacijo. Tovrstna utemeljitev je pravno in etično nesprejemljiva; Odločitev mora temeljiti na legitimnih, razložljivih in nediskriminatornih merilih, to utemeljitev pa je treba zavrniti.

4. V sistemu za odkrivanje goljufij umetna inteligenca označi transakcijo kot "visoko tveganje". Kakšen je najboljši pristop?

• A) Opozorilo je signal pred pregledom; Pravo goljufijo in lažni alarm je treba ločiti s strokovnim pregledom in pravnomočno presoditi ✔
• B) Transakcija je samodejno in trajno blokirana, pregled je nepotreben
• C) Opozorilo je prezrto, ker je večina opozoril lažnih
• D) Stranko pokličejo in jo neposredno obtožijo

Pojasnilo: Opozorilo umetne inteligence je predhodni pregled in signal verjetnosti, ne dokončna razsodba. Strokovnjak mora razlikovati med pravo goljufijo in lažno pozitivnimi rezultati, preiskati brez viktimizacije stranke in sprejeti končno odločitev; Opozorilo ne bi smelo samodejno trajno blokirati računa.

5. Kakšna je cena velikega števila lažno pozitivnih opozoril pri odkrivanju goljufij?

• A) Lažno pozitiven rezultat ne stane nič, več opozoril, bolje je
• B) ustvarja stisko strank in utrujenost zaradi alarma; Poveča tveganje, da bi prava goljufija ostala neopažena ✔
• C) Samo poveča porabo električne energije sistema
• D) Lažno pozitivno se pojavi le pri nočnih poslih

Pojasnilo: Lažni pozitivni rezultati povzročajo nevšečnosti in nezadovoljstvo z nepotrebnim oviranjem transakcij zakonitih strank; Prav tako ustvarja utrujenost pri analitikih, kar povečuje tveganje, da bodo prave goljufije spregledane. Zato bi morali biti pragovi in ​​pravila uravnoteženi, opozorilom pa dati prednost.

6. Katera je najbolj etično kritična meja pri oblikovanju segmentacije strank in personaliziranih kampanj?

• A) Čim ožji so segmenti, tem bolje, drugih omejitev ni
• B) Personalizacija je le tehnično vprašanje, ne zahteva etičnih meja
• C) Upravičenost, privolitev in nediskriminacija morajo biti zaščiteni; Preprečiti je treba izkoriščanje in manipulacijo ranljivih strank ✔
• D) Če bo kampanja vsem namenjena enako, ne bo etičnih težav.

Pojasnilo: Medtem ko je segmentacijo mogoče uporabiti v korist stranke (priporočilo primernega izdelka), jo je mogoče tudi zlorabiti za izkoriščanje ranljivosti (kot je trženje dodatnega kredita prezadolženi stranki). Zaščititi je treba načela primernosti, privolitve in nediskriminacije; personalizacija se ne sme spremeniti v manipulacijo.

7. Kakšna je najboljša varnostna politika za klepetalnega robota za pomoč strankam?

• A) Klepetalni robot naj bo sposoben sam sklepati vse vrste transakcij in finančnih nasvetov
• B) Pospešuje rutinske informacije; Pritožbe, občutljive nasvete in pooblaščene transakcije je treba prenesti na ljudi, nepreverjenih informacij ne smete posredovati ✔
• C) Chatbot lahko deli vse podatke o računu brez preverjanja identitete stranke
• D) Možnost človeške predaje je treba odstraniti, ker upočasnjuje chatbota.

Opis: Klepetalni robot varno posreduje pogosto zastavljene informacije in rutinske transakcije, vendar je treba pritožbe, občutljive finančne nasvete, pooblaščene transakcije na računu in dvoumne situacije prenesti na pooblaščenega zaposlenega. Poleg tega chatbot ne sme razkrivati ​​skrivnosti strank ali zagotavljati nepreverjenih informacij.

8. V postopkih AML/KYC umetna inteligenca označi transakcijo kot sumljivo. Kakšen je pravi pristop v smislu poročanja o sumljivih transakcijah (STR)?

• A) Če je model označen, mora biti obvestilo izvedeno samodejno, nadzornik za skladnost ni potreben
• B) Opozorilo je prezrto, ker je večina transakcij zakonitih
• C) Transakcija je takoj sporočena stranki, saj obstaja sum pranja denarja.
• D) Rezultat modela je predhodni pregled in osnutek; Odločitev o STR sprejme pooblaščeni uradnik za skladnost, pri čemer se ohrani utemeljitev in revizijska sled ✔

Opis: Spremljanje in skeniranje transakcij z umetno inteligenco hitro zaznamuje potencialno sumljive vzorce, vendar je poročanje o sumljivih transakcijah (STR/SAR) odločitev s pravnimi posledicami in se sprejme po presoji pooblaščenega uradnika za skladnost. Rezultat modela je predhodni in osnutek; Revizijsko sled in utemeljitev je treba ohraniti.

9. Pri pregledu seznama sankcij/PEP (politično izpostavljena oseba) se umetna inteligenca ujema z imenom, vendar je to lahko napačno ujemanje. Kakšen je pravi pristop?

• A) Ujemanje mora biti potrjeno z dodatnimi identifikatorji (datum rojstva, državljanstvo); Odločitev mora sprejeti pooblaščenec za skladnost ✔
• B) Podobnost imena zadostuje, stranki se takoj razglasi sankcija
• C) Vsa ujemanja se obravnavajo kot napačna in se prezrejo
• D) Odločitev je prepuščena chatbotu

Pojasnilo: skeniranje imen lahko povzroči lažno pozitivne rezultate zaradi podobnih imen. Nadzornik za skladnost mora potrditi ujemanje z datumom rojstva, državljanstvom in drugimi identifikatorji; Napačna razglasitev stranke za sankcionirano ali izpuščanje pravega ujemanja imata resne posledice. Odločitev pripada človeku.

10. Izdelali ste osnutek vodstvenega poročila z umetno inteligenco; Poročilo vključuje četrtletne podatke o dobičku. Kaj je najbolj kritičen korak pred podpisom?

• A) Vse kritične številke v poročilu je treba ponovno preveriti glede na izvorne podatke; Končna odgovornost za podpis je na človeku ✔
• B) Umetna inteligenca daje številke brez napak, preverjanje je izguba časa
• C) Preverjena je le oblika, da bo poročilo videti lepše.
• D) Poročilo se pošlje neposredno višjemu vodstvu, kontrola se izvede kasneje

Pojasnilo: umetna inteligenca lahko napačno predstavi številske vrednosti, si jih izmisli ali povzame v neskladju z izvornimi podatki. Vse kritične številke je treba ponovno preveriti glede na izvorne podatke, preden je poročilo podpisano; Čeprav avtomatizacija zagotavlja hitrost, je končna odgovornost za podpis na človeku.

11. Umetna inteligenca analizira finančne izkaze podjetja in pravi, da je podjetje zelo trdno, posojilo je vsekakor treba dati. Kakšna je odgovornost finančnega analitika?

• A) Sprejemanje besedila takšnega kot je, ker umetna inteligenca pozna finance brez napak
• B) Preračunavanje razmerij iz izvornih tabel in dvom o predpostavkah; Sprejemanje končne odločitve kot človek, navedba negotovosti ✔
• C) Predložitev odločitve neposredno odboru kot "odobren AI"
• D) Zavrnitev posojila, ne da bi sploh prebrali analizo

Pojasnilo: Finančna analiza je odvisna od predpostavk in točnosti vnosa; AI lahko napačno izračuna stopnje, prezre manjkajoče podatke ali uporabi preveč natančen jezik. Analitik mora ponovno izračunati obrestne mere iz izvornih tabel, podvomiti v predpostavke in sprejeti končno kreditno odločitev človeško, pri čemer se navaja na negotovost.

12. Čeprav kreditni model morda ne uporablja neposredno zaščitene značilnosti, kot je spol ali etnična pripadnost, jih lahko posredno odraža prek poštne številke in podatkov o nakupovanju. Kako se imenuje ta situacija in zakaj je tvegana?

• A) To se imenuje prekomerno učenje in bo samo zmanjšalo natančnost
• B) To se imenuje uhajanje podatkov in je samo težava s hitrostjo
• C) To se imenuje posredna diskriminacija prek proxy spremenljivke; je nezakonito in ga je treba preveriti s testi poštenosti ✔
• D) To se imenuje normalizacija in je popolnoma neškodljivo

Pojasnilo: Spremenljivke, ki so močno povezane z zaščiteno lastnostjo, se imenujejo spremenljivke proxy. Tudi če model ne uporablja zaščitene funkcije neposredno, lahko diskriminira posredno prek posrednikov. To je nezakonito in neetično; Modele je treba preizkusiti z meritvami pravičnosti in nadzorovati nadomestno tveganje.

13. Banka pri odločanju o kreditih uporablja model umetne inteligence. Kaj je ena najosnovnejših zahtev glede zakonodaje in revidabilnosti?

• A) Bolj ko je model zapleten in nerazumljiv, varnejši je
• B) Vodenje evidenc je nepotrebno, odločitve se lahko ustno obrazložijo
• C) Kupčevo pravico do ugovora je treba odstraniti, ker upočasnjuje proces
• D) Model mora biti razložljiv, ohraniti je treba utemeljitev odločitve in revizijsko sled, stranka mora imeti pravico do ugovora/človeškega pregleda ✔

Pojasnilo: V reguliranih procesih odločanja mora biti model razložljiv, utemeljitev odločitve mora biti dokumentirana, voditi je treba evidenco (revizijsko sled), stranka pa mora imeti pravico do ugovora/zahteve človeškega pregleda. Neupravičena odločitev modela 'črne skrinjice' ni revidirana in ni v skladu z zakonodajo.

14. Kako ključno načelo, poudarjeno skozi modul, opisuje vlogo umetne inteligence v bančništvu?

• A) Umetna inteligenca lahko nadomesti izkušene bančnike in sama dokonča posojila in obvestila
• B) Umetna inteligenca se uporablja samo za trženje, ne za odločanje
• C) Izhod umetne inteligence je varen tudi brez preverjanja, ker temelji na statistiki
• D) Umetna inteligenca je pomočnik in generator osnutka; Dodelitev kredita, presoja goljufij/skladnosti in končna odločitev so v pristojnosti pooblaščene osebe ✔

Opis: AI pospeši ponavljajoče se naloge kot pomočnik, predpreglednik in generator osnutkov; Ker pa delujemo na reguliranem področju, ki je kritično do zaupanja, je končna odločitev glede dodelitve kredita, zagotavljanja prevar/skladnosti in stranke v pristojnosti pooblaščene osebe (pooblaščeni bančnik in komisija za odločanje). Nepreverjen rezultat je nepodpisan osnutek odločbe.