Jedinica 11 / 11

End-to-end tijek rada, model upravljanja i samorevizija

Dobici:

  • Sposobnost sigurnog upravljanja bankovnim zadatkom od kraja do kraja s ciklusom 'AI proizvodi → stručnjak provjerava → ovlašten odlučuje'
  • Sposobnost sigurnog ugrađivanja umjetne inteligencije u okvir upravljanja modelom, validacije, praćenja i stalnog poboljšanja
  • Sposobnost preuzimanja konačne odgovornosti samoprovjerom rezultata s pet ključnih pitanja (provjera autentičnosti, izvor, povjerljivost, poštenje, odobrenje)

Kroz ovaj modul pozicioniramo AI kao pomoćnika i generatora nacrta u svakom kutku bankarstva – kredit, prijevara, segmentacija, korisnička služba, usklađenost, izvješćivanje, financijska analiza. U ovoj završnoj jedinici spajamo dijelove: kako izvodite bankarski zadatak od početka do kraja u sigurnoj petlji, kako model upravljanja uokviruje tu petlju i s kojih pet pitanja sami provjeravate svaki rezultat? Cilj je destilirati ono što ste naučili u jedan refleks: AI proizvodi → stručnjak provjerava → stručnjak odlučuje. Ovaj ciklus je način za održavanje brzine i sigurnosti u isto vrijeme.

Petlja od kraja do kraja: tri prstena

Zamislite svaki bankarski zadatak kao lanac od tri karike:

  1. AI proizvodi (prsten nacrta): Anonimno, s minimalnim podacima, AI dobiva zadatak nacrta/provjere — sažetak, obrazloženje nacrta, upozorenje, nacrt računa. Ne postoji tu odluka, samo materijal.
  2. Stručnjak provjerava (filtarski prsten): Izlaz je povezan s izvorom, brojevi se ponovno izračunavaju, filtriraju kroz politiku/zakonodavstvo i pravednost. Ovdje su eliminirane halucinacije, diskriminacija i narušavanje privatnosti.
  3. Tijelo donosi odluku (potpisni prsten): Konačnu prosudbu — kredit, STR, odluka o prijevari, potpis izvješća — donosi ovlaštena osoba/povjerenstvo; Opravdanje i revizijski trag se bilježe.

Potraga

AI proizvodi

Stručnjak potvrđuje

nadležna odluka

kredit

Obrazloženje nacrta

Omjer/izvor/poštenost

Odluka o dodjeli

prijevara

Upozorenje o anomaliji

Kontekst/potvrda kupca

Blokiraj/slobodno pravilo

AML

Uzorak/podudaranje

Provjera neusklađenosti

STR odluka

izvješće

Nacrt teksta/broja

Numerička provjera

potpis

Analiza

Ocijenite/komentirajte nacrt

Preračun/pretpostavka

Mišljenje o ulaganju/kreditu

Savjet: poveznica koja se najčešće preskače u petlji je srednja "potvrda". Pod pritiskom ljudi skaču s nacrta na odluku. No, upravo taj srednji prsten određuje i vrijednost i rizik. Preskakanje provjere prekida ciklus.

Model upravljanja: sustav koji uokviruje petlju

Osim pojedinačnih zadataka, banka mora upravljati svojim modelima kao cjelinom. Model upravljanja sastoji se od sljedećih komponenti:

  • Validacija: Model se neovisno testira prije nego što se stavi u uporabu; Njegova se točnost, pravednost i granice mjere.
  • Praćenje: model se može pogoršati tijekom vremena (odstupanje podataka — performanse se smanjuju kada se distribucija ulaza promijeni). Stalno se prati.
  • Dokumentacija: dokumentirano je što model radi, s kojim je podacima obučen, njegova ograničenja i odgovorni.
  • Uloga i odgovornost: Jasno je definirano tko proizvodi, tko provjerava, tko odlučuje.
  • Pregled i poboljšanje: Greške se bilježe, model se povremeno ponovno procjenjuje.
Oprez: Model koji dobro funkcionira neće dobro funkcionirati zauvijek. Ekonomski uvjeti, ponašanje kupaca i taktike prijevara se mijenjaju; Ako model ne može držati korak s tim, počinje tiho falsificirati. Bez praćenja, ova degradacija prolazi nezapaženo.

Samoprovjera od pet pitanja

Prije korištenja svakog AI izlaza, postavite si ovih pet pitanja:

  1. Provjera: Jesam li povezao ovaj izlaz s izvorom i ponovno izračunao kritične brojeve?
  2. Izvor: Temelji li se svaka tvrdnja na stvarnom dokumentu/podacima/pravilu ili može biti izmišljena?
  3. Privatnost: Jesu li podaci o identitetu anonimizirani, koriste li se minimalni podaci i odobreni alati?
  4. Pravednost: sadrži li rezultat diskriminaciju zaštićenog vlasništva ili surogat varijable?
  5. Odobrenje: Je li konačna odluka donijeta od strane ovlaštene osobe, obrazloženje i evidentirani revizijski trag?

Ako je čak i jedan od pet "ne", izlaz nije spreman za upotrebu.

Četiri predloška za kopiranje

1) Plan misije od kraja do kraja:

Vaša uloga: pomoćnik koji mi pomaže planirati bankarski zadatak u sigurnoj petlji. Zadatak: [zadatak]. Upišite me u ova tri kruga: (1) kakav će nacrt izraditi AI, (2) koje će korake provjere poduzeti stručnjak, (3) koju će odluku službenik donijeti i zabilježiti? Prijedlog odluke; Pojavljuje se kostur procesa.

2) Aplikacija samokontrole s pet pitanja:

Provjerite sljedeći AI izlaz s pet pitanja: provjera, porijeklo, privatnost, pravednost, odobrenje. Za svako pitanje ocijenite "u redu / nepotpuno / rizično" i napišite kako popraviti nedostatke. Izlaz: [tekst]

3) Bilješka o provjeri praćenja modela:

Vaša uloga: model asistent upravljanja. Za model potpore odlučivanju koji koristimo, pretvorite pokazatelje koje je potrebno redovito pratiti (uspješnost, međugrupna pravednost, signali kretanja podataka, zapisi o pogreškama) u kontrolni popis. Odlučivanje; Predložite okvir za praćenje.

4) Zatvaranje slučaja i revizijski trag:

Napravite završnu bilješku za revizijski trag na kraju angažmana: koji je nacrt izrađen, koje su provjere napravljene, koju je odluku tko donio, s kojim obrazloženjem. Koristite samo provjerene informacije koje sam dao. Unos: [informacije]

Slab upit / Jak upit

Slab upit:

Ti riješi taj zadatak od početka do kraja i daj mi rezultat kao gotovu odluku, pa se neću zamarati detaljima.

Svodi tri zvona na jedan korak, zaobilazi provjeru i ljudsku prosudbu i zamagljuje odgovornost.

Snažan upit:

Vaša uloga: pomoćnik u procesu, a ne donositelj odluka. Prvo izradite nacrt zadatka, zatim navedite točke koje trebam provjeriti i na kraju me podsjetite da su odluka i revizijski trag moji. Dodajte pet pitanja za samoprovjeru (provjera autentičnosti, izvor, povjerljivost, poštenje, odobrenje) u izlaz.

Snažna volja štiti tri prstena, zahtijeva provjeru i prepušta odluku osobi.

tri mini kućišta

Slučaj 1 — Ciklus radi u potpunosti. U zahtjevu za kredit, AI proizvodi nacrt opravdanja (prsten 1); stručnjak ponovno izračunava stope, provjerava opravdanost za pravednost, briše izraz surogat varijable (prsten 2); službenik donosi odluku o dodjeli i bilježi revizijski trag (prsten 3). Za 20 minuta dolazi sigurna i obranjiva odluka.

Slučaj 2 — Praćenje bilježi degradaciju. Dok obrazac prijevare mjesecima dobro funkcionira, stopa ulova tiho opada zbog nove taktike prijevare. Praćenje prema modelu upravljanja primjećuje ovaj pad; Model je ažuriran. Bez nadzora gubici bi i dalje rasli.

Slučaj 3 — Samokontrola sprječava kršenje. Analitičar će izravno poslati AI izlaz za brzo izvješće. Primjenjuje pet pitanja: primjećuje da brojka dobiti nije potvrđena u "izvornom" pitanju. Kontrole iz izvora; broj je pogrešan. Trideset sekundi samoprovjere sprječava slanje lažne slike upravi.

Jasnoća uloga: tko proizvodi, tko provjerava, tko odlučuje

Ciklus s tri prstena siguran je samo kada su uloge jasne. Najčešći kvar je zamagljeno područje gdje su “svi odgovorni, ali nitko nije odgovoran”: nacrt je napravio AI, nitko ga nije u potpunosti provjerio, a odluka je ostala bez nadzora jer je “napustila sustav”. U ovu prazninu najlakše ulaze pogreške.

U zdravoj fikciji, svaki prsten ima vlasnika:

  • Generator (asistent + korisnik): Anonimna osoba koja traži nacrt i priprema unos s minimalnim podacima.
  • Verifikator (stručnjak): Netko tko povezuje izlaz s izvorom, ponovno izračunava brojeve i filtrira ih radi pravednosti i povjerljivosti. Ova se uloga nikad ne preskače.
  • Donositelj odluke (tijelo/odbor): Tijelo koje donosi konačnu odluku i potpisuje obrazloženje i revizijski trag.

Ponekad ista osoba preuzima više uloga; To nije problem, sve dok pazite da je svaka poveznica napravljena svjesno i snimljena. Problem je što je prsten ostavljen prazan uz pretpostavku da je "netko to sigurno učinio".

Savjet: Nakon što donesete odluku, zapitajte se "Tko je isključivi vlasnik ove odluke?" pitati. Ako odgovor nije jasno ime, to znači da je lanac odgovornosti prekinut; Ponovno pokrenite petlju.

Uobičajene greške

  • Preskakanje srednjeg prstena. Prelazak izravno s nacrta na odluku i preskakanje provjere.
  • Prebacivanje odgovornosti na model. Reći "AI će to riješiti" i ne posjedovati konačnu odluku i potpis.
  • Razmišljam o postavljanju modela i zaboravljanju. Ostavljanje modela koji je jednom dobro funkcionirao neslijeđen; ne vidi pomicanje podataka.
  • Ne ostavljajući revizijski trag. Ne bilježi se tko je kakvu odluku donio i zašto.
  • Zaobilazeći samokontrolu. Korištenje rezultata bez postavljanja pet pitanja.
Savjet: neka vam samoprovjera od pet pitanja postane navika; Postaje automatski s vremenom i traje nekoliko sekundi. Mnoge od najvećih pogrešaka događaju se kada se propusti tih nekoliko sekundi kontrole.

Ukratko

Korištenje sigurne umjetne inteligencije u bankarstvu je ciklus od tri prstena: AI proizvodi, stručnjak provjerava, autoritet donosi odluke. Upravljanje modelom (provjera valjanosti, praćenje, dokumentacija, odgovornost, poboljšanje) uokviruje ovaj ciklus. Samoprovjerite svaki rezultat s pet pitanja — provjera autentičnosti, izvor, povjerljivost, pravednost, odobrenje; Ako čak i jedan nedostaje, izlaz nije spreman. Model se može pokvariti; praćenje je bitno. Odgovornost uvijek leži na osobi. Jednom rečenicom: Umjetna inteligencija je prva karika u ciklusu; provjera i konačna odluka su prstenovi kompetentnog čovjeka koji može dati račun.

Zadatak aplikacije

Odaberite zadatak iz vlastite tvrtke i izradite sveobuhvatni plan s tri prstena s predloškom 1: što će umjetna inteligencija proizvesti, što će stručnjak provjeriti, što će tijelo zabilježiti i odlučiti. Zatim napišite primjer izlaza umjetne inteligencije za taj zadatak, primijenite samoprovjeru od pet pitanja s 2. predloškom i ispravite nedostatke. Na kraju, izradite kontrolni popis za praćenje s predloškom 3 za alat za podršku odlučivanju koji koristite.

popis za provjeru

  • [ ] Zadatak sam strukturirao u petlju s tri prstena (generiraj / potvrdi / odluči).
  • [ ] Nisam preskočio srednji link (provjera); Provjerio sam izvor i brojke.
  • [ ] Odgovorio sam na pet pitanja o samokontroli; Da je nešto falilo, otišao bih.
  • [ ] Prošao sam filtre privatnosti i pravednosti.
  • [ ] Uzeo sam u obzir rizik od praćenja modela i kvara.
  • [ ] Preuzeo sam odgovornost bilježeći konačnu odluku, njezino obrazloženje i revizijski trag.

Modul ispit

1. Kreditni stručnjak klijentu prenosi razlog odbijanja kredita koji je generirao umjetna inteligencija bez provjere. Koja je temeljna pogreška u ovom pristupu?

  • A) Izlaz umjetne inteligencije ne može se koristiti bez provjere; Nacrt obrazloženja rješenja mora pregledati i odobriti ovlaštena stručna osoba ✔
  • B) Umjetna inteligencija uvijek daje obrazloženje zajma kao negativno
  • C) Kupcu treba reći samo rezultat umjesto razloga
  • D) Obrazloženje je kupcu trebalo prenijeti telefonom umjesto e-mailom.

Objašnjenje: Dok umjetna inteligencija može proizvesti dosljedno opravdanje, ona također može proizvesti pogrešno, pa čak i diskriminirajuće opravdanje s istom pouzdanošću na temelju pogrešnih podataka ili pogrešnih pretpostavki. Bankarstvo je regulirano područje, kritično za povjerenje; Svaki izlaz mora biti verificiran od strane stručnjaka, a odluka o dodjeli kredita i konačno obrazloženje mora pripadati ovlaštenoj osobi.

2. Koje je najbolje ponašanje u smislu povjerljivosti (KVKK i korisnička tajna) prilikom prijenosa transakcija na bankovnom računu korisnika u alat umjetne inteligencije?

  • A) Puno ime i prezime kupca i izvod s računa trebaju se prenijeti radi brzine.
  • B) Uklanjanjem podataka koji otkrivaju identitet i anonimiziranjem podataka, samo minimalne potrebne informacije trebaju se dijeliti u odobrenom sigurnom alatu ✔
  • C) Ako su podaci šifrirani, ime i broj računa također se mogu poslati bilo kojem vozilu
  • D) Budući da je svrha dobra, cijeli se prijepis može podijeliti bez pitanja kupca

Objašnjenje: Financijski podaci klijenta su i osobni podaci i tajna klijenta u okviru bankarskog prava. Identifikacijske informacije poput imena, TR ID-a, broja računa treba ukloniti, a podatke anonimizirati; Treba dijeliti minimum podataka potrebnih za zadatak i koristiti samo sigurne alate koje je odobrila institucija.

3. Umjetna inteligencija daje obrazloženje za odluku o modelu kreditnog bodovanja, kao što je 'odbijanje jer je susjedstvo u kojem podnositelj zahtjeva živi rizično'. Što stručnjak treba učiniti?

  • A) Obrazloženje se koristi takvo kakvo jest jer se model temelji na statistici
  • B) Informacije o distriktu se dodatno ponderiraju i odluka se učvršćuje.
  • C) Ovo može biti neizravna diskriminacija kroz proxy varijablu; Obrazloženje se mora odbaciti, a odluka mora biti utemeljena na legitimnim i objašnjivim kriterijima ✔
  • D) Razlog se ne kaže kupcu, samo se čuva u datoteci, neće biti problema.

Objašnjenje: Okrug prebivališta može biti zamjenska varijabla usko povezana s etničkom pripadnošću ili sličnim zaštićenim karakteristikama, stvarajući neizravnu diskriminaciju. Ova vrsta opravdanja je pravno i etički neprihvatljiva; Odluka se mora temeljiti na legitimnim, objašnjivim i nediskriminirajućim kriterijima, a to se opravdanje mora odbaciti.

4. U sustavu za otkrivanje prijevara, umjetna inteligencija označava transakciju kao 'visoko rizičnu'. Koji je najbolji pristup?

  • A) Upozorenje je signal prije pregleda; Pravu prijevaru od lažne uzbune potrebno je vještačenjem razlučiti, a konačnu prosudbu donijeti ljudski ✔
  • B) Transakcija je automatski i trajno blokirana, pregled je nepotreban
  • C) Upozorenje se zanemaruje jer je većina upozorenja lažna
  • D) Kupac je pozvan i izravno okrivljen

Objašnjenje: AI upozorenje je preliminarni pregled i signal vjerojatnosti, a ne konačna presuda. Na stručnjaku je da napravi razliku između prave prijevare i lažno pozitivnih rezultata, da istraži bez viktimizacije kupca i da donese konačnu odluku; Upozorenje ne bi trebalo automatski trajno blokirati račun.

5. Kolika je cijena velikog broja lažno pozitivnih upozorenja u otkrivanju prijevara?

  • A) Lažno pozitivno ne košta ništa, što više upozorenja to bolje
  • B) Stvara uznemirenost kupaca i umor od alarma; Povećava rizik da prava prijevara prođe nezapaženo ✔
  • C) Samo povećava potrošnju električne energije sustava
  • D) Lažno pozitivno javlja se samo u noćnim trgovinama

Objašnjenje: lažni pozitivni rezultati stvaraju neugodnosti i nezadovoljstvo nepotrebnim ometanjem transakcija legitimnih kupaca; To također stvara umor kod analitičara, povećavajući rizik da će stvarna prijevara biti previđena. Stoga bi pragove i pravila trebalo uravnotežiti, a upozorenjima dati prioritet.

6. Koja je etički najkritičnija granica pri dizajniranju segmentacije kupaca i personaliziranih kampanja?

  • A) Što su segmenti uži, to bolje, nema drugih ograničenja
  • B) Personalizacija je samo tehničko pitanje, ne zahtijeva etičke granice
  • C) Podobnost, pristanak i nediskriminacija moraju biti zaštićeni; Iskorištavanje i manipulacija ranjivim kupcima mora se spriječiti ✔
  • D) Ako se kampanja svima šalje jednako, neće biti etičkih problema.

Objašnjenje: Dok se segmentacija može koristiti za dobrobit kupca (prikladna preporuka za proizvod), također se može zloupotrijebiti za iskorištavanje ranjivosti (kao što je reklamiranje dodatnog kredita prezaduženom kupcu). Načela prikladnosti, pristanka i nediskriminacije moraju biti zaštićena; personalizacija se ne smije pretvoriti u manipulaciju.

7. Koja je najbolja sigurnosna politika za chatbot korisničke službe?

  • A) Chatbot bi trebao moći samostalno zaključivati sve vrste transakcija i financijskih savjeta
  • B) Ubrzava rutinske informacije; Pritužbe, osjetljive savjete i ovlaštene transakcije treba prepustiti ljudima, neprovjerene informacije ne smiju se davati ✔
  • C) Chatbot može dijeliti sve podatke o računu bez provjere identiteta korisnika
  • D) Opciju ljudske primopredaje treba ukloniti jer usporava chatbot.

Opis: Chatbot sigurno ubrzava često tražene informacije i rutinske transakcije, ali pritužbe, osjetljive financijske savjete, ovlaštene transakcije na računu i dvosmislene situacije treba delegirati ovlaštenom zaposleniku. Osim toga, chatbot ne bi trebao otkrivati ​​korisničke tajne niti pružati neprovjerene informacije.

8. U AML/KYC procesima, umjetna inteligencija označava transakciju kao sumnjivu. Koji je ispravan pristup u smislu prijavljivanja sumnjivih transakcija (STR)?

  • A) Ako je model označen, obavijest bi se trebala izvršiti automatski, službenik za usklađenost nije potreban
  • B) Upozorenje se zanemaruje jer je većina transakcija legitimna
  • C) Transakcija se odmah prijavljuje kupcu jer "postoji sumnja na pranje novca"
  • D) Izlaz modela je preliminarni pregled i nacrt; Odluku o STR donosi ovlašteni službenik za usklađenost, čuvajući opravdanje i revizijski trag ✔

Opis: Praćenje i skeniranje transakcija pomoću umjetne inteligencije brzo označava potencijalno sumnjive obrasce, ali izvješćivanje o sumnjivim transakcijama (STR/SAR) odluka je s pravnim posljedicama i donosi se prema prosudbi ovlaštenog službenika za usklađenost. Izlaz modela je preliminarni i nacrt; Revizijski trag i obrazloženje moraju se sačuvati.

9. Na popisu sankcija/provjeri PEP (politički izložene osobe), umjetna inteligencija odgovara imenu, ali to može biti lažno podudaranje. Koji je pravi pristup?

  • A) Podudaranje mora biti potvrđeno dodatnim identifikatorima (datum rođenja, nacionalnost); Odluku mora donijeti službenik za usklađenost ✔
  • B) Sličnost imena je dovoljna, kupac se odmah proglašava sankcioniranim
  • C) Sva podudaranja smatraju se lažnim i ignoriraju
  • D) Odluka je prepuštena chatbotu

Objašnjenje: skeniranje imena može proizvesti lažne rezultate zbog sličnih imena. Službenik za usklađenost mora potvrditi podudaranje s datumom rođenja, nacionalnošću i drugim identifikatorima; Pogrešno proglašavanje korisnika sankcioniranim ili propuštanje pravog podudaranja ima ozbiljne posljedice. Odluka pripada čovjeku.

10. Napravili ste nacrt izvješća o upravljanju s umjetnom inteligencijom; Izvješće uključuje kvartalne podatke o dobiti. Koji je najkritičniji korak prije potpisivanja?

  • A) Sve kritične brojeve u izvješću treba ponovno provjeriti prema izvornim podacima; Konačna odgovornost za potpis leži na ljudskom biću ✔
  • B) Umjetna inteligencija daje brojeve bez grešaka, provjera je gubljenje vremena
  • C) Provjerava se samo format kako bi izvještaj izgledao ljepše.
  • D) Izvješće se šalje izravno višem menadžmentu, kontrola se vrši kasnije

Objašnjenje: Umjetna inteligencija može krivo predstavljati numeričke vrijednosti, izmišljati ih ili sažimati nedosljedno s izvornim podacima. Sve kritične brojke treba ponovno provjeriti u odnosu na izvorne podatke prije potpisivanja izvješća; Iako automatizacija osigurava brzinu, konačna odgovornost za potpis leži na čovjeku.

11. Umjetna inteligencija analizira financijska izvješća tvrtke i kaže 'firma je vrlo solidna, zajam svakako treba dati'. Koja je odgovornost financijskog analitičara?

  • A) Prihvaćanje teksta kakav jest, jer umjetna inteligencija poznaje financije bez greške
  • B) Ponovno izračunavanje omjera iz izvornih tablica i propitivanje pretpostavki; Donošenje konačne odluke kao čovjek, izražavanje neizvjesnosti ✔
  • C) Predstavljanje odluke izravno odboru kao 'odobreno AI'
  • D) Odbijanje kredita bez čitanja analize uopće

Objašnjenje: Financijska analiza ovisi o pretpostavkama i točnosti ulaznih podataka; AI može pogrešno izračunati stope, zanemariti podatke koji nedostaju ili koristiti precizan jezik. Analitičar mora ponovno izračunati stope iz izvornih tablica, preispitati pretpostavke i donijeti konačnu kreditnu odluku ljudski, pozivajući se na neizvjesnost.

12. Iako kreditni model ne mora izravno koristiti zaštićene karakteristike kao što su spol ili etnička pripadnost, može ih neizravno odražavati putem poštanskog broja i podataka o kupnji. Kako se zove ova situacija i zašto je rizična?

  • A) To se zove prekomjerno učenje i samo će smanjiti točnost
  • B) To se zove curenje podataka i samo je problem brzine
  • C) Ovo se zove neizravna diskriminacija kroz proxy varijablu; je nezakonito i mora se provjeriti testovima poštenja ✔
  • D) To se zove normalizacija i potpuno je bezopasno

Objašnjenje: Varijable koje su snažno povezane sa zaštićenim svojstvom nazivaju se proxy varijable. Čak i ako model ne koristi zaštićenu značajku izravno, može diskriminirati neizravno putem proxyja. To je i protuzakonito i neetično; Modele treba testirati metrikom pravednosti, a proxy rizik treba kontrolirati.

13. Banka koristi model umjetne inteligencije u kreditnim odlukama. Koji je jedan od najosnovnijih zahtjeva u smislu zakonodavstva i mogućnosti revizije?

  • A) Što je model složeniji i nerazumljiviji, to je sigurniji
  • B) Vođenje evidencije je nepotrebno, odluke se mogu usmeno obrazložiti
  • C) Kupcu treba ukinuti pravo na prigovor jer to usporava proces
  • D) Model bi trebao biti objašnjiv, obrazloženje odluke i revizijski trag bi se trebali čuvati, kupcu bi trebalo dati pravo na prigovor/ljudski pregled ✔

Objašnjenje: U reguliranim procesima odlučivanja, model mora biti objašnjiv, obrazloženje odluke mora biti dokumentirano, mora se voditi zapis (revizijski trag), a kupcu se mora dati pravo na prigovor/zahtjev za ljudski pregled. Neopravdana odluka modela 'crne kutije' ne može se revidirati i nije u skladu sa zakonodavstvom.

14. Kako ključno načelo naglašeno kroz cijeli modul opisuje ulogu umjetne inteligencije u bankarstvu?

  • A) Umjetna inteligencija može zamijeniti iskusne bankare i sama finalizirati kredite i obavijesti
  • B) Umjetna inteligencija se koristi samo za marketing, a ne za donošenje odluka
  • C) Izlaz umjetne inteligencije siguran je čak i bez provjere jer se temelji na statistici
  • D) Umjetna inteligencija je pomoćnik i generator nacrta; Dodjela kredita, prosudba prijevare/usklađenosti i konačna odluka ostaju na ovlaštenoj osobi ✔

Opis: AI ubrzava zadatke koji se ponavljaju kao pomoćnik, prethodni pregled i generator nacrta; No budući da radimo u reguliranom području koje je kritično za povjerenje, konačna odluka u vezi s dodjelom kredita, osiguranjem prijevare/sukladnosti i klijentom odgovornost je ovlaštene osobe (ovlašteni bankar i komisija za odlučivanje). Nepotvrđeni rezultat je nepotpisani nacrt odluke.