Pilnīga darbplūsma, modeļu pārvaldība un pašrevīzija

Ieguvumi:

• Spēja droši veikt bankas uzdevumu no gala līdz galam, izmantojot ciklu “AI ražo → eksperts pārbauda → pilnvarots nolemj”
• Spēja droši iegult mākslīgo intelektu modeļu pārvaldības, validācijas, uzraudzības un nepārtrauktas uzlabošanas ietvaros
• Spēja uzņemties galīgo atbildību, pašpārbaudot savu rezultātu, uzdodot piecus galvenos jautājumus (autentifikācija, avots, konfidencialitāte, godīgums, apstiprināšana)

Visā šajā modulī mēs pozicionējam AI kā palīgu un plānu ģeneratoru visos banku darbības stūros — kredītu, krāpšanas, segmentācijas, klientu apkalpošanas, atbilstības, ziņošanas, finanšu analīzes jautājumos. Šajā pēdējā daļā mēs apkopojām detaļas: kā jūs izpildāt bankas uzdevumu no sākuma līdz beigām drošā cilpā, kā modelē šo cilpu pārvaldības ietvaros un ar kādiem pieciem jautājumiem jūs pārbaudāt katru rezultātu? Mērķis ir apkopot apgūto vienā refleksā: AI rada → eksperts pārbauda → eksperts izlemj. Šis cikls ir veids, kā vienlaikus saglabāt ātrumu un drošību.

Cilpa no gala līdz galam: trīs gredzeni

Uztveriet katru bankas uzdevumu kā trīs posmu ķēdi:

1. AI rada (melnraksta gredzens): anonīms, ar minimāliem datiem, AI tiek dots uzmetuma/pārbaudes uzdevums — kopsavilkums, uzmetuma pamatojums, brīdinājums, konta projekts. Šeit nav nekāda lēmuma, ir tikai materiāls.
2. Eksperts pārbauda (filtra gredzens): izvade ir saistīta ar avotu, skaitļi tiek pārrēķināti, filtrēti, izmantojot politiku/likumdošanu un godīgumu. Šeit tiek novērstas halucinācijas, diskriminācija un privātuma aizskaršana.
3. Iestāde pieņem lēmumu (paraksta gredzens): Galīgo spriedumu – kredīts, STR, krāpšanas lēmums, ziņojuma paraksts – pieņem pilnvarotā persona/komisija; Tiek reģistrēts pamatojums un audita pēdas.

Meklējumi

AI ražo

Eksperts apstiprina

kompetents lēmums

kredīts

Pamatojuma projekts

Attiecība/avots/taisnīgums

Lēmums par piešķiršanu

krāpšana

Brīdinājums par anomāliju

Konteksts/klienta apstiprinājums

Bloķēts/bezmaksas nolēmums

AML

Raksts/atbilstība

Neatbilstības pārbaude

STR lēmums

Ziņojums

Teksta/numura melnraksts

Skaitliskā pārbaude

parakstu

Analīze

Novērtēt/komentēt melnrakstu

Pārrēķins/pieņēmums

Investīciju/kredīta atzinums

Padoms. Visbiežāk izlaistā saite cilpā ir vidējā “verifikācija”. Zem spiediena cilvēki pāriet no projekta uz lēmumu. Tomēr tieši šis vidējais gredzens nosaka gan vērtību, gan risku. Verifikācijas izlaišana pārtrauc ciklu.

Modeļa pārvaldība: sistēma, kas veido cilpu

Papildus atsevišķiem uzdevumiem bankai ir jāpārvalda savi modeļi kopumā. Modeļa pārvaldība sastāv no šādiem komponentiem:

• Validācija: modelis tiek neatkarīgi pārbaudīts pirms tā nodošanas ekspluatācijā; Tiek mērīta tā precizitāte, taisnīgums un robežas.
• Uzraudzība: modelis laika gaitā var pasliktināties (datu novirze — veiktspēja samazinās, mainoties ievades sadalījumam). Tas tiek pastāvīgi uzraudzīts.
• Dokumentācija: tiek dokumentēts, ko modelis dara, ar kādiem datiem tas ir apmācīts, tā ierobežojumi un atbildīgie.
• Loma un atbildība: Kas ražo, kurš pārbauda, ​​kurš lemj, ir skaidri noteikts.
• Pārskatīšana un uzlabošana: Kļūdas tiek reģistrētas, modelis tiek periodiski pārvērtēts.

Uzmanību: modelis, kas darbojas labi, nedarbosies labi mūžīgi. Mainās ekonomiskie apstākļi, klientu uzvedība un krāpšanas taktika; Ja modelis nespēj tiem sekot, tas sāk klusi viltot. Bez uzraudzības šī degradācija paliek nepamanīta.

Piecu jautājumu pašpārbaude

Pirms katras AI izvades izmantošanas uzdodiet sev šos piecus jautājumus:

1. Pārbaude: vai es savienoju šo izvadi ar avotu un pārrēķināju kritiskos skaitļus?
2. Avots: vai katra prasība ir balstīta uz reālu dokumentu/datiem/noteikumu, vai arī tā var būt safabricēta?
3. Privātums: vai identitātes dati ir anonimizēti, tiek izmantoti minimālie dati un apstiprinātie rīki?
4. Taisnīgums: vai iznākumā ir ietverta diskriminācija aizsargātā īpašuma vai aizstājējmainīgā dēļ?
5. Apstiprinājums: vai pilnvarotās personas pieņemtais galīgais lēmums, pamatojums un audita izsekojamība tika reģistrēta?

Ja kaut viens no pieciem ir "nē", izvade nav gatava lietošanai.

Četras kopējamas veidnes

1) Pilnīgs misijas plāns:

Jūsu loma: palīgs, kas palīdz man plānot bankas uzdevumu drošajā cilpā.Uzdevums: [uzdevums]. Aizpildiet mani ar šiem trim gredzeniem: (1) kādu melnrakstu izstrādās AI, (2) kādas pārbaudes darbības veiks eksperts, (3) kādu lēmumu pieņems un reģistrēs amatpersona? Lēmuma ierosināšana; Parādās procesa skelets.

2) Paškontroles lietojumprogramma ar pieciem jautājumiem:

Pārbaudiet šādu AI izvadi ar pieciem jautājumiem: verifikācija, izcelsme, privātums, godīgums, apstiprināšana. Katram jautājumam novērtējiet "ok / nepilnīgs / riskants" un uzrakstiet, kā novērst trūkumus. Izvade: [teksts]

3) Modeļa izsekošanas pārbaudes piezīme:

Jūsu loma: paraugpārvaldības palīgs. Mūsu izmantotajam lēmumu atbalsta modelim rādītājus, kas regulāri jāuzrauga (veiktspēja, starpgrupu godīgums, datu novirzes signāli, kļūdu ieraksti), pārvērtiet kontrolsarakstā. Lēmumu pieņemšana; Ieteikt uzraudzības sistēmu.

4) Lietas slēgšana un revīzijas liecības:

Darba uzdevuma beigās sagatavojiet audita izsekojamības noslēguma piezīmi: kāds projekts tika sagatavots, kādas pārbaudes veiktas, kādu lēmumu kurš pieņēma, ar kādu pamatojumu. Izmantojiet tikai pārbaudītu informāciju, ko sniedzu. Ievadiet: [informācija]

Vāja uzvedne / spēcīga uzvedne

Vāja uzvedne:

Jūs veicat šo uzdevumu no sākuma līdz beigām un sniedzat man rezultātu kā gatavu lēmumu, tāpēc es neuztraucos ar detaļām.

Tas samazina trīs zvanu signālus līdz vienam solim, apiet verifikāciju un cilvēka spriedumu un aizēno atbildību.

Spēcīga uzvedne:

Jūsu loma: procesa palīgs, nevis lēmumu pieņēmējs. Vispirms sagatavojiet uzdevuma izklāstu, pēc tam uzskaitiet punktus, kas man jāpārbauda, ​​un beigās atgādiniet, ka lēmums un audita izsekojamība ir mana. Pievienojiet izvadei piecus pašpārbaudes jautājumus (autentifikācija, avots, konfidencialitāte, godīgums, apstiprinājums).

Spēcīgā griba aizsargā trīs gredzenus, prasa pārbaudi un atstāj lēmumu cilvēka ziņā.

trīs mini futrāļi

1. gadījums — cikls darbojas pilnībā. Aizdevuma pieteikumā AI sagatavo pamatojuma uzmetumu (1. gredzens); eksperts pārrēķina likmes, pārbauda taisnīguma pamatojumu, notīra surogātmateriāla izteiksmi (2. gredzens); amatpersona pieņem lēmumu par piešķiršanu un fiksē revīzijas liecības (3. gredzens). 20 minūšu laikā tiek pieņemts drošs un attaisnojams lēmums.

2. gadījums — monitorings fiksē degradāciju. Lai gan krāpšanas modelis darbojas labi vairākus mēnešus, jaunas krāpšanas taktikas dēļ nozvejas līmenis mierīgi samazinās. Uzraudzība saskaņā ar modeļa pārvaldību pamana šo samazināšanos; Modelis ir atjaunināts. Bez uzraudzības zaudējumi turpinātu pieaugt.

3. gadījums — paškontrole novērš pārkāpumu. Analītiķis gatavojas tieši nosūtīt AI produkciju ātrai atskaitei. Viņš piemēro piecus jautājumus: viņš ievēro, ka peļņas rādītājs nav apstiprināts "avota" jautājumā. Vadības ierīces no avota; numurs ir nepareizs. Trīsdesmit sekunžu pašpārbaude novērš nepatiesa attēla nosūtīšanu vadībai.

Lomu skaidrība: kurš ražo, kurš pārbauda, kurš lemj

Trīs gredzenu cikls ir drošs tikai tad, ja lomas ir skaidras. Visizplatītākā kļūme ir izplūdušā zona, kurā “atbildīgi ir visi, bet neviens nav atbildīgs”: melnrakstu sagatavoja AI, neviens to pilnībā nepārbaudīja, un lēmums palika bez uzraudzības, jo tas “izgāja no sistēmas”. Šī plaisa ir vieta, kur kļūdas iekļūst visvieglāk.

Veselīgā daiļliteratūrā katram gredzenam ir īpašnieks:

• Ģenerators (asistents + lietotājs): Anonīms, persona, kas pieprasa melnrakstu un sagatavo ierakstu ar minimāliem datiem.
• Pārbaudītājs (eksperts): kāds, kurš saista izvadi ar avotu, pārrēķina skaitļus un filtrē to godīguma un konfidencialitātes labad. Šī loma nekad netiek izlaista.
• Lēmuma pieņēmējs (iestāde/komiteja): iestāde, kas pieņem galīgo lēmumu un paraksta pamatojumu un revīzijas liecības.

Dažreiz viena un tā pati persona uzņemas vairākas lomas; Tā nav problēma, ja vien pārliecināsities, ka katra saite tiek veidota apzināti un ierakstīta. Problēma ir tā, ka gredzens tiek atstāts tukšs ar pieņēmumu, ka "kāds to noteikti ir izdarījis".

Padoms. Pēc lēmuma pieņemšanas pajautājiet sev: "Kas ir šī lēmuma vienīgais īpašnieks?" jautāt. Ja atbilde nav skaidrs nosaukums, tas nozīmē, ka atbildības ķēde ir pārrauta; Restartējiet cilpu.

Biežas kļūdas

• Izlaižot vidējo gredzenu. Pārejot tieši no projekta uz lēmumu un izlaižot verifikāciju.
• Atbildības uzlikšana modelim. Sakot "AI to darīs" un nepiederot galīgajam lēmumam un parakstam.
• Domā par modeļa uzstādīšanu un aizmirst to. Atstājiet nesekošanu modelim, kas reiz darbojās labi; neredzu datu novirzi.
• Neatstājot revīzijas pēdas. Nereģistrē, kurš un kāpēc pieņēma lēmumu.
• Apejot paškontroli. Izvades izmantošana, neuzdodot piecus jautājumus.

Padoms: izveidojiet piecu jautājumu pašpārbaudi par ieradumu; Laika gaitā tas kļūst automātiski un aizņem sekundes. Daudzas no lielākajām kļūdām rodas, ja tiek izlaistas šīs dažas kontroles sekundes.

Rezumējot

Droša mākslīgā intelekta izmantošana banku darbībā ir trīs gredzenu cikls: AI ražo, eksperts pārbauda, iestāde pieņem lēmumus. Modeļa pārvaldība (validācija, uzraudzība, dokumentēšana, atbildība, uzlabošana) nosaka šo ciklu. Pašpārbaudiet katru rezultātu, uzdodot piecus jautājumus — autentifikācija, avots, konfidencialitāte, godīgums, apstiprināšana; Ja pat viena trūkst, izvade nav gatava. Modelis var salūzt; uzraudzība ir būtiska. Atbildība vienmēr gulstas uz cilvēku. Vienā teikumā: Mākslīgais intelekts ir pirmā saite ciklā; pārbaude un galīgais lēmums ir kompetenta cilvēka gredzeni, kas var sniegt atskaiti.

Lietojumprogrammas uzdevums

Izvēlieties uzdevumu no sava uzņēmuma un izveidojiet trīs gredzenu visaptverošu plānu ar 1. veidni: ko radīs AI, ko pārbaudīs eksperts, ko iestāde reģistrēs un izlems. Pēc tam uzrakstiet AI izvades paraugu šim uzdevumam, izmantojiet piecu jautājumu pašpārbaudi ar otro veidni un izlabojiet trūkumus. Visbeidzot, izveidojiet uzraudzības kontrolsarakstu ar 3. veidni izmantotajam lēmumu atbalsta rīkam.

kontrolsaraksts

• [ ] Es strukturēju uzdevumu trīs gredzenu cilpā (ģenerēt / pārbaudīt / izlemt).
• [ ] Es neizlaidu vidējo saiti (pārbaude); Es pārbaudīju avotu un skaitļus.
• [ ] Uzdevu piecus paškontroles jautājumus; Ja kaut kā pietrūktu, es ietu.
• [ ] Es izturēju privātuma un godīguma filtrus.
• [ ] Es ņēmu vērā modeļu izsekošanas un korupcijas risku.
• [ ] Es uzņēmos atbildību, reģistrējot galīgo lēmumu, tā pamatojumu un revīzijas liecības.

Moduļa eksāmens

1. Kredīteksperts nosūta klientam mākslīgā intelekta radīto kredīta atteikuma iemeslu, to nepārbaudot. Kāda ir galvenā kļūda šajā pieejā?

• A) mākslīgā intelekta izvadi nevar izmantot bez pārbaudes; Lēmuma projekts ir jāizskata un jāapstiprina pilnvarotam ekspertam ✔
• B) Mākslīgais intelekts vienmēr piešķir aizdevuma pamatojumu kā negatīvu
• C) Iemesla vietā klientam jāpasaka tikai rezultāts
• D) Pamatojums klientam bija jānosūta pa tālruni, nevis e-pastu.

Paskaidrojums: lai gan mākslīgais intelekts var radīt konsekventu pamatojumu, tas var radīt arī kļūdainu un pat diskriminējošu pamatojumu ar tādu pašu pārliecību, pamatojoties uz nepareiziem datiem vai nepareiziem pieņēmumiem. Banku darbība ir regulēta, uzticībai svarīga joma; Katrs iznākums ir jāpārbauda ekspertam, un kredīta piešķiršanas lēmumam un galīgajam pamatojumam jābūt pilnvarotajai personai.

2. Kāda ir vislabākā uzvedība konfidencialitātes (KVKK un klienta noslēpums) ziņā, pārskaitot klienta bankas konta darījumus uz mākslīgā intelekta rīku?

• A) Ātruma labad ir jāaugšupielādē klienta pilns vārds un konta izraksts.
• B) Noņemot personu identificējošu informāciju un anonimizējot datus, apstiprinātā drošā rīkā ir jākopīgo tikai minimālā nepieciešamā informācija ✔
• C) Ja dati ir šifrēti, vārdu un konta numuru var nosūtīt arī uz jebkuru transportlīdzekli
• D) Tā kā mērķis ir labs, visu stenogrammu var kopīgot, neprasot klientam

Paskaidrojums: Klientu finanšu dati ir gan personas dati, gan klienta noslēpums banku tiesību jomā. Identifikācijas informācija, piemēram, vārds, uzvārds, TR ID, konta numurs, ir jānoņem un dati jāanonimizē; Jākopīgojas ar minimālajiem uzdevuma veikšanai nepieciešamajiem datiem un jāizmanto tikai droši iestādes apstiprināti rīki.

3. Mākslīgais intelekts sniedz pamatojumu lēmumam par kredītvērtējuma modeli, piemēram, “noraidīšana, jo apkaime, kurā pieteikuma iesniedzējs dzīvo, ir riskants”. Kas būtu jādara ekspertam?

• A) Pamatojums tiek izmantots tāds, kāds ir, jo modeļa pamatā ir statistika
• B) Apgabala informācija tiek vēl vairāk izsvērta un lēmums tiek pastiprināts.
• C) tā var būt netieša diskriminācija, izmantojot aizstājēja mainīgo; Pamatojums ir jānoraida un lēmumam jābūt pamatotam uz leģitīmiem un izskaidrojamiem kritērijiem ✔
• D) Iemesls klientam netiek pateikts, tas vienkārši tiek glabāts kartotēkā, problēmu nebūs.

Paskaidrojums: Dzīvesvietas rajons var būt aizstājējs mainīgais, kas ir cieši saistīts ar etnisko piederību vai līdzīgām aizsargātām īpašībām, radot netiešu diskrimināciju. Šāda veida pamatojums ir juridiski un ētiski nepieņemams; Lēmumam ir jābūt pamatotam ar leģitīmiem, izskaidrojamiem un nediskriminējošiem kritērijiem, un šis pamatojums ir noraidāms.

4. Krāpšanas atklāšanas sistēmā mākslīgais intelekts atzīmē darījumu kā “augsta riska”. Kāda ir labākā pieeja?

• A) Brīdinājums ir pirmspārbaudes signāls; Īsta krāpšana un viltus trauksme ir jānošķir ekspertīzē un galīgais spriedums jāpieņem humāni ✔
• B) Darījums tiek automātiski un neatgriezeniski bloķēts, pārskatīšana nav nepieciešama
• C) Brīdinājums tiek ignorēts, jo lielākā daļa brīdinājumu ir nepatiesi
• D) Klientam tiek zvanīts un tieši tiek vainots

Paskaidrojums: AI brīdinājums ir provizorisks pārbaudes un varbūtības signāls, nevis galīgs spriedums. Speciālista ziņā ir atšķirt reālu krāpšanu un viltus pozitīvus rezultātus, izmeklēt, nekaitējot klientu, un pieņemt galīgo lēmumu; Brīdinājumam nevajadzētu automātiski neatgriezeniski bloķēt kontu.

5. Cik maksā liels skaits viltus pozitīvu brīdinājumu krāpšanas atklāšanā?

• A) Viltus pozitīvs rezultāts neko nemaksā, jo vairāk brīdinājumu, jo labāk
• B) rada klienta diskomfortu un trauksmes nogurumu; Palielina risku, ka reāla krāpšana paliks nepamanīta ✔
• C) Tas tikai palielina sistēmas elektroenerģijas patēriņu
• D) Viltus pozitīvs rezultāts ir tikai nakts darījumos

Paskaidrojums: viltus pozitīvie rezultāti rada neērtības un neapmierinātību, nevajadzīgi kavējot likumīgo klientu darījumus; Tas arī rada modrību analītiķu vidū, palielinot risku, ka reāla krāpšana tiks ignorēta. Tāpēc robežvērtībām un noteikumiem jābūt līdzsvarotiem un brīdinājumiem jāpiešķir prioritāte.

6. Kāda ir ētiski viskritiskākā robeža, veidojot klientu segmentāciju un personalizētas kampaņas?

• A) Jo šaurāki segmenti, jo labāk, citu ierobežojumu nav
• B) Personalizēšana ir tikai tehniska problēma, tai nav vajadzīgas ētiskas robežas
• C) ir jāaizsargā atbilstība, piekrišana un nediskriminācija; Jānovērš neaizsargātā klienta izmantošana un manipulācijas ar to ✔
• D) Ja kampaņu izsūta visiem vienādi, ētisku problēmu nebūs.

Paskaidrojums. Lai gan segmentāciju var izmantot klienta labā (piemērots produkta ieteikums), to var arī ļaunprātīgi izmantot, lai izmantotu ievainojamību (piemēram, lai reklamētu papildu kredītu klientam, kuram ir pārāk lielas parādsaistības). Ir jāaizsargā piemērotības, piekrišanas un nediskriminācijas principi; personalizācijai nevajadzētu pārvērsties par manipulācijām.

7. Kāda ir labākā drošības politika klientu apkalpošanas tērzēšanas robotam?

• A) Tērzēšanas robotam jāspēj pašam noslēgt visa veida darījumus un sniegt finanšu konsultācijas
• B) paātrina ikdienas informāciju; Sūdzības, sensitīvi padomi un autorizēti darījumi jādeleģē cilvēkiem, nepārbaudīta informācija nav jāsniedz ✔
• C) Chatbot var kopīgot visu konta informāciju, nepārbaudot klienta identitāti
• D) Cilvēka nodošanas iespēja ir jānoņem, jo tā palēnina tērzēšanas robotu.

Apraksts: Tērzēšanas robots droši paātrina bieži uzdoto informāciju un ikdienas darījumus, bet sūdzības, sensitīvi finanšu padomi, autorizēti darījumi kontā un neskaidras situācijas ir jādeleģē pilnvarotajam darbiniekam. Turklāt tērzēšanas robotam nevajadzētu atklāt klientu noslēpumus vai sniegt nepārbaudītu informāciju.

8. AML/KYC procesos mākslīgais intelekts atzīmē darījumu kā aizdomīgu. Kāda ir pareizā pieeja ziņošanai par aizdomīgiem darījumiem (STR)?

• A) Ja modelis ir atzīmēts, paziņojums jāveic automātiski, atbilstības amatpersona nav nepieciešama
• B) Brīdinājums tiek ignorēts, jo lielākā daļa darījumu ir likumīgi
• C) par darījumu nekavējoties tiek ziņots klientam, jo “ir aizdomas par atmazgāšanu”.
• D) modeļa izvade ir sākotnējā pārbaude un melnraksts; STR lēmumu pieņem pilnvarotā atbilstības amatpersona, saglabājot pamatojumu un audita izsekojamību ✔

Apraksts: mākslīgā intelekta darījumu uzraudzība un skenēšana ātri atzīmē potenciāli aizdomīgus modeļus, bet ziņošana par aizdomīgiem darījumiem (STR/SAR) ir lēmums ar juridiskām sekām un tiek pieņemts ar pilnvarotā atbilstības amatpersonas spriedumu. Modeļa izvade ir provizorisks un melnraksts; Ir jāsaglabā revīzijas liecības un pamatojums.

9. Sankciju saraksta / PEP (politiski pakļautas personas) pārbaudē mākslīgais intelekts atbilst vārdam, taču tā var būt nepatiesa atbilstība. Kāda ir pareizā pieeja?

• A) Atbilstība jāapstiprina ar papildu identifikatoriem (dzimšanas datums, pilsonība); Lēmums ir jāpieņem atbilstības amatpersonai ✔
• B) Pietiek ar vārda līdzību, klients nekavējoties tiek pasludināts par sankcionētu
• C) Visas atbilstības tiek uzskatītas par nepatiesām un tiek ignorētas
• D) Lēmums tiek atstāts tērzēšanas robota ziņā

Paskaidrojums: nosaukumu skenēšana var radīt kļūdaini pozitīvus rezultātus līdzīgu nosaukumu dēļ. Atbilstības amatpersonai ir jāapstiprina atbilstība ar dzimšanas datumu, pilsonību un citiem identifikatoriem; Ja klients tiek kļūdaini pasludināts par sodītu vai netrāpīja īstu sakritību, tam ir nopietnas sekas. Lēmums pieder cilvēkam.

10. Jūs sagatavojāt vadības ziņojuma projektu ar mākslīgo intelektu; Pārskatā iekļauti ceturkšņa peļņas rādītāji. Kāds ir vissvarīgākais solis pirms parakstīšanas?

• A) Visi ziņojuma kritiskie skaitļi ir atkārtoti jāapstiprina, salīdzinot ar avota datiem; Galīgā paraksta atbildība gulstas uz cilvēku ✔
• B) Mākslīgais intelekts dod skaitļus bez kļūdām, pārbaude ir laika izšķiešana
• C) Tiek pārbaudīts tikai formāts, lai atskaite izskatītos skaistāka.
• D) Ziņojums tiek nosūtīts tieši augstākajai vadībai, kontrole tiek veikta vēlāk

Paskaidrojums: mākslīgais intelekts var nepareizi attēlot skaitliskās vērtības, izdomāt tās vai apkopot tās neatbilstoši avota datiem. Pirms ziņojuma parakstīšanas visi kritiskie skaitļi ir atkārtoti jāpārbauda, ​​salīdzinot ar avota datiem; Lai gan automatizācija nodrošina ātrumu, galīgā paraksta atbildība gulstas uz cilvēku.

11. Mākslīgais intelekts analizē uzņēmuma finanšu pārskatus un saka: "Uzņēmums ir ļoti stabils, aizdevums noteikti ir jādod". Kāda ir finanšu analītiķa atbildība?

• A) Pieņemt tekstu tādu, kāds tas ir, jo mākslīgais intelekts zina finanses bez kļūdām
• B) koeficientu pārrēķināšana no avotu tabulām un pieņēmumu apšaubīšana; Galīgā lēmuma pieņemšana kā cilvēks, nenoteiktības izteikšana ✔
• C) lēmuma iesniegšana tieši komitejai kā “AI apstiprināts”
• D) Aizdevuma noraidīšana, vispār nelasot analīzi

Paskaidrojums: Finanšu analīze ir atkarīga no pieņēmumiem un ievades precizitātes; AI var nepareizi aprēķināt likmes, ignorēt trūkstošos datus vai izmantot pārāk precīzu valodu. Analītiķim ir jāpārrēķina likmes no avotu tabulām, jāapšauba pieņēmumi un cilvēciski jāpieņem galīgais kredīta lēmums, atsaucoties uz nenoteiktību.

12. Lai gan kredīta modelī nevar tieši izmantot aizsargātas pazīmes, piemēram, dzimumu vai etnisko piederību, tas var netieši atspoguļot tos, izmantojot pasta indeksu un iepirkšanās datus. Kā sauc šo situāciju un kāpēc tā ir riskanta?

• A) To sauc par pārmācīšanos, un tas tikai samazinās precizitāti
• B) To sauc par datu noplūdi, un tā ir tikai ātruma problēma
• C) To sauc par netiešo diskrimināciju, izmantojot starpniekservera mainīgo; ir nelikumīga un ir jāpārbauda, veicot godīguma testus ✔
• D) To sauc par normalizāciju un ir pilnīgi nekaitīgs

Paskaidrojums. Mainīgos, kas ir cieši saistīti ar aizsargātu īpašumu, sauc par starpniekservera mainīgajiem. Pat ja modelis tieši neizmanto aizsargāto līdzekli, tas var netieši diskriminēt, izmantojot starpniekserverus. Tas ir gan nelikumīgi, gan neētiski; Modeļi ir jāpārbauda, ​​izmantojot godīguma rādītājus, un ir jākontrolē starpniekservera risks.

13. Banka kredītlēmumos izmanto mākslīgā intelekta modeli. Kāda ir viena no pamatprasībām tiesību aktu un auditējamības ziņā?

• A) Jo sarežģītāks un nesaprotamāks modelis, jo drošāks tas ir
• B) Lietvedība nav nepieciešama, lēmumus var izskaidrot mutiski
• C) Klientam ir jāatņem tiesības iebilst, jo tas palēnina procesu
• D) modelim ir jābūt izskaidrojamam, lēmuma pamatojumam un audita izsekojamībai ir jāsaglabā, klientam jādod tiesības iebilst/cilvēku pārskatīšanu ✔

Paskaidrojums: Regulētos lēmumu pieņemšanas procesos modelim ir jābūt izskaidrojamam, lēmuma pamatojumam jābūt dokumentētam, jāveic ieraksts (audita izsekojamība), kā arī jādod klientam tiesības iebilst/pieprasīt cilvēka pārbaudi. Nepamatoto lēmumu par “melnās kastes” modeli nevar pārbaudīt un tas neatbilst tiesību aktiem.

14. Kā visā modulī uzsvērtais galvenais princips raksturo mākslīgā intelekta lomu banku darbībā?

• A) Mākslīgais intelekts var aizstāt pieredzējušus baņķierus un pats noformēt aizdevumus un paziņojumus
• B) Mākslīgais intelekts tiek izmantots tikai mārketingam, nevis lēmumu pieņemšanai
• C) Mākslīgā intelekta izvade ir droša pat bez pārbaudes, jo tā ir balstīta uz statistiku
• D) mākslīgais intelekts ir palīgs un projektu ģenerators; Kredītu piešķiršana, krāpšanas/atbilstības spriedums un galīgais lēmums ir pilnvarotās personas ziņā ✔

Apraksts: mākslīgais intelekts paātrina atkārtotu uzdevumu izpildi kā palīgs, iepriekšējs skrīnings un melnrakstu ģenerators; Bet, tā kā mēs strādājam regulētā, uzticībai kritiskā jomā, galīgo lēmumu par kredīta piešķiršanu, krāpšanu/atbilstības nodrošināšanu un klientu atbild pilnvarotā persona (pilnvarotais baņķieris un lēmumu komiteja). Nepārbaudīta izvade ir neparakstīts lēmuma projekts.