Ieguvumi:
- Spēja atšķirt, kur mākslīgais intelekts ietaupa reālo laiku banku darbplūsmā (iepriekšēja novērtēšana, lēmumu atbalsts, darbība, ziņošana) un kur regulēti un uzticībai svarīgi lēmumi (kredīta piešķiršana, krāpšana/atbilstības nodrošināšana) tiek atstāti cilvēku ziņā atbilstoši uzdevuma riska līmenim.
- Spēja piemērot disciplīnu, kas pārbauda katru AI izvadi, savienojot to ar avotu, pārrēķinot to un nododot to politikas/tiesību aktu filtrēšanai.
- Klientu un finanšu datu anonimizācija KVKK, klientu noslēpumu un bankas konfidencialitātes noteikumu ietvaros un ieraduma iegūšana izvēlēties drošus transportlīdzekļus
Baņķiera diena ir piepildīta ar skaitļiem, lēmumiem un pārliecību. Tiek izvērtēts kredīta pieteikums, pārbaudīts darījums, vai tā nav krāpšana, kura prece uzskatāma par klientam piemērotu, tiek veikta atbilstības pārbaude un dienas beigās parakstīts akts. Šiem darbiem kopīgs ir tas, ka tie visi prasa ātru darbu un, tos nepareizi veicot, tiešā veidā kaitē cilvēka naudai, reputācijai vai bankas juridiskajam statusam. Tieši šeit mākslīgais intelekts iekrīt šajā spriedzē. Pareizi lietojot, tas samazina darba stundas līdz minūtēm; Ja to lieto nepareizi, tas paātrina kļūdu rašanos, rada diskrimināciju un rada nekontrolējamus lēmumus.
Visā šajā modulī mēs pozicionēsim AI kā palīgu, iepriekšēju pārbaudi un projektu ģeneratoru. Mākslīgais intelekts palīdz nolasīt failu jūsu vietā, raksta melnrakstus, meklē neatbilstības un apkopo kopsavilkumus. Bet lēmums ir jūsu. Vai piešķirt kredītu, vai darījumu uzskatīt par aizdomīgu, ko teikt klientam — tas viss ir pilnvarota cilvēka spriedums. Šajā nodaļā mēs fundamentāli noteiksim šo atšķirību, proti, kur mākslīgais intelekts ietaupa laiku un kur lēmums tiek atstāts cilvēku ziņā, pārbaudes disciplīna un privātuma noteikumi.
Kāpēc banku darbība ir “uzticībai kritiska” un “regulēta” joma
Ja kalambūra dizaina rīks darbojas nepareizi, neviens necieš. Taču nepareizi funkcionējošs bankas modelis var atņemt ģimenei pelnīto kredītu, kļūt par upuri likumīgam klientam, nosaucot to par krāpnieku, vai aizmirst par naudas atmazgāšanu un pakļaut bankai bargus sodus. Tāpēc banku darbību nosaka divas pazīmes:
- Uzticībai kritiski svarīgi: lēmumi ietekmē cilvēku naudu un nākotni. Pat ja kļūda ir atgriezeniska, kaitējums ir reāls.
- Regulēts: Banku darbība; To ieskauj tādi noteikumi kā BDDK (Banku regulēšanas un uzraudzības aģentūra, valsts iestāde, kas uzrauga bankas), MASAK (Finanšu noziegumu izmeklēšanas pārvalde, institūcija cīņai pret naudas atmazgāšanu) un KVKK (Personas datu aizsardzības likums). Jūs nevarat izskaidrot lēmumu, sakot "AI teica"; Jums ir jāspēj pamatot lēmums.
Šīs divas funkcijas nosaka AI izmantošanas pamatnoteikumu: AI izvade neaizstāj kompetenta eksperta apstiprinājumu. Lēmums ir paša cilvēka ziņā. Mēs atkārtosim šo teikumu daudzas reizes visā moduļa laikā, jo visdārgākās kļūdas banku darbībā rodas tad, kad šis noteikums tiek aizmirsts.
Uzmanību: Sakot "modelis darbojas ļoti precīzi" nenozīmē "mēs varam atstāt lēmumu modeli". Pat modelis, kas ir 99% pareizs, parāda 1% kļūdu ar tādu pašu pārliecību. Banku jomā tas 1 procents ir cilvēka aizdevums vai bankas sods.
Kur mākslīgais intelekts noder banku darbībā?
Domājot par banku biznesu trīs slāņos, kļūst skaidrs, kur likt AI:
- Iepriekšēja novērtēšana un sagatavošana (zems risks, liels ieguvums): dokumentu nolasīšana, trūkstošo dokumentu kontrole, failu kopsavilkums, datu konsekvences skenēšana. Pat ja mākslīgais intelekts pieļauj kļūdu, risku var pārvaldīt, jo aiz tā slēpjas cilvēka pārskats; Ieguvums ir liels.
- Lēmuma atbalsts (vidējs risks): kredīta pamatojuma projekts, riska profila kopsavilkums, finanšu komentārs, aizdomīga darījuma projekts. Šeit mākslīgais intelekts rada ieteikumus, bet lēmums pieder cilvēkam. Verifikācija ir būtiska.
- Galīgais lēmums un spriedums (augsts risks, cilvēcisks): kredīta piešķiršana, spriedums par krāpšanu, ziņošana par aizdomīgiem darījumiem, lēmums atspoguļots klientam. Šis ir slānis, kurā mākslīgais intelekts nevar pieņemt lēmumus; piedāvā visvairāk melnrakstu.
Šajā tabulā ir norādīti tipiski banku uzdevumi pēc riska līmeņa:
Meklējumi
slānis
AI loma
Kurš izlemj?
Kredīta failam trūkst dokumentu pārbaudes
provizoriskais novērtējums
Skenēšana, kopsavilkums
Ekspertu atsauksmes
Kredīta noraidīšanas/apstiprināšanas iemesls
lēmuma atbalsts
Pamatojuma projekts
kompetents eksperts
Brīdinājums par darījuma anomāliju
lēmuma atbalsts
Iepriekšējas kvalifikācijas signāls
krāpšanas analītiķis
Ziņošana par aizdomīgiem darījumiem (STR)
galīgais spriedums
melnraksts
atbilstības amatpersona
Lēmums par kredīta piešķiršanu
galīgais spriedums
projekts/kopsavilkums
Iestāde/komiteja
Klientu sarakstes uzmetums
provizoriskais novērtējums
teksta melnraksts
Darbinieks apstiprina
Validācijas disciplīna: trīspakāpju filtrs
Katru reizi veiciet AI izvadi, veicot šīs trīs darbības. Šis būs pamata reflekss, ko mēs atkārtosim visā modulī:
- Pievienojiet to avotam. Uz kuru dokumentu, kura konta transakciju un uz kuru noteikumu balstās katrs izvades numurs, prasība un pamatojums? Izvade, kuras avotu nevar citēt, ir "pretenzija" līdz pārbaudei, nevis "informācija".
- Pārrēķināt/pārbaudīt. Ja ir norādīts koeficients, kopsumma, rezultātu kopsavilkums, apstipriniet to pats. AI var nepareizi attēlot vai izdomāt skaitļus (to sauc par "halucināciju": kad modelis rada nepatiesu informāciju, kas šķiet patiesa).
- Izlaidiet to caur politikas un tiesību aktu filtru. Vai rezultāts atbilst jūsu bankas iekšējai politikai un juridiskajiem noteikumiem (diskriminācijas aizliegums, klientu konfidencialitāte, KVKK)? Izvade, kas neatbilst, tiks noraidīta neatkarīgi no tā, cik "gudra" tā šķiet.
Padoms. Uzdodiet sev šo jautājumu ar katru rezultātu: "Vai es varu to aizstāvēt revidentam, vienkārši nepasakot: "AI radīja to"?" Ja atbilde ir nē, izvade vēl nav gatava lietošanai.
Privātums: klienta noslēpums un KVKK
Banku jomā dati ir divkārši aizsargāti. Klienta konta informācija ir gan personas dati (KĀ ietvaros), gan klienta noslēpums (Banku likuma ietvaros; bankas pienākums aizsargāt informāciju, ko tā uzzinājusi par savu klientu). Tāpēc klientu datu augšupielāde jebkurā AI rīkā var būt nopietns pārkāpums.
Pamatnoteikumi:
- Anonimizēt. Noņemiet identifikācijas informāciju, piemēram, vārdu, uzvārdu, TR ID numuru, konta/IBAN numuru, tālruni. Piemēram, "Ahmet Yılmaz, TC 123..., account 456..." vietā ierakstiet "45 gadus vecs, X segmenta klients".
- Minimālais datu apjoms. Kopīgojiet minimālo datu apjomu, kas patiešām ir nepieciešams uzdevumam. Nevis visa izgāztuve, bet attiecīgās rindas.
- Izmantojiet apstiprinātu transportlīdzekli. Izmantojiet līgumā paredzētus un drošus rīkus, ko apstiprinājusi jūsu banka. Neievadiet klienta datus publiskajā rīkā, ja nav skaidrs, kur tie nonāk.
- Atstājiet ierakstu. Vajadzības gadījumā jums ir jāspēj parādīt, kādus datus izmantojāt, kādam nolūkam un kādu rīku izmantojāt (audita izsekojamība).
Četras kopējamas veidnes
1) Ietvars, kas nosaka lomas un robežas:
Jūsu loma: bankas palīgs. LĒMUMU PIEŅEMŠANA; Izveidojiet tikai melnrakstus, kopsavilkumus vai konsekvences pārbaudes. Neizmantojiet identifikācijas informāciju (nosaukums, TR ID, IBAN). Atzīmējiet katru punktu, par kuru neesat pārliecināts, kā "[nepieciešams apstiprinājums]". Es pieņemšu galīgo lēmumu un atbildību. Uzdevums: [darba apraksts]
2) Trīspakāpju verifikācijas pieprasījums:
Veiciet pašpārbaudi un ziņojiet par šādu rezultātu no trim aspektiem: (1) Uz kādu avotu/datiem ir balstīta katra jūsu prasība? (2) Kuri skaitļi ir jāpārrēķina? (3) Vai pastāv kāds riskants iekšpolitikas vai likumdošanas aspekts (diskriminācija, klientu noslēpums, KVKK)? Skaidri uzskaitiet neskaidrības.
3) Anonimizācijas kontrole:
Pirms nododat šo tekstu kādam rīkam, nosakiet visu informāciju, kas padara personu identificējamu (vārds, TR ID, IBAN, tālrunis, adrese, retu funkciju kombinācija) un iesakiet, kā to maskēt. Norādiet arī uzdevumam nepieciešamo minimālo datu apjomu.Teksts: [dati]
4) Slāņu klasifikācijas palīgs:
Nosakiet, kurā slānī ietilpst šāds uzdevums: sākotnējais novērtējums (paātrina uzticēšanās) / lēmuma atbalsts (pārbaudīts) / galīgais spriedums (cilvēks). Uzrakstiet savu pamatojumu un norādiet, kāds ir AI ierobežojums šim uzdevumam. Uzdevums: [uzdevums]
trīs mini futrāļi
1. gadījums — Pareiza lietošana. Kredītspeciālists pārbaudīs 40 failu kaudzi, vai nav pazuduši dokumenti. Nodod katru failu mākslīgajam intelektam ar anonimizētu kopsavilkumu; Mākslīgā intelekta atzīme "Kopsavilkumā numur 3 ienākumu apliecības datums ir vecāks par 6 mēnešiem, un 7. numurā nav paraksta lapas." Eksperts šīs pazīmes pēc kārtas apstiprina kartotēkā. Manuālā skenēšana, kas ilgst 2 stundas, tiek samazināta līdz 25 minūtēm, un katrs brīdinājums tiek pārbaudīts cilvēka spēkiem.
2. gadījums — uzticamības kļūme bez autentifikācijas. Cits eksperts pārsūta klientam mākslīgā intelekta ģenerētu kredīta atteikuma iemeslu, to neizlasot. Pamatojumā mākslīgais intelekts nepareizi nolasīja klienta ienākumus un teica, ka "ienākumi ir nepietiekami"; Tomēr dokuments ir pareizs. Klients iebilst, fails tiek atvērts no jauna, un banka zaudē gan laiku, gan reputāciju. Nodarbība: visi dati, uz kuriem tika pamatots pamatojums, bija jāpārbauda avotā.
3. gadījums — konfidencialitātes pārkāpums. Ātruma labad darbinieks ielīmē klienta pilnu vārdu un konta izrakstu neapstiprinātā, publiski pieejamā rīkā un jautā: "Vai šis klients ir apdraudēts?" Ar šo vienīgo darbību ir pārkāpta klientu konfidencialitāte un KVKK; Pat ja dati nonāk, nav skaidrs. Nodarbība: dati vispirms tiek anonimizēti, pēc tam apstrādāti tikai apstiprinātajā rīkā.
Vāja uzvedne / spēcīga uzvedne
Vāja uzvedne:
Pievienots Ahmeta Jilmaza konta izraksts. Izlemiet, vai mums vajadzētu piešķirt kredītu šim klientam.
Šajā pieprasījumā ir iekļauta personu identificējoša informācija (privātuma pārkāpums), AI tieši tiek lūgts pieņemt lēmumu (neatstājot lēmumu cilvēka ziņā), un tajā nav ieviesta nekāda verifikācijas sistēma.
Spēcīga uzvedne:
Jūsu loma: kredītspeciālista asistents pārbauda failu SAGATAVOŠANA un SASKAŅA.Lēmumu pieņemšana; Vienkārši atzīmējiet trūkstošos/neatbilstošos punktus un norādiet, uz ko balstāties. Neizmantojiet identifikācijas informāciju.Klients (anonīms): 45 gadus vecs, segments Atzīmējiet "[nepieciešams apstiprinājums]" visus punktus, kuru sniegtajā informācijā, šķiet, trūkst vai tie ir pretrunīgi. Es pieņemšu lēmumu par kredītu.
Spēcīga griba neietver identitāti, ierobežo lomu, atstāj lēmumu pieņemšanas tiesības personai un katru prasību skaidri atzīmē apstiprināšanai.
Biežas kļūdas
- Lēmumu atstājot mākslīgā intelekta ziņā. Veidojot modeli, sakiet tādus nosacījumus kā "dod / nedod kredītu", "krāpšana / nē". Tie ir cilvēku lēmumi; modelis piedāvā visvairāk melnrakstu.
- Uzticēšanās bez verifikācijas. Kļūdains un pārliecināts teksts kā "pareizs". Raidums nav precizitāte.
- Akreditācijas datu koplietošana. Iebraucot transportlīdzeklī, anonimizējot savu vārdu, TR ID un konta numuru.
- Apejot audita pēdas. Lēmuma pamatojuma un izmantoto datu nedokumentēšana; Nevarot atbildēt uz jautājumu "kāpēc tika pieņemts šāds lēmums?"
- Braukšana bez apstiprinājuma. Klientu datu ievadīšana publiskos rīkos, kur nav skaidrs, kur dati nonāk.
Uzmanību: banku jomā kļūdas izmaksas bieži vien nav redzamas uzreiz; Iebildumi, pārbaude vai sods nāk mēnešus vēlāk. Tāpēc pārbaudes un ierakstīšanas disciplīnu nevar atlikt tikai tāpēc, ka "nav vajadzības, ja nerodas problēmas"; Tam vajadzētu būt ieradumam jau no paša sākuma.
Rezumējot
Banku darbība ir uzticībai kritiska un regulēta joma; Tāpēc mākslīgais intelekts šeit tiek izmantots kā palīgs, iepriekšējais skrīnings un projektu ģenerators, nevis kā lēmumu pieņēmējs. Padomājiet par darbu trīs slāņos: sākotnējais novērtējums (paātrina uzticēšanās), lēmuma atbalsts (pārbaudīts) un galīgais spriedums (cilvēks). Saistiet katru izvadi ar avotu, pārrēķiniet, filtrējiet, izmantojot politiku/likumdošanu. Anonimizēt datus, minimāli kopīgot, izmantot apstiprinātus rīkus un atstāt audita pēdas. Vienā teikumā: AI rada melnrakstus; Kompetenti cilvēki uzņemas lēmumu un atbildību.
Lietojumprogrammas uzdevums
Izvēlieties trīs tipiskus sava uzņēmuma uzdevumus (vai kā piemēru): vienu sākotnējam novērtējumam (piem., dokumentu pārbaudei), vienu lēmuma atbalstam (piemēram, pamatojuma projekts), otru galīgajam spriedumam (piemēram, kredīta lēmums). Katram no tiem (1) vienā teikumā ierakstiet AI lomu, (2) norādiet, kuru verifikācijas darbību veiksit, (3) atzīmējiet, kuri dati ir jāanonimizē. Pēc tam izveidojiet uzvedni “faila sagatavošanas” uzdevumam, izmantojot iepriekš esošo jaudīgo uzvednes veidni un trīspakāpju izvades filtrēšanu.
kontrolsaraksts
- [ ] Es noteicu uzdevuma slāni (iepriekšējais novērtējums / lēmuma atbalsts / galīgais spriedums).
- [ ] Es devu mākslīgajam intelektam projektu/kontroles uzdevumu, nevis lēmumu.
- [ ] Es savienoju izvadi ar avotu un vēlreiz pārbaudīju kritiskos skaitļus.
- [ ] Es filtrēju produkciju iekšējās politikas un likumdošanas ziņā (diskriminācija, klientu noslēpums, KVKK).
- [ ] Es padarīju datus anonīmus, kopīgoju tos minimāli un izmantoju apstiprinātus rīkus.
- [ ] Lēmumu un tā pamatojumu esmu fiksējis; Es uzņēmos galīgo atbildību.