Fitimet:
- Aftësia për të dalluar se ku inteligjenca artificiale kursen kohë reale në rrjedhën e punës bankare (para-vlerësimi, mbështetja e vendimeve, operacioni, raportimi) dhe ku vendimet e rregulluara dhe kritike për besimin (ndarja e kredisë, mashtrimi/sigurimi i pajtueshmërisë) u lihen njerëzve, sipas nivelit të rrezikut të detyrës
- Aftësia për të aplikuar një disiplinë që verifikon çdo dalje të AI përmes hapave të lidhjes së tij me burimin, rillogaritjes së tij dhe kalimit të tij përmes filtrimit të politikave/legjislacionit.
- Anonimizimi i të dhënave të klientëve dhe atyre financiare brenda fushës së KVKK-së, sekretit të klientit dhe rregullave të konfidencialitetit bankar dhe fitimi i zakonit të zgjedhjes së automjeteve të sigurta
Dita e një bankieri është e mbushur me numra, vendime dhe besim. Vlerësohet një aplikim për kredi, shqyrtohet një transaksion për të parë nëse bëhet fjalë për mashtrim, cili produkt konsiderohet i përshtatshëm për një klient, kryhet një kontroll përputhshmërie dhe në fund të ditës nënshkruhet një raport. E përbashkëta e këtyre punëve është se të gjitha kërkojnë punë të shpejtë dhe, kur kryhen gabimisht, dëmtojnë drejtpërdrejt paratë e një personi, reputacionin ose statusin ligjor të bankës. Pikërisht këtu inteligjenca artificiale bie në këtë tension. Kur përdoret si duhet, redukton orët e punës në minuta; Kur përdoret gabimisht, ai përshpejton gabimin, prodhon diskriminim dhe rezulton në vendime të pakontrollueshme.
Përgjatë këtij moduli ne do të pozicionojmë AI si një asistent, para-ekranues dhe gjenerues drafti. Inteligjenca artificiale ndihmon në leximin e skedarit për ju, shkruan drafte, kërkon mospërputhje dhe përmbledh. Por vendimi është i juaji. Qoftë për të dhënë kredi, nëse për ta konsideruar një transaksion të dyshimtë, çfarë t'i thuash një klienti - të gjitha këto janë gjykimet e një qenieje njerëzore të fuqizuar. Në këtë njësi, ne do të vendosim në thelb këtë dallim, domethënë ku inteligjenca artificiale kursen kohë dhe ku vendimi u lihet njerëzve, disiplina e verifikimit dhe rregullat e privatësisë.
Pse banka është një zonë 'kritike për besimin' dhe 'e rregulluar'
Nëse një mjet i projektimit të lojë fjalësh punon gabimisht, askush nuk lëndohet. Por një model i keqfunksionuar në një bankë mund të privojë një familje nga kredia që meriton, të viktimizojë një klient legjitim duke e etiketuar atë si mashtrues, ose të anashkalojë pastrimin e parave dhe ta ekspozojë bankën ndaj gjobave të rënda. Prandaj, banka përkufizohet nga dy karakteristika:
- Besimi-kritik: Vendimet ndikojnë në paratë dhe të ardhmen e njerëzve. Edhe nëse gabimi është i kthyeshëm, dëmi është real.
- Rregulluar: Banka; Ajo është e rrethuar nga rregullore të tilla si BDDK (Agjencia e Rregullimit dhe Mbikëqyrjes Bankare, autoriteti publik që mbikëqyr bankat), MASAK (Bordi i Hetimit të Krimeve Financiare, institucioni që lufton pastrimin e parave) dhe KVKK (Ligji për Mbrojtjen e të Dhënave Personale). Ju nuk mund të shpjegoni një vendim duke thënë "AI tha kështu"; Ju duhet të jeni në gjendje të justifikoni vendimin.
Këto dy veçori vendosin rregullin bazë të përdorimit të AI: prodhimi i AI nuk është një zëvendësim për miratimin nga një ekspert kompetent. Vendimi i takon personit. Këtë fjali do ta përsërisim shumë herë përgjatë modulit, sepse gabimet më të shtrenjta në bankë ndodhin kur harrohet ky rregull.
Kujdes: Të thuash "modeli funksionon shumë saktë" nuk do të thotë "mund t'ia lëmë modeles vendimin". Edhe një model që është 99 përqind i saktë paraqet gabimin e tij prej 1 përqind me të njëjtën besim. Në sektorin bankar, ai 1 për qind është kredia e një personi ose ndëshkimi i një banke.
Ku vjen në ndihmë inteligjenca artificiale në banka?
Mendimi i biznesit bankar në tre shtresa e bën të qartë se ku duhet vendosur AI:
- Paravlerësimi dhe përgatitja (rrezik i ulët, fitim i lartë): Leximi i dokumentit, kontrolli i dokumenteve që mungojnë, përmbledhja e skedarëve, skanimi i konsistencës së të dhënave. Këtu, edhe nëse inteligjenca artificiale bën një gabim, rreziku mund të menaxhohet sepse ka një rishikim njerëzor pas tij; Fitimi është i madh.
- Mbështetja e vendimeve (rrezik mesatar): Drafti i justifikimit të kredisë, përmbledhja e profilit të rrezikut, komenti financiar, drafti i transaksioneve të dyshimta. Këtu inteligjenca artificiale prodhon sugjerime, por vendimi i takon njeriut. Verifikimi është thelbësor.
- Vendimi dhe gjykimi përfundimtar (rrezik i lartë, njerëzor): Alokimi i kredisë, vendimi i mashtrimit, raportimi i transaksioneve të dyshimta, vendimi i reflektuar te klienti. Kjo është shtresa ku inteligjenca artificiale nuk mund të marrë vendime; ofron më së shumti drafte.
Tabela e mëposhtme vendos detyrat tipike bankare sipas nivelit të rrezikut:
Kërkimi
shtresë
Roli i AI
Kush vendos?
Kontrolli i dokumentit të mungesës së skedarit të kreditit
vlerësim paraprak
Skano, përmbledhje
Shqyrtimet e ekspertëve
Arsyeja e refuzimit/miratimit të kredisë
mbështetjen e vendimeve
Draft arsyetimi
ekspert kompetent
Alarmi për anomali transaksionesh
mbështetjen e vendimeve
Sinjali parakualifikues
analisti i mashtrimit
Raportimi i transaksioneve të dyshimta (STR)
gjykimi përfundimtar
draft
zyrtari i pajtueshmërisë
Vendimi për ndarjen e kredisë
gjykimi përfundimtar
draft/përmbledhje
Autoriteti/komiteti
Hartimi i korrespondencës së klientit
vlerësim paraprak
draft teksti
Punonjësi miraton
Disiplina e verifikimit: filtër me tre hapa
Merrni daljen e AI përmes këtyre tre hapave çdo herë. Ky do të jetë refleksi bazë që do të përsërisim gjatë gjithë modulit:
- Lidheni atë me burimin. Në cilin dokument, cilin transaksion llogarie dhe cilin rregull bazohet secili numër, pretendim dhe justifikim në dalje? Një produkt, burimi i të cilit nuk mund të citohet është një "pretendim" derisa të verifikohet, jo "informacion".
- Rillogarit/kontrollo. Nëse jepet një shanse, një total, një përmbledhje e pikëve, konfirmojeni vetë. AI mund të keqinterpretojë ose të krijojë numra (kjo quhet "halucinacion": kur modeli prodhon informacion të rremë që duket të jetë real).
- Kaloni në filtrin e politikave dhe legjislacionit. A përputhet produkti me politikat e brendshme dhe rregullat ligjore të bankës suaj (ndalimi i diskriminimit, konfidencialiteti i klientit, KVKK)? Një produkt që nuk përshtatet do të refuzohet, sado "i zgjuar" të duket.
Këshillë: Bëjini vetes këtë pyetje me çdo rezultat: "A mund ta mbroj këtë para një auditori pa thënë thjesht "AI e prodhoi atë"?" Nëse përgjigja është jo, produkti nuk është ende gati për përdorim.
Privatësia: sekreti i klientit dhe KVKK
Në banka, të dhënat mbrohen dyfish. Informacioni i llogarisë së një klienti është si të dhëna personale (brenda fushës së KVKK-së) dhe sekret i klientit (brenda fushëveprimit të Ligjit për Bankat; detyrimi i bankës për të mbrojtur informacionin që ka mësuar për klientin e saj). Prandaj, ngarkimi i të dhënave të klientit në çdo mjet AI mund të jetë një shkelje serioze.
Rregullat themelore:
- Anonimizo. Hiqni informacionin identifikues si emri, numri TR ID, llogaria/numri IBAN, telefoni. Për shembull, në vend të "Ahmet Yılmaz, TC 123..., llogaria 456..." shkruani "45 vjeç, klient i segmentit X".
- Të dhënat minimale. Ndani sasinë minimale të të dhënave që është vërtet e nevojshme për detyrën. Jo e gjithë deponia, por linjat përkatëse.
- Përdorni një automjet të miratuar. Përdorni mjete të kontraktuara dhe të sigurta të miratuara nga banka juaj. Mos i vendosni të dhënat e klientit në një mjet publik nëse nuk është e qartë se ku po shkojnë të dhënat.
- Lini një rekord. Ju duhet të jeni në gjendje të tregoni, kur është e nevojshme, çfarë të dhënash keni përdorur, për çfarë qëllimi dhe cilin mjet keni përdorur (gjurmë auditimi).
Katër shabllone të kopjueshëm
1) Korniza që përcakton rolet dhe kufijtë:
Roli juaj: asistent bankar. VENDIMMARRJA; Prodhoni vetëm drafte, përmbledhje ose kontrolle të konsistencës. Mos përdorni informacion identifikimi (emri, TR ID, IBAN). Shënoni çdo pikë për të cilën nuk jeni të sigurt si "[kërkohet konfirmimi]". Unë do të marr vendimin dhe përgjegjësinë përfundimtare. Detyra: [përshkrimi i punës]
2) Kërkesë verifikimi me tre hapa:
Vetë-audito dhe raporto rezultatet e mëposhtme nga tre aspekte: (1) Në cilin burim/të dhëna bazohet secili nga pretendimet tuaja? (2) Cilët numra duhet të rillogariten? (3) A ka ndonjë aspekt të rrezikshëm për sa i përket politikës apo legjislacionit të brendshëm (diskriminimi, sekreti i klientit, KVKK)? Rendisni qartë pasiguritë.
3) Kontrolli i anonimizimit:
Përpara se t'ia jepni këtë tekst një vegle, identifikoni të gjithë informacionin që e bën personin të identifikueshëm (emri, TR ID, IBAN, telefoni, adresa, kombinimi i veçorive të rralla) dhe sugjeroni se si ta maskoni atë. Specifikoni gjithashtu të dhënat minimale të kërkuara për detyrën. Teksti: [të dhënat]
4) Asistent i klasifikimit të shtresave:
Përcaktoni se në cilën shtresë bie detyra e mëposhtme: vlerësimi paraprak (i përshpejtuar nga besimi) / mbështetja e vendimit (verifikuar) / gjykimi përfundimtar (njerëzor). Shkruani arsyetimin tuaj dhe tregoni se cili është kufiri i AI në këtë detyrë. Detyra: [detyrë]
tre mini kuti
Rasti 1 - Përdorimi i duhur. Një specialist krediti do të kontrollojë një pirg prej 40 dosjesh për dokumente që mungojnë. I jep çdo skedar inteligjencës artificiale me një përmbledhje anonime; Inteligjenca artificiale shënon "Në përmbledhjen numër 3, data e certifikatës së të ardhurave është më e vjetër se 6 muaj dhe në numrin 7 nuk ka faqe nënshkrimi". Eksperti i konfirmon këto shenja një nga një në dosje. Skanimi manual, i cili zgjat 2 orë, reduktohet në 25 minuta dhe çdo alarm verifikohet në mënyrë njerëzore.
Rasti 2 - Dështimi i besimit pa vërtetim. Një ekspert tjetër i përcjell klientit një arsye të refuzimit të kredisë të krijuar nga inteligjenca artificiale pa e lexuar. Në arsyetim, inteligjenca artificiale lexoi gabimisht të ardhurat e klientit dhe tha "të ardhurat janë të pamjaftueshme"; Sidoqoftë, dokumenti është i saktë. Klienti kundërshton, dosja rihapet dhe banka humb kohën dhe reputacionin. Mësimi: çdo e dhënë mbi të cilën bazohej justifikimi duhej të kontrollohej në burim.
Rasti 3 - Shkelja e konfidencialitetit. Për shpejtësinë, një punonjës ngjit emrin e plotë dhe deklaratën e llogarisë së klientit në një mjet të pamiratuar dhe të disponueshëm publikisht dhe pyet: "A është në rrezik ky klient?" Me këtë veprim të vetëm është shkelur konfidencialiteti i klientit dhe KVKK; Edhe ku shkojnë të dhënat është e paqartë. Mësimi: të dhënat fillimisht anonimizohen, më pas përpunohen vetëm në mjetin e miratuar.
Prompt i dobët / Prompt i fortë
Njoftim i dobët:
Deklarata e llogarisë së Ahmet Yılmaz është bashkangjitur. Vendosni nëse duhet t'i japim kredi këtij klienti.
Kjo kërkesë përfshin informacione të identifikueshme personalisht (shkelje e privatësisë), kërkon nga IA një vendim drejtpërdrejt (duke mos e lënë vendimin në dorë të njeriut) dhe nuk vendos asnjë kornizë verifikimi.
Njoftim i fuqishëm:
Roli juaj: asistent i specialistit të kredisë që kontrollon dosjen PËRGATITJA dhe KONSISTENCA. Vendimmarrja; Thjesht shënoni pikat që mungojnë/jokonsistente dhe deklaroni se në çfarë bazoheni. Mos përdorni informacionin e identifikimit. Klienti (anonim): 45 vjeç, segmenti Shënoni "[kërkohet konfirmimi]" çdo pikë që duket se mungon ose është kontradiktore në informacionin e dhënë. Unë do të marr vendimin për kredinë.
Një vullnet i fortë nuk përmban identitet, kufizon rolin, ia lë autoritetin e vendimit personit dhe shënon qartë çdo pretendim për konfirmim.
Gabimet e zakonshme
- Duke ia lënë vendimin inteligjencës artificiale. Duke e bërë modelin të thotë dispozita të tilla si "jep / mos jep kredi", "mashtrim / jo". Këto janë vendime njerëzore; modeli ofron më shumë drafte.
- Besimi pa verifikim. Gabimi i një teksti të rrjedhshëm dhe të sigurt si "i saktë". Rrjedhshmëria nuk është saktësi.
- Ndarja e kredencialeve. Hyrja në automjet pa anonimizuar emrin, TR ID dhe numrin e llogarisë.
- Anashkalimi i gjurmës së auditimit. Mos dokumentimi i arsyetimit të vendimit dhe të dhënave të përdorura; Pamundësia për t'iu përgjigjur pyetjes "pse u mor ky vendim?"
- Vozitja pa miratim. Futja e të dhënave të klientit në mjetet publike ku nuk është e qartë se ku shkojnë të dhënat.
Kujdes: në banka, kostoja e një gabimi shpesh nuk është e dukshme menjëherë; Kundërshtimi, inspektimi apo ndëshkimi vjen muaj më vonë. Prandaj, disiplina e verifikimit dhe e regjistrimit nuk mund të shtyhet vetëm për shkak se "nuk ka nevojë nëse nuk lindin probleme"; Duhet të jetë zakon që në fillim.
Në përmbledhje
Banka është një fushë kritike për besimin dhe e rregulluar; Pra, AI përdoret këtu si një asistent, paraprak dhe gjenerues i drafteve, jo si vendimmarrës. Mendoni për punën në tre shtresa: vlerësimi paraprak (i përshpejtuar nga besimi), mbështetja e vendimit (verifikuar) dhe gjykimi përfundimtar (njerëzor). Lidhni çdo produkt me burimin, rillogaritni, filtrojeni përmes politikave/legjislacionit. Anonimizoni të dhënat, shpërndani minimalisht, përdorni mjete të miratuara dhe lini një gjurmë auditimi. Me një fjali: AI prodhon drafte; Njerëzit kompetentë marrin vendimin dhe përgjegjësinë.
Detyra e aplikimit
Zgjidhni tre detyra tipike nga biznesi juaj (ose si shembull): një për vlerësimin paraprak (p.sh. kontrolli i dokumenteve), një për mbështetjen e vendimeve (p.sh. drafti i justifikimit), një për gjykimin përfundimtar (p.sh. vendimi i kredisë). Për secilën, (1) shkruani rolin e AI në një fjali, (2) tregoni se cilin hap verifikimi do të aplikoni, (3) vini re se cilat të dhëna duhet të anonimizohen. Më pas krijoni një kërkesë për detyrën "përgatitja e skedarit" me shabllonin e fuqishëm të kërkesës sipër dhe filtrojeni daljen me tre hapa.
listë kontrolli
- [ ] Përcaktova shtresën e detyrës (vlerësimi paraprak / mbështetja e vendimit / gjykimi përfundimtar).
- [ ] I dhashë inteligjencës artificiale një detyrë draft/kontroll, jo një vendim.
- [ ] E lidha daljen me burimin dhe kontrollova përsëri numrat kritikë.
- [ ] Kam filtruar rezultatin në aspektin e politikës së brendshme dhe legjislacionit (diskriminimi, sekreti i klientit, KVKK).
- [ ] I anonimizova të dhënat, i ndava minimalisht dhe përdora mjete të miratuara.
- [ ] Kam regjistruar vendimin dhe arsyetimin e tij; Mora përgjegjësinë e fundit.