Aliran Kerja Hujung ke Hujung, Tadbir Urus Model dan Audit Kendiri

Keuntungan:

• Keupayaan untuk mengendalikan tugas perbankan secara selamat dari hujung ke hujung dengan kitaran 'AI menghasilkan → pakar mengesahkan → diberi kuasa membuat keputusan'
• Keupayaan untuk membenamkan kecerdasan buatan dengan selamat dalam rangka kerja tadbir urus model, pengesahan, pemantauan dan penambahbaikan berterusan
• Keupayaan untuk mengambil tanggungjawab muktamad dengan menyemak sendiri output mereka dengan lima soalan utama (pengesahan, sumber, kerahsiaan, keadilan, kelulusan)

Sepanjang modul ini, kami meletakkan AI sebagai pembantu dan penjana pelan tindakan di setiap sudut perbankan—kredit, penipuan, pembahagian, perkhidmatan pelanggan, pematuhan, pelaporan, analisis kewangan. Dalam unit akhir ini, kami menyusun bahagian-bahagiannya: bagaimana anda menjalankan tugas perbankan dari awal hingga akhir dalam gelung selamat, cara tadbir urus model merangka gelung itu dan apakah lima soalan yang anda mengaudit sendiri setiap output? Matlamatnya adalah untuk menyaring apa yang telah anda pelajari ke dalam satu refleks: AI menghasilkan → pakar mengesahkan → pakar memutuskan. Kitaran ini adalah cara untuk mengekalkan kelajuan dan keselamatan pada masa yang sama.

Gelung hujung ke hujung: tiga gelang

Fikirkan setiap tugas perbankan sebagai rantaian tiga pautan:

1. AI menghasilkan (draf cincin): Tanpa Nama, dengan data minimum, AI diberi tugasan draf/semak — ringkasan, justifikasi draf, makluman, draf akaun. Tiada keputusan di sini, hanya bahan.
2. Pakar mengesahkan (gelang penapis): Output dipautkan kepada sumber, nombor dikira semula, ditapis melalui dasar/perundangan dan keadilan. Halusinasi, diskriminasi dan pencerobohan privasi dihapuskan di sini.
3. Pihak berkuasa membuat keputusan (cincin tandatangan): Penghakiman akhir — kredit, STR, keputusan penipuan, tandatangan laporan — dibuat oleh orang/jawatankuasa yang diberi kuasa; Justifikasi dan jejak audit direkodkan.

Pencarian

AI menghasilkan

Pakar mengesahkan

keputusan yang cekap

kredit

Draf justifikasi

Nisbah/sumber/keadilan

Keputusan peruntukan

penipuan

Amaran anomali

Konteks/pengesahan pelanggan

Sekat/peraturan bebas

AML

Corak/padan

Semakan tidak sepadan

keputusan STR

Laporan

Draf teks/nombor

Pengesahan berangka

tandatangan

Analisis

Draf kadar/ulasan

Pengiraan semula/andaian

Pendapat pelaburan/kredit

Petua: Pautan yang paling kerap dilangkau dalam gelung ialah "pengesahan" tengah. Di bawah tekanan, orang ramai melompat dari draf ke keputusan. Walau bagaimanapun, cincin tengah itulah yang menentukan nilai dan risiko. Melangkau pengesahan adalah memecahkan kitaran.

Tadbir urus model: sistem yang membingkai gelung

Di luar tugas individu, bank mesti menguruskan modelnya secara keseluruhan. Model tadbir urus terdiri daripada komponen berikut:

• Pengesahan: Model diuji secara bebas sebelum ia digunakan; Ketepatan, keadilan dan hadnya diukur.
• Pemantauan: Model mungkin merosot dari semasa ke semasa (hanyut data — prestasi menurun apabila pengedaran input berubah). Ia sentiasa dipantau.
• Dokumentasi: Apa yang model lakukan, data yang dilatih dengannya, hadnya dan mereka yang bertanggungjawab didokumenkan.
• Peranan dan tanggungjawab: Siapa yang menghasilkan, siapa yang mengesahkan, siapa yang membuat keputusan ditakrifkan dengan jelas.
• Semakan dan penambahbaikan: Ralat direkodkan, model dinilai semula secara berkala.

Awas: Model yang berfungsi dengan baik tidak akan berfungsi dengan baik selama-lamanya. Keadaan ekonomi, tingkah laku pelanggan dan taktik penipuan berubah; Jika model tidak dapat bersaing dengan ini, ia mula memalsukan secara senyap. Tanpa pemantauan, kemerosotan ini tidak disedari.

Semak sendiri lima soalan

Sebelum menggunakan setiap output AI, tanya diri anda lima soalan ini:

1. Pengesahan: Adakah saya menyambungkan output ini kepada sumber dan mengira semula nombor kritikal?
2. Sumber: Adakah setiap tuntutan berdasarkan dokumen/data/peraturan sebenar, atau bolehkah ia dibuat?
3. Privasi: Adakah data identiti tanpa nama, data minimum dan alat yang diluluskan digunakan?
4. Keadilan: Adakah output mengandungi diskriminasi oleh harta yang dilindungi atau pembolehubah pengganti?
5. Kelulusan: Adakah keputusan muktamad yang dibuat oleh orang yang diberi kuasa, rasional dan jejak audit direkodkan?

Jika salah satu daripada lima adalah "tidak", output tidak sedia untuk digunakan.

Empat templat yang boleh disalin

1) Pelan misi hujung ke hujung:

Peranan anda: pembantu yang membantu saya merancang tugas perbankan dalam gelung selamat.Tugas: [tugas]. Isi saya dengan tiga cincin ini: (1) apakah draf yang akan dihasilkan oleh AI, (2) apakah langkah pengesahan yang akan dilakukan oleh pakar, (3) apakah keputusan yang akan dibuat dan direkodkan oleh pegawai? Mencadangkan keputusan; Rangka proses muncul.

2) Aplikasi kawalan diri dengan lima soalan:

Semak output AI berikut dengan lima soalan: pengesahan, asal, privasi, keadilan, kelulusan. Untuk setiap soalan, nilaikan "ok / tidak lengkap / berisiko" dan tulis cara untuk memperbaiki kekurangan. Output: [teks]

3) Nota semak penjejakan model:

Peranan anda: pembantu tadbir teladan. Untuk model sokongan keputusan yang kami gunakan, tukar penunjuk yang perlu dipantau dengan kerap (prestasi, keadilan antara kumpulan, isyarat hanyut data, rekod ralat) menjadi senarai semak. Membuat keputusan; Cadangkan rangka kerja pemantauan.

4) Penutupan kes dan jejak audit:

Draf nota penutup untuk jejak audit pada penghujung penglibatan: apakah draf yang dihasilkan, apakah pengesahan yang dibuat, apakah keputusan yang dibuat oleh siapa, dengan apa justifikasi. Hanya gunakan maklumat yang disahkan yang saya berikan. Input: [maklumat]

Gesaan lemah / Gesaan kuat

Gesaan yang lemah:

Anda mengendalikan tugas ini dari awal hingga akhir dan berikan saya hasilnya sebagai keputusan sedia, jadi saya tidak akan peduli dengan butirannya.

Ia mengurangkan tiga deringan kepada satu langkah, memintas pengesahan dan pertimbangan manusia, dan mengaburkan tanggungjawab.

Gesaan kuat:

Peranan anda: pembantu proses, bukan pembuat keputusan. Mula-mula menghasilkan garis besar untuk tugas itu, kemudian senaraikan perkara yang perlu saya sahkan, dan pada akhirnya ingatkan saya bahawa keputusan dan jejak audit adalah milik saya. Tambahkan lima soalan semak sendiri (pengesahan, sumber, kerahsiaan, keadilan, kelulusan) pada output.

Kemahuan yang kuat melindungi tiga cincin, memerlukan pengesahan dan menyerahkan keputusan kepada orang itu.

tiga kes mini

Kes 1 — Kitaran berjalan sepenuhnya. Dalam permohonan pinjaman, AI menghasilkan draf justifikasi (ring 1); pakar mengira semula kadar, menyemak justifikasi untuk keadilan, mengosongkan ungkapan pembolehubah pengganti (ring 2); pegawai membuat keputusan peruntukan dan merekodkan jejak audit (ring 3). Dalam 20 minit, keputusan yang selamat dan boleh dipertahankan muncul.

Kes 2 — Pemantauan menangkap kemerosotan. Walaupun corak penipuan berfungsi dengan baik selama berbulan-bulan, kadar tangkapan menurun secara senyap-senyap kerana taktik penipuan baharu. Pemantauan di bawah tadbir urus model menyedari penurunan ini; Model dikemas kini. Tanpa pemantauan, kerugian akan terus meningkat.

Kes 3 — Kawalan kendiri menghalang pelanggaran. Seorang penganalisis akan menghantar terus keluaran AI untuk laporan pantas. Dia menggunakan lima soalan: dia perasan bahawa angka keuntungan tidak disahkan dalam soalan "sumber". Kawalan daripada sumber; nombor itu salah. Tiga puluh saat pemeriksaan sendiri menghalang gambar palsu daripada dihantar kepada pihak pengurusan.

Kejelasan peranan: siapa yang menghasilkan, siapa yang mengesahkan, siapa yang memutuskan

Kitaran tiga cincin selamat hanya apabila peranannya jelas. Gangguan yang paling biasa ialah kawasan kabur di mana "semua orang bertanggungjawab tetapi tiada siapa yang bertanggungjawab": draf itu dihasilkan oleh AI, tiada siapa yang mengesahkannya sepenuhnya dan keputusan itu kekal tanpa pengawasan kerana ia "meninggalkan sistem". Jurang ini adalah tempat kesilapan paling mudah masuk.

Dalam fiksyen yang sihat, setiap cincin mempunyai pemilik:

• Penjana (pembantu + pengguna): Tanpa Nama, orang yang meminta draf dan menyediakan entri dengan data minimum.
• Pengesah (pakar): Seseorang yang memautkan output kepada sumber, mengira semula nombor dan menapisnya untuk keadilan dan kerahsiaan. Peranan ini tidak pernah dilangkau.
• Pembuat keputusan (pihak berkuasa/jawatankuasa): Pihak berkuasa yang membuat keputusan muktamad dan menandatangani justifikasi dan jejak audit.

Kadang-kadang orang yang sama mengambil beberapa peranan; Ini tidak menjadi masalah, asalkan anda memastikan setiap pautan dibuat secara sedar dan direkodkan. Masalahnya ialah cincin dibiarkan kosong dengan andaian bahawa "seseorang mesti telah melakukannya".

Petua: Selepas membuat keputusan, tanya diri anda "Siapakah pemilik tunggal keputusan ini?" bertanya. Jika jawapannya bukan nama yang jelas, bermakna rantaian tanggungjawab terputus; Mulakan semula gelung.

Kesilapan biasa

• Melangkau cincin tengah. Melangkah terus daripada draf kepada keputusan dan melangkau pengesahan.
• Meletakkan tanggungjawab pada model. Mengatakan "AI akan mengendalikannya" dan tidak memiliki keputusan dan tandatangan muktamad.
• Berfikir untuk menetapkan model dan melupakannya. Meninggalkan model yang berfungsi dengan baik setelah berhenti mengikuti; tidak melihat data hanyut.
• Tidak meninggalkan jejak audit. Tidak merekodkan siapa yang membuat keputusan apa dan mengapa.
• Melangkaui kawalan diri. Menggunakan output tanpa bertanya lima soalan.

Petua: Jadikan lima soalan semak diri sebagai tabiat; Ia menjadi automatik dari semasa ke semasa dan mengambil masa beberapa saat. Banyak kesilapan terbesar berlaku apabila beberapa saat kawalan ini terlepas.

Secara ringkasnya

Penggunaan kecerdasan buatan yang selamat dalam perbankan ialah kitaran tiga cincin: AI menghasilkan, pakar mengesahkan, pihak berkuasa membuat keputusan. Model tadbir urus (pengesahan, pemantauan, dokumentasi, akauntabiliti, penambahbaikan) merangka kitaran ini. Semak sendiri setiap output dengan lima soalan — pengesahan, sumber, kerahsiaan, keadilan, kelulusan; Jika satu pun hilang, output belum siap. Model mungkin rosak; pemantauan adalah penting. Tanggungjawab sentiasa terletak pada orang itu. Dalam satu ayat: Kecerdasan buatan ialah pautan pertama dalam kitaran; pengesahan dan keputusan muktamad adalah cincin orang yang berwibawa yang boleh memberikan akaun.

Tugasan permohonan

Pilih tugas daripada perniagaan anda sendiri dan buat pelan hujung ke hujung tiga cincin dengan templat 1: apakah yang akan dihasilkan oleh AI, apakah yang akan disahkan oleh pakar, apakah yang akan direkodkan dan diputuskan oleh pihak berkuasa. Kemudian tulis contoh output AI untuk tugasan itu, gunakan semakan kendiri lima soalan dengan templat ke-2 dan betulkan kekurangannya. Akhir sekali, buat senarai semak pemantauan dengan templat 3 untuk alat sokongan keputusan yang anda gunakan.

senarai semak

• [ ] Saya menstrukturkan tugas ke dalam gelung tiga cincin (jana / sahkan / putuskan).
• [ ] Saya tidak melangkau pautan tengah (pengesahan); Saya menyemak sumber dan nombor.
• [ ] Saya mentadbir lima soalan kawalan diri; Jika ada yang kurang, saya akan pergi.
• [ ] Saya lulus penapisan privasi dan keadilan.
• [ ] Saya mengambil kira risiko pengesanan model dan rasuah.
• [ ] Saya bertanggungjawab dengan merekodkan keputusan muktamad, justifikasinya dan jejak audit.

Peperiksaan Modul

1. Pakar kredit menghantar alasan penolakan pinjaman yang dijana oleh kecerdasan buatan kepada pelanggan tanpa menyemaknya. Apakah kesilapan asas dalam pendekatan ini?

• A) Output kecerdasan buatan tidak boleh digunakan tanpa pengesahan; Draf justifikasi keputusan mesti disemak dan diluluskan oleh pakar yang diberi kuasa ✔
• B) Kepintaran buatan sentiasa memberikan justifikasi pinjaman sebagai negatif
• C) Hanya markah yang perlu diberitahu kepada pelanggan dan bukannya sebabnya
• D) Justifikasi sepatutnya telah disampaikan kepada pelanggan melalui telefon dan bukannya e-mel.

Penjelasan: Walaupun kecerdasan buatan boleh menghasilkan justifikasi yang konsisten, ia juga boleh menghasilkan justifikasi yang salah dan malah diskriminasi dengan keyakinan yang sama berdasarkan data yang salah atau andaian yang salah. Perbankan ialah kawasan yang dikawal selia dan kritikal; Setiap output mesti disahkan oleh pakar, dan keputusan peruntukan kredit serta justifikasi akhir mestilah milik orang yang diberi kuasa.

2. Apakah tingkah laku terbaik dari segi kerahsiaan (KVKK dan rahsia pelanggan) apabila memindahkan transaksi akaun bank pelanggan ke alat kecerdasan buatan?

• A) Nama penuh pelanggan dan penyata akaun hendaklah dimuat naik sebagaimana adanya untuk kelajuan.
• B) Dengan mengalih keluar maklumat yang boleh dikenal pasti secara peribadi dan menamakan data, hanya maklumat minimum yang diperlukan harus dikongsi dalam alat selamat yang diluluskan ✔
• C) Jika data disulitkan, nama dan nombor akaun juga boleh dihantar ke mana-mana kenderaan
• D) Kerana tujuannya baik, keseluruhan transkrip boleh dikongsi tanpa meminta pelanggan

Penjelasan: Data kewangan pelanggan adalah data peribadi dan rahsia pelanggan dalam skop undang-undang perbankan. Mengenal pasti maklumat seperti nama, TR ID, nombor akaun harus dialih keluar dan data tanpa nama; Data minimum yang diperlukan untuk tugas itu harus dikongsi dan hanya alat selamat yang diluluskan oleh institusi harus digunakan.

3. Kepintaran buatan menghasilkan justifikasi untuk keputusan model pemarkahan kredit, seperti 'penolakan kerana kawasan kejiranan di mana pemohon tinggal berisiko'. Apa yang perlu dilakukan oleh pakar?

• A) Rasional digunakan sebagaimana adanya kerana model tersebut berdasarkan statistik
• B) Maklumat daerah diberatkan lagi dan keputusan itu diperkukuh.
• C) Ini mungkin diskriminasi tidak langsung melalui pembolehubah proksi; Justifikasi mesti ditolak dan keputusan mestilah berdasarkan kriteria yang sah dan boleh dijelaskan ✔
• D) Alasannya tidak diberitahu kepada pelanggan, ia hanya disimpan dalam fail, tidak akan ada masalah.

Penjelasan: Daerah tempat tinggal mungkin pembolehubah proksi yang sangat berkaitan dengan etnik atau ciri-ciri dilindungi yang serupa, mewujudkan diskriminasi tidak langsung. Jenis justifikasi ini tidak boleh diterima dari segi undang-undang dan etika; Keputusan mestilah berdasarkan kriteria yang sah, boleh dijelaskan dan tidak mendiskriminasi, dan justifikasi ini mesti ditolak.

4. Dalam sistem pengesanan penipuan, kecerdasan buatan menandakan transaksi sebagai 'berisiko tinggi'. Apakah pendekatan terbaik?

• A) Amaran adalah isyarat pra-penyaringan; Penipuan sebenar dan penggera palsu harus dibezakan dengan pemeriksaan pakar dan penghakiman muktamad hendaklah dibuat secara berperikemanusiaan ✔
• B) Urus niaga disekat secara automatik dan kekal, semakan tidak diperlukan
• C) Amaran diabaikan kerana kebanyakan amaran adalah palsu
• D) Pelanggan dipanggil dan terus dipersalahkan

Penjelasan: Amaran AI ialah penyaringan awal dan isyarat kebarangkalian, bukan keputusan muktamad. Terpulang kepada pakar untuk membezakan antara penipuan sebenar dan positif palsu, untuk menyiasat tanpa menganiaya pelanggan, dan untuk membuat keputusan muktamad; Amaran itu tidak seharusnya menyekat akaun secara automatik secara kekal.

5. Berapakah kos bagi sejumlah besar makluman positif palsu dalam pengesanan penipuan?

• A) Positif palsu tiada kos, lebih banyak amaran lebih baik
• B) Mencipta kesusahan pelanggan dan keletihan penggera; Meningkatkan risiko penipuan sebenar tanpa disedari ✔
• C) Ia hanya meningkatkan penggunaan elektrik sistem
• D) Positif palsu hanya berlaku dalam dagangan malam

Penjelasan: Positif palsu menimbulkan kesulitan dan ketidakpuasan hati dengan menghalang transaksi pelanggan yang sah secara tidak perlu; Ia juga mewujudkan keletihan berjaga-jaga dalam penganalisis, meningkatkan risiko penipuan sebenar akan diabaikan. Oleh itu, ambang dan peraturan harus seimbang dan amaran harus diutamakan.

6. Apakah sempadan yang paling kritikal dari segi etika apabila mereka bentuk segmentasi pelanggan dan kempen yang diperibadikan?

• A) Lebih sempit segmen lebih baik, tiada had lain
• B) Pemperibadian hanyalah isu teknikal, ia tidak memerlukan sempadan etika
• C) Kelayakan, persetujuan dan tanpa diskriminasi mesti dilindungi; Eksploitasi dan manipulasi pelanggan yang terdedah mesti dicegah ✔
• D) Jika kempen dihantar kepada semua orang yang sama, tidak akan ada masalah etika.

Penjelasan: Walaupun segmentasi boleh digunakan untuk manfaat pelanggan (pengesyoran produk yang sesuai), ia juga boleh disalahgunakan untuk mengeksploitasi kelemahan (seperti memasarkan kredit tambahan kepada pelanggan yang terlebih terhutang). Prinsip kesesuaian, persetujuan dan tanpa diskriminasi mesti dilindungi; pemperibadian tidak seharusnya bertukar menjadi manipulasi.

7. Apakah dasar keselamatan terbaik untuk bot sembang perkhidmatan pelanggan?

• A) Chatbot sepatutnya boleh menyimpulkan semua jenis transaksi dan nasihat kewangan sendiri
• B) Mempercepatkan maklumat rutin; Aduan, nasihat sensitif dan transaksi yang dibenarkan harus diserahkan kepada manusia, maklumat yang tidak disahkan tidak boleh diberikan ✔
• C) Chatbot boleh berkongsi semua maklumat akaun tanpa mengesahkan identiti pelanggan
• D) Pilihan penyerahan manusia harus dialih keluar kerana ia melambatkan chatbot.

Perihalan: Chatbot dengan selamat mempercepatkan maklumat yang sering ditanya dan urus niaga rutin, tetapi aduan, nasihat kewangan yang sensitif, urus niaga yang dibenarkan pada akaun dan situasi yang tidak jelas harus diserahkan kepada pekerja yang diberi kuasa. Selain itu, chatbot tidak seharusnya mendedahkan rahsia pelanggan atau memberikan maklumat yang tidak disahkan.

8. Dalam proses AML/KYC, kecerdasan buatan menandakan transaksi sebagai mencurigakan. Apakah pendekatan yang betul dari segi pelaporan transaksi (STR) yang mencurigakan?

• A) Jika model telah ditanda, pemberitahuan hendaklah dibuat secara automatik, pegawai pematuhan tidak diperlukan
• B) Amaran itu diabaikan kerana kebanyakan transaksi adalah sah
• C) Transaksi segera dilaporkan kepada pelanggan kerana 'terdapat syak wasangka pencucian'
• D) Output model ialah saringan dan draf awal; Keputusan STR dibuat oleh pegawai pematuhan yang diberi kuasa, mengekalkan justifikasi dan jejak audit ✔

Perihalan: Pemantauan dan pengimbasan transaksi kecerdasan buatan dengan cepat membenderakan corak yang berpotensi mencurigakan, tetapi pelaporan transaksi yang mencurigakan (STR/SAR) ialah keputusan yang mempunyai akibat undang-undang dan dibuat dengan pertimbangan pegawai pematuhan yang diberi kuasa. Output model adalah pendahuluan dan draf; Jejak audit dan justifikasi mesti dipelihara.

9. Dalam saringan senarai sekatan / PEP (politically exposed person), kecerdasan buatan sepadan dengan nama, tetapi ini mungkin padanan palsu. Apakah pendekatan yang betul?

• A) Padanan mesti disahkan dengan pengecam tambahan (tarikh lahir, kewarganegaraan); Keputusan mesti dibuat oleh pegawai pematuhan ✔
• B) Persamaan nama sudah memadai, pelanggan segera diisytiharkan dibenarkan
• C) Semua perlawanan dianggap palsu dan diabaikan
• D) Keputusan diserahkan kepada chatbot

Penjelasan: Imbasan nama mungkin menghasilkan positif palsu kerana nama yang serupa. Pegawai pematuhan mesti mengesahkan padanan dengan tarikh lahir, kewarganegaraan, dan pengecam lain; Tersilap mengisytiharkan pelanggan dibenarkan atau terlepas perlawanan sebenar kedua-duanya mempunyai akibat yang serius. Keputusan itu milik manusia.

10. Anda menghasilkan draf laporan pengurusan dengan kecerdasan buatan; Laporan itu termasuk angka keuntungan suku tahunan. Apakah langkah paling kritikal sebelum menandatangani?

• A) Semua nombor kritikal dalam laporan hendaklah disahkan semula terhadap data sumber; Tanggungjawab tandatangan terakhir terletak pada manusia ✔
• B) Kecerdasan buatan memberikan nombor tanpa kesilapan, pengesahan adalah membuang masa
• C) Hanya format yang disemak untuk menjadikan laporan kelihatan lebih cantik.
• D) Laporan dihantar terus kepada pengurusan kanan, kawalan dibuat kemudian

Penjelasan: Kepintaran buatan mungkin salah nyata nilai berangka, membentuknya atau meringkaskannya secara tidak konsisten dengan data sumber. Semua nombor kritikal hendaklah disahkan semula terhadap data sumber sebelum laporan ditandatangani; Walaupun automasi memberikan kelajuan, tanggungjawab tandatangan terakhir terletak pada manusia.

11. Kecerdasan buatan menganalisis penyata kewangan syarikat dan berkata 'syarikat itu sangat kukuh, pinjaman pasti perlu diberikan'. Apakah tanggungjawab penganalisis kewangan?

• A) Menerima teks seadanya, kerana kecerdasan buatan mengetahui kewangan tanpa kesilapan
• B) Mengira semula nisbah daripada jadual sumber dan menyoal andaian; Membuat keputusan muktamad sebagai manusia, menyatakan ketidakpastian ✔
• C) Membentangkan keputusan terus kepada jawatankuasa sebagai 'AI diluluskan'
• D) Menolak pinjaman tanpa membaca analisis sama sekali

Penjelasan: Analisis kewangan bergantung kepada andaian dan ketepatan input; AI mungkin salah mengira kadar, mengabaikan data yang hilang atau menggunakan bahasa yang terlalu tepat. Penganalisis mesti mengira semula kadar daripada jadual sumber, andaian soalan, dan membuat keputusan kredit muktamad secara manusiawi, memetik ketidakpastian.

12. Walaupun model kredit mungkin tidak secara langsung menggunakan ciri yang dilindungi seperti jantina atau etnik, ia mungkin secara tidak langsung mencerminkannya melalui poskod dan data beli-belah. Apakah nama situasi ini dan mengapa ia berisiko?

• A) Ini dipanggil pembelajaran berlebihan dan hanya akan mengurangkan ketepatan
• B) Ini dipanggil kebocoran data dan hanya isu kelajuan
• C) Ini dipanggil diskriminasi tidak langsung melalui pembolehubah proksi; adalah menyalahi undang-undang dan mesti diperiksa oleh ujian keadilan ✔
• D) Ini dipanggil normalisasi dan tidak berbahaya sama sekali

Penjelasan: Pembolehubah yang sangat dikaitkan dengan harta yang dilindungi dipanggil pembolehubah proksi. Walaupun model tidak menggunakan ciri yang dilindungi secara langsung, ia boleh mendiskriminasi secara tidak langsung melalui proksi. Ini menyalahi undang-undang dan tidak beretika; Model harus diuji dengan metrik keadilan dan risiko proksi harus dikawal.

13. Bank menggunakan model kecerdasan buatan dalam keputusan kredit. Apakah salah satu keperluan paling asas dari segi perundangan dan kebolehauditan?

• A) Model yang lebih kompleks dan tidak dapat difahami, lebih selamat ia
• B) Menyimpan rekod adalah tidak perlu, keputusan boleh dijelaskan secara lisan
• C) Hak pelanggan untuk membantah harus dibuang kerana ia melambatkan proses
• D) Model harus dapat dijelaskan, justifikasi keputusan dan jejak audit harus disimpan, pelanggan harus diberi hak untuk membantah/semakan manusia ✔

Penjelasan: Dalam proses keputusan terkawal, model mesti boleh dijelaskan, rasional keputusan mesti didokumenkan, rekod (jejak audit) mesti disimpan, dan pelanggan mesti diberi hak untuk membantah/meminta semakan manusia. Keputusan tidak wajar model 'kotak hitam' tidak boleh diaudit dan tidak mematuhi perundangan.

14. Bagaimanakah prinsip utama yang ditekankan sepanjang modul menggambarkan peranan kecerdasan buatan dalam perbankan?

• A) Kecerdasan buatan boleh menggantikan jurubank berpengalaman dan memuktamadkan pinjaman dan pemberitahuan sendiri
• B) Kepintaran buatan hanya digunakan untuk pemasaran, bukan untuk membuat keputusan
• C) Output kecerdasan buatan adalah selamat walaupun tanpa pengesahan kerana ia berdasarkan statistik
• D) Kepintaran buatan ialah pembantu dan penjana draf; Peruntukan kredit, pertimbangan penipuan/pematuhan dan keputusan muktamad terletak pada orang yang diberi kuasa ✔

Penerangan: AI mempercepatkan tugas berulang sebagai pembantu, pra-penyaring dan penjana draf; Tetapi memandangkan kami bekerja di kawasan terkawal, kritikal amanah, keputusan muktamad berkenaan peruntukan kredit, peruntukan penipuan/pematuhan dan pelanggan adalah tanggungjawab orang yang diberi kuasa (jurubank yang diberi kuasa dan jawatankuasa keputusan). Output yang tidak disahkan ialah keputusan draf yang tidak ditandatangani.