Alur Kerja End-to-End, Tata Kelola Model, dan Audit Mandiri

Keuntungan:

• Kemampuan untuk mengoperasikan tugas perbankan secara aman secara end-to-end dengan siklus 'AI menghasilkan → verifikasi ahli → keputusan resmi'
• Kemampuan untuk menanamkan kecerdasan buatan dengan aman dalam kerangka tata kelola model, validasi, pemantauan, dan peningkatan berkelanjutan
• Kemampuan untuk mengambil tanggung jawab utama dengan memeriksa sendiri hasilnya dengan lima pertanyaan kunci (otentikasi, sumber, kerahasiaan, keadilan, persetujuan)

Sepanjang modul ini, kami memposisikan AI sebagai asisten dan pembuat cetak biru di setiap sudut perbankan—kredit, penipuan, segmentasi, layanan pelanggan, kepatuhan, pelaporan, analisis keuangan. Dalam unit terakhir ini, kami menyatukan beberapa bagian: bagaimana Anda menjalankan tugas perbankan dari awal hingga akhir dalam loop aman, bagaimana model tata kelola membingkai loop tersebut, dan lima pertanyaan apa yang Anda gunakan untuk mengaudit sendiri setiap output? Tujuannya adalah untuk menyaring apa yang telah Anda pelajari ke dalam satu refleks: AI menghasilkan → ahli memverifikasi → ahli memutuskan. Siklus ini merupakan cara untuk menjaga kecepatan dan keamanan pada saat yang bersamaan.

Lingkaran ujung ke ujung: tiga dering

Bayangkan setiap tugas perbankan sebagai rantai tiga mata rantai:

1. AI menghasilkan (draf ring): Anonim, dengan data minimal, AI diberikan tugas draf/pemeriksaan — ringkasan, draf pembenaran, peringatan, draf akun. Tidak ada keputusan di sini, yang ada hanya materi.
2. Verifikasi ahli (cincin filter): Output dikaitkan dengan sumbernya, jumlahnya dihitung ulang, disaring melalui kebijakan/undang-undang dan keadilan. Halusinasi, diskriminasi dan pelanggaran privasi dihilangkan di sini.
3. Wewenang mengambil keputusan (cincin tanda tangan): Keputusan akhir — kredit, STR, keputusan penipuan, tanda tangan laporan — dibuat oleh orang/panitia yang berwenang; Pembenaran dan jejak audit dicatat.

Pencarian

AI menghasilkan

Pakar menegaskan

keputusan yang kompeten

kredit

Draf pembenaran

Rasio/sumber/kewajaran

Keputusan alokasi

penipuan

Peringatan anomali

Konteks/konfirmasi pelanggan

Blokir/keputusan bebas

AML

Pola/kecocokan

Pemeriksaan ketidakcocokan

keputusan STR

Laporkan

Draf teks/angka

Verifikasi numerik

tanda tangan

Analisis

Draf penilaian/komentar

Perhitungan ulang/asumsi

Opini investasi/kredit

Tip: Tautan yang paling sering dilewati dalam loop adalah “verifikasi” tengah. Di bawah tekanan, orang beralih dari rancangan ke keputusan. Namun, lingkaran tengah itulah yang menentukan nilai dan risiko. Melewatkan verifikasi berarti memutus siklus.

Tata kelola model: sistem yang membingkai lingkaran

Di luar tugas individu, bank harus mengelola modelnya secara keseluruhan. Tata kelola model terdiri dari komponen-komponen berikut:

• Validasi: Model diuji secara independen sebelum digunakan; Akurasi, keadilan, dan batasannya diukur.
• Pemantauan: Model dapat memburuk seiring berjalannya waktu (penyimpangan data — kinerja menurun ketika distribusi masukan berubah). Itu terus dipantau.
• Dokumentasi: Apa yang dilakukan model, data apa yang dilatih, batasannya, dan siapa yang bertanggung jawab didokumentasikan.
• Peran dan tanggung jawab: Siapa yang memproduksi, siapa yang memverifikasi, siapa yang memutuskan, didefinisikan dengan jelas.
• Tinjauan dan perbaikan: Kesalahan dicatat, model dievaluasi ulang secara berkala.

Perhatian: Model yang berfungsi dengan baik tidak akan berfungsi dengan baik selamanya. Kondisi ekonomi, perilaku pelanggan, dan taktik penipuan berubah; Jika model tidak dapat mengikuti hal ini, model tersebut mulai melakukan pemalsuan secara diam-diam. Tanpa pemantauan, degradasi ini tidak akan diketahui.

Periksa diri lima pertanyaan

Sebelum menggunakan setiap keluaran AI, tanyakan pada diri Anda lima pertanyaan berikut:

1. Verifikasi: Apakah saya menghubungkan output ini ke sumber dan menghitung ulang angka-angka kritis?
2. Sumber: Apakah setiap klaim didasarkan pada dokumen/data/aturan yang sebenarnya, atau dapatkah dibuat-buat?
3. Privasi: Apakah data identitas dianonimkan, data minimum dan alat yang disetujui digunakan?
4. Keadilan: Apakah keluarannya mengandung diskriminasi berdasarkan properti yang dilindungi atau variabel pengganti?
5. Persetujuan: Apakah keputusan akhir dibuat oleh orang yang berwenang, alasan dan jejak auditnya dicatat?

Jika salah satu dari lima jawaban "tidak", outputnya belum siap digunakan.

Empat templat yang dapat disalin

1) Rencana misi ujung ke ujung:

Peran Anda: asisten yang membantu saya merencanakan tugas perbankan di loop aman. Tugas: [tugas]. Isikan saya dengan tiga lingkaran berikut: (1) rancangan apa yang akan dihasilkan AI, (2) langkah verifikasi apa yang akan dilakukan ahli, (3) keputusan apa yang akan diambil dan dicatat oleh pejabat tersebut? Mengusulkan keputusan; Kerangka proses muncul.

2) Penerapan pengendalian diri dengan lima pertanyaan:

Periksa keluaran AI berikut dengan lima pertanyaan: verifikasi, asal, privasi, keadilan, persetujuan. Untuk setiap pertanyaan, evaluasi “ok/tidak lengkap/berisiko” dan tuliskan cara memperbaiki kekurangannya. Keluaran: [teks]

3) Catatan pemeriksaan pelacakan model:

Peran Anda: asisten model tata kelola. Untuk model pendukung keputusan yang kami gunakan, ubah indikator yang perlu dipantau secara berkala (kinerja, keadilan antarkelompok, sinyal penyimpangan data, catatan kesalahan) menjadi daftar periksa. Pengambilan keputusan; Menyarankan kerangka pemantauan.

4) Penutupan kasus dan jejak audit:

Draf catatan penutup untuk jejak audit di akhir penugasan: draf apa yang dihasilkan, verifikasi apa yang dilakukan, keputusan apa yang dibuat oleh siapa, dengan justifikasi apa. Hanya gunakan informasi terverifikasi yang saya berikan.Masukan: [informasi]

Perintah lemah / Perintah kuat

Perintah yang lemah:

Anda menangani tugas ini dari awal sampai akhir dan memberi saya hasilnya sebagai keputusan yang sudah jadi, jadi saya tidak akan peduli dengan detailnya.

Hal ini mengurangi tiga dering menjadi satu langkah, mengabaikan verifikasi dan penilaian manusia, dan mengaburkan tanggung jawab.

Perintah yang kuat:

Peran Anda: asisten proses, bukan pengambil keputusan. Pertama-tama buatlah garis besar tugas tersebut, lalu buatlah daftar poin-poin yang perlu saya verifikasi, dan pada akhirnya ingatkan saya bahwa keputusan dan jejak audit ada di tangan saya. Tambahkan lima pertanyaan pemeriksaan mandiri (autentikasi, sumber, kerahasiaan, keadilan, persetujuan) ke output.

Kemauan yang kuat melindungi ketiga cincin, memerlukan verifikasi dan menyerahkan keputusan kepada orang tersebut.

tiga kasus mini

Kasus 1 — Siklus berjalan sepenuhnya. Dalam permohonan pinjaman, AI membuat draf justifikasi (ring 1); ahli menghitung ulang tarif, memeriksa justifikasi keadilan, menghapus ekspresi variabel pengganti (dering 2); pejabat tersebut membuat keputusan alokasi dan mencatat jejak audit (ring 3). Dalam 20 menit, keputusan yang aman dan dapat dipertahankan muncul.

Kasus 2 — Pemantauan menangkap degradasi. Meskipun pola penipuan berhasil dengan baik selama berbulan-bulan, tingkat tangkapan perlahan turun karena taktik penipuan baru. Pemantauan berdasarkan model tata kelola memperhatikan penurunan ini; Modelnya diperbarui. Tanpa pengawasan, kerugian akan terus bertambah.

Kasus 3 — Pengendalian diri mencegah pelanggaran. Seorang analis akan langsung mengirimkan keluaran AI untuk laporan cepat. Dia menerapkan lima pertanyaan: dia memperhatikan bahwa angka keuntungan tidak dikonfirmasi dalam pertanyaan "sumber". Kontrol dari sumber; nomornya salah. Pemeriksaan mandiri selama tiga puluh detik mencegah gambar palsu dikirim ke manajemen.

Kejelasan peran: siapa yang memproduksi, siapa yang memverifikasi, siapa yang memutuskan

Siklus tiga cincin hanya aman jika perannya jelas. Kesalahan yang paling umum adalah area kabur di mana “semua orang bertanggung jawab tetapi tidak ada yang bertanggung jawab”: rancangan tersebut dibuat oleh AI, tidak ada yang memverifikasi sepenuhnya, dan keputusan tetap diabaikan karena “keluar dari sistem”. Kesenjangan ini adalah tempat dimana kesalahan paling mudah masuk.

Dalam fiksi yang sehat, setiap cincin memiliki pemiliknya:

• Generator (asisten + pengguna): Anonim, orang yang meminta draf dan menyiapkan entri dengan data minimal.
• Verifikator (ahli): Seseorang yang menghubungkan keluaran ke sumbernya, menghitung ulang angka-angkanya, dan menyaringnya demi keadilan dan kerahasiaan. Peran ini tidak pernah dilewati.
• Pengambil keputusan (otoritas/komite): Otoritas yang mengambil keputusan akhir dan menandatangani justifikasi dan jejak audit.

Terkadang orang yang sama mengambil peran ganda; Ini tidak menjadi masalah, selama Anda memastikan bahwa setiap tautan dibuat secara sadar dan dicatat. Masalahnya adalah sebuah cincin dibiarkan kosong dengan asumsi "pasti ada yang melakukannya".

Tip: Setelah mengambil keputusan, tanyakan pada diri Anda “Siapa pemilik tunggal keputusan ini?” bertanya. Jika jawabannya tidak jelas namanya, berarti putusnya rantai tanggung jawab; Mulai ulang perulangan.

Kesalahan umum

• Melewatkan ring tengah. Langsung dari draf ke keputusan dan melewatkan verifikasi.
• Menempatkan tanggung jawab pada model. Mengatakan "AI akan menanganinya" dan tidak memiliki keputusan akhir dan tanda tangan.
• Berpikir untuk menetapkan model dan melupakannya. Membiarkan model yang berfungsi dengan baik setelah berhenti mengikuti; tidak melihat penyimpangan data.
• Tidak meninggalkan jejak audit. Tidak mencatat siapa yang mengambil keputusan apa dan mengapa.
• Melewati pengendalian diri. Menggunakan output tanpa menanyakan lima pertanyaan.

Tip: Jadikan lima pertanyaan untuk memeriksa diri sendiri sebagai kebiasaan; Ini menjadi otomatis seiring waktu dan membutuhkan beberapa detik. Banyak kesalahan terbesar terjadi ketika kontrol beberapa detik ini terlewatkan.

Singkatnya

Penggunaan kecerdasan buatan yang aman di perbankan adalah siklus tiga lingkaran: AI menghasilkan, ahli memverifikasi, otoritas mengambil keputusan. Tata kelola model (validasi, pemantauan, dokumentasi, akuntabilitas, perbaikan) membingkai siklus ini. Periksa sendiri setiap keluaran dengan lima pertanyaan — otentikasi, sumber, kerahasiaan, keadilan, persetujuan; Jika ada satu saja yang hilang, outputnya belum siap. Modelnya mungkin rusak; pemantauan sangat penting. Tanggung jawab selalu ada pada orangnya. Dalam satu kalimat: Kecerdasan buatan adalah mata rantai pertama dalam siklus ini; verifikasi dan keputusan akhir adalah tanggung jawab orang yang kompeten yang dapat memberikan pertanggungjawaban.

Tugas aplikasi

Pilih tugas dari bisnis Anda sendiri dan buat rencana menyeluruh tiga tahap dengan templat 1: apa yang akan dihasilkan AI, apa yang akan diverifikasi oleh pakar, apa yang akan dicatat dan diputuskan oleh otoritas. Kemudian tulis contoh keluaran AI untuk tugas itu, terapkan pemeriksaan mandiri lima pertanyaan dengan templat ke-2 dan perbaiki kekurangannya. Terakhir, buatlah daftar periksa pemantauan dengan templat 3 untuk alat pendukung keputusan yang Anda gunakan.

daftar periksa

• [ ] Saya menyusun tugas menjadi lingkaran tiga cincin (menghasilkan/memverifikasi/memutuskan).
• [ ] Saya tidak melewatkan link tengah (verifikasi); Saya memeriksa sumber dan nomornya.
• [ ] Saya memberikan lima pertanyaan pengendalian diri; Jika ada yang kurang, saya akan pergi.
• [ ] Saya lolos filter privasi dan keadilan.
• [ ] Saya memperhitungkan risiko pelacakan model dan korupsi.
• [ ] Saya mengambil tanggung jawab dengan mencatat keputusan akhir, justifikasinya, dan jejak audit.

Ujian Modul

1. Pakar kredit menyampaikan alasan penolakan pinjaman yang dihasilkan oleh kecerdasan buatan kepada pelanggan tanpa memeriksanya. Apa kesalahan mendasar dalam pendekatan ini?

• A) Keluaran kecerdasan buatan tidak dapat digunakan tanpa verifikasi; Rancangan justifikasi keputusan harus ditinjau dan disetujui oleh ahli yang berwenang ✔
• B) Kecerdasan buatan selalu memberikan pembenaran pinjaman sebagai hal yang negatif
• C) Hanya skor yang harus diberitahukan kepada pelanggan, bukan alasannya
• D) Pembenaran seharusnya disampaikan kepada pelanggan melalui telepon, bukan email.

Penjelasan: Meskipun kecerdasan buatan dapat menghasilkan pembenaran yang konsisten, kecerdasan buatan juga dapat menghasilkan pembenaran yang keliru dan bahkan diskriminatif dengan keyakinan yang sama berdasarkan data atau asumsi yang salah. Perbankan adalah bidang yang diatur dan sangat penting bagi kepercayaan; Setiap keluaran harus diverifikasi oleh seorang ahli, dan keputusan alokasi kredit serta pembenaran akhir harus menjadi milik orang yang berwenang.

2. Bagaimana perilaku terbaik dalam hal kerahasiaan (KVKK dan rahasia nasabah) saat mentransfer transaksi rekening bank nasabah ke alat kecerdasan buatan?

• A) Nama lengkap pelanggan dan laporan rekening harus diunggah apa adanya untuk kecepatan.
• B) Dengan menghapus informasi identitas pribadi dan menganonimkan data, hanya informasi minimum yang diperlukan yang boleh dibagikan dalam alat aman yang disetujui ✔
• C) Jika data dienkripsi, nama dan nomor rekening juga dapat dikirimkan ke kendaraan apa pun
• D) Karena tujuannya baik, seluruh transkrip dapat dibagikan tanpa bertanya kepada pelanggan

Penjelasan: Data keuangan nasabah merupakan data pribadi dan rahasia nasabah dalam lingkup hukum perbankan. Informasi pengidentifikasi seperti nama, ID TR, nomor rekening harus dihapus dan data dianonimkan; Data minimum yang diperlukan untuk tugas tersebut harus dibagikan dan hanya alat aman yang disetujui oleh institusi yang boleh digunakan.

3. Kecerdasan buatan menghasilkan justifikasi terhadap keputusan model credit scoring, seperti 'penolakan karena lingkungan tempat tinggal pemohon berisiko'. Apa yang harus dilakukan ahlinya?

• A) Alasan digunakan apa adanya karena model didasarkan pada statistik
• B) Informasi daerah lebih dipertimbangkan dan keputusan diperkuat.
• C) Hal ini mungkin merupakan diskriminasi tidak langsung melalui variabel proksi; Pembenaran harus ditolak dan keputusan harus didasarkan pada kriteria yang sah dan dapat dijelaskan ✔
• D) Alasannya tidak diberitahukan kepada pelanggan, hanya disimpan di file saja, tidak ada masalah.

Penjelasan: Distrik tempat tinggal mungkin merupakan variabel proksi yang sangat terkait dengan etnis atau karakteristik serupa yang dilindungi, sehingga menimbulkan diskriminasi tidak langsung. Pembenaran seperti ini tidak dapat diterima secara hukum dan etika; Keputusan tersebut harus didasarkan pada kriteria yang sah, dapat dijelaskan dan tidak diskriminatif, dan pembenaran ini harus ditolak.

4. Dalam sistem deteksi penipuan, kecerdasan buatan menandai suatu transaksi sebagai 'berisiko tinggi'. Apa pendekatan terbaik?

• A) Peringatan tersebut merupakan sinyal pra-penyaringan; Penipuan nyata dan alarm palsu harus dibedakan melalui pemeriksaan ahli dan keputusan akhir harus dibuat secara manusiawi ✔
• B) Transaksi diblokir secara otomatis dan permanen, peninjauan tidak diperlukan
• C) Peringatan diabaikan karena sebagian besar peringatan salah
• D) Pelanggan dipanggil dan langsung disalahkan

Penjelasan: Peringatan AI adalah penyaringan awal dan sinyal probabilitas, bukan keputusan yang pasti. Terserah pada ahli untuk membedakan antara penipuan nyata dan kesalahan positif, untuk menyelidiki tanpa mengorbankan pelanggan, dan untuk membuat keputusan akhir; Peringatan tersebut tidak serta merta memblokir akun secara permanen.

5. Berapa akibat dari peringatan positif palsu dalam jumlah besar dalam deteksi penipuan?

• A) Hasil positif palsu tidak memerlukan biaya apa pun, semakin banyak peringatan semakin baik
• B) Menciptakan kesusahan pelanggan dan kelelahan alarm; Meningkatkan risiko penipuan nyata tanpa diketahui ✔
• C) Ini hanya meningkatkan konsumsi listrik sistem
• D) Positif palsu hanya terjadi pada perdagangan malam

Penjelasan: Positif palsu menciptakan ketidaknyamanan dan ketidakpuasan dengan menghalangi transaksi pelanggan yang sah secara tidak perlu; Hal ini juga menimbulkan kelelahan kewaspadaan bagi para analis, sehingga meningkatkan risiko bahwa penipuan yang sebenarnya akan terabaikan. Oleh karena itu, ambang batas dan peraturan harus seimbang dan peringatan harus diprioritaskan.

6. Apa batasan paling penting secara etis ketika merancang segmentasi pelanggan dan kampanye yang dipersonalisasi?

• A) Semakin sempit segmennya semakin baik, tidak ada batasan lain
• B) Personalisasi hanya masalah teknis, tidak memerlukan batasan etika
• C) Kelayakan, persetujuan dan non-diskriminasi harus dilindungi; Eksploitasi dan manipulasi terhadap pelanggan yang rentan harus dicegah ✔
• D) Jika kampanye dikirimkan kepada semua orang dengan cara yang sama, tidak akan ada masalah etika.

Penjelasan: Meskipun segmentasi dapat digunakan untuk keuntungan pelanggan (rekomendasi produk yang sesuai), segmentasi juga dapat disalahgunakan untuk mengeksploitasi kerentanan (seperti memasarkan kredit tambahan kepada pelanggan yang memiliki hutang berlebih). Prinsip-prinsip kesesuaian, persetujuan dan non-diskriminasi harus dilindungi; personalisasi tidak boleh berubah menjadi manipulasi.

7. Apa kebijakan keamanan terbaik untuk chatbot layanan pelanggan?

• A) Chatbot harus dapat menyelesaikan semua jenis transaksi dan nasihat keuangan sendiri
• B) Mempercepat informasi rutin; Keluhan, saran sensitif, dan transaksi resmi harus didelegasikan kepada manusia, informasi yang belum diverifikasi tidak boleh diberikan ✔
• C) Chatbot dapat membagikan semua informasi akun tanpa memverifikasi identitas pelanggan
• D) Opsi penyerahan manusia harus dihilangkan karena memperlambat chatbot.

Deskripsi: Chatbot dengan aman mempercepat informasi yang sering ditanyakan dan transaksi rutin, tetapi keluhan, nasihat keuangan yang sensitif, transaksi resmi pada akun, dan situasi ambigu harus didelegasikan kepada karyawan yang berwenang. Selain itu, chatbot tidak boleh mengungkapkan rahasia pelanggan atau memberikan informasi yang belum diverifikasi.

8. Dalam proses AML/KYC, kecerdasan buatan menandai suatu transaksi sebagai transaksi mencurigakan. Bagaimana pendekatan yang tepat dalam hal pelaporan transaksi mencurigakan (STR)?

• A) Jika model sudah ditandai, pemberitahuan harus dilakukan secara otomatis, petugas kepatuhan tidak diperlukan
• B) Peringatan tersebut diabaikan karena sebagian besar transaksi sah
• C) Transaksi segera dilaporkan kepada pelanggan karena 'ada dugaan pencucian'
• D) Keluaran model berupa penyaringan dan draf awal; Keputusan STR dibuat oleh pejabat kepatuhan yang berwenang, dengan menjaga justifikasi dan jejak audit ✔

Deskripsi: Pemantauan dan pemindaian transaksi dengan kecerdasan buatan dengan cepat menandai pola yang berpotensi mencurigakan, namun pelaporan transaksi mencurigakan (STR/SAR) adalah keputusan dengan konsekuensi hukum dan dibuat berdasarkan penilaian pejabat kepatuhan yang berwenang. Keluaran model merupakan pendahuluan dan rancangan; Jejak audit dan justifikasinya harus dipertahankan.

9. Dalam penyaringan daftar sanksi / PEP (orang yang terpapar politik), kecerdasan buatan cocok dengan sebuah nama, tetapi ini mungkin salah. Apa pendekatan yang tepat?

• A) Kecocokan harus dikonfirmasi dengan pengidentifikasi tambahan (tanggal lahir, kewarganegaraan); Keputusan harus dibuat oleh petugas kepatuhan ✔
• B) Kesamaan nama cukup, pelanggan langsung dinyatakan dikenakan sanksi
• C) Semua kecocokan dianggap salah dan diabaikan
• D) Keputusan diserahkan kepada chatbot

Penjelasan: Pemindaian nama dapat menghasilkan kesalahan positif karena nama yang mirip. Petugas kepatuhan harus mengkonfirmasi kecocokan dengan tanggal lahir, kewarganegaraan, dan tanda pengenal lainnya; Secara keliru menyatakan bahwa pelanggan terkena sanksi atau melewatkan pertandingan sebenarnya, keduanya memiliki konsekuensi serius. Keputusan ada di tangan manusia.

10. Anda membuat rancangan laporan pengelolaan dengan kecerdasan buatan; Laporan tersebut mencakup angka laba triwulanan. Apa langkah paling penting sebelum penandatanganan?

• A) Semua angka penting dalam laporan harus divalidasi ulang terhadap sumber data; Tanggung jawab tanda tangan terakhir terletak pada manusia ✔
• B) Kecerdasan buatan memberikan angka tanpa kesalahan, verifikasi hanya membuang-buang waktu
• C) Hanya formatnya yang dicentang agar laporan terlihat lebih indah.
• D) Laporan dikirim langsung ke manajemen senior, pengendalian dilakukan kemudian

Penjelasan: Kecerdasan buatan mungkin salah menggambarkan nilai numerik, mengarangnya, atau meringkasnya secara tidak konsisten dengan sumber data. Semua angka penting harus diverifikasi ulang terhadap sumber data sebelum laporan ditandatangani; Meskipun otomatisasi memberikan kecepatan, tanggung jawab akhir terletak pada manusia.

11. Kecerdasan buatan menganalisis laporan keuangan suatu perusahaan dan mengatakan 'perusahaan itu sangat solid, pinjaman pasti harus diberikan'. Apa tanggung jawab analis keuangan?

• A) Menerima teks apa adanya, karena kecerdasan buatan mengetahui keuangan tanpa kesalahan
• B) Menghitung ulang rasio dari tabel sumber dan mempertanyakan asumsi; Mengambil keputusan akhir sebagai manusia, menyatakan ketidakpastian ✔
• C) Menyajikan keputusan secara langsung kepada komite sebagai 'disetujui AI'
• D) Menolak pinjaman tanpa membaca analisa sama sekali

Penjelasan: Analisis keuangan bergantung pada asumsi dan keakuratan masukan; AI mungkin salah menghitung tarif, mengabaikan data yang hilang, atau menggunakan bahasa yang terlalu tepat. Analis harus menghitung ulang suku bunga dari tabel sumber, mempertanyakan asumsi, dan membuat keputusan akhir kredit secara manusiawi, dengan alasan ketidakpastian.

12. Meskipun model kredit mungkin tidak secara langsung menggunakan karakteristik yang dilindungi seperti gender atau etnis, model tersebut mungkin secara tidak langsung mencerminkan karakteristik tersebut melalui kode pos dan data belanja. Apa nama situasi ini dan mengapa berisiko?

• A) Ini disebut pembelajaran berlebihan dan hanya akan mengurangi akurasi
• B) Ini disebut kebocoran data dan hanya masalah kecepatan
• C) Ini disebut diskriminasi tidak langsung melalui variabel proksi; melanggar hukum dan harus diperiksa dengan uji kewajaran ✔
• D) Ini disebut normalisasi dan sama sekali tidak berbahaya

Penjelasan: Variabel yang sangat terkait dengan properti yang dilindungi disebut variabel proksi. Meskipun model tidak menggunakan fitur yang dilindungi secara langsung, model tersebut dapat melakukan diskriminasi secara tidak langsung melalui proxy. Hal ini ilegal dan tidak etis; Model harus diuji dengan metrik keadilan dan risiko proksi harus dikontrol.

13. Bank menggunakan model kecerdasan buatan dalam pengambilan keputusan kredit. Apa salah satu persyaratan paling mendasar dalam hal legislasi dan kemampuan audit?

• A) Semakin kompleks dan tidak dapat dipahami modelnya, semakin aman model tersebut
• B) Menyimpan catatan tidak diperlukan, keputusan dapat dijelaskan secara lisan
• C) Hak pelanggan untuk menolak sebaiknya dihilangkan karena memperlambat proses
• D) Model harus dapat dijelaskan, justifikasi keputusan dan jejak audit harus dipertahankan, pelanggan harus diberi hak untuk menolak/meninjau manusia ✔

Penjelasan: Dalam proses pengambilan keputusan yang diatur, model harus dapat dijelaskan, alasan keputusan harus didokumentasikan, catatan (jejak audit) harus disimpan, dan pelanggan harus diberikan hak untuk menolak/meminta peninjauan manusia. Keputusan model 'kotak hitam' yang tidak dapat dibenarkan tidak dapat diaudit dan tidak sesuai dengan peraturan perundang-undangan.

14. Bagaimana prinsip utama yang ditekankan dalam modul ini menggambarkan peran kecerdasan buatan dalam perbankan?

• A) Kecerdasan buatan dapat menggantikan bankir berpengalaman dan menyelesaikan pinjaman serta pemberitahuan dengan sendirinya
• B) Kecerdasan buatan hanya digunakan untuk pemasaran, bukan untuk pengambilan keputusan
• C) Keluaran kecerdasan buatan aman meski tanpa verifikasi karena didasarkan pada statistik
• D) Kecerdasan buatan adalah asisten dan pembangkit tenaga listrik; Alokasi kredit, penilaian penipuan/kepatuhan dan keputusan akhir berada di tangan orang yang berwenang ✔

Deskripsi: AI mempercepat tugas berulang sebagai asisten, pra-penyaringan, dan pembuat draf; Namun karena kami bekerja di bidang yang diatur dan sangat penting bagi kepercayaan, keputusan akhir mengenai alokasi kredit, ketentuan penipuan/kepatuhan, dan pelanggan adalah tanggung jawab orang yang berwenang (bankir yang berwenang dan komite keputusan). Keluaran yang belum terverifikasi adalah rancangan keputusan yang belum ditandatangani.