Quy trình làm việc toàn diện, Quản trị theo mô hình và Tự kiểm tra

Lợi nhuận:

• Khả năng vận hành một cách an toàn nhiệm vụ ngân hàng từ đầu đến cuối với chu trình 'AI tạo ra → chuyên gia xác minh → quyết định được ủy quyền'
• Khả năng nhúng trí tuệ nhân tạo một cách an toàn trong khuôn khổ quản trị mô hình, xác nhận, giám sát và cải tiến liên tục
• Khả năng chịu trách nhiệm cao nhất bằng cách tự kiểm tra kết quả đầu ra của mình bằng năm câu hỏi chính (xác thực, nguồn, bảo mật, công bằng, phê duyệt)

Trong suốt mô-đun này, chúng tôi định vị AI như một trợ lý và người tạo kế hoạch chi tiết trong mọi lĩnh vực của ngân hàng—tín dụng, gian lận, phân khúc, dịch vụ khách hàng, tuân thủ, báo cáo, phân tích tài chính. Trong phần cuối cùng này, chúng ta ghép các phần lại với nhau: làm cách nào để bạn thực hiện một nhiệm vụ ngân hàng từ đầu đến cuối trong một vòng lặp an toàn, cách quản trị mô hình định khung vòng lặp đó và bạn tự kiểm tra từng đầu ra bằng 5 câu hỏi nào? Mục tiêu là chắt lọc những gì bạn đã học thành một phản xạ duy nhất: AI tạo ra → chuyên gia xác minh → chuyên gia quyết định. Chu trình này là cách để duy trì tốc độ và bảo mật cùng một lúc.

Vòng lặp từ đầu đến cuối: ba vòng

Hãy coi mỗi nhiệm vụ ngân hàng như một chuỗi ba mắt xích:

1. AI tạo ra (vòng nháp): Ẩn danh, với dữ liệu tối thiểu, AI được giao nhiệm vụ nháp/kiểm tra - tóm tắt, biện minh cho bản nháp, cảnh báo, tài khoản nháp. Không có quyết định ở đây, chỉ có vật liệu.
2. Chuyên gia xác minh (vòng lọc): Đầu ra được liên kết với nguồn, các con số được tính toán lại, lọc qua chính sách/pháp luật và tính công bằng. Ảo giác, phân biệt đối xử và xâm phạm quyền riêng tư đều bị loại bỏ ở đây.
3. Cơ quan có thẩm quyền đưa ra quyết định (chữ ký): Phán quyết cuối cùng — tín dụng, STR, quyết định gian lận, chữ ký báo cáo — được đưa ra bởi người/ủy ban có thẩm quyền; Dấu vết biện minh và kiểm tra được ghi lại.

Nhiệm vụ

AI sản xuất

Chuyên gia xác nhận

quyết định có thẩm quyền

tín dụng

Dự thảo biện minh

Tỷ lệ/nguồn/sự công bằng

Quyết định phân bổ

gian lận

Cảnh báo bất thường

Xác nhận bối cảnh/khách hàng

Chặn/tự do phán quyết

AML

Mẫu/khớp

Kiểm tra không khớp

Quyết định STR

Báo cáo

Bản nháp văn bản/số

Xác minh bằng số

chữ ký

Phân tích

Dự thảo xếp hạng/nhận xét

Tính toán lại/giả định

Ý kiến đầu tư/tín dụng

Mẹo: Liên kết bị bỏ qua thường xuyên nhất trong vòng lặp là “xác minh” ở giữa. Dưới áp lực, mọi người chuyển từ dự thảo sang quyết định. Tuy nhiên, chính vòng giữa mới quyết định cả giá trị và rủi ro. Bỏ qua xác minh là phá vỡ chu trình.

Quản trị mô hình: hệ thống đóng khung vòng lặp

Ngoài các nhiệm vụ riêng lẻ, ngân hàng phải quản lý toàn bộ các mô hình của mình. Quản trị mô hình bao gồm các thành phần sau:

• Xác nhận: Mô hình được kiểm tra độc lập trước khi đưa vào sử dụng; Độ chính xác, công bằng và giới hạn của nó được đo lường.
• Giám sát: Mô hình có thể xấu đi theo thời gian (sự trôi dạt dữ liệu - hiệu suất giảm khi phân phối đầu vào thay đổi). Nó được theo dõi liên tục.
• Tài liệu: Mô hình làm gì, dữ liệu nào được đào tạo, các giới hạn của nó và những người chịu trách nhiệm đều được ghi lại.
• Vai trò và trách nhiệm: Ai sản xuất, ai kiểm tra, ai quyết định được xác định rõ ràng.
• Rà soát và cải tiến: Các lỗi được ghi nhận, mô hình được đánh giá lại định kỳ.

Thận trọng: Một mô hình hoạt động tốt sẽ không hoạt động tốt mãi mãi. Điều kiện kinh tế, hành vi của khách hàng và chiến thuật lừa đảo thay đổi; Nếu mô hình không thể theo kịp những điều này, nó sẽ bắt đầu âm thầm làm sai lệch. Nếu không có sự giám sát, sự xuống cấp này sẽ không được chú ý.

Tự kiểm tra năm câu hỏi

Trước khi sử dụng mọi kết quả đầu ra của AI, hãy tự hỏi bản thân năm câu hỏi sau:

1. Xác minh: Tôi đã kết nối đầu ra này với nguồn và tính toán lại các số quan trọng chưa?
2. Nguồn: Mỗi xác nhận quyền sở hữu có dựa trên một tài liệu/dữ liệu/quy tắc có thật hay nó có thể được bịa đặt?
3. Quyền riêng tư: Dữ liệu nhận dạng có được ẩn danh, dữ liệu tối thiểu và các công cụ được phê duyệt có được sử dụng không?
4. Tính công bằng: Đầu ra có chứa sự phân biệt đối xử theo thuộc tính được bảo vệ hoặc biến thay thế không?
5. Phê duyệt: Quyết định cuối cùng được đưa ra bởi người có thẩm quyền, lý do căn bản và quá trình kiểm tra có được ghi lại không?

Nếu thậm chí một trong năm câu trả lời là "không", thì đầu ra vẫn chưa sẵn sàng để sử dụng.

Bốn mẫu có thể sao chép

1) Kế hoạch nhiệm vụ từ đầu đến cuối:

Vai trò của bạn: trợ lý giúp tôi lập kế hoạch cho nhiệm vụ ngân hàng trong vòng lặp bảo mật. Nhiệm vụ: [nhiệm vụ]. Hãy điền cho tôi ba vòng sau: (1) AI sẽ đưa ra dự thảo nào, (2) chuyên gia sẽ thực hiện những bước xác minh nào, (3) quan chức sẽ đưa ra quyết định gì và ghi lại? Đề xuất quyết định; Bộ xương quá trình xuất hiện.

2) Ứng dụng tự chủ với 5 câu hỏi:

Kiểm tra kết quả đầu ra AI sau đây bằng năm câu hỏi: xác minh, xuất xứ, quyền riêng tư, tính công bằng, phê duyệt. Đối với mỗi câu hỏi, hãy đánh giá “ok/chưa hoàn thành/rủi ro” và viết cách khắc phục những thiếu sót. Đầu ra: [văn bản]

3) Phiếu kiểm tra theo dõi mô hình:

Vai trò của bạn: trợ lý quản trị kiểu mẫu. Đối với mô hình hỗ trợ quyết định mà chúng tôi sử dụng, hãy chuyển các chỉ số cần được theo dõi thường xuyên (hiệu suất, tính công bằng giữa các nhóm, tín hiệu trôi dạt dữ liệu, hồ sơ lỗi) vào danh sách kiểm tra. Ra quyết định; Đề xuất khung giám sát

4) Kết thúc vụ việc và theo dõi kiểm tra:

Soạn thảo một ghi chú kết thúc quá trình kiểm tra khi kết thúc quá trình tham gia: dự thảo nào đã được đưa ra, những xác minh nào đã được thực hiện, quyết định nào được đưa ra bởi ai, với lý do chính đáng nào. Chỉ sử dụng thông tin đã được xác minh mà tôi cung cấp.Đầu vào: [thông tin]

Dấu nhắc yếu / Dấu nhắc mạnh

Dấu nhắc yếu:

Bạn xử lý công việc này từ đầu đến cuối và đưa cho tôi kết quả như một quyết định đã có sẵn nên tôi sẽ không bận tâm đến chi tiết.

Nó giảm ba vòng xuống còn một bước duy nhất, bỏ qua việc xác minh và phán đoán của con người, đồng thời che đậy trách nhiệm.

Lời nhắc mạnh mẽ:

Vai trò của bạn: trợ lý quy trình, không phải người ra quyết định. Đầu tiên hãy đưa ra đề cương cho nhiệm vụ, sau đó liệt kê những điểm tôi cần xác minh và cuối cùng nhắc nhở tôi rằng quyết định và quá trình kiểm tra là của tôi. Thêm năm câu hỏi tự kiểm tra (xác thực, nguồn, bảo mật, công bằng, phê duyệt) vào đầu ra.

Ý chí mạnh mẽ bảo vệ ba chiếc nhẫn, yêu cầu xác minh và để lại quyết định cho người đó.

ba trường hợp nhỏ

Trường hợp 1 - Chu trình chạy hoàn toàn. Trong đơn xin vay tiền, AI tạo ra bản dự thảo biện minh (vòng 1); chuyên gia tính toán lại tỷ lệ, kiểm tra sự biện minh cho tính công bằng, xóa biểu thức biến thay thế (vòng 2); viên chức đưa ra quyết định phân bổ và ghi lại quá trình kiểm toán (vòng 3). Trong 20 phút, một quyết định an toàn và có thể bào chữa được sẽ được đưa ra.

Trường hợp 2 - Giám sát ghi lại sự xuống cấp. Mặc dù mô hình gian lận hoạt động hiệu quả trong nhiều tháng nhưng tỷ lệ đánh bắt lặng lẽ giảm xuống do một chiến thuật gian lận mới. Giám sát theo mô hình quản trị nhận thấy sự suy giảm này; Mô hình được cập nhật. Nếu không có sự giám sát, tổn thất sẽ tiếp tục gia tăng.

Trường hợp 3 - Tự chủ ngăn ngừa vi phạm. Một nhà phân tích sắp gửi trực tiếp đầu ra AI để báo cáo nhanh. Anh ta áp dụng năm câu hỏi: anh ta nhận thấy rằng con số lợi nhuận không được xác nhận trong câu hỏi “nguồn”. Kiểm soát từ nguồn; số đó sai. Ba mươi giây tự kiểm tra sẽ ngăn không cho hình ảnh sai được gửi đến ban quản lý.

Sự rõ ràng về vai trò: ai sản xuất, ai xác minh, ai quyết định

Chu kỳ ba vòng chỉ an toàn khi các vai trò đã rõ ràng. Trục trặc phổ biến nhất là vùng mờ nơi “mọi người chịu trách nhiệm nhưng không ai chịu trách nhiệm”: bản dự thảo do AI tạo ra, không ai xác minh đầy đủ và quyết định vẫn không được giám sát vì nó “đã rời khỏi hệ thống”. Khoảng trống này là nơi dễ mắc sai lầm nhất.

Trong một câu chuyện hư cấu lành mạnh, mỗi chiếc nhẫn đều có một chủ nhân:

• Người tạo (trợ lý + người dùng): Ẩn danh, người yêu cầu bản nháp và chuẩn bị mục nhập với dữ liệu tối thiểu.
• Người xác minh (chuyên gia): Người liên kết đầu ra với nguồn, tính toán lại các con số và lọc nó để đảm bảo tính công bằng và bảo mật. Vai trò này không bao giờ bị bỏ qua.
• Người ra quyết định (cơ quan/ủy ban): Cơ quan đưa ra quyết định cuối cùng và ký vào biên bản giải trình và kiểm tra.

Đôi khi cùng một người đảm nhận nhiều vai trò; Đây không phải là vấn đề, miễn là bạn đảm bảo rằng mỗi liên kết đều được thực hiện một cách có ý thức và được ghi lại. Vấn đề là một chiếc nhẫn được để trống với giả định rằng "chắc chắn ai đó đã làm việc đó".

Mẹo: Sau khi đưa ra quyết định, hãy tự hỏi bản thân "Ai là người chủ sở hữu duy nhất của quyết định này?" hỏi. Nếu câu trả lời không rõ ràng, nghĩa là chuỗi trách nhiệm đã bị đứt; Khởi động lại vòng lặp.

Những lỗi thường gặp

• Bỏ qua vòng giữa. Đi thẳng từ dự thảo đến quyết định và bỏ qua việc xác minh.
• Đổ trách nhiệm lên người mẫu. Nói "AI sẽ xử lý" và không sở hữu quyết định và chữ ký cuối cùng.
• Nghĩ đến việc thiết lập mô hình và quên nó. Rời khỏi mô hình hoạt động tốt sau khi hủy theo dõi; không thấy dữ liệu trôi dạt.
• Không để lại dấu vết kiểm toán. Không ghi lại ai đã đưa ra quyết định gì và tại sao.
• Vượt qua sự tự chủ. Sử dụng kết quả đầu ra mà không hỏi năm câu hỏi.

Mẹo: Hãy biến việc tự kiểm tra năm câu hỏi thành thói quen; Nó trở nên tự động theo thời gian và mất vài giây. Nhiều sai lầm lớn nhất xảy ra khi bỏ lỡ vài giây kiểm soát này.

Tóm lại

Việc sử dụng trí tuệ nhân tạo an toàn trong ngân hàng là một chu trình ba vòng: AI sản xuất, chuyên gia xác minh, cơ quan có thẩm quyền đưa ra quyết định. Quản trị mô hình (xác nhận, giám sát, lập tài liệu, trách nhiệm giải trình, cải tiến) định hình chu trình này. Tự kiểm tra từng đầu ra bằng năm câu hỏi - xác thực, nguồn, bảo mật, công bằng, phê duyệt; Nếu thiếu một cái thì đầu ra chưa sẵn sàng. Mô hình có thể bị hỏng; việc giám sát là cần thiết. Trách nhiệm luôn thuộc về con người. Trong một câu: Trí tuệ nhân tạo là mắt xích đầu tiên trong chu trình; việc xác minh và quyết định cuối cùng là trách nhiệm của người có thẩm quyền có thể giải trình.

Nhiệm vụ ứng dụng

Chọn một nhiệm vụ từ doanh nghiệp của riêng bạn và tạo một kế hoạch tổng thể gồm ba vòng với mẫu 1: AI sẽ sản xuất những gì, chuyên gia sẽ xác minh những gì, cơ quan có thẩm quyền sẽ ghi lại và quyết định những gì. Sau đó viết đầu ra AI mẫu cho nhiệm vụ đó, áp dụng bài tự kiểm tra 5 câu hỏi với mẫu thứ 2 và sửa chữa những thiếu sót. Cuối cùng, tạo danh sách kiểm tra giám sát với mẫu 3 cho công cụ hỗ trợ ra quyết định mà bạn sử dụng.

danh sách kiểm tra

• [ ] Tôi đã cấu trúc nhiệm vụ thành một vòng lặp ba vòng (tạo/xác minh/quyết định).
• [ ] Tôi không bỏ qua liên kết giữa (xác minh); Tôi đã kiểm tra nguồn và số.
• [ ] Tôi đã thực hiện năm câu hỏi tự kiểm soát; Nếu còn thiếu gì thì tôi sẽ đi.
• [ ] Tôi đã vượt qua bộ lọc quyền riêng tư và công bằng.
• [ ] Tôi đã tính đến nguy cơ bị theo dõi mô hình và tham nhũng.
• [ ] Tôi nhận trách nhiệm bằng cách ghi lại quyết định cuối cùng, lý do đưa ra quyết định đó và quá trình kiểm tra.

Thi học phần

1. Chuyên gia tín dụng truyền lý do từ chối khoản vay do trí tuệ nhân tạo tạo ra cho khách hàng mà không kiểm tra. Sai lầm cơ bản trong cách tiếp cận này là gì?

• A) Đầu ra trí tuệ nhân tạo không thể được sử dụng nếu không được xác minh; Dự thảo luận giải quyết định phải được người có thẩm quyền xem xét, phê duyệt ✔
• B) Trí tuệ nhân tạo luôn đưa ra lý do cho khoản vay là tiêu cực
• C) Chỉ nên thông báo điểm cho khách hàng thay vì lý do
• D) Lời biện minh đáng lẽ phải được chuyển đến khách hàng qua điện thoại thay vì e-mail.

Giải thích: Mặc dù trí tuệ nhân tạo có thể đưa ra lời biện minh nhất quán, nhưng nó cũng có thể đưa ra lời biện minh sai lầm và thậm chí mang tính phân biệt đối xử với độ tin cậy tương tự dựa trên dữ liệu sai hoặc giả định sai. Ngân hàng là một lĩnh vực được quản lý và có độ tin cậy cao; Mỗi đầu ra phải được chuyên gia xác minh, quyết định phân bổ tín dụng và căn cứ cuối cùng phải thuộc về người có thẩm quyền.

2. Hành vi tốt nhất về mặt bảo mật (KVKK và bí mật khách hàng) khi chuyển giao dịch tài khoản ngân hàng của khách hàng sang công cụ trí tuệ nhân tạo là gì?

• A) Tên đầy đủ và sao kê tài khoản của khách hàng phải được tải lên để đảm bảo tốc độ.
• B) Bằng cách xóa thông tin nhận dạng cá nhân và dữ liệu ẩn danh, chỉ những thông tin cần thiết tối thiểu mới được chia sẻ trong một công cụ bảo mật đã được phê duyệt ✔
• C) Nếu dữ liệu được mã hóa, tên và số tài khoản cũng có thể được gửi đến bất kỳ phương tiện nào
• D) Vì mục đích tốt nên toàn bộ bản ghi có thể được chia sẻ mà không cần hỏi khách hàng

Giải thích: Dữ liệu tài chính của khách hàng vừa là dữ liệu cá nhân vừa là bí mật của khách hàng trong phạm vi pháp luật ngân hàng. Thông tin nhận dạng như tên, TR ID, số tài khoản phải được xóa và dữ liệu được ẩn danh; Dữ liệu tối thiểu cần thiết cho nhiệm vụ phải được chia sẻ và chỉ nên sử dụng các công cụ bảo mật đã được tổ chức phê duyệt.

3. Trí tuệ nhân tạo đưa ra lời giải thích cho quyết định của mô hình chấm điểm tín dụng, chẳng hạn như 'từ chối vì khu vực lân cận nơi người nộp đơn sống có nhiều rủi ro'. Chuyên gia nên làm gì?

• A) Lý do được sử dụng là do mô hình dựa trên số liệu thống kê
• B) Thông tin của quận được quan tâm nhiều hơn và quyết định được củng cố.
• C) Đây có thể là sự phân biệt đối xử gián tiếp thông qua một biến đại diện; Lời biện minh phải bị từ chối và quyết định phải dựa trên các tiêu chí hợp pháp và có thể giải thích được ✔
• D) Lý do không được thông báo cho khách hàng, chỉ lưu vào hồ sơ, sẽ không có vấn đề gì.

Giải thích: Quận cư trú có thể là một biến đại diện có liên quan chặt chẽ đến dân tộc hoặc các đặc điểm được bảo vệ tương tự, tạo ra sự phân biệt đối xử gián tiếp. Kiểu biện minh này là không thể chấp nhận được về mặt pháp lý và đạo đức; Quyết định phải dựa trên các tiêu chí hợp pháp, có thể giải thích được và không phân biệt đối xử, và sự biện minh này phải bị bác bỏ.

4. Trong hệ thống phát hiện gian lận, trí tuệ nhân tạo đánh dấu giao dịch là 'rủi ro cao'. Cách tiếp cận tốt nhất là gì?

• A) Cảnh báo là tín hiệu sàng lọc trước; Gian lận thực sự và báo động sai cần được phân biệt bằng kiểm tra của chuyên gia và phán quyết cuối cùng phải được đưa ra một cách nhân đạo ✔
• B) Giao dịch bị chặn tự động và vĩnh viễn, việc xem xét là không cần thiết
• C) Cảnh báo bị bỏ qua vì hầu hết các cảnh báo đều sai
• D) Khách hàng được gọi và đổ lỗi trực tiếp

Giải thích: Cảnh báo của AI là tín hiệu xác suất và sàng lọc sơ bộ, không phải là phán quyết dứt khoát. Chuyên gia có trách nhiệm phân biệt giữa gian lận thật và dương tính giả, điều tra mà không gây thiệt hại cho khách hàng và đưa ra quyết định cuối cùng; Cảnh báo sẽ không tự động chặn tài khoản vĩnh viễn.

5. Chi phí của một số lượng lớn cảnh báo dương tính giả trong quá trình phát hiện gian lận là bao nhiêu?

• A) Kết quả dương tính giả không tốn kém gì, càng nhiều cảnh báo càng tốt
• B) Tạo ra sự lo lắng và mệt mỏi cho khách hàng; Tăng nguy cơ gian lận thực sự không được chú ý ✔
• C) Nó chỉ làm tăng mức tiêu thụ điện của hệ thống
• D) Dương tính giả chỉ xảy ra trong giao dịch ban đêm

Giải thích: Thông tin sai lệch tạo ra sự bất tiện và không hài lòng do cản trở không cần thiết đến giao dịch của khách hàng hợp pháp; Nó cũng tạo ra sự mệt mỏi cảnh giác cho các nhà phân tích, làm tăng nguy cơ gian lận thực sự sẽ bị bỏ qua. Vì vậy, các ngưỡng và quy tắc cần được cân bằng và cảnh báo cần được ưu tiên.

6. Ranh giới quan trọng nhất về mặt đạo đức khi thiết kế các chiến dịch phân khúc khách hàng và cá nhân hóa là gì?

• A) Phân đoạn càng hẹp càng tốt, không có giới hạn nào khác
• B) Cá nhân hóa chỉ là vấn đề kỹ thuật, nó không đòi hỏi ranh giới đạo đức
• C) Tính đủ điều kiện, sự đồng ý và không phân biệt đối xử phải được bảo vệ; Phải ngăn chặn việc khai thác và thao túng khách hàng dễ bị tổn thương ✔
• D) Nếu chiến dịch được gửi đến tất cả mọi người như nhau thì sẽ không có vấn đề gì về mặt đạo đức.

Giải thích: Mặc dù việc phân khúc có thể được sử dụng vì lợi ích của khách hàng (đề xuất sản phẩm phù hợp), nhưng nó cũng có thể bị lạm dụng để khai thác lỗ hổng (chẳng hạn như tiếp thị tín dụng bổ sung cho khách hàng mắc nợ quá mức). Các nguyên tắc phù hợp, đồng thuận và không phân biệt đối xử phải được bảo vệ; cá nhân hóa không nên biến thành thao túng.

7. Chính sách bảo mật tốt nhất cho chatbot dịch vụ khách hàng là gì?

• A) Chatbot có thể tự mình kết thúc tất cả các loại giao dịch và tư vấn tài chính
• B) Tăng tốc thông tin thường lệ; Khiếu nại, lời khuyên nhạy cảm và các giao dịch được ủy quyền phải được ủy quyền cho con người, không được cung cấp thông tin chưa được xác minh ✔
• C) Chatbot có thể chia sẻ tất cả thông tin tài khoản mà không cần xác minh danh tính khách hàng
• D) Nên loại bỏ tùy chọn chuyển giao của con người vì nó làm chậm chatbot.

Mô tả: Chatbot giải quyết một cách an toàn các thông tin được hỏi thường xuyên và các giao dịch thông thường, nhưng các khiếu nại, tư vấn tài chính nhạy cảm, các giao dịch được ủy quyền trên tài khoản và các tình huống không rõ ràng phải được giao cho nhân viên được ủy quyền. Ngoài ra, chatbot không được tiết lộ bí mật của khách hàng hoặc cung cấp thông tin chưa được xác minh.

8. Trong quy trình AML/KYC, trí tuệ nhân tạo đánh dấu một giao dịch là đáng ngờ. Cách tiếp cận phù hợp về mặt báo cáo giao dịch đáng ngờ (STR) là gì?

• A) Nếu mô hình đã được đánh dấu thì thông báo sẽ được thực hiện tự động, không cần nhân viên tuân thủ
• B) Cảnh báo bị bỏ qua vì hầu hết các giao dịch đều hợp pháp
• C) Giao dịch được báo cáo ngay cho khách hàng vì “có nghi ngờ rửa tiền”
• D) Đầu ra của mô hình là sàng lọc sơ bộ và dự thảo; Quyết định của STR được đưa ra bởi nhân viên tuân thủ được ủy quyền, bảo đảm lý do biện minh và kiểm tra ✔

Mô tả: Giám sát và quét giao dịch trí tuệ nhân tạo nhanh chóng phát hiện các mẫu có khả năng đáng ngờ, nhưng báo cáo giao dịch đáng ngờ (STR/SAR) là một quyết định có hậu quả pháp lý và được đưa ra theo phán quyết của nhân viên tuân thủ có thẩm quyền. Đầu ra của mô hình là bản sơ bộ và bản nháp; Dấu vết kiểm toán và sự biện minh phải được bảo tồn.

9. Trong danh sách trừng phạt / sàng lọc PEP (người có liên quan đến chính trị), trí tuệ nhân tạo khớp với một tên, nhưng đây có thể là một tên trùng khớp sai. Cách tiếp cận đúng đắn là gì?

• A) Sự trùng khớp phải được xác nhận bằng các thông tin nhận dạng bổ sung (ngày sinh, quốc tịch); Quyết định phải được đưa ra bởi nhân viên tuân thủ ✔
• B) Tên giống nhau là đủ, khách hàng bị tuyên bố xử phạt ngay
• C) Tất cả các kết quả trùng khớp được coi là sai và bị bỏ qua
• D) Quyết định được để lại cho chatbot

Giải thích: Việc quét tên có thể tạo ra kết quả dương tính giả do tên giống nhau. Nhân viên tuân thủ phải xác nhận sự trùng khớp về ngày sinh, quốc tịch và các thông tin nhận dạng khác; Việc khai sai khách hàng bị xử phạt hoặc bỏ lỡ trận đấu thực tế đều gây hậu quả nghiêm trọng. Quyết định thuộc về con người.

10. Bạn đã tạo dự thảo báo cáo quản lý bằng trí tuệ nhân tạo; Báo cáo bao gồm số liệu lợi nhuận hàng quý. Bước quan trọng nhất trước khi ký là gì?

• A) Tất cả các con số quan trọng trong báo cáo phải được xác thực lại dựa trên dữ liệu nguồn; Trách nhiệm chữ ký cuối cùng thuộc về con người ✔
• B) Trí tuệ nhân tạo đưa ra con số không có lỗi, việc xác minh chỉ lãng phí thời gian
• C) Chỉ kiểm tra định dạng để làm cho báo cáo trông đẹp hơn.
• D) Báo cáo được gửi trực tiếp đến quản lý cấp cao, việc kiểm soát được thực hiện sau

Giải thích: Trí tuệ nhân tạo có thể trình bày sai các giá trị số, tạo ra hoặc tóm tắt chúng không nhất quán với dữ liệu nguồn. Tất cả các con số quan trọng phải được xác minh lại dựa trên dữ liệu nguồn trước khi ký báo cáo; Mặc dù tự động hóa mang lại tốc độ nhưng trách nhiệm cuối cùng thuộc về con người.

11. Trí tuệ nhân tạo phân tích báo cáo tài chính của một công ty và nói rằng 'công ty đó rất vững chắc, nhất định phải cho vay'. Trách nhiệm của nhà phân tích tài chính là gì?

• A) Chấp nhận văn bản như hiện tại, vì trí tuệ nhân tạo biết tài chính không có lỗi
• B) Tính toán lại các tỷ lệ từ bảng nguồn và đặt câu hỏi về các giả định; Đưa ra quyết định cuối cùng với tư cách là một con người, nêu rõ sự không chắc chắn ✔
• C) Trình bày quyết định trực tiếp với ủy ban dưới dạng 'AI đã được phê duyệt'
• D) Từ chối khoản vay mà không đọc bản phân tích

Giải thích: Phân tích tài chính phụ thuộc vào các giả định và độ chính xác của dữ liệu đầu vào; AI có thể tính toán sai tỷ lệ, bỏ qua dữ liệu bị thiếu hoặc sử dụng ngôn ngữ quá chính xác. Nhà phân tích phải tính toán lại tỷ lệ từ các bảng nguồn, đặt câu hỏi về các giả định và đưa ra quyết định tín dụng cuối cùng một cách nhân đạo, với lý do không chắc chắn.

12. Mặc dù mô hình tín dụng có thể không trực tiếp sử dụng đặc điểm được bảo vệ như giới tính hoặc dân tộc, nhưng nó có thể phản ánh gián tiếp thông qua mã bưu điện và dữ liệu mua sắm. Tình huống này được gọi là gì và tại sao nó lại nguy hiểm?

• A) Điều này được gọi là học quá mức và sẽ chỉ làm giảm độ chính xác
• B) Đây được gọi là rò rỉ dữ liệu và chỉ là vấn đề tốc độ
• C) Đây được gọi là phân biệt đối xử gián tiếp thông qua một biến đại diện; là trái pháp luật và phải được kiểm tra bằng các thử nghiệm về tính công bằng ✔
• D) Đây được gọi là bình thường hóa và hoàn toàn vô hại

Giải thích: Các biến được liên kết chặt chẽ với thuộc tính được bảo vệ được gọi là biến proxy. Ngay cả khi mô hình không sử dụng trực tiếp tính năng được bảo vệ, nó vẫn có thể phân biệt đối xử gián tiếp thông qua proxy. Điều này vừa bất hợp pháp vừa phi đạo đức; Các mô hình nên được kiểm tra bằng các số liệu công bằng và rủi ro proxy phải được kiểm soát.

13. Ngân hàng sử dụng mô hình trí tuệ nhân tạo trong các quyết định tín dụng. Một trong những yêu cầu cơ bản nhất về mặt pháp lý và khả năng kiểm toán là gì?

• A) Mô hình càng phức tạp và khó hiểu thì càng an toàn
• B) Việc lưu giữ hồ sơ là không cần thiết, các quyết định có thể được giải thích bằng miệng
• C) Cần loại bỏ quyền phản đối của khách hàng vì nó làm chậm quá trình
• D) Mô hình phải có thể giải thích được, phải lưu giữ lý do đưa ra quyết định và quá trình kiểm tra, khách hàng phải được trao quyền phản đối/đánh giá của con người ✔

Giải thích: Trong các quy trình ra quyết định được quản lý, mô hình phải có thể giải thích được, lý do căn bản cho quyết định phải được ghi lại, phải lưu giữ hồ sơ (dấu vết kiểm tra) và khách hàng phải được quyền phản đối/yêu cầu con người xem xét. Quyết định không chính đáng của mô hình 'hộp đen' không thể được kiểm toán và không tuân thủ quy định của pháp luật.

14. Nguyên tắc chính được nhấn mạnh xuyên suốt học phần mô tả vai trò của trí tuệ nhân tạo trong ngân hàng như thế nào?

• A) Trí tuệ nhân tạo có thể thay thế các nhân viên ngân hàng có kinh nghiệm và tự mình hoàn tất các khoản vay và thông báo
• B) Trí tuệ nhân tạo chỉ được sử dụng để tiếp thị chứ không phải để ra quyết định
• C) Đầu ra trí tuệ nhân tạo vẫn an toàn ngay cả khi không xác minh vì nó dựa trên số liệu thống kê
• D) Trí tuệ nhân tạo là trợ lý, tạo bản nháp; Việc phân bổ tín dụng, phán quyết về gian lận/tuân thủ và quyết định cuối cùng thuộc về người được ủy quyền ✔

Mô tả: AI tăng tốc các nhiệm vụ lặp đi lặp lại với vai trò trợ lý, người sàng lọc trước và người tạo bản nháp; Nhưng vì chúng tôi làm việc trong một lĩnh vực được quản lý và quan trọng về độ tin cậy nên quyết định cuối cùng liên quan đến phân bổ tín dụng, cung cấp gian lận/tuân thủ và khách hàng là trách nhiệm của người được ủy quyền (ngân hàng được ủy quyền và ủy ban quyết định). Đầu ra chưa được xác minh là quyết định dự thảo chưa được ký.