Lợi nhuận:
- Khả năng phân biệt nơi trí tuệ nhân tạo tiết kiệm thời gian thực trong quy trình làm việc ngân hàng (đánh giá trước, hỗ trợ quyết định, vận hành, báo cáo) và nơi các quyết định được quản lý và tin cậy quan trọng (phân bổ tín dụng, cung cấp gian lận/tuân thủ) được giao cho con người, theo mức độ rủi ro nhiệm vụ
- Khả năng áp dụng một nguyên tắc xác minh từng đầu ra AI thông qua các bước kết nối nó với nguồn, tính toán lại và chuyển nó qua quá trình lọc chính sách/luật pháp.
- Ẩn danh dữ liệu khách hàng và tài chính trong phạm vi KVKK, các quy tắc bảo mật ngân hàng và bí mật khách hàng, đồng thời tạo thói quen lựa chọn phương tiện an toàn
Một ngày của nhân viên ngân hàng tràn ngập những con số, những quyết định và sự tự tin. Đơn xin vay được đánh giá, giao dịch được kiểm tra để xem liệu đó có phải là gian lận hay không, sản phẩm nào được coi là phù hợp với khách hàng, việc kiểm tra tính tuân thủ được thực hiện và một báo cáo được ký vào cuối ngày. Điểm chung của những công việc này là chúng đều yêu cầu thực hiện nhanh chóng và khi thực hiện không đúng cách sẽ gây tổn hại trực tiếp đến tiền bạc, danh tiếng hoặc địa vị pháp lý của ngân hàng. Đây chính xác là lúc trí tuệ nhân tạo rơi vào tình trạng căng thẳng này. Khi sử dụng đúng cách, nó sẽ giảm số giờ làm việc xuống còn vài phút; Khi sử dụng không đúng cách, nó sẽ làm gia tăng sai sót, tạo ra sự phân biệt đối xử và đưa đến những quyết định không thể kiểm soát được.
Trong suốt mô-đun này, chúng tôi sẽ định vị AI như một trợ lý, người sàng lọc trước và người tạo bản nháp. Trí tuệ nhân tạo giúp đọc file cho bạn, viết bản nháp, tìm kiếm những điểm mâu thuẫn và tóm tắt. Nhưng quyết định là của bạn. Có nên cấp tín dụng hay không, có nên coi một giao dịch là đáng ngờ hay không, nên nói gì với khách hàng—tất cả những điều này đều là phán đoán của một con người được trao quyền. Trong phần này, về cơ bản chúng ta sẽ thiết lập sự khác biệt này, tức là nơi trí tuệ nhân tạo tiết kiệm thời gian và nơi mà quyết định được giao cho con người, kỷ luật xác minh và các quy tắc về quyền riêng tư.
Tại sao ngân hàng là lĩnh vực 'quan trọng về niềm tin' và 'được quản lý'
Nếu một công cụ thiết kế chơi chữ hoạt động không chính xác thì sẽ không có ai bị tổn hại. Nhưng một mô hình hoạt động sai trái của ngân hàng có thể tước đi khoản tín dụng xứng đáng của một gia đình, biến một khách hàng hợp pháp thành nạn nhân bằng cách gán cho họ cái mác lừa đảo, hoặc bỏ qua hoạt động rửa tiền và khiến ngân hàng phải chịu những hình phạt nặng nề. Vì vậy, hoạt động ngân hàng được xác định bởi hai đặc điểm:
- Sự tin cậy quan trọng: Các quyết định ảnh hưởng đến tiền bạc và tương lai của mọi người. Ngay cả khi sai lầm có thể sửa chữa được thì thiệt hại vẫn là có thật.
- Được quản lý: Ngân hàng; Nó được bao quanh bởi các quy định như BDDK (Cơ quan giám sát và quản lý ngân hàng, cơ quan công quyền giám sát ngân hàng), MASAK (Ban điều tra tội phạm tài chính, tổ chức chống rửa tiền) và KVKK (Luật bảo vệ dữ liệu cá nhân). Bạn không thể giải thích một quyết định bằng cách nói “AI đã nói như vậy”; Bạn phải có khả năng biện minh cho quyết định này.
Hai tính năng này thiết lập quy tắc cơ bản khi sử dụng AI: Đầu ra AI không thể thay thế cho sự chấp thuận của chuyên gia có thẩm quyền. Quyết định là ở người đó. Chúng ta sẽ lặp lại câu này nhiều lần trong suốt học phần, bởi vì những sai lầm đắt giá nhất trong hoạt động ngân hàng xảy ra khi bạn quên quy tắc này.
Lưu ý: Nói “mô hình hoạt động rất chính xác” không có nghĩa là “chúng ta có thể để mô hình quyết định”. Ngay cả một mô hình đúng 99% cũng có độ tin cậy tương tự với sai số 1%. Trong ngân hàng, 1 phần trăm đó là khoản vay của một người hoặc hình phạt của ngân hàng.
Trí tuệ nhân tạo có ích ở đâu trong ngân hàng?
Nghĩ về hoạt động kinh doanh ngân hàng theo ba lớp cho thấy rõ nên đặt AI ở đâu:
- Đánh giá trước và chuẩn bị (rủi ro thấp, lợi ích cao): Đọc tài liệu, kiểm soát tài liệu bị thiếu, tóm tắt tệp, quét tính nhất quán của dữ liệu. Ở đây, ngay cả khi trí tuệ nhân tạo mắc lỗi, rủi ro vẫn có thể được quản lý vì có sự xem xét của con người đằng sau nó; Mức tăng là lớn.
- Hỗ trợ ra quyết định (rủi ro trung bình): Dự thảo giải trình tín dụng, tóm tắt hồ sơ rủi ro, bình luận tài chính, dự thảo giao dịch đáng ngờ. Ở đây, trí tuệ nhân tạo đưa ra gợi ý nhưng quyền quyết định thuộc về con người. Việc xác minh là cần thiết.
- Quyết định và phán đoán cuối cùng (rủi ro cao, con người): Phân bổ tín dụng, phán quyết gian lận, báo cáo giao dịch đáng ngờ, quyết định phản ánh về khách hàng. Đây là lớp mà trí tuệ nhân tạo không thể đưa ra quyết định; cung cấp nhiều bản thảo nhất.
Bảng sau đây sắp xếp các nhiệm vụ ngân hàng điển hình theo mức độ rủi ro:
Nhiệm vụ
lớp
vai trò AI
Ai quyết định?
Kiểm tra tài liệu thiếu hồ sơ tín dụng
đánh giá sơ bộ
Quét, tóm tắt
Đánh giá của chuyên gia
Lý do từ chối/phê duyệt tín dụng
hỗ trợ quyết định
Dự thảo biện minh
chuyên gia có thẩm quyền
Cảnh báo giao dịch bất thường
hỗ trợ quyết định
Tín hiệu sơ tuyển
nhà phân tích gian lận
Báo cáo giao dịch đáng ngờ (STR)
phán quyết cuối cùng
dự thảo
nhân viên tuân thủ
Quyết định phân bổ tín dụng
phán quyết cuối cùng
bản thảo/tóm tắt
Cơ quan/ủy ban
Dự thảo thư từ khách hàng
đánh giá sơ bộ
văn bản dự thảo
Nhân viên phê duyệt
Kỷ luật xác nhận: bộ lọc ba bước
Luôn thực hiện đầu ra AI qua ba bước này. Đây sẽ là phản xạ cơ bản mà chúng ta sẽ lặp lại trong suốt học phần:
- Kết nối nó với nguồn. Tài liệu nào, giao dịch tài khoản nào và mỗi con số, yêu cầu bồi thường và biện minh trong đầu ra dựa trên quy tắc nào? Đầu ra không thể trích dẫn nguồn là "yêu cầu" cho đến khi được xác minh chứ không phải "thông tin".
- Tính toán lại/kiểm tra. Nếu tỷ lệ cược, tổng điểm, tóm tắt điểm được đưa ra, hãy tự xác nhận. AI có thể trình bày sai hoặc tạo nên các con số (điều này được gọi là “ảo giác”: khi mô hình tạo ra thông tin sai lệch có vẻ như là thật).
- Chuyển nó qua bộ lọc chính sách và pháp luật. Đầu ra có tuân thủ các chính sách nội bộ và quy định pháp luật của ngân hàng bạn (cấm phân biệt đối xử, bảo mật khách hàng, KVKK) không? Một đầu ra không phù hợp sẽ bị từ chối, cho dù nó có vẻ "thông minh" đến đâu.
Mẹo: Hãy tự hỏi bản thân câu hỏi này với mỗi kết quả đầu ra: "Tôi có thể bảo vệ điều này trước kiểm toán viên mà không cần nói 'AI đã tạo ra nó' không?" Nếu câu trả lời là không thì đầu ra vẫn chưa sẵn sàng để sử dụng.
Quyền riêng tư: bí mật khách hàng và KVKK
Trong ngân hàng, dữ liệu được bảo vệ gấp đôi. Thông tin tài khoản của khách hàng vừa là dữ liệu cá nhân (thuộc phạm vi KVKK) vừa là bí mật khách hàng (thuộc phạm vi Luật Ngân hàng; nghĩa vụ của ngân hàng là bảo vệ thông tin đã biết về khách hàng của mình). Do đó, việc tải dữ liệu khách hàng lên bất kỳ công cụ AI nào có thể là vi phạm nghiêm trọng.
Các quy tắc cơ bản:
- Ẩn danh. Xóa thông tin nhận dạng như tên, số TR ID, số tài khoản/IBAN, điện thoại. Ví dụ: thay vì "Ahmet Yılmaz, TC 123..., tài khoản 456..." hãy viết "45 tuổi, khách hàng phân khúc X".
- Dữ liệu tối thiểu. Chia sẻ lượng dữ liệu tối thiểu thực sự cần thiết cho nhiệm vụ. Không phải toàn bộ kết xuất, mà là các dòng có liên quan.
- Sử dụng một chiếc xe đã được phê duyệt. Sử dụng các công cụ hợp đồng và an toàn được ngân hàng của bạn phê duyệt. Không nhập dữ liệu khách hàng vào một công cụ công cộng nếu không rõ dữ liệu sẽ đi đâu.
- Để lại một bản ghi. Khi cần thiết, bạn phải có khả năng hiển thị dữ liệu nào bạn đã sử dụng, mục đích gì và công cụ nào bạn đã sử dụng (dấu vết kiểm tra).
Bốn mẫu có thể sao chép
1) Khung xác định vai trò và ranh giới:
Vai trò của bạn: trợ lý ngân hàng. ĐƯA RA QUYẾT ĐỊNH; Chỉ tạo bản nháp, tóm tắt hoặc kiểm tra tính nhất quán. Không sử dụng thông tin nhận dạng (tên, TR ID, IBAN). Đánh dấu mọi điểm bạn không chắc chắn là "[cần xác nhận]". Tôi sẽ đưa ra quyết định cuối cùng và chịu trách nhiệm. Nhiệm vụ: [mô tả công việc]
2) Yêu cầu xác minh ba bước:
Tự kiểm tra và báo cáo kết quả đầu ra sau đây từ ba khía cạnh: (1) Mỗi tuyên bố của bạn dựa trên nguồn/dữ liệu nào? (2) Những số nào cần tính lại? (3) Có khía cạnh rủi ro nào về mặt chính sách, pháp luật nội bộ (phân biệt đối xử, bí mật khách hàng, KVKK) không? Liệt kê những điều không chắc chắn một cách rõ ràng.
3) Kiểm soát ẩn danh:
Trước khi đưa văn bản này cho một công cụ, hãy xác định tất cả thông tin giúp nhận dạng người đó (tên, TR ID, IBAN, số điện thoại, địa chỉ, tổ hợp tính năng hiếm) và đề xuất cách che giấu nó. Đồng thời chỉ định dữ liệu tối thiểu cần thiết cho tác vụ. Văn bản: [dữ liệu]
4) Trợ lý phân loại lớp:
Xác định nhiệm vụ sau thuộc lớp nào: đánh giá sơ bộ (được tăng tốc nhờ sự tin cậy) / hỗ trợ quyết định (đã xác minh) / phán đoán cuối cùng (con người). Viết lý do của bạn và nêu giới hạn của AI đối với nhiệm vụ này. Nhiệm vụ: [nhiệm vụ]
ba trường hợp nhỏ
Trường hợp 1 - Sử dụng đúng. Chuyên gia tín dụng sẽ kiểm tra một chồng 40 hồ sơ để tìm tài liệu bị thiếu. Cung cấp từng tệp cho trí tuệ nhân tạo với một bản tóm tắt ẩn danh; Trí tuệ nhân tạo đánh dấu "Tóm tắt số 3, ngày chứng nhận thu nhập cũ hơn 6 tháng và ở số 7, không có trang chữ ký." Chuyên gia xác nhận từng dấu hiệu này trong hồ sơ. Quét thủ công, mất 2 giờ, giảm xuống còn 25 phút và mỗi cảnh báo đều được con người xác minh.
Trường hợp 2 - Lỗi tin cậy không cần xác thực. Một chuyên gia khác chuyển tiếp lý do từ chối cho vay do trí tuệ nhân tạo tạo ra cho khách hàng mà không đọc. Để biện minh, trí tuệ nhân tạo đã hiểu sai thu nhập của khách hàng và cho rằng “thu nhập không đủ”; Tuy nhiên, tài liệu là chính xác. Khách hàng phản đối, hồ sơ được mở lại, ngân hàng mất cả thời gian lẫn danh tiếng. Bài học: bất kỳ dữ liệu nào làm cơ sở biện minh đều phải được kiểm tra tại nguồn.
Trường hợp 3 - Vi phạm bí mật. Để nhanh chóng, nhân viên dán tên đầy đủ và bảng sao kê tài khoản của khách hàng vào một công cụ chưa được phê duyệt, có sẵn công khai và hỏi: "Khách hàng này có gặp rủi ro không?" Chỉ với hành động này, tính bảo mật của khách hàng và KVKK đã bị vi phạm; Ngay cả dữ liệu đi đến đâu cũng không rõ ràng. Bài học: dữ liệu trước tiên được ẩn danh, sau đó chỉ được xử lý trong công cụ được phê duyệt.
Dấu nhắc yếu / Dấu nhắc mạnh
Dấu nhắc yếu:
Bản sao kê tài khoản của Ahmet Yılmaz được đính kèm. Quyết định xem chúng ta có nên cấp tín dụng cho khách hàng này hay không.
Yêu cầu này bao gồm thông tin nhận dạng cá nhân (vi phạm quyền riêng tư), yêu cầu AI đưa ra quyết định trực tiếp (không để con người quyết định) và không áp dụng khung xác minh.
Lời nhắc mạnh mẽ:
Vai trò của bạn: trợ lý cho chuyên gia tín dụng kiểm tra hồ sơ CHUẨN BỊ và SỰ SỰ TIN CẬY. Ra quyết định; Chỉ cần đánh dấu những điểm còn thiếu/không nhất quán và nêu rõ cơ sở của bạn là gì. Không sử dụng thông tin nhận dạng. Khách hàng (ẩn danh): 45 tuổi, phân khúc Đánh dấu "[yêu cầu xác nhận]" bất kỳ điểm nào có vẻ thiếu hoặc mâu thuẫn trong thông tin được cung cấp. Tôi sẽ đưa ra quyết định tín dụng.
Ý chí mạnh mẽ không chứa đựng danh tính, giới hạn vai trò, giao quyền quyết định cho người đó và đánh dấu rõ ràng mọi yêu cầu để xác nhận.
Những lỗi thường gặp
- Để lại quyết định cho trí tuệ nhân tạo. Làm mô hình nói các quy định như “cho/không cấp tín dụng”, “lừa đảo/không”. Đây là những quyết định của con người; mô hình cung cấp nhiều bản nháp nhất.
- Tin tưởng mà không cần xác minh. Nhầm một văn bản trôi chảy và tự tin là "chính xác". Sự trôi chảy không phải là sự chính xác.
- Chia sẻ thông tin xác thực. Vào xe mà không ẩn danh tên, TR ID và số tài khoản.
- Bỏ qua dấu vết kiểm toán. Không ghi lại lý do căn bản cho quyết định và dữ liệu được sử dụng; Không thể trả lời câu hỏi "tại sao quyết định này được đưa ra?"
- Lái xe mà không có sự chấp thuận. Nhập dữ liệu khách hàng vào các công cụ công cộng mà không rõ dữ liệu sẽ đi đâu.
Thận trọng: Trong hoạt động ngân hàng, cái giá phải trả của một sai lầm thường không thể hiện ngay lập tức; Sự phản đối, kiểm tra hoặc trừng phạt diễn ra vài tháng sau đó. Vì vậy, việc xác minh, lập biên bản kỷ luật không thể trì hoãn chỉ vì “không cần thiết, trừ khi có vấn đề”; Nó phải là một thói quen ngay từ đầu.
Tóm lại
Ngân hàng là một lĩnh vực có độ tin cậy cao và được quản lý chặt chẽ; Vì vậy, AI được sử dụng ở đây với tư cách là trợ lý, người sàng lọc trước và người tạo bản phác thảo, chứ không phải với vai trò là người ra quyết định. Hãy nghĩ về công việc theo ba lớp: đánh giá sơ bộ (được tăng tốc nhờ sự tin tưởng), hỗ trợ ra quyết định (đã được xác minh) và phán quyết cuối cùng (con người). Liên kết từng đầu ra với nguồn, tính toán lại, lọc thông qua chính sách/luật pháp. Ẩn danh dữ liệu, chia sẻ ở mức tối thiểu, sử dụng các công cụ đã được phê duyệt và để lại dấu vết kiểm tra. Trong một câu: AI tạo ra bản nháp; Người có thẩm quyền đưa ra quyết định và chịu trách nhiệm.
Nhiệm vụ ứng dụng
Chọn ba nhiệm vụ điển hình từ doanh nghiệp của bạn (hoặc làm ví dụ): một nhiệm vụ để đánh giá sơ bộ (ví dụ: kiểm tra tài liệu), một nhiệm vụ hỗ trợ ra quyết định (ví dụ: dự thảo giải trình), một nhiệm vụ cho phán quyết cuối cùng (ví dụ: quyết định tín dụng). Với mỗi mục, (1) viết vai trò của AI trong một câu, (2) cho biết bạn sẽ áp dụng bước xác minh nào, (3) lưu ý dữ liệu nào cần được ẩn danh. Sau đó, tạo lời nhắc cho tác vụ “chuẩn bị tệp” bằng mẫu lời nhắc mạnh mẽ ở trên và lọc đầu ra theo ba bước.
danh sách kiểm tra
- [ ] Tôi đã xác định mức độ của nhiệm vụ (đánh giá sơ bộ/hỗ trợ quyết định/đánh giá cuối cùng).
- [ ] Tôi giao cho trí tuệ nhân tạo nhiệm vụ soạn thảo/kiểm soát chứ không phải quyết định.
- [ ] Tôi đã kết nối đầu ra với nguồn và kiểm tra lại các số tới hạn.
- [ ] Tôi đã lọc đầu ra về mặt chính sách và pháp luật nội bộ (phân biệt đối xử, bí mật khách hàng, KVKK).
- [ ] Tôi đã ẩn danh dữ liệu, chia sẻ nó ở mức tối thiểu và sử dụng các công cụ đã được phê duyệt.
- [ ] Tôi đã ghi lại quyết định và lý do đưa ra quyết định đó; Tôi đã chịu trách nhiệm cuối cùng.