Lợi nhuận:
- Khả năng nhận biết các rủi ro dành riêng cho AI như ảo giác, sai lệch, rò rỉ dữ liệu, trôi dạt mô hình, phụ thuộc và không thể giải thích được với tác động kinh doanh
- Chấm điểm rủi ro theo các khía cạnh xác suất và tác động, đồng thời giữ chúng trong mức chấp nhận rủi ro của tổ chức bằng các biện pháp giảm thiểu
- Khả năng điều chỉnh giám sát theo mức độ rủi ro thay vì tính đồng nhất, đảm bảo tiếng nói cuối cùng của con người và giám sát liên tục trong các quyết định có rủi ro cao
Giá trị và rủi ro là hai mặt của cùng một đồng tiền. AI mở ra những nguồn giá trị mới nhưng nó cũng gây ra những loại rủi ro mới mà phần mềm truyền thống không có. Đối với người quản lý cấp cao, vấn đề không phải là tránh rủi ro mà là quản lý rủi ro một cách có ý thức (quản lý rủi ro; kỷ luật nhận biết, đo lường, giảm thiểu rủi ro và giữ chúng ở giới hạn chấp nhận được). Trong phần này, bạn sẽ tìm hiểu về các rủi ro cụ thể đối với AI, tác động kinh doanh của chúng và các phương pháp giảm thiểu thực tế. Mục đích không phải là “không làm điều đó vì có rủi ro” hay “hành động như thể không có rủi ro”; Đó là thực hiện mọi sáng kiến với ý thức chấp nhận rủi ro; mức độ rủi ro mà tổ chức sẵn sàng chấp nhận.
Rủi ro dành riêng cho AI
Rủi ro CNTT truyền thống (lỗ hổng, ngừng hoạt động) vẫn còn tồn tại; Nhưng trí tuệ nhân tạo lại có thêm những rủi ro riêng:
Loại rủi ro
Ý bạn là gì?
Ví dụ về tác động kinh doanh
ảo giác
Nó được tạo ra nhưng hóa ra nó đáng tin
Thông tin không chính xác đến khách hàng, trách nhiệm pháp lý
định kiến
Sự phản ánh sự bất công trong số liệu đầu ra
Quyết định tuyển dụng/tín dụng mang tính phân biệt đối xử
rò rỉ dữ liệu
Dữ liệu bí mật bị rò rỉ vào xe
Vi phạm KVKK, mất uy tín
Mô hình trôi dạt
Suy giảm hiệu suất theo thời gian
Im lặng đảo ngược các quyết định
nghiện
Bị khóa vào một nhà cung cấp duy nhất
Cú sốc về giá/tiếp cận
không thể giải thích được
Không biết lý do đưa ra quyết định
Khó khăn trong việc kiểm tra và phản đối
Ở đây có hai thuật ngữ quan trọng: sai lệch là khi trí tuệ nhân tạo tìm hiểu các mô hình không công bằng trong dữ liệu huấn luyện và phản ánh chúng trong các quyết định của nó; Ví dụ: nếu dữ liệu tuyển dụng lịch sử ủng hộ một nhóm thì mô hình cũng vậy. Sự trôi dạt của mô hình là khi mô hình trở nên lỗi thời và hiệu suất của nó âm thầm giảm sút khi thế giới thay đổi (sản phẩm mới, hành vi mới).
Mẹo: Hãy nghĩ đến rủi ro không phải ở khía cạnh “có thể/sẽ không xảy ra” mà ở hai khía cạnh: xác suất (khả năng xảy ra) và tác động (mức độ tổn hại nếu nó xảy ra). Những vấn đề có tác động lớn + khả năng xảy ra cao sẽ được giải quyết trước tiên; những giá trị có giá trị thấp+thấp được chấp nhận và theo dõi.
Giám sát theo mức độ rủi ro
Không phải mọi lĩnh vực sử dụng đều có rủi ro như nhau. Cách tiếp cận thông minh là điều chỉnh hoạt động giám sát theo mức độ rủi ro:
- Rủi ro thấp (dự thảo nội dung, động não): giám sát nhẹ, ưu tiên tốc độ.
- Rủi ro trung bình (nội dung cho khách hàng, hỗ trợ quyết định): phê duyệt của con người, kiểm soát lấy mẫu.
- Rủi ro cao (tín dụng, tuyển dụng, sức khỏe, pháp lý): phán quyết bắt buộc của con người, đăng ký đầy đủ, kiểm toán thường xuyên.
Cách tiếp cận “dựa trên rủi ro” này cũng là xương sống của Luật AI của EU (Bài 9).
Từng bước: chu trình quản lý rủi ro
1. Nhận biết rủi ro. Liệt kê các rủi ro cụ thể về AI cho từng sáng kiến.
2. Khả năng ghi điểm và tác động. Đánh giá và ưu tiên từng rủi ro theo hai chiều.
3. Xác định biện pháp giảm thiểu. Chẳng hạn như sự chấp thuận của con người, ẩn danh dữ liệu, theo dõi, đa dạng hóa nhà cung cấp.
4. Chấp nhận hoặc dừng rủi ro còn lại. Rủi ro còn lại sau khi giảm được chấp nhận nếu nó nằm trong mức chấp nhận được; Nếu không, nỗ lực sẽ dừng lại.
5. Xem và nhận xét. Rủi ro không cố định; Giám sát liên tục sự trôi dạt và các mối đe dọa mới là điều cần thiết.
ba trường hợp nhỏ
Trường hợp 1 - Cái giá của ảo giác. Chatbot khách hàng của một hãng hàng không "bịa ra" chính sách hoàn tiền không tồn tại cho hành khách; Khách hàng đã tin tưởng và thực hiện giao dịch. Tòa án buộc công ty phải chịu trách nhiệm về tuyên bố của bot của chính mình. Bài học: Đầu ra AI cho khách hàng có rủi ro trung bình/cao; xác minh và hạn chế là cần thiết. Sau đó, bot bị hạn chế chỉ phản hồi từ các văn bản chính sách đã được phê duyệt.
Trường hợp 2 - Thành kiến im lặng. Mô hình sàng lọc tuyển dụng của một công ty ưu tiên tuyển dụng một cách có hệ thống từ một số trường nhất định vì sự mất cân bằng trong dữ liệu lịch sử. Sự khác biệt đã được tiết lộ trong một cuộc kiểm toán; Có rủi ro về uy tín và pháp lý. Mô hình này được tách rời khỏi các đặc điểm được bảo vệ và được liên kết với hoạt động giám sát công lý thường xuyên. Nếu việc kiểm tra sai lệch được thực hiện ngay từ đầu thì điều này đã không xảy ra.
Trường hợp 3 - Drift bị bắt. Mô hình phát hiện gian lận của ngân hàng đã âm thầm bị suy yếu khi một mô hình gian lận mới xuất hiện; Tỷ lệ trượt tăng từ 8% lên 19% trong 3 tháng. Tin tốt: cơ quan đã thực hiện giám sát hiệu suất hàng tháng, sự sai lệch đã được phát hiện sớm và mô hình đã được đào tạo lại. Nếu không có sự giám sát, tổn thất sẽ tăng gấp bội.
Bốn mẫu có thể sao chép
1) Kiểm kê rủi ro:
Vai trò của bạn: Người quản lý rủi ro AI. Liệt kê các rủi ro dành riêng cho AI cho trường hợp sử dụng sau: ảo giác, sai lệch, rò rỉ dữ liệu, trôi dạt, phụ thuộc, không thể giải thích được. Đối với mỗi rủi ro, hãy viết thành một câu về biểu hiện có thể có và tác động kinh doanh của nó trong tình huống này. Khu vực sử dụng: [văn bản]
2) Tính điểm xác suất/tác động:
Ưu tiên các rủi ro sau bằng cách cho điểm và nhân chúng dưới dạng xác suất (1-5) và tác động (1-5). Giải thích lý do tại sao bạn ưu tiên ba rủi ro hàng đầu. Rủi ro: [danh sách]
3) Kế hoạch giảm thiểu:
Đề xuất các biện pháp giảm thiểu thiết thực đối với các rủi ro ưu tiên sau: [rủi ro]. Đối với mỗi biện pháp: phải làm gì, ai chịu trách nhiệm, mức độ rủi ro nào là bắt buộc. Sử dụng giám sát con người, ẩn danh dữ liệu, giám sát và đa dạng hóa nhà cung cấp khi thích hợp.
4) Ma trận giám sát dựa trên rủi ro:
Chỉ định các lĩnh vực sử dụng sau cho mức độ rủi ro (thấp/trung bình/cao) và xác định sự giám sát cần thiết cho từng cấp độ: có cần sự phê duyệt của con người không, hồ sơ có được lưu giữ không, tần suất kiểm tra là bao nhiêu? Công dụng: [danh sách]
Dấu nhắc yếu / Dấu nhắc mạnh
Yếu: “Dự án AI này có những rủi ro gì?”
Kết luận: Danh sách chung các rủi ro; xác suất, tác động và không có biện pháp giảm thiểu, bạn không thể quyết định.
Güçlü: "Chúng tôi sẽ sử dụng AI trong đánh giá sơ bộ đơn xin vay tại ngân hàng (con người sẽ đưa ra quyết định cuối cùng). Liệt kê các rủi ro cụ thể cho tình huống này (thiên vị, không thể giải thích, ảo giác, quyền riêng tư dữ liệu); cho điểm từng khả năng và tác động; đề xuất các yêu cầu giảm thiểu và giám sát cụ thể đối với ba yếu tố quan trọng nhất. Đồng thời nêu rõ ý nghĩa của việc tuân thủ rằng điều này được coi là rủi ro cao."
Kết quả: phân tích rủi ro theo từng kịch bản cụ thể, được tính điểm, giảm thiểu và liên quan đến tuân thủ.
Những lỗi thường gặp
- Áp dụng sự giám sát tương tự cho tất cả các sáng kiến. Việc trì hoãn công việc có rủi ro thấp cũng có hại như việc bỏ bê công việc có rủi ro cao; Việc giám sát phải dựa trên mức độ rủi ro.
- Tưởng nhầm ảo giác là “sai lầm nhỏ”. Đầu ra không chính xác cho khách hàng có thể dẫn đến trách nhiệm pháp lý.
- Không kiểm tra sự thiên vị. Mô hình được triển khai mà không có thử nghiệm công bằng có thể tạo ra sự phân biệt đối xử thầm lặng.
- Không xem Drift. Một mô hình hoạt động tốt một lần không hoạt động tốt mãi mãi; Cần phải theo dõi liên tục.
- Khóa trong một nhà cung cấp duy nhất. Nếu không có kế hoạch rút lui, cơn nghiện sẽ khiến bạn gặp phải cú sốc về giá và khả năng tiếp cận.
Thận trọng: Quản lý rủi ro không phải là việc một lần và mãi mãi; Hệ thống trí tuệ nhân tạo là hệ thống sống. Chỉ vì một mô hình hôm nay an toàn không có nghĩa là nó sẽ an toàn vào ngày mai. Giám sát liên tục, kiểm tra thường xuyên và công tắc tiêu diệt rõ ràng phải là một phần của mọi hệ thống có rủi ro cao.
Tóm lại
Ngoài các rủi ro CNTT truyền thống, AI còn bổ sung thêm các rủi ro đặc biệt như ảo giác, sai lệch, rò rỉ dữ liệu, trôi dạt, phụ thuộc và không thể giải thích được. Những rủi ro này cần được đánh giá và ưu tiên về mặt xác suất và tác động, đồng thời phải được duy trì trong mức chấp nhận rủi ro của tổ chức bằng các biện pháp giảm thiểu. Việc giám sát không thống nhất nhưng cần được điều chỉnh theo mức độ rủi ro; Trong những quyết định có rủi ro cao, mọi người phải có tiếng nói cuối cùng. Quản lý rủi ro là một chu trình liên tục; không thể hoàn thiện nếu không có sự giám sát và kiểm soát. Trong phần tiếp theo, chúng ta sẽ thiết lập cơ cấu quản trị và chính sách để duy trì kỷ luật rủi ro này một cách lâu dài.
Nhiệm vụ ứng dụng
Chọn một trường hợp sử dụng AI và liệt kê các rủi ro cụ thể của nó bằng mẫu 1. Đánh giá từng rủi ro theo khả năng xảy ra và tác động, xác định ba rủi ro quan trọng nhất. Viết các biện pháp giảm thiểu cụ thể và mức độ giám sát cần thiết đối với ba rủi ro này. Cuối cùng, phân loại việc sử dụng thành rủi ro thấp/trung bình/cao và lưu ý xem điều này thay đổi các yêu cầu giám sát như thế nào.
danh sách kiểm tra
- [ ] Tôi đã liệt kê các rủi ro cụ thể đối với từng kịch bản trí tuệ nhân tạo cụ thể.
- [ ] Tôi đã chấm điểm từng rủi ro theo khả năng xảy ra và tác động.
- [ ] Tôi đã xác định các biện pháp giảm thiểu đối với những rủi ro nghiêm trọng nhất.
- [ ] Tôi đã phân loại khu vực sử dụng theo mức độ rủi ro.
- [ ] Tôi đã điều chỉnh việc giám sát theo mức độ rủi ro.
- [ ] Tôi đã lên kế hoạch kiểm tra/theo dõi độ lệch và độ lệch.
- [ ] Tôi đã đặt quyền dừng cho hệ thống có rủi ro cao.