Lợi nhuận:
- Phân biệt 3 mô hình điều khiển của con người (in the loop, on loop, in command)
- Nhận biết và giảm thiểu rủi ro sai lệch và phân biệt đối xử trong kết quả đầu ra của AI
- Chuyển các nguyên tắc minh bạch và có thể giải thích thành các ứng dụng cụ thể
Một hệ thống AI có thể hoạt động hoàn hảo về mặt kỹ thuật nhưng vẫn có sai sót: nó có thể loại bỏ một nhóm một cách có hệ thống, không giải thích được lý do đưa ra quyết định của mình hoặc khiến mọi người chấp nhận quyết định đó mà không thắc mắc. Trong đơn vị này, chúng tôi chuyển khía cạnh “mềm” nhưng mang tính quyết định nhất của quản trị—kiểm soát con người, quản lý thiên vị, tính minh bạch và đạo đức—thành các thực tiễn cụ thể. Mục tiêu không phải là những khẩu hiệu mơ hồ như “đừng tin tưởng AI”; Chúng là các cơ chế hoạt động hướng dẫn cách kiểm tra đầu ra, giảm sai lệch và thiết lập tính minh bạch.
Ba mô hình kiểm soát của con người
Sự giám sát của con người có nghĩa là con người giữ quyền kiểm soát các quyết định do AI đưa ra. Có ba mô hình cơ bản và cần phải chọn mô hình phù hợp tùy theo mức độ rủi ro.
người mẫu
Ý nghĩa
Nó phù hợp ở đâu
Con người trong vòng lặp
Một người phê duyệt mọi quyết định
Những quyết định có rủi ro cao và có tác động lớn
Con người trên vòng lặp
AI hoạt động, con người giám sát và can thiệp nếu cần thiết
Rủi ro trung bình, giao dịch khối lượng lớn
Người chỉ huy
Con người thiết kế hệ thống, đặt ra giới hạn cho nó, có thể đóng nó lại
Cấp độ quản lý tổng thể
Đối với các quyết định ảnh hưởng đáng kể đến con người (việc làm, tín dụng, chăm sóc sức khỏe), mô hình con người trong vòng lặp được ưu tiên: AI đưa ra lời khuyên nhưng con người có năng lực sẽ đưa ra quyết định cuối cùng. “AI đã nói như vậy” không bao giờ là một cái cớ; Trách nhiệm luôn thuộc về con người.
Lưu ý: Việc kiểm soát của con người chỉ "trên giấy" thôi là chưa đủ. Nếu con người tự động chấp thuận đề xuất của AI (dập cao su) thì sẽ không có sự kiểm soát thực sự. Để việc kiểm toán trở nên có ý nghĩa, người ta phải có khả năng nhìn ra lý do căn bản, đặt câu hỏi về nó và thực sự nói “không”.
Nguy cơ thành kiến và phân biệt đối xử
Xu hướng là khi AI gây bất lợi hoặc tạo lợi thế cho một số nhóm nhất định một cách có hệ thống. Nguồn của nó thường là dữ liệu đào tạo: nếu có sự phân biệt đối xử trong dữ liệu lịch sử, AI sẽ tìm hiểu và duy trì dữ liệu đó — thậm chí có thể mở rộng quy mô dữ liệu đó.
Các bước thực tế để giảm sự thiên vị:
- Rà soát các biến nhạy cảm: Kiểm tra tác động của các lĩnh vực như giới tính, độ tuổi, dân tộc tới quyết định.
- Kết quả kiểm tra theo nhóm: Hệ thống có tạo ra tỷ lệ từ chối/chấp nhận khác nhau ở các nhóm khác nhau không?
- Cảnh giác với các biến đại diện: Các trường như “khu phố” hoặc “trường học” có thể ngầm truyền tải sự phân biệt sắc tộc/giai cấp.
- Thiết lập giám sát thường xuyên: Độ lệch được kiểm tra liên tục, không chỉ một lần; Nó có thể quay trở lại khi dữ liệu thay đổi.
ba trường hợp nhỏ
Trường hợp 1 - Tem cao su. Tại một ngân hàng, nhân viên cho vay phê duyệt điểm AI mà không xem xét; Họ nói "hệ thống đã tính toán rồi". Một cuộc kiểm tra cho thấy rằng trong 498 trên 500 bài gửi, con người đã đưa ra quyết định giống hệt như AI — vì vậy không có đánh giá thực sự nào. Giải pháp: yêu cầu mọi người xem lý do, suy đoán quyết định ở một mức độ nhất định và yêu cầu ghi chú "tại sao đồng ý/không đồng ý".
Trường hợp 2 - Thành kiến ngầm. AI tuyển dụng chấm điểm ứng viên nữ thấp hơn, mặc dù nó hoàn toàn không sử dụng giới tính. Từ đâu? Bởi vì dữ liệu trong quá khứ chủ yếu bao gồm nam giới ở một vị trí nhất định, nên mô hình đã học được sự phân biệt đối xử gián tiếp thông qua các biến đại diện, chẳng hạn như “sự nghiệp không bị gián đoạn”. Kiểm tra theo nhóm cho thấy điều này; Nhóm trích xuất các biến thay thế và theo dõi kết quả.
Trường hợp 3 - Tin tưởng một cách minh bạch. Trong đánh giá thiệt hại do AI cung cấp, một công ty bảo hiểm thông báo cho mỗi khách hàng rằng “quyết định được hỗ trợ bởi AI, họ có thể kháng cáo và yêu cầu con người xem xét”. Tỷ lệ phản đối thấp hơn mong đợi vì khách hàng hiểu và tin tưởng vào quy trình. Sự minh bạch làm tăng niềm tin đồng thời giảm thiểu rủi ro.
Tính minh bạch và khả năng giải thích
Tính minh bạch là việc làm cho những người có liên quan hiểu rõ rằng AI đang hoạt động và cách nó hoạt động. Khả năng giải thích có nghĩa là có thể giải thích lý do đưa ra quyết định một cách dễ hiểu. Ứng dụng cụ thể:
- Thông báo "Bạn đang nói chuyện với AI" khi AI tương tác với người đó.
- Giải thích "Quyết định này dựa trên các yếu tố sau" trong các quyết định tự động.
- Trình bày rõ ràng lộ trình khiếu nại và yêu cầu con người xem xét.
- Đối với các nhóm nội bộ: tài liệu và ghi lại những gì mô hình thực hiện.
Gợi ý: Hỏi quyết định của AI “ba yếu tố hàng đầu ảnh hưởng đến quyết định này là gì?” Kiểm tra nó bằng câu hỏi. Nếu hệ thống không thể làm cho điều này trở nên dễ hiểu và quyết định đó ảnh hưởng đáng kể đến con người thì hệ thống đó vẫn chưa sẵn sàng để sử dụng một cách có trách nhiệm.
Thiên kiến tự động hóa: cái bẫy của chính mình
Ngay cả khi tính minh bạch và sự giám sát của con người được thiết lập, vẫn có một rủi ro tiềm ẩn về phía con người: sự thiên vị tự động hóa. Đây là xu hướng mọi người tin tưởng vào kết quả đầu ra của máy hơn là phán đoán của chính họ. Bởi vì đề xuất AI trên màn hình có vẻ “khách quan và có tính toán”, người ta sẽ bị cám dỗ chấp nhận nó mà không thắc mắc - đây là nguồn gốc tâm lý của tem cao su.
Có nhiều cách cụ thể để giảm bớt điều này. Trước tiên hãy khuyến khích ý kiến phản đối: hỏi người phê duyệt quyết định “Tại sao tôi có thể không đồng ý với AI?” Yêu cầu anh ta suy nghĩ về câu hỏi. Sau đó hiển thị điểm tin cậy: cho biết AI tự tin đến mức nào; Đánh dấu riêng các đầu ra có độ tin cậy thấp. Sau đó thiết lập cảnh báo xung đột: Nếu khuyến nghị của AI vi phạm quy tắc của tổ chức hoặc dữ liệu có sẵn cho con người, hệ thống sẽ đánh dấu điều này. Cuối cùng, áp dụng hai nguyên tắc con người vào những quyết định quan trọng; Một người phê duyệt duy nhất dễ bị thiên vị tự động hóa hơn.
Thận trọng: Nói “có sự chấp thuận của con người” không có nghĩa là không có thành kiến tự động hóa. Con người phải có cả thẩm quyền, thời gian và thông tin phù hợp để đặt câu hỏi về AI. Một hệ thống buộc người phê duyệt phải đưa ra 200 quyết định trong 3 giây không thực sự mang lại khả năng kiểm soát thực sự của con người.
Mẫu có thể sao chép
MẪU 1 — Lựa chọn mô hình kiểm soát con người: "Mô hình kiểm soát con người nào phù hợp cho mục đích sử dụng AI sau đây [mô tả cách sử dụng]: trong vòng lặp, trên vòng lặp hoặc theo lệnh? Đề xuất có căn cứ, xem xét rủi ro và tác động đối với cá nhân. Chỉ định tôi nên thêm biện pháp kiểm soát nào để tránh rủi ro tem cao su."
MẪU 2 — Kế hoạch kiểm tra sai lệch: "Hãy lập kế hoạch kiểm tra sai lệch [mô tả cách sử dụng] cho AI hỗ trợ ra quyết định sau: tôi nên so sánh những nhóm nào, tôi nên đo lường số liệu nào (tỷ lệ từ chối/chấp nhận, v.v.), tôi nên tìm những biến thay thế nào, tôi nên lặp lại bài kiểm tra với tần suất như thế nào? Hãy viết nó từng bước một."
MẪU 3 — Văn bản mô tả quyết định: "Viết một văn bản mô tả đơn giản cho một quyết định tự động được cá nhân hóa: liệu quyết định đó có được hỗ trợ bởi AI hay không, các yếu tố chính ảnh hưởng đến quyết định, cách kháng cáo và yêu cầu con người xem xét. Giọng điệu tôn trọng, không buộc tội, 120 từ trở xuống."
MẪU 4 — Danh sách kiểm tra đánh giá đạo đức: "Chuẩn bị danh sách kiểm tra đánh giá đạo đức trước khi công bố việc sử dụng AI: công bằng/phân biệt đối xử, minh bạch, kiểm soát con người, quyền riêng tư, bảo mật, trách nhiệm giải trình. Bao gồm 1-2 câu hỏi rõ ràng cần được trả lời trong mỗi tiêu đề."
Dấu nhắc yếu / Dấu nhắc mạnh
YẾU: “AI tuyển dụng này có công bằng không?”-> Mô hình đưa ra câu trả lời chung chung như 'nó phải công bằng'; không cung cấp phương pháp có thể kiểm chứng và đo lường sai lệch. MẠNH MẼ: "Thiết lập kế hoạch thử nghiệm thiên vị cho AI hỗ trợ tuyển dụng này: một phương pháp so sánh tỷ lệ chấp nhận giữa các nhóm giới tính và độ tuổi, các biến đại diện cần xem xét, ngưỡng chênh lệch có thể chấp nhận được và tần suất theo dõi. Ngoài ra, hãy thêm quyền kiểm soát để đảm bảo con người đưa ra quyết định cuối cùng." -> Mô hình tạo ra cơ chế công bằng có thể đo lường được, có thể lặp lại.
Những lỗi thường gặp
- Để lại sự kiểm soát của con người “trên giấy” và tự động phê duyệt khuyến nghị của AI (tem cao su).
- Để lại những quyết định có ảnh hưởng đáng kể đến người đó mà không được giám sát thay vì ở trong vòng lặp.
- Xem xét sự thiên vị đã được giải quyết chỉ vì "Tôi đã xóa biến nhạy cảm"; bỏ qua các biến proxy.
- Kiểm tra độ lệch một lần và không liên tục theo dõi nó.
- Bỏ qua tính minh bạch vì “là chi tiết kỹ thuật, người dùng sẽ không hiểu”.
- Sử dụng một hệ thống không thể giải thích lý do đưa ra quyết định trong các quyết định quan trọng.
- Để lại đánh giá đạo đức cho đến sau khi xuất bản, nói rằng "chúng ta sẽ thấy sau".
Tóm lại
- Kiểm soát con người được thực hiện theo ba mô hình; Trong các quyết định ảnh hưởng đến con người, con người được ưu tiên hơn trong chu trình.
- Kiểm soát phải có ý nghĩa; Con dấu cao su (tự động phê duyệt) không phải là kiểm toán thực tế.
- Xu hướng thường xuất phát từ dữ liệu huấn luyện; Các biến nhạy cảm và thay thế cần được kiểm tra và theo dõi liên tục.
- Tính minh bạch và khả năng giải thích yêu cầu trình bày rõ ràng cho người dùng rằng AI đang hoạt động và lý do đưa ra quyết định.
- Đánh giá đạo đức diễn ra trước khi xuất bản; trách nhiệm luôn thuộc về con người, “AI đã nói vậy” không phải là lời bào chữa.
Nhiệm vụ ứng dụng
Chọn quy trình ra quyết định AI có tác động đến mọi người trong tổ chức của bạn (ví dụ: đánh giá ứng dụng). Xác định mô hình kiểm soát con người phù hợp cho quá trình này với sự giải thích và thiết kế một biện pháp kiểm soát cụ thể để ngăn chặn việc dập cao su (ví dụ: yêu cầu xem phần giải thích, xem xét mẫu). Sau đó, hãy viết một kế hoạch kiểm tra độ lệch: chỉ định những nhóm nào bạn sẽ so sánh, với số liệu nào, tần suất và những biến đại diện nào bạn sẽ chú ý đến. Cuối cùng, hãy soạn thảo một văn bản giải thích quyết định sẽ được hiển thị cho người đó trong quá trình này và bao gồm lộ trình khiếu nại/đánh giá của con người.
danh sách kiểm tra
- [ ] Tôi đã chọn mô hình kiểm soát con người phù hợp với quy trình.
- [ ] Tôi đã thiết kế một bộ điều khiển cụ thể để ngăn chặn tem cao su.
- [ ] Tôi đã chuẩn bị một kế hoạch kiểm tra độ chệch (nhóm, số liệu, tần suất).
- [ ] Tôi đã đánh giá rủi ro của các biến thay thế.
- [ ] Tôi đã viết văn bản giải thích quyết định cho người đó.
- [ ] Tôi đã trình bày rõ ràng con đường kháng cáo và xem xét con người.
- [ ] Tôi đã tiến hành đánh giá đạo đức trước khi xuất bản.