Lợi nhuận:
- Khả năng nhận biết rủi ro phân biệt đối xử, thiên vị và phân biệt đối xử gián tiếp trong định giá và bảo lãnh và kiểm tra chúng trong sản phẩm trí tuệ nhân tạo
- Khả năng tuân thủ quyền giải thích và phản đối trong khuôn khổ các quy định của SEDDK, KVKK và các nguyên tắc ra quyết định tự động
- Khả năng áp dụng các nghĩa vụ kiểm soát và biện minh của con người trong các quyết định tự động có rủi ro cao
Bảo hiểm là một hoạt động kinh doanh tập hợp và định giá rủi ro; nhưng việc phân nhóm này phải công bằng. Việc đưa ra mức phí bảo hiểm cao hơn hoặc từ chối bảo hiểm cho một người vì các đặc điểm được bảo vệ như giới tính, dân tộc, tín ngưỡng, khu vực cư trú của họ là hành vi phân biệt đối xử không công bằng và bị nghiêm cấm. Trí tuệ nhân tạo (phần mềm học từ dữ liệu lịch sử và đưa ra các đề xuất về giá và quyết định) gây ra mối nguy hiểm đặc biệt trong lĩnh vực này: nó có thể tìm hiểu các mô hình không công bằng trong dữ liệu lịch sử và vô tình duy trì hoặc thậm chí che giấu sự phân biệt đối xử. Hơn nữa, nó có thể thực hiện điều này không trực tiếp mà gián tiếp (thông qua một biến proxy). Trong đơn vị này, bạn sẽ học cách nhận biết rủi ro thiên vị và phân biệt đối xử trong định giá và bảo lãnh, cách kiểm tra tính công bằng của kết quả trí tuệ nhân tạo cũng như cách tuân thủ quyền được giải thích và phản đối trong khuôn khổ SEDDK (Cơ quan giám sát và quản lý lương hưu tư nhân và bảo hiểm), KVKK và các nguyên tắc ra quyết định tự động. Đơn vị này không phải là đơn vị tư vấn pháp luật; Nó giải thích các nguyên tắc chung, trong mọi trường hợp cụ thể, hãy đảm bảo tham khảo ý kiến của đơn vị pháp lý/tuân thủ.
Định kiến và phân biệt đối xử đến từ đâu?
Sự thiên vị AI phát sinh từ ba nguồn chính:
- Sai lệch dữ liệu: Mô hình tìm hiểu về sự không công bằng trong dữ liệu lịch sử. Ví dụ: nếu một nhóm nhất định đã được hưởng phí bảo hiểm cao một cách có hệ thống trong quá khứ, mô hình sẽ tiếp tục coi đây là "bình thường".
- Biến thay thế (proxy): Ngay cả khi mô hình không sử dụng trực tiếp đặc điểm được bảo vệ (giới tính, nguồn gốc), nó vẫn phân biệt đối xử gián tiếp bằng cách sử dụng một biến có liên quan chặt chẽ với nó (khu phố, tên, hình thức mua sắm).
- Sai lệch lấy mẫu: Bởi vì một số nhóm không được thể hiện đầy đủ trong dữ liệu nên mô hình đưa ra những đánh giá không đáng tin cậy và không công bằng về họ.
Có hai loại phân biệt đối xử. Phân biệt đối xử trực tiếp: sử dụng trắng trợn một đặc tính được bảo vệ. Phân biệt đối xử gián tiếp: khi một tiêu chí có vẻ trung lập ảnh hưởng không tương xứng đến một nhóm cụ thể. Loại thứ hai nguy hiểm hơn vì nó xảy ra không chủ ý và khó phát hiện.
Thận trọng: Việc bảo vệ rằng “mô hình dựa trên số liệu thống kê nên khách quan” là sai. Thống kê cũng bao gồm sự bất công trong quá khứ; Mô hình không hợp pháp hóa nó, nó duy trì nó. Sự công bằng là điều cần được tích cực thử nghiệm.
Kiểm tra đầu ra cho sự công bằng
Kiểm tra kết quả đầu ra AI (khuyến nghị về giá, lý do từ chối, điểm rủi ro) bằng ba câu hỏi về tính công bằng:
- Lý do có chính đáng không? Quyết định này có dựa trên các tiêu chí có mối quan hệ thực tế và chính đáng với rủi ro hay dựa trên tài sản được bảo vệ hoặc người đại diện của nó không?
- Có proxy không? Liệu một trong những biến số được sử dụng (khu phố, tên, nghề nghiệp, tình trạng hôn nhân) có liên quan chặt chẽ với đặc điểm được bảo vệ không?
- Nó có thể được giải thích? Bạn có thể giải thích quyết định này cho khách hàng và kiểm toán viên một cách rõ ràng và hợp lý không? “Người mẫu đã nói như vậy” không phải là một lời tuyên bố.
Nếu một lời biện minh không vượt qua được ba bài kiểm tra này, nó sẽ bị từ chối và quyết định dựa trên các tiêu chí hợp pháp.
Mẹo: Kiểm tra lý do từ chối hoặc mức phí bảo hiểm cao bằng câu này: "Tôi có cảm thấy xấu hổ nếu giải thích điều này với khách hàng và kiểm toán viên không?" Không nên sử dụng lời biện minh đáng xấu hổ hoặc không thể bào chữa được (khu phố, tên, nguồn gốc).
Khung pháp lý: SEDDK, KVKK, quyết định tự động
Việc sử dụng trí tuệ nhân tạo trong bảo hiểm phải tuân theo nhiều quy định khác nhau. Nguyên tắc chính:
- Nguyên tắc SEDDK: Hoạt động bảo hiểm phải được thực hiện một cách công bằng, minh bạch và bảo vệ người tiêu dùng; Việc định giá phải hợp lý và không được có sự phân biệt đối xử không công bằng.
- KVKK: Dữ liệu cá nhân phải được xử lý theo quy định của pháp luật, giới hạn mục đích và an toàn. Dữ liệu đặc biệt, chẳng hạn như sức khỏe, được bảo vệ ở mức cao nhất.
- Nguyên tắc ra quyết định tự động: Trong các quyết định chỉ dựa trên quá trình xử lý tự động và ảnh hưởng đáng kể đến con người (ví dụ: sự từ chối chỉ được thực hiện bởi trí tuệ nhân tạo), con người; Quyền phản đối quyết định, yêu cầu sự can thiệp của con người và tìm hiểu lý do căn bản của quyết định được đặt lên hàng đầu.
Do đó, khả năng giải thích, sự kiểm soát của con người và sự biện minh là rất cần thiết trong các quyết định có tác động lớn. Quyết định không chính đáng của mô hình “hộp đen” vừa không thể kiểm soát vừa mâu thuẫn với các quyền này.
Từng bước: Quyết định công bằng và hài hòa
- Xác định các thuộc tính được bảo vệ. Giới tính, nguồn gốc, tín ngưỡng, sức khỏe, nơi cư trú, v.v.
- Thực hiện quét proxy. Đặt câu hỏi về mối quan hệ của các biến được sử dụng với các thuộc tính được bảo vệ.
- Đặt sự biện minh để kiểm tra tính hợp pháp. Có mối quan hệ thực sự với rủi ro? Nó có thể được giải thích?
- Thêm sự kiểm soát của con người. Hãy để con người xem xét kết quả tự động trong một quyết định có tác động cao.
- Ghi lại lý do. Ghi lại những tiêu chí hợp pháp mà quyết định dựa trên.
- Biết cách kháng cáo. Cung cấp cho khách hàng quyền phản đối, đánh giá của con người và biện minh.
ba trường hợp nhỏ
Trường hợp 1 - Từ chối proxy. Một mô hình định giá nhà ở đã đề xuất mức phí bảo hiểm cao một cách có hệ thống cho một mã zip cụ thể. Chuyên gia kiểm tra: mã bưu điện trùng với khu vực tập trung dân tộc nhất định; đây là một biến proxy. Khi rủi ro thực tế (tuổi xây dựng, loại cấu trúc, lịch sử thiệt hại) được phân tích rõ ràng thì phần lớn mức tăng không còn hợp lý nữa. Giá đã được xác lập lại dựa trên tiêu chí rủi ro chính đáng.
Trường hợp 2 - Nhóm ít đại diện. Đối với một sản phẩm chăm sóc sức khỏe, mô hình này đưa ra mức phí bảo hiểm quá cao cho một nhóm tuổi nhỏ. Lý do: nhóm này được trình bày quá ít trong dữ liệu đến mức một số thiệt hại cao khiến toàn bộ nhóm có vẻ "có nguy cơ". Chuyên gia đã thực hiện hiệu chỉnh độ tin cậy (độ tin cậy thống kê) và ghi lại rằng khuyến nghị đó là không đáng tin cậy; Việc tăng lương không công bằng đã không được áp dụng.
Trường hợp 3 - Quyền phản đối. Một đơn đăng ký sẽ tự động bị từ chối với điểm số do AI cung cấp. Khách hàng phản đối. Là một phần của quá trình thích ứng, quyết định đã được một chuyên gia xem xét lại; Điểm số dường như dựa trên dữ liệu bị thiếu (thiệt hại trong quá khứ không khớp). Quyết định đã được sửa chữa. Nếu không có sự kiểm soát của con người và quyền phản đối, sự từ chối không công bằng sẽ là vĩnh viễn.
Bốn lời nhắc có thể sao chép
1) Quét proxy và phân biệt đối xử:
Kiểm tra sự biện minh về giá/quyết định sau đây để đảm bảo tính công bằng: [sự biện minh]Tìm kiếm: đặc điểm được bảo vệ (giới tính, nguồn gốc, tín ngưỡng, sức khỏe, khu vực cư trú) được sử dụng trực tiếp hay gián tiếp (proxy: khu phố, tên, nghề nghiệp, v.v.)? Đối với mỗi biến có vấn đề, hãy giải thích tại sao nó có thể là biến đại diện và đề xuất một giải pháp thay thế hợp pháp.
2) Kiểm tra tính hợp pháp của sự biện minh:
Kiểm tra lý do từ chối/tiền thưởng cao sau đây bằng ba câu hỏi: [sự biện minh]1. Có mối quan hệ thực sự và chính đáng với rủi ro không?2. Nó dựa trên tài sản được bảo vệ hay proxy của nó?3. Nó có thể được giải thích cho khách hàng và kiểm toán viên không? Trả lời rõ ràng từng câu hỏi; Đánh dấu lý do không vượt qua bài kiểm tra là "TỪ CHỐI".
3) Dự thảo giải thích lý do:
Soạn thảo một lý do rõ ràng cho khách hàng về quyết định dựa trên các tiêu chí rủi ro hợp pháp, ĐÃ XÁC MINH sau đây: [tiêu chí hợp pháp]Giọng điệu: tôn trọng, rõ ràng. Sử dụng thuộc tính/proxy được bảo vệ. Nêu rõ quyền phản đối của khách hàng và yêu cầu con người xem xét. Đây là bản nháp; chuyên gia xác nhận.
4) Danh sách kiểm tra con người:
Tạo danh sách kiểm tra do con người kiểm tra để đưa ra quyết định tự động có tác động cao: Loại quyết định: [từ chối/phí bảo hiểm cao/ràng buộc tài sản thế chấp]Danh sách: đánh giá của chuyên gia có trình độ, đã kiểm tra dữ liệu, kiểm soát công bằng/ủy quyền, tài liệu biện minh, thông báo khiếu nại của khách hàng, hồ sơ theo dõi.
Dấu nhắc yếu / Dấu nhắc mạnh
Yếu: "Xác định mức giá có lợi nhất với dữ liệu này và viết lời giải thích."
Vấn đề: Tính công bằng, ủy quyền và khả năng giải thích không được tôn trọng; mô hình có thể duy trì và biện minh cho sự phân biệt đối xử trong quá khứ.
Mạnh: "Kiểm tra lời biện minh này để biết proxy và phân biệt đối xử; gắn cờ các điểm dựa vào tính năng được bảo vệ hoặc proxy của nó và thay thế bằng tiêu chí rủi ro hợp pháp. Hãy phác thảo một lời biện minh có thể giải thích được."
Tại sao nó tốt: Sự phân biệt đối xử được kiểm tra tích cực, quyết định dựa trên các tiêu chí hợp pháp và có thể giải thích được.
biểu đồ so sánh
Chủ đề
cách tiếp cận mạo hiểm
cách tiếp cận đúng
Đầu ra mô hình
"Thống kê là khách quan"
Tích cực kiểm tra công lý
Lựa chọn biến
Sử dụng mọi dữ liệu
Trích xuất proxy
sự biện minh
"Đó là những gì người mẫu đã nói"
Tiêu chí chính đáng, có thể giải thích được
Quyết định có tác động cao
hoàn toàn tự động
Sự giám sát của con người là bắt buộc
Quyền của khách hàng
Không được báo cáo
Phản đối + đánh giá của con người + biện minh
Những lỗi thường gặp
- Việc bảo vệ "thống kê là khách quan". Biện minh cho sự bất công trong quá khứ
- Bỏ qua proxy. Phân biệt đối xử gián tiếp dựa trên khu phố/tên/nghề nghiệp.
- Quyết định không đáng tin cậy đối với nhóm ít đại diện. Giả sử rằng tốc độ thu được từ một mẫu nhỏ là chính xác.
- Quyết định hộp đen Thực hiện một quyết định tự động mà không thể giải thích được lý do.
- Không công nhận quyền phản đối. Không trao cho khách hàng quyền được con người xem xét và biện minh.
Tóm lại
Trí tuệ nhân tạo có thể học cách phân biệt trong dữ liệu lịch sử và tiếp tục phân biệt đó một cách gián tiếp (thông qua proxy) trong việc định giá và bảo lãnh. Tích cực kiểm tra tính công bằng: xác định các thuộc tính và proxy được bảo vệ, kiểm tra sự biện minh về tính hợp pháp và khả năng giải thích. SEDDK, KVKK và các nguyên tắc ra quyết định tự động; Giá cả hợp lý đòi hỏi khả năng giải thích, đánh giá của con người và quyền phản đối. Sự kiểm soát của con người là cần thiết trong các quyết định có tác động lớn. Trong trường hợp cụ thể, hãy tham khảo ý kiến của bộ phận pháp chế/tuân thủ; Phân biệt đối xử là vạch đỏ.
Nhiệm vụ ứng dụng
Viết danh sách 10 biến mà mô hình định giá sử dụng (thực tế hoặc ví dụ). Đối với mỗi câu hỏi, hãy trả lời câu hỏi "đây có phải là đại diện cho tài sản được bảo vệ"; Gắn cờ những người đáng ngờ. Sau đó, đưa ra lời biện minh từ chối mẫu thông qua bài kiểm tra tính hợp pháp số 2: nó có vượt qua bài kiểm tra không và nếu không, bạn thay thế nó bằng một tiêu chí hợp pháp như thế nào?
danh sách kiểm tra
- [ ] Tôi đã chỉ định các thuộc tính được bảo vệ.
- [ ] Tôi đã quét các biến để tìm proxy.
- [ ] Tôi đưa ra lời biện minh để kiểm tra tính hợp pháp và khả năng giải thích.
- [ ] Tôi đã tiến hành kiểm tra độ tin cậy cho các nhóm ít được đại diện.
- [ ] Tôi đã thêm sự kiểm soát của con người vào quyết định có tác động cao.
- [ ] Tôi đã ghi lại lý do căn bản và trao cho khách hàng quyền phản đối/đánh giá của con người.
- [ ] Khi có nghi ngờ, tôi đã tham khảo ý kiến của bộ phận pháp lý/tuân thủ.