กำไร:
- ความสามารถในการรับรู้ความเสี่ยงของการเลือกปฏิบัติ อคติ และการเลือกปฏิบัติทางอ้อมในด้านราคาและการจัดจำหน่าย และทดสอบในผลลัพธ์ของปัญญาประดิษฐ์
- ความสามารถในการสังเกตสิทธิ์ในการอธิบายและการคัดค้านภายในกรอบของกฎระเบียบ SEDDK, KVKK และหลักการตัดสินใจอัตโนมัติ
- ความสามารถในการใช้การควบคุมของมนุษย์และการให้เหตุผลในการตัดสินใจอัตโนมัติที่มีความเสี่ยงสูง
ประกันภัยเป็นธุรกิจที่จัดกลุ่มและกำหนดราคาความเสี่ยง แต่การจัดกลุ่มนี้จะต้องมีความยุติธรรม การให้เบี้ยประกันภัยที่สูงขึ้นหรือการปฏิเสธความคุ้มครองแก่บุคคลเนื่องจากลักษณะที่ได้รับการคุ้มครอง เช่น เพศ ชาติพันธุ์ ความเชื่อ ภูมิภาคที่อาศัยอยู่ ถือเป็นการเลือกปฏิบัติที่ไม่ยุติธรรม และเป็นสิ่งต้องห้าม ปัญญาประดิษฐ์ (ซอฟต์แวร์ที่เรียนรู้จากข้อมูลในอดีตและสร้างคำแนะนำด้านราคาและการตัดสินใจ) ก่อให้เกิดอันตรายโดยเฉพาะในด้านนี้ กล่าวคือ สามารถเรียนรู้รูปแบบที่ไม่ยุติธรรมในข้อมูลในอดีต และขยายเวลาหรือซ่อนการเลือกปฏิบัติโดยไม่รู้ตัว ยิ่งไปกว่านั้น มันไม่สามารถทำสิ่งนี้ได้โดยตรงแต่โดยอ้อม (ผ่านตัวแปรพร็อกซี) ในหน่วยนี้ คุณจะได้เรียนรู้วิธีรับรู้ความเสี่ยงของอคติและการเลือกปฏิบัติในด้านราคาและการจัดจำหน่าย วิธีทดสอบผลลัพธ์ของปัญญาประดิษฐ์เพื่อความเป็นธรรม และวิธีการสังเกตสิทธิ์ในการอธิบายและการคัดค้านภายในกรอบการทำงานของ SEDDK (หน่วยงานกำกับดูแลและกำกับดูแลการประกันภัยและบำนาญเอกชน) KVKK และหลักการตัดสินใจอัตโนมัติ หน่วยงานนี้ไม่ใช่ที่ปรึกษาทางกฎหมาย โดยจะอธิบายหลักการทั่วไป ในกรณีที่เป็นรูปธรรม โปรดปรึกษาหน่วยงานด้านกฎหมาย/การปฏิบัติตามข้อกำหนด
อคติและการเลือกปฏิบัติมาจากไหน?
AI อคติเกิดขึ้นจากสามแหล่งหลัก:
- ความลำเอียงของข้อมูล: โมเดลเรียนรู้เกี่ยวกับความไม่ยุติธรรมในข้อมูลในอดีต ตัวอย่างเช่น หากกลุ่มบางกลุ่มได้รับเบี้ยประกันภัยสูงอย่างเป็นระบบในอดีต แบบจำลองจะยังคงถือว่าสิ่งนี้เป็น "ปกติ"
- ตัวแปรตัวแทน (พร็อกซี): แม้ว่าโมเดลจะไม่ได้ใช้คุณสมบัติที่ได้รับการป้องกันโดยตรง (เพศ ต้นกำเนิด) แต่ก็เลือกปฏิบัติทางอ้อมโดยใช้ตัวแปรที่มีความเกี่ยวข้องอย่างมากกับโมเดลดังกล่าว (ย่านใกล้เคียง ชื่อ รูปแบบการซื้อของ)
- อคติในการสุ่มตัวอย่าง: เนื่องจากบางกลุ่มไม่ได้เป็นตัวแทนในข้อมูล แบบจำลองนี้จึงสร้างการตัดสินที่ไม่น่าเชื่อถือและไม่ยุติธรรมเกี่ยวกับกลุ่มเหล่านั้น
การเลือกปฏิบัติมีสองประเภท การเลือกปฏิบัติโดยตรง: การใช้คุณลักษณะที่ได้รับการคุ้มครองอย่างโจ่งแจ้ง การเลือกปฏิบัติทางอ้อม: เมื่อเกณฑ์ที่เป็นกลางซึ่งเห็นได้ชัดว่าส่งผลกระทบต่อกลุ่มใดกลุ่มหนึ่งอย่างไม่เป็นสัดส่วน อย่างที่สองนั้นร้ายกาจกว่าเพราะเกิดขึ้นโดยไม่ได้ตั้งใจและยากต่อการตรวจจับ
ข้อควรระวัง: การป้องกันว่า "แบบจำลองมีพื้นฐานมาจากสถิติ ดังนั้นจึงมีวัตถุประสงค์" นั้นไม่ถูกต้อง สถิติยังรวมถึงความอยุติธรรมในอดีตด้วย โมเดลไม่ได้ทำให้ถูกต้องตามกฎหมาย แต่จะทำให้มันคงอยู่ตลอดไป ความเป็นธรรมเป็นสิ่งที่ต้องได้รับการทดสอบอย่างจริงจัง
การทดสอบผลลัพธ์เพื่อความเป็นธรรม
ทดสอบผลลัพธ์ของ AI (การแนะนำราคา เหตุผลในการปฏิเสธ คะแนนความเสี่ยง) ด้วยคำถามสามข้อเพื่อความเป็นธรรม:
- เหตุผลถูกต้องหรือไม่? การตัดสินใจขึ้นอยู่กับเกณฑ์ที่มีความสัมพันธ์ที่แท้จริงและสมเหตุสมผลกับความเสี่ยง หรือทรัพย์สินที่ได้รับการคุ้มครองหรือพร็อกซีหรือไม่
- มีผู้รับมอบฉันทะหรือไม่? ตัวแปรตัวใดตัวหนึ่งที่ใช้ (เพื่อนบ้าน ชื่อ อาชีพ สถานภาพการสมรส) สามารถเชื่อมโยงอย่างมากกับคุณลักษณะที่ได้รับการคุ้มครองได้หรือไม่
- อธิบายได้ไหม? คุณสามารถอธิบายการตัดสินใจให้กับลูกค้าและผู้ตรวจสอบบัญชีในลักษณะที่ชัดเจนและป้องกันได้หรือไม่? “ตัวแบบพูดอย่างนั้น” ไม่ใช่คำกล่าว
หากการให้เหตุผลไม่ผ่านการทดสอบทั้งสามข้อนี้ ก็จะถูกปฏิเสธและการตัดสินใจจะขึ้นอยู่กับเกณฑ์ที่ถูกต้องตามกฎหมาย
เคล็ดลับ: ทดสอบเหตุผลสำหรับการถูกปฏิเสธหรือมีค่าเบี้ยประกันภัยสูงด้วยประโยคนี้: "ฉันจะเขินอายไหมถ้าฉันอธิบายเรื่องนี้ให้กับลูกค้าและผู้ตรวจสอบบัญชี" ไม่ควรใช้เหตุผลที่น่าละอายหรือไม่สามารถป้องกันได้ (เพื่อนบ้าน ชื่อ แหล่งกำเนิด)
กรอบกฎหมาย: SEDDK, KVKK, การตัดสินใจอัตโนมัติ
การใช้ปัญญาประดิษฐ์ในการประกันภัยอยู่ภายใต้กฎระเบียบต่างๆ หลักการสำคัญ:
- หลักการของ SEDDK: กิจกรรมการประกันภัยควรดำเนินการในลักษณะที่ยุติธรรม โปร่งใส และคุ้มครองผู้บริโภค ราคาต้องสมเหตุสมผลและต้องไม่มีการเลือกปฏิบัติที่ไม่เป็นธรรม
- KVKK: ข้อมูลส่วนบุคคลจะต้องได้รับการประมวลผลตามกฎหมาย จำกัดตามวัตถุประสงค์และปลอดภัย ข้อมูลพิเศษ เช่น สุขภาพ จะได้รับการคุ้มครองสูงสุด
- หลักการตัดสินใจอัตโนมัติ: ในการตัดสินใจที่ขึ้นอยู่กับการประมวลผลอัตโนมัติเท่านั้นและมีผลกระทบอย่างมีนัยสำคัญต่อบุคคล (เช่น การปฏิเสธที่ทำโดยปัญญาประดิษฐ์เพียงอย่างเดียว) บุคคลนั้น สิทธิในการคัดค้านการตัดสินใจ ขอการแทรกแซงจากมนุษย์ และการเรียนรู้เหตุผลของการตัดสินใจมาก่อน
ดังนั้นความสามารถในการอธิบาย การควบคุมโดยมนุษย์ และการให้เหตุผลจึงเป็นสิ่งสำคัญในการตัดสินใจที่มีผลกระทบสูง การตัดสินใจที่ไม่ยุติธรรมของแบบจำลอง "กล่องดำ" เป็นสิ่งที่ควบคุมไม่ได้และขัดแย้งกับสิทธิ์เหล่านี้
ทีละขั้นตอน: การตัดสินใจที่ยุติธรรมและกลมกลืน
- ระบุคุณสมบัติที่ได้รับการคุ้มครอง เพศ ต้นกำเนิด ความเชื่อ สุขภาพ ภูมิภาคที่อาศัยอยู่ ฯลฯ
- ทำการสแกนพร็อกซี ตั้งคำถามถึงความสัมพันธ์ของตัวแปรที่ใช้กับคุณสมบัติที่ได้รับการป้องกัน
- นำเหตุผลมาทดสอบความชอบธรรม มีความสัมพันธ์ที่แท้จริงกับความเสี่ยงหรือไม่? อธิบายได้ไหม?
- เพิ่มการควบคุมของมนุษย์ ให้เจ้าหน้าที่ตรวจสอบผลลัพธ์อัตโนมัติในการตัดสินใจที่มีผลกระทบสูง
- เอกสารเหตุผล บันทึกเกณฑ์ที่ถูกต้องตามกฎหมายในการตัดสินใจ
- รู้วิธีอุทธรณ์ มอบสิทธิ์แก่ลูกค้าในการคัดค้าน การตรวจสอบโดยเจ้าหน้าที่ และการให้เหตุผล
มินิเคสสามอัน
กรณีที่ 1 — การปฏิเสธพร็อกซี รูปแบบการกำหนดราคาที่อยู่อาศัยแนะนำให้มีเบี้ยประกันภัยสูงอย่างเป็นระบบสำหรับรหัสไปรษณีย์หนึ่งๆ ผู้เชี่ยวชาญได้ตรวจสอบ: รหัสไปรษณีย์ทับซ้อนกับพื้นที่ที่มีกลุ่มชาติพันธุ์หนึ่งกระจุกตัว นี่คือตัวแปรพร็อกซี เมื่อแยกความเสี่ยงที่แท้จริง (อายุอาคาร ประเภทโครงสร้าง ประวัติความเสียหาย) การเพิ่มขึ้นส่วนใหญ่ไม่สมเหตุสมผลอีกต่อไป ราคาได้รับการสร้างขึ้นใหม่ตามเกณฑ์ความเสี่ยงที่ถูกต้องตามกฎหมาย
กรณีที่ 2 — กลุ่มผู้ด้อยโอกาส สำหรับผลิตภัณฑ์ด้านการดูแลสุขภาพ โมเดลดังกล่าวเสนอราคาพรีเมียมที่สูงเกินไปให้กับกลุ่มอายุขนาดเล็ก เหตุผล: กลุ่มนี้มีบทบาทน้อยเกินไปในข้อมูลที่ความเสียหายสูงเพียงเล็กน้อยทำให้ทั้งกลุ่มปรากฏว่า "ตกอยู่ในความเสี่ยง" ผู้เชี่ยวชาญดำเนินการแก้ไขความน่าเชื่อถือ (ความน่าเชื่อถือทางสถิติ) และบันทึกว่าคำแนะนำไม่น่าเชื่อถือ ไม่มีการขึ้นเงินเดือนอย่างไม่เป็นธรรม
กรณีที่ 3 — สิทธิในการคัดค้าน แอปพลิเคชันถูกปฏิเสธโดยอัตโนมัติด้วยคะแนนที่ขับเคลื่อนโดย AI ลูกค้าคัดค้าน. การตัดสินใจดังกล่าวได้รับการตรวจสอบอีกครั้งโดยผู้เชี่ยวชาญซึ่งเป็นส่วนหนึ่งของกระบวนการปรับตัว ดูเหมือนว่าคะแนนจะขึ้นอยู่กับข้อมูลที่ขาดหายไป (ความเสียหายในอดีตไม่ตรงกัน) การตัดสินใจได้รับการแก้ไขแล้ว หากไม่มีการควบคุมของมนุษย์และสิทธิในการคัดค้าน การปฏิเสธอย่างไม่ยุติธรรมจะคงอยู่ถาวร
ข้อความแจ้งที่สามารถคัดลอกได้สี่รายการ
1) การสแกนพร็อกซีและการเลือกปฏิบัติ:
ตรวจสอบเหตุผลด้านราคา/การตัดสินใจต่อไปนี้เพื่อความเป็นธรรม: [เหตุผล]มองหา: คุณลักษณะที่ได้รับการคุ้มครอง (เพศ ต้นกำเนิด ความเชื่อ สุขภาพ ภูมิภาคที่อยู่อาศัย) ถูกใช้โดยตรงหรือโดยอ้อม (ตัวแทน: ละแวกบ้าน ชื่อ อาชีพ ฯลฯ) หรือไม่ สำหรับตัวแปรที่น่าสงสัยแต่ละตัว ให้อธิบายว่าเหตุใดจึงอาจเป็นพร็อกซีและเสนอทางเลือกอื่นที่ถูกต้อง
2) การทดสอบความชอบธรรมของเหตุผล:
ทดสอบเหตุผลการปฏิเสธ/โบนัสสูงต่อไปนี้ด้วยคำถามสามข้อ: [เหตุผล]1. มีความสัมพันธ์ที่แท้จริงและสมเหตุสมผลต่อความเสี่ยงหรือไม่2. มันขึ้นอยู่กับทรัพย์สินที่ได้รับการคุ้มครองหรือพร็อกซีหรือไม่3. สามารถอธิบายให้ลูกค้าและผู้ตรวจสอบบัญชีทราบได้หรือไม่? ตอบคำถามแต่ละข้อให้ชัดเจน ทำเครื่องหมายเหตุผลที่ไม่ผ่านการทดสอบว่า "ปฏิเสธ"
3) ร่างเหตุผลที่อธิบายได้:
ร่างเหตุผลที่ชัดเจนให้ลูกค้าตัดสินใจตามเกณฑ์ความเสี่ยงที่ถูกต้องตามกฎหมายและได้รับการยืนยันต่อไปนี้: [เกณฑ์ที่ถูกต้องตามกฎหมาย] น้ำเสียง: ให้ความเคารพ ชัดเจน การใช้คุณสมบัติที่ได้รับการคุ้มครอง/พร็อกซี ระบุสิทธิ์ของลูกค้าในการคัดค้านและขอให้มีการตรวจสอบโดยเจ้าหน้าที่ นี่คือฉบับร่าง ผู้เชี่ยวชาญยืนยัน
4) รายการตรวจสอบการตรวจสอบโดยมนุษย์:
สร้างรายการตรวจสอบการตรวจสอบโดยมนุษย์สำหรับการตัดสินใจอัตโนมัติที่มีผลกระทบสูง:ประเภทการตัดสินใจ: [การปฏิเสธ/เบี้ยประกันภัยสูง/ข้อจำกัดหลักประกัน]รายการ: การตรวจสอบโดยผู้เชี่ยวชาญที่ผ่านการรับรอง การตรวจสอบข้อมูล ความเป็นธรรม/การควบคุมพร็อกซี เอกสารเหตุผล การแจ้งการอุทธรณ์ของลูกค้า บันทึกการติดตาม
พรอมต์อ่อน / พรอมต์แรง
จุดอ่อน: "ระบุราคาที่ทำกำไรได้มากที่สุดด้วยข้อมูลนี้ และเขียนเหตุผล"
ปัญหา: ไม่มีการเคารพความเป็นธรรม การเป็นตัวแทน และความสามารถในการอธิบาย แบบจำลองนี้สามารถยืดเยื้อและพิสูจน์การเลือกปฏิบัติในอดีตได้
แข็งแกร่ง: "ตรวจสอบเหตุผลนี้เพื่อดูพร็อกซีและการเลือกปฏิบัติ จุดธงที่ต้องอาศัยคุณสมบัติที่ได้รับการป้องกันหรือพร็อกซีและแทนที่ด้วยเกณฑ์ความเสี่ยงที่ถูกต้องตามกฎหมาย สรุปเหตุผลที่อธิบายได้"
เหตุใดจึงดี: มีการทดสอบการเลือกปฏิบัติอย่างจริงจัง การตัดสินใจขึ้นอยู่กับเกณฑ์ที่ถูกต้องตามกฎหมายและอธิบายได้
แผนภูมิเปรียบเทียบ
เรื่อง
แนวทางที่มีความเสี่ยง
แนวทางที่ถูกต้อง
เอาท์พุตโมเดล
“สถิติคือเป้าหมาย”
ทดสอบความยุติธรรมอย่างจริงจัง
การเลือกตัวแปร
ใช้ทุกข้อมูล
แยกผู้รับมอบฉันทะ
เหตุผล
“นางแบบก็บอกแบบนั้น”
เกณฑ์ที่ถูกต้องตามกฎหมายและอธิบายได้
การตัดสินใจที่มีผลกระทบสูง
อัตโนมัติเต็มรูปแบบ
จำเป็นต้องมีการควบคุมดูแลของมนุษย์
ถูกต้องครับลูกค้า
ไม่รายงาน
การคัดค้าน + การตรวจสอบโดยมนุษย์ + การให้เหตุผล
ข้อผิดพลาดทั่วไป
- การป้องกัน "สถิติมีวัตถุประสงค์" ชี้ให้เห็นถึงความอยุติธรรมในอดีต
- ละเว้นพร็อกซี การเลือกปฏิบัติทางอ้อมตามพื้นที่ใกล้เคียง/ชื่อ/อาชีพ
- การตัดสินใจที่ไม่น่าเชื่อถือสำหรับกลุ่มผู้ด้อยโอกาส สมมติว่าอัตราที่ได้จากตัวอย่างเล็กๆ นั้นแม่นยำ
- การตัดสินใจกล่องดำ การดำเนินการตัดสินใจอัตโนมัติโดยไม่สามารถอธิบายเหตุผลได้
- ไม่รู้จักสิทธิคัดค้าน ไม่ให้สิทธิ์ลูกค้าในการตรวจสอบและให้เหตุผลโดยมนุษย์
โดยสรุป
ปัญญาประดิษฐ์สามารถเรียนรู้การเลือกปฏิบัติในข้อมูลในอดีตและดำเนินการต่อโดยอ้อม (ผ่านพร็อกซี) ในด้านการกำหนดราคาและการจัดจำหน่าย ทดสอบความเป็นธรรมอย่างแข็งขัน: ระบุคุณสมบัติและผู้รับมอบฉันทะที่ได้รับการคุ้มครอง ทดสอบเหตุผลเพื่อความชอบธรรมและคำอธิบายได้ SEDDK, KVKK และหลักการตัดสินใจอัตโนมัติ การกำหนดราคาที่ยุติธรรมจำเป็นต้องมีคำอธิบาย การตรวจสอบโดยเจ้าหน้าที่ และสิทธิ์ในการคัดค้าน การควบคุมโดยมนุษย์ถือเป็นสิ่งสำคัญในการตัดสินใจที่มีผลกระทบสูง ในกรณีเฉพาะ ให้ปรึกษาฝ่ายกฎหมาย/ฝ่ายปฏิบัติตามข้อกำหนด การเลือกปฏิบัติคือเส้นสีแดง
งานสมัคร
เขียนรายการตัวแปร 10 ตัวที่โมเดลการกำหนดราคาใช้ (จริงหรือตัวอย่าง) สำหรับแต่ละคำถาม ให้ตอบคำถาม "นี่อาจเป็นพร็อกซีสำหรับทรัพย์สินที่ได้รับการคุ้มครอง"; แจ้งเบาะแสผู้ต้องสงสัย จากนั้นให้ใส่ตัวอย่างเหตุผลในการปฏิเสธผ่านการทดสอบความชอบธรรม #2: ผ่านการทดสอบหรือไม่ และถ้าไม่ คุณจะแทนที่ด้วยเกณฑ์ที่ถูกต้องได้อย่างไร
รายการตรวจสอบ
- [ ] ฉันได้ระบุคุณสมบัติที่ได้รับการป้องกันแล้ว
- [ ] ฉันสแกนตัวแปรเพื่อหาพร็อกซี
- [ ] ฉันให้เหตุผลเพื่อทดสอบความชอบธรรมและคำอธิบายได้
- [ ] ฉันทำการตรวจสอบความน่าเชื่อถือของกลุ่มที่ด้อยโอกาส
- [ ] ฉันได้เพิ่มการควบคุมโดยมนุษย์ในการตัดสินใจที่มีผลกระทบสูง
- [ ] ฉันบันทึกเหตุผลและให้สิทธิ์แก่ลูกค้าในการคัดค้าน/การตรวจสอบโดยมนุษย์
- [ ] เมื่อมีข้อสงสัย ฉันได้ปรึกษาแผนกกฎหมาย/การปฏิบัติตามกฎระเบียบ