กำไร:
- ความสามารถในการเชื่อมโยงหลักการ AI ที่มีความรับผิดชอบ (ความยุติธรรม ความโปร่งใส ความรับผิดชอบ ความเป็นส่วนตัว การกำกับดูแลของมนุษย์ ความปลอดภัย ความยั่งยืน) เข้ากับการตัดสินใจที่เป็นรูปธรรม
- ความสามารถในการทดสอบฝ่ายที่ได้รับผลกระทบและความลำเอียงโดยแยกจริยธรรมออกจากการปฏิบัติตามกฎหมาย และแยกแยะระหว่าง 'เราทำได้' และ 'เราควร'
- ความสามารถในการลดสถานการณ์การละเมิดล่วงหน้าโดยการฝังความโปร่งใส การตรวจสอบโดยมนุษย์ และการอุทธรณ์ในการออกแบบ
สตาร์ทอัพด้าน AI สามารถมีความสมบูรณ์แบบทางเทคนิค สร้างผลกำไรทางการเงิน และดำเนินไปได้อย่างถูกกฎหมาย แต่มันก็ยังอาจผิดได้ จริยธรรมคือความแตกต่างระหว่าง "เราทำได้" และ "เราควร" สำหรับผู้จัดการอาวุโส จริยธรรมไม่ใช่เรื่องของการตกแต่งหรือการประชาสัมพันธ์ เป็นรากฐานที่รักษาความน่าเชื่อถือ ชื่อเสียง และความชอบธรรมทางสังคมของสถาบันในระยะยาว ในหน่วยนี้ คุณจะได้เรียนรู้หลักการของ AI ที่มีความรับผิดชอบ (แนวทางในการพัฒนาและการใช้ปัญญาประดิษฐ์ในลักษณะที่ยุติธรรม โปร่งใส รับผิดชอบ และเคารพในศักดิ์ศรีความเป็นมนุษย์) และวิธีสะท้อนสิ่งเหล่านี้ในการตัดสินใจในแต่ละวัน
หลักการพื้นฐานของ AI ที่มีความรับผิดชอบ
กรอบการทำงานที่แตกต่างกันเป็นไปตามหลักการที่คล้ายคลึงกัน สรุปการปฏิบัติสำหรับผู้จัดการ:
หลักการ
คุณหมายถึงอะไร?
คำถามของผู้ดูแลระบบ
ความยุติธรรม
การไม่เลือกปฏิบัติ
สิ่งนี้ส่งผลกระทบต่อกลุ่มอย่างไม่ยุติธรรมหรือไม่?
ความโปร่งใส
เข้าใจได้
เราสามารถอธิบายเหตุผลในการตัดสินใจได้หรือไม่?
ความรับผิดชอบ
การระบุผู้ที่รับผิดชอบ
หากเกิดข้อผิดพลาดใครจะเป็นผู้รับผิดชอบ?
ความเป็นส่วนตัว
การเคารพข้อมูลส่วนบุคคล
เรามีสิทธิ์ใช้ข้อมูลหรือไม่?
การเฝ้าระวังของมนุษย์
อยู่ในการควบคุม
คนหนึ่งสามารถคัดค้านและหยุดมันได้หรือไม่?
ความปลอดภัย
อย่าทำอันตราย
สิ่งนี้อาจถูกละเมิดหรือไม่?
ความยั่งยืน
ผลกระทบต่อสิ่งแวดล้อม/สังคม
เรากำหนดต้นทุนให้ใคร?
หลักการเหล่านี้ไม่ใช่นามธรรม แต่ละรายการสามารถเชื่อมโยงกับการตัดสินใจที่เป็นรูปธรรมได้ ตัวอย่างเช่น “ความโปร่งใส” หมายถึงการให้ลูกค้าทราบว่าพวกเขากำลังพูดคุยกับ AI “การกำกับดูแลโดยมนุษย์” หมายถึง การให้มนุษย์ตรวจสอบการปฏิเสธสินเชื่อและปล่อยให้มีการอุทธรณ์ได้
เคล็ดลับ: ในการตัดสินใจของ AI ที่มีผลกระทบสูงทุกครั้ง ให้ถามคำถามหนึ่งข้อ: “ฉันสามารถอธิบายอย่างชัดเจนและยืนหยัดอยู่เบื้องหลังการตัดสินใจนี้ต่อบุคคลที่ได้รับผลกระทบเชิงลบมากที่สุดได้หรือไม่” หากการตอบกลับนี้ทำให้ขุ่นเคือง แสดงว่ามีปัญหาด้านจริยธรรม
จริยธรรมแตกต่างจากกฎหมาย
ความแตกต่างที่สำคัญ: การปฏิบัติตามกฎหมาย (บทที่ 9) เป็นขั้นต่ำสุด; จริยธรรมเป็นบรรทัดที่สูงกว่า บางสิ่งบางอย่างอาจจะถูกกฎหมายแต่ผิดจรรยาบรรณ ตัวอย่างเช่น แอปอาจไม่ได้รับอนุญาตให้ใช้ปัญญาประดิษฐ์เพื่อบิดเบือนพฤติกรรมของผู้ใช้ แต่ถือเป็นการกระทำที่ผิดจรรยาบรรณ สถาบันที่รับผิดชอบ “ห้ามหรือเปล่า?” ไม่ใช่ "จริงเหรอ?" เขาถาม
ทีละขั้นตอน: ฝังจริยธรรมในการตัดสินใจ
1. ระบุผู้ได้รับผลกระทบ ใครได้รับผลกระทบจากความคิดริเริ่มนี้? (ลูกค้า พนักงาน สังคม กลุ่มผู้ด้อยโอกาส)
2. สแกนด้วยนโยบาย ตั้งคำถามถึงความคิดริเริ่มในแง่ของหลักการแต่ละข้อข้างต้น
3. ทดสอบอคติและอันตราย รูปแบบดังกล่าวส่งผลกระทบต่อกลุ่มบางกลุ่มอย่างไม่ยุติธรรมหรือไม่? สถานการณ์การละเมิดคืออะไร?
4. เพิ่มความโปร่งใสและการกำกับดูแล รายงานการใช้ปัญญาประดิษฐ์โดยไม่มีช่องทางให้มนุษย์คัดค้าน
5. เอกสารและการตรวจทาน บันทึกการประเมินทางจริยธรรม โปรดกลับมาตรวจสอบเป็นระยะ
มินิเคสสามอัน
กรณีที่ 1 — ถูกกฎหมายแต่ผิด แอปใช้ปัญญาประดิษฐ์เพื่อสร้างการแจ้งเตือนที่น่าติดตามเพื่อให้ผู้ใช้อยู่ในแอปได้นานขึ้น ไม่มีอุปสรรคทางกฎหมาย แต่เมื่อถูกรายงานในสื่อ มีการสูญเสียชื่อเสียงอย่างร้ายแรง การกำหนดเป้าหมายไปที่ผู้ใช้รุ่นเยาว์โดยเฉพาะทำให้เกิดการวิพากษ์วิจารณ์ บริษัทได้ลบฟีเจอร์นี้ออก หากกรองจริยธรรมตั้งแต่ต้นก็จะเห็นความเสี่ยงนี้
กรณีที่ 2 — มูลค่าของการทดสอบความเป็นธรรม รูปแบบการให้คะแนนเครดิตของธนาคารให้คะแนนที่ต่ำกว่าอย่างเป็นระบบแก่แอปพลิเคชันจากกลุ่มที่ได้รับการคุ้มครอง สิ่งนี้ถูกจับได้ในการตรวจสอบความยุติธรรม แบบจำลองนี้ได้รับการออกแบบใหม่และทดสอบเป็นประจำเพื่อให้มั่นใจถึงความเท่าเทียมกันระหว่างกลุ่มในผลลัพธ์ หลักจริยธรรม (ความยุติธรรม) กลายเป็นบททดสอบที่เป็นรูปธรรมและป้องกันไม่ให้เกิดอันตรายอย่างแท้จริง
กรณีที่ 3 — ความโปร่งใสที่สร้างความไว้วางใจ บริษัทอีคอมเมิร์ซแห่งหนึ่งใส่วลี "ผู้ช่วยปัญญาประดิษฐ์ช่วยคุณ คุณสามารถเชื่อมต่อกับตัวแทนที่เป็นมนุษย์ได้ตลอดเวลา" ที่จุดเริ่มต้นของแชทบอทสนับสนุนลูกค้า ความโปร่งใสและทางออกของมนุษย์ไม่ได้ลดความพึงพอใจ ตรงกันข้ามกลับเพิ่มความมั่นใจและการร้องเรียนลดลง 15% ความโปร่งใสที่ทำถูกต้องคือคุณค่า ไม่ใช่ต้นทุน
เทมเพลตที่สามารถคัดลอกได้สี่แบบ
1) การคัดกรองด้านจริยธรรม:
บทบาทของคุณ: ที่ปรึกษา AI ที่รับผิดชอบ สแกนความคิดริเริ่มนี้เพื่อดูหลักการ 7 ประการ: ความเป็นธรรม ความโปร่งใส ความรับผิดชอบ ความเป็นส่วนตัว การกำกับดูแลของมนุษย์ ความปลอดภัย ความยั่งยืน สำหรับแต่ละนโยบาย ให้เขียนหนึ่งความเสี่ยงและหนึ่งข้อเสนอแนะ ความคิดริเริ่ม: [ข้อความ]
2) การวิเคราะห์บุคคลที่ได้รับผลกระทบ:
รายชื่อทุกฝ่ายที่ได้รับผลกระทบจากโครงการริเริ่ม AI นี้ (ลูกค้า พนักงาน สังคม กลุ่มผู้ด้อยโอกาส) เขียนผลกระทบเชิงบวกและเชิงลบที่เป็นไปได้สำหรับแต่ละฝ่าย ทำเครื่องหมายกลุ่มที่มีแนวโน้มว่าจะได้รับอันตรายมากที่สุด ความคิดริเริ่ม: [ข้อความ]
3) สถานการณ์การละเมิด:
สร้าง 5 สถานการณ์ที่ฟีเจอร์ AI ต่อไปนี้อาจถูกนำไปใช้ในทางที่ผิด (รวมถึงการบงการ การเลือกปฏิบัติ การละเมิดความเป็นส่วนตัว การหลอกลวง) เสนอแนะการตัดสินใจออกแบบเชิงป้องกันสำหรับแต่ละสถานการณ์ คุณสมบัติ: [ข้อความ]
4) การควบคุมความโปร่งใสและการเฝ้าระวัง:
เขียนแผนความโปร่งใสและการกำกับดูแลของมนุษย์สำหรับ AI ที่ต้องพบปะกับลูกค้าว่า: อะไรจะสื่อสารกับผู้ใช้และอย่างไร สามารถถ่ายทอดสู่มนุษย์ได้อย่างไร? เขาจะคัดค้านการตัดสินใจได้อย่างไร? การใช้งาน: [ข้อความ]
พรอมต์อ่อน / พรอมต์แรง
อ่อนแอ: “AI มีจริยธรรมหรือไม่”
ผลลัพธ์: ผิวเผิน "ใช่/ไม่ใช่"; หลักการไหนใครได้รับผลกระทบมาตรการไหนยังไม่ชัดเจน
แข็งแกร่ง: "เรากำลังพิจารณาใช้ AI ในเครื่องมือคัดกรองก่อนการสรรหาบุคลากร (มนุษย์เป็นผู้ตัดสินใจขั้นสุดท้าย) คัดกรองหลักการของความเป็นธรรม ความโปร่งใส ความรับผิดชอบ และการกำกับดูแลของมนุษย์ เขียนอย่างเป็นรูปธรรมว่ากลุ่มผู้สมัครกลุ่มใดที่อาจได้รับผลกระทบอย่างไม่ยุติธรรม การทดสอบอคติใดบ้างที่ฉันต้องทำ และผู้สมัครสามารถอุทธรณ์คำตัดสินได้อย่างไร"
ผลลัพธ์: การประเมินเชิงปฏิบัติตามหลักการที่ระบุบุคคลที่ได้รับผลกระทบและเสนอแนะการทดสอบและการอุทธรณ์
ข้อผิดพลาดทั่วไป
- จริยธรรมที่สับสนกับการปฏิบัติตามกฎหมาย ไม่ใช่ทุกสิ่งที่ถูกกฎหมายจะมีจริยธรรม จริยธรรมเป็นบรรทัดที่สูงกว่า
- ทิ้งหลักจริยธรรมไว้ให้คงอยู่ การได้รับ "การอนุมัติด้านจริยธรรม" หลังจากการออกแบบนั้นสายเกินไป จริยธรรมจะต้องฝังอยู่ในการออกแบบตั้งแต่ต้น
- ไม่ใช่การทดสอบความยุติธรรม การสันนิษฐานว่า "แบบจำลองของเราเป็นกลาง" เป็นสิ่งที่อันตราย ไม่สามารถรู้ได้หากไม่มีการวัด
- ความโปร่งใสที่ผิดพลาดในเรื่องต้นทุน ความโปร่งใสที่ทำถูกต้องจะเพิ่มความไว้วางใจและมูลค่า
- ทำให้ด้านที่ได้รับผลกระทบแคบลง การคิดแต่เรื่องลูกค้าและละเลยพนักงาน สังคม และกลุ่มผู้ด้อยโอกาส ทำให้เกิดจุดบอด
ข้อควรระวัง: การปล่อยให้การประเมินทางจริยธรรมเป็นหน้าที่ของปัญญาประดิษฐ์โดยสิ้นเชิงนั้นขัดแย้งและเป็นอันตราย AI สามารถช่วยตั้งคำถามด้านจริยธรรมได้ แต่การตัดสินคุณค่า บริบททางวัฒนธรรม และความรับผิดชอบทางศีลธรรมขั้นสูงสุดนั้นขึ้นอยู่กับมนุษย์ จุดยืนทางจริยธรรมขององค์กรถูกกำหนดโดยการตัดสินใจอย่างมีสติของผู้คน ไม่ใช่โดย "AI กล่าวเช่นนั้น"
โดยสรุป
จริยธรรมคือความแตกต่างระหว่าง "เราทำได้" และ "เราควร" และปกป้องความน่าเชื่อถือในระยะยาวขององค์กร AI ที่มีความรับผิดชอบ โดยตั้งอยู่บนหลักการแห่งความยุติธรรม ความโปร่งใส ความรับผิดชอบ ความเป็นส่วนตัว การกำกับดูแลของมนุษย์ ความปลอดภัย และความยั่งยืน หลักการเหล่านี้ไม่ใช่นามธรรม ซึ่งแปลเป็นการตัดสินใจที่เป็นรูปธรรม เช่น การระบุฝ่ายที่ได้รับผลกระทบ การทดสอบอคติ การให้ความโปร่งใส และเพิ่มการกำกับดูแลโดยมนุษย์ จริยธรรมแตกต่างจากกฎหมายและเป็นบรรทัดที่สูงกว่า ปล่อยไว้สุดทางไม่ได้ต้องฝังอยู่ในดีไซน์ ในหน่วยถัดไป เราจะหารือเกี่ยวกับการปฏิบัติตามกฎระเบียบซึ่งเทียบเท่ากับหลักจริยธรรมทางกฎหมาย โดยเฉพาะกฎหมาย AI ของสหภาพยุโรปและ KVKK
งานสมัคร
เลือกสตาร์ทอัพ AI ที่มีผลกระทบสูง ด้วยเทมเพลต 2 ให้ระบุรายชื่อฝ่ายที่ได้รับผลกระทบทั้งหมดและทำเครื่องหมายกลุ่มที่มีแนวโน้มจะได้รับอันตรายมากที่สุด ด้วยเทมเพลต 1 ให้สแกนความคิดริเริ่มเพื่อหาหลักการทั้งเจ็ดข้อ กำหนดมาตรการที่เป็นรูปธรรม (การทดสอบความเป็นธรรม การแจ้งความโปร่งใส เส้นทางการอุทธรณ์ ฯลฯ) สำหรับความเสี่ยงด้านจริยธรรมที่สำคัญที่สุดสองประการ สุดท้ายนี้ “ฉันสามารถอธิบายการตัดสินใจนี้ให้ผู้ที่ได้รับผลกระทบด้านลบมากที่สุดทราบได้ไหม” ตอบคำถามอย่างตรงไปตรงมา
รายการตรวจสอบ
- [ ] ฉันได้ระบุบุคคลที่ได้รับผลกระทบทั้งหมดแล้ว
- [ ] ฉันคัดกรองสตาร์ทอัพด้วยหลัก 7 ประการของ AI ที่มีความรับผิดชอบ
- [ ] ฉันวางแผนการทดสอบอคติ/ความเป็นธรรม
- [ ] ฉันออกแบบคำชี้แจงความโปร่งใส
- [ ] ฉันไม่เหลือทางให้มนุษย์ควบคุมและอุทธรณ์
- [ ] ฉันคิดถึงสถานการณ์การละเมิด
- [ ] “ฉันสามารถอธิบายให้คนที่ได้รับผลกระทบเชิงลบมากที่สุดได้ไหม” ฉันผ่านการทดสอบ