กำไร:
- เข้าใจว่าข้อมูลเป็นแหล่งที่มาหลักของความลำเอียงของ AI
- ตระหนักถึงความเสี่ยงที่เกิดจากอคติในที่ทำงาน
- ดำเนินมาตรการที่สามารถดำเนินการเพื่อลดอคติ
AI ปรากฏเป็นเครื่องจักรที่เป็นกลางและมีวัตถุประสงค์ แต่ความจริงนั้นซับซ้อนกว่ามาก ระบบ AI เรียนรู้อคติของมนุษย์ในข้อมูลที่ฝึกฝน และบางครั้งก็ขยายและทำซ้ำ อคติคือแนวโน้มของระบบที่จะสนับสนุนหรือกีดกันคนหรือกลุ่มบางกลุ่มอย่างเป็นระบบ ในบทนี้ เราจะพิจารณาว่าอคติมาจากไหน ความเสี่ยงที่เป็นรูปธรรมในที่ทำงาน และสิ่งที่สามารถทำได้เพื่อต่อต้านอคติ นี่ไม่ใช่แค่เรื่องของ "จริยธรรม" เท่านั้น; มันเป็นเรื่องทางธุรกิจในทางปฏิบัติที่มีความเสี่ยงทางกฎหมาย การค้า และชื่อเสียงเมื่อมีการจัดการที่ไม่ถูกต้อง
อคติมาจากไหน?
ข้อมูลของแบบจำลองภาษามาจากข้อความจำนวนมหาศาลที่มนุษย์จัดทำขึ้น ตำราเหล่านี้ประกอบด้วยความรู้ทั้งหมดเกี่ยวกับสังคมมนุษย์ เช่นเดียวกับทัศนคติแบบเหมารวม ความไม่สมดุล และความไม่เท่าเทียมกันทางประวัติศาสตร์ โมเดลไม่ได้แยกแยะระหว่างรูปแบบ "ดี" และ "ไม่ดี" มันเรียนรู้อะไรก็ตามที่อยู่ในข้อมูล
ตัวอย่าง: หากอาชีพบางอาชีพมีความเกี่ยวข้องกับเพศเป็นส่วนใหญ่ในตำราในอดีต (เช่น "พยาบาล" กับผู้หญิง "วิศวกร" กับผู้ชาย) โมเดลจะเรียนรู้การเชื่อมโยงนี้ เธออาจมีแนวโน้มที่จะเลือกสรรพนามผู้ชายเมื่อเติมประโยค "วิศวกรเดินเข้าไปในออฟฟิศ เขา..." นางแบบคนนี้ไม่เป็นอันตราย มันเพียงสะท้อนถึงความไม่สมดุลของข้อมูลเท่านั้น
ดังนั้นอคติส่วนใหญ่เกิดจากการที่มันเป็นกระจกเงาของข้อมูล ไม่ใช่ข้อผิดพลาดในการเขียนโปรแกรมโดยรู้ตัว การอธิบายปัญหาว่า "มีคนเขียนโค้ดที่ไม่ถูกต้อง" ถือเป็นการทำให้เข้าใจผิด ปัญหาคือความไม่สมดุลในโลกถูกส่งต่อไปยังข้อมูล จากนั้นจึงส่งต่อไปยังโมเดล
ความเสี่ยงที่จับต้องได้ในสถานที่ทำงาน
พื้นที่
เสี่ยงต่อการมีอคติ
อันตรายที่อาจเกิดขึ้น
การสรรหาบุคลากร
เรียนรู้แนวโน้มของข้อมูลในอดีตและกำจัดกลุ่มบางกลุ่ม
คดีทางกฎหมายสูญเสียความสามารถ
การสื่อสารกับลูกค้า
ภาษาแบบเหมารวมหรือแบบพิเศษ
เสียชื่อเสียงเที่ยวบินของลูกค้า
เครดิต/ความเสี่ยง
สานต่อความไม่เท่าเทียมในอดีต
การเลือกปฏิบัติการลงโทษ
การประเมินผลการปฏิบัติงาน
การนำความลำเอียงในข้อมูลมาสู่การตัดสินใจ
การเลื่อนตำแหน่ง/โบนัสที่ไม่เป็นธรรม
เนื้อหา/การตลาด
ทำให้กลุ่มเฉพาะมองไม่เห็น
ความเสียหายของแบรนด์
มินิเคสสามอัน
กรณีที่ 1 — โฆษณาจำกัดภาษาให้แคบลง บริษัทแห่งหนึ่งเริ่มพิมพ์ประกาศรับสมัครงานด้วย AI หลังจากนั้นไม่นาน พบว่าโฆษณาดังกล่าวดึงดูดโปรไฟล์บางอย่างด้วยสำนวนเช่น "เด็กและมีพลัง" "เป้าหมายที่ก้าวร้าว" และทำให้ความหลากหลายของแอปพลิเคชันลดลง ทีมงานได้เพิ่มขั้นตอนที่จะตรวจสอบการโพสต์แต่ละครั้งว่ามี “ภาษาที่ครอบคลุม” หรือไม่ ความหลากหลายของผู้สมัครเพิ่มขึ้นอย่างมากภายในไม่กี่เดือน
กรณีที่ 2 — อคติที่ซ่อนอยู่ในบทสรุป ผู้จัดการคนหนึ่งให้ AI สรุปความคิดเห็นของพนักงาน 30 คน การสรุปดูเหมือนจะเน้นไปที่ความคิดเห็นเชิงลบไปที่ทีมใดทีมหนึ่งโดยเฉพาะ ในขณะที่ข้อมูลดิบสถานการณ์มีความสมดุล โมเดลดังกล่าวกล่าวเกินจริงถึงข้อความที่ชัดเจนหลายประการ เมื่อผู้จัดการกลับไปตรวจสอบข้อมูลดิบ เขาก็หลีกเลี่ยงไม่ให้เข้าใจผิด
กรณีที่ 3 — อาณัติการไม่แบ่งแยกได้ผล ทีมการตลาดทีมหนึ่งสร้างมาตรฐานคำแนะนำในข้อความแคมเปญเพื่อ "ใช้ภาษา/อายุ/กลุ่มที่ครอบคลุมและไม่เฉพาะเจาะจง และระบุสมมติฐานของคุณในตอนท้าย" นิพจน์สูตรในข้อความที่ผลิตลดลงอย่างเห็นได้ชัด ทีมงานไม่จำเป็นต้องแก้ไขแต่ละเอาต์พุตด้วยตนเองซ้ำแล้วซ้ำอีก
เหตุใดอคติจึงยากที่จะจดจำ?
สิ่งที่ร้ายกาจที่สุดเกี่ยวกับอคติก็คือมันมักจะมองไม่เห็น ผลลัพธ์ที่ได้ดูราบรื่น เป็นมืออาชีพ และสมเหตุสมผล แนวโน้มภายในจะปรากฏชัดก็ต่อเมื่อพิจารณาอย่างรอบคอบหรือวัดผลกระทบที่มีต่อกลุ่มต่างๆ เป็นการเข้าใจผิดที่จะพูดว่า "ไม่มีอคติที่นี่" โดยดูจากตัวอย่างเดียว อคติมักไม่แสดงออกมาให้เห็นในตัวอย่างของแต่ละบุคคล แต่แสดงออกมาในแนวโน้มทั่วไปของระบบ
ข้อควรระวัง: การสันนิษฐานว่า "ฉันเป็นกลาง ดังนั้นเครื่องมือที่ฉันใช้ก็เป็นกลางเช่นกัน" ถือเป็นอันตราย ความเป็นกลางของเครื่องมือขึ้นอยู่กับข้อมูลการฝึกอบรมและวิธีการตรวจสอบ ไม่ใช่ขึ้นอยู่กับเจตนาของคุณ
พรอมต์ที่อ่อนแอ / พรอมต์ที่แข็งแกร่ง
ข้อความแจ้งที่อ่อนแอ: อธิบายผู้สมัครในอุดมคติสำหรับตำแหน่งนี้
ผลลัพธ์: โมเดลอาจอาศัยแบบเหมารวมและนำเสนอโปรไฟล์เฉพาะว่า "ในอุดมคติ"
พร้อมท์ที่ชัดเจน: ระบุเฉพาะความสามารถที่วัดได้สำหรับตำแหน่งนี้ซึ่งเกี่ยวข้องกับงานอย่างแท้จริง ไม่ใช้คุณลักษณะใดๆ ที่ไม่เกี่ยวข้องกับงาน เช่น เพศ อายุ สถานภาพสมรส บ้านเกิด สุดท้าย ให้เขียนสิ่งที่คุณทิ้งไว้ใต้หัวข้อ "สมมติฐานที่ฉันหลีกเลี่ยง"
ผลลัพธ์: การประเมินจำกัดตามเกณฑ์ที่เกี่ยวข้องกับงาน ไม่รวมคุณสมบัติที่ไม่เกี่ยวข้อง
เทมเพลตเพื่อลดอคติ
ตรวจสอบข้อความด้านล่างเพื่อดูภาษาที่รวมไว้ ตั้งค่าสถานะข้อความที่สื่อถึงเพศ อายุ ชาติพันธุ์ ความทุพพลภาพ หรือกลุ่มใดกลุ่มหนึ่ง และแนะนำทางเลือกที่เป็นกลางสำหรับแต่ละข้อความ: [วางที่นี่]
ทำการประเมินนี้ตามเกณฑ์วัตถุประสงค์เหล่านี้เท่านั้น: [เกณฑ์] อย่าคำนึงถึงข้อมูลใดๆ นอกเหนือจากเกณฑ์เหล่านี้ (ชื่อ เพศ อายุ)
รายการภายใต้หัวข้อแยกต่างหากในตอนท้ายซึ่งคุณตั้งสมมติฐานไว้ในข้อความที่คุณสร้างขึ้น ฉันจึงมองเห็นอคติที่ซ่อนอยู่
ประเมินเนื้อหานี้ผ่านสายตาของผู้อ่านสามกลุ่มที่แตกต่างกัน และทำเครื่องหมายข้อความใดๆ ที่อาจทำให้ขุ่นเคืองหรือขุ่นเคืองกับผู้อ่านกลุ่มใดกลุ่มหนึ่ง เนื้อหา: [วางที่นี่]
ข้อผิดพลาดทั่วไป
ข้อผิดพลาดทั่วไป
- สมมติว่าเอาต์พุต AI "เป็นกลาง" แม้ว่าเอาต์พุตจะดูเป็นกลาง แต่อาจมีอคติในข้อมูล ต้องมีการควบคุมดูแลที่ใช้งานอยู่
- ดูตัวอย่างหนึ่งแล้วพูดว่า "ไม่มีอคติ" อคติถูกซ่อนอยู่ในแนวโน้มทั่วไปของระบบ
- ปล่อยให้การตัดสินใจที่มีผลกระทบสูงตกเป็นของ AI ที่ไม่ได้รับการดูแล อำนาจหน้าที่ของมนุษย์มีความสำคัญในการตัดสินใจ เช่น การสรรหาบุคลากร การเลื่อนตำแหน่ง และสินเชื่อ
- ลืมเรียกร้องความครอบคลุม หากคุณไม่ได้ร้องขออย่างชัดเจนในพรอมต์ โมเดลจะเปลี่ยนกลับไปเป็นรูปแบบเริ่มต้น
- แปลว่า "เครื่องบอกไว้" ผู้ที่ใช้การตัดสินใจก็ต้องรับผิดชอบต่อผลที่ตามมาด้วย
ความยุติธรรมเป็นความรับผิดชอบของทุกคน
การต่อสู้กับอคติไม่ใช่แค่งานของทีมเทคนิคเท่านั้น พนักงานทุกคนที่ใช้เอาท์พุต AI มีหน้าที่ตั้งคำถามว่าเอาท์พุตนั้นยุติธรรมหรือไม่ “เครื่องจักรบอกฉัน” ไม่ใช่ข้อแก้ตัว บุคคลที่ทำการตัดสินใจก็ต้องรับผิดชอบต่อผลที่ตามมาด้วย
โดยสรุป
- แหล่งที่มาหลักของความลำเอียงของ AI ไม่ใช่ความมุ่งร้าย แต่เป็นความไม่สมดุลและทัศนคติแบบเหมารวมที่มีอยู่ในข้อมูลการฝึกอบรม
- อคติ; สร้างความเสี่ยงทางกฎหมายและชื่อเสียงอย่างแท้จริงในด้านต่างๆ เช่น การสรรหาบุคลากร การสื่อสารกับลูกค้า การเงิน และการประเมินผล
- อคติมักมองไม่เห็นและฝังอยู่ในการจัดการโดยรวมของระบบ การดูตัวอย่างเดียวทำให้เข้าใจผิด
- เพื่อลด: ตระหนักรู้ จำกัดการตัดสินใจตามเกณฑ์ที่เกี่ยวข้องกับงาน ขออย่างชัดเจนถึงความไม่แบ่งแยก ใช้การควบคุมของมนุษย์ในการตัดสินใจที่มีผลกระทบสูง
- “เครื่องจักรบอกฉัน” ไม่ใช่ข้อแก้ตัว ความเป็นธรรมเป็นความรับผิดชอบของทุกคนที่ใช้ผลผลิต
งานแอปพลิเคชัน
บอก AI “อธิบายคนงานในอุดมคติ [ทุกอาชีพ]” และทำเครื่องหมายสมมติฐาน (อาจไม่จำเป็น) ที่เกิดขึ้นในผลลัพธ์ จากนั้นทำซ้ำกับเทมเพลต “เกณฑ์ที่เกี่ยวข้องกับงาน” ด้านบน และเปรียบเทียบผลลัพธ์ทั้งสองเพื่อความเป็นธรรม
รายการตรวจสอบ
- [ ] ฉันเข้าใจว่าแหล่งที่มาหลักของความลำเอียงคือข้อมูลการฝึกอบรม
- [ ] ฉันสามารถระบุความเสี่ยงที่เป็นรูปธรรมที่เกิดจากอคติในที่ทำงานได้
- [ ] ฉันรู้ว่าอคติมักมองไม่เห็นและการดูตัวอย่างเดียวก็ทำให้เข้าใจผิด
- [ ] ฉันสามารถขอความครอบคลุมและเกณฑ์ที่เกี่ยวข้องกับงานได้อย่างชัดเจนในข้อความแจ้ง
- [ ] ฉันต้องการการควบคุมดูแลการตัดสินใจที่มีผลกระทบสูงโดยมนุษย์