กำไร:
- ความสามารถในการรับรู้ความเสี่ยงเฉพาะของ AI เช่น อาการประสาทหลอน อคติ การรั่วไหลของข้อมูล การเคลื่อนตัวของโมเดล การพึ่งพา และอธิบายไม่ได้พร้อมกับผลกระทบทางธุรกิจ
- การให้คะแนนความเสี่ยงในมิติความน่าจะเป็นและผลกระทบ และรักษาให้อยู่ในความเสี่ยงที่ยอมรับได้ของสถาบันด้วยมาตรการบรรเทาผลกระทบ
- ความสามารถในการปรับการเฝ้าระวังตามระดับความเสี่ยงมากกว่าความสม่ำเสมอ ช่วยให้มั่นใจในการตัดสินใจขั้นสุดท้ายของมนุษย์และการติดตามอย่างต่อเนื่องในการตัดสินใจที่มีความเสี่ยงสูง
คุณค่าและความเสี่ยงเป็นสองด้านของเหรียญเดียวกัน AI เปิดแหล่งที่มาของมูลค่าใหม่ๆ แต่ยังแนะนำความเสี่ยงประเภทใหม่ๆ ที่ซอฟต์แวร์แบบเดิมไม่มี สำหรับผู้จัดการอาวุโส ประเด็นไม่ใช่การหลีกเลี่ยงความเสี่ยง แต่เป็นการจัดการความเสี่ยงอย่างมีสติ (การบริหารความเสี่ยง วินัยในการรับรู้ วัด การลดความเสี่ยง และรักษาให้อยู่ในระดับที่ยอมรับได้) ในหน่วยนี้ คุณจะได้เรียนรู้เกี่ยวกับความเสี่ยงเฉพาะของ AI ผลกระทบทางธุรกิจ และวิธีการบรรเทาผลกระทบเชิงปฏิบัติ จุดมุ่งหมายไม่ใช่ "อย่าทำเพราะมีความเสี่ยง" หรือ "ทำเหมือนไม่มีความเสี่ยง"; คือการดำเนินการทุกความคิดริเริ่มโดยคำนึงถึงความเสี่ยงที่ยอมรับได้ ระดับความเสี่ยงที่สถาบันยินดีรับ
ความเสี่ยงเฉพาะของ AI
ความเสี่ยงด้านไอทีแบบดั้งเดิม (ช่องโหว่ การหยุดทำงาน) ยังคงเกิดขึ้น แต่ปัญญาประดิษฐ์กลับเพิ่มความเสี่ยงในตัวเอง:
ประเภทความเสี่ยง
คุณหมายถึงอะไร?
ตัวอย่างผลกระทบทางธุรกิจ
ภาพหลอน
มันถูกสร้างขึ้นมาแต่กลับกลายเป็นว่าน่าเชื่อถือ
ข้อมูลไม่ถูกต้องต่อลูกค้า ความรับผิดทางกฎหมาย
อคติ
ภาพสะท้อนของความอยุติธรรมในข้อมูลที่ส่งออก
การตัดสินใจเลือกปฏิบัติในการจ้างงาน/เครดิต
ข้อมูลรั่วไหล
ข้อมูลลับรั่วไหลเข้าสู่ตัวรถ
การละเมิด KVKK การสูญเสียชื่อเสียง
โมเดลดริฟท์
ประสิทธิภาพลดลงเมื่อเวลาผ่านไป
การพลิกการตัดสินใจอย่างเงียบๆ
ติดยาเสพติด
ล็อคเป็นซัพพลายเออร์รายเดียว
ราคา/การเข้าถึงช็อต
อธิบายไม่ได้
ไม่ทราบเหตุผลในการตัดสินใจ
ความยากลำบากในการตรวจสอบและการคัดค้าน
คำสองคำมีความสำคัญที่นี่: อคติคือการที่ปัญญาประดิษฐ์เรียนรู้รูปแบบที่ไม่ยุติธรรมในข้อมูลการฝึกอบรมและสะท้อนให้เห็นในการตัดสินใจ ตัวอย่างเช่น หากข้อมูลการจ้างงานในอดีตเป็นประโยชน์ต่อกลุ่มใดกลุ่มหนึ่ง โมเดลก็จะเป็นเช่นนั้นเช่นกัน การเคลื่อนตัวของโมเดลคือการที่โมเดลล้าสมัยและประสิทธิภาพของโมเดลลดลงอย่างเงียบๆ เมื่อโลกเปลี่ยนแปลง (ผลิตภัณฑ์ใหม่ พฤติกรรมใหม่)
เคล็ดลับ: คิดว่าความเสี่ยงไม่ใช่ในแง่ของ "อาจจะ/จะไม่เกิดขึ้น" แต่ให้คิดถึงในสองมิติ: ความน่าจะเป็น (แนวโน้ม) และผลกระทบ (ความเสียหายจะมากน้อยเพียงใดหากเกิดขึ้น) ประเด็นที่มีผลกระทบสูง + มีความเป็นไปได้สูงได้รับการแก้ไขก่อน ผู้ที่มีค่าต่ำ+ต่ำจะได้รับการยอมรับและติดตาม
การเฝ้าระวังตามระดับความเสี่ยง
พื้นที่การใช้งานแต่ละพื้นที่มีความเสี่ยงไม่เหมือนกัน แนวทางที่ชาญฉลาดคือการปรับแต่งการเฝ้าระวังให้สอดคล้องกับระดับความเสี่ยง:
- ความเสี่ยงต่ำ (แทรกร่าง การระดมความคิด): การควบคุมดูแลเล็กน้อย ลำดับความสำคัญความเร็ว
- ความเสี่ยงปานกลาง (เนื้อหาสำหรับลูกค้า การสนับสนุนการตัดสินใจ): การอนุมัติจากมนุษย์ การควบคุมการสุ่มตัวอย่าง
- ความเสี่ยงสูง (เครดิต การสรรหาบุคลากร สุขภาพ กฎหมาย): การบังคับใช้วิจารณญาณของมนุษย์ การลงทะเบียนเต็มรูปแบบ การตรวจสอบเป็นประจำ
แนวทาง "ตามความเสี่ยง" นี้เป็นหัวใจสำคัญของกฎหมาย AI ของสหภาพยุโรป (หน่วยที่ 9)
ทีละขั้นตอน: วงจรการบริหารความเสี่ยง
1. ตระหนักถึงความเสี่ยง แสดงรายการความเสี่ยงเฉพาะของ AI สำหรับแต่ละโครงการริเริ่ม
2. คะแนนความน่าจะเป็นและผลกระทบ ประเมินและจัดลำดับความสำคัญความเสี่ยงแต่ละด้านในสองมิติ
3. กำหนดมาตรการบรรเทาผลกระทบ เช่นการอนุมัติของมนุษย์ การทำให้ข้อมูลไม่ระบุชื่อ การติดตาม การกระจายซัพพลายเออร์
4. ยอมรับหรือหยุดความเสี่ยงที่เหลืออยู่ ความเสี่ยงที่เหลืออยู่หลังจากการลดลงนั้นเป็นที่ยอมรับหากอยู่ในความอยากอาหาร ถ้าไม่เช่นนั้น ความพยายามจะหยุดลง
5. ดูและทบทวน ความเสี่ยงไม่คงที่ การติดตามการเคลื่อนตัวและภัยคุกคามใหม่ๆ อย่างต่อเนื่องถือเป็นสิ่งสำคัญ
มินิเคสสามอัน
กรณีที่ 1 — ต้นทุนของอาการประสาทหลอน แชทบอทของลูกค้าของสายการบิน "สร้าง" นโยบายการคืนเงินที่ไม่มีอยู่จริงสำหรับผู้โดยสาร ลูกค้าเชื่อถือสิ่งนี้และทำธุรกรรม ศาลกำหนดให้บริษัทต้องรับผิดชอบต่อการประกาศของบอทของตนเอง บทเรียน: เอาท์พุต AI ให้กับลูกค้ามีความเสี่ยงปานกลาง/สูง การตรวจสอบและข้อจำกัดถือเป็นสิ่งสำคัญ บอทถูกจำกัดให้ตอบสนองจากข้อความนโยบายที่ได้รับอนุมัติเท่านั้น
กรณีที่ 2 — อคติแบบเงียบๆ รูปแบบการคัดกรองการจ้างงานของบริษัทแห่งหนึ่งได้รับการตอบรับอย่างเป็นระบบจากโรงเรียนบางแห่ง เนื่องจากข้อมูลในอดีตไม่สมดุล ความแตกต่างถูกเปิดเผยในการตรวจสอบ มีความเสี่ยงด้านชื่อเสียงและทางกฎหมาย แบบจำลองนี้แยกออกจากลักษณะที่ได้รับการคุ้มครองและเชื่อมโยงกับการติดตามความยุติธรรมเป็นประจำ ถ้าทำการทดสอบอคติตั้งแต่แรก สิ่งนี้คงไม่เกิดขึ้น
กรณีที่ 3 — การจับกุมดริฟท์ รูปแบบการตรวจจับการฉ้อโกงของธนาคารอ่อนแอลงอย่างเงียบๆ เมื่อมีรูปแบบการฉ้อโกงรูปแบบใหม่เกิดขึ้น อัตราพลาดเพิ่มขึ้นจาก 8% เป็น 19% ใน 3 เดือน ข่าวดี: หน่วยงานได้ดำเนินการตรวจสอบประสิทธิภาพทุกเดือน มีการตรวจพบการเบี่ยงเบนตั้งแต่เนิ่นๆ และแบบจำลองได้รับการฝึกอบรมใหม่ หากไม่มีการติดตามผล ความสูญเสียก็จะทวีคูณ
เทมเพลตที่สามารถคัดลอกได้สี่แบบ
1) รายการความเสี่ยง:
บทบาทของคุณ: ผู้จัดการความเสี่ยง AI แสดงรายการความเสี่ยงเฉพาะของ AI สำหรับกรณีการใช้งานต่อไปนี้: อาการประสาทหลอน อคติ การรั่วไหลของข้อมูล การเบี่ยงเบน การพึ่งพาอาศัยกัน ไม่สามารถอธิบายได้ สำหรับความเสี่ยงแต่ละอย่าง ให้เขียนหนึ่งประโยคถึงลักษณะที่เป็นไปได้และผลกระทบทางธุรกิจในสถานการณ์นี้ พื้นที่ใช้งาน: [ข้อความ]
2) การให้คะแนนความน่าจะเป็น/ผลกระทบ:
จัดลำดับความสำคัญของความเสี่ยงต่อไปนี้โดยการให้คะแนนและคูณความน่าจะเป็น (1-5) และผลกระทบ (1-5) อธิบายว่าเหตุใดคุณจึงจัดลำดับความสำคัญความเสี่ยงสามอันดับแรก ความเสี่ยง: [รายการ]
3) แผนการบรรเทาผลกระทบ:
เสนอมาตรการบรรเทาผลกระทบเชิงปฏิบัติสำหรับความเสี่ยงที่มีลำดับความสำคัญต่อไปนี้: [ความเสี่ยง] สำหรับแต่ละมาตรการ: จะทำอย่างไร ใครเป็นผู้รับผิดชอบ ระดับความเสี่ยงที่จำเป็น ใช้การเฝ้าระวังโดยมนุษย์ การทำให้ข้อมูลไม่ระบุชื่อ การตรวจสอบ และการกระจายซัพพลายเออร์ตามความเหมาะสม
4) เมทริกซ์การเฝ้าระวังตามความเสี่ยง:
กำหนดพื้นที่การใช้งานต่อไปนี้ให้กับระดับความเสี่ยง (ต่ำ/กลาง/สูง) และกำหนดการกำกับดูแลที่จำเป็นสำหรับแต่ละระดับ: จำเป็นต้องได้รับการอนุมัติจากมนุษย์หรือไม่ จะบันทึกหรือไม่ ความถี่ในการตรวจสอบคือเท่าใด ใช้: [รายการ]
พรอมต์อ่อน / พรอมต์แรง
จุดอ่อน: “โครงการ AI นี้มีความเสี่ยงอะไรบ้าง”
สรุป: รายการความเสี่ยงทั่วไป ความน่าจะเป็น ผลกระทบ และการไม่มีการบรรเทา คุณไม่สามารถตัดสินใจได้
Güçlü: "เราจะใช้ AI ในการประเมินเบื้องต้นของการขอสินเชื่อที่ธนาคาร (มนุษย์จะทำการตัดสินใจขั้นสุดท้าย) ระบุความเสี่ยงที่เฉพาะเจาะจงสำหรับสถานการณ์นี้ (อคติ อธิบายไม่ได้ ภาพหลอน ความเป็นส่วนตัวของข้อมูล) ให้คะแนนแต่ละรายการตามโอกาสและผลกระทบ เสนอแนะข้อกำหนดในการบรรเทาและกำกับดูแลที่เป็นรูปธรรมสำหรับสามสิ่งที่สำคัญที่สุด นอกจากนี้ ยังระบุด้วยว่าการปฏิบัติตามข้อกำหนดนี้ถือว่ามีความเสี่ยงสูงอย่างไร"
ผลลัพธ์: การวิเคราะห์ความเสี่ยงที่เกี่ยวข้องกับสถานการณ์ การให้คะแนน การบรรเทา และการปฏิบัติตามข้อกำหนดเฉพาะสถานการณ์
ข้อผิดพลาดทั่วไป
- ใช้การกำกับดูแลแบบเดียวกันกับความคิดริเริ่มทั้งหมด การชะลอการทำงานที่มีความเสี่ยงต่ำก็เป็นอันตรายพอๆ กับการละเลยงานที่มีความเสี่ยงสูง การเฝ้าระวังควรขึ้นอยู่กับระดับความเสี่ยง
- การเข้าใจผิดว่าภาพหลอนเป็น "ความผิดพลาดเล็กน้อย" ผลผลิตที่ไม่ถูกต้องให้กับลูกค้าอาจส่งผลให้เกิดความรับผิดทางกฎหมาย
- ไม่ใช่การทดสอบอคติ โมเดลที่ใช้งานโดยไม่มีการทดสอบความเป็นธรรมสามารถก่อให้เกิดการเลือกปฏิบัติโดยไม่เปิดเผยได้
- ไม่ได้ดูดริฟท์.. โมเดลที่ทำงานได้ดีเพียงครั้งเดียวจะไม่ทำงานได้ดีตลอดไป จำเป็นต้องมีการตรวจสอบอย่างต่อเนื่อง
- ล็อคซัพพลายเออร์รายเดียว หากไม่มีแผนการออก การเสพติดจะทำให้คุณเปิดรับราคาและเข้าถึงภาวะช็อกได้
ข้อควรระวัง: การบริหารความเสี่ยงไม่ใช่ครั้งเดียวและทุกครั้ง ระบบปัญญาประดิษฐ์เป็นระบบที่มีชีวิต เพียงเพราะว่าแบบจำลองปลอดภัยในวันนี้ไม่ได้รับประกันว่าพรุ่งนี้จะปลอดภัย การตรวจสอบอย่างต่อเนื่อง การตรวจสอบอย่างสม่ำเสมอ และ kill switch ที่ชัดเจนควรเป็นส่วนหนึ่งของระบบที่มีความเสี่ยงสูงทุกระบบ
โดยสรุป
นอกเหนือจากความเสี่ยงด้านไอทีแบบดั้งเดิมแล้ว AI ยังเพิ่มความเสี่ยงเฉพาะ เช่น อาการประสาทหลอน อคติ การรั่วไหลของข้อมูล การเบี่ยงเบน การพึ่งพา และอธิบายไม่ได้ ความเสี่ยงเหล่านี้ควรได้รับการประเมินและจัดลำดับความสำคัญในแง่ของความน่าจะเป็นและผลกระทบ และควรอยู่ภายใต้ความเสี่ยงที่ยอมรับได้ของสถาบันด้วยมาตรการบรรเทาผลกระทบ การเฝ้าระวังไม่สม่ำเสมอ แต่ควรปรับให้เข้ากับระดับความเสี่ยง ในการตัดสินใจที่มีความเสี่ยงสูง ผู้คนควรเป็นผู้ตัดสินใจขั้นสุดท้าย การบริหารความเสี่ยงเป็นวงจรที่ต่อเนื่อง จะไม่สมบูรณ์หากไม่มีการตรวจสอบและควบคุม ในบทถัดไป เราจะสร้างโครงสร้างการกำกับดูแลและนโยบายที่ทำให้วินัยต่อความเสี่ยงนี้เกิดขึ้นอย่างถาวร
งานสมัคร
เลือกกรณีการใช้งาน AI และแสดงรายการความเสี่ยงเฉพาะด้วยเทมเพลต 1 ให้คะแนนความเสี่ยงแต่ละอย่างตามแนวโน้มและผลกระทบ โดยระบุสามประเด็นที่สำคัญที่สุด เขียนมาตรการบรรเทาผลกระทบที่เป็นรูปธรรมและระดับการกำกับดูแลที่จำเป็นสำหรับความเสี่ยงทั้งสามนี้ สุดท้าย จำแนกการใช้งานเป็นความเสี่ยงต่ำ/ปานกลาง/สูง และสังเกตว่าสิ่งนี้เปลี่ยนแปลงข้อกำหนดการกำกับดูแลอย่างไร
รายการตรวจสอบ
- [ ] ฉันได้ระบุความเสี่ยงเฉพาะสำหรับสถานการณ์ปัญญาประดิษฐ์โดยเฉพาะ
- [ ] ฉันให้คะแนนความเสี่ยงแต่ละรายการตามความน่าจะเป็นและผลกระทบ
- [ ] ฉันได้กำหนดมาตรการบรรเทาความเสี่ยงที่สำคัญที่สุด
- [ ] ฉันได้จำแนกพื้นที่การใช้งานตามระดับความเสี่ยง
- [ ] ฉันปรับการเฝ้าระวังตามระดับความเสี่ยง
- [ ] ฉันวางแผนการทดสอบ/ติดตามอคติและการดริฟท์
- [ ] ฉันได้กำหนดอำนาจในการหยุดระบบที่มีความเสี่ยงสูงแล้ว