กำไร:
- ทำความเข้าใจหลักการของ SMS และวัฒนธรรมที่ยุติธรรม และใช้ปัญญาประดิษฐ์เพื่อการวิเคราะห์แนวโน้มและการร่างรายงานที่มุ่งเน้นระบบในการแจ้งเตือนด้านความปลอดภัย
- ความสามารถในการเชื่อมโยงปัจจัย Dirty Dozen โดยเฉพาะอย่างยิ่งความพึงพอใจและความลำเอียงของระบบอัตโนมัติ กับการใช้ปัญญาประดิษฐ์และจัดการสิ่งเหล่านี้เป็นเกราะกำบัง
- การทำความเข้าใจว่าข้อมูลความปลอดภัยไม่ควรเปิดเผยชื่อ และการตัดสินใจ/สัญชาตญาณ/ลายเซ็นยังคงเป็นของมนุษย์
ความปลอดภัยในการบินไม่เพียงเกิดขึ้นได้โดยการขันโบลต์ด้านขวาให้แน่นด้วยแรงบิดที่เหมาะสมเท่านั้น สามารถทำได้ผ่านวัฒนธรรมที่ควบคุมวิธีการทำงาน ในหน่วยนี้ คุณจะได้เรียนรู้วิธีการใช้ปัญญาประดิษฐ์ (AI) ในด้านการจัดการคุณภาพ ระบบการจัดการความปลอดภัย (SMS) และปัจจัยมนุษย์ แต่เราจะหารือกันว่าทำไมวิจารณญาณของมนุษย์จึงควรเป็นศูนย์กลางของวัฒนธรรมความปลอดภัยเสมอ
SMS และวัฒนธรรมการรายงาน
SMS (ระบบการจัดการความปลอดภัย) เป็นแนวทางที่เป็นระบบโดยอาศัยการตรวจจับอันตรายและจัดการความเสี่ยงในเชิงรุก หัวใจสำคัญของมันคือวัฒนธรรม (แนวทางที่บุคคลที่รายงานข้อผิดพลาดอย่างตรงไปตรงมาจะไม่ถูกลงโทษ และความประมาทเลินเล่อ/ความตั้งใจ และข้อผิดพลาดจะถูกแยกออกจากกัน) และการรายงานอันตราย ระบบรักษาความปลอดภัยจะทำงานก็ต่อเมื่อมีคนรายงานโดยไม่ต้องกลัว
AI เป็นตัวช่วยอันทรงคุณค่าที่นี่ แต่ต้องมีความสมดุลที่ละเอียดอ่อน การใช้งานที่เป็นประโยชน์:
- จำแนกประเภทและแจ้งเตือนแนวโน้ม: จัดกลุ่มธีมที่เกิดซ้ำ ส่วน ATA เงื่อนไขในการแจ้งเตือนด้านความปลอดภัย/คุณภาพหลายร้อยรายการ
- ร่างรายงาน: การแปลข้อเท็จจริงของเหตุการณ์ให้เป็นรายงานที่มีโครงสร้าง (ด้วยภาษาที่ตรวจสอบกระบวนการ ไม่ใช่ตัวบุคคล)
- อำนวยความสะดวกในการวิเคราะห์สาเหตุที่แท้จริง: การสร้างคำถามสำหรับ "5 ทำไม" หรือการวิเคราะห์อุปสรรค
- ร่างรายการตรวจสอบการตรวจสอบคุณภาพ
- สรุปบทเรียน : รวบรวมบทเรียนที่เกิดซ้ำจากเหตุการณ์ในอดีต
ข้อควรระวัง: การแจ้งเตือนด้านความปลอดภัยมักเป็นข้อมูลส่วนบุคคลและข้อมูลที่ละเอียดอ่อน นโยบายการไม่เปิดเผยตัวตนและข้อมูลองค์กรถือเป็นสิ่งสำคัญเมื่อวิเคราะห์ด้วย AI นอกจากนี้ AI ไม่ควรได้รับอนุญาตให้ติดป้ายเหตุการณ์ว่าเป็น "ความผิดของใคร" วัตถุประสงค์ของ SMS ไม่ใช่เพื่อค้นหาอาชญากร แต่เพื่อแก้ไขระบบ AI ที่ใช้ไม่ถูกต้องสามารถทำลายวัฒนธรรมได้
Dirty Dozen: 12 สาเหตุของข้อผิดพลาดของมนุษย์
ปัจจัยมนุษย์ในการบำรุงรักษาแบบคลาสสิกคือรายการ Dirty Dozen ของ Gordon Dupont - ปัจจัยมนุษย์ทั่วไป 12 ประการที่นำไปสู่ความล้มเหลวในการบำรุงรักษา ได้แก่ การขาดการสื่อสาร ความพึงพอใจ การขาดความรู้ ความฟุ้งซ่าน ขาดการทำงานเป็นทีม ความเหนื่อยล้า ขาดทรัพยากร ความกดดัน ขาดความกล้าแสดงออก ความเครียด ขาดความตระหนักรู้ บรรทัดฐาน (นิสัยที่วางผิดที่)
การเชื่อมโยงที่สำคัญที่สุดเกี่ยวกับ AI ที่นี่คือความสัมพันธ์ระหว่างความพึงพอใจ (ความมั่นใจมากเกินไป/ความพึงพอใจ) และอคติของระบบอัตโนมัติ (ความมั่นใจมากเกินไปในระบบอัตโนมัติ - การยอมรับว่าเป็นความจริงเพียงเพราะระบบบอกว่ามัน) ผลลัพธ์ที่ลื่นไหลและมั่นใจของ AI สามารถสร้างความพึงพอใจได้อย่างแม่นยำ แนวคิดที่ว่า "นั่นคือสิ่งที่ระบบบอก ไม่ต้องตรวจสอบ" ถือเป็น Dirty Dozen เวอร์ชันทันสมัย
เคล็ดลับ: ตั้งค่าการใช้งาน AI เพื่อเป็นเกราะป้องกัน Dirty Dozen ไม่ใช่เป็นตัวกระตุ้น: เป็นการดีที่จะมีรายการตรวจสอบเตือนเมื่อสิ้นสุดกะที่เหนื่อยล้า แต่การละเลยการตรวจร่างกายโดยพูดว่า "AI ดูแล้ว" ถือเป็นความพึงพอใจนั่นเอง เครื่องมือนี้ควรเพิ่มความสนใจของคุณ ไม่ใช่ทำให้มึนงง
ความกล้าแสดงออกและ AI
"การขาดความกล้าแสดงออก" ใน Dirty Dozen คือการที่ช่างเทคนิคไม่สามารถพูดสิ่งที่เขาเห็นว่าผิดได้ สิ่งที่น่าสนใจคือ AI มีผลสองทางที่นี่ แง่บวก: ช่างเทคนิคสามารถใช้ AI เพื่อจัดโครงสร้างข้อกังวลของเขาและร่าง “ฉันจะพูดสิ่งนี้ได้อย่างไร” เชิงลบ: น้ำเสียงเผด็จการของ AI สามารถนำมนุษย์ไประงับสัญชาตญาณที่แท้จริงของตนเองได้ ความสมดุลที่เหมาะสม: AI คืออินพุต สัญชาตญาณและการสังเกตอย่างมืออาชีพของคุณคือผู้มีอำนาจตัดสินใจ ความรู้สึกของคุณว่า "มีบางอย่างผิดปกติ" จะต้องเกินดุลที่ AI ส่งออก "ทุกอย่างเป็นปกติ" - หยุดและมอง
มินิเคสสามอัน
กรณีที่ 1 — การวิเคราะห์แนวโน้มพบข้อผิดพลาดที่เกิดขึ้นซ้ำๆ เมื่อการแจ้งเตือนคุณภาพรายหกเดือนถูกจัดกลุ่มตาม YZ (ไม่ระบุชื่อ) ธีมที่เกิดซ้ำของ "ตัวยึดที่ติดตั้งไม่ถูกต้อง" มีความโดดเด่นสำหรับแผงประเภทใดประเภทหนึ่งโดยเฉพาะ ทีมงานคุณภาพได้ค้นหาสาเหตุที่แท้จริง: ขั้นตอนในการ์ดงานไม่ชัดเจน บัตรได้รับการชี้แจงแล้ว แหล่งที่มาของข้อผิดพลาดที่เกิดซ้ำได้ถูกปิดอย่างเป็นระบบ
กรณีที่ 2 — ตรวจพบกับดักอคติอัตโนมัติ ในกะกลางคืนที่เหนื่อยล้า ช่างเทคนิคต้องการข้ามการตรวจสอบด้วยสายตาโดยอิงตามข้อมูลสรุปของ AI ว่า "การตรวจสอบนี้ดูปกติ" หัวหน้าทีมกล่าวแทรกว่า AI ได้สรุปข้อมูลแล้วแต่ยังไม่เห็นชิ้นส่วน การตรวจร่างกายพบร่องรอยการรั่วไหลเล็กน้อย ความพึงพอใจถูกทำลายโดยการแทรกแซงของมนุษย์
กรณีที่ 3 — การสนับสนุนการกล้าแสดงออก ช่างเทคนิคหนุ่มคนหนึ่งคิดว่าแผนนั้นไม่สมจริงแต่ไม่รู้จะพูดอย่างไร เมื่อใช้ AI เขาจัดโครงสร้างข้อกังวลของเขาด้วยภาษาที่เป็นจริงและแสดงความเคารพ: “งานนั้นไม่สามารถทำให้สำเร็จได้อย่างปลอดภัยในเวลาที่กำหนดเนื่องจากข้อกำหนดเบื้องต้นนั้น” พิจารณาข้อโต้แย้งที่มีโครงสร้างแล้ว ขั้นตอนที่จะถูกข้ามภายใต้ความกดดันยังคงอยู่
เทมเพลตที่สามารถคัดลอกได้สี่แบบ
บทบาท: ตัววิเคราะห์แนวโน้มการแจ้งเตือนด้านความปลอดภัย (พร้อมข้อมูลที่ไม่ระบุชื่อ) งาน: จัดกลุ่มธีมที่เกิดซ้ำ ส่วน ATA และเงื่อนไขในการแจ้งเตือนที่ไม่ระบุชื่อต่อไปนี้ กฎ: ตำหนิบุคคล; อย่าติดป้ายว่า “เป็นความผิดของใคร”; มุ่งเน้นไปที่รูปแบบที่เป็นระบบ การแจ้งเตือน: [ข้อมูลที่ไม่ระบุชื่อ]
บทบาท: ผู้ช่วยร่างรายงานเหตุการณ์ (เฉพาะภาษาวัฒนธรรม) ภารกิจ: ร่างรายงานเหตุการณ์จากข้อเท็จจริงต่อไปนี้ โดยตรวจสอบกระบวนการ ไม่ใช่ตัวบุคคล กฎ: อย่าใช้คำคุณศัพท์ที่กล่าวหา ใช้โครงสร้าง "เกิดอะไรขึ้น สถานการณ์อะไร อุปสรรคใดหายไป" ข้อเท็จจริง: [ข้อมูลเหตุการณ์]
บทบาท: ผู้อำนวยความสะดวกที่ต้นเหตุ (5 ทำไม) ภารกิจ: สร้างคำถาม "ทำไม 5 ข้อ" สำหรับเหตุการณ์ต่อไปนี้ และตั้งคำถามว่าแต่ละคำตอบบ่งชี้ถึงจุดอ่อนเชิงระบบหรือไม่ กฎ: ฉันให้คำตอบ คุณสร้างคำถามที่ถูกต้อง อ้างถึงกระบวนการไม่ใช่การตำหนิส่วนบุคคล เหตุการณ์: [สรุป]
บทบาท: ช่วยแสดงออกถึงความกล้าแสดงออก วัตถุประสงค์: แนะนำโครงสร้างประโยคให้ฉันเพื่อแสดงความกังวลด้านล่างด้วยภาษาที่เป็นจริง ให้ความเคารพ และชัดเจน กฎเกณฑ์: อย่าใช้อารมณ์/กล่าวหา เน้นเหตุผลด้านความปลอดภัย ข้อกังวล: [ข้อกังวลทางเทคนิค]
พรอมต์อ่อน / พรอมต์แรง
อ่อนแอ: “เหตุการณ์นี้ใครผิดเขียนรายงาน”
กรอบการแสวงหาผู้กระทำผิดบ่อนทำลายวัฒนธรรมและปิดบังสาเหตุที่แท้จริงของระบบ
แข็งแกร่ง: "เขียนร่างรายงานเหตุการณ์จากข้อเท็จจริงต่อไปนี้ อย่าตำหนิบุคคลนั้น ใช้โครงสร้าง 'สิ่งที่เกิดขึ้น สถานการณ์ใดที่มีอยู่ สิ่งใดที่กีดขวางหายไป สิ่งใดที่สามารถแก้ไขได้อย่างเป็นระบบ' ข้อมูลไม่ระบุชื่อ อย่าเพิ่มข้อมูลส่วนบุคคล"
การแจ้งเตือนนี้จะเปลี่ยนโฟกัสจากบุคคลหนึ่งไปยังอีกระบบ จากการลงโทษไปสู่การเรียนรู้
ตาราง: การโต้ตอบ Dirty Dozen และ AI
ปัจจัย
ความเสี่ยงจากเอไอ
การใช้ AI อย่างเหมาะสม
ความพึงพอใจ
"ดูแล้ว" ความพึงพอใจ
การแจ้งเตือนรายการตรวจสอบ
อคติอัตโนมัติ
เชื่อใจผลลัพธ์อย่างสุ่มสี่สุ่มห้า
ใช้เป็นอินพุต ยืนยัน
ขาดการสื่อสาร
การถ่ายโอนข้อมูลสรุปไม่ถูกต้อง
กำหนดค่าการหมุนเวียน
ขาดความกล้าแสดงออก
น้ำเสียงเผด็จการระงับ
ช่วยแสดงความวิตกกังวล
ความเหนื่อยล้า
ทางลัดในช่วงเวลาวิกฤติ
อย่าเตือนขั้นตอน ฝากลายเซ็นไว้กับบุคคลนั้น
ข้อผิดพลาดทั่วไป
- ทำให้ AI ถามคำถามว่า ใครผิด? แค่ทำลายวัฒนธรรม
- วิเคราะห์การแจ้งเตือนที่ละเอียดอ่อนโดยไม่เปิดเผยตัวตน การละเมิดความเป็นส่วนตัว
- ตกอยู่ในอคติของระบบอัตโนมัติ “ระบบบอกว่า” ไม่ได้แทนที่การตรวจร่างกาย
- เสียสละสัญชาตญาณของตัวเองกับน้ำเสียงของ AI ใส่ใจกับความรู้สึกของ "มีบางอย่างผิดปกติ"
- การใช้ AI เพื่อทางลัดภายใต้ความกดดัน รถเร่งความเร็วแต่ไม่ข้ามก้าว
โดยสรุป
ความปลอดภัยเป็นวัฒนธรรมและการตัดสินของมนุษย์เป็นหัวใจสำคัญ AI เป็นตัวช่วยที่มีคุณค่าในการดึงแนวโน้มจากการแจ้งเตือนด้านความปลอดภัย/คุณภาพ การร่างรายงานตามวัฒนธรรมที่ยุติธรรม และการวิเคราะห์สาเหตุที่แท้จริง แต่ความเสี่ยงที่ใหญ่ที่สุดก็คือความลื่นไหลของ AI ทำให้เกิดความพึงพอใจและความลำเอียงของระบบอัตโนมัติ สร้าง AI เพื่อเป็นเกราะป้องกัน Dirty Dozen: เพิ่มความสนใจของคุณ ไม่ใช่ทำให้มึนงง ปล่อยให้การตัดสินใจ สัญชาตญาณ และลายเซ็นต์เป็นของบุคคลนั้น
งานสมัคร
รับ (หรือแก้ไข) การแจ้งเตือนด้านคุณภาพ/ความปลอดภัยแบบไม่ระบุชื่อบางส่วน ด้วยเทมเพลตแรก ขอให้ AI วิเคราะห์เทรนด์ แล้วถามตัวเองว่า AI พบธีมไหน พลาดอันไหน หลุดไปกระทบถึง "ใครผิด" บ้าง? เขียนข้อเสนอ "การปรับปรุงอย่างเป็นระบบ" และตรวจสอบว่าสอดคล้องกับหลักการวัฒนธรรมที่ยุติธรรม
รายการตรวจสอบ
- [ ] ฉันได้ทำให้ข้อมูลความปลอดภัยเป็นนิรนามและปฏิบัติตามนโยบายข้อมูล
- [ ] ฉันใช้ AI ในกรอบงานการกำหนดระบบ ไม่ใช่กรอบงานการค้นหาอาชญากร
- [ ] ฉันไม่ได้ข้ามการตรวจร่างกายเพื่อป้องกันอคติของระบบอัตโนมัติ
- [ ] ฉันวางสัญชาตญาณ "มีบางอย่างผิดปกติ" ไว้เหนือเอาต์พุต AI
- [ ] ฉันเก็บภาษาวัฒนธรรมที่เป็นธรรมไว้ในรายงาน
- [ ] ฉันฝากการตัดสินใจ การตีความ และลายเซ็นไว้กับบุคคลนั้น