กำไร:
- ความสามารถในการอธิบายความปลอดภัยในการใช้งาน ISO 26262 และกรอบงาน ISO 21448 (SOTIF) และผลกระทบต่อระบบที่มีปัญญาประดิษฐ์
- ความสามารถในการจัดการความเป็นส่วนตัวของข้อมูล ข้อมูลผู้ขับขี่ ความปลอดภัยทางไซเบอร์ (ISO/SAE 21434) และความเสี่ยงด้านจริยธรรมในบริบทของยานยนต์
- ความสามารถในการรักษาความรับผิดชอบของมนุษย์ในการตัดสินใจที่มีความสำคัญด้านความปลอดภัย โดยทำความเข้าใจว่าเอาต์พุตของ AI ไม่สามารถทดแทนการอนุมัติของวิศวกรผู้มีความสามารถได้
คุณอยู่ในหน่วยที่สำคัญที่สุดของโมดูลนี้ จนถึงตอนนี้ เราได้เห็น AI เป็นตัวเร่งตั้งแต่การออกแบบไปจนถึงการผลิต ตั้งแต่การทดสอบไปจนถึงห่วงโซ่อุปทาน แต่คำถามชี้ขาดในวงการยานยนต์ก็คือ ระบบนี้จะเป็นอันตรายต่อใครหรือไม่ และใครจะเป็นผู้รับผิดชอบ หน่วยนี้ครอบคลุมกรอบงานการใช้ AI อย่างรับผิดชอบในอุตสาหกรรมที่มีความสำคัญด้านความปลอดภัยด้วยภาษาธรรมดา เช่น ความปลอดภัยในการใช้งาน SOTIF ความปลอดภัยทางไซเบอร์ ความเป็นส่วนตัว และจริยธรรม หลักการสำคัญยังคงที่: เอาท์พุตของ AI ไม่เคยแทนที่การอนุมัติของวิศวกรผู้มีความสามารถ การตัดสินใจและความรับผิดชอบที่มีความสำคัญต่อความปลอดภัยเป็นของมนุษย์
ISO 26262: ความปลอดภัยในการใช้งาน
ISO 26262 เป็นมาตรฐานด้านความปลอดภัยในการใช้งานสำหรับระบบไฟฟ้า/อิเล็กทรอนิกส์ของยานพาหนะบนท้องถนน ความปลอดภัยในการทำงาน เกี่ยวข้องกับการตรวจสอบให้แน่ใจว่าเมื่อระบบล้มเหลว (เซ็นเซอร์เสียหาย ซอฟต์แวร์ขัดข้อง) จะไม่นำไปสู่สถานการณ์ที่เป็นอันตราย
หัวใจสำคัญของมาตรฐานนี้คือ ASIL (Automotive Safety Integrity Level) อันตรายได้รับการประเมินในสามมิติ:
- Severity: จะเลวร้ายแค่ไหนหากเกิดขึ้น? (บาดเจ็บเล็กน้อยหรือเสียชีวิต)
- การสัมผัส: สิ่งนี้เกิดขึ้นบ่อยแค่ไหน?
- ความสามารถในการควบคุม: ผู้ขับขี่สามารถควบคุมสถานการณ์ได้มากเพียงใด
ทั้งสามค่ารวมกันส่งผลให้มีระดับจาก ASIL A (ต่ำสุด) ถึง ASIL D (สูงสุด เช่น การเบรก การบังคับเลี้ยว) เมื่อระดับเพิ่มขึ้น ข้อกำหนดด้านการพัฒนา การทดสอบ และเอกสารประกอบจะเข้มงวดมากขึ้น
หลัก
ระบบตัวอย่าง
ความเข้มข้นของความต้องการ
ก.
ไฟภายในรถทำงานผิดปกติ
ต่ำ
บี.
ไฟท้าย
ปานกลาง
ค.
ฟังก์ชั่น ADAS บางอย่าง
สูง
ดี.
เบรก พวงมาลัย ถุงลมนิรภัย
สูงสุด
เคล็ดลับ: การทราบระดับ MAIN ของฟังก์ชันจะบอกคุณว่าต้องใช้ AI ในฟังก์ชันนั้นมากเพียงใด ไม่สามารถยอมรับการตัดสินใจตามเอาต์พุต AI ในฟังก์ชันได้ หากไม่มีการตรวจสอบความปลอดภัยที่เป็นอิสระ
ISO 21448 (SOTIF): ความปลอดภัยของการทำงานที่ต้องการ
Classical Functional Safety (ISO 26262) มุ่งเน้นไปที่คำถาม "จะเกิดอะไรขึ้นหากระบบล้มเหลว" แต่มีปัญหาใหม่ในระบบตรวจจับปัญญาประดิษฐ์ แม้ว่าระบบจะไม่เคยทำงานผิดปกติแต่ก็อาจไม่เพียงพอ กล้องทำงานได้ดีแต่ไม่สามารถจดจำแผ่นหิมะได้ เรดาร์มีความนิ่ง แต่ไม่สนใจยานพาหนะที่อยู่นิ่งเป็นสัญญาณผี ไม่มีความล้มเหลวของฮาร์ดแวร์/ซอฟต์แวร์ที่นี่ ปัญหาอยู่ที่ขอบเขตของฟังก์ชันที่ต้องการ
ISO 21448 - SOTIF (Safety Of The Intention Functionality) จัดการกับช่องว่างนี้อย่างชัดเจน: การจัดการความเสี่ยงที่เกิดจากสถานการณ์ที่ไม่รู้จัก ขีดจำกัดการตรวจจับ และสถานการณ์ที่ไม่คาดฝัน แม้ว่าระบบจะทำงานตามที่ออกแบบไว้ก็ตาม ใน ADAS/การขับขี่อัตโนมัติที่ใช้ AI นั้น SOTIF มีความสำคัญเท่ากับ ISO 26262
กรอบ
โฟกัส
ตัวอย่าง
ISO26262
ความเสี่ยงเนื่องจากความล้มเหลว
เซ็นเซอร์พัง สัญญาณหายไป
ISO 21448 (โซติฟ)
ความเสี่ยงต่อความไม่เพียงพอ/การไม่รับรู้
กล้องที่ทนทานไม่รู้จักแผ่นหิมะ
ISO/SAE21434
ความปลอดภัยทางไซเบอร์
การโจมตีระบบ การจัดการข้อมูล
ข้อควรระวัง: โมเดล AI นั้นเป็นข้อมูลเชิงสถิติ พวกเขาไม่สามารถรับประกันได้ว่าพวกเขาจะ "เห็นทุกสถานการณ์อย่างถูกต้อง" SOTIF มุ่งหวังที่จะจำกัดสถานการณ์อันตรายที่ไม่รู้จักให้แคบลงในระบบที่มีข้อจำกัดโดยเนื้อแท้เหล่านี้ และลดความเสี่ยงที่เหลืออยู่ให้อยู่ในระดับที่ยอมรับได้ “แบบจำลองมีความแม่นยำ 99.9%” ไม่ใช่ข้อพิสูจน์ด้านความปลอดภัย
ISO/SAE 21434: ความปลอดภัยทางไซเบอร์
ยานพาหนะที่เชื่อมต่อและกำหนดโดยซอฟต์แวร์มีความเสี่ยงที่จะถูกโจมตีทางไซเบอร์ ผู้โจมตีจากระยะไกลสามารถเปลี่ยนคำสั่งเบรก ขโมยการวัดและส่งข้อมูลทางไกล หรือหลอกโมเดลการตรวจจับ (การโจมตีของฝ่ายตรงข้าม: ทำให้โมเดลจดจำโมเดลนั้นผิดโดยการวางสติกเกอร์ขนาดเล็กบนจาน) ISO/SAE 21434 เป็นกรอบงานทางวิศวกรรมสำหรับการรักษาความปลอดภัยทางไซเบอร์ของยานพาหนะ ในบริบทของปัญญาประดิษฐ์ มีความเสี่ยงสองประการที่โดดเด่น: การหลอกลวงแบบจำลอง (ฝ่ายตรงข้าม) และการวางยาพิษต่อข้อมูลการฝึกอบรม (การวางยาพิษของข้อมูล) ระบบ AI ที่มีความสำคัญต่อความปลอดภัยควรได้รับการทดสอบกับการโจมตีเหล่านี้
ความเป็นส่วนตัวและข้อมูลส่วนบุคคล
ยานพาหนะสมัยใหม่คือ "ศูนย์ข้อมูลบนล้อ": ตำแหน่ง พฤติกรรมการขับขี่ เครื่องเสียง แม้กระทั่งกล้องในห้องโดยสาร ข้อมูลส่วนใหญ่เป็นข้อมูลส่วนบุคคลและได้รับการคุ้มครองโดย KVKK (ตุรกี) และ GDPR (ยุโรป) VIN (หมายเลขแชสซี) สามารถระบุรถและเจ้าของรถทางอ้อมได้ หลักการพื้นฐาน:
- การลดขนาดข้อมูล: รวบรวมเฉพาะสิ่งที่จำเป็นเท่านั้น
- ข้อจำกัดวัตถุประสงค์: ห้ามใช้ข้อมูลเพื่อวัตถุประสงค์อื่นนอกเหนือจากวัตถุประสงค์ที่รวบรวมไว้
- การทำให้ไม่ระบุชื่อ/นามแฝง: ลบหรือเข้ารหัสข้อมูลที่ระบุตัวบุคคล
- ความยินยอมอย่างชัดเจนและความโปร่งใส: ผู้ขับขี่ต้องรู้ว่ามีอะไรถูกรวบรวม
- การจัดเก็บและถ่ายโอนที่ปลอดภัย
ข้อควรระวัง: การส่ง VIN แบบดิบ ประวัติตำแหน่ง หรือพฤติกรรมการขับรถไปยังเครื่องมือ AI บนคลาวด์สาธารณะ อาจเป็นทั้งการละเมิดความเป็นส่วนตัวและความเสี่ยงตามสัญญา เมื่อทำงานกับข้อมูลนี้ ให้ปิดบังข้อมูลนั้นและใช้สภาพแวดล้อมแบบสถาบันที่ได้รับการคุ้มครองข้อมูล
จรรยาบรรณและความรับผิดชอบของวิศวกร
ปัญญาประดิษฐ์นำมาซึ่งความเสี่ยงด้านจริยธรรม:
- อคติ: หากข้อมูลการฝึกอบรมมีอิทธิพลเหนือเงื่อนไขบางประการ (เช่น ในเวลากลางวัน ผิวที่มีสีสว่าง ถนนบางภูมิภาค) โมเดลอาจทำงานได้ไม่ดีในสภาวะที่มีการนำเสนอน้อยเกินไป (กลางคืน สภาวะที่แตกต่างกัน) นี่คือช่องโหว่
- ความมั่นใจมากเกินไป (อคติเกี่ยวกับระบบอัตโนมัติ): ผู้คนสุ่มสี่สุ่มห้าไว้วางใจระบบอัตโนมัติและแทนที่วิจารณญาณของตนเอง หากวิศวกรทดสอบหยุดดูข้อมูลดิบเพียงเพราะ AI บอกว่า "ผ่าน" ถือเป็นเทรนด์ที่อันตราย
- การสูญเสียความรับผิดชอบ: "แบบจำลองที่ตัดสินใจ" ไม่ใช่การป้องกัน ควรมีบุคคลที่ลงนามอยู่เบื้องหลังการตัดสินใจเสมอ
กรณีศึกษาขนาดเล็ก
กรณีที่ 1 - ขีดจำกัด SOTIF ระบบเบรกฉุกเฉินอัตโนมัติผ่านการทดสอบในห้องปฏิบัติการทั้งหมดโดยไม่มีการทำงานผิดปกติ ในทุ่งนา ท่ามกลางแสงแดดรำไร รถบรรทุกสีขาวคันหนึ่งพลาดท่ารถพ่วงเพราะว่าขึ้นฟ้าและเบรกช้า นี่ไม่ใช่ความผิดปกติ แต่เป็นช่องโหว่ของ SOTIF: ระบบไม่เสียหาย แต่สถานการณ์อยู่นอกขีดจำกัดการตรวจจับ ทีมงานเพิ่มสถานการณ์นี้ลงในคลังทดสอบและเสริมความแข็งแกร่งให้กับการรวมเรดาร์ สรุป: "ไม่มีความล้มเหลว" ไม่ใช่ข้อพิสูจน์ถึงความปลอดภัย ความไม่เพียงพอก็เป็นความเสี่ยงเช่นกัน
กรณีที่ 2 - ข้อมูลเอนเอียง โมเดลการตรวจจับคนเดินถนนได้รับการฝึกฝนโดยใช้ข้อมูลในเวลากลางวันเป็นส่วนใหญ่ การเรียกคืนตอนกลางคืนลดลงอย่างมาก ทีมจะปรับสมดุลและฝึกข้อมูลตอนกลางคืนและแสงน้อยอีกครั้ง และรายงานสถานการณ์ตอนกลางคืนแยกกัน สรุป: ข้อมูลที่ไม่สมดุลทำให้เกิดช่องโหว่ร้ายแรงในบางกรณี
กรณีที่ 3 - การป้องกันการละเมิดความเป็นส่วนตัว นักวิเคราะห์กำลังจะวางข้อมูลยานพาหนะลงในเครื่องมือ AI สาธารณะ เมื่อเขาสังเกตเห็นว่าข้อมูลนั้นมีตำแหน่ง VIN และ GPS แบบดิบ มันทำงานในสภาพแวดล้อมขององค์กรโดยไม่เปิดเผยข้อมูล (vehicle_01..arac_50 แทน VIN, รหัสภูมิภาคแทนตำแหน่ง) ผลลัพธ์: การให้ความสนใจชั่วครู่ช่วยป้องกันการละเมิด KVKK อย่างร้ายแรง
เทมเพลตพร้อมท์
เทมเพลต 1 - การประเมินก่อน/ความเสี่ยงเบื้องต้น (ร่าง):
บทบาท: คุณเป็นที่ปรึกษาด้านความปลอดภัยตามหน้าที่ ภารกิจ: เตรียมร่างเพื่อช่วยในการวิเคราะห์อันตรายและความเสี่ยงสำหรับหน้าที่ บริบท: ฟังก์ชั่น: การเบรกฉุกเฉินอัตโนมัติ; ในเมืองและระหว่างเมือง ข้อ จำกัด : การมอบหมายที่แน่นอนของ ASIL; แจกแจงคำถามและจุดสนใจเกี่ยวกับมิติของความรุนแรง/การสัมผัส/การควบคุม ระบุว่าการมอบหมายขั้นสุดท้ายเป็นของวิศวกรความปลอดภัยที่ได้รับอนุญาต ผลลัพธ์: ขนาด | คำถามประเมินผล | ตารางบันทึกความสนใจ
เทมเพลต 2 - การสแกนสถานการณ์ SOTIF:
บทบาท: คุณเป็นผู้เชี่ยวชาญ SOTIF งาน: แสดงรายการสถานการณ์ที่ฟังก์ชันการตรวจจับอาจเป็น 'ระบบสมบูรณ์แต่ไม่เพียงพอ' บริบท: กล้อง + เรดาร์; อาทิตย์ตก หิมะ ทางออกอุโมงค์ วัตถุแปลกตา ผลลัพธ์: สถานการณ์ | ทำไมจึงไม่เพียงพอ | คำแนะนำการลด
เทมเพลต 3 - การควบคุมความเป็นส่วนตัว:
บทบาท: คุณเป็นที่ปรึกษาด้านการปกป้องข้อมูล (KVKK/GDPR) งาน: ดำเนินการตรวจสอบความเป็นส่วนตัวก่อนแชร์ชุดข้อมูล บริบท: การตรวจวัดระยะไกลของกองเรือ; คอลัมน์ประกอบด้วย VIN, GPS, คะแนนการขับขี่ ข้อจำกัด: ช่องใดที่เป็นข้อมูลส่วนบุคคล ควรปกปิดข้อมูลอย่างไร สิ่งใดที่ฉันไม่ควรแชร์เลย sort.Output: สนาม | ความเสี่ยง | แผนภูมิธุรกรรมที่แนะนำ
เทมเพลต 4 - การตรวจสอบอคติ:
บทบาท: คุณเป็นผู้ตรวจสอบความปลอดภัยและความเป็นธรรมของ ML ภารกิจ: บอกวิธีค้นหาความเสี่ยงของการเกิดอคติในแบบจำลองการตรวจจับ บริบท: การตรวจจับคนเดินถนน; ข้อมูลการฝึกอบรม วัน/เมือง ถ่วงน้ำหนัก ผลลัพธ์: เงื่อนไขที่ต้องตรวจสอบ | การวัด | สัญญาณความเสี่ยง
พรอมต์อ่อน / พรอมต์แข็งแกร่ง
พรอมต์ที่อ่อนแอ:
ระบบเบรกอัตโนมัตินี้ปลอดภัยหรือไม่ โปรดยืนยัน
การพยายามรับการรักษาความปลอดภัยจาก AI เป็นสิ่งที่อันตราย การอนุมัติเป็นของวิศวกรผู้มีอำนาจ
พรอมต์อันทรงพลัง:
บทบาท: คุณเป็นที่ปรึกษาด้านความปลอดภัยในการทำงานและเป็นที่ปรึกษาของ SOTIF ภารกิจ: ระบุคำถามที่ฉันควรถามและหลักฐานใดที่ฉันควรรวบรวมในการประเมินความปลอดภัยของฟังก์ชันเบรกอัตโนมัติ บริบท: การตรวจจับด้วย AI; กล้อง+เรดาร์; ASIL อาจสูงได้ ข้อจำกัด: 'อนุมัติ' ระบบ; จัดทำรายการคำถามและหลักฐานแยกกันในแง่ของ ISO 26262 (ข้อบกพร่อง) และ SOTIF (ข้อบกพร่อง) เน้นย้ำว่าการอนุมัติขั้นสุดท้ายขึ้นอยู่กับวิศวกรความปลอดภัยที่ได้รับอนุญาต ผลลัพธ์: กรอบงาน | คำถาม | ตารางหลักฐานที่ต้องการ
ข้อผิดพลาดทั่วไป
- สับสนระหว่าง "ไม่มีความผิดปกติ" กับ "ปลอดภัย" การขาด SOTIF สามารถฆ่าได้โดยไม่ทำงานผิดปกติ
- รับการกวาดล้างความปลอดภัยของ AI การอนุมัติและความรับผิดชอบขึ้นอยู่กับวิศวกรผู้มีอำนาจ
- การเข้าใจผิดว่าโมเดลมีความถูกต้องเป็นข้อพิสูจน์ด้านความปลอดภัย ความแม่นยำ 99.9% ไม่ได้บ่งชี้ว่ามีการจัดการความเสี่ยงที่เหลืออยู่แล้ว
- ไม่ปกป้องข้อมูลส่วนบุคคล VIN/สถานที่/พฤติกรรมการขับขี่อยู่ภายในขอบเขตของ KVKK/GDPR
- ละเลยอคติและความมั่นใจมากเกินไป ข้อมูลที่ไม่สมดุลและความไว้วางใจในระบบอัตโนมัติถือเป็นช่องโหว่
โดยสรุป
- ISO 26262 จัดการความเสี่ยงเนื่องจากความล้มเหลว (ด้วย ASIL) ในขณะที่ ISO 21448/SOTIF จัดการความเสี่ยงของความล้มเหลวโดยไม่มีความล้มเหลว ทั้งสองมีความสำคัญอย่างยิ่งในการตรวจจับ AI
- ความปลอดภัยทางไซเบอร์ ISO/SAE 21434; การโจมตีฝ่ายตรงข้ามและข้อมูลเป็นพิษเป็นภัยคุกคามเฉพาะของ AI
- การลดขนาดข้อมูล การจำกัดวัตถุประสงค์ และการลบข้อมูลระบุตัวตน ถือเป็นข้อบังคับภายในขอบเขตของ KVKK/GDPR VIN/สถานที่เป็นข้อมูลส่วนบุคคล
- อคติ ความมั่นใจมากเกินไป และการสูญเสียความรับผิดชอบเป็นความเสี่ยงหลักด้านจริยธรรม
- เอาต์พุต AI ไม่สามารถทดแทนการอนุมัติของวิศวกรที่มีคุณสมบัติเหมาะสมได้ การตัดสินใจและลายเซ็นที่มีความสำคัญต่อความปลอดภัยจะเป็นของบุคคลนั้นเสมอ
งานสมัคร
เลือกฟังก์ชันที่เกี่ยวข้องกับความปลอดภัย (เช่น การรักษาช่องทางเดินรถ) (1) อภิปรายว่าทำไมระดับ ASIL ของฟังก์ชันนี้อาจสูง/ต่ำตามมิติความรุนแรง/การสัมผัส/การควบคุม (2) สร้าง 5 สถานการณ์ “ระบบที่แข็งแกร่งแต่ไม่เพียงพอ” ด้วยเทมเพลต 2 (3) การตรวจสอบชุดข้อมูลที่เกี่ยวข้องกับการรักษาความลับด้วยเทมเพลต 3 (4) อธิบายว่าเหตุใดการพูดว่า “แบบจำลองที่ยืนยัน” จึงไม่ใช่การป้องกัน
รายการตรวจสอบ
- [ ] ฉันประเมินขนาดจริงของฟังก์ชัน (ฉันทิ้งการกำหนดที่แน่นอนให้กับผู้มีอำนาจ)
- [ ] ฉันสร้างความแตกต่างระหว่าง ISO 26262 (ทำงานผิดปกติ) และ SOTIF (ไม่เพียงพอ)
- [ ] ฉันได้คำนึงถึงความเสี่ยงด้านความปลอดภัยทางไซเบอร์ (ศัตรู/พิษ) แล้ว
- [ ] ฉันไม่เปิดเผยตัวตนและลดข้อมูลส่วนบุคคลให้เหลือน้อยที่สุด
- [ ] ฉันตรวจสอบความเสี่ยงของการมีอคติและความมั่นใจมากเกินไป
- [ ] ฉันขอยืนยันว่าการตรวจสอบความปลอดภัยเป็นของวิศวกรที่มีคุณสมบัติเหมาะสม