Lợi nhuận:
- Khả năng giải thích các khuôn khổ bảo mật chức năng ISO 26262 và ISO 21448 (SOTIF) cũng như tác động của chúng đối với các hệ thống chứa trí tuệ nhân tạo
- Khả năng quản lý quyền riêng tư dữ liệu, dữ liệu trình điều khiển, an ninh mạng (ISO/SAE 21434) và rủi ro đạo đức trong bối cảnh ô tô
- Khả năng duy trì trách nhiệm của con người đối với các quyết định quan trọng về an toàn bằng cách hiểu rằng kết quả đầu ra của AI không thể thay thế cho sự phê duyệt của kỹ sư có thẩm quyền
Bạn đang ở phần quan trọng nhất của mô-đun này. Cho đến nay, chúng ta đã coi AI như một công cụ tăng tốc từ thiết kế đến sản xuất, từ thử nghiệm đến chuỗi cung ứng. Nhưng câu hỏi mang tính quyết định trong lĩnh vực ô tô là: liệu hệ thống này có gây hại cho ai không và ai phải chịu trách nhiệm? Đơn vị này trình bày bằng ngôn ngữ dễ hiểu các khuôn khổ để sử dụng AI một cách có trách nhiệm trong một ngành quan trọng về an toàn—an toàn chức năng, SOTIF, an ninh mạng, quyền riêng tư và đạo đức. Nguyên tắc cốt lõi không đổi: Sản phẩm AI không bao giờ thay thế được sự phê duyệt của kỹ sư có thẩm quyền; Quyết định và trách nhiệm quan trọng về an ninh thuộc về con người.
ISO 26262: an toàn chức năng
ISO 26262 là tiêu chuẩn an toàn chức năng cho hệ thống điện/điện tử của phương tiện giao thông đường bộ. An toàn chức năng; Nó liên quan đến việc đảm bảo rằng khi một hệ thống bị lỗi (cảm biến bị hỏng, phần mềm bị lỗi) thì nó không dẫn đến tình huống nguy hiểm.
Trọng tâm của tiêu chuẩn này là ASIL (Mức độ liêm chính về an toàn ô tô). Một mối nguy hiểm được đánh giá theo ba khía cạnh:
- Mức độ nghiêm trọng: Sẽ tệ đến mức nào nếu nó xảy ra? (thương tích nhẹ hoặc tử vong)
- Tiếp xúc: Điều này xảy ra thường xuyên như thế nào?
- Khả năng kiểm soát: Người lái xe có thể kiểm soát tình huống ở mức độ nào?
Ba điều này kết hợp lại tạo ra một cấp độ từ ASIL A (thấp nhất) đến ASIL D (cao nhất, ví dụ như phanh, lái). Khi cấp độ tăng lên, các yêu cầu phát triển, thử nghiệm và tài liệu trở nên khắt khe hơn.
CHÍNH
hệ thống mẫu
Cường độ yêu cầu
A.
Lỗi đèn nội thất
thấp
B.
đèn đuôi
trung bình
C.
Một số hàm ADAS
cao
D.
Phanh, lái, túi khí
cao nhất
Mẹo: Biết cấp độ CHÍNH của một chức năng sẽ cho bạn biết mức độ chú ý khi sử dụng AI trong chức năng đó. KHÔNG thể chấp nhận quyết định dựa trên đầu ra AI trong một chức năng mà không có xác minh bảo mật độc lập.
ISO 21448 (SOTIF): an toàn của chức năng dự định
An toàn chức năng cổ điển (ISO 26262) tập trung vào câu hỏi "điều gì xảy ra nếu hệ thống bị lỗi?" Nhưng có một vấn đề mới trong hệ thống phát hiện trí tuệ nhân tạo: ngay cả khi hệ thống không bao giờ gặp trục trặc, nó vẫn có thể hoạt động không đầy đủ. Máy ảnh hoạt động tốt nhưng không thể nhận dạng được phiến tuyết; Radar hoạt động ổn định nhưng nó bỏ qua một phương tiện đang đứng yên như một tín hiệu ma. Không có lỗi phần cứng/phần mềm ở đây; Sự cố nằm ở giới hạn phạm vi dự định của hàm.
ISO 21448 - SOTIF (An toàn cho chức năng dự định) giải quyết chính xác lỗ hổng này: quản lý rủi ro phát sinh từ các tình huống không được nhận dạng, giới hạn phát hiện và các tình huống không lường trước được, ngay cả khi hệ thống hoạt động như thiết kế. Trong ADAS/lái xe tự động dựa trên AI, SOTIF cũng quan trọng như ISO 26262.
khung
Tập trung
ví dụ
ISO 26262
Rủi ro do thất bại
Cảm biến hỏng, tín hiệu biến mất
ISO 21448 (SOTIF)
Nguy cơ không đầy đủ/không được công nhận
Camera chắc chắn không nhận ra phiến tuyết
ISO/SAE 21434
an ninh mạng
Tấn công hệ thống, thao túng dữ liệu
Thận trọng: Các mô hình AI mang tính thống kê; Họ không thể đảm bảo rằng họ sẽ “nhìn đúng mọi tình huống”. SOTIF nhằm mục đích thu hẹp các tình huống nguy hiểm chưa xác định trong các hệ thống vốn đã hạn chế này và giảm rủi ro còn lại xuống mức chấp nhận được. “Mô hình này chính xác đến 99,9%” không phải là bằng chứng về tính bảo mật.
ISO/SAE 21434: an ninh mạng
Các phương tiện được kết nối và xác định bằng phần mềm dễ bị tấn công mạng. Kẻ tấn công từ xa có thể thay đổi lệnh phanh, đánh cắp dữ liệu đo từ xa hoặc đánh lừa mô hình phát hiện (tấn công đối nghịch: khiến mô hình nhận dạng sai bằng cách đặt một nhãn dán nhỏ lên đĩa). ISO/SAE 21434 là khung kỹ thuật cho an ninh mạng phương tiện. Trong bối cảnh trí tuệ nhân tạo, có hai rủi ro nổi bật: đánh lừa mô hình (đối thủ) và đầu độc dữ liệu huấn luyện (đầu độc dữ liệu). Các hệ thống AI quan trọng về bảo mật cần được kiểm tra trước các cuộc tấn công này.
Quyền riêng tư và dữ liệu cá nhân
Phương tiện hiện đại là một “trung tâm dữ liệu trên bánh xe”: vị trí, hành vi lái xe, âm thanh, thậm chí cả camera trong cabin. Hầu hết đây là dữ liệu cá nhân và được bảo vệ bởi KVKK (Türkiye) và GDPR (Châu Âu). VIN (số khung) có thể xác định một chiếc xe và gián tiếp là chủ sở hữu của nó. Nguyên tắc cơ bản:
- Giảm thiểu dữ liệu: Chỉ thu thập những gì cần thiết.
- Giới hạn mục đích: Không sử dụng dữ liệu cho các mục đích khác ngoài mục đích thu thập dữ liệu.
- Ẩn danh/bí danh: Xóa hoặc mã hóa thông tin nhận dạng cá nhân.
- Sự đồng ý rõ ràng và minh bạch: Người lái xe phải biết những gì đang được thu thập.
- Lưu trữ và chuyển giao an toàn.
Thận trọng: Gửi số VIN thô, lịch sử vị trí hoặc hành vi lái xe tới công cụ AI trên đám mây công cộng có thể vừa vi phạm quyền riêng tư vừa là rủi ro hợp đồng. Khi làm việc với dữ liệu này, hãy ẩn danh nó và sử dụng môi trường được bảo vệ dữ liệu, mang tính thể chế.
Đạo đức và trách nhiệm của kỹ sư
Trí tuệ nhân tạo mang theo một số rủi ro đạo đức:
- Xu hướng: Nếu dữ liệu huấn luyện chiếm ưu thế trong một số điều kiện nhất định (ví dụ: ban ngày, làn da sáng, một số đường trong khu vực), thì mô hình có thể hoạt động kém trong các điều kiện không được mô tả đầy đủ (ban đêm, các điều kiện khác nhau). Đây là một lỗ hổng.
- Quá tự tin (thiên kiến tự động hóa): Mọi người tin tưởng một cách mù quáng vào tự động hóa và bỏ qua phán đoán của chính mình. Nếu kỹ sư kiểm tra ngừng xem dữ liệu thô chỉ vì AI nói “đạt” thì đây là một xu hướng nguy hiểm.
- Mất trách nhiệm: “Mô hình quyết định” không phải là biện hộ. Luôn phải có người ký đằng sau quyết định.
Nghiên cứu trường hợp nhỏ
Trường hợp 1 - Giới hạn SOTIF. Hệ thống phanh khẩn cấp tự động đã vượt qua tất cả các bài kiểm tra trong phòng thí nghiệm mà không gặp trục trặc nào. Trên cánh đồng, dưới ánh nắng yếu, một chiếc xe tải màu trắng nhầm rơ-moóc với bầu trời và phanh gấp. Đây không phải là sự cố mà là lỗ hổng SOTIF: hệ thống vẫn nguyên vẹn nhưng kịch bản nằm ngoài giới hạn phát hiện. Nhóm bổ sung kịch bản này vào thư viện thử nghiệm và tăng cường phản ứng tổng hợp radar. Kết luận: “Không hỏng hóc” không phải là bằng chứng về an toàn; Sự thiếu hụt cũng là một rủi ro.
Trường hợp 2 - Dữ liệu sai lệch. Mô hình phát hiện người đi bộ được đào tạo chủ yếu bằng dữ liệu ban ngày; Việc thu hồi ban đêm thấp hơn đáng kể. Nhóm cân bằng và đào tạo lại dữ liệu ban đêm và ánh sáng yếu, đồng thời báo cáo các tình huống ban đêm riêng biệt. Kết luận: Dữ liệu mất cân bằng tạo ra lỗ hổng chết người trong một số trường hợp nhất định.
Trường hợp 3 - Ngăn chặn vi phạm quyền riêng tư. Một nhà phân tích chuẩn bị dán dữ liệu đội xe vào một công cụ AI công cộng thì anh ta nhận thấy rằng dữ liệu đó chứa các vị trí VIN và GPS thô. Nó hoạt động trong môi trường doanh nghiệp bằng cách ẩn danh dữ liệu (vehicle_01..arac_50 thay vì VIN, mã vùng thay vì vị trí). Kết quả: Một khoảnh khắc chú ý đã ngăn chặn được hành vi vi phạm KVKK nghiêm trọng.
mẫu lời nhắc
Mẫu 1 - Đánh giá sơ bộ TRƯỚC/rủi ro (dự thảo):
Vai trò: Bạn là nhà tư vấn về an toàn chức năng. Nhiệm vụ: Chuẩn bị một bản dự thảo để hỗ trợ phân tích mối nguy và rủi ro cho một chức năng. Bối cảnh: Chức năng: phanh khẩn cấp tự động; đô thị và liên tỉnh.Ràng buộc: phân công chính xác ASIL; Đưa ra danh sách các câu hỏi và điểm cần chú ý về các khía cạnh mức độ nghiêm trọng/sự phơi nhiễm/khả năng kiểm soát; chỉ ra rằng nhiệm vụ cuối cùng thuộc về kỹ sư bảo mật được ủy quyền. Đầu ra: Kích thước | câu hỏi đánh giá | bảng ghi chú chú ý.
Mẫu 2 - Quét kịch bản SOTIF:
Vai trò: Bạn là chuyên gia SOTIF. Nhiệm vụ: Liệt kê các tình huống trong đó chức năng phát hiện có thể là 'hệ thống còn nguyên vẹn nhưng không đầy đủ'. Bối cảnh: Camera + radar; mặt trời yếu, tuyết, lối ra đường hầm, vật thể bất thường.Đầu ra: Kịch bản | tại sao lại bất cập | khuyến nghị giảm bớt.
Mẫu 3 - Kiểm soát quyền riêng tư:
Vai trò: Bạn là nhà tư vấn bảo vệ dữ liệu (KVKK/GDPR). Nhiệm vụ: Tiến hành kiểm tra quyền riêng tư trước khi chia sẻ tập dữ liệu. Bối cảnh: Đo từ xa của hạm đội; Các cột chứa số VIN, GPS, điểm lái xe. Ràng buộc: Những trường nào là dữ liệu cá nhân, chúng nên được ẩn danh như thế nào, tôi không nên chia sẻ những gì; sắp xếp.Đầu ra: Trường | rủi ro | biểu đồ giao dịch được đề xuất
Mẫu 4 - Kiểm tra độ lệch:
Vai trò: Bạn là kiểm toán viên về sự an toàn và công bằng ML. Nhiệm vụ: Hãy cho tôi biết cách tìm kiếm rủi ro sai lệch trong mô hình phát hiện. Bối cảnh: Phát hiện người đi bộ; dữ liệu huấn luyện có trọng số ngày/thành phố.Đầu ra: Điều kiện cần kiểm tra | đo lường | dấu hiệu rủi ro.
Dấu nhắc yếu / Dấu nhắc mạnh
Dấu nhắc yếu:
Hệ thống phanh tự động này có an toàn không, xác nhận.
Cố gắng đạt được giải pháp bảo mật AI là rất nguy hiểm; Sự phê duyệt thuộc về kỹ sư được ủy quyền.
Lời nhắc mạnh mẽ:
Vai trò: Bạn là nhà tư vấn về an toàn chức năng và SOTIF. Nhiệm vụ: Liệt kê những câu hỏi tôi nên hỏi và những bằng chứng nào tôi nên thu thập trong quá trình đánh giá sự an toàn của chức năng phanh tự động của mình. Bối cảnh: Phát hiện dựa trên AI; máy ảnh+ra-đa; ASIL có thể cao.Ràng buộc: 'Phê duyệt' hệ thống; Cung cấp danh sách các câu hỏi và bằng chứng riêng biệt về ISO 26262 (khiếm khuyết) và SOTIF (thiếu sót); Nhấn mạnh rằng sự phê duyệt cuối cùng thuộc về kỹ sư bảo mật được ủy quyền.Đầu ra: Framework | câu hỏi | bảng bằng chứng cần thiết
Những lỗi thường gặp
- Nhầm lẫn giữa "không có trục trặc" với "an toàn". Sự thiếu hụt SOTIF có thể gây tử vong mà không gặp trục trặc.
- Nhận được giải phóng mặt bằng bảo mật AI. Sự phê duyệt và trách nhiệm thuộc về kỹ sư được ủy quyền.
- Nhầm lẫn độ chính xác của mô hình là bằng chứng về bảo mật. Độ chính xác 99,9% không có nghĩa là rủi ro còn lại đã được quản lý.
- Không bảo vệ dữ liệu cá nhân. Số VIN/địa điểm/hành vi lái xe nằm trong phạm vi của KVKK/GDPR.
- Bỏ qua sự thiên vị và quá tự tin. Dữ liệu không cân bằng và niềm tin mù quáng vào tự động hóa là những lỗ hổng.
Tóm lại
- ISO 26262 quản lý rủi ro do lỗi (với ASIL), trong khi ISO 21448/SOTIF quản lý rủi ro do lỗi nhưng không lỗi; Cả hai đều quan trọng trong việc phát hiện AI.
- An ninh mạng ISO/SAE 21434; Các cuộc tấn công đối nghịch và đầu độc dữ liệu là những mối đe dọa dành riêng cho AI.
- Giảm thiểu dữ liệu, giới hạn mục đích và ẩn danh là bắt buộc trong phạm vi KVKK/GDPR; Số VIN/địa điểm là dữ liệu cá nhân.
- Thành kiến, quá tự tin và mất trách nhiệm là những rủi ro đạo đức chính.
- Đầu ra AI không thể thay thế cho sự phê duyệt của kỹ sư có trình độ; Quyết định và chữ ký quan trọng về bảo mật luôn thuộc về người đó.
Nhiệm vụ ứng dụng
Chọn chức năng liên quan đến an toàn (ví dụ: giữ làn đường). (1) Thảo luận lý do tại sao mức ASIL của chức năng này có thể cao/thấp theo các khía cạnh mức độ nghiêm trọng/mức độ phơi nhiễm/khả năng kiểm soát. (2) Tạo 5 kịch bản “hệ thống vững chắc nhưng không đầy đủ” với Mẫu 2. (3) Kiểm tra tính bảo mật của tập dữ liệu có liên quan với Mẫu 3. (4) Giải thích tại sao nói “Mô hình đã được xác nhận” không phải là biện pháp bào chữa.
danh sách kiểm tra
- [ ] Tôi đã đánh giá các kích thước THỰC TẾ của hàm (Tôi đã giao việc phân công chính xác cho cơ quan có thẩm quyền).
- [ ] Tôi đã phân biệt giữa ISO 26262 (trục trặc) và SOTIF (thiếu sót).
- [ ] Tôi đã tính đến rủi ro an ninh mạng (đối thủ/đầu độc).
- [ ] Tôi đã ẩn danh và giảm thiểu dữ liệu cá nhân.
- [ ] Tôi đã kiểm tra nguy cơ thiên vị và tự tin thái quá.
- [ ] Tôi đã xác nhận rằng việc kiểm tra an ninh được thực hiện bởi kỹ sư có trình độ.