ಲಾಭಗಳು:
- ISO 26262 ಕ್ರಿಯಾತ್ಮಕ ಭದ್ರತೆ ಮತ್ತು ISO 21448 (SOTIF) ಚೌಕಟ್ಟುಗಳು ಮತ್ತು ಕೃತಕ ಬುದ್ಧಿಮತ್ತೆ ಹೊಂದಿರುವ ವ್ಯವಸ್ಥೆಗಳ ಮೇಲೆ ಅವುಗಳ ಪರಿಣಾಮಗಳನ್ನು ವಿವರಿಸುವ ಸಾಮರ್ಥ್ಯ
- ಡೇಟಾ ಗೌಪ್ಯತೆ, ಚಾಲಕ ಡೇಟಾ, ಸೈಬರ್ ಭದ್ರತೆ (ISO/SAE 21434) ಮತ್ತು ಆಟೋಮೋಟಿವ್ ಸಂದರ್ಭದಲ್ಲಿ ನೈತಿಕ ಅಪಾಯಗಳನ್ನು ನಿರ್ವಹಿಸುವ ಸಾಮರ್ಥ್ಯ
- AI ಔಟ್ಪುಟ್ ಸಮರ್ಥ ಇಂಜಿನಿಯರ್ ಅನುಮೋದನೆಗೆ ಬದಲಿಯಾಗಿಲ್ಲ ಎಂಬುದನ್ನು ಅರ್ಥಮಾಡಿಕೊಳ್ಳುವ ಮೂಲಕ ಸುರಕ್ಷತೆ-ನಿರ್ಣಾಯಕ ನಿರ್ಧಾರಗಳಿಗೆ ಮಾನವ ಜವಾಬ್ದಾರಿಯನ್ನು ನಿರ್ವಹಿಸುವ ಸಾಮರ್ಥ್ಯ
ನೀವು ಈ ಮಾಡ್ಯೂಲ್ನ ಅತ್ಯಂತ ನಿರ್ಣಾಯಕ ಘಟಕದಲ್ಲಿರುವಿರಿ. ಇಲ್ಲಿಯವರೆಗೆ ನಾವು AI ಅನ್ನು ವಿನ್ಯಾಸದಿಂದ ಉತ್ಪಾದನೆಗೆ, ಪರೀಕ್ಷೆಯಿಂದ ಪೂರೈಕೆ ಸರಪಳಿಯವರೆಗೆ ವೇಗವರ್ಧಕವಾಗಿ ನೋಡಿದ್ದೇವೆ. ಆದರೆ ಆಟೋಮೋಟಿವ್ನಲ್ಲಿ ನಿರ್ಣಾಯಕ ಪ್ರಶ್ನೆಯೆಂದರೆ: ಈ ವ್ಯವಸ್ಥೆಯು ಯಾರಿಗಾದರೂ ಹಾನಿ ಮಾಡುತ್ತದೆ ಮತ್ತು ಯಾರು ಜವಾಬ್ದಾರರು? ಈ ಘಟಕವು ಸುರಕ್ಷತೆ-ನಿರ್ಣಾಯಕ ಉದ್ಯಮದಲ್ಲಿ AI ಅನ್ನು ಜವಾಬ್ದಾರಿಯುತವಾಗಿ ಬಳಸುವ ಚೌಕಟ್ಟುಗಳನ್ನು ಸರಳ ಭಾಷೆಯಲ್ಲಿ ಒಳಗೊಂಡಿದೆ-ಕ್ರಿಯಾತ್ಮಕ ಸುರಕ್ಷತೆ, SOTIF, ಸೈಬರ್ ಭದ್ರತೆ, ಗೌಪ್ಯತೆ ಮತ್ತು ನೈತಿಕತೆ. ಮೂಲ ತತ್ವವು ಸ್ಥಿರವಾಗಿರುತ್ತದೆ: AI ಔಟ್ಪುಟ್ ಎಂದಿಗೂ ಸಮರ್ಥ ಎಂಜಿನಿಯರ್ ಅನುಮೋದನೆಯನ್ನು ಬದಲಾಯಿಸುವುದಿಲ್ಲ; ಭದ್ರತೆ-ನಿರ್ಣಾಯಕ ನಿರ್ಧಾರ ಮತ್ತು ಜವಾಬ್ದಾರಿ ಮಾನವನಿಗೆ ಸೇರಿದೆ.
ISO 26262: ಕ್ರಿಯಾತ್ಮಕ ಸುರಕ್ಷತೆ
ISO 26262 ಎಂಬುದು ರಸ್ತೆ ವಾಹನಗಳ ಎಲೆಕ್ಟ್ರಿಕಲ್/ಎಲೆಕ್ಟ್ರಾನಿಕ್ ವ್ಯವಸ್ಥೆಗಳಿಗೆ ಕ್ರಿಯಾತ್ಮಕ ಸುರಕ್ಷತಾ ಮಾನದಂಡವಾಗಿದೆ. ಕ್ರಿಯಾತ್ಮಕ ಸುರಕ್ಷತೆ; ಸಿಸ್ಟಮ್ ವಿಫಲವಾದಾಗ (ಸಂವೇದಕ ಮುರಿದರೆ, ಸಾಫ್ಟ್ವೇರ್ ವಿಫಲವಾದರೆ) ಅದು ಅಪಾಯಕಾರಿ ಪರಿಸ್ಥಿತಿಗೆ ಕಾರಣವಾಗುವುದಿಲ್ಲ ಎಂದು ಖಚಿತಪಡಿಸಿಕೊಳ್ಳಲು ಇದು ಕಾಳಜಿ ವಹಿಸುತ್ತದೆ.
ಈ ಮಾನದಂಡದ ಹೃದಯಭಾಗದಲ್ಲಿ ASIL (ಆಟೋಮೋಟಿವ್ ಸೇಫ್ಟಿ ಇಂಟೆಗ್ರಿಟಿ ಲೆವೆಲ್) ಇದೆ. ಅಪಾಯವನ್ನು ಮೂರು ಆಯಾಮಗಳಲ್ಲಿ ಮೌಲ್ಯಮಾಪನ ಮಾಡಲಾಗುತ್ತದೆ:
- ತೀವ್ರತೆ: ಅದು ಸಂಭವಿಸಿದರೆ ಅದು ಎಷ್ಟು ಕೆಟ್ಟದಾಗಿದೆ? (ಸಣ್ಣ ಗಾಯ ಅಥವಾ ಸಾವು)
- ಮಾನ್ಯತೆ: ಇದು ಎಷ್ಟು ಬಾರಿ ಸಂಭವಿಸುತ್ತದೆ?
- ನಿಯಂತ್ರಣ: ಚಾಲಕನು ಪರಿಸ್ಥಿತಿಯನ್ನು ಎಷ್ಟು ನಿಯಂತ್ರಿಸಬಹುದು?
ಈ ಮೂರು ಸಂಯೋಜಿತ ಫಲಿತಾಂಶಗಳು ASIL A (ಕಡಿಮೆ) ನಿಂದ ASIL D ವರೆಗೆ (ಅತಿ ಹೆಚ್ಚು, ಉದಾ. ಬ್ರೇಕಿಂಗ್, ಸ್ಟೀರಿಂಗ್) ಮಟ್ಟಕ್ಕೆ ಕಾರಣವಾಗುತ್ತದೆ. ಮಟ್ಟ ಹೆಚ್ಚಾದಂತೆ, ಅಭಿವೃದ್ಧಿ, ಪರೀಕ್ಷೆ ಮತ್ತು ದಾಖಲಾತಿ ಅಗತ್ಯತೆಗಳು ಕಠಿಣವಾಗುತ್ತವೆ.
ಮುಖ್ಯ
ಮಾದರಿ ವ್ಯವಸ್ಥೆ
ಅವಶ್ಯಕತೆಯ ತೀವ್ರತೆ
ಎ.
ಆಂತರಿಕ ಬೆಳಕಿನ ಅಸಮರ್ಪಕ ಕಾರ್ಯ
ಕಡಿಮೆ
ಬಿ.
ಬಾಲ ಬೆಳಕು
ಮಧ್ಯಮ
ಸಿ.
ಕೆಲವು ADAS ಕಾರ್ಯಗಳು
ಹೆಚ್ಚು
ಡಿ.
ಬ್ರೇಕ್, ಸ್ಟೀರಿಂಗ್, ಏರ್ಬ್ಯಾಗ್
ಅತ್ಯಧಿಕ
ಸಲಹೆ: ಫಂಕ್ಷನ್ನ ಮುಖ್ಯ ಹಂತವನ್ನು ತಿಳಿದುಕೊಳ್ಳುವುದರಿಂದ ಆ ಕಾರ್ಯದಲ್ಲಿ AI ಅನ್ನು ಬಳಸುವಾಗ ಎಷ್ಟು ಗಮನ ಬೇಕು ಎಂದು ಹೇಳುತ್ತದೆ. ಸ್ವತಂತ್ರ ಭದ್ರತಾ ಪರಿಶೀಲನೆಯಿಲ್ಲದೆ ಕಾರ್ಯದಲ್ಲಿ AI ಔಟ್ಪುಟ್ ಆಧಾರಿತ ಯಾವುದೇ ನಿರ್ಧಾರವನ್ನು ಸ್ವೀಕರಿಸಲಾಗುವುದಿಲ್ಲ.
ISO 21448 (SOTIF): ಉದ್ದೇಶಿತ ಕಾರ್ಯದ ಸುರಕ್ಷತೆ
ಶಾಸ್ತ್ರೀಯ ಕ್ರಿಯಾತ್ಮಕ ಸುರಕ್ಷತೆ (ISO 26262) "ಸಿಸ್ಟಮ್ ವಿಫಲವಾದಲ್ಲಿ ಏನಾಗುತ್ತದೆ?" ಎಂಬ ಪ್ರಶ್ನೆಯ ಮೇಲೆ ಕೇಂದ್ರೀಕರಿಸುತ್ತದೆ. ಆದರೆ ಕೃತಕ ಬುದ್ಧಿಮತ್ತೆ ಪತ್ತೆ ವ್ಯವಸ್ಥೆಯಲ್ಲಿ ಹೊಸ ಸಮಸ್ಯೆ ಇದೆ: ಸಿಸ್ಟಮ್ ಎಂದಿಗೂ ಅಸಮರ್ಪಕವಾಗಿ ಕಾರ್ಯನಿರ್ವಹಿಸದಿದ್ದರೂ ಸಹ, ಅದು ಅಸಮರ್ಪಕವಾಗಿರಬಹುದು. ಕ್ಯಾಮರಾ ಉತ್ತಮವಾಗಿ ಕಾರ್ಯನಿರ್ವಹಿಸುತ್ತದೆ ಆದರೆ ಹಿಮಭರಿತ ಚಪ್ಪಡಿಯನ್ನು ಗುರುತಿಸಲು ಸಾಧ್ಯವಿಲ್ಲ; ರಾಡಾರ್ ಘನವಾಗಿದೆ, ಆದರೆ ಇದು ಪ್ರೇತ ಸಂಕೇತವಾಗಿ ಸ್ಥಾಯಿ ವಾಹನವನ್ನು ನಿರ್ಲಕ್ಷಿಸುತ್ತದೆ. ಇಲ್ಲಿ ಯಾವುದೇ ಹಾರ್ಡ್ವೇರ್/ಸಾಫ್ಟ್ವೇರ್ ವೈಫಲ್ಯವಿಲ್ಲ; ಸಮಸ್ಯೆಯು ಕಾರ್ಯದ ಉದ್ದೇಶಿತ ವ್ಯಾಪ್ತಿಯ ಮಿತಿಯಲ್ಲಿದೆ.
ISO 21448 - SOTIF (ಉದ್ದೇಶಿತ ಕಾರ್ಯನಿರ್ವಹಣೆಯ ಸುರಕ್ಷತೆ) ನಿಖರವಾಗಿ ಈ ಅಂತರವನ್ನು ಪರಿಹರಿಸುತ್ತದೆ: ಗುರುತಿಸಲಾಗದ ಸನ್ನಿವೇಶಗಳು, ಪತ್ತೆ ಮಿತಿಗಳು ಮತ್ತು ಅನಿರೀಕ್ಷಿತ ಸಂದರ್ಭಗಳಿಂದ ಉಂಟಾಗುವ ಅಪಾಯಗಳನ್ನು ನಿರ್ವಹಿಸುವುದು, ಸಿಸ್ಟಮ್ ವಿನ್ಯಾಸಗೊಳಿಸಿದಂತೆ ಕಾರ್ಯನಿರ್ವಹಿಸಿದರೂ ಸಹ. AI-ಆಧಾರಿತ ADAS/ಸ್ವಯಂಚಾಲಿತ ಚಾಲನೆಯಲ್ಲಿ, SOTIF ISO 26262 ರಂತೆ ನಿರ್ಣಾಯಕವಾಗಿದೆ.
ಚೌಕಟ್ಟು
ಗಮನ
ಉದಾಹರಣೆ
ISO 26262
ವೈಫಲ್ಯದಿಂದಾಗಿ ಅಪಾಯ
ಸಂವೇದಕ ಒಡೆಯುತ್ತದೆ, ಸಿಗ್ನಲ್ ಕಣ್ಮರೆಯಾಗುತ್ತದೆ
ISO 21448 (SOTIF)
ಅಸಮರ್ಪಕತೆ/ಮನ್ನಣೆಯಿಲ್ಲದಿರುವ ಅಪಾಯ
ಒರಟಾದ ಕ್ಯಾಮರಾ ಹಿಮ ಚಪ್ಪಡಿಯನ್ನು ಗುರುತಿಸುವುದಿಲ್ಲ
ISO/SAE 21434
ಸೈಬರ್ ಭದ್ರತೆ
ಸಿಸ್ಟಮ್ ದಾಳಿ, ಡೇಟಾ ಕುಶಲತೆ
ಎಚ್ಚರಿಕೆ: AI ಮಾದರಿಗಳು ಸಂಖ್ಯಾಶಾಸ್ತ್ರೀಯವಾಗಿವೆ; ಅವರು "ಎಲ್ಲ ಪರಿಸ್ಥಿತಿಯನ್ನು ಸರಿಯಾಗಿ ನೋಡುತ್ತಾರೆ" ಎಂದು ಅವರು ಖಾತರಿಪಡಿಸುವುದಿಲ್ಲ. SOTIF ಈ ಅಂತರ್ಗತವಾಗಿ ಸೀಮಿತವಾದ ವ್ಯವಸ್ಥೆಗಳಲ್ಲಿ ಅಜ್ಞಾತ ಅಪಾಯಕಾರಿ ಸನ್ನಿವೇಶಗಳನ್ನು ಕಿರಿದಾಗಿಸುವ ಗುರಿಯನ್ನು ಹೊಂದಿದೆ ಮತ್ತು ಉಳಿದ ಅಪಾಯವನ್ನು ಸ್ವೀಕಾರಾರ್ಹ ಮಟ್ಟಕ್ಕೆ ತಗ್ಗಿಸುತ್ತದೆ. "ಮಾದರಿಯು 99.9% ನಿಖರವಾಗಿದೆ" ಎಂಬುದು ಭದ್ರತೆಯ ಪುರಾವೆಯಲ್ಲ.
ISO/SAE 21434: ಸೈಬರ್ ಭದ್ರತೆ
ಸಂಪರ್ಕಿತ ಮತ್ತು ಸಾಫ್ಟ್ವೇರ್-ವ್ಯಾಖ್ಯಾನಿತ ವಾಹನಗಳು ಸೈಬರ್ ದಾಳಿಗೆ ಗುರಿಯಾಗುತ್ತವೆ. ರಿಮೋಟ್ ಆಕ್ರಮಣಕಾರನು ಬ್ರೇಕ್ ಕಮಾಂಡ್ ಅನ್ನು ಬದಲಾಯಿಸಬಹುದು, ಟೆಲಿಮೆಟ್ರಿಯನ್ನು ಕದಿಯಬಹುದು ಅಥವಾ ಪತ್ತೆ ಮಾಡೆಲ್ ಅನ್ನು ಮೋಸಗೊಳಿಸಬಹುದು (ವಿರೋಧಿ ದಾಳಿ: ಪ್ಲೇಟ್ನಲ್ಲಿ ಸಣ್ಣ ಸ್ಟಿಕ್ಕರ್ ಅನ್ನು ಇರಿಸುವ ಮೂಲಕ ಮಾದರಿಯು ಅದನ್ನು ತಪ್ಪಾಗಿ ಗುರುತಿಸುವಂತೆ ಮಾಡುತ್ತದೆ). ISO/SAE 21434 ವಾಹನದ ಸೈಬರ್ ಸುರಕ್ಷತೆಗಾಗಿ ಎಂಜಿನಿಯರಿಂಗ್ ಚೌಕಟ್ಟಾಗಿದೆ. ಕೃತಕ ಬುದ್ಧಿಮತ್ತೆಯ ಸಂದರ್ಭದಲ್ಲಿ, ಎರಡು ಅಪಾಯಗಳು ಎದ್ದು ಕಾಣುತ್ತವೆ: ಮಾದರಿಯನ್ನು ಮೋಸಗೊಳಿಸುವುದು (ವಿರೋಧಿ) ಮತ್ತು ತರಬೇತಿ ಡೇಟಾವನ್ನು ವಿಷಪೂರಿತಗೊಳಿಸುವುದು (ಡೇಟಾ ವಿಷಕಾರಿ). ಈ ದಾಳಿಗಳ ವಿರುದ್ಧ ಭದ್ರತಾ-ನಿರ್ಣಾಯಕ AI ವ್ಯವಸ್ಥೆಗಳನ್ನು ಪರೀಕ್ಷಿಸಬೇಕು.
ಗೌಪ್ಯತೆ ಮತ್ತು ವೈಯಕ್ತಿಕ ಡೇಟಾ
ಆಧುನಿಕ ವಾಹನವು "ಚಕ್ರಗಳ ಮೇಲಿನ ಡೇಟಾ ಕೇಂದ್ರವಾಗಿದೆ": ಸ್ಥಳ, ಚಾಲನಾ ನಡವಳಿಕೆ, ಆಡಿಯೋ, ಕ್ಯಾಬಿನ್ ಕ್ಯಾಮೆರಾ ಕೂಡ. ಇದರಲ್ಲಿ ಹೆಚ್ಚಿನವು ವೈಯಕ್ತಿಕ ಡೇಟಾ ಮತ್ತು KVKK (Türkiye) ಮತ್ತು GDPR (ಯುರೋಪ್) ನಿಂದ ಆವರಿಸಲ್ಪಟ್ಟಿದೆ. VIN (ಚಾಸಿಸ್ ಸಂಖ್ಯೆ) ವಾಹನವನ್ನು ಮತ್ತು ಪರೋಕ್ಷವಾಗಿ ಅದರ ಮಾಲೀಕರನ್ನು ಗುರುತಿಸಬಹುದು. ಮೂಲ ತತ್ವಗಳು:
- ಡೇಟಾ ಮಿನಿಮೈಸೇಶನ್: ಅಗತ್ಯವಿರುವದನ್ನು ಮಾತ್ರ ಸಂಗ್ರಹಿಸಿ.
- ಉದ್ದೇಶದ ಮಿತಿ: ಡೇಟಾವನ್ನು ಯಾವ ಉದ್ದೇಶಕ್ಕಾಗಿ ಸಂಗ್ರಹಿಸಲಾಗಿದೆಯೋ ಅದನ್ನು ಹೊರತುಪಡಿಸಿ ಬೇರೆ ಉದ್ದೇಶಗಳಿಗಾಗಿ ಬಳಸಬೇಡಿ.
- ಅನಾಮಧೇಯಗೊಳಿಸುವಿಕೆ/ಹುಸಿನಾಮೀಕರಣ: ವೈಯಕ್ತಿಕವಾಗಿ ಗುರುತಿಸುವ ಮಾಹಿತಿಯನ್ನು ತೆಗೆದುಹಾಕಿ ಅಥವಾ ಎನ್ಕೋಡ್ ಮಾಡಿ.
- ಸ್ಪಷ್ಟ ಸಮ್ಮತಿ ಮತ್ತು ಪಾರದರ್ಶಕತೆ: ಚಾಲಕನಿಗೆ ಏನು ಸಂಗ್ರಹಿಸಲಾಗುತ್ತಿದೆ ಎಂದು ತಿಳಿದಿರಬೇಕು.
- ಸುರಕ್ಷಿತ ಸಂಗ್ರಹಣೆ ಮತ್ತು ವರ್ಗಾವಣೆ.
ಎಚ್ಚರಿಕೆ: ಸಾರ್ವಜನಿಕ ಕ್ಲೌಡ್ AI ಪರಿಕರಕ್ಕೆ ಕಚ್ಚಾ VIN, ಸ್ಥಳ ಇತಿಹಾಸ ಅಥವಾ ಡ್ರೈವಿಂಗ್ ನಡವಳಿಕೆಯನ್ನು ಕಳುಹಿಸುವುದು ಗೌಪ್ಯತೆ ಉಲ್ಲಂಘನೆ ಮತ್ತು ಒಪ್ಪಂದದ ಅಪಾಯವಾಗಿದೆ. ಈ ಡೇಟಾದೊಂದಿಗೆ ಕೆಲಸ ಮಾಡುವಾಗ, ಅದನ್ನು ಅನಾಮಧೇಯಗೊಳಿಸಿ ಮತ್ತು ಸಾಂಸ್ಥಿಕ, ಡೇಟಾ-ರಕ್ಷಿತ ಪರಿಸರವನ್ನು ಬಳಸಿ.
ನೈತಿಕತೆ ಮತ್ತು ಎಂಜಿನಿಯರ್ ಜವಾಬ್ದಾರಿ
ಕೃತಕ ಬುದ್ಧಿಮತ್ತೆಯು ಅದರೊಂದಿಗೆ ಕೆಲವು ನೈತಿಕ ಅಪಾಯಗಳನ್ನು ತರುತ್ತದೆ:
- ಪಕ್ಷಪಾತ: ತರಬೇತಿ ದತ್ತಾಂಶವು ಕೆಲವು ಪರಿಸ್ಥಿತಿಗಳಲ್ಲಿ ಮೇಲುಗೈ ಸಾಧಿಸಿದರೆ (ಉದಾಹರಣೆಗೆ ಹಗಲು, ಹಗುರವಾದ ಚರ್ಮ, ಕೆಲವು ಪ್ರಾದೇಶಿಕ ರಸ್ತೆಗಳು), ಕಡಿಮೆ ಪ್ರತಿನಿಧಿಸದ ಪರಿಸ್ಥಿತಿಗಳಲ್ಲಿ (ರಾತ್ರಿ, ವಿಭಿನ್ನ ಪರಿಸ್ಥಿತಿಗಳು) ಮಾದರಿಯು ಕಳಪೆಯಾಗಿ ಕಾರ್ಯನಿರ್ವಹಿಸುತ್ತದೆ. ಇದು ದುರ್ಬಲತೆಯಾಗಿದೆ.
- ಅತಿಯಾದ ಆತ್ಮವಿಶ್ವಾಸ (ಸ್ವಯಂಚಾಲಿತ ಪಕ್ಷಪಾತ): ಜನರು ಯಾಂತ್ರೀಕರಣವನ್ನು ಕುರುಡಾಗಿ ನಂಬುತ್ತಾರೆ ಮತ್ತು ತಮ್ಮದೇ ಆದ ತೀರ್ಮಾನವನ್ನು ಅತಿಕ್ರಮಿಸುತ್ತಾರೆ. AI "ಪಾಸ್" ಎಂದು ಹೇಳುವುದರಿಂದ ಪರೀಕ್ಷಾ ಇಂಜಿನಿಯರ್ ಕಚ್ಚಾ ಡೇಟಾವನ್ನು ನೋಡುವುದನ್ನು ನಿಲ್ಲಿಸಿದರೆ, ಇದು ಅಪಾಯಕಾರಿ ಪ್ರವೃತ್ತಿಯಾಗಿದೆ.
- ಜವಾಬ್ದಾರಿಯ ನಷ್ಟ: "ಮಾದರಿ ನಿರ್ಧರಿಸಿದೆ" ಎಂಬುದು ರಕ್ಷಣೆಯಲ್ಲ. ನಿರ್ಧಾರದ ಹಿಂದೆ ಯಾವಾಗಲೂ ಸಹಿ ಮಾಡುವ ವ್ಯಕ್ತಿ ಇರಬೇಕು.
ಮಿನಿ ಕೇಸ್ ಸ್ಟಡೀಸ್
ಪ್ರಕರಣ 1 - SOTIF ಮಿತಿ. ಸ್ವಯಂಚಾಲಿತ ತುರ್ತು ಬ್ರೇಕಿಂಗ್ ವ್ಯವಸ್ಥೆಯು ಎಲ್ಲಾ ಪ್ರಯೋಗಾಲಯ ಪರೀಕ್ಷೆಗಳನ್ನು ಹಾದುಹೋಗುತ್ತದೆ, ಯಾವುದೇ ಅಸಮರ್ಪಕ ಕಾರ್ಯಗಳಿಲ್ಲ. ಮೈದಾನದಲ್ಲಿ, ಕಡಿಮೆ ಬಿಸಿಲಿನಲ್ಲಿ, ಬಿಳಿ ಟ್ರಕ್ ತನ್ನ ಟ್ರೈಲರ್ ಅನ್ನು ಆಕಾಶಕ್ಕೆ ತಪ್ಪಾಗಿ ಬ್ರೇಕ್ ಮಾಡುತ್ತದೆ ಮತ್ತು ತಡವಾಗಿ ಬ್ರೇಕ್ ಮಾಡುತ್ತದೆ. ಇದು ಅಸಮರ್ಪಕ ಕಾರ್ಯವಲ್ಲ, ಆದರೆ SOTIF ದುರ್ಬಲತೆ: ಸಿಸ್ಟಮ್ ಅಖಂಡವಾಗಿದೆ ಆದರೆ ಸನ್ನಿವೇಶವು ಪತ್ತೆ ಮಿತಿಯನ್ನು ಮೀರಿದೆ. ತಂಡವು ಈ ಸನ್ನಿವೇಶವನ್ನು ಪರೀಕ್ಷಾ ಗ್ರಂಥಾಲಯಕ್ಕೆ ಸೇರಿಸುತ್ತದೆ ಮತ್ತು ರೇಡಾರ್ ಸಮ್ಮಿಳನವನ್ನು ಬಲಪಡಿಸುತ್ತದೆ. ತೀರ್ಮಾನ: "ಯಾವುದೇ ವೈಫಲ್ಯ" ಸುರಕ್ಷತೆಯ ಪುರಾವೆ ಅಲ್ಲ; ಕೊರತೆಯೂ ಅಪಾಯವಾಗಿದೆ.
ಪ್ರಕರಣ 2 - ಪಕ್ಷಪಾತದ ಡೇಟಾ. ಪಾದಚಾರಿ ಪತ್ತೆ ಮಾದರಿಯನ್ನು ಹಗಲಿನ ಡೇಟಾದೊಂದಿಗೆ ಪ್ರಧಾನವಾಗಿ ತರಬೇತಿ ನೀಡಲಾಗಿದೆ; ನೈಟ್ ರಿಕಾಲ್ ಗಮನಾರ್ಹವಾಗಿ ಕಡಿಮೆಯಾಗಿದೆ. ತಂಡವು ರಾತ್ರಿ ಮತ್ತು ಕಡಿಮೆ ಬೆಳಕಿನ ಡೇಟಾವನ್ನು ಸಮತೋಲನಗೊಳಿಸುತ್ತದೆ ಮತ್ತು ಮರುತರಬೇತಿ ನೀಡುತ್ತದೆ ಮತ್ತು ರಾತ್ರಿಯ ಸನ್ನಿವೇಶಗಳನ್ನು ಪ್ರತ್ಯೇಕವಾಗಿ ವರದಿ ಮಾಡುತ್ತದೆ. ತೀರ್ಮಾನ: ಅಸಮತೋಲಿತ ಡೇಟಾವು ಕೆಲವು ಸಂದರ್ಭಗಳಲ್ಲಿ ಮಾರಣಾಂತಿಕ ದುರ್ಬಲತೆಯನ್ನು ಸೃಷ್ಟಿಸುತ್ತದೆ.
ಪ್ರಕರಣ 3 - ಗೌಪ್ಯತೆ ಉಲ್ಲಂಘನೆ ತಡೆಗಟ್ಟುವಿಕೆ. ಡೇಟಾವು ಕಚ್ಚಾ VIN ಮತ್ತು GPS ಸ್ಥಳಗಳನ್ನು ಹೊಂದಿದೆ ಎಂದು ಗಮನಿಸಿದಾಗ ವಿಶ್ಲೇಷಕರು ಫ್ಲೀಟ್ ಡೇಟಾವನ್ನು ಸಾರ್ವಜನಿಕ AI ಸಾಧನಕ್ಕೆ ಅಂಟಿಸಲಿದ್ದಾರೆ. ಡೇಟಾವನ್ನು ಅನಾಮಧೇಯಗೊಳಿಸುವ ಮೂಲಕ ಇದು ಕಾರ್ಪೊರೇಟ್ ಪರಿಸರದಲ್ಲಿ ಕಾರ್ಯನಿರ್ವಹಿಸುತ್ತದೆ (VIN ಬದಲಿಗೆ Vehicle_01..arac_50, ಸ್ಥಳದ ಬದಲಿಗೆ ಪ್ರದೇಶ ಕೋಡ್). ಫಲಿತಾಂಶ: ಒಂದು ಕ್ಷಣದ ಗಮನವು ಗಂಭೀರವಾದ KVKK ಉಲ್ಲಂಘನೆಯನ್ನು ತಡೆಯಿತು.
ಪ್ರಾಂಪ್ಟ್ ಟೆಂಪ್ಲೆಟ್ಗಳು
ಟೆಂಪ್ಲೇಟ್ 1 - ಪೂರ್ವ/ಅಪಾಯದ ಪ್ರಾಥಮಿಕ ಮೌಲ್ಯಮಾಪನ (ಡ್ರಾಫ್ಟ್):
ಪಾತ್ರ: ನೀವು ಕ್ರಿಯಾತ್ಮಕ ಸುರಕ್ಷತಾ ಸಲಹೆಗಾರರು. ಕಾರ್ಯ: ಒಂದು ಕಾರ್ಯಕ್ಕಾಗಿ ಅಪಾಯ ಮತ್ತು ಅಪಾಯದ ವಿಶ್ಲೇಷಣೆಗೆ ಸಹಾಯ ಮಾಡಲು ಕರಡು ಸಿದ್ಧಪಡಿಸುತ್ತದೆ. ಸಂದರ್ಭ: ಕಾರ್ಯ: ಸ್ವಯಂಚಾಲಿತ ತುರ್ತು ಬ್ರೇಕಿಂಗ್; ನಗರ ಮತ್ತು ಅಂತರನಗರ. ನಿರ್ಬಂಧ: ASIL ನ ನಿಖರವಾದ ನಿಯೋಜನೆ; ತೀವ್ರತೆ/ಮಾನ್ಯತೆ/ನಿಯಂತ್ರಣದ ಆಯಾಮಗಳ ಕುರಿತು ಪ್ರಶ್ನೆಗಳು ಮತ್ತು ಗಮನದ ಬಿಂದುಗಳ ಪಟ್ಟಿಯನ್ನು ನೀಡಿ; ಅಂತಿಮ ನಿಯೋಜನೆಯು ಅಧಿಕೃತ ಭದ್ರತಾ ಇಂಜಿನಿಯರ್ನೊಂದಿಗೆ ನಿಂತಿದೆ ಎಂದು ಸೂಚಿಸಿ. ಔಟ್ಪುಟ್: ಗಾತ್ರ | ಮೌಲ್ಯಮಾಪನ ಪ್ರಶ್ನೆ | ಗಮನ ಟಿಪ್ಪಣಿ ಕೋಷ್ಟಕ.
ಟೆಂಪ್ಲೇಟ್ 2 - SOTIF ಸನ್ನಿವೇಶ ಸ್ಕ್ಯಾನ್:
ಪಾತ್ರ: ನೀವು SOTIF ಪರಿಣಿತರು. ಕಾರ್ಯ: ಪತ್ತೆ ಕಾರ್ಯವು 'ಸಿಸ್ಟಮ್ ಅಖಂಡ ಆದರೆ ಅಸಮರ್ಪಕ'ವಾಗಿರಬಹುದಾದ ಸನ್ನಿವೇಶಗಳನ್ನು ಪಟ್ಟಿ ಮಾಡಿ. ಸಂದರ್ಭ: ಕ್ಯಾಮೆರಾ + ರಾಡಾರ್; ಕಡಿಮೆ ಸೂರ್ಯ, ಹಿಮ, ಸುರಂಗ ನಿರ್ಗಮನ, ಅಸಾಮಾನ್ಯ ವಸ್ತುಗಳು. ಔಟ್ಪುಟ್: ಸನ್ನಿವೇಶ | ಏಕೆ ಅಸಮರ್ಪಕತೆ | ಕಡಿತ ಶಿಫಾರಸು.
ಟೆಂಪ್ಲೇಟ್ 3 - ಗೌಪ್ಯತೆ ನಿಯಂತ್ರಣ:
ಪಾತ್ರ: ನೀವು ಡೇಟಾ ರಕ್ಷಣೆ (KVKK/GDPR) ಸಲಹೆಗಾರರು. ಕಾರ್ಯ: ಡೇಟಾ ಸೆಟ್ ಅನ್ನು ಹಂಚಿಕೊಳ್ಳುವ ಮೊದಲು ಗೌಪ್ಯತೆ ಲೆಕ್ಕಪರಿಶೋಧನೆ ಮಾಡಿ. ಸಂದರ್ಭ: ಫ್ಲೀಟ್ ಟೆಲಿಮೆಟ್ರಿ; ಕಾಲಮ್ಗಳು VIN, GPS, ಡ್ರೈವಿಂಗ್ ಸ್ಕೋರ್ ಅನ್ನು ಒಳಗೊಂಡಿರುತ್ತವೆ. ನಿರ್ಬಂಧ: ಯಾವ ಕ್ಷೇತ್ರಗಳು ವೈಯಕ್ತಿಕ ಡೇಟಾ, ಅವುಗಳನ್ನು ಹೇಗೆ ಅನಾಮಧೇಯಗೊಳಿಸಬೇಕು, ನಾನು ಏನನ್ನು ಹಂಚಿಕೊಳ್ಳಬಾರದು; sort.Output: Field | ಅಪಾಯ | ಶಿಫಾರಸು ಮಾಡಿದ ವಹಿವಾಟು ಚಾರ್ಟ್.
ಟೆಂಪ್ಲೇಟ್ 4 - ಪಕ್ಷಪಾತ ಪರಿಶೀಲನೆ:
ಪಾತ್ರ: ನೀವು ML ಸುರಕ್ಷತೆ ಮತ್ತು ನ್ಯಾಯೋಚಿತ ಲೆಕ್ಕಪರಿಶೋಧಕರಾಗಿದ್ದೀರಿ. ಕಾರ್ಯ: ಪತ್ತೆ ಮಾದರಿಯಲ್ಲಿ ಪಕ್ಷಪಾತದ ಅಪಾಯವನ್ನು ಹೇಗೆ ನೋಡಬೇಕು ಎಂದು ಹೇಳಿ. ಸಂದರ್ಭ: ಪಾದಚಾರಿ ಪತ್ತೆ; ತರಬೇತಿ ಡೇಟಾ ತೂಕದ ದಿನ/ನಗರ. ಔಟ್ಪುಟ್: ಪರಿಶೀಲಿಸಬೇಕಾದ ಸ್ಥಿತಿ | ಅಳತೆ | ಅಪಾಯದ ಚಿಹ್ನೆ.
ದುರ್ಬಲ ಪ್ರಾಂಪ್ಟ್ / ಬಲವಾದ ಪ್ರಾಂಪ್ಟ್
ದುರ್ಬಲ ಪ್ರಾಂಪ್ಟ್:
ಈ ಸ್ವಾಯತ್ತ ಬ್ರೇಕಿಂಗ್ ಸಿಸ್ಟಮ್ ಸುರಕ್ಷಿತವಾಗಿದೆಯೇ, ದೃಢೀಕರಿಸಿ.
AI ಭದ್ರತಾ ಕ್ಲಿಯರೆನ್ಸ್ ಪಡೆಯಲು ಪ್ರಯತ್ನಿಸುವುದು ಅಪಾಯಕಾರಿ; ಅನುಮೋದನೆಯು ಅಧಿಕೃತ ಇಂಜಿನಿಯರ್ಗೆ ಸೇರಿದೆ.
ಶಕ್ತಿಯುತ ಪ್ರಾಂಪ್ಟ್:
ಪಾತ್ರ: ನೀವು ಕ್ರಿಯಾತ್ಮಕ ಸುರಕ್ಷತೆ ಮತ್ತು SOTIF ಸಲಹೆಗಾರರು. ಕಾರ್ಯ: ನನ್ನ ಸ್ವಯಂಚಾಲಿತ ಬ್ರೇಕಿಂಗ್ ಕಾರ್ಯದ ಸುರಕ್ಷತಾ ಮೌಲ್ಯಮಾಪನದಲ್ಲಿ ನಾನು ಯಾವ ಪ್ರಶ್ನೆಗಳನ್ನು ಕೇಳಬೇಕು ಮತ್ತು ಯಾವ ಪುರಾವೆಗಳನ್ನು ಸಂಗ್ರಹಿಸಬೇಕು ಎಂಬುದನ್ನು ಪಟ್ಟಿ ಮಾಡಿ. ಸಂದರ್ಭ: AI ಆಧಾರಿತ ಪತ್ತೆ; ಕ್ಯಾಮೆರಾ+ರಾಡಾರ್; ASIL ಅಧಿಕವಾಗಿರಬಹುದು. ನಿರ್ಬಂಧ: ವ್ಯವಸ್ಥೆಯನ್ನು 'ಅನುಮೋದಿಸಿ'; ISO 26262 (ದೋಷ) ಮತ್ತು SOTIF (ಕೊರತೆ) ಪ್ರಕಾರ ಪ್ರಶ್ನೆಗಳು ಮತ್ತು ಪುರಾವೆಗಳ ಪ್ರತ್ಯೇಕ ಪಟ್ಟಿಗಳನ್ನು ಒದಗಿಸಿ; ಅಂತಿಮ ಅನುಮೋದನೆಯು ಅಧಿಕೃತ ಭದ್ರತಾ ಇಂಜಿನಿಯರ್ನೊಂದಿಗೆ ಇರುತ್ತದೆ ಎಂದು ಒತ್ತಿಹೇಳಿ. ಔಟ್ಪುಟ್: ಫ್ರೇಮ್ವರ್ಕ್ | ಪ್ರಶ್ನೆ | ಅಗತ್ಯ ಸಾಕ್ಷ್ಯ ಕೋಷ್ಟಕ.
ಸಾಮಾನ್ಯ ತಪ್ಪುಗಳು
- "ಯಾವುದೇ ಅಸಮರ್ಪಕ" ಅನ್ನು "ಸುರಕ್ಷಿತ" ನೊಂದಿಗೆ ಗೊಂದಲಗೊಳಿಸುವುದು. SOTIF ಕೊರತೆಯು ಅಸಮರ್ಪಕವಾಗಿ ಕಾರ್ಯನಿರ್ವಹಿಸದೆ ಕೊಲ್ಲಬಹುದು.
- AI ಭದ್ರತಾ ಅನುಮತಿಯನ್ನು ಪಡೆಯಲಾಗುತ್ತಿದೆ. ಅನುಮೋದನೆ ಮತ್ತು ಜವಾಬ್ದಾರಿಯು ಅಧಿಕೃತ ಇಂಜಿನಿಯರ್ಗೆ ಇರುತ್ತದೆ.
- ಸುರಕ್ಷತೆಯ ಪುರಾವೆಯಾಗಿ ಮಾದರಿಯ ನಿಖರತೆಯನ್ನು ತಪ್ಪಾಗಿ ಗ್ರಹಿಸುವುದು. 99.9% ನಿಖರತೆಯು ಉಳಿದ ಅಪಾಯವನ್ನು ನಿರ್ವಹಿಸಲಾಗಿದೆ ಎಂದು ಸೂಚಿಸುವುದಿಲ್ಲ.
- ವೈಯಕ್ತಿಕ ಡೇಟಾವನ್ನು ರಕ್ಷಿಸುತ್ತಿಲ್ಲ. VIN/ಸ್ಥಳ/ಚಾಲನಾ ನಡವಳಿಕೆಯು KVKK/GDPR ವ್ಯಾಪ್ತಿಯಲ್ಲಿದೆ.
- ಪಕ್ಷಪಾತ ಮತ್ತು ಅತಿಯಾದ ಆತ್ಮವಿಶ್ವಾಸವನ್ನು ನಿರ್ಲಕ್ಷಿಸುವುದು. ಅಸಮತೋಲಿತ ಡೇಟಾ ಮತ್ತು ಯಾಂತ್ರೀಕೃತಗೊಂಡ ಕುರುಡು ನಂಬಿಕೆ ದುರ್ಬಲತೆಗಳಾಗಿವೆ.
ಸಾರಾಂಶದಲ್ಲಿ
- ISO 26262 ವೈಫಲ್ಯದ ಅಪಾಯವನ್ನು ನಿರ್ವಹಿಸುತ್ತದೆ (ASIL ನೊಂದಿಗೆ), ಆದರೆ ISO 21448/SOTIF ವೈಫಲ್ಯದ ಅಪಾಯವನ್ನು ವೈಫಲ್ಯವಿಲ್ಲದೆ ನಿರ್ವಹಿಸುತ್ತದೆ; AI ಪತ್ತೆಹಚ್ಚುವಿಕೆಯಲ್ಲಿ ಎರಡೂ ನಿರ್ಣಾಯಕವಾಗಿವೆ.
- ISO/SAE 21434 ಸೈಬರ್ ಭದ್ರತೆ; ಪ್ರತಿಕೂಲ ಮತ್ತು ಡೇಟಾ ವಿಷಕಾರಿ ದಾಳಿಗಳು AI- ನಿರ್ದಿಷ್ಟ ಬೆದರಿಕೆಗಳಾಗಿವೆ.
- KVKK/GDPR ವ್ಯಾಪ್ತಿಯಲ್ಲಿ ಡೇಟಾ ಕಡಿಮೆಗೊಳಿಸುವಿಕೆ, ಉದ್ದೇಶದ ಮಿತಿ ಮತ್ತು ಅನಾಮಧೇಯಗೊಳಿಸುವಿಕೆ ಕಡ್ಡಾಯವಾಗಿದೆ; VIN/ಸ್ಥಳವು ವೈಯಕ್ತಿಕ ಡೇಟಾ.
- ಪೂರ್ವಾಗ್ರಹ, ಅತಿಯಾದ ಆತ್ಮವಿಶ್ವಾಸ ಮತ್ತು ಜವಾಬ್ದಾರಿಯ ನಷ್ಟವು ಮುಖ್ಯ ನೈತಿಕ ಅಪಾಯಗಳಾಗಿವೆ.
- AI ಔಟ್ಪುಟ್ ಅರ್ಹ ಇಂಜಿನಿಯರ್ ಅನುಮೋದನೆಗೆ ಬದಲಿಯಾಗಿಲ್ಲ; ಭದ್ರತೆ-ನಿರ್ಣಾಯಕ ನಿರ್ಧಾರ ಮತ್ತು ಸಹಿ ಯಾವಾಗಲೂ ವ್ಯಕ್ತಿಗೆ ಸೇರಿದೆ.
ಅಪ್ಲಿಕೇಶನ್ ಕಾರ್ಯ
ಸುರಕ್ಷತೆ-ಸಂಬಂಧಿತ ಕಾರ್ಯವನ್ನು ಆಯ್ಕೆಮಾಡಿ (ಉದಾ. ಲೇನ್ ಕೀಪಿಂಗ್). (1) ಈ ಕಾರ್ಯದ ASIL ಮಟ್ಟವು ತೀವ್ರತೆ/ಮಾನ್ಯತೆ/ನಿಯಂತ್ರಣ ಆಯಾಮಗಳ ಜೊತೆಗೆ ಏಕೆ ಹೆಚ್ಚು/ಕಡಿಮೆಯಾಗಿರಬಹುದು ಎಂಬುದನ್ನು ಚರ್ಚಿಸಿ. (2) ಟೆಂಪ್ಲೇಟ್ 2 ನೊಂದಿಗೆ 5 "ಸಿಸ್ಟಮ್ ಘನ ಆದರೆ ಅಸಮರ್ಪಕ" ಸನ್ನಿವೇಶಗಳನ್ನು ರಚಿಸಿ. (3) ಗೌಪ್ಯತೆಯು ಟೆಂಪ್ಲೇಟ್ 3 ನೊಂದಿಗೆ ಸಂಬಂಧಿತ ಡೇಟಾಸೆಟ್ ಅನ್ನು ಆಡಿಟ್ ಮಾಡಿ. (4) "ಮಾದರಿ ದೃಢೀಕರಿಸಿದೆ" ಎಂದು ಹೇಳುವುದು ಏಕೆ ರಕ್ಷಣೆಯಾಗಿಲ್ಲ ಎಂಬುದನ್ನು ವಿವರಿಸಿ.
ಪರಿಶೀಲನಾಪಟ್ಟಿ
- [ ] ನಾನು ಕಾರ್ಯದ ನೈಜ ಆಯಾಮಗಳನ್ನು ಮೌಲ್ಯಮಾಪನ ಮಾಡಿದ್ದೇನೆ (ನಾನು ನಿಖರವಾದ ನಿಯೋಜನೆಯನ್ನು ಅಧಿಕಾರಕ್ಕೆ ಬಿಟ್ಟಿದ್ದೇನೆ).
- [ ] ನಾನು ISO 26262 (ಅಸಮರ್ಪಕ) ಮತ್ತು SOTIF (ಅಸಮರ್ಪಕತೆ) ನಡುವಿನ ವ್ಯತ್ಯಾಸವನ್ನು ಮಾಡಿದ್ದೇನೆ.
- [ ] ನಾನು ಸೈಬರ್ ಭದ್ರತೆ (ವಿರೋಧಿ/ವಿಷ) ಅಪಾಯವನ್ನು ಗಣನೆಗೆ ತೆಗೆದುಕೊಂಡಿದ್ದೇನೆ.
- [ ] ನಾನು ವೈಯಕ್ತಿಕ ಡೇಟಾವನ್ನು ಅನಾಮಧೇಯಗೊಳಿಸಿದ್ದೇನೆ ಮತ್ತು ಕಡಿಮೆಗೊಳಿಸಿದ್ದೇನೆ.
- [ ] ನಾನು ಪಕ್ಷಪಾತ ಮತ್ತು ಅತಿಯಾದ ಆತ್ಮವಿಶ್ವಾಸದ ಅಪಾಯಗಳನ್ನು ಪರಿಶೀಲಿಸಿದೆ.
- [ ] ಭದ್ರತಾ ಕ್ಲಿಯರೆನ್ಸ್ ಅರ್ಹ ಇಂಜಿನಿಯರ್ ಬಳಿ ಇದೆ ಎಂದು ನಾನು ದೃಢಪಡಿಸಿದ್ದೇನೆ.