ਲਾਭ:
- ISO 26262 ਕਾਰਜਸ਼ੀਲ ਸੁਰੱਖਿਆ ਅਤੇ ISO 21448 (SOTIF) ਫਰੇਮਵਰਕ ਅਤੇ ਨਕਲੀ ਬੁੱਧੀ ਵਾਲੇ ਸਿਸਟਮਾਂ 'ਤੇ ਉਨ੍ਹਾਂ ਦੇ ਪ੍ਰਭਾਵਾਂ ਨੂੰ ਸਮਝਾਉਣ ਦੀ ਸਮਰੱਥਾ
- ਆਟੋਮੋਟਿਵ ਸੰਦਰਭ ਵਿੱਚ ਡੇਟਾ ਗੋਪਨੀਯਤਾ, ਡਰਾਈਵਰ ਡੇਟਾ, ਸਾਈਬਰ ਸੁਰੱਖਿਆ (ISO/SAE 21434) ਅਤੇ ਨੈਤਿਕ ਜੋਖਮਾਂ ਦਾ ਪ੍ਰਬੰਧਨ ਕਰਨ ਦੀ ਸਮਰੱਥਾ
- ਇਹ ਸਮਝ ਕੇ ਸੁਰੱਖਿਆ-ਨਾਜ਼ੁਕ ਫੈਸਲਿਆਂ ਲਈ ਮਨੁੱਖੀ ਜ਼ਿੰਮੇਵਾਰੀ ਨੂੰ ਬਰਕਰਾਰ ਰੱਖਣ ਦੀ ਸਮਰੱਥਾ ਕਿ ਏਆਈ ਆਉਟਪੁੱਟ ਸਮਰੱਥ ਇੰਜੀਨੀਅਰ ਦੀ ਪ੍ਰਵਾਨਗੀ ਦਾ ਬਦਲ ਨਹੀਂ ਹੈ
ਤੁਸੀਂ ਇਸ ਮੋਡੀਊਲ ਦੀ ਸਭ ਤੋਂ ਨਾਜ਼ੁਕ ਇਕਾਈ ਵਿੱਚ ਹੋ। ਹੁਣ ਤੱਕ ਅਸੀਂ AI ਨੂੰ ਡਿਜ਼ਾਈਨ ਤੋਂ ਲੈ ਕੇ ਨਿਰਮਾਣ ਤੱਕ, ਟੈਸਟਿੰਗ ਤੋਂ ਲੈ ਕੇ ਸਪਲਾਈ ਚੇਨ ਤੱਕ ਇੱਕ ਐਕਸਲੇਟਰ ਵਜੋਂ ਦੇਖਿਆ ਹੈ। ਪਰ ਆਟੋਮੋਟਿਵ ਵਿੱਚ ਨਿਰਣਾਇਕ ਸਵਾਲ ਇਹ ਹੈ: ਕੀ ਇਹ ਸਿਸਟਮ ਕਿਸੇ ਨੂੰ ਨੁਕਸਾਨ ਪਹੁੰਚਾਏਗਾ ਅਤੇ ਕੌਣ ਜ਼ਿੰਮੇਵਾਰ ਹੈ? ਇਹ ਇਕਾਈ ਸਾਦੀ ਭਾਸ਼ਾ ਵਿੱਚ ਇੱਕ ਸੁਰੱਖਿਆ-ਨਾਜ਼ੁਕ ਉਦਯੋਗ ਵਿੱਚ ਜ਼ਿੰਮੇਵਾਰੀ ਨਾਲ AI ਦੀ ਵਰਤੋਂ ਕਰਨ ਲਈ ਫਰੇਮਵਰਕ ਨੂੰ ਕਵਰ ਕਰਦੀ ਹੈ — ਕਾਰਜਾਤਮਕ ਸੁਰੱਖਿਆ, SOTIF, ਸਾਈਬਰ ਸੁਰੱਖਿਆ, ਗੋਪਨੀਯਤਾ, ਅਤੇ ਨੈਤਿਕਤਾ। ਮੁੱਖ ਸਿਧਾਂਤ ਸਥਿਰ ਰਹਿੰਦਾ ਹੈ: AI ਆਉਟਪੁੱਟ ਕਦੇ ਵੀ ਸਮਰੱਥ ਇੰਜੀਨੀਅਰ ਦੀ ਪ੍ਰਵਾਨਗੀ ਦੀ ਥਾਂ ਨਹੀਂ ਲੈਂਦੀ; ਸੁਰੱਖਿਆ-ਨਾਜ਼ੁਕ ਫੈਸਲਾ ਅਤੇ ਜ਼ਿੰਮੇਵਾਰੀ ਮਨੁੱਖ ਦੀ ਹੈ।
ISO 26262: ਕਾਰਜਸ਼ੀਲ ਸੁਰੱਖਿਆ
ISO 26262 ਸੜਕੀ ਵਾਹਨਾਂ ਦੇ ਇਲੈਕਟ੍ਰੀਕਲ/ਇਲੈਕਟ੍ਰਾਨਿਕ ਸਿਸਟਮਾਂ ਲਈ ਕਾਰਜਸ਼ੀਲ ਸੁਰੱਖਿਆ ਮਿਆਰ ਹੈ। ਕਾਰਜਾਤਮਕ ਸੁਰੱਖਿਆ; ਇਹ ਸੁਨਿਸ਼ਚਿਤ ਕਰਨ ਨਾਲ ਸਬੰਧਤ ਹੈ ਕਿ ਜਦੋਂ ਕੋਈ ਸਿਸਟਮ ਫੇਲ ਹੋ ਜਾਂਦਾ ਹੈ (ਇੱਕ ਸੈਂਸਰ ਟੁੱਟ ਜਾਂਦਾ ਹੈ, ਇੱਕ ਸੌਫਟਵੇਅਰ ਫੇਲ ਹੋ ਜਾਂਦਾ ਹੈ) ਤਾਂ ਇਹ ਇੱਕ ਖ਼ਤਰਨਾਕ ਸਥਿਤੀ ਵੱਲ ਅਗਵਾਈ ਨਹੀਂ ਕਰਦਾ।
ਇਸ ਮਿਆਰ ਦੇ ਕੇਂਦਰ ਵਿੱਚ ASIL (ਆਟੋਮੋਟਿਵ ਸੇਫਟੀ ਇੰਟੈਗਰਿਟੀ ਲੈਵਲ) ਹੈ। ਖ਼ਤਰੇ ਦਾ ਮੁਲਾਂਕਣ ਤਿੰਨ ਮਾਪਾਂ ਵਿੱਚ ਕੀਤਾ ਜਾਂਦਾ ਹੈ:
- ਗੰਭੀਰਤਾ: ਜੇ ਇਹ ਹੋਇਆ ਤਾਂ ਇਹ ਕਿੰਨਾ ਬੁਰਾ ਹੋਵੇਗਾ? (ਮਾਮੂਲੀ ਸੱਟ ਜਾਂ ਮੌਤ)
- ਐਕਸਪੋਜ਼ਰ: ਇਹ ਕਿੰਨੀ ਵਾਰ ਹੁੰਦਾ ਹੈ?
- ਨਿਯੰਤਰਣਯੋਗਤਾ: ਡਰਾਈਵਰ ਸਥਿਤੀ ਨੂੰ ਕਿੰਨਾ ਕੁ ਕਾਬੂ ਕਰ ਸਕਦਾ ਹੈ?
ਇਹਨਾਂ ਤਿੰਨਾਂ ਦੇ ਸੰਯੁਕਤ ਨਤੀਜੇ ASIL A (ਸਭ ਤੋਂ ਹੇਠਲੇ) ਤੋਂ ASIL D (ਸਭ ਤੋਂ ਉੱਚੇ, ਜਿਵੇਂ ਕਿ ਬ੍ਰੇਕਿੰਗ, ਸਟੀਅਰਿੰਗ) ਤੱਕ ਇੱਕ ਪੱਧਰ ਵਿੱਚ ਹੁੰਦੇ ਹਨ। ਜਿਵੇਂ-ਜਿਵੇਂ ਪੱਧਰ ਵਧਦਾ ਜਾਂਦਾ ਹੈ, ਵਿਕਾਸ, ਟੈਸਟਿੰਗ ਅਤੇ ਦਸਤਾਵੇਜ਼ੀ ਲੋੜਾਂ ਸਖ਼ਤ ਹੋ ਜਾਂਦੀਆਂ ਹਨ।
ਮੁੱਖ
ਨਮੂਨਾ ਸਿਸਟਮ
ਲੋੜ ਦੀ ਤੀਬਰਤਾ
ਏ.
ਅੰਦਰੂਨੀ ਰੋਸ਼ਨੀ ਦੀ ਖਰਾਬੀ
ਘੱਟ
ਬੀ.
ਪੂਛ ਰੋਸ਼ਨੀ
ਮੱਧਮ
ਸੀ.
ਕੁਝ ADAS ਫੰਕਸ਼ਨ
ਉੱਚ
ਡੀ.
ਬ੍ਰੇਕ, ਸਟੀਅਰਿੰਗ, ਏਅਰਬੈਗ
ਸਭ ਤੋਂ ਉੱਚਾ
ਸੰਕੇਤ: ਕਿਸੇ ਫੰਕਸ਼ਨ ਦੇ ਮੁੱਖ ਪੱਧਰ ਨੂੰ ਜਾਣਨਾ ਤੁਹਾਨੂੰ ਦੱਸਦਾ ਹੈ ਕਿ ਉਸ ਫੰਕਸ਼ਨ ਵਿੱਚ AI ਦੀ ਵਰਤੋਂ ਕਰਨ ਲਈ ਕਿੰਨਾ ਧਿਆਨ ਦੇਣ ਦੀ ਲੋੜ ਹੈ। ਕਿਸੇ ਫੰਕਸ਼ਨ ਵਿੱਚ AI ਆਉਟਪੁੱਟ 'ਤੇ ਅਧਾਰਤ ਕੋਈ ਵੀ ਫੈਸਲਾ ਸੁਤੰਤਰ ਸੁਰੱਖਿਆ ਤਸਦੀਕ ਤੋਂ ਬਿਨਾਂ ਸਵੀਕਾਰ ਨਹੀਂ ਕੀਤਾ ਜਾ ਸਕਦਾ ਹੈ।
ISO 21448 (SOTIF): ਉਦੇਸ਼ ਫੰਕਸ਼ਨ ਦੀ ਸੁਰੱਖਿਆ
ਕਲਾਸੀਕਲ ਫੰਕਸ਼ਨਲ ਸੇਫਟੀ (ISO 26262) ਇਸ ਸਵਾਲ 'ਤੇ ਕੇਂਦ੍ਰਿਤ ਹੈ ਕਿ "ਜੇ ਸਿਸਟਮ ਫੇਲ ਹੋ ਜਾਂਦਾ ਹੈ ਤਾਂ ਕੀ ਹੁੰਦਾ ਹੈ?" ਪਰ ਆਰਟੀਫੀਸ਼ੀਅਲ ਇੰਟੈਲੀਜੈਂਸ ਖੋਜ ਪ੍ਰਣਾਲੀਆਂ ਵਿੱਚ ਇੱਕ ਨਵੀਂ ਸਮੱਸਿਆ ਹੈ: ਭਾਵੇਂ ਸਿਸਟਮ ਕਦੇ ਵੀ ਖਰਾਬ ਨਹੀਂ ਹੁੰਦਾ, ਇਹ ਨਾਕਾਫੀ ਹੋ ਸਕਦਾ ਹੈ। ਕੈਮਰਾ ਵਧੀਆ ਕੰਮ ਕਰਦਾ ਹੈ ਪਰ ਬਰਫੀਲੀ ਸਲੈਬ ਨੂੰ ਪਛਾਣ ਨਹੀਂ ਸਕਦਾ; ਰਾਡਾਰ ਠੋਸ ਹੈ, ਪਰ ਇਹ ਇੱਕ ਭੂਤ ਸਿਗਨਲ ਵਜੋਂ ਇੱਕ ਸਥਿਰ ਵਾਹਨ ਨੂੰ ਨਜ਼ਰਅੰਦਾਜ਼ ਕਰਦਾ ਹੈ। ਇੱਥੇ ਕੋਈ ਹਾਰਡਵੇਅਰ/ਸਾਫਟਵੇਅਰ ਅਸਫਲਤਾ ਨਹੀਂ ਹੈ; ਸਮੱਸਿਆ ਫੰਕਸ਼ਨ ਦੇ ਨਿਯਤ ਦਾਇਰੇ ਦੀ ਸੀਮਾ 'ਤੇ ਹੈ।
ISO 21448 - SOTIF (ਇੱਛਤ ਕਾਰਜਸ਼ੀਲਤਾ ਦੀ ਸੁਰੱਖਿਆ) ਬਿਲਕੁਲ ਇਸ ਪਾੜੇ ਨੂੰ ਸੰਬੋਧਿਤ ਕਰਦਾ ਹੈ: ਅਣਪਛਾਤੇ ਦ੍ਰਿਸ਼ਾਂ, ਖੋਜ ਸੀਮਾਵਾਂ ਅਤੇ ਅਣਪਛਾਤੀਆਂ ਸਥਿਤੀਆਂ ਤੋਂ ਪੈਦਾ ਹੋਣ ਵਾਲੇ ਜੋਖਮਾਂ ਦਾ ਪ੍ਰਬੰਧਨ ਕਰਨਾ, ਭਾਵੇਂ ਸਿਸਟਮ ਡਿਜ਼ਾਈਨ ਕੀਤੇ ਅਨੁਸਾਰ ਕੰਮ ਕਰਦਾ ਹੈ। AI-ਅਧਾਰਿਤ ADAS/ਆਟੋਨੋਮਸ ਡ੍ਰਾਈਵਿੰਗ ਵਿੱਚ, SOTIF ISO 26262 ਜਿੰਨਾ ਮਹੱਤਵਪੂਰਨ ਹੈ।
ਫਰੇਮ
ਫੋਕਸ
ਉਦਾਹਰਨ
ISO 26262
ਅਸਫਲਤਾ ਦੇ ਕਾਰਨ ਜੋਖਮ
ਸੈਂਸਰ ਟੁੱਟ ਜਾਂਦਾ ਹੈ, ਸਿਗਨਲ ਗਾਇਬ ਹੋ ਜਾਂਦਾ ਹੈ
ISO 21448 (SOTIF)
ਅਯੋਗਤਾ/ਗੈਰ-ਮਾਨਤਾ ਦਾ ਜੋਖਮ
ਰਗਡ ਕੈਮਰਾ ਬਰਫੀਲੇ ਸਲੈਬ ਨੂੰ ਨਹੀਂ ਪਛਾਣਦਾ
ISO/SAE 21434
ਸਾਈਬਰ ਸੁਰੱਖਿਆ
ਸਿਸਟਮ ਹਮਲਾ, ਡਾਟਾ ਹੇਰਾਫੇਰੀ
ਸਾਵਧਾਨ: AI ਮਾਡਲ ਅੰਕੜਾਤਮਕ ਹਨ; ਉਹ ਇਸ ਗੱਲ ਦੀ ਗਾਰੰਟੀ ਨਹੀਂ ਦੇ ਸਕਦੇ ਕਿ ਉਹ "ਹਰ ਸਥਿਤੀ ਨੂੰ ਸਹੀ ਢੰਗ ਨਾਲ ਦੇਖਣਗੇ"। SOTIF ਦਾ ਉਦੇਸ਼ ਇਹਨਾਂ ਅੰਦਰੂਨੀ ਤੌਰ 'ਤੇ ਸੀਮਤ ਪ੍ਰਣਾਲੀਆਂ ਵਿੱਚ ਅਣਜਾਣ ਖਤਰਨਾਕ ਦ੍ਰਿਸ਼ਾਂ ਨੂੰ ਸੀਮਤ ਕਰਨਾ ਅਤੇ ਬਾਕੀ ਬਚੇ ਜੋਖਮ ਨੂੰ ਸਵੀਕਾਰਯੋਗ ਪੱਧਰ ਤੱਕ ਘਟਾਉਣਾ ਹੈ। "ਮਾਡਲ 99.9% ਸਹੀ ਹੈ" ਸੁਰੱਖਿਆ ਦਾ ਸਬੂਤ ਨਹੀਂ ਹੈ।
ISO/SAE 21434: ਸਾਈਬਰ ਸੁਰੱਖਿਆ
ਕਨੈਕਟਡ ਅਤੇ ਸਾਫਟਵੇਅਰ-ਪ੍ਰਭਾਸ਼ਿਤ ਵਾਹਨ ਸਾਈਬਰ ਹਮਲੇ ਲਈ ਕਮਜ਼ੋਰ ਹਨ। ਇੱਕ ਰਿਮੋਟ ਹਮਲਾਵਰ ਬ੍ਰੇਕ ਕਮਾਂਡ ਨੂੰ ਬਦਲ ਸਕਦਾ ਹੈ, ਟੈਲੀਮੈਟਰੀ ਚੋਰੀ ਕਰ ਸਕਦਾ ਹੈ, ਜਾਂ ਖੋਜ ਮਾਡਲ ਨੂੰ ਚਲਾ ਸਕਦਾ ਹੈ (ਵਿਰੋਧੀ ਹਮਲਾ: ਇੱਕ ਪਲੇਟ 'ਤੇ ਇੱਕ ਛੋਟਾ ਸਟਿੱਕਰ ਲਗਾ ਕੇ ਮਾਡਲ ਨੂੰ ਗਲਤ ਪਛਾਣਨਾ)। ISO/SAE 21434 ਵਾਹਨ ਸਾਈਬਰ ਸੁਰੱਖਿਆ ਲਈ ਇੰਜੀਨੀਅਰਿੰਗ ਢਾਂਚਾ ਹੈ। ਨਕਲੀ ਬੁੱਧੀ ਦੇ ਸੰਦਰਭ ਵਿੱਚ, ਦੋ ਜੋਖਮ ਸਾਹਮਣੇ ਆਉਂਦੇ ਹਨ: ਮਾਡਲ ਨੂੰ ਧੋਖਾ ਦੇਣਾ (ਵਿਰੋਧੀ) ਅਤੇ ਸਿਖਲਾਈ ਡੇਟਾ ਨੂੰ ਜ਼ਹਿਰ ਦੇਣਾ (ਡੇਟਾ ਜ਼ਹਿਰ)। ਸੁਰੱਖਿਆ-ਨਾਜ਼ੁਕ AI ਪ੍ਰਣਾਲੀਆਂ ਨੂੰ ਇਹਨਾਂ ਹਮਲਿਆਂ ਦੇ ਵਿਰੁੱਧ ਟੈਸਟ ਕੀਤਾ ਜਾਣਾ ਚਾਹੀਦਾ ਹੈ।
ਗੋਪਨੀਯਤਾ ਅਤੇ ਨਿੱਜੀ ਡੇਟਾ
ਆਧੁਨਿਕ ਵਾਹਨ "ਪਹੀਏ 'ਤੇ ਡਾਟਾ ਕੇਂਦਰ" ਹੈ: ਸਥਾਨ, ਡਰਾਈਵਿੰਗ ਵਿਵਹਾਰ, ਆਡੀਓ, ਇੱਥੋਂ ਤੱਕ ਕਿ ਕੈਬਿਨ ਕੈਮਰਾ। ਇਸ ਵਿੱਚੋਂ ਜ਼ਿਆਦਾਤਰ ਨਿੱਜੀ ਡੇਟਾ ਹੈ ਅਤੇ KVKK (Türkiye) ਅਤੇ GDPR (ਯੂਰਪ) ਦੁਆਰਾ ਕਵਰ ਕੀਤਾ ਗਿਆ ਹੈ। VIN (ਚੈਸਿਸ ਨੰਬਰ) ਵਾਹਨ ਅਤੇ ਅਸਿੱਧੇ ਤੌਰ 'ਤੇ ਇਸਦੇ ਮਾਲਕ ਦੀ ਪਛਾਣ ਕਰ ਸਕਦਾ ਹੈ। ਮੂਲ ਸਿਧਾਂਤ:
- ਡੇਟਾ ਮਿਨੀਮਾਈਜ਼ੇਸ਼ਨ: ਸਿਰਫ ਉਹੀ ਇਕੱਠਾ ਕਰੋ ਜੋ ਲੋੜੀਂਦਾ ਹੈ।
- ਉਦੇਸ਼ ਸੀਮਾ: ਡੇਟਾ ਦੀ ਵਰਤੋਂ ਉਸ ਉਦੇਸ਼ ਤੋਂ ਇਲਾਵਾ ਹੋਰ ਉਦੇਸ਼ਾਂ ਲਈ ਨਾ ਕਰੋ ਜਿਸ ਲਈ ਇਹ ਇਕੱਤਰ ਕੀਤਾ ਗਿਆ ਸੀ।
- ਅਗਿਆਤਕਰਨ/ਛਦਨਾਮਕਰਨ: ਨਿੱਜੀ ਤੌਰ 'ਤੇ ਪਛਾਣ ਕਰਨ ਵਾਲੀ ਜਾਣਕਾਰੀ ਨੂੰ ਹਟਾਓ ਜਾਂ ਏਨਕੋਡ ਕਰੋ।
- ਸਪੱਸ਼ਟ ਸਹਿਮਤੀ ਅਤੇ ਪਾਰਦਰਸ਼ਤਾ: ਡਰਾਈਵਰ ਨੂੰ ਪਤਾ ਹੋਣਾ ਚਾਹੀਦਾ ਹੈ ਕਿ ਕੀ ਇਕੱਠਾ ਕੀਤਾ ਜਾ ਰਿਹਾ ਹੈ।
- ਸੁਰੱਖਿਅਤ ਸਟੋਰੇਜ ਅਤੇ ਟ੍ਰਾਂਸਫਰ।
ਸਾਵਧਾਨ: ਕੱਚਾ VIN, ਟਿਕਾਣਾ ਇਤਿਹਾਸ, ਜਾਂ ਜਨਤਕ ਕਲਾਉਡ AI ਟੂਲ ਨੂੰ ਡ੍ਰਾਈਵਿੰਗ ਵਿਵਹਾਰ ਭੇਜਣਾ ਗੋਪਨੀਯਤਾ ਦੀ ਉਲੰਘਣਾ ਅਤੇ ਇਕਰਾਰਨਾਮੇ ਦੇ ਜੋਖਮ ਦੋਵੇਂ ਹੋ ਸਕਦੇ ਹਨ। ਇਸ ਡੇਟਾ ਦੇ ਨਾਲ ਕੰਮ ਕਰਦੇ ਸਮੇਂ, ਇਸਨੂੰ ਅਗਿਆਤ ਕਰੋ ਅਤੇ ਇੱਕ ਸੰਸਥਾਗਤ, ਡੇਟਾ-ਸੁਰੱਖਿਅਤ ਵਾਤਾਵਰਣ ਦੀ ਵਰਤੋਂ ਕਰੋ।
ਨੈਤਿਕਤਾ ਅਤੇ ਇੰਜੀਨੀਅਰ ਦੀ ਜ਼ਿੰਮੇਵਾਰੀ
ਨਕਲੀ ਬੁੱਧੀ ਆਪਣੇ ਨਾਲ ਕੁਝ ਨੈਤਿਕ ਜੋਖਮ ਲਿਆਉਂਦੀ ਹੈ:
- ਪੱਖਪਾਤ: ਜੇਕਰ ਸਿਖਲਾਈ ਡੇਟਾ ਕੁਝ ਸਥਿਤੀਆਂ (ਜਿਵੇਂ ਕਿ ਦਿਨ ਦਾ ਸਮਾਂ, ਹਲਕੀ ਚਮੜੀ, ਕੁਝ ਖੇਤਰੀ ਸੜਕਾਂ) 'ਤੇ ਭਾਰੂ ਹੈ, ਤਾਂ ਮਾਡਲ ਘੱਟ ਪ੍ਰਸਤੁਤ ਸਥਿਤੀਆਂ (ਰਾਤ, ਵੱਖ-ਵੱਖ ਸਥਿਤੀਆਂ) ਵਿੱਚ ਮਾੜਾ ਪ੍ਰਦਰਸ਼ਨ ਕਰ ਸਕਦਾ ਹੈ। ਇਹ ਇੱਕ ਕਮਜ਼ੋਰੀ ਹੈ।
- ਓਵਰ-ਆਟੋਮੇਸ਼ਨ (ਆਟੋਮੇਸ਼ਨ ਪੱਖਪਾਤ): ਲੋਕ ਅੰਨ੍ਹੇਵਾਹ ਆਟੋਮੇਸ਼ਨ 'ਤੇ ਭਰੋਸਾ ਕਰਦੇ ਹਨ ਅਤੇ ਆਪਣੇ ਖੁਦ ਦੇ ਨਿਰਣੇ ਨੂੰ ਓਵਰਰਾਈਡ ਕਰਦੇ ਹਨ। ਜੇ ਟੈਸਟ ਇੰਜੀਨੀਅਰ ਕੱਚੇ ਡੇਟਾ ਨੂੰ ਦੇਖਣਾ ਬੰਦ ਕਰ ਦਿੰਦਾ ਹੈ ਕਿਉਂਕਿ AI ਕਹਿੰਦਾ ਹੈ "ਪਾਸ", ਇਹ ਇੱਕ ਖਤਰਨਾਕ ਰੁਝਾਨ ਹੈ।
- ਜ਼ਿੰਮੇਵਾਰੀ ਦਾ ਨੁਕਸਾਨ: "ਨਿਰਧਾਰਤ ਮਾਡਲ" ਇੱਕ ਬਚਾਅ ਨਹੀਂ ਹੈ. ਫੈਸਲੇ ਦੇ ਪਿੱਛੇ ਹਸਤਾਖਰ ਕਰਨ ਵਾਲਾ ਵਿਅਕਤੀ ਹਮੇਸ਼ਾ ਹੋਣਾ ਚਾਹੀਦਾ ਹੈ।
ਮਿੰਨੀ ਕੇਸ ਅਧਿਐਨ
ਕੇਸ 1 - SOTIF ਸੀਮਾ। ਇੱਕ ਆਟੋਮੈਟਿਕ ਐਮਰਜੈਂਸੀ ਬ੍ਰੇਕਿੰਗ ਸਿਸਟਮ ਸਾਰੇ ਪ੍ਰਯੋਗਸ਼ਾਲਾ ਟੈਸਟਾਂ ਨੂੰ ਪਾਸ ਕਰਦਾ ਹੈ, ਬਿਨਾਂ ਕਿਸੇ ਖਰਾਬੀ ਦੇ। ਖੇਤ ਵਿੱਚ, ਘੱਟ ਧੁੱਪ ਵਿੱਚ, ਇੱਕ ਚਿੱਟੇ ਰੰਗ ਦਾ ਟਰੱਕ ਆਪਣੇ ਟ੍ਰੇਲਰ ਨੂੰ ਅਸਮਾਨ ਵੱਲ ਗਲਤੀ ਕਰਦਾ ਹੈ ਅਤੇ ਦੇਰ ਨਾਲ ਬ੍ਰੇਕ ਕਰਦਾ ਹੈ। ਇਹ ਕੋਈ ਖਰਾਬੀ ਨਹੀਂ ਹੈ, ਪਰ ਇੱਕ SOTIF ਕਮਜ਼ੋਰੀ ਹੈ: ਸਿਸਟਮ ਬਰਕਰਾਰ ਹੈ ਪਰ ਦ੍ਰਿਸ਼ ਖੋਜ ਸੀਮਾ ਤੋਂ ਬਾਹਰ ਹੈ। ਟੀਮ ਇਸ ਦ੍ਰਿਸ਼ ਨੂੰ ਟੈਸਟ ਲਾਇਬ੍ਰੇਰੀ ਵਿੱਚ ਜੋੜਦੀ ਹੈ ਅਤੇ ਰਾਡਾਰ ਫਿਊਜ਼ਨ ਨੂੰ ਮਜ਼ਬੂਤ ਕਰਦੀ ਹੈ। ਸਿੱਟਾ: "ਕੋਈ ਅਸਫਲਤਾ" ਸੁਰੱਖਿਆ ਦਾ ਸਬੂਤ ਨਹੀਂ ਹੈ; ਕਮੀ ਵੀ ਇੱਕ ਖਤਰਾ ਹੈ।
ਕੇਸ 2 - ਪੱਖਪਾਤੀ ਡੇਟਾ। ਇੱਕ ਪੈਦਲ ਯਾਤਰੀ ਖੋਜ ਮਾਡਲ ਨੂੰ ਮੁੱਖ ਤੌਰ 'ਤੇ ਦਿਨ ਦੇ ਡੇਟਾ ਨਾਲ ਸਿਖਲਾਈ ਦਿੱਤੀ ਗਈ ਸੀ; ਰਾਤ ਦੀ ਯਾਦ ਕਾਫ਼ੀ ਘੱਟ ਹੈ। ਟੀਮ ਰਾਤ ਅਤੇ ਘੱਟ ਰੋਸ਼ਨੀ ਦੇ ਡੇਟਾ ਨੂੰ ਸੰਤੁਲਿਤ ਅਤੇ ਦੁਬਾਰਾ ਸਿਖਲਾਈ ਦਿੰਦੀ ਹੈ ਅਤੇ ਰਾਤ ਦੇ ਦ੍ਰਿਸ਼ਾਂ ਨੂੰ ਵੱਖਰੇ ਤੌਰ 'ਤੇ ਰਿਪੋਰਟ ਕਰਦੀ ਹੈ। ਸਿੱਟਾ: ਅਸੰਤੁਲਿਤ ਡੇਟਾ ਕੁਝ ਖਾਸ ਹਾਲਤਾਂ ਵਿੱਚ ਇੱਕ ਘਾਤਕ ਕਮਜ਼ੋਰੀ ਪੈਦਾ ਕਰਦਾ ਹੈ।
ਕੇਸ 3 - ਗੋਪਨੀਯਤਾ ਦੀ ਉਲੰਘਣਾ ਦੀ ਰੋਕਥਾਮ। ਇੱਕ ਵਿਸ਼ਲੇਸ਼ਕ ਇੱਕ ਜਨਤਕ AI ਟੂਲ ਵਿੱਚ ਫਲੀਟ ਡੇਟਾ ਨੂੰ ਪੇਸਟ ਕਰਨ ਵਾਲਾ ਹੈ ਜਦੋਂ ਉਸਨੇ ਦੇਖਿਆ ਕਿ ਡੇਟਾ ਵਿੱਚ ਕੱਚੇ VIN ਅਤੇ GPS ਸਥਾਨ ਹਨ। ਇਹ ਡੇਟਾ ਨੂੰ ਅਗਿਆਤ ਕਰਕੇ ਇੱਕ ਕਾਰਪੋਰੇਟ ਵਾਤਾਵਰਣ ਵਿੱਚ ਕੰਮ ਕਰਦਾ ਹੈ (VIN ਦੀ ਬਜਾਏ ਵਾਹਨ_01..arac_50, ਸਥਾਨ ਦੀ ਬਜਾਏ ਖੇਤਰ ਕੋਡ)। ਨਤੀਜਾ: ਧਿਆਨ ਦੇ ਇੱਕ ਪਲ ਨੇ ਇੱਕ ਗੰਭੀਰ KVKK ਉਲੰਘਣਾ ਨੂੰ ਰੋਕਿਆ।
ਪ੍ਰੋਂਪਟ ਟੈਂਪਲੇਟਸ
ਟੈਮਪਲੇਟ 1 - PRIOR/ਜੋਖਮ ਦਾ ਮੁੱਢਲਾ ਮੁਲਾਂਕਣ (ਖਰੜਾ):
ਭੂਮਿਕਾ: ਤੁਸੀਂ ਇੱਕ ਕਾਰਜਸ਼ੀਲ ਸੁਰੱਖਿਆ ਸਲਾਹਕਾਰ ਹੋ। ਕੰਮ: ਕਿਸੇ ਫੰਕਸ਼ਨ ਲਈ ਖ਼ਤਰੇ ਅਤੇ ਜੋਖਮ ਵਿਸ਼ਲੇਸ਼ਣ ਵਿੱਚ ਸਹਾਇਤਾ ਕਰਨ ਲਈ ਇੱਕ ਡਰਾਫਟ ਤਿਆਰ ਕਰਦਾ ਹੈ। ਸੰਦਰਭ: ਫੰਕਸ਼ਨ: ਆਟੋਮੈਟਿਕ ਐਮਰਜੈਂਸੀ ਬ੍ਰੇਕਿੰਗ; urban and intercity. Constraint: ASIL ਦੀ ਸਹੀ ਅਸਾਈਨਮੈਂਟ; ਗੰਭੀਰਤਾ/ਐਕਸਪੋਜ਼ਰ/ਨਿਯੰਤਰਣਯੋਗਤਾ ਦੇ ਮਾਪਾਂ 'ਤੇ ਸਵਾਲਾਂ ਅਤੇ ਧਿਆਨ ਦੇ ਬਿੰਦੂਆਂ ਦੀ ਸੂਚੀ ਦਿਓ; ਇਹ ਦਰਸਾਉਂਦਾ ਹੈ ਕਿ ਅੰਤਿਮ ਅਸਾਈਨਮੈਂਟ ਅਧਿਕਾਰਤ ਸੁਰੱਖਿਆ ਇੰਜੀਨੀਅਰ ਦੇ ਕੋਲ ਹੈ। ਆਉਟਪੁੱਟ: ਆਕਾਰ | ਮੁਲਾਂਕਣ ਸਵਾਲ | ਧਿਆਨ ਨੋਟ ਸਾਰਣੀ.
ਟੈਮਪਲੇਟ 2 - SOTIF ਦ੍ਰਿਸ਼ ਸਕੈਨ:
ਭੂਮਿਕਾ: ਤੁਸੀਂ ਇੱਕ SOTIF ਮਾਹਰ ਹੋ। ਟਾਸਕ: ਉਹਨਾਂ ਦ੍ਰਿਸ਼ਾਂ ਦੀ ਸੂਚੀ ਬਣਾਓ ਜਿੱਥੇ ਇੱਕ ਖੋਜ ਫੰਕਸ਼ਨ 'ਸਿਸਟਮ ਬਰਕਰਾਰ ਪਰ ਨਾਕਾਫ਼ੀ' ਹੋ ਸਕਦਾ ਹੈ। ਸੰਦਰਭ: ਕੈਮਰਾ + ਰਾਡਾਰ; ਘੱਟ ਸੂਰਜ, ਬਰਫ਼, ਸੁਰੰਗ ਨਿਕਾਸ, ਅਸਧਾਰਨ ਵਸਤੂਆਂ। ਆਉਟਪੁੱਟ: ਦ੍ਰਿਸ਼ | ਅਯੋਗਤਾ ਕਿਉਂ | ਘਟਾਉਣ ਦੀ ਸਿਫਾਰਸ਼.
ਟੈਮਪਲੇਟ 3 - ਗੋਪਨੀਯਤਾ ਨਿਯੰਤਰਣ:
ਭੂਮਿਕਾ: ਤੁਸੀਂ ਇੱਕ ਡਾਟਾ ਸੁਰੱਖਿਆ (KVKK/GDPR) ਸਲਾਹਕਾਰ ਹੋ। ਟਾਸਕ: ਇੱਕ ਡੇਟਾ ਸੈੱਟ ਸਾਂਝਾ ਕਰਨ ਤੋਂ ਪਹਿਲਾਂ ਇੱਕ ਗੋਪਨੀਯਤਾ ਆਡਿਟ ਕਰੋ। ਸੰਦਰਭ: ਫਲੀਟ ਟੈਲੀਮੈਟਰੀ; ਕਾਲਮਾਂ ਵਿੱਚ VIN, GPS, ਡਰਾਈਵਿੰਗ ਸਕੋਰ ਸ਼ਾਮਲ ਹਨ। ਪਾਬੰਦੀ: ਕਿਹੜੇ ਖੇਤਰ ਨਿੱਜੀ ਡੇਟਾ ਹਨ, ਉਹਨਾਂ ਨੂੰ ਕਿਵੇਂ ਅਗਿਆਤ ਕੀਤਾ ਜਾਣਾ ਚਾਹੀਦਾ ਹੈ, ਮੈਨੂੰ ਕੀ ਸਾਂਝਾ ਨਹੀਂ ਕਰਨਾ ਚਾਹੀਦਾ ਹੈ; sort.Output: Field | ਖਤਰਾ | ਸਿਫਾਰਸ਼ੀ ਟ੍ਰਾਂਜੈਕਸ਼ਨ ਚਾਰਟ.
ਟੈਮਪਲੇਟ 4 - ਪੱਖਪਾਤ ਜਾਂਚ:
ਭੂਮਿਕਾ: ਤੁਸੀਂ ਇੱਕ ML ਸੁਰੱਖਿਆ ਅਤੇ ਨਿਰਪੱਖਤਾ ਆਡੀਟਰ ਹੋ। ਟਾਸਕ: ਮੈਨੂੰ ਦੱਸੋ ਕਿ ਇੱਕ ਖੋਜ ਮਾਡਲ ਵਿੱਚ ਪੱਖਪਾਤ ਦੇ ਜੋਖਮ ਨੂੰ ਕਿਵੇਂ ਵੇਖਣਾ ਹੈ। ਸੰਦਰਭ: ਪੈਦਲ ਯਾਤਰੀ ਖੋਜ; ਸਿਖਲਾਈ ਡੇਟਾ ਵੇਟਡ ਡੇ/ਸਿਟੀ।ਆਉਟਪੁੱਟ: ਜਾਂਚ ਕਰਨ ਦੀ ਸਥਿਤੀ | ਮਾਪ | ਜੋਖਮ ਦਾ ਚਿੰਨ੍ਹ.
ਕਮਜ਼ੋਰ ਪ੍ਰੋਂਪਟ / ਮਜ਼ਬੂਤ ਪ੍ਰੋਂਪਟ
ਕਮਜ਼ੋਰ ਪ੍ਰੋਂਪਟ:
ਕੀ ਇਹ ਆਟੋਨੋਮਸ ਬ੍ਰੇਕਿੰਗ ਸਿਸਟਮ ਸੁਰੱਖਿਅਤ ਹੈ, ਪੁਸ਼ਟੀ ਕਰੋ।
AI ਸੁਰੱਖਿਆ ਕਲੀਅਰੈਂਸ ਪ੍ਰਾਪਤ ਕਰਨ ਦੀ ਕੋਸ਼ਿਸ਼ ਕਰਨਾ ਖ਼ਤਰਨਾਕ ਹੈ; ਪ੍ਰਵਾਨਗੀ ਅਧਿਕਾਰਤ ਇੰਜੀਨੀਅਰ ਦੀ ਹੈ।
ਸ਼ਕਤੀਸ਼ਾਲੀ ਪ੍ਰਾਉਟ:
ਭੂਮਿਕਾ: ਤੁਸੀਂ ਇੱਕ ਕਾਰਜਸ਼ੀਲ ਸੁਰੱਖਿਆ ਅਤੇ SOTIF ਸਲਾਹਕਾਰ ਹੋ। ਟਾਸਕ: ਸੂਚੀ ਬਣਾਓ ਕਿ ਮੈਨੂੰ ਮੇਰੇ ਆਟੋਮੈਟਿਕ ਬ੍ਰੇਕਿੰਗ ਫੰਕਸ਼ਨ ਦੇ ਸੁਰੱਖਿਆ ਮੁਲਾਂਕਣ ਵਿੱਚ ਕਿਹੜੇ ਸਵਾਲ ਪੁੱਛਣੇ ਚਾਹੀਦੇ ਹਨ ਅਤੇ ਮੈਨੂੰ ਕਿਹੜੇ ਸਬੂਤ ਇਕੱਠੇ ਕਰਨੇ ਚਾਹੀਦੇ ਹਨ। ਸੰਦਰਭ: AI-ਅਧਾਰਿਤ ਖੋਜ; ਕੈਮਰਾ + ਰਾਡਾਰ; ASIL ਉੱਚਾ ਹੋ ਸਕਦਾ ਹੈ। ਪਾਬੰਦੀ: ਸਿਸਟਮ ਨੂੰ 'ਮਨਜ਼ੂਰ ਕਰੋ'; ISO 26262 (ਨੁਕਸ) ਅਤੇ SOTIF (ਕਮੀ) ਦੇ ਰੂਪ ਵਿੱਚ ਸਵਾਲਾਂ ਅਤੇ ਸਬੂਤਾਂ ਦੀਆਂ ਵੱਖਰੀਆਂ ਸੂਚੀਆਂ ਪ੍ਰਦਾਨ ਕਰੋ; ਇਸ ਗੱਲ 'ਤੇ ਜ਼ੋਰ ਦਿਓ ਕਿ ਅੰਤਿਮ ਪ੍ਰਵਾਨਗੀ ਅਧਿਕਾਰਤ ਸੁਰੱਖਿਆ ਇੰਜੀਨੀਅਰ ਕੋਲ ਹੈ। ਆਉਟਪੁੱਟ: ਫਰੇਮਵਰਕ | ਸਵਾਲ | ਲੋੜੀਂਦਾ ਸਬੂਤ ਸਾਰਣੀ.
ਆਮ ਗਲਤੀਆਂ
- "ਸੁਰੱਖਿਅਤ" ਨਾਲ "ਕੋਈ ਖਰਾਬੀ ਨਹੀਂ" ਨੂੰ ਉਲਝਾਉਣਾ. SOTIF ਦੀ ਘਾਟ ਖਰਾਬੀ ਦੇ ਬਿਨਾਂ ਮਾਰ ਸਕਦੀ ਹੈ।
- AI ਸੁਰੱਖਿਆ ਕਲੀਅਰੈਂਸ ਪ੍ਰਾਪਤ ਕਰਨਾ। ਪ੍ਰਵਾਨਗੀ ਅਤੇ ਜ਼ਿੰਮੇਵਾਰੀ ਅਧਿਕਾਰਤ ਇੰਜੀਨੀਅਰ ਦੀ ਹੈ।
- ਸੁਰੱਖਿਆ ਦੇ ਸਬੂਤ ਵਜੋਂ ਮਾਡਲ ਦੀ ਸ਼ੁੱਧਤਾ ਨੂੰ ਗਲਤ ਸਮਝਣਾ। 99.9% ਸ਼ੁੱਧਤਾ ਇਹ ਨਹੀਂ ਦਰਸਾਉਂਦੀ ਹੈ ਕਿ ਬਾਕੀ ਬਚੇ ਜੋਖਮ ਦਾ ਪ੍ਰਬੰਧਨ ਕੀਤਾ ਗਿਆ ਹੈ।
- ਨਿੱਜੀ ਡੇਟਾ ਦੀ ਸੁਰੱਖਿਆ ਨਹੀਂ ਕਰਨਾ. VIN/ਟਿਕਾਣਾ/ਡਰਾਈਵਿੰਗ ਵਿਵਹਾਰ KVKK/GDPR ਦੇ ਦਾਇਰੇ ਵਿੱਚ ਹੈ।
- ਪੱਖਪਾਤ ਅਤੇ ਜ਼ਿਆਦਾ ਆਤਮਵਿਸ਼ਵਾਸ ਨੂੰ ਨਜ਼ਰਅੰਦਾਜ਼ ਕਰਨਾ। ਅਸੰਤੁਲਿਤ ਡੇਟਾ ਅਤੇ ਆਟੋਮੇਸ਼ਨ ਵਿੱਚ ਅੰਨ੍ਹਾ ਭਰੋਸਾ ਕਮਜ਼ੋਰੀਆਂ ਹਨ।
ਸੰਖੇਪ ਵਿੱਚ
- ISO 26262 ਅਸਫਲਤਾ ਦੇ ਕਾਰਨ ਜੋਖਮ ਦਾ ਪ੍ਰਬੰਧਨ ਕਰਦਾ ਹੈ (ASIL ਨਾਲ), ਜਦੋਂ ਕਿ ISO 21448/SOTIF ਅਸਫਲਤਾ ਦੇ ਜੋਖਮ ਦਾ ਪ੍ਰਬੰਧਨ ਕਰਦਾ ਹੈ; ਦੋਵੇਂ ਏਆਈ ਖੋਜ ਵਿੱਚ ਨਾਜ਼ੁਕ ਹਨ।
- ISO/SAE 21434 ਸਾਈਬਰ ਸੁਰੱਖਿਆ; ਵਿਰੋਧੀ ਅਤੇ ਡੇਟਾ ਜ਼ਹਿਰ ਦੇ ਹਮਲੇ AI-ਵਿਸ਼ੇਸ਼ ਖਤਰੇ ਹਨ।
- KVKK/GDPR ਦੇ ਦਾਇਰੇ ਵਿੱਚ ਡਾਟਾ ਮਿਨੀਮਾਈਜ਼ੇਸ਼ਨ, ਉਦੇਸ਼ ਸੀਮਾ ਅਤੇ ਅਗਿਆਤਕਰਨ ਲਾਜ਼ਮੀ ਹਨ; VIN/ਟਿਕਾਣਾ ਨਿੱਜੀ ਡਾਟਾ ਹੈ।
- ਪੱਖਪਾਤ, ਜ਼ਿਆਦਾ ਆਤਮਵਿਸ਼ਵਾਸ ਅਤੇ ਜ਼ਿੰਮੇਵਾਰੀ ਦਾ ਨੁਕਸਾਨ ਮੁੱਖ ਨੈਤਿਕ ਜੋਖਮ ਹਨ।
- AI ਆਉਟਪੁੱਟ ਯੋਗਤਾ ਪ੍ਰਾਪਤ ਇੰਜੀਨੀਅਰ ਦੀ ਪ੍ਰਵਾਨਗੀ ਦਾ ਬਦਲ ਨਹੀਂ ਹੈ; ਸੁਰੱਖਿਆ-ਨਾਜ਼ੁਕ ਫੈਸਲਾ ਅਤੇ ਦਸਤਖਤ ਹਮੇਸ਼ਾ ਵਿਅਕਤੀ ਦੇ ਹੁੰਦੇ ਹਨ।
ਐਪਲੀਕੇਸ਼ਨ ਦਾ ਕੰਮ
ਇੱਕ ਸੁਰੱਖਿਆ-ਸੰਬੰਧੀ ਫੰਕਸ਼ਨ ਚੁਣੋ (ਜਿਵੇਂ ਕਿ ਲੇਨ ਰੱਖਣਾ)। (1) ਚਰਚਾ ਕਰੋ ਕਿ ਇਸ ਫੰਕਸ਼ਨ ਦਾ ASIL ਪੱਧਰ ਗੰਭੀਰਤਾ/ਐਕਸਪੋਜ਼ਰ/ਨਿਯੰਤਰਣਯੋਗਤਾ ਮਾਪਾਂ ਦੇ ਨਾਲ ਉੱਚ/ਘੱਟ ਕਿਉਂ ਹੋ ਸਕਦਾ ਹੈ। (2) ਟੈਮਪਲੇਟ 2 ਦੇ ਨਾਲ 5 "ਸਿਸਟਮ ਠੋਸ ਪਰ ਅਢੁਕਵੇਂ" ਦ੍ਰਿਸ਼ ਤਿਆਰ ਕਰੋ। (3) ਟੈਂਪਲੇਟ 3 ਦੇ ਨਾਲ ਇੱਕ ਸੰਬੰਧਿਤ ਡੇਟਾਸੈਟ ਦੀ ਗੋਪਨੀਯਤਾ ਆਡਿਟ ਕਰੋ। (4) ਸਮਝਾਓ ਕਿ "ਮਾਡਲ ਦੀ ਪੁਸ਼ਟੀ ਕੀਤੀ ਗਈ" ਕਹਿਣਾ ਬਚਾਅ ਕਿਉਂ ਨਹੀਂ ਹੈ।
ਚੈੱਕਲਿਸਟ
- [ ] ਮੈਂ ਫੰਕਸ਼ਨ ਦੇ ਅਸਲ ਮਾਪਾਂ ਦਾ ਮੁਲਾਂਕਣ ਕੀਤਾ (ਮੈਂ ਅਥਾਰਟੀ ਨੂੰ ਸਹੀ ਅਸਾਈਨਮੈਂਟ ਛੱਡ ਦਿੱਤੀ ਹੈ)।
- [ ] ਮੈਂ ISO 26262 (ਖਰਾਬ) ਅਤੇ SOTIF (ਅਧੂਰੀ) ਵਿਚਕਾਰ ਅੰਤਰ ਕੀਤਾ ਹੈ।
- [ ] ਮੈਂ ਸਾਈਬਰ ਸੁਰੱਖਿਆ (ਵਿਰੋਧੀ/ਜ਼ਹਿਰ) ਜੋਖਮ ਨੂੰ ਧਿਆਨ ਵਿੱਚ ਰੱਖਿਆ ਹੈ।
- [ ] ਮੈਂ ਨਿੱਜੀ ਡੇਟਾ ਨੂੰ ਅਗਿਆਤ ਅਤੇ ਛੋਟਾ ਕੀਤਾ ਹੈ।
- [ ] ਮੈਂ ਪੱਖਪਾਤ ਅਤੇ ਜ਼ਿਆਦਾ ਆਤਮਵਿਸ਼ਵਾਸ ਦੇ ਜੋਖਮਾਂ ਦੀ ਜਾਂਚ ਕੀਤੀ।
- [ ] ਮੈਂ ਪੁਸ਼ਟੀ ਕੀਤੀ ਹੈ ਕਿ ਸੁਰੱਖਿਆ ਕਲੀਅਰੈਂਸ ਯੋਗਤਾ ਪ੍ਰਾਪਤ ਇੰਜੀਨੀਅਰ ਕੋਲ ਹੈ।