लाभ:
- ISO 26262 कार्यात्मक सुरक्षा र ISO 21448 (SOTIF) फ्रेमवर्क र कृत्रिम बुद्धिमत्ता युक्त प्रणालीहरूमा तिनीहरूको प्रभावहरू व्याख्या गर्ने क्षमता
- डेटा गोपनीयता, चालक डेटा, साइबर सुरक्षा (ISO/SAE 21434) र मोटर वाहन सन्दर्भमा नैतिक जोखिमहरू व्यवस्थापन गर्ने क्षमता
- एआई आउटपुट सक्षम ईन्जिनियर स्वीकृतिको विकल्प होइन भनेर बुझेर सुरक्षा-महत्वपूर्ण निर्णयहरूको लागि मानव जिम्मेवारी कायम गर्ने क्षमता।
तपाईं यस मोड्युलको सबैभन्दा महत्वपूर्ण इकाईमा हुनुहुन्छ। अहिलेसम्म हामीले एआईलाई डिजाइनदेखि निर्माणसम्म, परीक्षणदेखि आपूर्ति शृङ्खलासम्म एक्सेलेरेटरको रूपमा देखेका छौं। तर मोटर वाहनमा निर्णायक प्रश्न यो हो: के यो प्रणालीले कसैलाई हानि पुर्याउँछ र को जिम्मेवार छ? यस इकाईले सादा भाषामा सुरक्षा-महत्वपूर्ण उद्योग-कार्यात्मक सुरक्षा, SOTIF, साइबरसुरक्षा, गोपनीयता, र नैतिकतामा AI को जिम्मेवारीपूर्वक प्रयोग गर्ने ढाँचाहरू समेट्छ। मूल सिद्धान्त स्थिर रहन्छ: एआई आउटपुटले सक्षम इन्जिनियर अनुमोदनलाई कहिल्यै प्रतिस्थापन गर्दैन; सुरक्षा-महत्वपूर्ण निर्णय र जिम्मेवारी मानव हो।
ISO 26262: कार्यात्मक सुरक्षा
ISO 26262 सडक सवारी साधनहरूको विद्युतीय/इलेक्ट्रोनिक प्रणालीहरूको लागि कार्यात्मक सुरक्षा मानक हो। कार्यात्मक सुरक्षा; यो सुनिश्चित गर्न को लागी चिन्तित छ कि जब एक प्रणाली असफल हुन्छ (सेन्सर बिग्रन्छ, एक सफ्टवेयर असफल हुन्छ) यसले खतरनाक अवस्थाको नेतृत्व गर्दैन।
यस मानकको मुटुमा ASIL (अटोमोटिभ सेफ्टी इन्टिग्रिटी लेभल) छ। खतरालाई तीन आयामहरूमा मूल्याङ्कन गरिन्छ:
- गम्भीरता: यो भयो भने कत्ति नराम्रो हुन्थ्यो? (सानो चोट वा मृत्यु)
- एक्सपोजर: यो कति पटक हुन्छ?
- नियन्त्रण क्षमता: चालकले स्थितिलाई कत्तिको नियन्त्रण गर्न सक्छ?
यी तीन संयुक्त परिणाम ASIL A (सबैभन्दा कम) बाट ASIL D (उच्चतम, जस्तै ब्रेकिङ, स्टेयरिङ) सम्मको स्तरमा हुन्छ। स्तर बढ्दै जाँदा, विकास, परीक्षण र कागजात आवश्यकताहरू कडा हुँदै जान्छन्।
मुख्य
नमूना प्रणाली
आवश्यकता तीव्रता
ए।
आन्तरिक प्रकाश खराबी
कम
बि.
पुच्छर प्रकाश
मध्यम
सी।
केही ADAS कार्यहरू
उच्च
D.
ब्रेक, स्टेयरिङ, एयरब्याग
उच्चतम
सुझाव: प्रकार्यको मुख्य स्तर थाहा पाउँदा त्यस प्रकार्यमा AI प्रयोग गर्न कति ध्यान चाहिन्छ भनेर बताउँछ। कुनै प्रकार्यमा एआई आउटपुटमा आधारित कुनै निर्णय स्वतन्त्र सुरक्षा प्रमाणीकरण बिना स्वीकार गर्न सकिँदैन।
ISO 21448 (SOTIF): उद्देश्य कार्यको सुरक्षा
शास्त्रीय कार्यात्मक सुरक्षा (ISO 26262) प्रश्नमा केन्द्रित छ "यदि प्रणाली असफल भयो भने के हुन्छ?" तर आर्टिफिसियल इन्टेलिजेन्स पत्ता लगाउने प्रणालीमा एउटा नयाँ समस्या छ: प्रणालीले कहिल्यै खराबी नगरे पनि, यो अपर्याप्त हुन सक्छ। क्यामेराले राम्रो काम गर्छ तर हिउँको स्ल्याब चिन्न सक्दैन; राडार ठोस छ, तर यसले भूत संकेतको रूपमा स्थिर वाहनलाई बेवास्ता गर्दछ। यहाँ कुनै हार्डवेयर/सफ्टवेयर विफलता छैन; समस्या कार्यको उद्देश्य दायराको सीमामा छ।
ISO 21448 - SOTIF (उचित कार्यात्मकताको सुरक्षा) ले यो अन्तरलाई ठीकसँग सम्बोधन गर्दछ: अपरिचित परिदृश्यहरू, पत्ता लगाउने सीमाहरू र अप्रत्याशित परिस्थितिहरूबाट उत्पन्न हुने जोखिमहरू प्रबन्ध गर्नुहोस्, यद्यपि प्रणाली डिजाइन गरिएको रूपमा काम गर्दछ। AI-आधारित ADAS/स्वायत्त ड्राइभिङमा, SOTIF ISO 26262 जत्तिकै महत्त्वपूर्ण छ।
फ्रेम
फोकस
उदाहरण
ISO 26262
असफलताको कारण जोखिम
सेन्सर बिग्रन्छ, सिग्नल गायब हुन्छ
ISO 21448 (SOTIF)
अपर्याप्तता / गैर-मान्यता को जोखिम
असभ्य क्यामेराले हिउँको स्ल्याब चिन्न सक्दैन
ISO/SAE 21434
साइबर सुरक्षा
प्रणाली आक्रमण, डाटा हेरफेर
सावधानी: एआई मोडेलहरू सांख्यिकीय छन्; तिनीहरू ग्यारेन्टी गर्न सक्दैनन् कि तिनीहरूले "हरेक अवस्थालाई सही रूपमा देख्नेछन्"। SOTIF ले यी अन्तर्निहित सीमित प्रणालीहरूमा अज्ञात खतरनाक परिदृश्यहरूलाई कम गर्ने र बाँकी जोखिमलाई स्वीकार्य स्तरमा कम गर्ने लक्ष्य राख्छ। "मोडल 99.9% सही छ" सुरक्षाको प्रमाण होइन।
ISO/SAE 21434: साइबर सुरक्षा
जडान गरिएका र सफ्टवेयर-परिभाषित सवारी साधनहरू साइबर आक्रमणको जोखिममा छन्। रिमोट आक्रमणकारीले ब्रेक कमाण्ड परिवर्तन गर्न, टेलिमेट्री चोर्न, वा पत्ता लगाउने मोडेललाई छल गर्न सक्छ (विपरित आक्रमण: प्लेटमा सानो स्टिकर राखेर मोडेलले यसलाई गलत चिन्न सक्छ)। ISO/SAE 21434 वाहन साइबर सुरक्षाको लागि इन्जिनियरिङ ढाँचा हो। आर्टिफिसियल इन्टेलिजेन्सको सन्दर्भमा, दुईवटा जोखिमहरू छन्: मोडेललाई धोका दिने (विपक्षी) र प्रशिक्षण डेटालाई विषाक्त बनाउने (डेटा विषाक्तता)। सुरक्षा-महत्वपूर्ण एआई प्रणालीहरू यी आक्रमणहरू विरुद्ध परीक्षण गरिनु पर्छ।
गोपनीयता र व्यक्तिगत डाटा
आधुनिक गाडी भनेको "डाटा सेन्टर अन ह्वील" हो: स्थान, ड्राइभिङ व्यवहार, अडियो, केबिन क्यामेरा पनि। यी मध्ये धेरै जसो व्यक्तिगत डेटा हो र KVKK (Türkiye) र GDPR (युरोप) द्वारा कभर गरिएको छ। VIN (चेसिस नम्बर) ले वाहन र अप्रत्यक्ष रूपमा यसको मालिक पहिचान गर्न सक्छ। आधारभूत सिद्धान्तहरू:
- डाटा न्यूनीकरण: आवश्यक पर्ने मात्र सङ्कलन गर्नुहोस्।
- उद्देश्य सीमितता: डेटा सङ्कलन गरिएको उद्देश्य बाहेक अन्य उद्देश्यका लागि प्रयोग नगर्नुहोस्।
- बेनामी/छद्मनामकरण: व्यक्तिगत रूपमा पहिचान गर्ने जानकारी हटाउनुहोस् वा इन्कोड गर्नुहोस्।
- स्पष्ट सहमति र पारदर्शिता: ड्राइभरलाई थाहा हुनुपर्छ के सङ्कलन भइरहेको छ।
- सुरक्षित भण्डारण र स्थानान्तरण।
सावधानी: कच्चा VIN, स्थान इतिहास, वा सार्वजनिक क्लाउड AI उपकरणमा ड्राइभिङ व्यवहार पठाउनु गोपनीयता उल्लङ्घन र सम्झौता जोखिम दुवै हुन सक्छ। यस डेटासँग काम गर्दा, यसलाई गुमनाम राख्नुहोस् र संस्थागत, डेटा-सुरक्षित वातावरण प्रयोग गर्नुहोस्।
नैतिकता र इन्जिनियर जिम्मेवारी
आर्टिफिसियल इन्टेलिजेन्सले केही नैतिक जोखिमहरू ल्याउँछ:
- पूर्वाग्रह: यदि प्रशिक्षण डेटाले निश्चित अवस्थाहरू (जस्तै दिनको समय, हल्का छाला, निश्चित क्षेत्रीय सडकहरू) प्रबल हुन्छ भने, मोडेलले कम प्रतिनिधित्व गरिएका अवस्थाहरूमा (रात, विभिन्न अवस्थाहरू) खराब प्रदर्शन गर्न सक्छ। यो एउटा कमजोरी हो।
- अति आत्मविश्वास (स्वचालन पूर्वाग्रह): मानिसहरू अन्धाधुन्ध रूपमा स्वचालनमा विश्वास गर्छन् र आफ्नै निर्णयलाई ओभरराइड गर्छन्। यदि परीक्षण इन्जिनियरले AI ले "पास" भनेको कारणले कच्चा डाटा हेर्न रोक्छ भने यो खतरनाक प्रवृत्ति हो।
- जिम्मेवारीको हानि: "मोडल निर्णय गरियो" एक रक्षा होइन। निर्णयको पछाडि हस्ताक्षर गर्ने व्यक्ति सधैं हुनुपर्छ।
मिनी केस स्टडी
केस १ - SOTIF सीमा। स्वचालित आपतकालीन ब्रेकिङ प्रणालीले कुनै खराबी बिना सबै प्रयोगशाला परीक्षणहरू पास गर्छ। मैदानमा, कम घाममा, सेतो ट्रकले आकाशको लागि आफ्नो ट्रेलरलाई गल्ती गर्छ र ढिलो ब्रेक गर्छ। यो कुनै खराबी होइन, तर SOTIF जोखिम हो: प्रणाली अक्षुण्ण छ तर परिदृश्य पत्ता लगाउने सीमाभन्दा बाहिर छ। टोलीले यो परिदृश्यलाई परीक्षण पुस्तकालयमा थप्छ र रडार फ्युजनलाई बलियो बनाउँछ। निष्कर्ष: "कुनै असफलता" सुरक्षाको प्रमाण होइन; अपर्याप्तता पनि एक जोखिम हो।
केस २ - पक्षपाती डेटा। एक पैदल यात्री पत्ता लगाउने मोडेल मुख्यतया दिनको डेटा संग प्रशिक्षित गरिएको थियो; रातको सम्झना धेरै कम छ। टोलीले रात र कम प्रकाश डेटालाई सन्तुलन र पुन: तालिम दिन्छ र रातको परिदृश्यहरू अलग-अलग रिपोर्ट गर्दछ। निष्कर्ष: असंतुलित डाटाले निश्चित परिस्थितिहरूमा घातक जोखिम सिर्जना गर्दछ।
केस ३ - गोपनीयता भंग रोकथाम। एक विश्लेषकले सार्वजनिक AI उपकरणमा फ्लीट डाटा टाँस्न लागेको छ जब उसले डाटामा कच्चा VIN र GPS स्थानहरू समावेश गरेको देख्छ। यसले डेटा गुमनाम गरेर कर्पोरेट वातावरणमा काम गर्दछ (VIN को सट्टा vehicle_01..arac_50, स्थानको सट्टा क्षेत्र कोड)। नतिजा: ध्यानको एक क्षणले गम्भीर KVKK उल्लङ्घनलाई रोक्यो।
प्रम्प्ट टेम्प्लेटहरू
टेम्प्लेट १ - PRIOR/जोखिम प्रारम्भिक मूल्याङ्कन (मस्यौदा):
भूमिका: तपाईं एक कार्यात्मक सुरक्षा सल्लाहकार हुनुहुन्छ। कार्य: कार्यको लागि जोखिम र जोखिम विश्लेषणलाई सहायता गर्न मस्यौदा तयार गर्दछ। सन्दर्भ: प्रकार्य: स्वचालित आपतकालीन ब्रेक; सहरी र इन्टरसिटी। अवरोध: ASIL को सही असाइनमेन्ट; गम्भीरता/एक्सपोजर/नियन्त्रणताको आयामहरूमा प्रश्नहरू र ध्यान बिन्दुहरूको सूची दिनुहोस्; अन्तिम असाइनमेन्ट अधिकृत सुरक्षा ईन्जिनियरसँग रहन्छ भनेर संकेत गर्नुहोस्। आउटपुट: साइज | मूल्याङ्कन प्रश्न | ध्यान नोट तालिका।
टेम्प्लेट २ - SOTIF परिदृश्य स्क्यान:
भूमिका: तपाईं SOTIF विशेषज्ञ हुनुहुन्छ। कार्य: पत्ता लगाउने प्रकार्य 'प्रणाली अक्षुण्ण तर अपर्याप्त' हुन सक्ने परिदृश्यहरू सूची गर्नुहोस्। सन्दर्भ: क्यामेरा + रडार; कम घाम, हिउँ, सुरुङ निकास, असामान्य वस्तुहरू।आउटपुट: परिदृश्य | किन अपर्याप्तता | कटौती सिफारिस।
टेम्प्लेट ३ - गोपनीयता नियन्त्रण:
भूमिका: तपाईं एक डाटा सुरक्षा (KVKK/GDPR) सल्लाहकार हुनुहुन्छ। कार्य: डेटा सेट साझेदारी गर्नु अघि गोपनीयता अडिट सञ्चालन गर्नुहोस्। सन्दर्भ: फ्लीट टेलिमेट्री; स्तम्भहरूले VIN, GPS, ड्राइभिङ स्कोर समावेश गर्दछ। बाधा: कुन क्षेत्रहरू व्यक्तिगत डेटा हुन्, तिनीहरू कसरी गुमनाम हुनुपर्छ, मैले के साझा गर्नु हुँदैन; क्रमबद्ध गर्नुहोस्।आउटपुट: क्षेत्र | जोखिम | सिफारिस गरिएको लेनदेन चार्ट।
टेम्प्लेट ४ - पूर्वाग्रह जाँच:
भूमिका: तपाईं ML सुरक्षा र निष्पक्षता लेखा परीक्षक हुनुहुन्छ। कार्य: पत्ता लगाउने मोडेलमा पूर्वाग्रहको जोखिम कसरी हेर्ने भनी मलाई भन्नुहोस्। सन्दर्भ: पैदल यात्री पत्ता लगाउने; प्रशिक्षण डेटा भारित दिन/शहर।आउटपुट: जाँच गर्न सर्त | मापन | जोखिम चिन्ह।
कमजोर प्रम्प्ट / बलियो प्रम्प्ट
कमजोर प्रम्प्ट:
के यो स्वायत्त ब्रेकिङ प्रणाली सुरक्षित छ, पुष्टि गर्नुहोस्।
AI सुरक्षा क्लियरेन्स प्राप्त गर्ने प्रयास खतरनाक छ; स्वीकृति अधिकृत इन्जिनियरको हो।
शक्तिशाली प्रम्प्ट:
भूमिका: तपाईं एक कार्यात्मक सुरक्षा र SOTIF सल्लाहकार हुनुहुन्छ। कार्य: मैले सोध्नु पर्ने प्रश्नहरू र मेरो स्वचालित ब्रेकिङ प्रकार्यको सुरक्षा मूल्याङ्कनमा मैले कस्ता प्रमाणहरू सङ्कलन गर्नुपर्छ भनेर सूची बनाउनुहोस्। सन्दर्भ: एआई-आधारित पत्ता लगाउने; क्यामेरा + रडार; ASIL उच्च हुन सक्छ। बाधा: प्रणालीलाई 'अनुमोदन गर्नुहोस्'; ISO 26262 (खराब) र SOTIF (कमजोरी) को सन्दर्भमा प्रश्न र प्रमाणहरूको अलग सूची प्रदान गर्नुहोस्; अन्तिम स्वीकृति अधिकृत सुरक्षा ईन्जिनियरसँग हुन्छ भन्ने कुरामा जोड दिनुहोस्। आउटपुट: फ्रेमवर्क | प्रश्न | आवश्यक प्रमाण तालिका।
सामान्य गल्तीहरू
- "सुरक्षित" संग "कुनै खराबी" भ्रामक। SOTIF को कमीले खराबी बिना मार्न सक्छ।
- AI सुरक्षा क्लियरेन्स प्राप्त गर्दै। स्वीकृति र जिम्मेवारी अधिकृत ईन्जिनियर संग निहित छ।
- सुरक्षाको प्रमाणको रूपमा मोडेलको शुद्धतालाई गल्ती गर्दै। 99.9% शुद्धताले बाँकी जोखिम व्यवस्थापन गरिएको संकेत गर्दैन।
- व्यक्तिगत डाटा सुरक्षित गर्दैन। VIN/स्थान/ड्राइभिङ व्यवहार KVKK/GDPR को दायरा भित्र छ।
- पूर्वाग्रह र अति आत्मविश्वासलाई बेवास्ता गर्दै। असन्तुलित डाटा र स्वचालनमा अन्धो विश्वास कमजोरीहरू हुन्।
संक्षेपमा
- ISO 26262 असफलता (ASIL सँग) को कारणले जोखिम व्यवस्थापन गर्दछ, जबकि ISO 21448/SOTIF असफलता बिना विफलताको जोखिम व्यवस्थापन गर्दछ; दुवै एआई पत्ता लगाउन महत्वपूर्ण छन्।
- ISO/SAE 21434 साइबर सुरक्षा; विरोधी र डाटा विषाक्त आक्रमणहरू एआई-विशिष्ट खतराहरू हुन्।
- KVKK/GDPR को दायरा भित्र डाटा न्यूनीकरण, उद्देश्य सीमितता र अज्ञातकरण अनिवार्य छ; VIN/स्थान व्यक्तिगत डेटा हो।
- पूर्वाग्रह, अति आत्मविश्वास र जिम्मेवारी गुमाउनु मुख्य नैतिक जोखिमहरू हुन्।
- एआई आउटपुट योग्य इन्जिनियर अनुमोदनको लागि विकल्प होइन; सुरक्षा-महत्वपूर्ण निर्णय र हस्ताक्षर सधैं व्यक्तिको हो।
आवेदन कार्य
सुरक्षा-सम्बन्धित प्रकार्य चयन गर्नुहोस् (जस्तै लेन राख्ने)। (1) यस प्रकार्यको ASIL स्तर गम्भीरता/एक्सपोजर/नियन्त्रणता आयामहरूसँग किन उच्च/कम हुन सक्छ भनेर छलफल गर्नुहोस्। (2) टेम्प्लेट 2 सँग 5 "प्रणाली ठोस तर अपर्याप्त" परिदृश्यहरू उत्पन्न गर्नुहोस्। (3) टेम्प्लेट 3 सँग सान्दर्भिक डेटासेटको गोपनीयता लेखा परीक्षण गर्नुहोस्। (4) "मोडल पुष्टि भयो" भन्नु किन प्रतिरक्षा होइन भनेर व्याख्या गर्नुहोस्।
चेकलिस्ट
- [ ] मैले प्रकार्यको वास्तविक आयामहरूको मूल्याङ्कन गरें (मैले अधिकारलाई सही असाइनमेन्ट छोडें)।
- [ ] मैले ISO 26262 (malfunction) र SOTIF (अपर्याप्तता) बीचको भिन्नता बनाएको छु।
- [] मैले साइबर सुरक्षा (विपरित/विषाक्तता) जोखिमलाई ध्यानमा राखेको छु।
- [] मैले व्यक्तिगत डेटा गुमनाम र न्यूनतम गरें।
- [ ] मैले पूर्वाग्रह र अत्यधिक आत्मविश्वासको जोखिमको लागि जाँच गरें।
- [ ] मैले सुरक्षा क्लियरेन्स योग्य इन्जिनियरसँग भएको पुष्टि गरेको छु।