लाभ:
- आईएसओ 26262 कार्यात्मक सुरक्षा और आईएसओ 21448 (एसओटीआईएफ) ढांचे और कृत्रिम बुद्धिमत्ता वाले सिस्टम पर उनके प्रभावों को समझाने की क्षमता
- ऑटोमोटिव संदर्भ में डेटा गोपनीयता, ड्राइवर डेटा, साइबर सुरक्षा (आईएसओ/एसएई 21434) और नैतिक जोखिमों को प्रबंधित करने की क्षमता
- यह समझकर कि एआई आउटपुट सक्षम इंजीनियर अनुमोदन का विकल्प नहीं है, सुरक्षा-महत्वपूर्ण निर्णयों के लिए मानवीय जिम्मेदारी बनाए रखने की क्षमता
आप इस मॉड्यूल की सबसे महत्वपूर्ण इकाई में हैं। अब तक हमने एआई को डिजाइन से लेकर विनिर्माण तक, परीक्षण से लेकर आपूर्ति श्रृंखला तक एक त्वरक के रूप में देखा है। लेकिन ऑटोमोटिव में निर्णायक सवाल यह है: क्या यह प्रणाली किसी को नुकसान पहुंचाएगी और कौन जिम्मेदार है? यह इकाई सरल भाषा में सुरक्षा-महत्वपूर्ण उद्योग में एआई को जिम्मेदारी से उपयोग करने के लिए रूपरेखाओं को शामिल करती है - कार्यात्मक सुरक्षा, एसओटीआईएफ, साइबर सुरक्षा, गोपनीयता और नैतिकता। मुख्य सिद्धांत स्थिर रहता है: एआई आउटपुट कभी भी सक्षम इंजीनियर अनुमोदन की जगह नहीं लेता; सुरक्षा-महत्वपूर्ण निर्णय और जिम्मेदारी मानव की है।
आईएसओ 26262: कार्यात्मक सुरक्षा
ISO 26262 सड़क वाहनों के इलेक्ट्रिकल/इलेक्ट्रॉनिक सिस्टम के लिए कार्यात्मक सुरक्षा मानक है। कार्यात्मक सुरक्षा; इसका संबंध यह सुनिश्चित करने से है कि जब कोई सिस्टम विफल हो जाता है (एक सेंसर टूट जाता है, एक सॉफ्टवेयर विफल हो जाता है) तो यह खतरनाक स्थिति पैदा नहीं करता है।
इस मानक के केंद्र में ASIL (ऑटोमोटिव सेफ्टी इंटीग्रिटी लेवल) है। किसी खतरे का मूल्यांकन तीन आयामों में किया जाता है:
- गंभीरता: यदि ऐसा हुआ तो कितना बुरा होगा? (मामूली चोट या मृत्यु)
- एक्सपोज़र: ऐसा कितनी बार होता है?
- नियंत्रणीयता: ड्राइवर स्थिति को कितना नियंत्रित कर सकता है?
इन तीनों के संयुक्त परिणाम से ASIL A (निम्नतम) से ASIL D (उच्चतम, जैसे ब्रेक लगाना, स्टीयरिंग) का स्तर प्राप्त होता है। जैसे-जैसे स्तर बढ़ता है, विकास, परीक्षण और दस्तावेज़ीकरण आवश्यकताएँ सख्त हो जाती हैं।
मुख्य
नमूना प्रणाली
आवश्यकता तीव्रता
ए.
आंतरिक प्रकाश की खराबी
कम
बी.
पूंछ प्रकाश
मध्यम
सी.
कुछ एडीएएस कार्य
उच्च
डी.
ब्रेक, स्टीयरिंग, एयरबैग
उच्चतम
युक्ति: किसी फ़ंक्शन के मुख्य स्तर को जानने से आपको पता चलता है कि उस फ़ंक्शन में AI का उपयोग करने पर कितना ध्यान देने की आवश्यकता है। किसी फ़ंक्शन में AI आउटपुट पर आधारित कोई भी निर्णय स्वतंत्र सुरक्षा सत्यापन के बिना स्वीकार नहीं किया जा सकता है।
ISO 21448 (SOTIF): इच्छित कार्य की सुरक्षा
शास्त्रीय कार्यात्मक सुरक्षा (आईएसओ 26262) इस प्रश्न पर केंद्रित है कि "यदि सिस्टम विफल हो जाए तो क्या होगा?" लेकिन आर्टिफिशियल इंटेलिजेंस डिटेक्शन सिस्टम में एक नई समस्या है: भले ही सिस्टम कभी खराब न हो, लेकिन यह अपर्याप्त हो सकता है। कैमरा ठीक काम करता है लेकिन बर्फ़ीली स्लैब को नहीं पहचान सकता; रडार ठोस है, लेकिन यह एक स्थिर वाहन को भूत संकेत के रूप में अनदेखा कर देता है। यहां कोई हार्डवेयर/सॉफ़्टवेयर विफलता नहीं है; समस्या फ़ंक्शन के इच्छित दायरे की सीमा पर है।
ISO 21448 - SOTIF (इच्छित कार्यक्षमता की सुरक्षा) बिल्कुल इसी अंतर को संबोधित करता है: अपरिचित परिदृश्यों, पता लगाने की सीमाओं और अप्रत्याशित स्थितियों से उत्पन्न होने वाले जोखिमों का प्रबंधन करना, भले ही सिस्टम डिज़ाइन के अनुसार काम करता हो। AI-आधारित ADAS/स्वायत्त ड्राइविंग में, SOTIF ISO 26262 जितना ही महत्वपूर्ण है।
फ़्रेम
फोकस
उदाहरण
आईएसओ 26262
विफलता के कारण जोखिम
सेंसर टूट गया, सिग्नल गायब हो गया
आईएसओ 21448 (एसओटीआईएफ)
अपर्याप्तता/गैर-मान्यता का जोखिम
ऊबड़-खाबड़ कैमरा बर्फीले स्लैब को नहीं पहचान पाता
आईएसओ/एसएई 21434
साइबर सुरक्षा
सिस्टम पर हमला, डेटा हेरफेर
सावधानी: एआई मॉडल सांख्यिकीय हैं; वे इसकी गारंटी नहीं दे सकते कि वे "हर स्थिति को सही ढंग से देखेंगे"। SOTIF का लक्ष्य इन स्वाभाविक रूप से सीमित प्रणालियों में अज्ञात खतरनाक परिदृश्यों को कम करना और शेष जोखिम को स्वीकार्य स्तर तक कम करना है। "मॉडल 99.9% सटीक है" सुरक्षा का प्रमाण नहीं है।
आईएसओ/एसएई 21434: साइबर सुरक्षा
कनेक्टेड और सॉफ़्टवेयर-परिभाषित वाहन साइबर हमले के प्रति संवेदनशील होते हैं। एक दूरस्थ हमलावर ब्रेक कमांड को बदल सकता है, टेलीमेट्री चुरा सकता है, या डिटेक्शन मॉडल को चकमा दे सकता है (प्रतिकूल हमला: प्लेट पर एक छोटा स्टिकर रखकर मॉडल को गलत पहचान देना)। आईएसओ/एसएई 21434 वाहन साइबर सुरक्षा के लिए इंजीनियरिंग ढांचा है। कृत्रिम बुद्धिमत्ता के संदर्भ में, दो जोखिम सामने आते हैं: मॉडल को धोखा देना (प्रतिकूल) और प्रशिक्षण डेटा को विषाक्त करना (डेटा विषाक्तता)। इन हमलों के खिलाफ सुरक्षा-महत्वपूर्ण एआई सिस्टम का परीक्षण किया जाना चाहिए।
गोपनीयता और व्यक्तिगत डेटा
आधुनिक वाहन एक "पहियों पर डेटा सेंटर" है: स्थान, ड्राइविंग व्यवहार, ऑडियो, यहां तक कि केबिन कैमरा भी। इसमें से अधिकांश व्यक्तिगत डेटा है और केवीकेके (तुर्किये) और जीडीपीआर (यूरोप) द्वारा कवर किया गया है। VIN (चेसिस नंबर) किसी वाहन और अप्रत्यक्ष रूप से उसके मालिक की पहचान कर सकता है। बुनियादी सिद्धांत:
- डेटा न्यूनीकरण: केवल वही एकत्रित करें जिसकी आवश्यकता है।
- उद्देश्य सीमा: डेटा का उपयोग उस उद्देश्य के अलावा किसी अन्य उद्देश्य के लिए न करें जिसके लिए इसे एकत्र किया गया था।
- गुमनामीकरण/छद्मनामीकरण: व्यक्तिगत पहचान वाली जानकारी को हटाएं या एनकोड करें।
- स्पष्ट सहमति और पारदर्शिता: ड्राइवर को पता होना चाहिए कि क्या एकत्र किया जा रहा है।
- सुरक्षित भंडारण और स्थानांतरण.
सावधानी: सार्वजनिक क्लाउड एआई टूल पर कच्चा वीआईएन, स्थान इतिहास, या ड्राइविंग व्यवहार भेजना गोपनीयता का उल्लंघन और संविदात्मक जोखिम दोनों हो सकता है। इस डेटा के साथ काम करते समय, इसे गुमनाम रखें और एक संस्थागत, डेटा-संरक्षित वातावरण का उपयोग करें।
नैतिकता और इंजीनियर जिम्मेदारी
कृत्रिम बुद्धिमत्ता अपने साथ कुछ नैतिक जोखिम लेकर आती है:
- पूर्वाग्रह: यदि प्रशिक्षण डेटा में कुछ विशेष परिस्थितियाँ (जैसे दिन का समय, हल्की त्वचा, कुछ क्षेत्रीय सड़कें) प्रमुख हैं, तो मॉडल कम प्रतिनिधित्व वाली परिस्थितियों (रात, विभिन्न परिस्थितियाँ) में खराब प्रदर्शन कर सकता है। यह एक भेद्यता है.
- अति आत्मविश्वास (स्वचालन पूर्वाग्रह): लोग स्वचालन पर आंख मूंदकर भरोसा करते हैं और अपने निर्णय को पलट देते हैं। यदि परीक्षण इंजीनियर केवल इसलिए कच्चे डेटा को देखना बंद कर देता है क्योंकि एआई "पास" कहता है, तो यह एक खतरनाक प्रवृत्ति है।
- जिम्मेदारी की हानि: "मॉडल ने निर्णय लिया" कोई बचाव नहीं है। निर्णय के पीछे हमेशा एक व्यक्ति का हस्ताक्षर होना चाहिए।
लघु केस अध्ययन
केस 1 - एसओटीआईएफ सीमा। एक स्वचालित आपातकालीन ब्रेकिंग प्रणाली बिना किसी खराबी के सभी प्रयोगशाला परीक्षणों को पास कर लेती है। मैदान में, धीमी धूप में, एक सफेद ट्रक अपने ट्रेलर को आकाश समझ लेता है और देर से ब्रेक लगाता है। यह कोई खराबी नहीं है, बल्कि एक SOTIF भेद्यता है: सिस्टम बरकरार है लेकिन परिदृश्य पता लगाने की सीमा से बाहर है। टीम इस परिदृश्य को परीक्षण लाइब्रेरी में जोड़ती है और रडार फ़्यूज़न को मजबूत करती है। निष्कर्ष: "कोई विफलता नहीं" सुरक्षा का प्रमाण नहीं है; अपर्याप्तता भी एक जोखिम है.
केस 2 - पक्षपातपूर्ण डेटा। पैदल यात्री पहचान मॉडल को मुख्य रूप से दिन के डेटा के साथ प्रशिक्षित किया गया था; रात्रि स्मरण काफी कम है। टीम रात और कम रोशनी के डेटा को संतुलित और पुनः प्रशिक्षित करती है और रात के परिदृश्यों को अलग से रिपोर्ट करती है। निष्कर्ष: असंतुलित डेटा कुछ परिस्थितियों में घातक भेद्यता पैदा करता है।
केस 3 - गोपनीयता उल्लंघन की रोकथाम। एक विश्लेषक फ्लीट डेटा को सार्वजनिक एआई टूल में पेस्ट करने वाला है, जब उसे पता चलता है कि डेटा में कच्चे वीआईएन और जीपीएस स्थान शामिल हैं। यह डेटा को अज्ञात बनाकर कॉर्पोरेट वातावरण में काम करता है (VIN के बजाय वाहन_01..arac_50, स्थान के बजाय क्षेत्र कोड)। परिणाम: ध्यान के एक क्षण ने गंभीर केवीकेके उल्लंघन को रोक दिया।
शीघ्र टेम्पलेट्स
टेम्प्लेट 1 - पूर्व/जोखिम प्रारंभिक मूल्यांकन (ड्राफ्ट):
भूमिका: आप एक कार्यात्मक सुरक्षा सलाहकार हैं। कार्य: किसी कार्य के लिए खतरे और जोखिम विश्लेषण में सहायता के लिए एक मसौदा तैयार करता है। संदर्भ: कार्य: स्वचालित आपातकालीन ब्रेकिंग; शहरी और इंटरसिटी। बाधा: एएसआईएल का सटीक असाइनमेंट; गंभीरता/जोखिम/नियंत्रणशीलता के आयामों पर प्रश्नों और ध्यान के बिंदुओं की एक सूची दें; इंगित करें कि अंतिम कार्य अधिकृत सुरक्षा इंजीनियर के पास है। आउटपुट: आकार | मूल्यांकन प्रश्न | ध्यान नोट तालिका.
टेम्प्लेट 2 - SOTIF परिदृश्य स्कैन:
भूमिका: आप SOTIF विशेषज्ञ हैं। कार्य: उन परिदृश्यों की सूची बनाएं जहां एक डिटेक्शन फ़ंक्शन 'सिस्टम बरकरार लेकिन अपर्याप्त' हो सकता है। प्रसंग: कैमरा + रडार; धीमी धूप, बर्फ़, सुरंग से बाहर निकलना, असामान्य वस्तुएँ। आउटपुट: परिदृश्य | अपर्याप्तता क्यों | कमी की सिफ़ारिश.
टेम्प्लेट 3 - गोपनीयता नियंत्रण:
भूमिका: आप एक डेटा सुरक्षा (KVKK/GDPR) सलाहकार हैं। कार्य: डेटा सेट साझा करने से पहले गोपनीयता ऑडिट करें। संदर्भ: फ्लीट टेलीमेट्री; कॉलम में VIN, GPS, ड्राइविंग स्कोर शामिल है। बाधा: कौन से क्षेत्र व्यक्तिगत डेटा हैं, उन्हें कैसे गुमनाम किया जाना चाहिए, मुझे क्या साझा नहीं करना चाहिए; सॉर्ट.आउटपुट: फ़ील्ड | जोखिम | अनुशंसित लेनदेन चार्ट।
टेम्प्लेट 4 - पूर्वाग्रह जांच:
भूमिका: आप एक एमएल सुरक्षा और निष्पक्षता लेखा परीक्षक हैं। कार्य: मुझे बताएं कि डिटेक्शन मॉडल में पूर्वाग्रह के जोखिम को कैसे देखा जाए। संदर्भ: पैदल यात्री का पता लगाना; प्रशिक्षण डेटा भारित दिन/शहर। आउटपुट: जांचने की स्थिति | माप | जोखिम का संकेत.
कमजोर संकेत/मजबूत संकेत
कमजोर संकेत:
क्या यह ऑटोनॉमस ब्रेकिंग सिस्टम सुरक्षित है, पुष्टि करें।
एआई सुरक्षा मंजूरी प्राप्त करने का प्रयास खतरनाक है; अनुमोदन अधिकृत इंजीनियर का है।
शक्तिशाली संकेत:
भूमिका: आप एक कार्यात्मक सुरक्षा और SOTIF सलाहकार हैं। कार्य: सूचीबद्ध करें कि मुझे अपने स्वचालित ब्रेकिंग फ़ंक्शन के सुरक्षा मूल्यांकन में कौन से प्रश्न पूछने चाहिए और कौन से साक्ष्य एकत्र करने चाहिए। संदर्भ: एआई-आधारित पहचान; कैमरा+रडार; एएसआईएल उच्च हो सकता है। बाधा: सिस्टम को 'अनुमोदन' करें; ISO 26262 (दोष) और SOTIF (कमी) के संदर्भ में प्रश्नों और साक्ष्यों की अलग-अलग सूची प्रदान करें; इस बात पर जोर दें कि अंतिम अनुमोदन अधिकृत सुरक्षा इंजीनियर के पास है। आउटपुट: फ्रेमवर्क | प्रश्न | आवश्यक साक्ष्य तालिका.
सामान्य गलतियाँ
- "सुरक्षित" के साथ "कोई खराबी नहीं" को भ्रमित करना। SOTIF की कमी बिना किसी खराबी के जान ले सकती है।
- एआई सुरक्षा मंजूरी प्राप्त करना। अनुमोदन और जिम्मेदारी अधिकृत इंजीनियर की है।
- सुरक्षा के प्रमाण के रूप में मॉडल सटीकता को गलत समझना। 99.9% सटीकता यह नहीं दर्शाती है कि शेष जोखिम का प्रबंधन कर लिया गया है।
- व्यक्तिगत डेटा की सुरक्षा नहीं करना. VIN/स्थान/ड्राइविंग व्यवहार KVKK/GDPR के दायरे में है।
- पूर्वाग्रह और अति आत्मविश्वास को नजरअंदाज करना. असंतुलित डेटा और स्वचालन में अंधा विश्वास कमजोरियाँ हैं।
संक्षेप में
- आईएसओ 26262 विफलता के कारण जोखिम का प्रबंधन करता है (एएसआईएल के साथ), जबकि आईएसओ 21448/एसओटीआईएफ विफलता के बिना विफलता के जोखिम का प्रबंधन करता है; एआई का पता लगाने में दोनों महत्वपूर्ण हैं।
- आईएसओ/एसएई 21434 साइबर सुरक्षा; प्रतिकूल और डेटा विषाक्तता हमले एआई-विशिष्ट खतरे हैं।
- केवीकेके/जीडीपीआर के दायरे में डेटा न्यूनीकरण, उद्देश्य सीमा और गुमनामीकरण अनिवार्य है; VIN/स्थान व्यक्तिगत डेटा है.
- पूर्वाग्रह, अति आत्मविश्वास और जिम्मेदारी की हानि मुख्य नैतिक जोखिम हैं।
- एआई आउटपुट योग्य इंजीनियर अनुमोदन का विकल्प नहीं है; सुरक्षा-महत्वपूर्ण निर्णय और हस्ताक्षर हमेशा व्यक्ति के होते हैं।
आवेदन कार्य
सुरक्षा-संबंधी फ़ंक्शन का चयन करें (उदाहरण के लिए लेन कीपिंग)। (1) चर्चा करें कि गंभीरता/जोखिम/नियंत्रणीयता आयामों के साथ इस फ़ंक्शन का एएसआईएल स्तर उच्च/निम्न क्यों हो सकता है। (2) टेम्प्लेट 2 के साथ 5 "सिस्टम ठोस लेकिन अपर्याप्त" परिदृश्य उत्पन्न करें। (3) टेम्प्लेट 3 के साथ प्रासंगिक डेटासेट की गोपनीयता ऑडिट करें। (4) बताएं कि "मॉडल की पुष्टि" कहना बचाव क्यों नहीं है।
चेकलिस्ट
- [ ] मैंने फ़ंक्शन के वास्तविक आयामों का मूल्यांकन किया (मैंने सटीक असाइनमेंट प्राधिकरण पर छोड़ दिया)।
- [ ] मैंने ISO 26262 (ख़राबी) और SOTIF (अपर्याप्तता) के बीच अंतर किया।
- [ ] मैंने साइबर सुरक्षा (प्रतिकूल/विषाक्तता) जोखिम को ध्यान में रखा है।
- [ ] मैंने व्यक्तिगत डेटा को अज्ञात और छोटा कर दिया है।
- [ ] मैंने पूर्वाग्रह और अति आत्मविश्वास के जोखिमों की जाँच की।
- [ ] मैंने पुष्टि की है कि सुरक्षा मंजूरी योग्य इंजीनियर के पास है।