नफा:
- आयएसओ 26262 फंक्शनल सिक्युरिटी आणि आयएसओ 21448 (एसओटीआयएफ) फ्रेमवर्क आणि कृत्रिम बुद्धिमत्ता असलेल्या प्रणालींवर त्यांचे प्रभाव स्पष्ट करण्याची क्षमता
- ऑटोमोटिव्ह संदर्भात डेटा गोपनीयता, ड्रायव्हर डेटा, सायबर सुरक्षा (ISO/SAE 21434) आणि नैतिक जोखीम व्यवस्थापित करण्याची क्षमता
- एआय आउटपुट सक्षम अभियंता मान्यतेचा पर्याय नाही हे समजून सुरक्षितता-गंभीर निर्णयांसाठी मानवी जबाबदारी राखण्याची क्षमता
तुम्ही या मॉड्यूलच्या सर्वात गंभीर युनिटमध्ये आहात. आतापर्यंत आम्ही एआयला डिझाईनपासून उत्पादनापर्यंत, चाचणीपासून पुरवठा साखळीपर्यंत प्रवेगक म्हणून पाहिले आहे. परंतु ऑटोमोटिव्हमधील निर्णायक प्रश्न आहे: ही प्रणाली कोणाचे नुकसान करेल आणि कोण जबाबदार आहे? हे युनिट सोप्या भाषेत सुरक्षितता-गंभीर उद्योग-कार्यात्मक सुरक्षा, SOTIF, सायबरसुरक्षा, गोपनीयता आणि नीतिमत्तेमध्ये जबाबदारीने AI वापरण्यासाठी फ्रेमवर्क समाविष्ट करते. मुख्य तत्त्व स्थिर राहते: एआय आउटपुट सक्षम अभियंता मंजुरीची जागा घेत नाही; सुरक्षा-गंभीर निर्णय आणि जबाबदारी माणसाची आहे.
ISO 26262: कार्यात्मक सुरक्षा
ISO 26262 हे रस्त्यावरील वाहनांच्या इलेक्ट्रिकल/इलेक्ट्रॉनिक प्रणालींसाठी कार्यात्मक सुरक्षा मानक आहे. कार्यात्मक सुरक्षा; जेव्हा एखादी प्रणाली अयशस्वी होते (सेन्सर तुटते, सॉफ्टवेअर अयशस्वी होते) तेव्हा ते धोकादायक परिस्थितीकडे नेत नाही याची खात्री करण्याशी संबंधित आहे.
या मानकाच्या केंद्रस्थानी ASIL (ऑटोमोटिव्ह सेफ्टी इंटिग्रिटी लेव्हल) आहे. धोक्याचे तीन आयामांमध्ये मूल्यांकन केले जाते:
- तीव्रता: असे झाले तर किती वाईट होईल? (किरकोळ दुखापत किंवा मृत्यू)
- एक्सपोजर: हे किती वेळा घडते?
- नियंत्रणक्षमता: ड्रायव्हर परिस्थितीवर किती नियंत्रण ठेवू शकतो?
या तिन्हींचा एकत्रित परिणाम ASIL A (सर्वात कमी) ते ASIL D (सर्वोच्च, उदा. ब्रेकिंग, स्टीयरिंग) पर्यंत होतो. जसजशी पातळी वाढते तसतसे विकास, चाचणी आणि दस्तऐवजीकरण आवश्यकता अधिक कठोर होत जातात.
मुख्य
नमुना प्रणाली
आवश्यकता तीव्रता
ए.
अंतर्गत प्रकाश खराबी
कमी
बी.
शेपटी प्रकाश
मध्यम
सी.
काही ADAS कार्ये
उच्च
डी.
ब्रेक, स्टीयरिंग, एअरबॅग
सर्वोच्च
टीप: फंक्शनची मुख्य पातळी जाणून घेतल्यास त्या फंक्शनमध्ये AI वापरण्यासाठी किती लक्ष द्यावे लागेल हे सांगते. फंक्शनमधील एआय आउटपुटवर आधारित कोणताही निर्णय स्वतंत्र सुरक्षा पडताळणीशिवाय स्वीकारला जाऊ शकत नाही.
ISO 21448 (SOTIF): इच्छित कार्याची सुरक्षा
शास्त्रीय कार्यात्मक सुरक्षा (ISO 26262) "सिस्टम अयशस्वी झाल्यास काय होईल?" या प्रश्नावर लक्ष केंद्रित करते. परंतु आर्टिफिशियल इंटेलिजन्स डिटेक्शन सिस्टममध्ये एक नवीन समस्या आहे: जरी सिस्टम कधीही खराब होत नसली तरीही ती अपुरी असू शकते. कॅमेरा ठीक काम करतो पण बर्फाच्छादित स्लॅब ओळखू शकत नाही; रडार घन आहे, परंतु ते भूत सिग्नल म्हणून स्थिर वाहनाकडे दुर्लक्ष करते. येथे कोणतेही हार्डवेअर/सॉफ्टवेअर बिघाड नाही; समस्या फंक्शनच्या इच्छित व्याप्तीच्या मर्यादेवर आहे.
ISO 21448 - SOTIF (सेफ्टी ऑफ द इन्टेंडेड फंक्शनॅलिटी) नेमके हे अंतर पूर्ण करते: प्रणाली डिझाइन केल्याप्रमाणे कार्य करत असली तरीही, अपरिचित परिस्थिती, शोध मर्यादा आणि अनपेक्षित परिस्थितींमुळे उद्भवणारे धोके व्यवस्थापित करणे. AI-आधारित ADAS/ऑटोनॉमस ड्रायव्हिंगमध्ये, SOTIF हे ISO 26262 प्रमाणेच गंभीर आहे.
फ्रेम
लक्ष केंद्रित करा
उदाहरण
ISO 26262
अपयशामुळे धोका
सेन्सर तुटतो, सिग्नल गायब होतो
ISO 21448 (SOTIF)
अपुरेपणा/अ-मान्यता होण्याचा धोका
खडबडीत कॅमेरा बर्फाचा स्लॅब ओळखत नाही
ISO/SAE 21434
सायबर सुरक्षा
सिस्टम हल्ला, डेटा हाताळणी
खबरदारी: AI मॉडेल सांख्यिकीय आहेत; ते "प्रत्येक परिस्थिती योग्यरित्या पाहतील" याची खात्री देऊ शकत नाहीत. SOTIF चे उद्दिष्ट या अंतर्निहित मर्यादित प्रणालींमध्ये अज्ञात धोकादायक परिस्थिती कमी करणे आणि उर्वरित धोका स्वीकार्य पातळीवर कमी करणे आहे. "मॉडेल 99.9% अचूक आहे" हा सुरक्षिततेचा पुरावा नाही.
ISO/SAE 21434: सायबर सुरक्षा
कनेक्टेड आणि सॉफ्टवेअर-परिभाषित वाहने सायबर हल्ल्यासाठी असुरक्षित आहेत. रिमोट हल्लेखोर ब्रेक कमांड बदलू शकतो, टेलीमेट्री चोरू शकतो किंवा डिटेक्शन मॉडेलची फसवणूक करू शकतो (विरोधक हल्ला: प्लेटवर एक लहान स्टिकर ठेवून मॉडेलला चुकीची ओळख करून देणे). ISO/SAE 21434 हे वाहन सायबर सुरक्षेसाठी अभियांत्रिकी फ्रेमवर्क आहे. कृत्रिम बुद्धिमत्तेच्या संदर्भात, दोन धोके वेगळे आहेत: मॉडेलची फसवणूक करणे (विरोधक) आणि प्रशिक्षण डेटामध्ये विषबाधा करणे (डेटा विषबाधा). या हल्ल्यांविरूद्ध सुरक्षा-गंभीर एआय सिस्टमची चाचणी केली पाहिजे.
गोपनीयता आणि वैयक्तिक डेटा
आधुनिक वाहन हे “चाकांवर डेटा केंद्र” आहे: स्थान, वाहन चालवण्याचे वर्तन, ऑडिओ, अगदी केबिन कॅमेरा. यापैकी बहुतेक वैयक्तिक डेटा आहे आणि KVKK (Türkiye) आणि GDPR (युरोप) द्वारे संरक्षित आहे. व्हीआयएन (चेसिस नंबर) वाहन आणि अप्रत्यक्षपणे त्याचा मालक ओळखू शकतो. मूलभूत तत्त्वे:
- डेटा कमी करणे: आवश्यक तेच गोळा करा.
- उद्देश मर्यादा: डेटा ज्या उद्देशासाठी संकलित केला होता त्याशिवाय इतर हेतूंसाठी वापरू नका.
- अनामिकरण/छद्मनामकरण: वैयक्तिकरित्या ओळखणारी माहिती काढा किंवा एन्कोड करा.
- स्पष्ट संमती आणि पारदर्शकता: ड्रायव्हरला माहित असणे आवश्यक आहे की काय गोळा केले जात आहे.
- सुरक्षित स्टोरेज आणि हस्तांतरण.
खबरदारी: सार्वजनिक क्लाउड एआय टूलवर कच्चा VIN, स्थान इतिहास किंवा ड्रायव्हिंग वर्तन पाठवणे हे गोपनीयतेचे उल्लंघन आणि कराराचा धोका दोन्ही असू शकते. या डेटासह काम करताना, तो अनामित करा आणि संस्थात्मक, डेटा-संरक्षित वातावरण वापरा.
नैतिकता आणि अभियंता जबाबदारी
कृत्रिम बुद्धिमत्ता काही नैतिक धोके आणते:
- पूर्वाग्रह: जर प्रशिक्षण डेटा काही विशिष्ट परिस्थितींवर वर्चस्व गाजवत असेल (उदा. दिवसाची वेळ, हलकी त्वचा, काही प्रादेशिक रस्ते), मॉडेल अप्रस्तुत परिस्थितीत (रात्री, भिन्न परिस्थिती) खराब कामगिरी करू शकते. ही एक अगतिकता आहे.
- अतिआत्मविश्वास (ऑटोमेशन बायस): लोक ऑटोमेशनवर आंधळेपणाने विश्वास ठेवतात आणि स्वतःच्या निर्णयाला ओव्हरराइड करतात. जर चाचणी अभियंता एआयने "पास" म्हटल्यामुळे कच्चा डेटा पाहणे थांबवले तर हा एक धोकादायक ट्रेंड आहे.
- जबाबदारी गमावणे: "मॉडेल ठरवले" हा बचाव नाही. निर्णयामागे नेहमी सही करणारी व्यक्ती असावी.
मिनी केस स्टडी
केस 1 - SOTIF मर्यादा. स्वयंचलित आणीबाणी ब्रेकिंग प्रणाली सर्व प्रयोगशाळेच्या चाचण्या उत्तीर्ण करते, कोणत्याही खराबीशिवाय. शेतात, कमी उन्हात, एक पांढरा ट्रक त्याचा ट्रेलर आकाशाकडे चुकतो आणि उशीरा ब्रेक लावतो. ही खराबी नाही, परंतु SOTIF असुरक्षा आहे: सिस्टम अबाधित आहे परंतु परिस्थिती शोध मर्यादेच्या बाहेर आहे. टीम चाचणी लायब्ररीमध्ये ही परिस्थिती जोडते आणि रडार फ्यूजन मजबूत करते. निष्कर्ष: "नाही अपयश" हा सुरक्षिततेचा पुरावा नाही; अपुरेपणा देखील एक धोका आहे.
केस 2 - पक्षपाती डेटा. पादचारी शोध मॉडेल मुख्यतः दिवसाच्या डेटासह प्रशिक्षित केले गेले; रात्रीची आठवण लक्षणीयरीत्या कमी आहे. संघ रात्रीचा आणि कमी प्रकाशाचा डेटा संतुलित करतो आणि पुन्हा प्रशिक्षण देतो आणि रात्रीच्या परिस्थितींचा स्वतंत्रपणे अहवाल देतो. निष्कर्ष: असंतुलित डेटा विशिष्ट परिस्थितींमध्ये एक घातक असुरक्षा निर्माण करतो.
प्रकरण 3 - गोपनीयता भंग प्रतिबंध. एका विश्लेषकाने पब्लिक एआय टूलमध्ये फ्लीट डेटा पेस्ट केला आहे जेव्हा त्याच्या लक्षात येते की डेटामध्ये कच्ची VIN आणि GPS स्थाने आहेत. हे डेटा निनावी करून कॉर्पोरेट वातावरणात कार्य करते (VIN ऐवजी वाहन_01..arac_50, स्थानाऐवजी प्रदेश कोड). परिणाम: एका क्षणाच्या लक्षाने KVKK चे गंभीर उल्लंघन टाळले.
प्रॉम्प्ट टेम्पलेट्स
टेम्पलेट 1 - PRIOR/जोखीम प्राथमिक मूल्यांकन (मसुदा):
भूमिका: तुम्ही कार्यशील सुरक्षा सल्लागार आहात. कार्य: फंक्शनसाठी धोका आणि जोखीम विश्लेषणास मदत करण्यासाठी मसुदा तयार करते. संदर्भ: कार्य: स्वयंचलित आपत्कालीन ब्रेकिंग; urban and intercity. Constraint: ASIL ची नेमकी नियुक्ती; प्रश्नांची यादी द्या आणि गंभीरता/एक्सपोजर/नियंत्रणक्षमतेच्या परिमाणांवर लक्ष द्या; सूचित करा की अंतिम असाइनमेंट अधिकृत सुरक्षा अभियंत्याकडे आहे. आउटपुट: आकार | मूल्यमापन प्रश्न | लक्ष नोट टेबल.
टेम्पलेट 2 - SOTIF परिदृश्य स्कॅन:
भूमिका: तुम्ही SOTIF तज्ञ आहात. कार्य: अशा परिस्थितींची यादी करा जिथे डिटेक्शन फंक्शन 'सिस्टम अखंड पण अपुरी' असू शकते. संदर्भ: कॅमेरा + रडार; कमी सूर्य, बर्फ, बोगद्यातून बाहेर पडणे, असामान्य वस्तू. आउटपुट: परिस्थिती | अपुरेपणा का | कपात शिफारस.
टेम्पलेट 3 - गोपनीयता नियंत्रण:
भूमिका: तुम्ही डेटा संरक्षण (KVKK/GDPR) सल्लागार आहात. कार्य: डेटा सेट शेअर करण्यापूर्वी गोपनीयता ऑडिट करा. संदर्भ: फ्लीट टेलीमेट्री; स्तंभांमध्ये VIN, GPS, ड्रायव्हिंग स्कोअर असतात. प्रतिबंध: कोणते फील्ड वैयक्तिक डेटा आहेत, ते निनावी कसे असावे, मी काय सामायिक करू नये; sort.Output: फील्ड | धोका | शिफारस केलेला व्यवहार चार्ट.
टेम्प्लेट 4 - बायस चेक:
भूमिका: तुम्ही ML सुरक्षा आणि निष्पक्षता लेखापरीक्षक आहात. कार्य: डिटेक्शन मॉडेलमध्ये पक्षपाताचा धोका कसा शोधायचा ते मला सांगा. संदर्भ: पादचारी ओळख; प्रशिक्षण डेटा भारित दिवस/शहर. आउटपुट: तपासण्यासाठी अट | मोजमाप | जोखीम चिन्ह.
कमकुवत प्रॉम्प्ट / मजबूत प्रॉम्प्ट
कमकुवत प्रॉम्प्ट:
ही स्वायत्त ब्रेकिंग सिस्टम सुरक्षित आहे का, पुष्टी करा.
AI सुरक्षा मंजुरी मिळवण्याचा प्रयत्न करणे धोकादायक आहे; मान्यता अधिकृत अभियंत्याची आहे.
शक्तिशाली सूचना:
भूमिका: तुम्ही कार्यात्मक सुरक्षा आणि SOTIF सल्लागार आहात. कार्य: माझ्या स्वयंचलित ब्रेकिंग कार्याच्या सुरक्षिततेच्या मूल्यांकनात मी कोणते प्रश्न विचारले पाहिजेत आणि कोणते पुरावे गोळा करावेत याची यादी करा. संदर्भ: एआय-आधारित शोध; कॅमेरा + रडार; ASIL उच्च असू शकते. बंधन: प्रणालीला 'मंजुरी द्या'; ISO 26262 (दोष) आणि SOTIF (कमतरता) च्या दृष्टीने प्रश्न आणि पुरावे यांच्या स्वतंत्र सूची प्रदान करा; अंतिम मान्यता अधिकृत सुरक्षा अभियंत्याकडे आहे यावर जोर द्या. आउटपुट: फ्रेमवर्क | प्रश्न | आवश्यक पुरावा टेबल.
सामान्य चुका
- "सुरक्षित" सह "कोणतीही खराबी नाही" गोंधळात टाकणारे. SOTIF ची कमतरता खराब कार्य न करता मारू शकते.
- AI सुरक्षा मंजुरी मिळवणे. मान्यता आणि जबाबदारी अधिकृत अभियंत्याची आहे.
- सुरक्षिततेचा पुरावा म्हणून मॉडेलची अचूकता चुकीची आहे. 99.9% अचूकता हे सूचित करत नाही की उर्वरित जोखीम व्यवस्थापित केली गेली आहे.
- वैयक्तिक डेटाचे संरक्षण करत नाही. VIN/स्थान/ड्रायव्हिंग वर्तन KVKK/GDPR च्या कार्यक्षेत्रात आहे.
- पक्षपात आणि अतिआत्मविश्वासाकडे दुर्लक्ष करणे. असंतुलित डेटा आणि ऑटोमेशनवर आंधळा विश्वास ही असुरक्षा आहेत.
सारांशात
- ISO 26262 अयशस्वी होण्याच्या जोखमीचे व्यवस्थापन करते (ASIL सह), तर ISO 21448/SOTIF अपयशाशिवाय जोखीम व्यवस्थापित करते; एआय डिटेक्शनमध्ये दोन्ही गंभीर आहेत.
- ISO/SAE 21434 सायबर सुरक्षा; विरोधी आणि डेटा विषबाधा हल्ले AI-विशिष्ट धोके आहेत.
- KVKK/GDPR च्या कार्यक्षेत्रात डेटा कमी करणे, उद्देश मर्यादा आणि अनामिकरण अनिवार्य आहे; VIN/स्थान हा वैयक्तिक डेटा आहे.
- पूर्वग्रह, अतिआत्मविश्वास आणि जबाबदारी गमावणे हे मुख्य नैतिक धोके आहेत.
- AI आउटपुट पात्र अभियंता मंजुरीसाठी पर्याय नाही; सुरक्षितता-गंभीर निर्णय आणि स्वाक्षरी नेहमीच व्यक्तीची असते.
अर्ज कार्य
सुरक्षा-संबंधित कार्य निवडा (उदा. लेन ठेवणे). (1) या कार्याची ASIL पातळी तीव्रता/एक्सपोजर/नियंत्रणता परिमाणांसह उच्च/कमी का असू शकते यावर चर्चा करा. (2) टेम्प्लेट 2 सह 5 "सिस्टम सॉलिड परंतु अपुरी" परिस्थिती निर्माण करा. (3) टेम्प्लेट 3 सह संबंधित डेटासेटचे गोपनीयतेचे ऑडिट करा. (4) "मॉडेल पुष्टी केली" असे म्हणणे हा बचाव का नाही हे स्पष्ट करा.
चेकलिस्ट
- [ ] मी फंक्शनच्या वास्तविक परिमाणांचे मूल्यमापन केले (मी अचूक असाइनमेंट प्राधिकरणाकडे सोडले).
- [ ] मी ISO 26262 (खराबता) आणि SOTIF (अपर्याप्तता) मधील फरक केला आहे.
- [ ] मी सायबर सुरक्षा (विरोध/विषबाधा) जोखीम लक्षात घेतली आहे.
- [ ] मी वैयक्तिक डेटा अनामित आणि कमी केला आहे.
- [ ] मी पूर्वाग्रह आणि अतिआत्मविश्वासाचे धोके तपासले.
- [ ] मी खात्री केली आहे की सुरक्षा मंजुरी पात्र अभियंत्याकडे आहे.