કાર્યાત્મક સલામતી, SOTIF, નીતિશાસ્ત્ર અને ગોપનીયતા

નફો:

• ISO 26262 કાર્યાત્મક સુરક્ષા અને ISO 21448 (SOTIF) ફ્રેમવર્ક અને આર્ટિફિશિયલ ઇન્ટેલિજન્સ ધરાવતી સિસ્ટમ્સ પર તેમની અસરોને સમજાવવાની ક્ષમતા
• ઓટોમોટિવ સંદર્ભમાં ડેટા ગોપનીયતા, ડ્રાઇવર ડેટા, સાયબર સુરક્ષા (ISO/SAE 21434) અને નૈતિક જોખમોનું સંચાલન કરવાની ક્ષમતા
• એઆઈ આઉટપુટ સક્ષમ એન્જિનિયરની મંજૂરીનો વિકલ્પ નથી તે સમજીને સલામતી-નિર્ણાયક નિર્ણયો માટે માનવ જવાબદારી જાળવવાની ક્ષમતા

તમે આ મોડ્યુલના સૌથી મહત્વપૂર્ણ એકમમાં છો. અત્યાર સુધી આપણે એઆઈને ડિઝાઈનથી લઈને ઉત્પાદન સુધી, પરીક્ષણથી લઈને સપ્લાય ચેઈન સુધીના પ્રવેગક તરીકે જોયુ છે. પરંતુ ઓટોમોટિવમાં નિર્ણાયક પ્રશ્ન છે: શું આ સિસ્ટમ કોઈને નુકસાન કરશે અને કોણ જવાબદાર છે? આ એકમ સાદી ભાષામાં સલામતી-નિર્ણાયક ઉદ્યોગમાં AI નો જવાબદારીપૂર્વક ઉપયોગ કરવા માટેના માળખાને આવરી લે છે - કાર્યાત્મક સલામતી, SOTIF, સાયબર સુરક્ષા, ગોપનીયતા અને નીતિશાસ્ત્ર. મુખ્ય સિદ્ધાંત સતત રહે છે: AI આઉટપુટ ક્યારેય સક્ષમ એન્જિનિયરની મંજૂરીને બદલે નથી; સુરક્ષા-નિર્ણાયક નિર્ણય અને જવાબદારી માણસની છે.

ISO 26262: કાર્યાત્મક સલામતી

ISO 26262 એ રોડ વાહનોની ઇલેક્ટ્રિકલ/ઇલેક્ટ્રોનિક સિસ્ટમ્સ માટે કાર્યાત્મક સલામતી ધોરણ છે. કાર્યાત્મક સલામતી; જ્યારે સિસ્ટમ નિષ્ફળ જાય છે (સેન્સર તૂટી જાય છે, સોફ્ટવેર નિષ્ફળ જાય છે) ત્યારે તે ખતરનાક પરિસ્થિતિ તરફ દોરી જતું નથી તેની ખાતરી કરવા માટે તે ચિંતિત છે.

આ ધોરણના કેન્દ્રમાં ASIL (ઓટોમોટિવ સેફ્ટી ઈન્ટિગ્રિટી લેવલ) છે. જોખમનું મૂલ્યાંકન ત્રણ પરિમાણોમાં કરવામાં આવે છે:

• ગંભીરતા: જો તે થાય તો તે કેટલું ખરાબ હશે? (નાની ઈજા અથવા મૃત્યુ)
• એક્સપોઝર: આ કેટલી વાર થાય છે?
• નિયંત્રણક્ષમતા: ડ્રાઇવર પરિસ્થિતિને કેટલું નિયંત્રિત કરી શકે છે?

આ ત્રણેય સંયુક્ત પરિણામ ASIL A (સૌથી નીચું) થી ASIL D (સૌથી વધુ, દા.ત. બ્રેકિંગ, સ્ટીયરિંગ) સુધીના સ્તરમાં પરિણમે છે. જેમ જેમ સ્તર વધે છે તેમ, વિકાસ, પરીક્ષણ અને દસ્તાવેજીકરણની આવશ્યકતાઓ વધુ કડક બને છે.

મુખ્ય

નમૂના સિસ્ટમ

જરૂરિયાતની તીવ્રતા

એ.

આંતરિક લાઇટિંગમાં ખામી

નીચું

બી.

પૂંછડીનો પ્રકાશ

મધ્યમ

સી.

કેટલાક ADAS કાર્યો

ઉચ્ચ

ડી.

બ્રેક, સ્ટીયરીંગ, એરબેગ

સૌથી વધુ

ટીપ: ફંક્શનના મુખ્ય સ્તરને જાણવું એ તમને જણાવે છે કે તે ફંક્શનમાં AI નો ઉપયોગ કરવા માટે કેટલું ધ્યાન જરૂરી છે. ફંક્શનમાં AI આઉટપુટ પર આધારિત કોઈ નિર્ણય સ્વતંત્ર સુરક્ષા ચકાસણી વિના સ્વીકારી શકાતો નથી.

ISO 21448 (SOTIF): ઇચ્છિત કાર્યની સલામતી

ક્લાસિકલ ફંક્શનલ સેફ્ટી (ISO 26262) પ્રશ્ન પર ધ્યાન કેન્દ્રિત કરે છે "જો સિસ્ટમ નિષ્ફળ જાય તો શું થશે?" પરંતુ આર્ટિફિશિયલ ઇન્ટેલિજન્સ ડિટેક્શન સિસ્ટમ્સમાં એક નવી સમસ્યા છે: જો સિસ્ટમ ક્યારેય ખામીયુક્ત ન હોય તો પણ તે અપૂરતી હોઈ શકે છે. કેમેરા બરાબર કામ કરે છે પરંતુ બરફીલા સ્લેબને ઓળખી શકતો નથી; રડાર નક્કર છે, પરંતુ તે સ્થિર વાહનને ભૂત સંકેત તરીકે અવગણે છે. અહીં કોઈ હાર્ડવેર/સોફ્ટવેર નિષ્ફળતા નથી; સમસ્યા ફંક્શનના ઇચ્છિત અવકાશની મર્યાદા પર છે.

ISO 21448 - SOTIF (ઈચ્છિત કાર્યક્ષમતાની સલામતી) બરાબર આ અંતરને સંબોધિત કરે છે: અજ્ઞાત દૃશ્યો, શોધ મર્યાદાઓ અને અણધાર્યા પરિસ્થિતિઓથી ઉદ્ભવતા જોખમોનું સંચાલન કરો, પછી ભલે સિસ્ટમ ડિઝાઇન પ્રમાણે કામ કરે. AI-આધારિત ADAS/ઓટોનોમસ ડ્રાઇવિંગમાં, SOTIF એ ISO 26262 જેટલું જ મહત્વપૂર્ણ છે.

ફ્રેમ

ફોકસ કરો

ઉદાહરણ

ISO 26262

નિષ્ફળતાને કારણે જોખમ

સેન્સર તૂટી જાય છે, સિગ્નલ અદૃશ્ય થઈ જાય છે

ISO 21448 (SOTIF)

અયોગ્યતા/અ-માન્યતાનું જોખમ

કઠોર કેમેરા બરફીલા સ્લેબને ઓળખતો નથી

ISO/SAE 21434

સાયબર સુરક્ષા

સિસ્ટમ હુમલો, ડેટા મેનીપ્યુલેશન

સાવધાન: AI મોડલ આંકડાકીય છે; તેઓ ખાતરી આપી શકતા નથી કે તેઓ "દરેક પરિસ્થિતિને યોગ્ય રીતે જોશે". SOTIF નો ઉદ્દેશ આ સ્વાભાવિક રીતે મર્યાદિત સિસ્ટમોમાં અજાણ્યા જોખમી દૃશ્યોને સંકુચિત કરવાનો અને બાકીના જોખમને સ્વીકાર્ય સ્તર સુધી ઘટાડવાનો છે. "મોડલ 99.9% સચોટ છે" એ સુરક્ષાનો પુરાવો નથી.

ISO/SAE 21434: સાયબર સુરક્ષા

કનેક્ટેડ અને સોફ્ટવેર-વ્યાખ્યાયિત વાહનો સાયબર હુમલા માટે સંવેદનશીલ હોય છે. દૂરસ્થ હુમલાખોર બ્રેક કમાન્ડમાં ફેરફાર કરી શકે છે, ટેલિમેટ્રી ચોરી શકે છે અથવા ડિટેક્શન મોડલની યુક્તિ કરી શકે છે (વિરોધી હુમલો: પ્લેટ પર નાનું સ્ટીકર મૂકીને મોડલને તેની ખોટી ઓળખ કરાવે છે). ISO/SAE 21434 એ વાહન સાયબર સુરક્ષા માટેનું એન્જિનિયરિંગ માળખું છે. કૃત્રિમ બુદ્ધિના સંદર્ભમાં, બે જોખમો બહાર આવે છે: મોડેલને છેતરવું (વિરોધી) અને તાલીમ ડેટાને ઝેર આપવો (ડેટા પોઈઝનિંગ). આ હુમલાઓ સામે સુરક્ષા-નિર્ણાયક AI સિસ્ટમ્સનું પરીક્ષણ કરવું જોઈએ.

ગોપનીયતા અને વ્યક્તિગત ડેટા

આધુનિક વાહન એ "ડેટા સેન્ટર ઓન વ્હીલ્સ" છે: સ્થાન, ડ્રાઇવિંગ વર્તન, ઓડિયો, કેબિન કેમેરા પણ. આમાંનો મોટાભાગનો વ્યક્તિગત ડેટા છે અને KVKK (Türkiye) અને GDPR (યુરોપ) દ્વારા આવરી લેવામાં આવ્યો છે. VIN (ચેસીસ નંબર) વાહન અને પરોક્ષ રીતે તેના માલિકને ઓળખી શકે છે. મૂળભૂત સિદ્ધાંતો:

• ડેટા મિનિમાઇઝેશન: જે જરૂરી છે તે જ એકત્રિત કરો.
• હેતુ મર્યાદા: ડેટાનો ઉપયોગ તે હેતુ સિવાયના હેતુઓ માટે કરશો નહીં કે જેના માટે તે એકત્રિત કરવામાં આવ્યો હતો.
• અનામીકરણ/ઉપનામીકરણ: વ્યક્તિગત રીતે ઓળખતી માહિતીને દૂર કરો અથવા એન્કોડ કરો.
• સ્પષ્ટ સંમતિ અને પારદર્શિતા: ડ્રાઈવરને ખબર હોવી જોઈએ કે શું એકત્રિત કરવામાં આવી રહ્યું છે.
• સુરક્ષિત સ્ટોરેજ અને ટ્રાન્સફર.

સાવધાન: સાર્વજનિક ક્લાઉડ AI ટૂલ પર કાચો VIN, સ્થાન ઇતિહાસ અથવા ડ્રાઇવિંગ વર્તન મોકલવું એ ગોપનીયતા ઉલ્લંઘન અને કરાર જોખમ બંને હોઈ શકે છે. આ ડેટા સાથે કામ કરતી વખતે, તેને અનામી કરો અને સંસ્થાકીય, ડેટા-સંરક્ષિત વાતાવરણનો ઉપયોગ કરો.

નૈતિકતા અને એન્જિનિયરની જવાબદારી

કૃત્રિમ બુદ્ધિ તેની સાથે કેટલાક નૈતિક જોખમો લાવે છે:

• પૂર્વગ્રહ: જો પ્રશિક્ષણ ડેટા અમુક પરિસ્થિતિઓ (દા.ત. દિવસનો સમય, હળવા ત્વચા, અમુક પ્રાદેશિક રસ્તાઓ) પર પ્રભુત્વ ધરાવે છે, તો મોડલ અન્ડરપ્રેઝેન્ટેડ પરિસ્થિતિઓ (રાત્રિ, વિવિધ પરિસ્થિતિઓ) માં ખરાબ પ્રદર્શન કરી શકે છે. આ એક નબળાઈ છે.
• અતિશય આત્મવિશ્વાસ (ઓટોમેશન પૂર્વગ્રહ): લોકો ઓટોમેશન પર આંધળો વિશ્વાસ કરે છે અને તેમના પોતાના નિર્ણયને ઓવરરાઇડ કરે છે. જો ટેસ્ટ એન્જિનિયર કાચા ડેટાને જોવાનું બંધ કરે છે કારણ કે AI કહે છે કે "પાસ", તો આ એક ખતરનાક વલણ છે.
• જવાબદારીની ખોટ: "મોડેલ નક્કી કર્યું" એ સંરક્ષણ નથી. નિર્ણય પાછળ હંમેશા સહી કરનાર વ્યક્તિ હોવી જોઈએ.

મિની કેસ સ્ટડીઝ

કેસ 1 - SOTIF મર્યાદા. સ્વયંસંચાલિત ઇમરજન્સી બ્રેકિંગ સિસ્ટમ કોઈપણ ખામી વિના તમામ પ્રયોગશાળા પરીક્ષણો પાસ કરે છે. મેદાનમાં, નીચા તડકામાં, એક સફેદ ટ્રક તેના ટ્રેલરને આકાશ તરફ ભૂલે છે અને મોડેથી બ્રેક મારે છે. આ કોઈ ખામી નથી, પરંતુ SOTIF નબળાઈ છે: સિસ્ટમ અકબંધ છે પરંતુ દૃશ્ય તપાસ મર્યાદાની બહાર છે. ટીમ આ દૃશ્યને ટેસ્ટ લાઇબ્રેરીમાં ઉમેરે છે અને રડાર ફ્યુઝનને મજબૂત બનાવે છે. નિષ્કર્ષ: "કોઈ નિષ્ફળતા" સલામતીનો પુરાવો નથી; અપૂર્ણતા પણ એક જોખમ છે.

કેસ 2 - પક્ષપાતી ડેટા. એક રાહદારી શોધ મોડેલને મુખ્યત્વે દિવસના ડેટા સાથે તાલીમ આપવામાં આવી હતી; નાઇટ રિકોલ નોંધપાત્ર રીતે ઓછું છે. ટીમ રાત્રિ અને ઓછા પ્રકાશના ડેટાને સંતુલિત કરે છે અને ફરીથી તાલીમ આપે છે અને રાત્રિના દૃશ્યોની અલગથી જાણ કરે છે. નિષ્કર્ષ: અસંતુલિત ડેટા ચોક્કસ સંજોગોમાં જીવલેણ નબળાઈ બનાવે છે.

કેસ 3 - ગોપનીયતા ભંગ નિવારણ. એક વિશ્લેષક સાર્વજનિક AI ટૂલમાં ફ્લીટ ડેટા પેસ્ટ કરવા જઈ રહ્યો છે જ્યારે તેણે જોયું કે ડેટામાં કાચા VIN અને GPS સ્થાનો છે. તે ડેટાને અનામી કરીને કોર્પોરેટ વાતાવરણમાં કાર્ય કરે છે (VIN ને બદલે વાહન_01..arac_50, સ્થાનને બદલે પ્રદેશ કોડ). પરિણામ: ધ્યાનની એક ક્ષણે ગંભીર KVKK ઉલ્લંઘન અટકાવ્યું.

પ્રોમ્પ્ટ નમૂનાઓ

નમૂનો 1 - PRIOR/જોખમ પ્રારંભિક આકારણી (ડ્રાફ્ટ):

ભૂમિકા: તમે કાર્યાત્મક સલામતી સલાહકાર છો. કાર્ય: કાર્ય માટે સંકટ અને જોખમ વિશ્લેષણમાં મદદ કરવા માટે ડ્રાફ્ટ તૈયાર કરે છે. સંદર્ભ: કાર્ય: સ્વચાલિત કટોકટી બ્રેકિંગ; શહેરી અને ઇન્ટરસિટી. નિયંત્રણ: ASIL ની ચોક્કસ સોંપણી; ગંભીરતા/એક્સપોઝર/નિયંત્રણતાના પરિમાણો પર પ્રશ્નો અને ધ્યાનના મુદ્દાઓની સૂચિ આપો; સૂચવે છે કે અંતિમ સોંપણી અધિકૃત સુરક્ષા ઇજનેર પાસે છે. આઉટપુટ: કદ | મૂલ્યાંકન પ્રશ્ન | ધ્યાન નોંધ ટેબલ.

નમૂનો 2 - SOTIF દૃશ્ય સ્કેન:

ભૂમિકા: તમે સોટીફ નિષ્ણાત છો. કાર્ય: એવા દૃશ્યોની સૂચિ બનાવો કે જ્યાં શોધ કાર્ય 'સિસ્ટમ અખંડ પરંતુ અપૂરતું' હોઈ શકે. સંદર્ભ: કેમેરા + રડાર; ઓછો સૂર્ય, બરફ, ટનલ બહાર નીકળો, અસામાન્ય વસ્તુઓ. આઉટપુટ: દૃશ્ય | શા માટે અયોગ્યતા | ઘટાડવાની ભલામણ.

નમૂનો 3 - ગોપનીયતા નિયંત્રણ:

ભૂમિકા: તમે ડેટા પ્રોટેક્શન (KVKK/GDPR) કન્સલ્ટન્ટ છો. કાર્ય: ડેટા સેટ શેર કરતા પહેલા ગોપનીયતા ઓડિટ કરો. સંદર્ભ: ફ્લીટ ટેલિમેટ્રી; કૉલમમાં VIN, GPS, ડ્રાઇવિંગ સ્કોર હોય છે. મર્યાદા: કયા ક્ષેત્રો વ્યક્તિગત ડેટા છે, તેઓ કેવી રીતે અનામી હોવા જોઈએ, મારે શું શેર કરવું જોઈએ નહીં; sort.Output: Field | જોખમ | ભલામણ કરેલ વ્યવહાર ચાર્ટ.

નમૂનો 4 - પૂર્વગ્રહ તપાસ:

ભૂમિકા: તમે ML સેફ્ટી અને ફેરનેસ ઓડિટર છો. કાર્ય: શોધ મોડેલમાં પૂર્વગ્રહના જોખમને કેવી રીતે જોવું તે મને કહો. સંદર્ભ: રાહદારીઓની શોધ; તાલીમ ડેટા ભારિત દિવસ/શહેર. આઉટપુટ: તપાસવાની સ્થિતિ | માપન | જોખમ ચિહ્ન.

નબળા પ્રોમ્પ્ટ / મજબૂત પ્રોમ્પ્ટ

નબળા પ્રોમ્પ્ટ:

શું આ સ્વાયત્ત બ્રેકિંગ સિસ્ટમ સુરક્ષિત છે, પુષ્ટિ કરો.

AI સુરક્ષા મંજૂરી મેળવવાનો પ્રયાસ કરવો જોખમી છે; મંજૂરી અધિકૃત એન્જિનિયરની છે.

શક્તિશાળી પ્રોમ્પ્ટ:

ભૂમિકા: તમે કાર્યાત્મક સલામતી અને SOTIF સલાહકાર છો. કાર્ય: મારા સ્વચાલિત બ્રેકિંગ કાર્યના સલામતી મૂલ્યાંકનમાં મારે કયા પ્રશ્નો પૂછવા જોઈએ અને મારે કયા પુરાવા એકત્રિત કરવા જોઈએ તેની સૂચિ બનાવો. સંદર્ભ: AI-આધારિત શોધ; કેમેરા + રડાર; ASIL ઉચ્ચ હોઈ શકે છે. અવરોધ: સિસ્ટમને 'મંજૂર' કરો; ISO 26262 (ખામી) અને SOTIF (ઉણપ) ના સંદર્ભમાં પ્રશ્નો અને પુરાવાઓની અલગ સૂચિ પ્રદાન કરો; ભારપૂર્વક જણાવો કે અંતિમ મંજૂરી અધિકૃત સુરક્ષા ઇજનેર પાસે છે. આઉટપુટ: ફ્રેમવર્ક | પ્રશ્ન | જરૂરી પુરાવા કોષ્ટક.

સામાન્ય ભૂલો

• "સેફ" સાથે "કોઈ ખામી નથી" ને ગૂંચવણમાં મૂકે છે. SOTIF ની ઉણપ ખામી વગર મારી શકે છે.
• AI સુરક્ષા મંજૂરી મેળવવી. મંજૂરી અને જવાબદારી અધિકૃત એન્જિનિયરની છે.
• સુરક્ષાના પુરાવા તરીકે મોડલની ચોકસાઈની ભૂલ કરવી. 99.9% ચોકસાઈ દર્શાવે છે કે બાકીના જોખમનું સંચાલન કરવામાં આવ્યું છે.
• વ્યક્તિગત ડેટાનું રક્ષણ કરતું નથી. VIN/સ્થાન/ડ્રાઇવિંગ વર્તન KVKK/GDPR ના દાયરામાં છે.
• પૂર્વગ્રહ અને અતિશય આત્મવિશ્વાસની અવગણના કરવી. અસંતુલિત ડેટા અને ઓટોમેશનમાં આંધળો વિશ્વાસ એ નબળાઈઓ છે.

સારાંશમાં

• ISO 26262 નિષ્ફળતા (ASIL સાથે)ને કારણે જોખમનું સંચાલન કરે છે, જ્યારે ISO 21448/SOTIF નિષ્ફળતા વિના નિષ્ફળતાના જોખમનું સંચાલન કરે છે; બંને એઆઈ ડિટેક્શનમાં મહત્વપૂર્ણ છે.
• ISO/SAE 21434 સાયબર સુરક્ષા; વિરોધી અને ડેટા પોઈઝનીંગ હુમલા એ એઆઈ-વિશિષ્ટ જોખમો છે.
• KVKK/GDPR ના દાયરામાં ડેટા મિનિમાઇઝેશન, હેતુ મર્યાદા અને અનામીકરણ ફરજિયાત છે; VIN/સ્થાન એ વ્યક્તિગત ડેટા છે.
• પૂર્વગ્રહ, અતિશય આત્મવિશ્વાસ અને જવાબદારીની ખોટ એ મુખ્ય નૈતિક જોખમો છે.
• AI આઉટપુટ એ લાયક એન્જિનિયરની મંજૂરીનો વિકલ્પ નથી; સુરક્ષા-નિર્ણાયક નિર્ણય અને સહી હંમેશા વ્યક્તિની હોય છે.

એપ્લિકેશન કાર્ય

સલામતી-સંબંધિત કાર્ય પસંદ કરો (દા.ત. લેન રાખવા). (1) ચર્ચા કરો કે શા માટે આ કાર્યનું ASIL સ્તર ગંભીરતા/સંસર્ગ/નિયંત્રણના પરિમાણો સાથે ઊંચું/નીચું હોઈ શકે છે. (2) ટેમ્પલેટ 2 સાથે 5 "સિસ્ટમ નક્કર પરંતુ અપૂરતી" દૃશ્યો જનરેટ કરો. (3) ટેમ્પલેટ 3 સાથે સંબંધિત ડેટાસેટનું ગોપનીયતા ઓડિટ કરો. (4) સમજાવો કે શા માટે "મૉડલની પુષ્ટિ થઈ" કહેવું સંરક્ષણ નથી.

ચેકલિસ્ટ

• [ ] મેં કાર્યના વાસ્તવિક પરિમાણોનું મૂલ્યાંકન કર્યું (મેં સત્તાધિકારીને ચોક્કસ સોંપણી છોડી દીધી).
• [ ] મેં ISO 26262 (માલફંક્શન) અને SOTIF (અપૂરતી) વચ્ચેનો તફાવત કર્યો.
• [ ] મેં સાયબર સુરક્ષા (વિરોધી/ઝેરી) જોખમને ધ્યાનમાં લીધું છે.
• [ ] મેં વ્યક્તિગત ડેટાને અનામી અને નાનો કર્યો છે.
• [ ] મેં પૂર્વગ્રહ અને વધુ પડતા આત્મવિશ્વાસના જોખમો માટે તપાસ કરી.
• [ ] મેં પુષ્ટિ કરી છે કે સિક્યુરિટી ક્લિયરન્સ લાયકાત ધરાવતા એન્જિનિયર પાસે છે.