ተግባራዊ ደህንነት፣ SOTIF፣ ስነምግባር እና ግላዊነት

ትርፍ፡

• የ ISO 26262 ተግባራዊ ደህንነት እና ISO 21448 (SOTIF) ማዕቀፎችን እና ሰው ሰራሽ የማሰብ ችሎታን በያዙ ስርዓቶች ላይ ያላቸውን ተፅእኖ የማብራራት ችሎታ
• በአውቶሞቲቭ አውድ ውስጥ የውሂብ ግላዊነት፣ የአሽከርካሪዎች መረጃ፣ የሳይበር ደህንነት (ISO/SAE 21434) እና የስነምግባር አደጋዎችን የማስተዳደር ችሎታ
• የ AI ውፅዓት ብቁ መሐንዲስ ማፅደቅን የሚተካ አለመሆኑን በመረዳት ለደህንነት-ወሳኝ ውሳኔዎች የሰውን ሃላፊነት የመጠበቅ ችሎታ

በዚህ ሞጁል ውስጥ በጣም ወሳኝ ክፍል ውስጥ ነዎት። እስካሁን ድረስ AI ከዲዛይን እስከ ማምረት፣ ከሙከራ እስከ አቅርቦት ሰንሰለት እንደ ማፋጠን አይተናል። ነገር ግን በአውቶሞቲቭ ውስጥ ያለው ወሳኝ ጥያቄ ይህ ስርዓት ማንንም ይጎዳል እና ተጠያቂው ማን ነው? ይህ ክፍል ለደህንነት-ወሳኝ ኢንደስትሪ-ተግባራዊ ደህንነት፣ SOTIF፣ የሳይበር ደህንነት፣ ግላዊነት እና ስነ-ምግባር በሃላፊነት ለመጠቀም ማዕቀፎችን በግልፅ ቋንቋ ይሸፍናል። ዋናው መርህ ቋሚ ነው: AI ውፅዓት ብቃት ያለው መሐንዲስ ፈቃድ ፈጽሞ አይተካም; ደህንነት-ወሳኝ ውሳኔ እና ኃላፊነት የሰው ነው።

ISO 26262 ተግባራዊ ደህንነት

ISO 26262 የመንገድ ተሽከርካሪዎች የኤሌክትሪክ / የኤሌክትሮኒክስ ስርዓቶች ተግባራዊ የደህንነት ደረጃ ነው. ተግባራዊ ደህንነት; ስርዓቱ ሲሰናከል (ሴንሰር ሲሰበር፣ ሶፍትዌሩ ሲወድቅ) ወደ አደገኛ ሁኔታ እንደማይመራ ማረጋገጥ ነው።

የዚህ መስፈርት እምብርት ASIL (የአውቶሞቲቭ ደህንነት ኢንተግሪቲ ደረጃ) ነው። አደጋ በሦስት ልኬቶች ይገመገማል፡-

• ከባድነት፡ ቢከሰት ምን ያህል መጥፎ ይሆናል? (ትንሽ ጉዳት ወይም ሞት)
• መጋለጥ፡ ይህ ምን ያህል ጊዜ ይከሰታል?
• የመቆጣጠር ችሎታ: አሽከርካሪው ሁኔታውን ምን ያህል መቆጣጠር ይችላል?

እነዚህ ሶስት ጥምር ውጤት ከ ASIL A (ዝቅተኛው) ወደ ASIL D (ከፍተኛው ለምሳሌ ብሬኪንግ፣ መሪ)። ደረጃው እየጨመረ በሄደ ቁጥር የእድገት, የፈተና እና የሰነድ መስፈርቶች ጥብቅ ይሆናሉ.

ዋና

የናሙና ስርዓት

የሚያስፈልገው ጥንካሬ

ሀ.

የውስጥ መብራት ብልሽት

ዝቅተኛ

ለ.

የጅራት መብራት

መካከለኛ

ሲ.

አንዳንድ የ ADAS ተግባራት

ከፍተኛ

ዲ.

ብሬክ ፣ መሪ ፣ ኤርባግ

ከፍተኛ

ጠቃሚ ምክር፡ የአንድን ተግባር ዋና ደረጃ ማወቅ AI በዚያ ተግባር ውስጥ ምን ያህል ትኩረት እንደሚፈልግ ይነግርዎታል። ያለ ገለልተኛ የደህንነት ማረጋገጫ በአንድ ተግባር ውስጥ በ AI ውፅዓት ላይ የተመሠረተ ውሳኔ ተቀባይነት የለውም።

ISO 21448 (SOTIF): የታሰበ ተግባር ደህንነት

ክላሲካል ተግባራዊ ደህንነት (ISO 26262) "ስርዓቱ ካልተሳካ ምን ይከሰታል?" በሚለው ጥያቄ ላይ ያተኩራል. ነገር ግን በአርቴፊሻል ኢንተለጀንስ ማወቂያ ስርዓቶች ውስጥ አዲስ ችግር አለ፡ ስርዓቱ በጭራሽ ባይሰራም በቂ ላይሆን ይችላል። ካሜራው በጥሩ ሁኔታ ይሰራል ነገር ግን የበረዶ ንጣፍን መለየት አይችልም; ራዳር ጠንካራ ነው, ነገር ግን የማይንቀሳቀስ ተሽከርካሪን እንደ የሙት ምልክት ችላ ይለዋል. እዚህ ምንም የሃርድዌር/ሶፍትዌር ውድቀት የለም; ችግሩ የታሰበው የተግባር ወሰን ገደብ ላይ ነው.

ISO 21448 - SOTIF (የታሰበው ተግባር ደህንነት) ይህንን ክፍተት በትክክል ያሟላል-ከማይታወቁ ሁኔታዎች ፣ የፍተሻ ገደቦች እና ያልተጠበቁ ሁኔታዎች የሚመጡ አደጋዎችን መቆጣጠር ፣ ምንም እንኳን ስርዓቱ በተነደፈ መልኩ ቢሰራም። በ AI ላይ በተመሰረተ ADAS/በራስ ገዝ መንዳት፣ SOTIF እንደ ISO 26262 ወሳኝ ነው።

ፍሬም

ትኩረት

ምሳሌ

ISO 26262

በመጥፋቱ ምክንያት ስጋት

ዳሳሽ ይቋረጣል፣ ሲግናል ይጠፋል

ISO 21448 (SOTIF)

የብቃት ማነስ/የማይታወቅ ስጋት

ወጣ ገባ ካሜራ የበረዶ ንጣፍ አያውቀውም።

ISO/SAE 21434

የሳይበር ደህንነት

የስርዓት ጥቃት፣ የመረጃ አያያዝ

ጥንቃቄ: AI ሞዴሎች ስታቲስቲካዊ ናቸው; “ሁሉንም ሁኔታ በትክክል እንደሚያዩ” ዋስትና ሊሰጡ አይችሉም። SOTIF አላማው በነዚህ በተፈጥሮ ውስን በሆኑ ስርዓቶች ውስጥ የማይታወቁ አደገኛ ሁኔታዎችን ለማጥበብ እና የቀረውን አደጋ ወደ ተቀባይነት ደረጃ ለመቀነስ ነው። "ሞዴሉ 99.9% ትክክለኛ ነው" የደህንነት ማረጋገጫ አይደለም.

ISO/SAE 21434: የሳይበር ደህንነት

የተገናኙ እና በሶፍትዌር የተገለጹ ተሽከርካሪዎች ለሳይበር ጥቃት የተጋለጡ ናቸው። የርቀት አጥቂ የፍሬን ትዕዛዙን ሊቀይር፣ ቴሌሜትሪ ሊሰርቅ ወይም የፍተሻ ሞዴሉን ሊያታልል ይችላል (ተቃራኒ ጥቃት፡ ሞዴሉ ትንሽ ተለጣፊ ሳህን ላይ በማስቀመጥ የተሳሳተ እውቅና እንዲሰጠው ማድረግ)። ISO/SAE 21434 ለተሽከርካሪ ሳይበር ደህንነት የምህንድስና ማዕቀፍ ነው። በአርቴፊሻል ኢንተለጀንስ አውድ ውስጥ ሁለት አደጋዎች ተለይተው ይታወቃሉ-ሞዴሉን ማታለል (ተቃዋሚ) እና የስልጠና መረጃን መመረዝ (መረጃ መመረዝ)። የደህንነት ወሳኝ AI ስርዓቶች በእነዚህ ጥቃቶች ላይ መሞከር አለባቸው.

ግላዊነት እና የግል ውሂብ

ዘመናዊው ተሽከርካሪ “በዊልስ ላይ የመረጃ ማዕከል” ነው፡ መገኛ ቦታ፣ የመንዳት ባህሪ፣ ኦዲዮ፣ የካቢን ካሜራ ሳይቀር። አብዛኛው ይህ የግል መረጃ ሲሆን በKVKK (Turkiye) እና GDPR (አውሮፓ) የተሸፈነ ነው። ቪን (የሻሲ ቁጥር) ተሽከርካሪን እና ባለቤቱን በተዘዋዋሪ መለየት ይችላል። መሰረታዊ መርሆች፡-

• የውሂብ መቀነስ፡ የሚፈለገውን ብቻ ይሰብስቡ።
• የዓላማ ገደብ፡ ውሂብ ከተሰበሰበበት ዓላማ ውጪ ለሌላ ዓላማ አይጠቀሙ።
• ማንነትን መደበቅ/ስም ማጥፋት፡ በግል የሚለይ መረጃን አስወግድ ወይም ኮድ አድርግ።
• ግልጽ ስምምነት እና ግልጽነት፡ ነጂው የሚሰበሰበውን ማወቅ አለበት።
• ደህንነቱ የተጠበቀ ማከማቻ እና ማስተላለፍ።

ማስጠንቀቂያ፡ ጥሬ ቪኤንን፣ የአካባቢ ታሪክን ወይም የመንዳት ባህሪን ወደ ይፋዊ ደመና AI መሳሪያ መላክ ሁለቱም የግላዊነት ጥሰት እና የውል ስጋት ሊሆኑ ይችላሉ። ከዚህ መረጃ ጋር ሲሰሩ ስሙን ይግለጹ እና ተቋማዊ፣ በመረጃ የተጠበቀ አካባቢን ይጠቀሙ።

ሥነምግባር እና መሐንዲስ ኃላፊነት

አርቲፊሻል ኢንተለጀንስ አንዳንድ የስነምግባር አደጋዎችን ያመጣል።

• አድልዎ፡ የሥልጠና መረጃው ከተወሰኑ ሁኔታዎች (ለምሳሌ በቀን፣ ቀላል ቆዳ፣ አንዳንድ የክልል መንገዶች) የበላይ ከሆነ፣ ሞዴሉ ባልተወከሉ ሁኔታዎች (ሌሊት፣ የተለያዩ ሁኔታዎች) ላይ ደካማ ሊሆን ይችላል። ይህ ተጋላጭነት ነው።
• ከመጠን በላይ በራስ መተማመን (ራስ-ሰር አድልዎ)፡ ሰዎች በጭፍን አውቶማቲክን ያምናሉ እናም የራሳቸውን ፍርድ ይሽራሉ። የፈተና መሐንዲሱ AI "ማለፍ" ስላለ ብቻ ጥሬውን መረጃ ማየት ካቆመ ይህ አደገኛ አዝማሚያ ነው።
• የኃላፊነት ማጣት: "ሞዴሉ ተወስኗል" መከላከያ አይደለም. ከውሳኔው ጀርባ ሁል ጊዜ የሚፈርም ሰው መኖር አለበት።

አነስተኛ ጉዳይ ጥናቶች

ጉዳይ 1 - የ SOTIF ገደብ. አውቶማቲክ የአደጋ ጊዜ ብሬኪንግ ሲስተም ሁሉንም የላብራቶሪ ምርመራዎችን ያልፋል፣ ምንም እንከን የለሽ ተግባር ያልፋል። በሜዳ ላይ፣ በፀሐይ ብርሃን ውስጥ፣ አንድ ነጭ መኪና ተሳቢውን ሰማይ ላይ ተሳስቶ ዘግይቶ ፍሬን አቆመ። ይህ ብልሽት አይደለም፣ ነገር ግን የ SOTIF ተጋላጭነት፡ ስርዓቱ ያልተነካ ነው ነገር ግን ሁኔታው ​​ከማወቂያው ገደብ ውጪ ነው። ቡድኑ ይህንን ሁኔታ ወደ የሙከራ ቤተ-መጽሐፍት ያክላል እና የራዳር ውህደትን ያጠናክራል። ማጠቃለያ: "ምንም ውድቀት" የደህንነት ማረጋገጫ አይደለም; በቂ አለመሆንም አደጋ ነው.

ጉዳይ 2 - አድሏዊ መረጃ። የእግረኛ ማወቂያ ሞዴል በብዛት የሰለጠነው በቀን መረጃ; የምሽት ማስታወስ በጣም ያነሰ ነው. ቡድኑ የሌሊት እና የዝቅተኛ ብርሃን መረጃን ያስተካክላል እና ያሰለጥናል እና የምሽት ሁኔታዎችን ለየብቻ ሪፖርት ያደርጋል። ማጠቃለያ፡ ሚዛናዊ ያልሆነ መረጃ በአንዳንድ ሁኔታዎች ገዳይ ተጋላጭነትን ይፈጥራል።

ጉዳይ 3 - የግላዊነት ጥሰት መከላከል። አንድ ተንታኝ ውሂቡ ጥሬ ቪኤን እና ጂፒኤስ መገኛ መያዙን ሲገነዘብ የበረራ ውሂብን ወደ ይፋዊ AI መሳሪያ ሊለጥፍ ነው። በድርጅት አካባቢ የሚሰራው ውሂቡን (ተሽከርካሪ_01..arac_50 ከቪን ይልቅ፣ ከአካባቢው ይልቅ የክልል ኮድ) በማድረግ ነው። ውጤት፡ ትንሽ ትኩረት መስጠት ከባድ የKVKK ጥሰት ከልክሏል።

የጥያቄ አብነቶች

አብነት 1 - PRIOR/የአደጋ ቅድመ ግምገማ (ረቂቅ)፡-

ሚና፡ እርስዎ ተግባራዊ የደህንነት አማካሪ ነዎት። ተግባር፡ ለአንድ ተግባር ለአደጋ እና ለአደጋ ትንተና የሚረዳ ረቂቅ ያዘጋጃል። አውድ፡ ተግባር፡ አውቶማቲክ የአደጋ ጊዜ ብሬኪንግ; የከተማ እና መሃከል.ገደብ: የ ASIL ትክክለኛ ምደባ; የጥያቄዎች ዝርዝር እና የትኩረት ነጥቦችን በክብደት / ተጋላጭነት / ቁጥጥር ልኬቶች ላይ ይስጡ; የመጨረሻ ስራው በተፈቀደው የደህንነት መሐንዲስ መሆኑን ያመልክቱ። ውጤት፡ መጠን | የግምገማ ጥያቄ | ትኩረት ማስታወሻ ሠንጠረዥ.

አብነት 2 - የ SOTIF scenario ቅኝት፡-

ሚና፡ እርስዎ የ SOTIF ባለሙያ ነዎት። ተግባር፡ የማወቂያ ተግባር 'ስርዓት ያልተነካ ግን በቂ ያልሆነ' ሊሆን የሚችልባቸውን ሁኔታዎች ይዘርዝሩ። አውድ፡ ካሜራ + ራዳር; ዝቅተኛ ፀሀይ፣ በረዶ፣ የመሿለኪያ መውጫ፣ ያልተለመዱ ነገሮች።ውጤት፡ ሁኔታ | ለምን በቂ አለመሆን | የመቀነስ ምክር.

አብነት 3 - የግላዊነት ቁጥጥር፡-

ሚና፡ እርስዎ የውሂብ ጥበቃ (KVKK/GDPR) አማካሪ ነዎት። ተግባር፡ የውሂብ ስብስብን ከማጋራትዎ በፊት የግላዊነት ኦዲት ያካሂዱ። አውድ፡ ፍሊት ቴሌሜትሪ; አምዶቹ ቪንን፣ ጂፒኤስን፣ የመንዳት ነጥብን ይይዛሉ። ገደብ: የትኞቹ መስኮች የግል መረጃዎች ናቸው, እንዴት ማንነታቸው መደበቅ እንዳለባቸው, ምን ማካፈል እንደሌለብኝ; መደብ.ውፅዓት፡ ሜዳ | አደጋ | የሚመከር የግብይት ገበታ.

አብነት 4 - አድልዎ ማረጋገጥ፡

ሚና፡ እርስዎ የኤምኤል ደህንነት እና ፍትሃዊነት ኦዲተር ነዎት። ተግባር፡ በፍተሻ ሞዴል ውስጥ አድሏዊ ስጋትን እንዴት መፈለግ እንዳለብኝ ንገረኝ። አውድ፡ እግረኛን ማወቅ; የስልጠና ዳታ ክብደት ቀን/ከተማ.ውጤት፡ ለመፈተሽ ሁኔታ | መለኪያ | የአደጋ ምልክት.

ደካማ ጥያቄ / ጠንካራ ጥያቄ

ደካማ ጥያቄ፡

ይህ ራሱን የቻለ ብሬኪንግ ሲስተም ደህንነቱ የተጠበቀ ነው፣ ያረጋግጡ።

የ AI ደህንነት ማረጋገጫ ለማግኘት መሞከር አደገኛ ነው; ማጽደቁ የተፈቀደው መሐንዲስ ነው።

ኃይለኛ ጥያቄ፡-

ሚና፡ እርስዎ ተግባራዊ ደህንነት እና የ SOTIF አማካሪ ነዎት። ተግባር፡ የትኞቹን ጥያቄዎች መጠየቅ እንዳለብኝ እና ምን ማስረጃ መሰብሰብ እንዳለብኝ በራስ-ሰር ብሬኪንግ ተግባሬ ደህንነት ግምገማ ላይ ዘርዝር። አውድ: AI ላይ የተመሠረተ ማወቂያ; ካሜራ + ራዳር; ASIL ከፍተኛ ሊሆን ይችላል ገደብ: 'ስርዓቱን አጽድቅ'; ከ ISO 26262 (ጉድለት) እና ከ SOTIF (ጉድለት) አንፃር የተለየ የጥያቄ ዝርዝሮችን እና ማስረጃዎችን ያቅርቡ። የመጨረሻው ማጽደቂያ በተፈቀደው የደህንነት መሐንዲስ መሆኑን አጽንኦት ይስጡ። ውጤት፡ ማዕቀፍ | ጥያቄ | አስፈላጊ ማስረጃ ሰንጠረዥ.

የተለመዱ ስህተቶች

• ግራ የሚያጋባ "ምንም ችግር የለም" ከ "አስተማማኝ" ጋር። የ SOTIF እጥረት ሳይበላሽ ሊገድል ይችላል.
• የ AI ደህንነት ማረጋገጫ በማግኘት ላይ። ማጽደቅ እና ሃላፊነት በተፈቀደው መሐንዲስ ላይ ነው.
• የተሳሳተ ሞዴል ትክክለኛነት እንደ የደህንነት ማረጋገጫ ማረጋገጫ። የ 99.9% ትክክለኛነት የቀረውን አደጋ መያዙን አያመለክትም።
• የግል ውሂብን አለመጠበቅ። የቪን/ቦታ/የመንዳት ባህሪ በKVKK/GDPR ወሰን ውስጥ ነው።
• አድልዎ እና ከመጠን በላይ በራስ መተማመንን ችላ ማለት። ያልተመጣጠነ መረጃ እና በአውቶሜሽን ላይ በጭፍን መተማመን ተጋላጭነቶች ናቸው።

በማጠቃለያው

• ISO 26262 በውድቀት ምክንያት አደጋውን ያስተዳድራል (ከኤሲኤል ጋር) ፣ ISO 21448 / SOTIF ያለመሳካት አደጋን ይቆጣጠራል ፣ ሁለቱም በ AI ማወቂያ ውስጥ ወሳኝ ናቸው.
• ISO / SAE 21434 የሳይበር ደህንነት; ተቃዋሚ እና የመረጃ መመረዝ ጥቃቶች AI-ተኮር ስጋቶች ናቸው።
• የውሂብ መቀነስ፣ የዓላማ ገደብ እና ማንነትን መደበቅ በKVKK/GDPR ወሰን ውስጥ አስገዳጅ ናቸው፤ ቪን/ቦታ የግል መረጃ ነው።
• ጭፍን ጥላቻ, ከመጠን በላይ በራስ መተማመን እና ኃላፊነትን ማጣት ዋናዎቹ የስነምግባር አደጋዎች ናቸው.
• AI ውፅዓት ብቁ መሐንዲስ ይሁንታን ምትክ አይደለም; የደህንነት ወሳኝ ውሳኔ እና ፊርማ ሁል ጊዜ የሰውየው ናቸው።

የመተግበሪያ ተግባር

ከደህንነት ጋር የተያያዘ ተግባርን ይምረጡ (ለምሳሌ ሌይን መጠበቅ)። (1) ለምን የዚህ ተግባር ASIL ደረጃ ከፍ ያለ/ዝቅተኛ ሊሆን እንደሚችል በክብደት/ተጋላጭነት/በቁጥጥር ልኬቶች ላይ ተወያዩ። (2) 5 "ስርዓት ጠንካራ ግን በቂ ያልሆነ" ሁኔታዎችን ከአብነት 2 ጋር ማፍለቅ። (3) ሚስጥራዊነት ከአብነት 3 ጋር አግባብነት ያለው መረጃን ኦዲት ማድረግ። (4) "ሞዴሉ የተረጋገጠው" ማለት መከላከያ ያልሆነበትን ምክንያት ያብራሩ።

የማረጋገጫ ዝርዝር

• [] የተግባሩን ትክክለኛ ልኬቶች ገምግሜያለሁ (ትክክለኛውን ምደባ ለባለስልጣኑ ተውኩት)።
• [] በ ISO 26262 (ብልሽት) እና በ SOTIF (አቅም ማነስ) መካከል ያለውን ልዩነት አደረግሁ።
• [ ] የሳይበርን ደህንነት (የጠላት/መመረዝ) ስጋትን ግምት ውስጥ ገብቻለሁ።
• [ ] የግል መረጃን ስም አልገለጽኩትም እና አሳንስሁ።
• [ ] አድልዎ እና ከመጠን በላይ የመተማመን ስጋቶችን አጣራሁ።
• [ ] የደህንነት ማረጋገጫው ብቃት ካለው መሐንዲስ ጋር መሆኑን አረጋግጫለሁ።